模型量化
-
DeepSeek-R1-Distill-Qwen-7B 怎么量化？转换 GGUF、生成 Q4_K_M 并校验模型
把DeepSeek-R1-Distill-Qwen-7B从BF16转换为GGUF并量化成Q4_K_M，再用固定业务样本比较质量和性能。
-
ONNX 模型怎么动态量化？用 ONNX Runtime 生成 INT8 并比较输出
用 ONNX Runtime 为现有 ONNX 模型生成动态 INT8 副本，并以同一输入检查输出差异与适用边界。
-
fpgaai编程入门教程：开发流程与工具选择
想入门fpgaai编程，最容易卡住的不是“会不会写代码”，而是没有把开发流程、工具链和模型部署边界搞清楚。简单说，FPGA 做 AI 适合低延迟、低功耗、接口定制强的场景，但不适合一上来就追求大模型训练。新手更合理的路线是：先选一块资料完整的开发板，跑通一个图像分类或目标检测示例，再逐步理解模型量化、算子支持、HLS/RTL 优化和板级调试。 先判断：fpg…
