选择边缘 AI 视频分析一体机，不能只比较 TOPS、摄像头路数和演示准确率。真正决定能否落地的是完整视频链路：协议接入、解码、预处理、推理、跟踪、告警、存储，以及断网和模型升级后的行为。采购前应把需求写成可重复的验收脚本，用自己的录像和目标模型在候选设备上跑。
先画清视频链路
摄像头/录像 → RTSP/文件接入 → 硬件解码 → 预处理
→ 模型推理 → 跟踪/规则 → 告警 → 本地存储/平台NVIDIA DeepStream 的参考应用也把输入、解码、批处理、推理、跟踪和输出作为独立模块配置。某台机器的 NPU/GPU 算力充足，并不代表网络接入、解码器、内存拷贝或告警服务不会成为瓶颈。
把“路数”写成完整条件
供应商写“支持 32 路”时，至少追问：
- 分辨率、编码格式、帧率和平均/峰值码率；
- 每路都推理，还是抽帧；推理输入尺寸是多少；
- 模型名称、精度、batch 和跟踪器；
- 同时录像、回放和告警时是否仍满足目标；
- 测量的是解码路数、显示路数，还是完整 AI 分析路数。
没有这些条件的“32 路”不能用于容量承诺。
六项采购验收指标
| 指标 | 怎么测 | 不通过的表现 |
|---|---|---|
| 接入稳定性 | 真实 RTSP 流持续运行，模拟断流与恢复 | 重连后不再推理、时间戳错乱 |
| 端到端延迟 | 画面事件发生到告警送达，记录 P50/P95/P99 | 平均值正常但尾延迟过高 |
| 丢帧与吞吐 | 比较输入帧、解码帧、推理帧和输出事件 | 只报 FPS，不记录丢帧 |
| 识别质量 | 用现场标注集计算任务指标并复核误报漏报 | 只用厂商演示视频 |
| 离线能力 | 断开上行网络，检查推理、缓存、补传 | 断网即停止告警或丢记录 |
| 升级回滚 | 安装新模型，失败后恢复上一版本 | 模型更新只能覆盖，无法追溯 |
用现场录像做容量测试
- 准备白天、夜间、遮挡、拥挤和网络抖动录像，保留原始时间戳。
- 固定模型、输入尺寸、阈值、跟踪器和规则。
- 从目标路数的 25% 开始，逐级增加到 100%，每级持续足够时间。
- 同时记录温度、功耗、解码利用率、NPU/GPU/CPU、内存、队列和丢帧。
- 在满载时触发断流、磁盘接近满、网络中断和模型重启。
性能结果必须绑定软件版本、模型哈希和配置文件。DeepStream 官方性能指南也要求关闭或固定会影响结果的显示、同步和功耗设置；引用官方表格时必须保留它的硬件、模型与配置条件，不能当成所有一体机的承诺。
模型更新要有版本和回滚
每个模型包至少包含模型文件、预处理、标签、阈值、运行时版本、哈希和兼容设备。升级流程应是：
上传候选模型 → 校验哈希与兼容性 → 小流量/单路验证
→ 切换版本 → 观察告警与资源 → 异常时恢复上一版本如果设备只允许远程覆盖模型、没有版本记录和回滚入口，后续误报上升时很难定位责任。
断网测试不能只拔一次网线
- 断上行网络但保留摄像头局域网：本地推理和告警是否继续。
- 摄像头断流：是否自动重连，恢复后是否重复告警。
- 平台不可达：事件是否有上限明确的本地队列，恢复后是否按 ID 去重补传。
- 时间同步失效：事件时间使用采集时间还是上传时间，恢复后能否排序。
采购前的否决项
- 不能使用你的录像、模型和阈值做验证。
- 只给 TOPS 和最大路数，不给测试配置、丢帧和延迟分位数。
- 无法导出运行日志、模型版本和资源指标。
- 断网后行为、数据保留期限和补传去重规则说不清。
- 模型更新没有签名/哈希校验、失败状态和回滚。
本文提供的是验收方法，不构成某款设备的性能结论；最终签收应以候选设备在现场样本上的记录为准。
资料来源
- NVIDIA DeepStream 参考应用文档：视频源、解码、批处理、推理、跟踪和输出模块，2026-10-01 核验。
- NVIDIA DeepStream 性能文档：性能测试配置与结果边界，2026-10-01 核验。
- ONNX Runtime Execution Providers：边缘硬件后端与 CPU 回退机制，2026-10-01 核验。
Ai菜鸟网。发布者：AI小管家，转载请注明出处：https://www.alyyhw.com/32218.html
