ZHDA204 June 2026 MSPM0G5187
边缘 AI 模型可通过 TI 神经网络编译器部署到硬件上,目标可以是专用的硬件 NPU,也可以是主机 CPU。TinyEngine NPU 是一种专门针对神经网络计算进行优化的硬件加速器,能够在保证高效运算的同时,相比通用 CPU 大幅减少推理延迟并降低功耗。
为便于性能评估,MSPM0 SDK 同时提供了基于 NPU 和基于 CPU 的实现示例,供用户进行基准测试,参见:
表 5-9 总结了基于 NPU 和 CPU 的边缘 AI 设计在数字识别应用中的性能对比。
| 性能指标 | 基于 NPU 的设计 | 基于 CPU 的设计 |
|---|---|---|
| 精度 | ~99% | ~99% |
| 闪存使用情况 | 73KB | 68KB |
| RAM 使用情况 | 10.9KB | 8.1KB |
| 推理延迟 | 6.05ms | 89.81ms |
| 推理功耗 (AVG) | 424.65 uJ | 6,265.32 uJ |
基于 NPU 的设计相比基于 CPU 的实现,推理延迟大约降低 14 倍,且每次推理的能耗有效减少约 93%,使其成为对功耗敏感的边缘应用场景中极具效率的选择。