ZHDA204A June 2026 – October 2026 MSPM0G5187
边缘 AI 模型可通过 TI 神经网络编译器部署到硬件上,目标可以是专用的硬件 NPU,也可以是主机 CPU。TinyEngine NPU 是一种专门设计用于执行神经网络计算的专用硬件加速器,能够在保证高效运算的同时,相比通用 CPU 大幅减少推理延迟并节能。
为便于性能评估,MSPM0 SDK 同时提供了基于 NPU 和基于 CPU 的实现示例,供用户进行基准测试,参见:
表 7-9 总结了基于 NPU 和 CPU 的边缘 AI 设计在数字识别应用中的性能对比。
| 性能指标 | 基于 NPU 的设计 | 基于 CPU 的设计 |
|---|---|---|
| 精度 | 约 99% | 约 99% |
| 闪存使用情况 | 73KB | 68KB |
| RAM 使用情况 | 10.9KB | 8.1KB |
| 推理延迟 | 6.05ms | 89.81ms |
| 推理能量 (AVG) | 170.38uJ | 2,447.45uJ |
基于 NPU 的设计相比基于 CPU 的实现,推理延迟大约降低 15 倍,且每次推理的能耗有效减少约 96%,使其成为对功耗敏感的边缘应用场景中极具效率的选择。