ZHDA204 June   2026 MSPM0G5187

 

  1.   1
  2.   摘要
  3.   商标
  4. 1简介
  5. 2带 TinyEngine NPU 的 MSPM0G5187
  6. 3边缘 AI 工具链
    1. 3.1 TI Edge AI Studio
    2. 3.2 TI Tiny ML Tensorlab
    3. 3.3 TI 神经网络编译器
  7. 4边缘 AI 应用领域:数字识别
    1. 4.1 LeNet-5 变体 CNN 模型
    2. 4.2 NPU/CPU 性能比较
  8. 5边缘 AI 应用领域:波形分类器
    1. 5.1 特征提取
    2. 5.2 时序分类模型
    3. 5.3 模型内存注意事项
    4. 5.4 NPU/CPU 性能比较
  9. 6总结
  10. 7参考资料

NPU/CPU 性能比较

边缘 AI 模型可通过 TI 神经网络编译器部署到硬件上,目标可以是专用的硬件 NPU,也可以是主机 CPU。TinyEngine NPU 是一种专门针对神经网络计算进行优化的硬件加速器,能够在保证高效运算的同时,相比通用 CPU 大幅减少推理延迟并降低功耗。

为便于性能评估,MSPM0 SDK 同时提供了基于 NPU 和基于 CPU 的实现示例,供用户进行基准测试,参见:

表 5-9 总结了基于 NPU 和 CPU 的边缘 AI 设计在数字识别应用中的性能对比。

表 4-3 NPU/CPU 性能比较
性能指标 基于 NPU 的设计 基于 CPU 的设计
精度 ~99% ~99%
闪存使用情况 73KB 68KB
RAM 使用情况 10.9KB 8.1KB
推理延迟 6.05ms 89.81ms
推理功耗 (AVG) 424.65 uJ 6,265.32 uJ

基于 NPU 的设计相比基于 CPU 的实现,推理延迟大约降低 14 倍,且每次推理的能耗有效减少约 93%,使其成为对功耗敏感的边缘应用场景中极具效率的选择。