ZHDA204A June   2026  – October 2026 MSPM0G5187

 

  1.   1
  2.   摘要
  3.   商标
  4. 1 简介
  5. 2 带 TinyEngine NPU 的 MSPM0G5187
  6. 3 边缘 AI 工具链
    1. 3.1 TI Edge AI Studio
    2. 3.2 TI Tiny ML Tensorlab
    3. 3.3 TI 神经网络编译器
  7. 4 通过 TI Edge AI Studio 进行快速原型设计
    1. 4.1 工程设置
    2. 4.2 数据采集
      1. 4.2.1 硬件设置
      2. 4.2.2 特征概述
    3. 4.3 数据导入
      1. 4.3.1 分类任务
      2. 4.3.2 回归任务
      3. 4.3.3 预测任务
      4. 4.3.4 注释列表
    4. 4.4 数据注释
    5. 4.5 模型训练
      1. 4.5.1 训练参数
      2. 4.5.2 工具链依赖项
    6. 4.6 性能报告
    7. 4.7 模型导出
  8. 5 通过 TI Tiny ML Tensorlab 进行高级开发
    1. 5.1 环境设置
    2. 5.2 数据采集
      1. 5.2.1 数据检索
      2. 5.2.2 数据验证
    3. 5.3 模型架构迭代重构
      1. 5.3.1 基线实现
      2. 5.3.2 使用 PyTorch 内置模块进行重构
      3. 5.3.3 数据管道优化
      4. 5.3.4 过渡到 CNN 架构
    4. 5.4 模型导出
    5. 5.5 量化感知训练
    6. 5.6 模型编译
  9. 6 边缘 AI 应用:数字识别
    1. 6.1 LeNet-5 变体 CNN 模型
    2. 6.2 NPU/CPU 性能比较
  10. 7 边缘 AI 应用:波形分类器
    1. 7.1 特征提取
    2. 7.2 时序分类模型
    3. 7.3 模型内存注意事项
    4. 7.4 NPU/CPU 性能比较
  11. 8 总结
  12. 9 参考资料
  13. 10修订历史记录

NPU/CPU 性能比较

边缘 AI 模型可通过 TI 神经网络编译器部署到硬件上,目标可以是专用的硬件 NPU,也可以是主机 CPU。TinyEngine NPU 是一种专门设计用于执行神经网络计算的专用硬件加速器,能够在保证高效运算的同时,相比通用 CPU 大幅减少推理延迟并节能。

为便于性能评估,MSPM0 SDK 同时提供了基于 NPU 和基于 CPU 的实现示例,供用户进行基准测试,参见:

表 7-9 总结了基于 NPU 和 CPU 的边缘 AI 设计在数字识别应用中的性能对比。

表 6-3 NPU/CPU 性能比较
性能指标基于 NPU 的设计基于 CPU 的设计
精度约 99%约 99%
闪存使用情况73KB68KB
RAM 使用情况10.9KB8.1KB
推理延迟6.05ms89.81ms
推理能量 (AVG)170.38uJ2,447.45uJ

基于 NPU 的设计相比基于 CPU 的实现,推理延迟大约降低 15 倍,且每次推理的能耗有效减少约 96%,使其成为对功耗敏感的边缘应用场景中极具效率的选择。