TI 为适用于 MCU 的 EdgeAI 提供强大的工具链支持。具有不同经验水平的客户可以利用 TI 工具链在 MCU 上构建和部署 AI 模型。TI 工具链负责管理整个流程,从数据采集到数据标记,再到训练 AI 模型以及编译和部署,不一而足。
不同工具的用户指南附在参考资料 部分中:
- Git Hub [1] 中的 tinyml-lensorlab 版本和 TI.com 官方网站 [2] 中的边缘 AI Studio GUI 版本包含 TI 验证的 AI 模型和整个工具链,用于 AI 模型编译。用户可以直接将这些模型集成到应用中。在 Git Hub 版本中,用户可以直接读取 .py 文件,以了解工具链的工作原理。这些模型均针对速度而开发,无需外部 SRAM,用户可以使用 TI 的 launchpad 直接训练和验证模型。这些模型的 MCU 部署示例包含在各个 MCU 器件 SDK 中。
- 如果用户想与 PyTorch 等常用的 AI 模型开发人员一起执行一些 DIY AI 模型,适用于 MCU 的 TI 神经网络编译器 [3] 可以支持将 .onnx 文件编译到 MCU .a 库文件中。在这种情况下,如果必须将 MCU 片上 NPU 用作加速器,则必须使用 NPU 支持的操作 [4] 来构建该模型,并且必须将 TI-NPU QAT [5] 应用于 .onnx 文件,以使模型适合 NPU。如果需要在 CPU 内核中执行该模型,则 DQD 足以满足量化需求。用户必须自行仔细验证模型。编译器还输出 lib.c 文件,供用户调试每层的输入和输出。这些具有不同 AI 训练结构的高度定制模型可以轻松占用大量内存。一种情况是使用变压器结构的 AI 模型,在这种情况下,用户需要使用外部 SDRAM 进行内存扩展。
在这两种方法中,需要嵌入到 MCU 工程中的最终生成的 AI 模型是一个“.a”文件(代码和权重库文件),和一个“.h”头文件来提供库的接口。