摘要

TIDL 是 TI 的 AI 推理框架，在 TDA4x 系列和 AM6xA 系列处理器上运行，可利用内置的 AI 加速器 C7xMMA 实现高效的 AI 模型推理。TI 处理器采用共享的存储器架构，其中所有内核，包括运行高级操作系统（Linux、QNX）的 A 内核和用于 AI 推理的 C7xMMA，均共享同一个物理内存。其他内核无法访问预分配给 C7xMMA 的内存空间，当内存空间有限时，这可能会导致主系统的运行时内存不足。本文介绍了如何根据实际模型运行时条件预分配 C7xMMA 内存，以最大限度地减小其内存占用。