ZHCACW2 june   2023 AM62A3 , AM62A3-Q1 , AM62A7 , AM62A7-Q1

 

  1.   1
  2.   摘要
  3.   商标
  4. 1引言
  5. 2AM62A 处理器
  6. 3视觉预处理加速器 (VPAC)
    1. 3.1 视觉成像子系统 (VISS)
    2. 3.2 镜头失真校正 (LDC) 块
    3. 3.3 多标量 (MSC) 块
  7. 4深度学习加速
  8. 5摄像头后视镜系统数据流和延迟
  9. 6端到端功能安全
  10. 7示例演示
    1. 7.1 硬件设备
    2. 7.2 软件组件
    3. 7.3 延迟测量
    4. 7.4 未来的延迟改进
  11. 8总结
  12. 9参考文献

摄像头后视镜系统数据流和延迟

在摄像头后视镜系统中,来自摄像头的图像数据通常会通过 CSI-2 RX 接口、ISP、深度学习引擎,最终到达显示屏。图 5-1 显示了 AM62A 器件上的数据流。

GUID-20230607-SS0I-NVZN-T12X-JMTHJ2MRWGXV-low.svg图 5-1 摄像头后视镜系统的典型数据流

对于摄像头后视镜应用,摄像头到显示屏的延迟(即所谓的玻璃到玻璃延迟)必须尽可能小。数据流中的每个块都会导致延迟。AM62A SoC 具有以下与众不同的特性,可实现更优延迟:

  • 高吞吐量 ISP:三个 VPAC3L 模块中的每个模块每个时钟周期可处理 1 个像素,计算开销后最高可达 300MP/秒。
  • ISP 动态模式:在该模式下运行时,VISS 会动态处理摄像头数据,而无需等待整个数据帧可用。
  • 高性能深度学习加速器:C7x、MMA 深度学习加速器具有 2TOPS 处理能力。
  • DDR 子系统支持高达 3733MT/s 的速率。

表 5-1 显示了在图 5-1 所示数据路径中的块之后,累积了延迟时间的块的示例分析。使用以 60fps 速率运行的 2.1MP (1936 × 1100) 传感器进行分析。每个块引入的延迟按如下方式估算:

  • 在 60fps 时,帧持续时间为 16.67ms。
  • 该分析假设 VISS 以存储器到存储器模式(而非动态模式)运行。因此,VISS 必须等到整个帧可用后才能开始处理。
  • 每个 VISS、LDC 和 MSC 的处理时间用 1936 × 1100 Pixels / 300MP/s = 7ms 来估算。稳妥起见,将每个块的配置时间视为 1ms。因此,每个块的总延迟约为 8ms。
  • 根据节 4,深度学习延迟估计为 8ms。
表 5-1 摄像头到显示屏延迟估算
传感器
1936 ×1100 (60fps)
帧 0
CSI2-RX帧 0
VISS帧 0
LDC帧 0
MSC帧 0
深度学习帧 0
显示屏帧 0
时间 (ms)016.6724.6732.6740.6748.6765.33

如本分析所示,图 5-1 中所示数据流的总延迟约为 65ms,对于典型的摄像头后视镜系统足够了。