YunSDR小课堂-AIE编程指南(第50讲)

设计分析

   每个输出需要32次乘法。如果将cint16作为数据类型和系数类型，则在内核中计算一个样本需要4个周期，因为每个AI Engine每个周期可以执行8个MAC操作。如果数据从一个流端口（32位）流传输，则一个数据可以产生一个输出（在处理过程中）。

    因此，设计是计算限制的。您将看到如何将内核拆分为4个级联内核，以便每个周期处理一个样本。

     注意：

    · 函数fir_32tap_scalar_init用作内核的初始化函数，它只会在graph.run（）之后调用一次。

    · 标量处理器不支持舍入和饱和模式。它们可以通过标准的C操作来实现，比如shift。

    · 瓦片计数器用于分析代码的主循环。

    从分析结果中可以看到，每个样本需要2803个周期。如果在AI Engine模拟期间启用选项--profile，则可以在葡萄属IDE中的Profile部分下查看信息。

    注意事项：当有不同的编译器选项、位置约束等时，分析的周期可能会有所不同。并且它可能会在版本与版本之间有所不同。但是这里介绍的设计分析和性能分析的概念无论如何都适用。

 AI Engine自然支持多通道MAC操作。对于FIR应用的变体，可以使用在多通道乘法- sliding_穆尔中引入的aie：：sliding_穆尔 * 类和函数组。

  在本节中，您将选择Lanes=8和Points=8的aie：：sliding_穆尔和aie：：sliding_mac函数。数据步长和系数步长均为1，这是默认值。例如，acc = aie：：sliding_mac<8，8>（acc，coe[1]，0，buff，8）;执行：

    请注意，数据缓冲区从不同通道中的不同索引开始。它需要超过8个样本（从buff[8]到buff[22]）才能在执行前准备就绪。由于FIR具有32个抽头，因此需要一个aie：：sliding_穆尔<8，8>操作和三个aie：：sliding_mac<8，8>操作来计算八个输出通道。通过buff.insert从流端口更新数据缓冲区。

   向量化的内核代码如下：

    注：

    · 对齐(aie：：VECTOR_DECL_ALIGN)可用于确保向量加载和存储的数据对齐。

    · 主循环的每次迭代都会计算多个样本。因此，减少了循环计数。

    ·数据更新、计算和数据写入在代码中交错。使用AIE：：Sliding_MUL的DATA_START控制读取数据缓冲区的哪一部分。

    应确定主回路的启动间隔。要定位循环的启动间隔：

   1.将-v选项添加到AI引擎编译器，以输出详细的内核编译报告。

  2.打开内核编译日志，如Work/aie/&lt；Col_row&gt；/&lt；Col_row&gt；.log。

   3. 在日志中，搜索do-loop等关键字，查找循环的启动间隔。下面是一个示例结果：

  其中：·循环的起始间隔为183。这意味着大约在183/32~=6个循环中产生样品。·消息（exceeds -k 110）-> no folding指示调度器没有尝试软件流水线化，因为循环周期计数超过限制。

   4.要覆盖循环周期限制，请向AI Engine编译器添加用户约束，例如

-Xchess=“fir_32tap_vector：backend.mist2.maxfoldk=200”。然后，示例结果如下：

    其中，软件需要大约160/32=5个周期来产生样本。注意：根据特定的编译器设置和所使用的编译器版本，确切的周期数可能会略有波动。然而，无论这些变化如何，本节中描述的分析技术仍然相关且适用。

    注意：

    · __attribute__（（noinline））是可选的，以保持函数层次结构。

    · chess_prepare_for_pipelining是可选的，因为工具可以进行自动流水线操作。

    · 每个aie：：sliding_穆尔<4，8>乘以四个通道八个点MAC，并且部分结果通过级联链发送到下一个内核。

    · 从aie：：sliding_穆尔的data_start参数开始读取数据缓冲区。当内核代码以循环方式到达结尾时，它将返回到开头。编译报告可以在Work/aie/<COL_ROW>/<COL_ROW>.log中找到，并且需要-v选项来生成详细报告。在日志中，搜索关键字，如do-loop，以查找循环的启动间隔。在下面的示例日志文件中，可以看到循环的初始间隔为16：