编译器为什么要对数据布局转换呢 Layout Transformations？【AI编译器】系列之前端优化第04篇(上)

[视频作者] ZOMI酱

[视频时长] 16:29

[视频类型] 日常

【AI编译器】系列之前端优化第04篇（上）：编译器为什么要对数据布局转换呢？ Data layout transformations 将内部数据布局转换为后端设备友好的形式，是AI编译器的前端一个很重要的Pass。对于计算图中的一个tensor有多种方法存储，比如行主序和列主序。如果学过计算机系统的话，一个重要的概念就是存储金字塔结构。在实际应用中多种多样的设备情况下更为复杂，如何存储数据的选择呈指数级上升。今天给大家汇报一下编译器为什么要对数据布局转换。