伯克利最新《Transformer推理全栈优化》综述，45页pdf

[视频作者] 专知

[视频时长] 3:39

[视频类型] 计算机技术

本文调研了高效Transformer推理的不同方法，并在开源的全栈深度神经网络加速器生成器Gemmini上进行了案例研究，并与之前的基准测试结果相比，展示了这些方法是如何产生改进的。