摩尔线程开源高性能线性代数模板库 MUTLASS,加速国产 GPU 算子开发

aixo 2024-11-13 11:11:04
算力 2024-11-13 11:11:04

11 月 12 日消息,摩尔线程宣布开源高性能线性代数模板库 ,以便开发者能够更高效针对摩尔线程全功能 GPU 的 MUSA Core 及 Core 等单元进行编程,加速基于国产 GPU 的算子开发以及算法创新。

作为摩尔线程专为 MUSA 架构优化的高性能计算库,(MUSA for )是基于开源模板库 进行的 MUSA 适配和定制化开发、优化。

针对矩阵乘法及相关变种, 提供了一系列高性能的 C++ 模板组件,并采用了与 muDNN 库类似的分层分解及数据搬运策略,以确保性能的充分发挥。

在本次开源的版本中,摩尔线程适配了 CuTe 后端库,为其增加了第三代 MUSA 架构的 MMA 计算原语,支持 TF32 / FP16 / BF16 / INT8 等多种数据精度,并以此为基础,初步实现了矩阵乘法、默认实例库、性能测试器及相关工具包的支持。

附 开源地址:

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,所有文章均包含本声明。

GPU