MK体育新闻

　　作为本次升级的核心亮点，Torch-MUSA v2.0.0率先在国产GPU上实现了对FP8数据类型的完整支持。FP8是当前AI计算的一种前沿低精度格式，在支持原生FP8的GPU上，大语言模型（LLM）训练采用FP8混合精度可大幅提高GPU算力，显著降低显存占用。摩尔线程基于新一代 MUSA Compute Capability 3.1 计算架构的全功能 GPU 原生支持 FP8 计算，这为 Torch-MUSA v2.0.0 实现 FP8 矩阵乘法和分布式通信优化提供了坚实的基础。依托这一底层架构优势，Torch-MUSA v2.0.0 能够充分发挥 FP8 的计算效能，显著提升大语言模型训练和推理的效率。