科技魔方

DeepSeek开源周第3天:发布DeepGEMM FP8GEMM库助力AI训练与推理

DeepSeek

2025年02月26日

  在开源周的第三天,中国人工智能公司DeepSeek推出了DeepGEMM,这是一款支持FP8通用矩阵乘法的开源库,旨在为密集型和混合专家模型提供支持。

  该库在NVIDIA Hopper GPU上实现了超过1350TFLOPS的FP8计算性能,且核心代码仅300行,展现出极高的效率与简洁性。

  DeepGEMM是一个开源库,专为密集型和混合专家矩阵运算设计,支持FP8通用矩阵乘法。

  在NVIDIA Hopper GPU上,DeepGEMM可实现高达1350+ TFLOPS的FP8计算性能,展现出卓越的效率。

  该库的发布不仅提升了DeepSeek模型的性能,也为全球开发者提供了一个高效、易用的矩阵运算工具。

620 +1

来源:科技魔方

延展资讯