科技魔方

“鹏城・脑海”通用AI大模型发布:2000亿参数

大模型

2023年09月21日

  21 日上午,鹏城实验室主任、中国工程院院士高文在 2023 华为全联接大会上正式发布了“鹏城・脑海”(PengCheng Mind)通用 AI 大模型。

  高文主任介绍,“鹏城・脑海”通用 AI 大模型以稠密型架构实现 2000 亿参数,依托“鹏城云脑 II”国产化 AI 算力平台进行全程预训练,采用了 MindSpore 昇思国产化深度学习框架,完善了大规模并行训练策略、底层算子性能和容错机制,显著提升了国产算力平台的训练效率,并构建了一套涵盖中文、英文及 50 余个“一带一路”沿线国家及地区语种的多样化语料数据集和数据质量评估工具集。

  本次发布的是以中文为核心的“鹏城・脑海”基础版,将在 OpenI 启智社区向全社会开源。

+1

来源:DoNews

延展资讯