科技魔方

腾讯开源大语言模型 Hunyuan-large,支持高达 256K 文本序列

更多动态

2024年11月05日

  腾讯今日发布开源MOE大语言模型Hunyuan-large,总参数量达398B,激活参数量52B,在中英文NLP任务、代码和数学等 9 大维度全面领先,超过Llama3.1、Mixtral等一流的开源大模型。

  腾讯发布 398B 参数的 Hunyuan-large 模型,全面超越 Llama3.1 等模型。

  模型支持高达 256K 文本序列,提升处理长文本的能力。

  即将开源企鹅卷轴评测集,助力行业长文评测和应用研究。

+1

来源:科技魔方

延展资讯