科技魔方

元象开源70亿参数通用大模型 XVERSE-7B 免费可商用

大模型

2023年09月27日

  元象宣布开源70亿参数通用大模型 XVERSE-7B 底座与对话版,这是一款全开源、免费可商用的模型。

  相比之前的 XVERSE-13B,7B 版本更小巧,可以在单张消费级显卡上运行,并且推理量化后最低只需6GB 显存,大大降低了开发门槛和推理成本。

  该模型在多项权威测试中表现出色,并具有强大的认知、规划、推理和记忆能力,支持40多种语言。

微信截图_20230927083215.png

  ●XVERSE-7B是在2.6万亿 tokens 高质量多语言数据上从头训练的底座模型,具有强大的认知、规划、推理和记忆能力。其上下文窗口长度为8192,支持中、英、俄、法等40多种语言。

  ●XVERSE-7B-Chat是底座模型经 SFT 指令精调后的中英文对话模型,大幅提升了理解和生成内容的准确度,也更符合人类的认知偏好。

+1

来源:站长之家

延展资讯