科技魔方

亚马逊将投资数百万美元训练大型语言模型Olympus

大模型

2023年11月09日

  11月9日消息,据两位知情人士透露,亚马逊将投资数百万美元训练大型语言模型(LLM),希望它能与OpenAI和Alphabet的大模型相媲美。亚马逊人工智能模型的内部代号为“Olympus”,该模型拥有2万亿个参数,而OpenAI的GPT-4模型据传只有1万亿个参数。亚马逊拒绝对此消息发表评论。

  据网经社云计算台(CC.100EC.CN)获悉,该团队由亚马逊语音助手Alexa的前负责人Rohit Prasad领导,他现在直接向首席执行官安迪·贾西(Andy Jassy)汇报工作。同时,作为亚马逊通用人工智能(AGI)的首席科学家,Prasad请来了Alexa人工智能的研究人员和亚马逊科学团队的研究人员,共同着手开发“Olympus”模型,用专门的资源将整个公司的AI工作整合在一起。

  截至目前,亚马逊已经训练出了泰坦(Titan)等规模较小的模型,并与Anthropic和AI21 Labs等初创公司达成了合作,向亚马逊网络服务(AWS)用户提供这些模型。不过,缺乏自有的模型对亚马逊来说始终是个问题。

  知情人士称,亚马逊认为,拥有自主开发的人工智能模型可以使其在AWS上的产品更具吸引力,因为企业客户总是希望访问性能最好的模型。目前亚马逊还没有制定发布新模型的具体时间表。

  早在今年4月的财报电话会议上,亚马逊高管就已经表示,该公司将增加对大型语言模型和生成式人工智能的投资。

  4月13日,亚马逊宣布推出Amazon Bedrock服务和Titan大语言模型。通过Bedrock服务,亚马逊向开发者提供大语言模型Titan。其中,一种Titan模型可以为博客帖子、电子邮件或其它文档生成文本,另一种是嵌入式大语言模型,可以将文本输入进行转换,适合搜索等用途。

  在同一天发布的2022年度股东信中,亚马逊CEO安迪·贾西表示,亚马逊开发自己的大型语言模型已经有一段时间了,相信它将改善几乎每一个客户的体验。大型语言模型(LLM)和生成式AI是亚马逊正在大力投资的领域,在未来几十年里,这将是亚马逊在每一个领域都实现创新的核心。

+1

来源:网经社

延展资讯