科技魔方

Kimi“颠儿了”以后:国产大模型危机感重重

更多场景

2024年04月08日

  本文来自于微信公众号 AI新智能(ID:alpAIworks),作者:竹芒。

  受Kimi影响,百度的文心一言和阿里的通义千问,用户访问量大幅下滑,降幅分别达到33.42%与45.05%。

  1

  此消彼长

  问世以来,Kimi就在不断“吊打”国内各大厂AI模型。

  根据券商监测数据,截止3月25日,Kimi的网页端、APP端的用户DAU(Daily Active User,日活跃用户数量)突破历史新高,分别达到了79万和54万。叠加小程序用户量,全端总DAU显著大于225万,或已超越百度(BIDU.O/9888.HK)旗下大模型文心一言的233万。

  而半个月之前,3月10日,Kimi的全端DAU刚刚突破120万人。但其实早在2月,Kimi的用户访问量就已达到305万,相较1月超翻倍增长。

  与此同时,百度的文心一言和阿里(BABA.N/9988.HK)旗下的通义千问两大TOP2玩家,用户访问量则大幅下滑,降幅分别达到33.42%与45.05%。

  数据屡破新高下,Kimi的一举一动也被大厂关注并模仿。

  Kimi是月之暗面推出的对话式AI产品。3月18日,月之暗面宣布Kimi支持200万字的无损上下文输入。而在半年之前,去年10月发布时,Kimi可支持的无损上下文输入长度仅为20万字。

  因此,大模型的“长文本能力”也受到大厂关注,甚至被认为是大模型竞争的重要性能指标。

  3月22日,通义千问升级,向所有人免费开放1000万字的长文档处理功能;360的智脑正式内测500万字长文本处理功能,该功能即将入驻360AI 浏览器。

  文心一言也宣布将于4月升级,届时也将开放长文本能力,文字范围预计将在200万-500万。

  据笔者了解,不少业内人士却并不看好这些大厂的“东施效颦”。他们认为,Kimi在长文本领域的领先身位,并没有那么容易被超越。

  或许正因于此,今年2月,在月之暗面最新一轮融资中,阿里作为领头方,其投资额度的百分之七八十,被置换成算力服务。

  2

  kimi的灵魂

  互联网大厂,集中了各领域的技术顶尖人才,但鲜有像Kimi这样的“明星员工”。

  月之暗面创始人杨植麟,是Kimi团队的灵魂人物。他拥有清华和卡内基梅隆背景,本人是长文本领域专家。

  在过去五年内的自研语言处理(NLP)领域,杨植麟有相当的影响力。在华人学者引用排名中,杨植麟的学术论文位居前10,在40岁以下排名第一。

  在读博士期间,杨植麟就以第一作者身份发表 Transformer-XL 和 XLNet 两项工作,在谷歌学术上被引用近两万次,并在多个NLP任务上取得了当时的最佳效果。

  Transformer-XL成为首个全面超越 RNN 的注意力语言模型,XLNet则在20项顶级会议中获得最佳论文提名。

  杨植麟以及他的团队,创造了Kimi表现优秀的无损压缩技术。这种技术可减少参数对存储的需求、推理的算力,以及数据传输的带宽占用,从而高效率无损处理百万级的长Token。

  而为了快速赶上长文本热潮,其他大厂只能退而求其次,选择检索增强生成RAG技术。

  Kimi的无损长上下文窗口的方案,是在逐字阅读全文后给出答案。RAG技术是对全文关键信息进行检索生成答案,但可能会丢失掉部分关键的信息。

  因此,与前者相比,无论对比输出的深度还是精度,大厂的模型都还存在较大差距。

  目前,Kimi并没有公布无损压缩技术细节。除了论文,该技术在学界也没有太多开源内容可参照。大厂想要“学习”、并工程化是非常困难的。

  技术之外,Kimi的战略也值得思考。

  为快速“跟上形势”,大厂一上手就追求花哨的多模态、导致“样样通样样松”走入平庸。

  而Kimi选择“一击必杀”——首先垂直选择打透长文本领域,以培养用户心智,积累用户留存。

  自发布以来,Kimi除了将上下窗口从最初的20万字拓展到200万字之外,在指令理解、信息检索能力和模型相应速度上,也持续迭代。

  月之暗面内部人士介绍,基于 Infra 层的优化,Kimi生成速度较去年10月份提升了三倍。

  2023年12月、今年1月和2月,Kimi用户留存分别为18.48%、22.25%和23.36%。这种高留存的粘性,同时形成了正反馈。

  用户们在使用过程中自发“喂”给Kimi很多专业语料。通过不断学习和处理各种类型的语料,Kimi更能理解和适应不同的语境、问题和需求,从而提高其性能和准确性。

  在此类专业语料处理上的进步速度,Kimi甚至快于Open AI。

  这是因为,目前Open AI对于C端用户上传文件仍然有限制。而对于Kimi用户而言,则是亲手培养了一个高学习力的免费私人助手,持续进行互动

  3

  加码海外市场

  正如马斯克近日发言,升级技术路线的方法,不是与竞争对手比较,那就太简单了。应是不断挑战物理极限。

  超越百度等大厂,或许并非Kimi的目标。下一步扩张,月之暗面指向了海外。

  目前,月之暗面正在对外招聘国内/国外效果广告设计师。除国内广告平台设计外,这一岗位,还需承担公司产品在海外各大广告平台,如Google,Meta,Tiktok等广告创意设计。

  同时,月之暗面也在补足运营短板。

  月之暗面技术团队仅有100多人,是头部国产大模型公司中,人数最少的一家。包括安卓工程师、测试、市场、人力等等,都是公司正在招聘的岗位。

  以产品增长职位为例,该职位要求有大厂工作经验且擅长通过社交媒体和用户裂变策略推动产品增长,包括拥有从0到1000万用户增长的经验,专注于提升活跃用户数量和长期留存率等职责。

  “打不过就加入”。对于Kimi的崛起,阿里虽有自己的通义千问,但也给予了支持。

  目前,Kimi借调了阿里的英伟达(NVDA.O)A800以及A100GPU处理器的机型进行扩容,未来Kimi算力侧的支持,也将主要来自于阿里。

  今年2月,在月之暗面最新一轮超10亿美元投资中,阿里作为领投方,其投资额度的百分之七八十,将被置换成算力服务器。

  有了阿里的支持,Kimi不用再担心因为算力不足而宕机。该人士也表示,扩容并非一步到位。一下子扩容太多,容易造成算力闲置和浪费,需要一定的策略。比如,Kimi也会对用户的使用情况进行预测。

  自从2022年11月ChatGPT发布以来,国内AI大模型已超200个,且还在持续增加。Kimi的问世,唤醒了行业巨头的危机意识。

  但Kimi也并非这场技术竞赛的终点。

+1

来源:微信公众号 AI新智能 作者:竹芒

延展资讯