高通和Meta正在通力合作,直接在设备端优化Llama 2大型语言模型的执行,而不依赖于云服务的单独使用。团队表示,对于直接在VR/AR头显和智能手机等设备运行Llama 2这样的生成式人工智能模型的能力,这可以帮助开发者节省云成本,并为用户提供私密、更可靠和个性化的体验。
所以,高通计划在设备端提供基于Llama 2的人工智能实现,从而创建令人兴奋的全新人工智能应用程序,并允许客户、合作伙伴和开发人员构建各种各样的用例。全新的设备端AI体验由骁龙提供支持,可以在无网络区域甚至飞行模式下工作。
Meta和高通在推动技术创新和提供下一代高端设备体验方面有着悠久的合作历史。为了支持Llama生态系统,两家公司目前的合作涵盖了研究和产品工程方面的工作。
高通计划从2024年开始在骁龙设备提供基于Llama 2的人工智能实现。开发人员可以从今天开始使用QualcommAI Stack优化设备端AI。
高通评价道:“我们赞赏Meta开放和负责任的人工智能方法,并致力于通过将生成式人工智能引入设备,推动创新,减少各种开发人员的进入门槛。为了有效地将生成式人工智能扩展到主流,人工智能需要在云和边缘设备运行。”