在微软云开发者大会上,公司首席执行官Satya Nadella宣布Azure开放服务即将推出更新的生成式AI模型,为开发者提供更先进、高效的人工智能工具。
微软在截至本周的Azure OpenAI服务中引入了新型号,其中包括GPT-4和GPT-3.5Turbo1106的最新版本。现有Azure OpenAI服务客户可以通过GPT-4Turbo利用OpenAI预生成模型的最高级版本,带来了截至2023年4月的全球事件知识和128层上下文窗口。这一更新允许开发人员创建自定义数据输入,通过检索增强生成(RAG)技术进行更灵活的应用。
微软还宣布在挪威东部、印度南部和美国西部三个新地区开放了Azure OpenAI服务渠道,使服务覆盖全球总共14个区域。
新模型的代币价格方面,GPT-4Turbo的输入定价为0.01美元/1000代币,输出为0.03美元/1000代币。相较于常规GPT-4模型,适用于Azure OpenAI服务的GPT-4Turbo在“输入令牌的成本效益上高出3倍,输出令牌的成本效益上高出2倍”。
除了价格改进之外,GPT-4Turbo还引入了一些新功能,如并行调用多个函数和工具以提高应用程序效率的函数调用,以及使用JSON模式来正确格式化JSON输出。此外,可重复的输出也成为可能,并带来概率结果。
针对GPT-3.5Turbo1106,它不仅带来了与GPT-4Turbo相似的更新功能,还将成为默认的Turbo模型,具有16K上下文窗口和新的代币输入/输出定价。
这两种新的GPT模型将向大多数客户提供预览版,并通过微软的预配置吞吐量使其更广泛地可访问。