OpenAI 公司昨日(8 月 6 日)发布新闻稿,宣布在 API 中引入结构化输出(Structured Outputs)。
OpenAI 公司此前已提供结构化输出,用户可以指定 "response_format": {"type": "json_object"}} 来请求一个有效的 JSON 对象,也可以使用函数调用机制来请求符合特定模式的响应。
OpenAI 在导言中表示,结构化输出功能可确保模型生成的响应始终符合用户提供的 JSON 模式,因此用户无需担心模型会遗漏必填键或生成无效的枚举值。
附上结构化输出的一些优势如下:
可靠的类型安全:无需验证或重试格式不正确的响应
明确拒绝:基于安全的模型拒绝现在可通过编程进行检测
简化提示词:无需措辞强烈的提示,即可实现格式一致
OpenAI 公司跟踪评估了复杂 JSON 模式,带有结构化输出的新模型 gpt-4o-2024-08-06 获得了 100% 的满分;相比之下 gpt-4-0613 得分不到 40%。
官方表示通过结构化输出,gpt-4o-2024-08-06 在其评估中实现了 100% 的可靠性,完美匹配输出模式。