科技魔方

MetaGPT:多个AI聊天机器人协作框架 减轻人工智能幻觉

大模型

2023年08月29日

  文章概要:

  1.MetaGPT利用SOPs减少语言模型的幻觉风险

  2. 将复杂任务分解成多个子任务,每个子任务对应一个代理

  3. 多个代理之间协作,避免自由对话中出现偏差

  MetaGPT 是一种将多个大型语言模型(LLM)的聊天机器人连接起来的框架,以解决复杂的任务,目的是减少大型语言模型中的幻觉问题。

  最近的大型语言模型如GPT都存在容易出现幻觉的问题,即模型会生成完全不合逻辑的信息。如果直接连接多个这样的模型来完成复杂任务,幻觉问题会被放大。

  为了解决这个问题,MetaGPT将一个复杂的任务分解成多个较简单的子任务,每个子任务对应一个AI聊天机器人(基于GPT的模型)。不同的AI聊天机器人之间遵循标准化的操作流程(SOP)进行协作,而不是自由对话,这可以减少偏差。SOP明确定义了每个代理的角色、目标和限制条件。

  整个框架包含多个AI聊天机器人、共享内存和协调模块。每个代理依次执行五步流程:定义自己的任务,观察之前AI聊天机器人的输出,更新待办事项,广播消息,完成工作并更新状态。多个代理协同工作,逐步完成整个复杂任务。

  MetaGPT 还建立了基础层用于AI聊天机器人之间信息存储、查询。最关键的是,用户为每个代理设定明确的目标和约束,代理必须遵守这些目标约束,这也降低了幻觉发生的风险。

  MetaGPT 的核心特色功能如下:

  MetaGPT 将复杂任务分解成多个相对简单的子任务,每个子任务由一个 LLM AI聊天机器人执行,代理之间通过标准化流程文件(SOP)沟通协作。

  SOP 可以减少代理之间自由对话带来的幻觉风险,保证执行效率。

  MetaGPT 还有基础层存储代理对话信息,供所有代理查询利用。

  用户为每个AI聊天机器人设定明确目标和约束,代理必须遵守,这也有助于减少幻觉。

  MetaGPT 通过AI聊天机器人分工协作、SOP 沟通、设定目标约束等方法,实现单个提示就可以完成复杂任务,同时尽量减少语言模型的幻觉问题。

  MetaGPT已经开源,试验结果表明这种结构可以有效减少语言模型的幻觉问题,值得进一步研究。

+1

来源:站长之家

延展资讯