科技魔方

CarperAI 推出 OpenELM:语言模型的进化搜索库

大模型

2023年07月17日

  最近,领先的人工智能研究组织 CarperAI 推出了 OpenELM,这是一个有望改变进化搜索领域的开源库。OpenELM(其中 ELM 代表大型模型进化)将大型语言模型的强大功能与进化算法相结合,能够生成多样化且高质量的文本和代码。OpenELM0.9版本的提出旨在为开发人员和研究人员提供一个特殊的工具来解决各个领域的复杂问题。与 OpenELM 一起,该团队还在 GPTP2023上发布了论文。

  通过大型模型的演化 (ELM) 演示了法学硕士如何迭代地增强、批评和改进其输出。这项技能可用于提高语言模型解决问题的能力,并展示其作为语言和代码智能搜索运算符的潜力。ELM 背后的核心思想是 LLM 可以充当进化算法中变异的智能算子。OpenELM 利用这一潜力来提高语言模型解决问题的能力,从而能够在模型在训练过程中可能未见过的领域创建多样化的高质量内容。该团队引入 OpenELM 的主要目标有以下四个:

  1、开源——OpenELM 提供了 ELM 及其附带的差分模型的开源版本,这使得开发人员可以自由使用该库并做出贡献。

  2、模型集成:OpenELM 旨在轻松与封闭模型(只能与 OpenAI API 等商业 API 一起使用)和开源语言模型(可以在本地或 Colab 等平台上使用)配合使用。

  3、用户友好的界面和示例环境:OpenELM 旨在提供简单的用户界面以及各种进化搜索示例环境。

  4、进化潜力——OpenELM旨在展示语言模型与进化相结合的进化潜力,并展示智能变异算子如何利用庞大语言的可能性来帮助进化算法,特别是在纯文本代码创建和创意写作等领域楷模。

  OpenELM 专注于质量多样性 (QD) 方法,例如 MAP-Elites、CVT-MAP-Elites 和 Deep Grid MAP-Elites,是一个功能丰富的库,可以与众所周知的进化技术顺利交互。它可以通过鼓励多样性和保留每个专业中最优秀的人才来创建高质量和多样化的解决方案。总之,OpenELM 利用大型语言模型的潜力生成多样化且高质量的文本和代码,标志着进化搜索领域的一个重要里程碑。

+1

来源:站长之家

延展资讯