今年3月,AI初创公司Cognition发布的首个AI程序员Devin引起巨大轰动,它可以像人一样实现端到端的部署、调试、优化代码,几乎与编程相关的任务都能自动化完成。
今天,Cosine发布了同类产品Genie,但在权威测试平台SWE-Bench上的评分达到惊人的30.08%,断崖式领先Devin的13.8%和Swe-agent+GPT-4的12.47%,成为目前全球最强的AI程序员。
其实Genie并非盲目跟风Devin,早在2022年12月13日,其联合创始人AlistairPullen就在英国伦敦大学的一次路演中展示过Genie。他希望开一个能像人类一样端到端自动执行编码、优化的AI机器人而无需任何人为干预。
Alistair在2022年展示Genie
经过一年多的开发Genie终于进入测试阶段,并且获得了250万美元种子轮融资。Alistair指出,Genie能大幅度领先Devin、GPT-4等知名产品,与其训练数据和方法有很大关系。
Genie的训练并非基于常规的大模型微调,而是使用了一个特殊的数据集,这个数据集包含了人类程序员的推理过程,包括信息的完整传承、知识的逐步发现,以及基于实际案例的决策制定步骤等,这使得Genie能够像人类一样在面对各种复杂甚至是从未见过的问题时,展现出与人类工程师相似的处理能力。
简单来说,就是让Genie完全模仿人类的开发风格和解决BUG、优化代码的习惯,然后自动去完成。
在训练的过程中,Genie还使用了一个独特的“自我改进机制”。最开始Genie 在大量高质量的数据上进行初始训练,使模型处于“完美”状态。但这有一个很大弊端,就是Genie对自身错误的判断和改进不足。
为了解决这个难题,在完成初始训练后,开发人员又通过Genie生成了一些合成数据,并将这些数据注入到后续模型的训练中,以丰富错误和复杂情况。
如果Genie提出的解决方案不正确,那么就会使用训练数据集中的最终正确状态来指导Genie如何从错误中过渡到正确的状态。
简单来说,这个过程有点像妈妈教孩子走路,在Genie每一次跌倒或者走路姿势不正确时,帮助它纠正一下。随着每一次循环迭代,Genie解决复杂编码的能力越来越强,即使在需要调整的情况下所需的指导也显著减少。
这种自我改进机制不仅提高了Genie在面对新问题时的适应性和准确性,还增强了它处理复杂、高度情境化编码问题的能力,使其够在从未见过的问题上展现出类似人类工程师的判断力和创造力。
功能方面,Genie主要支持功能开发、BUG修复、代码重构、代码小改动和杂项、代码测试以及编写代码文档和更新。支持的编程语言包括JavaScript、 Python、Java、C#、C++、C、Rust、Scala、Kotlin、Swift、Golang、PHP和Ruby等几十种主流语言。
知名开发者Mckay表示,非常想测试一下这个产品。他已经有了Devin的使用权限,所以,很容易就能评测出Genie到底是不是在吹牛。
能在SWE-Bench获得如此高的评分,估计产品应该差不到哪去。
已经有老哥等不及了,希望马上测试一下,但现在处于申请测试阶段。
Alistair表示,现在可以接受申请注册,未来2—3周内肯定会发放测试权限,并且在发布时还会增加一些小惊喜功能。