OpenAI 首席执行官 Sam Altman 近日表达了对 GPT-2语言模型的喜爱之情,尽管他此前批评了早期模型,但他对即将推出的 GPT-5充满期待。Altman 在社交平台上承认,他 “确实对 GPT-2有一种软肋”。
今年早些时候,Altman 在接受韩国《每日经济新闻》采访时表示:“GPT-2非常糟糕。GPT-3还算糟糕。GPT-4也不太好。但 GPT-5将会很好。” Altman 是在今年1月加在瑞士达沃斯举行的世界经济论坛时接受的采访。据《福布斯》报道,自8年推出 GPT-1以来,OpenAI 一直在不断改进其 GPT 模型。去年3月出了最新版本 GPT-4,预计 GPT-5将于今年晚些时候发布。
GPT 模型的发展历如下:
- GPT-1:2018年6月推出,包含1.17亿个参数,为当前 ChatGPT 版本定了基础。它展示了无监督学习在理解语言方面的有效性,使用书籍作为训练材料,预测句子中的下一个单词。
- GPT-2:这个模型于2019年2月推,拥有15亿个参数,被宣称是重大进步。它在文本生成方面取得了显著进展,能够生成连贯的多段内容。但由于对其潜在误用的担忧,GPT-2并没有立即向公开放。
- GPT-3:2020年6月推出的 GPT-3标志着一个重大进步。这个模型训练了1750亿个参数,彻底改变了文本生成的方式。其先进的功能被广泛应,包括起草电子邮件、撰写文章、创作诗歌,甚至生成编程代码。稍后发布的更新版本 GPT-3.5在2022年11月向公众开放。
- GPT-4:去年3月推出的 GPT - 目前仅适用于 ChatGPT Plus 订户。它具有新的图像和文本理解功能,较低的危险输出可能性,能够跟随用户意图以及实时搜索互联网的能力。
- GPT-5:即推出的模型预计将比其前身 GPT-4有显著改进,后者遇到了性能挑战。这一即将推出的模型计划在夏季发布,一些企业客户已经得到了其功能的预览。一首席执行官形容它为 “真的很好,比较显著提高”。
以上是 OpenAI GPT 模型的发展历程,展示了从 GPT-1到即将推出的 GPT-5各个版本的功能特点和改进之处。