科技魔方

起底OpenAI「国王」Ilya:师从Hinton,为了他,马斯克与谷歌创始人彻底决裂

人工智能

2023年11月21日

  本文来自于微信公众号新智元(ID:AI_era),作者:新智元。

  OpenAI宫斗大戏迎来终局,Altman和Brockman携手加入微软,作为唯一留下来的核心成员Ilya,又有哪些幕后故事呢?

  OpenAI宫斗大戏终于迎来了第一季的大结局:

  Sam Altman最后戴着访客证离开了OpenAI,和Greg Brockman开车离开加州去到了华盛顿州,加入了微软。

  现在OpenAI董事会中,只有首席科学家Ilya Sutskever还在OpenAI任职。

  这位俄罗斯出生的AI研究人员,突然之间就从幕后走到了前台,成为了OpenAI的绝对核心。

  这位被马斯克称为「OpenAI最艰难也最重要的招聘」的AI科学家,将把OpenAI带领到何方?

  而OpenAI 董事会的6大金刚,现在只剩4人。这一路走来,董事会成员发生了些什么变化?

  为了招募Ilya,马斯克不惜与拉里佩奇决裂

  Ilya Sutskever出生于俄罗斯下诺夫哥罗德,在苏联时期,那个城市还叫高尔基。他5岁时随家人移民到以色列,在耶路撒冷长大。

  Sutskever于2000年至2002年间就读于以色列开放大学。之后,他随家人移民加拿大,并转学到多伦多大学。

  他在2005年在多伦多大学获得数学理学学士学位,2007年获得数学理学硕士学位,2013年获得计算机科学博士学位。他的博士生导师是Geoffrey Hinton。

  他和Hinton一起开发的AlexNet,在ImageNet大赛上,碾压了其他大厂,将识别准确率提升了60%。

  2012年11月至12月,Sutskever在斯坦福大学跟随吴恩达做了大约两个月的博士后研究。随后,在Hinton的召唤下,他返回多伦多大学并加入了Hinton的新研究公司DNNResearch。

  在那场知名的「百度,谷歌,DeepMind,微软商战」的竞价拍卖中,谷歌笑到了最后,成功招募到了Hinton和Ilya。

  Ilya加入Google Brain后,与另外两位同事合作创建了「序列到序列学习算法」,并参与了TensorFlow的开发。

  2015年底,他被马斯克挖到了OpenAI,成为了联合创始人兼首席科学家。

  马斯克在11月9日Fridman的播客中称,自己和谷歌创始人本可以修复的朋友关系,因为他把Ilya挖到了OpenAI,而彻底破裂。

  马斯克说「当时(谷歌DeepMind)Hassabis在一边,我在另一边(都在争取Ilya)。这是我经历过的最艰难的招聘战之一,但这确实是OpenAI取得成功的关键。」

  马斯克补充说,「Sutskever除了聪明之外,还是一个心地善良的好人(a good human—smart, good heart)」。

  位于OpenAI权力中心的男人

  上个月,一向回避媒体聚光灯的Ilya接受了《麻省理工学院技术评论》(MIT Technology Review)的长篇采访。

  这位以色列裔加拿大人告诉该杂志,他的新研究重点是如何防止超级人工智能的失控,尽管目前它还不存在。

  而在今年早些时候,基于同样的目标,Ilya的导师,人工智能教父Hinton离开了谷歌。

  Hinton警告说,人工智能公司的军备竞赛正在给人类造成危险,如OpenAI的ChatGPT,我们很难防止坏人利用它做坏事。

  2012年,Hinton和他的两位研究生,其中包括Ilya,开发了大名鼎鼎的AlexNet,展现了神经网络在模式识别方面的强大能力,——比人们普遍认识到的要强得多。

  之后,谷歌收购了Hinton的公司DNNresearch,并聘请了Ilya。在谷歌工作期间,Ilya帮助证明了AlexNet在图像方面的模式识别能力同样适用于单词和句子。

  在被马斯克挖到OpenAI后,Ilya在开发大型语言模型(LLM)方面发挥了关键作用,包括 GPT-2、GPT-3和文本到图像模型DALL·E。

  而去年年底发布的ChatGPT在不到两个月的时间里获得了一亿用户,掀起了当前的人工智能热潮。

  Ilya说,ChatGPT让人们看到了人工智能的可能性,尽管有时它返回的结果并不正确,让人们大失所望。

  Ilya最近的关注点放在了人工智能的潜在危险上,他认为超级人工智能有可能在十年内出现。

  Ilya所说的超级人工智能并不是仅仅能与人类匹敌的通用人工智能(AGI),它将比人类更聪明、更强大。

  而对于人工智能安全性的争论,正是OpenAI领导层变天的导火索。

  Ilya与Altman在如何快速商业化生成式人工智能产品,以及采取哪些步骤等问题上存在分歧。

  Ilya在接受采访时表示,任何人构建的超级智能都不能叛变,这一点非常重要。

  为此,Ilya想要的是引导人工智能系统与人们的预期目标或道德原则保持一致,而不是让它追求非预期目标。

  今年七月,Ilya和同事Jan Leike撰写了一份OpenAI公告,内容涉及一个关于超级智能对齐的项目。

  他们警告说,虽然超级智能可以帮助解决世界上许多最重要的问题,但它也可能非常危险,并可能导致人类丧失权能,甚至导致人类灭绝。

  OpenAI董事会知多少

  Altman出局、Brockman辞职,OpenAI奉上的宫斗大戏的热度堪比自家的开发者大会——相比于开发,还是吃瓜更重要。

  为了更好地吃瓜,小编在这里帮大家理出一条OpenAI董事会变动的时间线。

  今天的一切是否早已在过去埋下伏笔?让我们来一探究竟。

  OpenAI成立于2015年12月11日,董事会由Elon Musk和Sam Altman担任联合主席。

  到了2016年12月31日,董事会加入了Chris Clark(担任COO)和Jonathan Levy(秘书、财务主管)。

  2017年3月,Open Philanthropy向OpenAI捐赠了3000万美元,其创始人Holden Karnofsky加入了OpenAI的董事会。

  2017年12月31日,公开资料显示董事会成员新增了Greg Brockman(与Altman同进退的好兄弟)和Ilya Sutskever(上面提到被马老板挖过来的)。

  2018年2月20日,马斯克被从董事会中除名。官方表示马斯克离开是为了避免潜在的冲突,但记者报告说,领导层的分歧才是主要原因。

  2018年3月,LinkedIn创始人兼Greylock合伙人Reid Hoffman加入董事会。

  2018年4月,Quora首席执行官兼前Facebook首席技术官Adam D'Angelo加入董事会。

  2018年9月,Sue Yoon加入董事会。之后在2019年11月,她离开了董事会。

  到了2020年12月31日,官方的公开资料显示,此时的董事会成员为:Ilya Sutskever、Greg Brockman、Sam Altman、Reid Hoffman、Shivon Zilis、Holden Karnofsky、Adam D’Angelo、Tasha McCauley。

  2021年5月3日,众议院共和党议员、前中央情报局特工Will Hurd加入董事会。

  2021年9月8日,乔治城大学安全与新兴技术中心主任、前霍尔顿·卡诺夫斯基开放慈善事业主任Helen Toner加入董事会。

  2021年秋,Holden Karnofsky辞去了董事会的职务,因为他的妻子Daniela Amodei正在与她的兄弟Dario Amodei一起创办OpenAI的主要竞争对手Anthropic。

  鉴于Helen和Holden通过开放慈善事业的联系,以及Holden的董事会席位似乎是永久性的,Helen似乎是被Holden选中来接替他的席位。

  之后的日子里,一些人由于种种原因离开了董事会,只剩下著名的「六大金刚」:Ilya Sutskever、Greg Brockman、Sam Altman、Adam D’Angelo、Tasha McCauley和Helen Toner。

+1

来源:微信公众号新智元

延展资讯