1."登基"前传:是安全问题,但也不都是安全
古有PayPal黑帮,今有OpenAI叛将。
据统计,此前OpenAI已有近75名重要员工离职,创立了约30家AI公司。
- 前研究副总裁Dario Amodei&前安全与政策副总裁Daniela Amodei兄妹创办Anthropic,估值180亿美元;
- 前首席科学家Ilya Sutskever创办SSI,估值100亿美元;
- 前工程副总裁David Luan创办Adept AI(被亚马逊收编),估值超10亿美元;
- 前技术负责人Jonas Schneider创办机器人创企Daedalus,估值4000万美元;
- 前研究科学家Aravind Srinivas创办Perplexity.AI,估值估值30亿美元;
- 前技术人员Tim Shi创办AI客服平台Cresta Al,估值16亿美元;
其中,Anthropic成长为OpenAI的头号对手、前司员工"庇护所";Perplexity.AI成长为OpenAI最佳套壳者、Google搜索挑战者........
对于普通研究员而言,离开是谋求更好的发展;但对于核心成员,尤其是创始团队而言,离开基本就是因为三观不同。
典型代表为马斯克、Amodei兄妹,以及Ilya Sutskever。他们与Altman过招后反而巩固了Altman在OpenAI的地位。
第一步,推翻马斯克"暴政"
2015年,谷歌收购DeepMind。马斯克与PayPal联合创始人、Founders Fund创始人Luke Nosek联手提出了一个竞购方案,但最终未成功。这成为了马斯克挥之不去的遗憾。
在此背景下,忧心忡忡的马斯克参加了一场载入硅谷史册的晚宴。席间聚集了约十位杰出人物,其中三位尤为耀眼——Altman、Ilya Sutskever,以及Greg Brockman。
他们和马斯克探讨了AI可能引发的灾难性后果,和成立一个匹敌谷歌项目所需的各项条件。
四人团队认为自己具备成功所有要素:Hinton得意门生Ilya Sutskever是AI科学家;Stripe CTO Brockman是运营高手;YC CEO Sam Altman能协调所有要素;特斯拉创始人马斯克有钱。
晚宴上,马斯克承诺会投资10亿美元,并提议将项目命名为OpenAI——将以非营利性的方式运作,专注于研发对人类有益的安全AI,而不是追求利润。
2017年,谷歌发表著名Transformer论文,揭示了关键在于处理大量数据,这需要巨大算力支持(Ilya Sutskever在OpenAI创立之初已有此判断)。
于是,OpenAI开始缺钱了(马斯克共为OpenAI捐赠了4400万美元,并承担了租金)。
Brockman和其他OpenAI成员建议将该组织转变为营利性机构,以便从微软等投资者那里筹钱。
一开始,马斯克坚决反对。但当他意识到成立营利性实体很必要性时,就希望自己获得多数股权、初步董事会控制权,并担任CEO。马斯克甚至提出将OpenAI并入特斯拉。原因是,特斯拉是唯一有希望与谷歌比肩的公司。
眼看没人答应,马斯克又开始游说OpenAI研究人员跳槽特斯拉。
终于,"作妖不断"的马斯克被董事会投票出局。
走之前,他还诅咒OpenAI战胜DeepMind/Google的概率为0%。
不过,与Altman密切的人透露,马斯克纯粹是嫉妒Altman抢了自己在AI领域的风头,他更加关注如何击败OpenAI,而非AI安全。与马斯克亲近的人则坚称,他对AI安全的担忧是真实且深刻的,比如开发xAI替代OpenAI。
但无论如何,赶走"独裁者"马斯克绝对是Altman登基的第一步。
第二步 金蝉脱壳 追求利润最大化
2019年,OpenAI从微软手中拿到了10亿美元,以继续开发"好"AI。
当你拿到10亿美元时,你就必须回报"金主",这其实已经让一些元老心怀疑虑。
但Altman相当灵活——不留恋非营利组织的名声,留恋非营利组织的壳子。
他创造性地构建了一种全新的架构。一方面,OpenAI能像普通公司运作,比如筹资、发放员工股权;另一方面,OpenAI投资者的回报有上限。
本质上,OpenAI成为了一个由非营利组织董事会控制的营利公司。
这听起来就不稳定,团队内部分裂开始逐步出现。
2021年,Dario Amode创立Anthropic时说:
"OpenAI内部有一群人,当我们创造GPT-2和GPT-3后,对两件事有非常强烈的信念。一是认为这些模型中投入的计算资源越多,它们会变得越好,几乎没有尽头。我认为现在这个观点得到了更广泛的认可,但我们是最早的信仰者。
第二点是认为,需要除了扩大模型规模之外的东西,那就是对齐或安全性。因为只通过增加计算资源并不能告诉模型它们的价值观。所以我们秉持着这个想法,成立了自己的公司。"
虽然Anthropic看起来更加"安全",并在准确性方面下足了功夫。例如,Anthropic使用了大量复杂的事实问题来针对模型已知的弱点,将答案分为正确答案、错误答案(幻觉)、承认"不知道"。相应地,Claude3可以表示自己不知道答案,而不是提供不正确的信息。除了更准确的回复,Claude 3甚至还能"引用",指向参考材料中的精确句子来验证他们的答案。
但正如OpenAI回报微软,Anthropic也要回报亚马逊,以合乎道德的方式经营一家大型AI公司几乎是不可能的。
最近,Anthropic就被曝24小时抓取百万次网站数据等等。
"质疑、理解、成为"或许才是大模型初创公司的必经之路。
第三步 清洗叛徒 "黄袍加身"
陈桥兵变,宋太祖赵匡胤在半夜熟睡中,被兵变将士们偷偷地将黄袍披在身上。第二天,他痛苦地接受了大家的"逼迫"。主打一个民心所向。
而在去年11月OpenAI宫斗中,也上演了一出"硅谷版"黄袍加身。彼时,数百名OpenAI员工签署联名信,要求所有"叛变"董事会成员辞职、恢复Altman职位,否则签署联名信的员工将采取行动,"可能会加入Altman和Brockman在微软新成立的子公司"。
这威望和影响力,简直是所有CEO的梦想。
等等,故事还有另一个版本。
其实这场风波,除了"比心队列",还有一个关键因素——金钱。
就在逼宫事件前不久,OpenAI刚刚为员工组织了一场股票出售活动,让大家有机会套现部分股权。结果,钱还没拿到手呢,老板先被干下去了。
一些投资者表示,如果Altman不回归,他们会暂停执行要约收购。眼看拿这笔钱提前退休,居然被"大恶人"Ilya Sutskever搅黄了!换谁能不生气。
因此,签署请愿书确实是民心所向。而且,当你身边95%同事都签名支持时,你很可能也会签上字。
至于Ilya Sutskever逼宫失败与被迫出走,除了不那么懂人性之外,还和Altman极强的弄权能力有关,具体如下。
2."新王"剪影:专权、欺骗、牟利、放任
时间回到2016年。彼时,OpenAI办公地点是Brockman的私人公寓——沙发、厨柜,甚至床铺,都是员工的工作台。这个不起眼的地方,居然让20位世界顶尖的AI大神齐聚一堂。
当时Altman和马斯克不常驻,是Brockman和Ilya Sutskever携手撑起了团队。
Ilya Sutskever是AI领域的领军人物,Brockman则被视为OpenAI业务运营的顶梁柱,
员工们记得,他们曾与Ilya Sutskever一同漫步于旧金山大街,深入讨论宏观议题,自问是否在正确的研究道路上踟蹰。Ilya Sutskever对AI有着超前洞察力,他能用简单的类比来阐释复杂的技术概念,比如将神经网络比作一种特殊的计算机程序或电路。
甚至在OpenAI成立之初,Ilya Sutskever就意识到AI的巨大飞跃不是来自某个特定的调整或新发明,而是源自海量数据的积累,就像为引擎不断注入燃料。
也正是这个原因。2017年,谷歌Transformer论文一经发表,Ilya Sutskever就能及时带领OpenAI探索并采用Transformer架构,成为行业内最早采纳这项先进技术的先锋之一。
Brockman的勤奋众所周知。一位前员工回忆,每天早晨到达