1."登基"前傳:是安全問題,但也不都是安全
古有PayPal黑幫,今有OpenAI叛將。
據統計,此前OpenAI已有近75名重要員工離職,創立了約30家AI公司。
- 前研究副總裁Dario Amodei&前安全與政策副總裁Daniela Amodei兄妹創辦Anthropic,估值180億美元;
- 前首席科學家Ilya Sutskever創辦SSI,估值100億美元;
- 前工程副總裁David Luan創辦Adept AI(被亞馬遜收編),估值超10億美元;
- 前技術負責人Jonas Schneider創辦機器人創企Daedalus,估值4000萬美元;
- 前研究科學家Aravind Srinivas創辦Perplexity.AI,估值估值30億美元;
- 前技術人員Tim Shi創辦AI客服平台Cresta Al,估值16億美元;
其中,Anthropic成長為OpenAI的頭號對手、前司員工"庇護所";Perplexity.AI成長為OpenAI最佳套殼者、Google搜索挑戰者........
對於普通研究員而言,離開是謀求更好的發展;但對於核心成員,尤其是創始團隊而言,離開基本就是因為三觀不同。
典型代表為馬斯克、Amodei兄妹,以及Ilya Sutskever。他們與Altman過招後反而鞏固了Altman在OpenAI的地位。
第一步,推翻馬斯克"暴政"
2015年,谷歌收購DeepMind。馬斯克與PayPal聯合創始人、Founders Fund創始人Luke Nosek聯手提出了一個競購方案,但最終未成功。這成為了馬斯克揮之不去的遺憾。
在此背景下,憂心忡忡的馬斯克參加了一場載入矽谷史冊的晚宴。席間聚集了約十位傑出人物,其中三位尤為耀眼——Altman、Ilya Sutskever,以及Greg Brockman。
他們和馬斯克探討了AI可能引發的災難性後果,和成立一個匹敵谷歌項目所需的各項條件。
四人團隊認為自己具備成功所有要素:Hinton得意門生Ilya Sutskever是AI科學家;Stripe CTO Brockman是運營高手;YC CEO Sam Altman能協調所有要素;特斯拉創始人馬斯克有錢。
晚宴上,馬斯克承諾會投資10億美元,並提議將項目命名為OpenAI——將以非營利性的方式運作,專注於研發對人類有益的安全AI,而不是追求利潤。
2017年,谷歌發表著名Transformer論文,揭示了關鍵在於處理大量數據,這需要巨大算力支持(Ilya Sutskever在OpenAI創立之初已有此判斷)。
於是,OpenAI開始缺錢了(馬斯克共為OpenAI捐贈了4400萬美元,並承擔了租金)。
Brockman和其他OpenAI成員建議將該組織轉變為營利性機構,以便從微軟等投資者那裡籌錢。
一開始,馬斯克堅決反對。但當他意識到成立營利性實體很必要性時,就希望自己獲得多數股權、初步董事會控制權,並擔任CEO。馬斯克甚至提出將OpenAI併入特斯拉。原因是,特斯拉是唯一有希望與谷歌比肩的公司。
眼看沒人答應,馬斯克又開始遊說OpenAI研究人員跳槽特斯拉。
終於,"作妖不斷"的馬斯克被董事會投票出局。
走之前,他還詛咒OpenAI戰勝DeepMind/Google的概率為0%。
不過,與Altman密切的人透露,馬斯克純粹是嫉妒Altman搶了自己在AI領域的風頭,他更加關注如何擊敗OpenAI,而非AI安全。與馬斯克親近的人則堅稱,他對AI安全的擔憂是真實且深刻的,比如開發xAI替代OpenAI。
但無論如何,趕走"獨裁者"馬斯克絕對是Altman登基的第一步。
第二步 金蟬脫殼 追求利潤最大化
2019年,OpenAI從微軟手中拿到了10億美元,以繼續開發"好"AI。
當你拿到10億美元時,你就必須回報"金主",這其實已經讓一些元老心懷疑慮。
但Altman相當靈活——不留戀非營利組織的名聲,留戀非營利組織的殼子。
他創造性地構建了一種全新的架構。一方面,OpenAI能像普通公司運作,比如籌資、發放員工股權;另一方面,OpenAI投資者的回報有上限。
本質上,OpenAI成為了一個由非營利組織董事會控制的營利公司。
這聽起來就不穩定,團隊內部分裂開始逐步出現。
2021年,Dario Amode創立Anthropic時說:
"OpenAI內部有一群人,當我們創造GPT-2和GPT-3後,對兩件事有非常強烈的信念。一是認為這些模型中投入的計算資源越多,它們會變得越好,幾乎沒有盡頭。我認為現在這個觀點得到了更廣泛的認可,但我們是最早的信仰者。
第二點是認為,需要除了擴大模型規模之外的東西,那就是對齊或安全性。因為只通過增加計算資源並不能告訴模型它們的價值觀。所以我們秉持著這個想法,成立了自己的公司。"
雖然Anthropic看起來更加"安全",並在準確性方面下足了功夫。例如,Anthropic使用了大量複雜的事實問題來針對模型已知的弱點,將答案分為正確答案、錯誤答案(幻覺)、承認"不知道"。相應地,Claude3可以表示自己不知道答案,而不是提供不正確的信息。除了更準確的回覆,Claude 3甚至還能"引用",指向參考材料中的精確句子來驗證他們的答案。
但正如OpenAI回報微軟,Anthropic也要回報亞馬遜,以合乎道德的方式經營一家大型AI公司幾乎是不可能的。
最近,Anthropic就被曝24小時抓取百萬次網站數據等等。
"質疑、理解、成為"或許才是大模型初創公司的必經之路。
第三步 清洗叛徒 "黃袍加身"
陳橋兵變,宋太祖趙匡胤在半夜熟睡中,被兵變將士們偷偷地將黃袍披在身上。第二天,他痛苦地接受了大家的"逼迫"。主打一個民心所向。
而在去年11月OpenAI宮鬥中,也上演了一出"矽谷版"黃袍加身。彼時,數百名OpenAI員工簽署聯名信,要求所有"叛變"董事會成員辭職、恢復Altman職位,否則簽署聯名信的員工將採取行動,"可能會加入Altman和Brockman在微軟新成立的子公司"。
這威望和影響力,簡直是所有CEO的夢想。
等等,故事還有另一個版本。
其實這場風波,除了"比心隊列",還有一個關鍵因素——金錢。
就在逼宮事件前不久,OpenAI剛剛為員工組織了一場股票出售活動,讓大家有機會套現部分股權。結果,錢還沒拿到手呢,老闆先被幹下去了。
一些投資者表示,如果Altman不回歸,他們會暫停執行要約收購。眼看拿這筆錢提前退休,居然被"大惡人"Ilya Sutskever攪黃了!換誰能不生氣。
因此,簽署請願書確實是民心所向。而且,當你身邊95%同事都簽名支持時,你很可能也會簽上字。
至於Ilya Sutskever逼宮失敗與被迫出走,除了不那麼懂人性之外,還和Altman極強的弄權能力有關,具體如下。
2."新王"剪影:專權、欺騙、牟利、放任
時間回到2016年。彼時,OpenAI辦公地點是Brockman的私人公寓——沙發、廚櫃,甚至床鋪,都是員工的工作台。這個不起眼的地方,居然讓20位世界頂尖的AI大神齊聚一堂。
當時Altman和馬斯克不常駐,是Brockman和Ilya Sutskever攜手撐起了團隊。
Ilya Sutskever是AI領域的領軍人物,Brockman則被視為OpenAI業務運營的頂梁柱,
員工們記得,他們曾與Ilya Sutskever一同漫步於舊金山大街,深入討論宏觀議題,自問是否在正確的研究道路上踟躕。Ilya Sutskever對AI有著超前洞察力,他能用簡單的類比來闡釋複雜的技術概念,比如將神經網絡比作一種特殊的計算機程序或電路。
甚至在OpenAI成立之初,Ilya Sutskever就意識到AI的巨大飛躍不是來自某個特定的調整或新發明,而是源自海量數據的積累,就像為引擎不斷注入燃料。
也正是這個原因。2017年,谷歌Transformer論文一經發表,Ilya Sutskever就能及時帶領OpenAI探索並採用Transformer架構,成為行業內最早採納這項先進技術的先鋒之一。
Brockman的勤奮眾所周知。一位前員工回憶,每天早晨到達