1."即位"前史:安全問題だが、すべてが安全というわけではない
かつてはPayPalマフィア、今はOpenAI離反者。
統計によると、これまでにOpenAIから約75人の重要な従業員が退職し、約30のAI企業を設立している。
- 元研究副社長Dario AmodeiとDaniela Amodei兄妹がAnthropicを設立、評価額180億ドル
- 元主任科学者Ilya SutskeverがSSIを設立、評価額100億ドル
- 元エンジニアリング副社長David LuanがAdept AI(アマゾンに買収された)を設立、評価額10億ドル超
- 元技術責任者Jonas Schneiderがロボット企業Daedalusを設立、評価額4000万ドル
- 元研究科学者Aravind SrinivasがPerplexity.AIを設立、評価額30億ドル
- 元技術者Tim ShiがAIカスタマーサービスプラットフォームCresta AIを設立、評価額16億ドル
その中で、AnthropicはOpenAIの最大のライバルおよび元従業員の"避難所"に成長し、Perplexity.AIはOpenAIの最高のラッパーおよびGoogle検索の挑戦者に成長した...
一般の研究者にとって、退職はより良い発展を求めることだが、中核メンバー、特に創業チームにとって、退職の基本的な理由は価値観の相違である。
典型的な例はマスク、Amodei兄妹、そしてIlya Sutskeverである。彼らはAltmanと対決した後、かえってAltmanのOpenAIでの地位を強化した。
第一段階、マスクの"専制"を打倒
2015年、GoogleがDeepMindを買収した。マスクはPayPalの共同創業者でFounders Fundの創業者であるLuke Nosekと手を組んで買収案を提示したが、最終的に失敗した。これはマスクにとって消えない後悔となった。
この背景のもと、不安を抱えたマスクはシリコンバレーの歴史に残る夕食会に参加した。席には約10人の傑出した人物が集まり、その中でも特に3人が目立っていた - Altman、Ilya Sutskever、そしてGreg Brockman。
彼らはマスクとAIが引き起こす可能性のある破滅的な結果について議論し、Googleのプロジェクトに匹敵する組織を立ち上げるために必要な条件を検討した。
4人のチームは成功に必要なすべての要素を持っていると考えた:Hintonの愛弟子Ilya SutskeverはAI科学者、Stripe CTOのBrockmanは運営の達人、YC CEOのSam Altmanはすべての要素を調整できる、テスラ創業者のマスクには資金がある。
夕食会で、マスクは10億ドルを投資すると約束し、プロジェクトをOpenAIと名付けることを提案した - 非営利で運営し、人類に有益な安全なAIの研究開発に専念し、利益を追求しないというものだった。
2017年、Googleが有名なTransformer論文を発表し、大量のデータを処理することが鍵であり、それには巨大な計算能力が必要であることを明らかにした(Ilya SutskeverはOpenAI設立当初からこの判断を持っていた)。
そして、OpenAIは資金不足に陥った(マスクはOpenAIに総額4400万ドルを寄付し、家賃も負担していた)。
BrockmanとOpenAIの他のメンバーは、マイクロソフトなどの投資家から資金を調達するために、組織を営利企業に転換することを提案した。
当初、マスクは強く反対した。しかし、営利企業の設立が必要だと認識すると、自身が過半数の株式と初期の取締役会の支配権を得て、CEOに就任することを望んだ。マスクはOpenAIをテスラに統合することさえ提案した。理由は、テスラがGoogleと肩を並べる唯一の希望のある企業だったからだ。
誰も同意しないのを見て、マスクはOpenAIの研究者にテスラへの転職を勧め始めた。
ついに、"問題を起こし続ける"マスクは取締役会の投票で追放された。
去る前に、彼はOpenAIがDeepMind/Googleに勝つ確率は0%だと呪いをかけた。
しかし、Altmanと親しい人々は、マスクは単にAI分野でAltmanに風光を奪われたことを妬んでいるだけで、AIの安全性よりもOpenAIを打ち負かすことに関心があると明かしている。マスクと親しい人々は、彼のAI安全性への懸念は真摯で深いものだと主張し、例えばxAIを開発してOpenAIに代わるものを作ろうとしていると述べている。
しかし、いずれにせよ、"独裁者"マスクを追放したことは、Altmanの即位への第一歩であった。
第二段階 脱皮 利益の最大化を追求
2019年、OpenAIはマイクロソフトから10億ドルを獲得し、"良い"AIの開発を続けた。
10億ドルを手に入れたとき、"スポンサー"に報いなければならず、これは実際にいくつかの古参メンバーに疑念を抱かせた。
しかしAltmanは非常に柔軟だった - 非営利組織の名声には執着せず、非営利組織の殻には執着した。
彼は創造的に全く新しい構造を構築した。一方で、OpenAIは普通の会社のように運営でき、例えば資金調達や従業員への株式付与ができる。他方で、OpenAIの投資家のリターンには上限がある。
本質的に、OpenAIは非営利組織の取締役会が支配する営利企業となった。
これは不安定に聞こえ、チーム内部の分裂が徐々に現れ始めた。
2021年、Dario AmodeiがAnthropicを設立した際に述べた:
"OpenAI内部には、GPT-2とGPT-3を作成した後、2つのことについて非常に強い信念を持つグループがいました。1つは、これらのモデルに投入される計算資源が多ければ多いほど、ほとんど際限なく良くなるということです。今ではこの見方がより広く認められていると思いますが、私たちは最も早い信奉者でした。
2つ目は、モデルの規模を拡大する以外に必要なものがあるということで、それは調整または安全性です。なぜなら、単に計算資源を増やすだけでは、モデルに価値観を教えることはできないからです。そこで私たちはこのアイデアを持って、自分たちの会社を設立しました。"
Anthropicはより"安全"に見え、正確性にも力を入れている。例えば、Anthropicはモデルの既知の弱点を標的にした多くの複雑な事実に関する質問を使用し、回答を正解、誤答(幻覚)、"わからない"と認めるものに分類している。その結果、Claude3は自分が答えを知らないことを表現でき、不正確な情報を提供することはない。より正確な回答に加えて、Claude 3は"引用"さえでき、回答を検証するために参考資料の正確な文を指し示すことができる。
しかし、OpenAIがマイクロソフトに報いるように、AnthropicもAmazonに報いなければならず、倫理的な方法で大規模なAI企業を運営することはほぼ不可能である。
最近、Anthropicは24時間で数百万回のウェブサイトデータを収集したことなどが暴露された。
"疑問を持ち、理解し、なる"ことこそが、大規模言語モデルのスタートアップ企業の必然の道かもしれない。
第三段階 反逆者の粛清 "黄袍加身"
陳橋の兵変で、宋の太祖趙匡胤は真夜中に熟睡中、兵変を起こした兵士たちにこっそりと黄色い袍を着せられた。翌日、彼は苦痛を伴いながら皆の"強要"を受け入れた。これは民心の所在を示すものだった。
去年11月のOpenAIの宮廷闘争でも、"シリコンバレー版"の黄袍加身が演じられた。当時、数百人のOpenAI従業員が連名で書簡を送り、すべての"反逆"した取締役会メンバーの辞任とAltmanの職位復帰を要求し、さもなければ署名した従業員は行動を起こし、"AltmanとBrockmanがマイクロソフトで新たに設立した子会社に加わる可能性がある"と述べた。
この威信と影響力は、まさにすべてのCEOの夢だ。
しかし、待って、この物語にはもう一つのバージョンがある。
実は、この騒動には"心を寄せ合う列"以外にもう一つの重要な要素があった - お金だ。
クーデター直前、OpenAIは従業員のために株式売却の機会を設けており、皆が一部の株式を現金化できるようにしていた。結果として、お金がまだ手に入っていないうちに、社長が追放されてしまった。
一部の投資家は、Altmanが復帰しなければ買収提案の実行を中止すると表明した。この早期退職のための資金が、突然"大悪人"Ilya Sutskeverによって台無しにされたのだ!誰だって怒るだろう。
したがって、請願書に署名することは確かに民心の所在を示していた。そして、周りの95%の同僚が署名して支持しているとき、あなたもおそらく署名するだろう。
Ilya Sutskeverのクーデター失敗と強制退職については、人間性をあまり理解していなかったことに加えて、Altmanの極めて強い権力操作能力も関係している。具体的には以下の通りだ。
2."新王"の輪郭:専制、欺瞞、利益追求、放任
時は2016年に遡る。当時、OpenAIのオフィスはBrockmanの個人アパートだった - ソファ、キッチンキャビネット、さらにはベッドまでが従業員の作業台だった。この目立たない場所に、世界トップクラスのAIの天才20人が集結していた。
当時、Altmanとマスクはあまり常駐せず、BrockmanとIlya Sutskeverがチームを支えていた。
Ilya SutskeverはAI分野のリーダー的存在で、BrockmanはOpenAIの事業運営の柱と見なされていた。
従業員たちは、Ilya Sutskeverとサンフランシスコの街を歩きながら、マクロな問題について深く議論し、正しい研究の道を歩んでいるのかと自問自答したことを覚えている。Ilya SutskeverはAIに対する先見の明があり、複雑な技術概念を簡単な類推で説明できた。例えば、ニューラルネットワークを特殊なコンピュータプログラムや回路に例えるなど。
OpenAI設立当初から、Ilya SutskeverはAIの大きな飛躍が特定の調整や新発明からではなく、大量のデータの蓄積から生まれると認識していた。それはエンジンに燃料を注ぎ続けるようなものだった。
まさにこの理由から、2017年にGoogleのTransformer論文が発表されると、Ilya SutskeverはすぐにOpenAIを率いてTransformerアーキテクチャを探求し採用した。業界内でこの先進技術を最も早く採用した先駆者の一つとなった。
Brockmanの勤勉さは周知の事実だった。ある元従業員は、毎朝オフィスに到着すると