10万台NVIDIAのGPU、マスク氏がAI世界に「チップの長城」を築いたようなもの。OpenAIがGPT4の訓練に使用した25000台のGPUと比較すると、数量は4倍に増加。
注目すべきは、この世界最大のスーパーコンピューティングセンターが今年3月に着工したばかりで、2025年の完成を予定していたが、わずか4ヶ月で前倒しで完成したこと。
スーパーコンピューティングセンターの正式稼働は、マスク氏のOpenAIに対する反撃の狼煙を上げることになる。
巨額の費用を要したスーパーコンピューティングセンター
マスク氏がスーパーコンピューティングセンターを建設した根本的な理由は、xAIのチャットボットGrokを訓練するため。
2023年7月、マスク氏はxAIを設立。その中核メンバーはOpenAI、Google DeepMind、Microsoft Research、Teslaなどの著名企業出身者。ChatGPTと直接競争できるようにするため、マスク氏は最近2年間の大部分の精力をxAIに注いだ。
スーパーコンピューティングセンターの実現を確実にするため、マスク氏は自ら陣頭指揮を執り、このスーパーコンピューターの開発を監督すると公言した。
スーパーコンピューティングセンターを建設するには、立地選びが間違いなく重要。
フォーブス誌の報道によると、マスク氏のチームは7、8の都市と交渉を重ね、最終的に3月にテネシー州メンフィス市に決定した。メンフィス市が十分な電力と迅速な建設能力を提供するためだ。
注目すべきは、スーパーコンピューティングセンターに必要なリソースが非常に多いこと。NVIDIAチップなどの基本的なハードウェア以外に、工場は1時間あたり最大150メガワットの電力を使用する可能性があり、これは10万世帯が必要とする電力量に相当し、地域にとって大きな負担となる可能性がある。
電力資源以外にも、スーパーコンピューティングセンターの冷却には毎日130万ガロンの水が必要と予想され、つまり毎日メンフィスの主要な水源から取水する必要がある。
これはメンフィス市民や環境保護団体の不満を引き起こし、共同で公開書簡を発表して抗議した：「このように大量のエネルギーを使用する産業が、すでに汚染と高エネルギー負担に苦しんでいるコミュニティにどのようなさらなる影響を与えるかを考慮しなければならない。」
プロジェクトを完成させるため、xAIはメンフィス市の公共インフラを改善し、スーパーコンピューティングセンターの発展をサポートすることを約束した。これには新しい変電所と下水処理施設の建設が含まれる。
スーパーコンピューティングセンターのために、マスク氏は天文学的な費用を支払ったと言える。コスト見積もりによると、10万台のNVIDIA H100は1台あたり3-4万ドルと高額で、総額は40億ドル（人民元換算で290億以上）に達する。
巨額の資金投入は、「世界一の富豪」であるマスク氏でさえ負担が重い。そこで彼はDellとSupermicroと共同でクラスターを構築し、Oracleから24000台のH100リソースを獲得した。
巨額の資金を費やしたにもかかわらず、マスク氏はスーパーコンピューティングセンターの建設を揺るぎなく推進した。彼はソーシャルプラットフォームで一言で総括した：
「我々は自分で舵を取らなければならない。」
評価額1300億ドルを突破したxAI
OpenAIに追いつくためにマスク氏がすべてを注ぎ込んだことは否定できない。
世界一の富豪という光環の下、2023年7月に設立されたばかりのxAIは、わずか1歳にして、すでにOpenAIに挑戦する資本と自信を持っている。
今年4月13日、xAIは初のマルチモーダル大規模モデルGrok-1.5Vをリリースした。テキスト機能に加えて、Grokは現在、文書、図表、チャート、スクリーンショット、写真などさまざまな視覚情報を処理し、多分野にわたる推論を行うことができる。
Grok-1.5Vの誕生により、xAIは資本市場で熱い注目を集めている。
5月26日、xAIは60億ドルの資金調達を完了し、評価額は240億ドル（約1738億人民元）に達した。この資金調達ラウンドの投資家陣容は強力で、シリコンバレーの著名ベンチャーキャピタルであるSequoia CapitalとAndreessen Horowitz、そしてサウジ王室と密接な関係を持つ投資ファンドが含まれている。
OpenAIが過去10年間で獲得した資金調達総額は143億ドルだが、xAIはわずか10ヶ月で60億ドルを調達し、OpenAIの10年分の資金調達額の半分に相当する。
これは大規模言語モデル分野で史上最高額の単一資金調達の一つであり、Anthropicが2023年9月12日に獲得した40億ドルと10月28日に獲得した20億ドルの資金調達、そしてInflectionAIが2023年6月30日に獲得した13億ドルの資金調達を上回り、資金調達総額ではOpenAI、Anthropicに次ぐ。
xAIがAI分野で史上最高の資金調達を獲得できたのは、当然マスク氏の光環と無関係ではない。特にマスク氏の商業帝国内の他の企業がxAIに大きな助けとなった。
メディアの報道によると、xAI設立当初、Teslaは約50名のソフトウェアエンジニアを派遣してコードレビューなどのタスクを支援した。さらにいくつかのTeslaエンジニアが直接xAIに加わった。同時に、Tesla車に搭載された多数のカメラやその他のセンサーが捉えた映像データは、xAIのモデルにリアルタイムのデータ入力を提供し、トレーニングを支援できる。
マスク氏が所有する有名なソーシャルプラットフォームXも、xAIに大量の人間が生成したデータを提供できる。これらのデータは、人工知能システムが人間とより良く対話する方法を学習するための理想的なリソースである。
これらの利点が合わさって、わずか1年で評価額240億ドルのAIユニコーンが誕生し、資金、データ、チップなどの面でOpenAIと互角に渡り合えるようになった。
7月1日、マスク氏はソーシャルプラットフォームで公開的に、xAIの次のステップはインターネットから訓練されたデータから大規模言語モデルを浄化し、8月に次世代アップグレード版Grok-2をリリースする計画だと述べた。
来月には、Grok-2とGPT-4の大戦が見られるだろう。
AI世界の人材大戦
資金とチップ以外に、AI大規模モデル間の競争にはもう一つ重要な要素がある。それは人材だ。
マスク氏はかつてソーシャルプラットフォームで嘆いた：AI人材の争奪戦は彼が見た中で最も狂気じみた人材大戦だと。
世界的な「有名ネットセレブ」として、マスク氏の一挙手一投足が一つの分野の方向性に影響を与える。この影響力と知名度は、マスク氏が専門人材を集めるのに便利さをもたらした。
メディアの報道によると、マスク氏はかつてGoogleやMicrosoftなどの技術大手から多くの研究者を引き抜いた。他社の幹部たちは、xAIが提供する報酬条件が非常に競争力があり、彼らが採用市場で不利な立場に置かれていると不満を漏らした。
同時に、マスク氏はOpenAIの主要な共同創設者の一人として、2015年から2018年まで長期にわたり取締役会のメンバーを務め、数千万ドルの資金を提供し、研究方向についてアドバイスを行い、世界クラスの人材の採用においても重要な役割を果たした。
開発理念の違いでOpenAIを去ったが、彼はOpenAIのリーダーシップを間違いなくよく知っている。
xAI設立時、マスク氏はOpenAIからデータサイエンティストのKyle KosicとIgor Babuschkinを高給で引き抜いた。
スーパーコンピューティングセンターが正式に使用されても、マスク氏は人材採用を止めていない。
7月23日、xAIは世界規模で採用を開始し、AIエンジニアやさまざまな管理職を含む約30のポジションを提供した。競争力のある給与と株式インセンティブを提供するだけでなく、xAIの福利厚生も注目に値し、承認を得れば無期限の有給休暇さえ享受できる。
AI元年が過ぎて1年以上経っても、AI軍拡競争はまだ加熱し続けている。
マスク氏でさえ、OpenAIを超えるまでxAIへの投資を続けている。