7月22日、イーロン・マスクはXで、xAI、X、NVIDIA、その他のサポートチームによって構築されたメンフィスのスーパーコンピュータクラスターが現地時間午前4時20分にトレーニングを開始したと発表しました。
このクラスターは10万個の液冷H100チップで構成されており、世界最強のスーパーコンピュータクラスターとなっています。心理学者ジョーダン・ピーターソンとのインタビューで、マスクはハードウェアの設置からトレーニング開始まで19日しかかからなかったと明かしました。
マスクはまた、Grok 2のトレーニングが完了し、来月リリースされることを共有しました。Grok 3は現在メンフィスのスーパーコンピュータセンターでトレーニング中で、年末までにリリースされる予定であり、市場で最も強力なモデルになる可能性があります。
しかし、マスクはAIの安全性に対する懸念が高まっていると表明しました。彼はAIが「人間寄り」の原則に基づいている必要があると考えており、人間よりもはるかに賢いデジタルの超知能を作り出すという他の企業の目標とは対照的です。
Grokの現在のパフォーマンスについて、マスクはXの基本モデルはあまり強くなく、ChatGPTよりも一桁弱いことを認めました。彼はxAIの急速な進歩を強調し、わずか19日で大規模なトレーニングセンターを構築したことを指摘しました。
メンフィスの「スーパーコンピュータ工場」は、単一のRDMA構造で動作する10万個の液冷H100 GPUを特徴とし、推定価値は30-40億ドルです。計算能力の面では、OpenAIのGPT-4のトレーニングに使用されたセットアップの約20倍の力を持っています。
マスクは、Grok 2がChatGPTの最新モデル(GPT-4)と同等になるはずだと明かしました。現在トレーニング中のGrok 3は12月までにリリースされる予定で、その時点で世界最強のAIになる可能性があります。
AIのリスクについて議論する中で、マスクはAI開発における「人間寄り」の原則の重要性を強調しました。彼は人間よりもはるかに賢いデジタルの超知能を作り出すという目標に懸念を表明し、これは有益ではないと考えています。
マスクはまた、AIと人類の未来に関する元Google CEOのラリー・ペイジの見解に同意しないことを共有しました。彼は機械よりも人間を支援することの重要性を強調しました。
2015年にマスクが共同設立したが、2018年に思想の違いで離れたOpenAIについて、彼は当初のオープンソース、非営利のミッションから逸脱したとして組織を批判しました。マスクは、自身が資金提供した組織が当初の目的に反する目標を追求できるようになった経緯を理解するために、法的措置を検討していることを明かしました。