7月22日,伊隆·馬斯克在X上宣布,由xAI、X、NVIDIA和其他支援團隊建造的孟菲斯超級電腦集群於當地時間凌晨4:20開始訓練。
該集群由10萬個液冷H100晶片組成,使其成為世界上最強大的超級電腦集群。在與心理學家喬丹·彼得森的訪談中,馬斯克透露從硬體安裝到開始訓練僅用了19天。
馬斯克還分享,Grok 2的訓練已完成,將於下個月發布。Grok 3目前正在孟菲斯超級電腦中心進行訓練,預計年底前發布,可能成為市場上最強大的模型。
然而,馬斯克對AI安全的擔憂日益增加。他認為AI必須基於"親人類"原則,這與其他公司創造遠比人類聰明的數位超級智能的目標形成對比。
關於Grok目前的表現,馬斯克承認X上的基本模型並不是很強,比ChatGPT弱一個數量級。他強調xAI的快速進展,指出他們僅用19天就建立了一個大型訓練中心。
孟菲斯"超級電腦工廠"擁有10萬個液冷H100 GPU,運行在單一RDMA結構上,估計價值30-40億美元。在計算能力方面,它比用於訓練OpenAI的GPT-4的設置強大約20倍。
馬斯克透露,Grok 2應該可與ChatGPT的最新模型(GPT-4)相媲美。目前正在訓練的Grok 3預計將在12月前發布,屆時可能成為世界上最強大的AI。
討論AI風險時,馬斯克強調在AI開發中"親人類"原則的重要性。他對創造遠比人類聰明的數位超級智能的目標表示擔憂,認為這並不有益。
馬斯克還分享了他與前谷歌CEO拉里·佩奇關於AI和人類未來觀點的分歧。他強調支持人類而非機器的重要性。
關於馬斯克在2015年共同創立但在2018年因理念分歧而離開的OpenAI,他批評該組織偏離了最初的開源、非營利使命。馬斯克透露他正考慮採取法律行動,以了解他資助的組織如何追求與其初衷相悖的目標。