100.000 NVIDIA-GPUs, das entspricht einer von Musk in der KI-Welt errichteten "Chip-Mauer", verglichen mit den 25.000 GPUs, die OpenAI für das Training von GPT-4 verwendete, eine Steigerung um das Vierfache.
Erwähnenswert ist, dass dieses weltweit größte Supercomputer-Zentrum erst im März dieses Jahres mit dem Bau begann und für 2025 fertiggestellt werden sollte. Überraschenderweise wurde es bereits nach nur vier Monaten vorzeitig fertiggestellt.
Die offizielle Inbetriebnahme des Supercomputer-Zentrums wird Musks Gegenangriff auf OpenAI einläuten.
Ein kostspieliges Supercomputer-Zentrum
Der grundlegende Grund für Musks Bau des Supercomputer-Zentrums war das Training des xAI-Chatbots Grok.
Im Juli 2023 gründete Musk xAI, dessen Kernmitglieder von renommierten Unternehmen wie OpenAI, Google DeepMind, Microsoft Research und Tesla kamen. Um direkt mit ChatGPT konkurrieren zu können, widmete Musk den Großteil seiner Energie in den letzten zwei Jahren xAI.
Um die Umsetzung des Supercomputer-Zentrums sicherzustellen, erklärte Musk öffentlich, dass er persönlich die Entwicklung dieses Supercomputers überwachen würde.
Für den Bau eines Supercomputer-Zentrums ist die Standortwahl zweifellos entscheidend.
Laut Forbes führte Musks Team Gespräche mit sieben oder acht Städten und entschied sich schließlich im März für Memphis, Tennessee, da Memphis ausreichend Strom und die Fähigkeit zum schnellen Aufbau bieten konnte.
Erwähnenswert ist, dass das Supercomputer-Zentrum sehr viele Ressourcen benötigt. Neben der grundlegenden Hardware wie NVIDIA-Chips könnte die Fabrik stündlich bis zu 150 Megawatt Strom verbrauchen, was dem Bedarf von 100.000 Haushalten entspricht. Dies könnte für die lokale Gemeinschaft eine enorme Belastung darstellen.
Neben den Stromressourcen wird für die Kühlung des Supercomputer-Zentrums voraussichtlich täglich 1,3 Millionen Gallonen Wasser benötigt, was bedeutet, dass täglich Wasser aus der Hauptwasserquelle von Memphis entnommen werden muss.
Dies hat auch zu Unzufriedenheit bei den Bürgern von Memphis und Umweltorganisationen geführt, die gemeinsam einen offenen Brief veröffentlichten: "Wir müssen bedenken, wie eine Industrie, die so viel Energie verbraucht, die bereits durch Verschmutzung und hohe Energielasten belasteten Gemeinschaften weiter beeinflussen wird."
Um das Projekt abzuschließen, versprach xAI, die öffentliche Infrastruktur von Memphis zu verbessern, um die Entwicklung des Supercomputer-Zentrums zu unterstützen, einschließlich des Baus einer neuen Umspannstation und einer Abwasserbehandlungsanlage.
Man kann sagen, dass Musk für das Supercomputer-Zentrum einen astronomischen Preis gezahlt hat. Nach Kostenschätzungen kostet jede der 100.000 NVIDIA H100 GPUs 30.000 bis 40.000 US-Dollar, was einen Gesamtwert von 4 Milliarden US-Dollar (umgerechnet über 29 Milliarden RMB) ergibt.
Selbst für Musk als "reichsten Mann der Welt" war diese enorme finanzielle Investition schwer zu verkraften. Daher schloss er sich mit Dell und Supermicro zusammen, um den Cluster zu bauen, und erhielt von Oracle Ressourcen für 24.000 H100-Chips.
Trotz der enormen finanziellen Aufwendungen trieb Musk den Bau des Supercomputer-Zentrums unbeirrt voran. Er fasste es auf seiner Social-Media-Plattform mit einem Satz zusammen:
"Wir müssen das Steuer selbst in der Hand haben."
xAI mit einer Bewertung von über 130 Milliarden
Man muss sagen, dass Musk alles gegeben hat, damit xAI OpenAI einholen kann.
Unter dem Glanz des reichsten Mannes der Welt hat das erst im Juli 2023 gegründete xAI, gerade mal ein Jahr alt, bereits das Kapital und die Zuversicht, OpenAI herauszufordern.
Am 13. April dieses Jahres führte xAI sein erstes multimodales Großmodell Grok-1.5V ein. Neben Textfunktionen kann Grok nun verschiedene visuelle Informationen verarbeiten, einschließlich Dokumente, Diagramme, Grafiken, Screenshots und Fotos, und multidisziplinäre Schlussfolgerungen ziehen.
Mit der Geburt von Grok-1.5V wurde xAI auf dem Kapitalmarkt heiß begehrt.
Am 26. Mai gab xAI bekannt, eine Finanzierung von 6 Milliarden US-Dollar abgeschlossen zu haben, mit einer Bewertung von 24 Milliarden US-Dollar (etwa 173,8 Milliarden RMB). Die Investoren dieser Finanzierungsrunde sind hochkarätig, darunter bekannte Risikokapitalfirmen aus dem Silicon Valley wie Sequoia Capital und Andreessen Horowitz sowie ein Investmentfonds mit engen Verbindungen zur saudischen Königsfamilie.
OpenAI hat in den letzten zehn Jahren insgesamt 14,3 Milliarden US-Dollar an Finanzierung erhalten, xAI hat in nur 10 Monaten 6 Milliarden US-Dollar aufgebracht, was der Hälfte der zehnjährigen Finanzierung von OpenAI entspricht.
Dies ist auch eine der höchsten Einzelfinanzierungen in der Geschichte der Großmodell-Branche, übertrifft die 4 Milliarden Finanzierung von Anthropic am 12. September 2023 und die 2 Milliarden US-Dollar am 28. Oktober sowie die 1,3 Milliarden US-Dollar Finanzierung von InflectionAI am 30. Juni 2023. Der Gesamtfinanzierungsbetrag liegt nur hinter OpenAI und Anthropic.
Dass xAI die höchste Finanzierung in der Geschichte der KI-Branche erhalten hat, ist natürlich untrennbar mit Musks Aura verbunden. Insbesondere haben andere Unternehmen in Musks Geschäftsimperium xAI viel geholfen.
Medienberichten zufolge entsandte Tesla zu Beginn der Gründung von xAI etwa 50 Softwareingenieure, um bei Aufgaben wie Code-Reviews zu helfen. Einige Tesla-Ingenieure traten sogar direkt xAI bei. Gleichzeitig können die von den zahlreichen Kameras und anderen Sensoren in Tesla-Fahrzeugen erfassten Videodaten Echtzeit-Dateneingaben für das Training der xAI-Modelle liefern.
Musks bekannte Social-Media-Plattform X kann xAI auch mit einer großen Menge von menschlich generierten Daten versorgen. Diese Daten sind ideale Ressourcen für das Training von KI-Systemen, um besser mit Menschen zu interagieren.
Die Summe all dieser Vorteile führte zur Geburt eines KI-Einhorns mit einer Bewertung von 24 Milliarden US-Dollar in nur einem Jahr, das in Bezug auf Finanzen, Daten und Chips mit OpenAI konkurrieren kann.
Am 1. Juli erklärte Musk öffentlich auf seiner Social-Media-Plattform, dass der nächste Schritt für xAI darin besteht, die Daten aus dem Internet-Training großer Sprachmodelle zu bereinigen, und plant, im August die nächste Upgrade-Version Grok-2 einzuführen.
Es ist zu erwarten, dass wir nächsten Monat den Kampf zwischen Grok-2 und GPT-4 sehen werden.
Der Talentkampf in der KI-Welt
Neben Finanzen und Chips gibt es einen weiteren wichtigen Aspekt im Wettbewerb der KI-Großmodelle, nämlich Talente.
Musk äußerte sich einmal auf seiner Social-Media-Plattform: Der Kampf um KI-Talente sei der verrückteste Talentkampf, den er je gesehen habe.
Als "bekannter Netzstar" weltweit kann jede Bewegung von Musk die Richtung einer Branche beeinflussen. Dieser Einfluss und Bekanntheitsgrad erleichtert es Musk auch, professionelle Talente anzuwerben.
Medienberichten zufolge hat Musk viele Forscher von Technologiegiganten wie Google und Microsoft abgeworben. Führungskräfte anderer Unternehmen beschwerten sich, dass die von xAI angebotenen Vergütungspakete äußerst wettbewerbsfähig seien, was sie auf dem Rekrutierungsmarkt in eine nachteilige Position bringe.
Gleichzeitig war Musk als einer der Hauptmitbegründer von OpenAI und langjähriges Vorstandsmitglied von 2015 bis 2018 nicht nur für Dutzende Millionen Dollar an Finanzmitteln verantwortlich und gab Ratschläge zur Forschungsrichtung, sondern spielte auch eine Schlüsselrolle bei der Rekrutierung von Weltklasse-Talenten.
Obwohl er OpenAI aufgrund unterschiedlicher Entwicklungsvorstellungen verlassen hat, kennt er zweifellos die Führungsebene von OpenAI sehr gut.
Bei der Gründung von xAI warb Musk den Datenwissenschaftler Kyle Kosic und Igor Babuschkin mit hohen Gehältern von OpenAI ab.
Selbst mit der offiziellen Inbetriebnahme des Supercomputer-Zentrums hat Musk nicht aufgehört, Talente zu rekrutieren.
Am 23. Juli startete xAI weltweit eine Rekrutierungskampagne und bot fast 30 Positionen an, darunter KI-Ingenieure und verschiedene leitende Positionen. Neben wettbewerbsfähigen Gehältern und Aktienoptionen sind auch die Sozialleistungen von xAI bemerkenswert, einschließlich der Möglichkeit eines unbefristeten bezahlten Urlaubs nach Genehmigung.
Auch wenn das KI-Jahr bereits mehr als ein Jahr vorbei ist, heizt sich das KI-Wettrüsten weiter auf.
Selbst Musk erhöht ständig den Einsatz für xAI, bis es OpenAI übertrifft.