1. Vorgeschichte der "Thronbesteigung": Es geht um Sicherheit, aber nicht nur
Früher gab es die PayPal-Mafia, heute gibt es die OpenAI-Abtrünnigen.
Statistiken zufolge haben bisher fast 75 wichtige Mitarbeiter OpenAI verlassen und etwa 30 KI-Unternehmen gegründet.
- Der ehemalige Forschungs-Vizepräsident Dario Amodei und die ehemalige Vizepräsidentin für Sicherheit und Politik Daniela Amodei gründeten Anthropic, bewertet mit 18 Milliarden Dollar;
- Der ehemalige Chefwissenschaftler Ilya Sutskever gründete SSI, bewertet mit 10 Milliarden Dollar;
- Der ehemalige Technik-Vizepräsident David Luan gründete Adept AI (von Amazon übernommen), bewertet mit über 1 Milliarde Dollar;
- Der ehemalige technische Leiter Jonas Schneider gründete das Robotik-Startup Daedalus, bewertet mit 40 Millionen Dollar;
- Der ehemalige Forschungswissenschaftler Aravind Srinivas gründete Perplexity.AI, bewertet mit 3 Milliarden Dollar;
- Der ehemalige Techniker Tim Shi gründete die KI-Kundenservice-Plattform Cresta AI, bewertet mit 1,6 Milliarden Dollar;
Davon hat sich Anthropic zum Hauptkonkurrenten von OpenAI und zur "Zuflucht" für ehemalige Mitarbeiter entwickelt; Perplexity.AI wurde zum besten Wrapper für OpenAI und Herausforderer von Google Search...
Für gewöhnliche Forscher bedeutet ein Weggang die Suche nach besseren Entwicklungsmöglichkeiten; für Kernmitglieder, insbesondere das Gründungsteam, liegt der Grund für einen Weggang meist in unterschiedlichen Ansichten.
Typische Vertreter sind Musk, die Amodei-Geschwister und Ilya Sutskever. Ihre Auseinandersetzungen mit Altman festigten letztendlich Altmans Position bei OpenAI.
Erster Schritt: Sturz von Musks "Tyrannei"
2015 übernahm Google DeepMind. Musk und Luke Nosek, Mitbegründer von PayPal und Gründer von Founders Fund, legten ein Gegenangebot vor, das jedoch scheiterte. Dies wurde zu Musks anhaltender Enttäuschung.
Vor diesem Hintergrund nahm der besorgte Musk an einem historischen Abendessen im Silicon Valley teil. Etwa zehn herausragende Persönlichkeiten waren anwesend, darunter drei besonders strahlende - Altman, Ilya Sutskever und Greg Brockman.
Sie diskutierten mit Musk über die möglichen katastrophalen Folgen von KI und die Voraussetzungen für die Gründung eines Projekts, das mit Google konkurrieren könnte.
Das Viererteam glaubte, alle Erfolgsfaktoren zu besitzen: Ilya Sutskever, Hintons Starschüler, als KI-Wissenschaftler; Stripe CTO Brockman als Betriebsexperte; YC CEO Sam Altman zur Koordination aller Elemente; und Tesla-Gründer Musk mit dem Geld.
Beim Abendessen versprach Musk eine Investition von 1 Milliarde Dollar und schlug vor, das Projekt OpenAI zu nennen - es sollte als gemeinnützige Organisation betrieben werden, die sich auf die Entwicklung sicherer KI zum Wohle der Menschheit konzentriert, anstatt Profit anzustreben.
2017 veröffentlichte Google das berühmte Transformer-Paper, das offenbarte, dass der Schlüssel in der Verarbeitung großer Datenmengen liegt, was enorme Rechenleistung erfordert (Ilya Sutskever hatte diese Einschätzung bereits bei der Gründung von OpenAI).
Folglich begann OpenAI, Geldmangel zu haben (Musk hatte insgesamt 44 Millionen Dollar für OpenAI gespendet und die Miete übernommen).
Brockman und andere OpenAI-Mitglieder schlugen vor, die Organisation in ein gewinnorientiertes Unternehmen umzuwandeln, um Geld von Investoren wie Microsoft zu beschaffen.
Anfangs war Musk strikt dagegen. Als er jedoch die Notwendigkeit einer gewinnorientierten Einheit erkannte, wollte er die Mehrheitsbeteiligung, die anfängliche Kontrolle über den Vorstand und die Position des CEO für sich beanspruchen. Musk schlug sogar vor, OpenAI in Tesla einzugliedern. Der Grund: Tesla sei das einzige Unternehmen mit Aussicht, mit Google mithalten zu können.
Als niemand zustimmte, begann Musk, OpenAI-Forscher abzuwerben, um zu Tesla zu wechseln.
Schließlich wurde der "ständig Ärger machende" Musk per Vorstandsabstimmung ausgeschlossen.
Bevor er ging, verfluchte er noch OpenAI, dass ihre Chancen, DeepMind/Google zu schlagen, bei 0% lägen.
Allerdings enthüllten Altman nahestehende Personen, dass Musk rein aus Eifersucht auf Altmans Rampenlicht im KI-Bereich handelte und mehr daran interessiert war, OpenAI zu schlagen, als an KI-Sicherheit. Musk nahestehende Personen behaupten hingegen, seine Sorgen um KI-Sicherheit seien echt und tiefgreifend, wie die Entwicklung von xAI als Alternative zu OpenAI zeige.
Wie dem auch sei, die Vertreibung des "Diktators" Musk war definitiv der erste Schritt zu Altmans Thronbesteigung.
Zweiter Schritt: Häutung und Streben nach Gewinnmaximierung
2019 erhielt OpenAI 1 Milliarde Dollar von Microsoft, um weiterhin "gute" KI zu entwickeln.
Wenn man 1 Milliarde Dollar erhält, muss man dem "Geldgeber" etwas zurückgeben, was einige Veteranen bereits misstrauisch machte.
Aber Altman war sehr flexibel - er hielt nicht am Ruf einer gemeinnützigen Organisation fest, sondern an ihrer Hülle.
Er schuf kreativ eine völlig neue Struktur. Einerseits konnte OpenAI wie ein normales Unternehmen operieren, z.B. Kapital beschaffen und Mitarbeiteraktien ausgeben; andererseits war die Rendite für OpenAI-Investoren begrenzt.
Im Wesentlichen wurde OpenAI zu einem gewinnorientierten Unternehmen, das von einem gemeinnützigen Vorstand kontrolliert wurde.
Das klang instabil, und interne Spaltungen begannen sich allmählich zu zeigen.
2021 sagte Dario Amodei bei der Gründung von Anthropic:
"Es gab eine Gruppe von Leuten bei OpenAI, die nach der Erschaffung von GPT-2 und GPT-3 zwei sehr starke Überzeugungen hatten. Erstens, dass diese Modelle umso besser werden würden, je mehr Rechenressourcen man in sie steckt, fast ohne Grenzen. Ich denke, diese Ansicht ist jetzt weiter verbreitet, aber wir waren die frühesten Gläubigen.
Der zweite Punkt war die Überzeugung, dass neben der Vergrößerung der Modelle noch etwas anderes nötig war, nämlich Ausrichtung oder Sicherheit. Denn allein durch mehr Rechenleistung kann man den Modellen keine Werte beibringen. Also haben wir mit dieser Idee unser eigenes Unternehmen gegründet."
Obwohl Anthropic "sicherer" erscheint und viel Arbeit in die Genauigkeit gesteckt hat. Zum Beispiel verwendet Anthropic viele komplexe Sachfragen, um bekannte Schwächen des Modells anzugehen, und teilt die Antworten in korrekte Antworten, falsche Antworten (Halluzinationen) und Eingeständnisse von "Ich weiß es nicht" ein. Dementsprechend kann Claude 3 ausdrücken, dass es die Antwort nicht weiß, anstatt falsche Informationen zu liefern. Neben genaueren Antworten kann Claude 3 sogar "zitieren" und auf präzise Sätze in Referenzmaterialien verweisen, um seine Antworten zu verifizieren.
Aber so wie OpenAI Microsoft etwas zurückgeben muss, muss Anthropic Amazon etwas zurückgeben. Es ist fast unmöglich, ein großes KI-Unternehmen auf ethische Weise zu führen.
Kürzlich wurde berichtet, dass Anthropic innerhalb von 24 Stunden Millionen von Websites abgegrast hat.
"Hinterfragen, verstehen, werden" ist vielleicht der unvermeidliche Weg für KI-Startups mit großen Sprachmodellen.
Dritter Schritt: Säuberung der Verräter und "Krönung"
Bei der Meuterei von Chenqiao wurde Song Taizu Zhao Kuangyin mitten in der Nacht im Schlaf von meuternden Soldaten heimlich der gelbe Kaisermantel übergeworfen. Am nächsten Tag nahm er schmerzlich den "Zwang" aller an. Es war der Inbegriff des Volkswillens.
Auch bei der OpenAI-Palastintrige im November letzten Jahres spielte sich eine "Silicon Valley-Version" der Krönung ab. Damals unterzeichneten Hunderte von OpenAI-Mitarbeitern einen offenen Brief, in dem sie den Rücktritt aller "verräterischen" Vorstandsmitglieder und die Wiedereinsetzung Altmans forderten. Andernfalls würden die Unterzeichner Maßnahmen ergreifen und "möglicherweise Altman und Brockman in ihrer neu gegründeten Microsoft-Tochtergesellschaft beitreten".
Dieses Ansehen und dieser Einfluss sind der Traum jedes CEOs.
Moment mal, es gibt noch eine andere Version der Geschichte.
Tatsächlich gab es bei diesem Sturm neben der "Herzensschlange" noch einen entscheidenden Faktor - Geld.
Kurz vor dem Putsch hatte OpenAI gerade eine Aktienverkaufsaktion für die Mitarbeiter organisiert, die allen die Möglichkeit gab, einen Teil ihrer Aktienoptionen zu Geld zu machen. Das Ergebnis: Bevor das Geld in der Hand war, wurde der Chef abgesetzt.
Einige Investoren erklärten, dass sie die Durchführung des Übernahmeangebots aussetzen würden, wenn Altman nicht zurückkehren würde. Die Aussicht, mit diesem Geld vorzeitig in den Ruhestand zu gehen, wurde plötzlich vom "Bösewicht" Ilya Sutskever zunichte gemacht! Wer wäre da nicht wütend?
Die Unterzeichnung der Petition war daher tatsächlich der Wille des Volkes. Und wenn 95% deiner Kollegen um dich herum unterschreiben, wirst du wahrscheinlich auch unterschreiben.
Was Ilya Sutskever's gescheiterten Putschversuch und erzwungenen Abgang betrifft, so lag das neben seinem mangelnden Verständnis für die menschliche Natur auch an Altmans extremer Fähigkeit zur Machtausübung, wie im Folgenden beschrieben.
2. Porträt des "neuen Königs": Autoritär, betrügerisch, profitgierig, laisser-faire
Zurück ins Jahr 2016. Damals war OpenAIs Büro Brockmans Privatwohnung - Sofa, Küchenschränke und sogar Betten dienten als Arbeitsplätze für die Mitarbeiter. An diesem unscheinbaren Ort versammelten sich 20 der weltweit führenden KI-Genies.
Damals waren Altman und Musk selten anwesend, es waren Brockman und Ilya Sutskever, die das Team zusammenhielten.
Ilya Sutskever war eine Führungsfigur im KI-Bereich, während Brockman als Stütze für OpenAIs Geschäftsbetrieb galt.
Mitarbeiter erinnern sich, wie sie mit Ilya Sutskever durch die Straßen von San Francisco spazierten und tiefgründig über Makrothemen diskutierten, sich fragten, ob sie auf dem richtigen Forschungsweg waren. Ilya Sutskever hatte eine zukunftsweisende Einsicht in KI; er konnte komplexe technische Konzepte mit einfachen Analogien erklären, wie den Vergleich neuronaler Netze mit einer speziellen Art von Computerprogramm oder Schaltkreis.
Schon bei der Gründung von OpenAI erkannte Ilya Sutskever, dass der große Durchbruch in der KI nicht von einer bestimmten Anpassung oder Erfindung kommen würde, sondern aus der Akkumulation riesiger Datenmengen, wie das ständige Zuführen von Treibstoff in einen Motor.
Aus genau diesem Grund konnte Ilya Sutskever, als Google 2017 das Transformer-Paper veröffentlichte, OpenAI rechtzeitig zur Erforschung und Anwendung der Transformer-Architektur führen und wurde zu einem der ersten Vorreiter in der Branche, die diese fortschrittliche Technologie übernahmen.
Brockmans Fleiß war allgemein bekannt. Ein ehemaliger Mitarbeiter erinnert sich, dass er jeden Morgen bei der Ankunft