Voici la traduction en français :
1. Prélude au "couronnement" : c'est une question de sécurité, mais pas seulement
Autrefois, il y avait la mafia PayPal, aujourd'hui il y a les rebelles d'OpenAI.
Selon les statistiques, près de 75 employés importants d'OpenAI ont déjà quitté l'entreprise pour créer environ 30 sociétés d'IA.
- Dario Amodei, ancien vice-président de la recherche, et sa sœur Daniela Amodei, ancienne vice-présidente de la sécurité et des politiques, ont fondé Anthropic, valorisée à 18 milliards de dollars ;
- Ilya Sutskever, ancien scientifique en chef, a fondé SSI, valorisée à 10 milliards de dollars ;
- David Luan, ancien vice-président de l'ingénierie, a fondé Adept AI (rachetée par Amazon), valorisée à plus d'un milliard de dollars ;
- Jonas Schneider, ancien responsable technique, a fondé la startup robotique Daedalus, valorisée à 40 millions de dollars ;
- Aravind Srinivas, ancien chercheur scientifique, a fondé Perplexity.AI, valorisée à 3 milliards de dollars ;
- Tim Shi, ancien technicien, a fondé la plateforme de service client IA Cresta AI, valorisée à 1,6 milliard de dollars ;
Parmi eux, Anthropic est devenu le principal rival d'OpenAI et un "refuge" pour les anciens employés ; Perplexity.AI est devenu le meilleur "wrapper" d'OpenAI et un challenger de la recherche Google...
Pour les chercheurs ordinaires, partir est une quête de meilleur développement ; mais pour les membres clés, en particulier l'équipe fondatrice, partir est essentiellement dû à des différences de vision.
Les représentants typiques sont Musk, les frères et sœurs Amodei, et Ilya Sutskever. Leurs affrontements avec Altman n'ont fait que consolider la position d'Altman chez OpenAI.
Première étape : renverser la "tyrannie" de Musk
En 2015, Google a acquis DeepMind. Musk et Luke Nosek, cofondateur de PayPal et fondateur de Founders Fund, ont proposé une offre d'achat concurrente, mais sans succès. Cela est devenu un regret persistant pour Musk.
Dans ce contexte, un Musk inquiet a participé à un dîner qui est entré dans l'histoire de la Silicon Valley. Environ dix personnalités éminentes étaient réunies, dont trois particulièrement brillantes - Altman, Ilya Sutskever et Greg Brockman.
Ils ont discuté avec Musk des conséquences potentiellement catastrophiques de l'IA et des conditions nécessaires pour créer un projet rivalisant avec celui de Google.
L'équipe de quatre pensait avoir tous les éléments pour réussir : Ilya Sutskever, élève brillant de Hinton, était un scientifique de l'IA ; Brockman, CTO de Stripe, était un expert opérationnel ; Sam Altman, PDG de YC, pouvait coordonner tous les éléments ; et Musk, fondateur de Tesla, avait l'argent.
Lors du dîner, Musk a promis d'investir 1 milliard de dollars et a proposé de nommer le projet OpenAI - qui fonctionnerait de manière non lucrative, se concentrant sur le développement d'une IA sûre et bénéfique pour l'humanité, plutôt que sur la recherche de profit.
En 2017, Google a publié son célèbre article sur les Transformers, révélant que la clé était de traiter de grandes quantités de données, ce qui nécessitait un énorme soutien en puissance de calcul (Ilya Sutskever avait déjà ce jugement au début de la création d'OpenAI).
Ainsi, OpenAI a commencé à manquer d'argent (Musk a fait don de 44 millions de dollars à OpenAI et a pris en charge le loyer).
Brockman et d'autres membres d'OpenAI ont suggéré de transformer l'organisation en une entité à but lucratif afin de lever des fonds auprès d'investisseurs comme Microsoft.
Au début, Musk s'y est fermement opposé. Mais quand il a réalisé la nécessité de créer une entité à but lucratif, il a voulu obtenir la majorité des actions, le contrôle initial du conseil d'administration et devenir PDG. Musk a même proposé de fusionner OpenAI avec Tesla. La raison était que Tesla était la seule entreprise ayant une chance de rivaliser avec Google.
Voyant que personne n'acceptait, Musk a commencé à persuader les chercheurs d'OpenAI de rejoindre Tesla.
Finalement, Musk, qui "faisait des siennes sans arrêt", a été évincé par un vote du conseil d'administration.
Avant de partir, il a même maudit OpenAI, disant que ses chances de vaincre DeepMind/Google étaient de 0%.
Cependant, des personnes proches d'Altman ont révélé que Musk était purement jaloux qu'Altman lui ait volé la vedette dans le domaine de l'IA, et qu'il était plus préoccupé par la façon de battre OpenAI que par la sécurité de l'IA. Les personnes proches de Musk insistent sur le fait que ses inquiétudes concernant la sécurité de l'IA sont réelles et profondes, comme le développement de xAI pour remplacer OpenAI.
Quoi qu'il en soit, se débarrasser du "dictateur" Musk était absolument la première étape du couronnement d'Altman.
Deuxième étape : se métamorphoser et maximiser les profits
En 2019, OpenAI a reçu 1 milliard de dollars de Microsoft pour continuer à développer une "bonne" IA.
Quand vous recevez 1 milliard de dollars, vous devez rendre des comptes à votre "mécène", ce qui a en fait déjà suscité des doutes chez certains vétérans.
Mais Altman était assez flexible - ne s'attachant pas à la réputation d'organisation à but non lucratif, mais s'attachant à la coquille d'une organisation à but non lucratif.
Il a créé de manière créative une toute nouvelle structure. D'une part, OpenAI pouvait fonctionner comme une entreprise ordinaire, par exemple en levant des fonds et en distribuant des actions aux employés ; d'autre part, le retour sur investissement des investisseurs d'OpenAI était plafonné.
Essentiellement, OpenAI est devenue une entreprise à but lucratif contrôlée par un conseil d'administration à but non lucratif.
Cela semblait instable, et les divisions au sein de l'équipe ont commencé à apparaître progressivement.
En 2021, lorsque Dario Amodei a fondé Anthropic, il a déclaré :
"Il y avait un groupe de personnes chez OpenAI qui, après que nous ayons créé GPT-2 et GPT-3, avaient de très fortes convictions sur deux choses. Premièrement, ils pensaient que plus on mettait de ressources de calcul dans ces modèles, meilleurs ils deviendraient, presque sans limite. Je pense que ce point de vue est maintenant plus largement accepté, mais nous étions parmi les premiers croyants.
Le deuxième point était qu'il fallait autre chose que simplement augmenter l'échelle des modèles, c'était l'alignement ou la sécurité. Parce que simplement augmenter les ressources de calcul ne pouvait pas dire aux modèles quelles étaient leurs valeurs. Donc nous avons gardé cette idée et avons fondé notre propre entreprise."
Bien qu'Anthropic semble plus "sûr" et ait mis beaucoup d'efforts dans la précision. Par exemple, Anthropic a utilisé de nombreuses questions factuelles complexes pour cibler les faiblesses connues du modèle, divisant les réponses en réponses correctes, réponses incorrectes (hallucinations) et reconnaissance de "ne pas savoir". En conséquence, Claude 3 peut indiquer qu'il ne connaît pas la réponse plutôt que de fournir des informations incorrectes. En plus de réponses plus précises, Claude 3 peut même "citer", pointant vers des phrases exactes dans les documents de référence pour vérifier leurs réponses.
Mais tout comme OpenAI doit rendre des comptes à Microsoft, Anthropic doit rendre des comptes à Amazon, et il est presque impossible de gérer une grande entreprise d'IA de manière éthique.
Récemment, Anthropic a été accusé d'avoir extrait des données de millions de sites Web en 24 heures, entre autres.
"Remettre en question, comprendre, devenir" est peut-être le chemin inévitable pour les startups de grands modèles.
Troisième étape : purger les traîtres et "revêtir la robe jaune"
Lors du coup d'État de Chenqiao, l'empereur Song Taizu Zhao Kuangyin dormait profondément la nuit lorsque les soldats rebelles lui ont secrètement mis une robe jaune sur le dos. Le lendemain, il a douloureusement accepté la "contrainte" de tous. C'était principalement une question de volonté du peuple.
Lors du coup de palais d'OpenAI en novembre dernier, une version "Silicon Valley" de la robe jaune a également été jouée. À l'époque, des centaines d'employés d'OpenAI ont signé une lettre ouverte exigeant que tous les membres "traîtres" du conseil d'administration démissionnent et que Altman soit réintégré, sinon les employés signataires prendraient des mesures, "pouvant rejoindre la nouvelle filiale créée par Altman et Brockman chez Microsoft".
Ce prestige et cette influence sont le rêve de tous les PDG.
Attendez, il y a une autre version de l'histoire.
En fait, en plus de la "file d'attente pour montrer son soutien", il y avait un autre facteur clé dans cette tempête - l'argent.
Juste avant l'incident du coup d'État, OpenAI venait d'organiser une vente d'actions pour les employés, leur donnant l'opportunité de monétiser une partie de leurs actions. Résultat, l'argent n'était pas encore entre leurs mains que le patron était déjà évincé.
Certains investisseurs ont indiqué que si Altman ne revenait pas, ils suspendraient l'exécution de l'offre publique d'achat. Imaginez voir cette somme d'argent pour une retraite anticipée soudainement compromise par le "grand méchant" Ilya Sutskever ! Qui ne serait pas en colère ?
Par conséquent, signer la pétition était vraiment la volonté du peuple. De plus, quand 95% de vos collègues autour de vous signent pour soutenir, vous êtes susceptible de signer aussi.
Quant à l'échec du coup d'État d'Ilya Sutskever et son départ forcé, en plus de ne pas bien comprendre la nature humaine, cela était également lié à la capacité extrêmement forte d'Altman à manipuler le pouvoir, comme détaillé ci-dessous.
2. Portrait du "nouveau roi" : autoritarisme, tromperie, profit et laisser-faire
Revenons en 2016. À l'époque, le bureau d'OpenAI était l'appartement privé de Brockman - canapé, armoires de cuisine, et même lits, tout servait de poste de travail pour les employés. Cet endroit insignifiant a réussi à rassembler 20 des plus grands génies de l'IA au monde.
À l'époque, Altman et Musk n'étaient pas souvent présents, c'étaient Brockman et Ilya Sutskever qui soutenaient l'équipe.
Ilya Sutskever était un leader dans le domaine de l'IA, tandis que Brockman était considéré comme le pilier des opérations commerciales d'OpenAI.
Les employés se souviennent avoir marché dans les rues de San Francisco avec Ilya Sutskever, discutant en profondeur de questions macro et se demandant s'ils étaient sur la bonne voie de recherche. Ilya Sutskever avait une perspicacité avancée sur l'IA, il pouvait expliquer des concepts techniques complexes avec des analogies simples, comme comparer les réseaux neuronaux à un type spécial de programme informatique ou de circuit.
Même au début d'OpenAI, Ilya Sutskever avait réalisé que le grand bond en avant de l'IA ne viendrait pas d'un ajustement spécifique ou d'une nouvelle invention, mais de l'accumulation de données massives, comme ajouter constamment du carburant à un moteur.
C'est aussi pour cette raison qu'en 2017, dès la publication de l'article de Google sur les Transformers, Ilya Sutskever a pu rapidement mener OpenAI à explorer et adopter l'architecture Transformer, devenant l'un des pionniers de l'industrie à adopter cette technologie avancée.
La diligence de Brockman était bien connue. Un ancien employé se souvient que chaque matin en arrivant