AI géant OpenAI : la concentration du pouvoir soulève des inquiétudes pour l'avenir

Les entreprises technologiques peuvent nécessiter l'impulsion d'un leader fort pour se développer.

Les turbulences de personnel chez OpenAI se poursuivent, le président Greg Brockman annonçant un congé prolongé. Greg est considéré comme un fervent partisan de Sam Altman, ayant fait front commun avec lui lorsque Sam a été évincé du conseil d'administration. Bien que Greg ait indiqué qu'il reviendrait dans l'entreprise après son congé, ce comportement suscite des spéculations sur d'autres possibilités.

De plus, deux cadres supérieurs clés auraient également démissionné :

  1. Le cofondateur Johnson Schulman - a brièvement dirigé l'équipe de sécurité, auparavant codirigée par l'ancien scientifique en chef Ilya Sutskever et le chercheur Jan Leike. Johnson a également dirigé le processus de post-formation des grands modèles de la série GPT, jouant un rôle clé dans la construction technique. Il est à noter qu'après son départ, il a directement rejoint Anthropic, le principal concurrent d'OpenAI.

  2. Le responsable produit Peter Deng - a rejoint OpenAI il y a moins d'un an et a déjà démissionné, suscitant des spéculations sur l'état de l'équipe d'OpenAI.

Après ces changements, seuls Sam Altman, Wojciech Zaremba et Greg Brockman (qui a annoncé un congé prolongé) restent dans l'entreprise parmi les 11 cofondateurs originaux d'OpenAI. Les autres membres fondateurs ont tous quitté l'équipe.

2024 marque la plus grande vague de départs de personnel vétéran qu'OpenAI ait connue depuis la controverse avec Musk. Les employés qui partent choisissent généralement de rejoindre des entreprises concurrentes (comme Deepmind et Anthropic) ou de créer leur propre entreprise. Cela a également donné naissance à ce qu'on appelle la "mafia OpenAI", avec près de 30 anciens employés créant leurs propres entreprises d'IA, dont certaines sont devenues des licornes.

Les trois personnes qui ont démissionné étaient des gestionnaires clés d'OpenAI, responsables du travail technique central de l'entreprise. Bien que leur départ puisse avoir un impact limité sur le développement actuel de nouveaux modèles, il a affecté le moral interne de l'équipe et la confiance extérieure en l'entreprise.

Un mot-clé dans ces événements de départ est "super-alignement". Le projet de super-alignement d'OpenAI a été lancé en juin 2023, visant à résoudre le problème de l'alignement des systèmes d'intelligence de niveau supérieur avec les objectifs humains. Cependant, ce projet semble être en conflit avec l'idéologie "accélérationniste efficace" favorisée par Sam Altman.

Après leur départ, Jan Leike et Johnson Schulman ont tous deux rejoint Anthropic, une entreprise fondée par Dario Amodei, ancien employé clé d'OpenAI. Le concept d'IA constitutionnelle promu par Anthropic présente des similitudes avec l'idée de super-alignement, mettant tous deux l'accent sur l'utilisation de systèmes d'IA pour superviser d'autres systèmes d'IA afin d'améliorer la sécurité et l'utilité de l'IA.

Ces départs reflètent les possibles divergences au sein d'OpenAI concernant la direction du développement de l'IA et les questions de sécurité, et ont suscité l'attention et la discussion du public sur le développement futur de l'entreprise.