Shulman continue de se concentrer sur l'alignement de l'IA
Concernant le départ de Shulman, Altman a posté sur le réseau social X : "Merci pour tout ce que tu as fait pour OpenAI ! Tu es un chercheur exceptionnel, avec une réflexion profonde sur les produits et la société, et surtout, tu es un bon ami pour nous tous. Tu nous manqueras beaucoup et nous te rendrons fier de cet endroit.
(En 2015, j'ai rencontré John pour la première fois dans un café à Berkeley. Il a dit "D'un côté, parler d'IA générale maintenant semble absurde, mais de l'autre, je pense que c'est très raisonnable, c'est pourquoi je pense qu'il est important d'en parler." Puis il a énuméré des parties importantes de la stratégie initiale d'OpenAI. Cela a pris environ 15 minutes, puis nous avons maladroitement discuté pendant 45 minutes de plus :))"
Shulman a promu le processus dit de "post-formation" au sein d'OpenAI, qui implique un ajustement fin des grands modèles de langage qui alimentent des produits comme ChatGPT. De plus, il a pris en charge les membres restants de l'équipe de sécurité - l'équipe "super alignement" - qui se concentre sur la prévention des dommages sociaux causés par l'IA. Ces changements de personnel se produisent dans un contexte de développement rapide des activités de l'entreprise, de pertes potentiellement importantes et de rotation périodique du personnel.
Par exemple, OpenAI a récemment réaffecté un autre responsable de la sécurité, Alexander Madry, à d'autres postes. Le cofondateur de l'entreprise, Ilya Sutskever, qui a grandement contribué aux percées majeures de l'entreprise, est récemment parti pour créer une startup concurrente. Un autre cofondateur, Andrej Karpathy, est parti en février et a ensuite lancé sa propre startup éducative. OpenAI a également embauché pour la première fois un directeur financier et un directeur des produits, dont l'arrivée a pu avoir un impact sur les responsabilités de Peter Deng.
OpenAI est actuellement en transition, passant potentiellement d'une organisation à but non lucratif à une entreprise à but lucratif similaire à Anthropic, et forme actuellement sa prochaine génération de modèles d'IA phares. De plus, OpenAI a récemment lancé un moteur de recherche et développe une IA visant à automatiser les tâches informatiques pour les clients.
Shulman a annoncé son départ sur la plateforme sociale X. Il a déclaré qu'il souhaitait se concentrer davantage sur l'alignement de l'IA, revenir au travail technique pratique et a décidé de poursuivre cet objectif chez Anthropic. Il a également souligné que son départ d'OpenAI n'était pas dû à un manque de soutien pour la recherche sur l'alignement.
Voici le texte intégral du post de Shulman sur le réseau social X :
Aujourd'hui, j'ai partagé ce qui suit avec mes collègues d'OpenAI :
J'ai pris la difficile décision de quitter OpenAI. J'ai fait ce choix parce que je souhaite me concentrer davantage sur l'alignement de l'IA et commencer un nouveau chapitre de ma carrière où je peux reprendre le travail technique pratique. J'ai décidé de poursuivre cet objectif chez Anthropic, où je crois pouvoir acquérir de nouvelles perspectives et faire de la recherche avec des personnes qui approfondissent les sujets qui m'intéressent le plus.
Je tiens à préciser que je ne pars pas en raison d'un manque de soutien pour la recherche sur l'alignement chez OpenAI. Au contraire, la direction de l'entreprise a toujours été très engagée dans l'investissement dans ce domaine. Ma décision est personnelle, basée sur la façon dont je veux concentrer mes efforts dans la prochaine phase de ma carrière.
Il y a presque 9 ans, j'ai rejoint OpenAI en tant que membre de l'équipe fondatrice après avoir obtenu mon diplôme d'études supérieures. C'était la première et la seule entreprise pour laquelle j'ai travaillé, à part les stages. C'était aussi très amusant. Je suis reconnaissant à Sam et Greg de m'avoir recruté au début, et à Mira et Bob pour leur confiance en moi, qui m'a apporté d'énormes opportunités et m'a aidé à naviguer avec succès à travers divers défis. Je suis fier de ce que nous avons accompli ensemble chez OpenAI : construire une entreprise extraordinaire et sans précédent avec une mission pour le bien public.
J'ai confiance qu'OpenAI et les équipes auxquelles j'ai participé continueront à prospérer sans moi. La post-formation est entre de bonnes mains, avec une profondeur de banc incroyablement talentueuse. J'ai reçu trop de crédit pour ChatGPT, Barrett a fait un travail incroyable en construisant l'équipe jusqu'à des capacités indéniables.
J'ai été ravi de voir l'équipe d'alignement se rassembler, avec des projets prometteurs. Sous la direction de Mia, Boaz et d'autres, je crois que l'équipe sera très bien dirigée.
Je suis extrêmement reconnaissant d'avoir eu l'opportunité de participer à une partie si importante de l'histoire, et je suis fier de ce que nous avons accompli ensemble. Je continuerai à vous encourager, même en travaillant ailleurs.
Brockman continuera son congé jusqu'à la fin de l'année
Bien qu'apparemment sans rapport, les récents congés et départs non signalés reflètent le fait que la direction d'OpenAI n'est pas encore complètement stabilisée depuis le licenciement et le réengagement du PDG Altman en novembre dernier. Brockman a joué un rôle crucial dans l'entreprise, transformant les découvertes majeures des chercheurs en IA en modèles et produits d'IA à grande échelle, comme ChatGPT. Il a également été un important soutien d'Altman, en particulier lors de sa campagne pour revenir dans l'entreprise. Brockman a indiqué aux employés qu'il prévoyait de retourner au travail après son long congé.
Brockman a répondu à cela sur le réseau social X en disant : "Je prévois de prendre un congé d'un an jusqu'à la fin de cette année. C'est la première fois que j'ai l'occasion de vraiment me détendre depuis que j'ai participé à la fondation d'OpenAI il y a neuf ans. Cependant, notre mission ambitieuse n'est pas encore accomplie - nous devons encore nous consacrer au développement d'une technologie d'IA générale sûre et fiable."
Cependant, les fans ne semblent pas convaincus par cette explication de Brockman. Quelqu'un a mentionné Andrej Karpathy, un célèbre scientifique en IA et l'un des cofondateurs d'OpenAI, qui est parti après un long congé, en disant : "Nous savons ce qui se passe après un long congé... ahem."
Un autre internaute a fait une comparaison avec Musk : "Imaginez si Musk avait dit à tout le monde : je vais prendre 4 mois de congé. Le monde s'effondrerait vraiment."