AI gigante OpenAI: La concentración de poder genera preocupaciones futuras

Las empresas tecnológicas pueden necesitar el impulso de un líder fuerte para su desarrollo.

La agitación en el personal de OpenAI continúa, con el presidente Greg Brockman anunciando una licencia prolongada. Greg es considerado un firme partidario de Sam Altman, habiendo permanecido a su lado cuando Sam fue expulsado de la junta directiva. Aunque Greg afirma que volverá a la empresa después de su licencia, esta acción inevitablemente genera especulaciones sobre otras posibilidades.

Además, se ha revelado la salida de dos ejecutivos clave:

  1. El cofundador Johnson Schulman - Brevemente dirigió el equipo de seguridad, anteriormente liderado conjuntamente por el ex científico jefe Ilya Sutskever y el investigador Jan Leike. Johnson también lideró el proceso de post-entrenamiento de la serie de modelos GPT, siendo una figura clave en la construcción técnica. Es notable que después de su salida, se unió directamente al principal competidor de OpenAI, Anthropic.

  2. El jefe de producto Peter Deng - Se unió a OpenAI hace apenas un año y su rápida salida ha generado especulaciones sobre el estado del equipo de OpenAI.

Tras estos cambios, de los 11 cofundadores originales de OpenAI, solo quedan Sam Altman, Wojciech Zaremba y Greg Brockman (quien anunció una licencia prolongada) en la empresa. El resto de los miembros fundadores han dejado el equipo.

El 2024 se ha convertido en la mayor ola de cambios de personal veterano que OpenAI ha experimentado desde la controversia de Musk. Los empleados que se van suelen optar por unirse a empresas competidoras (como Deepmind y Anthropic) o iniciar sus propios negocios. Esto también ha dado lugar a la llamada "mafia OpenAI", con cerca de 30 ex empleados fundando sus propias empresas de IA, algunas de las cuales se han convertido en unicornios.

Los tres que se van son gestores clave de OpenAI, responsables del trabajo técnico central de la empresa. Aunque su salida puede tener un impacto directo limitado en el desarrollo actual de nuevos modelos, ha afectado la moral interna del equipo y la confianza externa en la empresa.

Una palabra clave en estos eventos de salida es "superalineación". El proyecto de superalineación de OpenAI se estableció en junio de 2023, con el objetivo de abordar la alineación de sistemas de inteligencia de nivel superior con los objetivos humanos. Sin embargo, este proyecto parece estar en conflicto con la idea de "aceleracionismo efectivo" que prefiere Sam Altman.

Tanto Jan Leike como Johnson Schulman se unieron a Anthropic después de dejar OpenAI, una empresa fundada por el ex empleado clave de OpenAI, Dario Amodei. El concepto de IA Constitucional promovido por Anthropic tiene similitudes con la idea de superalineación, enfatizando el uso de sistemas de IA para supervisar otros sistemas de IA, mejorando así la seguridad y utilidad de la IA.

Estos eventos de salida reflejan posibles desacuerdos dentro de OpenAI sobre la dirección del desarrollo de la IA y los problemas de seguridad, y también han generado atención y discusión externa sobre el futuro desarrollo de la empresa.