Shulman sigue enfocado en la alineación de la IA
Para la renuncia de Shulman, Altman publicó en la red social X: "¡Gracias por todo lo que has hecho por OpenAI! Eres un investigador excepcional, con profundas reflexiones sobre productos y sociedad, y lo más importante, eres un gran amigo para todos nosotros. Te extrañaremos mucho y te haremos sentir orgulloso de este lugar.
(En 2015, conocí a John por primera vez en una cafetería en Berkeley. Dijo: "Por un lado, parece absurdo hablar de IA general ahora, pero por otro lado, creo que es muy razonable, y es por eso que creo que es importante hablar de ello". Luego enumeró partes importantes de la estrategia inicial de OpenAI. Tomó unos 15 minutos, y luego charlamos incómodamente por otros 45 minutos :))"
Shulman impulsó el llamado proceso de "post-entrenamiento" dentro de OpenAI, que implica el ajuste fino de los grandes modelos de lenguaje que impulsan productos como ChatGPT. Además, se hizo cargo de los miembros restantes del equipo de seguridad centrado en prevenir daños sociales causados por la IA - el equipo de "superalineación". Estos cambios de personal ocurren en el contexto de un rápido desarrollo del negocio de la empresa, posibles pérdidas significativas y rotación periódica de personal.
Por ejemplo, OpenAI recientemente reasignó a otro líder en el área de seguridad, Alexander Madry, a otros puestos. El cofundador de la empresa, Ilya Sutskever, que contribuyó enormemente a los grandes avances de la compañía, renunció recientemente y fundó una startup competidora. Otro cofundador, Andrej Karpathy, se fue en febrero y luego lanzó su propia startup educativa. OpenAI también contrató por primera vez a un director financiero y un director de producto, cuya incorporación puede haber afectado las responsabilidades de Peter Deng.
OpenAI está actualmente en un período de transición, posiblemente cambiando de una organización sin fines de lucro a una empresa con fines de lucro similar a Anthropic, y está entrenando su próxima generación de modelos de IA insignia. Además, OpenAI lanzó recientemente un motor de búsqueda y está desarrollando una IA destinada a automatizar tareas informáticas para los clientes.
Shulman anunció su renuncia en la plataforma social X. Dijo que quería enfocarse más en la alineación de la IA, volver al trabajo técnico real y decidió perseguir este objetivo en Anthropic. También enfatizó que no dejaba OpenAI por falta de apoyo a la investigación de alineación.
Aquí está el texto completo de la publicación de Shulman en la red social X:
Hoy, compartí lo siguiente con mis colegas en OpenAI:
He tomado la difícil decisión de dejar OpenAI. Hago esta elección porque quiero enfocarme más en la alineación de la IA y comenzar un nuevo capítulo en mi carrera donde pueda volver a hacer trabajo técnico real. He decidido perseguir este objetivo en Anthropic, donde creo que puedo obtener nuevas perspectivas y hacer investigación con personas que se sumergen profundamente en estos temas que más me interesan.
Para ser claro, no me voy por falta de apoyo a la investigación de alineación en OpenAI. Por el contrario, el liderazgo de la empresa ha estado muy comprometido con la inversión en esta área. Mi decisión es personal, basada en cómo quiero enfocarme en la próxima etapa de mi carrera.
Hace casi 9 años, me uní a OpenAI como parte del equipo fundador justo después de graduarme de la escuela de posgrado. Ha sido mi primera y única empresa, aparte de las prácticas. Y ha sido divertido. Agradezco a Sam y Greg por traerme al principio, y a Mira y Bob por su confianza en mí, lo que me brindó enormes oportunidades y me ayudó a navegar con éxito varios desafíos. Estoy orgulloso de lo que logramos juntos en OpenAI: construir una empresa extraordinaria y sin precedentes con una misión de beneficio público.
Confío en que OpenAI y los equipos en los que participé seguirán prosperando sin mí. El post-entrenamiento está en buenas manos, con una increíble profundidad de talento en el banco. He recibido demasiado crédito por ChatGPT, Barrett ha hecho un trabajo increíble construyendo el equipo en una capacidad formidable.
Me ha alegrado ver al equipo de alineación unirse, con algunos proyectos prometedores. Creo que el equipo estará muy bien liderado bajo Mira, Boaz y otros.
Estoy muy agradecido por la oportunidad de haber sido parte de un momento tan importante en la historia, y estoy orgulloso de lo que logramos juntos. Seguiré animándolos, incluso mientras trabajo en otro lugar.
Brockman continuará de licencia hasta fin de año
Aunque aparentemente no están relacionadas, las recientes licencias y renuncias no reportadas reflejan que el liderazgo de OpenAI aún no se ha estabilizado completamente desde que el CEO Altman fue despedido y recontratado en noviembre pasado. Brockman ha desempeñado un papel crucial en la empresa, transformando los grandes descubrimientos de los investigadores de IA en modelos y productos de IA a gran escala, como ChatGPT. También fue un importante partidario de Altman, especialmente durante su lucha por regresar a la empresa. Brockman indicó a los empleados que planea regresar al trabajo después de su larga licencia.
Brockman respondió a esto en la red social X diciendo: "Planeo tomar una licencia de un año hasta finales de este año. Esta es la primera vez que tengo la oportunidad de relajarme completamente desde que ayudé a fundar OpenAI hace nueve años. Sin embargo, nuestra ambiciosa misión aún no está completa: todavía necesitamos trabajar para desarrollar una tecnología de IA general segura y confiable."
Sin embargo, los fans no parecen convencidos por esta explicación de Brockman. Alguien mencionó al conocido científico de IA y cofundador de OpenAI, Andrej Karpathy, que se fue después de una larga licencia, "Sabemos lo que sucede después de una larga licencia... ejem."
Otro usuario de la red comparó con Musk: "Imagina si Musk le dijera a todos: Me tomaré 4 meses de vacaciones. El mundo realmente se acabaría."