1. Preludio a la "coronación": Es un problema de seguridad, pero no solo de seguridad
Antiguamente estaba la mafia de PayPal, hoy están los rebeldes de OpenAI.
Según las estadísticas, cerca de 75 empleados importantes de OpenAI han renunciado y fundado alrededor de 30 empresas de IA.
- Dario Amodei, ex vicepresidente de investigación, y Daniela Amodei, ex vicepresidenta de seguridad y políticas, fundaron Anthropic, valorada en $18 mil millones.
- Ilya Sutskever, ex científico jefe, fundó SSI, valorada en $10 mil millones.
- David Luan, ex vicepresidente de ingeniería, fundó Adept AI (adquirida por Amazon), valorada en más de $1 mil millones.
- Jonas Schneider, ex responsable técnico, fundó la startup de robótica Daedalus, valorada en $40 millones.
- Aravind Srinivas, ex científico investigador, fundó Perplexity.AI, valorada en $3 mil millones.
- Tim Shi, ex técnico, fundó la plataforma de atención al cliente AI Cresta Al, valorada en $1.6 mil millones.
Entre ellas, Anthropic se ha convertido en el principal rival de OpenAI y "refugio" para ex empleados; Perplexity.AI se ha convertido en el mejor imitador de OpenAI y desafiante de Google Search...
Para los investigadores comunes, irse es buscar un mejor desarrollo; pero para los miembros centrales, especialmente el equipo fundador, irse es básicamente por diferencias de visión.
Representantes típicos son Musk, los hermanos Amodei e Ilya Sutskever. Sus enfrentamientos con Altman terminaron consolidando la posición de Altman en OpenAI.
Primer paso: Derrocar la "tiranía" de Musk
En 2015, Google adquirió DeepMind. Musk y Luke Nosek, cofundador de PayPal y fundador de Founders Fund, presentaron una oferta de compra, pero finalmente no tuvieron éxito. Esto se convirtió en un pesar persistente para Musk.
En este contexto, un preocupado Musk asistió a una cena que pasaría a la historia de Silicon Valley. En la mesa se reunieron unos diez personajes destacados, tres de los cuales brillaban especialmente: Altman, Ilya Sutskever y Greg Brockman.
Discutieron con Musk las posibles consecuencias catastróficas de la IA y las condiciones necesarias para establecer un proyecto que rivalizara con Google.
El equipo de cuatro creía tener todos los elementos para el éxito: Ilya Sutskever, alumno destacado de Hinton, era científico de IA; Brockman, CTO de Stripe, era un experto en operaciones; Sam Altman, CEO de YC, podía coordinar todos los elementos; y Musk, fundador de Tesla, tenía el dinero.
En la cena, Musk prometió invertir $1000 millones y propuso nombrar el proyecto OpenAI - operaría sin fines de lucro, enfocándose en desarrollar IA segura y beneficiosa para la humanidad, en lugar de buscar ganancias.
En 2017, Google publicó el famoso artículo sobre Transformer, revelando que la clave estaba en procesar grandes cantidades de datos, lo que requería un enorme poder computacional (Ilya Sutskever ya había llegado a esta conclusión al inicio de OpenAI).
Así, OpenAI comenzó a quedarse sin dinero (Musk había donado $44 millones a OpenAI y asumido el alquiler).
Brockman y otros miembros de OpenAI sugirieron convertir la organización en una entidad con fines de lucro para recaudar fondos de inversores como Microsoft.
Al principio, Musk se opuso firmemente. Pero cuando se dio cuenta de la necesidad de establecer una entidad con fines de lucro, quiso obtener la mayoría de las acciones, el control inicial de la junta directiva y ser el CEO. Musk incluso propuso fusionar OpenAI con Tesla, argumentando que Tesla era la única compañía con posibilidades de competir con Google.
Al ver que nadie aceptaba, Musk comenzó a persuadir a los investigadores de OpenAI para que se unieran a Tesla.
Finalmente, el "problemático" Musk fue expulsado por votación de la junta directiva.
Antes de irse, maldijo que OpenAI tenía 0% de probabilidades de vencer a DeepMind/Google.
Sin embargo, personas cercanas a Altman revelaron que Musk estaba simplemente celoso de que Altman le robara el protagonismo en el campo de la IA, y que estaba más interesado en cómo derrotar a OpenAI que en la seguridad de la IA. Personas cercanas a Musk insisten en que sus preocupaciones sobre la seguridad de la IA son genuinas y profundas, como lo demuestra el desarrollo de xAI para reemplazar a OpenAI.
Pero en cualquier caso, deshacerse del "dictador" Musk fue definitivamente el primer paso en la coronación de Altman.
Segundo paso: Metamorfosis y búsqueda de la máxima rentabilidad
En 2019, OpenAI recibió $1000 millones de Microsoft para continuar desarrollando IA "buena".
Cuando recibes $1000 millones, debes retribuir a tu "patrocinador", lo que ya hizo que algunos veteranos tuvieran dudas.
Pero Altman fue bastante flexible: no se aferró a la reputación de organización sin fines de lucro, sino a la cáscara de una organización sin fines de lucro.
Creó creativamente una estructura completamente nueva. Por un lado, OpenAI podía operar como una empresa normal, por ejemplo, recaudando fondos y otorgando acciones a los empleados; por otro lado, el retorno para los inversores de OpenAI tenía un límite.
En esencia, OpenAI se convirtió en una empresa con fines de lucro controlada por una junta directiva sin fines de lucro.
Esto sonaba inestable, y las divisiones dentro del equipo comenzaron a aparecer gradualmente.
En 2021, cuando Dario Amodei fundó Anthropic, dijo:
"Había un grupo de personas dentro de OpenAI que, después de crear GPT-2 y GPT-3, tenían creencias muy fuertes sobre dos cosas. Una era que cuantos más recursos computacionales se invirtieran en estos modelos, mejor se volverían, casi sin límite. Creo que ahora esta visión es más ampliamente aceptada, pero nosotros fuimos de los primeros creyentes.
El segundo punto era que se necesitaba algo más que simplemente aumentar el tamaño del modelo, y eso era alineación o seguridad. Porque simplemente aumentar los recursos computacionales no le dice al modelo cuáles son sus valores. Así que mantuvimos esta idea y fundamos nuestra propia compañía."
Aunque Anthropic parece más "segura" y ha puesto mucho esfuerzo en la precisión. Por ejemplo, Anthropic utilizó una gran cantidad de preguntas factuales complejas para abordar las debilidades conocidas del modelo, clasificando las respuestas en correctas, incorrectas (alucinaciones) y admisiones de "no sé". En consecuencia, Claude 3 puede indicar que no conoce una respuesta en lugar de proporcionar información incorrecta. Además de respuestas más precisas, Claude 3 incluso puede "citar", señalando oraciones exactas en el material de referencia para verificar sus respuestas.
Pero así como OpenAI debe retribuir a Microsoft, Anthropic también debe retribuir a Amazon, y es casi imposible dirigir una gran empresa de IA de manera ética.
Recientemente, se reveló que Anthropic extrajo datos de millones de sitios web en 24 horas, entre otras cosas.
"Cuestionar, entender, convertirse" podría ser el camino necesario para las startups de modelos grandes.
Tercer paso: Purgar a los traidores y "vestir el manto amarillo"
En el motín de Chenqiao, el emperador fundador de la dinastía Song, Zhao Kuangyin, fue vestido secretamente con un manto amarillo por los soldados amotinados mientras dormía profundamente en medio de la noche. Al día siguiente, aceptó dolorosamente la "coacción" de todos. Principalmente, era la voluntad del pueblo.
Y en la lucha por el poder de OpenAI en noviembre pasado, también se escenificó una versión de Silicon Valley de "vestir el manto amarillo". En ese momento, cientos de empleados de OpenAI firmaron una carta conjunta exigiendo que todos los miembros "traidores" de la junta renunciaran y se restaurara la posición de Altman, de lo contrario los empleados que firmaron la carta tomarían medidas, "posiblemente uniéndose a la nueva subsidiaria de Microsoft fundada por Altman y Brockman".
Este prestigio e influencia es el sueño de todos los CEO.
Espera, hay otra versión de la historia.
En realidad, en este incidente, además de la "fila de corazones", hubo otro factor clave: el dinero.
Justo antes del incidente de la rebelión, OpenAI acababa de organizar una venta de acciones para los empleados, dándoles la oportunidad de monetizar parte de su participación. Como resultado, el dinero aún no había llegado a sus manos cuando el jefe fue derrocado.
Algunos inversores indicaron que si Altman no regresaba, suspenderían la ejecución de la oferta de compra. ¡Imagina que estabas a punto de jubilarte anticipadamente con este dinero, y de repente el "villano" Ilya Sutskever lo arruina todo! Cualquiera se enojaría.
Por lo tanto, firmar la petición fue realmente la voluntad del pueblo. Además, cuando el 95% de tus colegas a tu alrededor firman en apoyo, es muy probable que tú también firmes.
En cuanto al fracaso de Ilya Sutskever en el intento de derrocamiento y su posterior salida forzada, además de no entender muy bien la naturaleza humana, también tiene que ver con la extrema habilidad de Altman para manipular el poder, específicamente como sigue.
2. Retrato del "nuevo rey": Autoritarismo, engaño, búsqueda de ganancias y permisividad
Volvamos a 2016. En ese momento, la oficina de OpenAI era el apartamento privado de Brockman: sofás, armarios de cocina e incluso camas eran estaciones de trabajo para los empleados. Este lugar poco llamativo reunió a 20 de los mejores genios de la IA del mundo.
En ese entonces, Altman y Musk no estaban presentes con frecuencia, eran Brockman e Ilya Sutskever quienes mantenían unido al equipo.
Ilya Sutskever era una figura líder en el campo de la IA, mientras que Brockman era considerado el pilar de las operaciones comerciales de OpenAI.
Los empleados recuerdan haber caminado por las calles de San Francisco con Ilya Sutskever, discutiendo temas macro en profundidad, preguntándose si estaban en el camino de investigación correcto. Ilya Sutskever tenía una visión avanzada de la IA, podía explicar conceptos técnicos complejos usando analogías simples, como comparar las redes neuronales con un tipo especial de programa de computadora o circuito.
Incluso al inicio de OpenAI, Ilya Sutskever se dio cuenta de que el gran salto en IA no vendría de un ajuste específico o una nueva invención, sino de la acumulación de datos masivos, como seguir alimentando combustible a un motor.
Fue por esta razón que en 2017, tan pronto como se publicó el artículo de Google sobre Transformer, Ilya Sutskever pudo liderar oportunamente a OpenAI para explorar y adoptar la arquitectura Transformer, convirtiéndose en uno de los pioneros de la industria en adoptar esta tecnología avanzada.
La diligencia de Brockman era bien conocida. Un ex empleado recuerda que cada mañana al llegar