Shulman continua focado no alinhamento da IA
Sobre a saída de Shulman, Altman postou na rede social X: "Obrigado por tudo que você fez pela OpenAI! Você é um pesquisador excepcional, com profundas reflexões sobre produtos e sociedade e, acima de tudo, um grande amigo para todos nós. Sentiremos muito sua falta e esperamos deixá-lo orgulhoso deste lugar.
(Em 2015, conheci John pela primeira vez em um café em Berkeley. Ele disse: 'Por um lado, parece absurdo falar sobre IA geral agora, mas por outro, acho que é muito razoável, e é por isso que acho importante falar sobre isso.' Então ele listou partes importantes da estratégia inicial da OpenAI. Isso levou cerca de 15 minutos, e depois conversamos desajeitadamente por mais 45 minutos :))"
Shulman liderou internamente na OpenAI o chamado processo de "pós-treinamento", que envolve o ajuste fino dos grandes modelos de linguagem que alimentam produtos como o ChatGPT. Além disso, ele assumiu os membros remanescentes da equipe de segurança focada em prevenir danos sociais causados pela IA - a equipe de "superalinhamento". Essas mudanças de pessoal ocorrem em um contexto de rápida expansão dos negócios da empresa, possíveis grandes perdas e rotatividade cíclica de pessoal.
Por exemplo, a OpenAI recentemente transferiu outro líder de segurança, Alexander Madry, para outras funções. O cofundador da empresa, Ilya Sutskever, que contribuiu significativamente para os grandes avanços da empresa, saiu recentemente para fundar uma startup concorrente. Outro cofundador, Andrej Karpathy, saiu em fevereiro e depois lançou sua própria startup educacional. A OpenAI também contratou seu primeiro diretor financeiro e diretor de produto, cujas entradas podem ter afetado as responsabilidades de Peter Deng.
A OpenAI está atualmente em um período de transição, possivelmente mudando de uma organização sem fins lucrativos para uma empresa com fins lucrativos semelhante à Anthropic, e está treinando sua próxima geração de modelo de IA principal. Além disso, a OpenAI lançou recentemente um mecanismo de busca e está desenvolvendo uma IA destinada a automatizar tarefas de computador para clientes.
Shulman anunciou sua saída na plataforma social X. Ele disse que deseja focar mais no alinhamento da IA, retornar ao trabalho técnico prático e decidiu perseguir esse objetivo na Anthropic. Ele também enfatizou que não está deixando a OpenAI por falta de apoio à pesquisa de alinhamento.
Aqui está o texto completo do post de Shulman na mídia social X:
Hoje, compartilhei o seguinte com meus colegas na OpenAI:
Tomei a difícil decisão de deixar a OpenAI. Fiz essa escolha porque quero focar ainda mais no alinhamento da IA e iniciar um novo capítulo na minha carreira onde posso voltar ao trabalho técnico prático. Decidi perseguir esse objetivo na Anthropic, onde acredito que posso ganhar novas perspectivas e fazer pesquisas com pessoas profundamente envolvidas nos tópicos que mais me interessam.
Para esclarecer, não estou saindo por falta de apoio à pesquisa de alinhamento na OpenAI. Pelo contrário, a liderança da empresa tem sido muito comprometida em investir nessa área. Minha decisão é pessoal, baseada em como quero focar meus esforços na próxima fase da minha carreira.
Há quase 9 anos, entrei na OpenAI como parte da equipe fundadora logo após me formar na pós-graduação. Foi a primeira e única empresa para a qual trabalhei, exceto estágios. E foi divertido. Sou grato a Sam e Greg por me trazerem de volta no início, e a Mira e Bob por sua confiança em mim, trazendo grandes oportunidades e me ajudando a navegar com sucesso por vários desafios. Estou orgulhoso do que alcançamos juntos na OpenAI: construir uma empresa extraordinária e sem precedentes com uma missão de benefício público.
Estou confiante de que a OpenAI e as equipes das quais fiz parte continuarão a prosperar sem mim. O pós-treinamento está em boas mãos, com uma incrível profundidade de talento. Recebi muito crédito pelo ChatGPT, mas Barrett fez um trabalho incrível construindo a equipe em uma capacidade incrível.
Fiquei muito feliz em ver a equipe de alinhamento se unir, com alguns projetos promissores. Sob a liderança de Mira, Boaz e outros, acredito que a equipe estará em mãos muito capazes.
Sou muito grato por ter tido a oportunidade de participar de uma parte tão importante da história e estou orgulhoso do que alcançamos juntos. Continuarei torcendo por vocês, mesmo trabalhando em outro lugar.
Brockman continuará de licença até o final do ano
Embora aparentemente não relacionadas, as recentes licenças e saídas não relatadas refletem que a liderança da OpenAI ainda não se estabilizou completamente desde que o CEO Altman foi demitido e recontratado em novembro passado. Brockman desempenhou um papel crucial na empresa, transformando grandes descobertas de pesquisadores de IA em modelos e produtos de IA em grande escala, como o ChatGPT. Ele também foi um importante apoiador de Altman, especialmente durante o processo de seu retorno à empresa. Brockman informou aos funcionários que planeja retornar ao trabalho após sua longa licença.
Brockman respondeu a isso na mídia social X: "Planejo tirar uma licença de um ano até o final deste ano. Esta é a primeira vez que tenho a oportunidade de relaxar completamente desde que ajudei a fundar a OpenAI há nove anos. No entanto, nossa missão ambiciosa ainda não está concluída - ainda precisamos nos dedicar ao desenvolvimento de uma tecnologia de IA geral segura e confiável."
No entanto, os fãs não parecem convencidos com essa explicação de Brockman. Alguém mencionou o renomado cientista de IA e cofundador da OpenAI, Andrej Karpathy, que saiu após uma longa licença, dizendo: "Sabemos o que acontece após longas licenças... ahem."
Outro usuário da internet fez uma comparação com Musk: "Imagine Musk dizendo a todos: vou tirar 4 meses de folga. O mundo realmente acabaria."