AI gigante OpenAI: Concentração de poder gera preocupações futuras

A evolução das empresas de tecnologia pode exigir o impulso de um líder forte.

A turbulência de pessoal na OpenAI continua, com o presidente Greg Brockman anunciando uma licença prolongada. Greg é considerado um forte apoiador de Sam Altman, tendo se solidarizado com ele quando Sam foi expulso do conselho. Embora Greg afirme que retornará à empresa após a licença, essa ação levanta especulações sobre outras possibilidades.

Além disso, dois executivos-chave também deixaram a empresa:

  1. O cofundador Johnson Schulman - que brevemente liderou a equipe de segurança, anteriormente chefiada pelo ex-cientista-chefe Ilya Sutskever e pelo pesquisador Jan Leike. Johnson também liderou o processo de pós-treinamento da série de modelos GPT, sendo uma figura-chave na construção técnica. Notavelmente, ele se juntou diretamente à Anthropic, principal concorrente da OpenAI, após sua saída.

  2. O responsável pelo produto Peter Deng - que se juntou à OpenAI há menos de um ano e já saiu, gerando especulações externas sobre a situação da equipe da OpenAI.

Após essas mudanças, dos 11 cofundadores originais da OpenAI, apenas Sam Altman, Wojciech Zaremba e Greg Brockman (que anunciou licença prolongada) permanecem na empresa. Os demais membros fundadores já deixaram a equipe.

2024 tornou-se o maior período de mudanças de pessoal veterano que a OpenAI experimentou desde a controvérsia com Musk. Os funcionários que saem geralmente optam por se juntar a empresas concorrentes (como Deepmind e Anthropic) ou iniciar seus próprios empreendimentos. Isso também deu origem à chamada "máfia OpenAI", com cerca de 30 ex-funcionários fundando suas próprias empresas de IA, incluindo algumas unicórnios.

Os três que saíram eram gestores centrais da OpenAI, responsáveis pelo trabalho técnico central da empresa. Embora suas saídas possam ter impacto limitado no desenvolvimento imediato de novos modelos, afetaram o moral interno da equipe e a confiança externa na empresa.

Uma palavra-chave nos eventos de saída é "superalinhamento". O projeto de superalinhamento da OpenAI foi estabelecido em junho de 2023, visando resolver problemas de alinhamento entre sistemas de inteligência de nível superior e objetivos humanos. No entanto, este projeto parece estar em conflito com a filosofia de "aceleracionismo eficaz" preferida por Sam Altman.

Tanto Jan Leike quanto Johnson Schulman se juntaram à Anthropic após suas saídas, uma empresa fundada por Dario Amodei, ex-funcionário central da OpenAI. O conceito de IA Constitucional promovido pela Anthropic tem semelhanças com a ideia de superalinhamento, ambos enfatizando o uso de sistemas de IA para supervisionar outros sistemas de IA, visando aumentar a segurança e utilidade da IA.

Esses eventos de saída refletem possíveis divergências internas na OpenAI sobre a direção do desenvolvimento da IA e questões de segurança, e também despertaram atenção e discussão externas sobre o futuro desenvolvimento da empresa.