1. Prelúdio à "Coroação": É uma questão de segurança, mas não é só segurança
Antigamente havia a gangue do PayPal, hoje há os rebeldes da OpenAI.
De acordo com estatísticas, cerca de 75 funcionários importantes da OpenAI já saíram e fundaram cerca de 30 empresas de IA.
- Dario Amodei, ex-vice-presidente de pesquisa, e sua irmã Daniela Amodei, ex-vice-presidente de segurança e política, fundaram a Anthropic, avaliada em 18 bilhões de dólares;
- Ilya Sutskever, ex-cientista-chefe, fundou a SSI, avaliada em 10 bilhões de dólares;
- David Luan, ex-vice-presidente de engenharia, fundou a Adept AI (adquirida pela Amazon), avaliada em mais de 1 bilhão de dólares;
- Jonas Schneider, ex-responsável técnico, fundou a startup de robótica Daedalus, avaliada em 40 milhões de dólares;
- Aravind Srinivas, ex-cientista de pesquisa, fundou a Perplexity.AI, avaliada em 3 bilhões de dólares;
- Tim Shi, ex-técnico, fundou a plataforma de atendimento ao cliente AI Cresta Al, avaliada em 1,6 bilhão de dólares;
Entre elas, a Anthropic se tornou a principal rival da OpenAI e um "refúgio" para ex-funcionários; a Perplexity.AI se tornou a melhor "imitadora" da OpenAI e desafiante do Google Search...
Para pesquisadores comuns, sair é buscar um desenvolvimento melhor; mas para membros centrais, especialmente a equipe fundadora, sair é basicamente devido a diferenças de visão.
Representantes típicos são Elon Musk, os irmãos Amodei e Ilya Sutskever. Suas disputas com Altman acabaram por consolidar a posição de Altman na OpenAI.
Primeiro passo: derrubar a "tirania" de Musk
Em 2015, o Google adquiriu a DeepMind. Musk e Luke Nosek, co-fundador do PayPal e fundador do Founders Fund, apresentaram uma proposta de compra conjunta, mas não tiveram sucesso. Isso se tornou um arrependimento persistente para Musk.
Nesse contexto, um Musk preocupado participou de um jantar que entrou para a história do Vale do Silício. O jantar reuniu cerca de dez figuras proeminentes, três das quais se destacavam: Altman, Ilya Sutskever e Greg Brockman.
Eles discutiram com Musk as possíveis consequências catastróficas da IA e as condições necessárias para estabelecer um projeto que rivalizasse com o do Google.
A equipe de quatro acreditava ter todos os elementos para o sucesso: Ilya Sutskever, aluno favorito de Hinton, era cientista de IA; Brockman, CTO da Stripe, era um especialista em operações; Sam Altman, CEO da YC, poderia coordenar todos os elementos; e Musk, fundador da Tesla, tinha o dinheiro.
No jantar, Musk prometeu investir 1 bilhão de dólares e sugeriu nomear o projeto como OpenAI - que operaria de forma não lucrativa, focada em desenvolver IA segura e benéfica para a humanidade, em vez de buscar lucros.
Em 2017, o Google publicou o famoso artigo sobre Transformers, revelando que a chave estava em processar grandes quantidades de dados, o que exigia enorme poder computacional (Ilya Sutskever já tinha essa percepção no início da fundação da OpenAI).
Assim, a OpenAI começou a ficar sem dinheiro (Musk doou um total de 44 milhões de dólares para a OpenAI e assumiu o aluguel).
Brockman e outros membros da OpenAI sugeriram transformar a organização em uma entidade com fins lucrativos para levantar fundos de investidores como a Microsoft.
Inicialmente, Musk se opôs firmemente. Mas quando percebeu a necessidade de estabelecer uma entidade com fins lucrativos, quis obter a maioria das ações, o controle inicial do conselho e se tornar CEO. Musk até propôs fundir a OpenAI com a Tesla, argumentando que a Tesla era a única empresa com chances de rivalizar com o Google.
Vendo que ninguém concordava, Musk começou a persuadir os pesquisadores da OpenAI a se mudarem para a Tesla.
Finalmente, o "problemático" Musk foi votado para fora do conselho.
Antes de sair, ele ainda amaldiçoou a OpenAI, dizendo que a probabilidade de vencer a DeepMind/Google era 0%.
No entanto, pessoas próximas a Altman revelaram que Musk estava puramente com ciúmes de Altman por roubar seus holofotes na área de IA, e que ele estava mais preocupado em derrotar a OpenAI do que com a segurança da IA. Pessoas próximas a Musk insistem que suas preocupações com a segurança da IA são genuínas e profundas, como o desenvolvimento da xAI para substituir a OpenAI.
Mas de qualquer forma, expulsar o "ditador" Musk foi definitivamente o primeiro passo para a ascensão de Altman ao trono.
Segundo passo: Metamorfose para maximizar os lucros
Em 2019, a OpenAI recebeu 1 bilhão de dólares da Microsoft para continuar desenvolvendo IA "boa".
Quando você recebe 1 bilhão de dólares, você deve retornar ao "patrono", o que na verdade já deixou alguns veteranos desconfiados.
Mas Altman foi bastante flexível - não se apegando à reputação de organização sem fins lucrativos, mas mantendo a casca de uma organização sem fins lucrativos.
Ele criou criativamente uma estrutura totalmente nova. Por um lado, a OpenAI poderia operar como uma empresa normal, levantando fundos e distribuindo ações aos funcionários; por outro lado, o retorno dos investidores da OpenAI tinha um limite.
Essencialmente, a OpenAI se tornou uma empresa com fins lucrativos controlada por um conselho sem fins lucrativos.
Isso soa instável, e as divisões internas da equipe começaram a aparecer gradualmente.
Em 2021, quando Dario Amodei fundou a Anthropic, ele disse:
"Havia um grupo de pessoas na OpenAI que, depois de criarmos o GPT-2 e o GPT-3, tinham crenças muito fortes sobre duas coisas. Primeiro, acreditavam que quanto mais recursos computacionais fossem colocados nesses modelos, melhor eles ficariam, quase sem limites. Acho que essa visão é mais amplamente aceita agora, mas fomos os primeiros a acreditar nisso.
O segundo ponto era a crença de que era necessário algo além de simplesmente aumentar a escala do modelo, que era o alinhamento ou segurança. Porque apenas aumentar os recursos computacionais não diz aos modelos quais são seus valores. Então, mantivemos essa ideia e fundamos nossa própria empresa."
Embora a Anthropic pareça mais "segura" e tenha se esforçado muito em termos de precisão. Por exemplo, a Anthropic usou muitas perguntas factuais complexas para abordar as fraquezas conhecidas do modelo, dividindo as respostas em corretas, incorretas (alucinações) e admitindo "não saber". Correspondentemente, o Claude 3 pode indicar que não sabe a resposta, em vez de fornecer informações incorretas. Além de respostas mais precisas, o Claude 3 pode até "citar", apontando para frases exatas nos materiais de referência para verificar suas respostas.
Mas assim como a OpenAI retorna à Microsoft, a Anthropic também deve retornar à Amazon, e é quase impossível operar uma grande empresa de IA de maneira ética.
Recentemente, a Anthropic foi exposta por rastrear dados de milhões de sites em 24 horas, entre outras coisas.
"Questionar, entender, tornar-se" pode ser o caminho necessário para startups de modelos grandes.
Terceiro passo: Purgar os traidores e "vestir o manto amarelo"
Na rebelião de Chenqiao, o Imperador Taizu dos Song, Zhao Kuangyin, foi secretamente vestido com um manto amarelo pelos soldados rebeldes enquanto dormia profundamente à noite. No dia seguinte, ele aceitou dolorosamente a "coerção" de todos. O foco principal era a vontade do povo.
E na luta pelo poder da OpenAI em novembro passado, também ocorreu uma versão do Vale do Silício de "vestir o manto amarelo". Na época, centenas de funcionários da OpenAI assinaram uma carta conjunta exigindo que todos os membros "traidores" do conselho renunciassem e restaurassem a posição de Altman, caso contrário, os funcionários que assinaram a carta tomariam medidas, "possivelmente se juntando à nova subsidiária de Altman e Brockman na Microsoft".
Esse prestígio e influência são simplesmente o sonho de todos os CEOs.
Espere, há outra versão da história.
Na verdade, além da "fila de apoio", houve outro fator crucial nessa turbulência - dinheiro.
Pouco antes do incidente de destituição, a OpenAI havia acabado de organizar uma venda de ações para os funcionários, dando a todos a oportunidade de realizar parte de suas participações. Como resultado, o dinheiro ainda não havia chegado às mãos quando o chefe foi derrubado.
Alguns investidores indicaram que suspenderiam a execução da oferta de aquisição se Altman não retornasse. Imagine a perspectiva de se aposentar antecipadamente com esse dinheiro, apenas para ser arruinada pelo "vilão" Ilya Sutskever! Quem não ficaria irritado?
Portanto, assinar a petição foi realmente a vontade do povo. Além disso, quando 95% de seus colegas ao seu redor assinam em apoio, você provavelmente também assinaria.
Quanto ao fracasso de Ilya Sutskever em tomar o poder e sua subsequente saída forçada, além de não entender muito bem a natureza humana, também está relacionado à extrema habilidade de Altman em manipular o poder, como detalhado a seguir.
2. Retrato do "novo rei": Autoritarismo, engano, busca por lucro e permissividade
Voltemos a 2016. Na época, o escritório da OpenAI era o apartamento particular de Brockman - sofás, armários de cozinha e até camas eram estações de trabalho dos funcionários. Este lugar despretensioso reuniu 20 dos maiores gênios da IA do mundo.
Na época, Altman e Musk não estavam frequentemente presentes, eram Brockman e Ilya Sutskever que sustentavam a equipe.
Ilya Sutskever era uma figura líder no campo da IA, enquanto Brockman era visto como o pilar das operações de negócios da OpenAI.
Os funcionários lembram que costumavam caminhar pelas ruas de São Francisco com Ilya Sutskever, discutindo profundamente questões macro e se perguntando se estavam no caminho certo de pesquisa. Ilya Sutskever tinha uma visão avançada sobre IA, ele podia explicar conceitos técnicos complexos usando analogias simples, como comparar redes neurais a um tipo especial de programa de computador ou circuito.
Mesmo no início da fundação da OpenAI, Ilya Sutskever percebeu que o grande salto da IA não viria de um ajuste específico ou nova invenção, mas da acumulação de dados massivos, como continuamente injetando combustível em um motor.
Foi por essa razão que em 2017, assim que o artigo do Google sobre Transformers foi publicado, Ilya Sutskever pôde liderar prontamente a OpenAI na exploração e adoção da arquitetura Transformer, tornando-se um dos pioneiros na indústria a adotar essa tecnologia avançada.
A diligência de Brockman era bem conhecida. Um ex-funcionário lembra que toda manhã ao chegar