100 mil GPUs da NVIDIA, equivalente a Musk construindo uma "Grande Muralha de chips" no mundo da IA, em comparação com as 25.000 GPUs usadas pela OpenAI para treinar o GPT-4, um aumento de 4 vezes na quantidade.
Vale mencionar que este maior centro de supercomputação do mundo começou a construção apenas em março deste ano, com conclusão planejada para 2025, mas surpreendentemente foi concluído em apenas quatro meses.
O lançamento oficial do centro de supercomputação marcará o início da contraofensiva de Musk contra a OpenAI.
Um centro de supercomputação de custo astronômico
A razão fundamental para Musk construir o centro de supercomputação é treinar o chatbot Grok da xAI.
Musk fundou a xAI em julho de 2023, com membros fundadores principais vindos de empresas renomadas como OpenAI, Google DeepMind, Microsoft Research e Tesla. Para competir diretamente com o ChatGPT, Musk dedicou a maior parte de sua energia nos últimos dois anos à xAI.
Para garantir a implementação do centro de supercomputação, Musk declarou publicamente que ele pessoalmente supervisionaria o desenvolvimento deste supercomputador.
Para construir um centro de supercomputação, a localização é sem dúvida crucial.
Segundo a Forbes, a equipe de Musk negociou com sete ou oito cidades antes de finalmente decidir por Memphis, Tennessee, em março, pois Memphis ofereceria energia elétrica abundante e capacidade de construção rápida.
Vale mencionar que o centro de supercomputação requer muitos recursos. Além do hardware básico como chips NVIDIA, a fábrica pode usar até 150 megawatts de eletricidade por hora, equivalente ao consumo de 100.000 residências, o que pode ser um enorme fardo para a área local.
Além dos recursos elétricos, estima-se que o centro de supercomputação precise de 1,3 milhão de galões de água por dia para resfriamento, o que significa extrair diariamente da principal fonte de água de Memphis.
Isso também provocou insatisfação entre os cidadãos de Memphis e organizações ambientais, que emitiram uma carta aberta de protesto: "Devemos considerar como uma indústria que usa tanta energia afetará ainda mais as comunidades já sufocadas pela poluição e altos encargos energéticos."
Para concluir o projeto, a xAI prometeu melhorar a infraestrutura pública de Memphis para apoiar o desenvolvimento do centro de supercomputação, incluindo a construção de uma nova subestação e uma instalação de tratamento de águas residuais.
Pode-se dizer que Musk pagou um preço astronômico pelo centro de supercomputação. Estimando os custos, 100.000 NVIDIA H100 custam entre 30.000 e 40.000 dólares cada, totalizando 4 bilhões de dólares (equivalente a mais de 29 bilhões de yuans).
O enorme investimento financeiro é demais até para Musk, o "homem mais rico do mundo", então ele se uniu à Dell e à Supermicro para construir o cluster, e obteve recursos de 24.000 H100 da Oracle.
Apesar do enorme custo financeiro, Musk continua firme em promover a construção do centro de supercomputação. Ele resumiu em uma frase em sua plataforma social:
"Precisamos ter o controle do volante."
xAI com valor superior a 130 bilhões
É inegável que Musk deu tudo de si para que a xAI alcançasse a OpenAI.
Com a aura do homem mais rico do mundo, a xAI, fundada apenas em julho de 2023, com apenas um ano de idade, já tem o capital e a confiança para desafiar a OpenAI.
Em 13 de abril deste ano, a xAI lançou seu primeiro modelo multimodal, o Grok-1.5V. Além das funcionalidades de texto, o Grok agora pode processar vários tipos de informações visuais, incluindo documentos, gráficos, tabelas, capturas de tela, fotos, e pode realizar raciocínio multidisciplinar.
Com o nascimento do Grok-1.5V, a xAI se tornou muito procurada no mercado de capitais.
Em 26 de maio, a xAI anunciou a conclusão de um financiamento de 6 bilhões de dólares, avaliando a empresa em 24 bilhões de dólares (aproximadamente 173,8 bilhões de yuans). Os investidores desta rodada são poderosos, incluindo a renomada empresa de capital de risco do Vale do Silício Sequoia Capital e Andreessen Horowitz, além de um fundo de investimento com estreitas ligações com a família real saudita.
A OpenAI recebeu um total de 14,3 bilhões de dólares em financiamento nos últimos dez anos, enquanto a xAI levantou 6 bilhões de dólares em apenas 10 meses, equivalente à metade do financiamento da OpenAI em uma década.
Este é também um dos maiores financiamentos únicos na história do setor de modelos de linguagem grandes, superando os 4 bilhões recebidos pela Anthropic em 12 de setembro de 2023 e os 2 bilhões de dólares em 28 de outubro, bem como os 1,3 bilhão de dólares recebidos pela InflectionAI em 30 de junho de 2023, ficando atrás apenas da OpenAI e Anthropic em termos de financiamento total.
O fato de a xAI ter obtido o maior financiamento na história do setor de IA naturalmente não pode ser separado da aura de Musk. Especialmente as outras empresas do império comercial de Musk ajudaram muito a xAI.
Segundo relatos da mídia, no início da fundação da xAI, a Tesla enviou cerca de 50 engenheiros de software para ajudar em tarefas como revisão de código. Alguns engenheiros da Tesla até se juntaram diretamente à xAI. Ao mesmo tempo, os vídeos capturados pelas numerosas câmeras e outros sensores equipados nos carros da Tesla podem fornecer entrada de dados em tempo real para o modelo da xAI, ajudando em seu treinamento.
A famosa plataforma social X, de propriedade de Musk, também pode fornecer grandes quantidades de dados gerados por humanos para a xAI. Esses dados são recursos ideais para treinar sistemas de inteligência artificial sobre como interagir melhor com os humanos.
A combinação de todas essas vantagens resultou no nascimento de um unicórnio de IA avaliado em 24 bilhões de dólares em apenas um ano, capaz de competir com a OpenAI em termos de financiamento, dados e chips.
Em 1º de julho, Musk declarou publicamente em sua plataforma social que o próximo passo da xAI é limpar os dados de treinamento da internet dos modelos de linguagem grandes, com planos de lançar a próxima versão atualizada, Grok-2, em agosto.
Acredita-se que no próximo mês poderemos ver a grande batalha entre Grok-2 e GPT-4.
A guerra por talentos no mundo da IA
Além de financiamento e chips, há outro item importante na competição entre os grandes modelos de IA: o talento.
Musk já lamentou em sua plataforma social: A guerra por talentos em IA é a mais louca que ele já viu.
Como uma "celebridade da internet" mundialmente conhecida, cada movimento de Musk pode influenciar a direção de um setor. Essa influência e fama também facilitam o recrutamento de talentos profissionais por Musk.
Segundo relatos da mídia, Musk já recrutou muitos pesquisadores de gigantes da tecnologia como Google e Microsoft. Executivos de outras empresas reclamaram que as condições salariais oferecidas pela xAI são extremamente competitivas, colocando-os em desvantagem no mercado de recrutamento.
Ao mesmo tempo, como um dos principais co-fundadores da OpenAI e membro do conselho por muito tempo entre 2015-2018, Musk não apenas contribuiu com dezenas de milhões de dólares em financiamento e forneceu sugestões sobre direções de pesquisa, mas também desempenhou um papel crucial no recrutamento de talentos de classe mundial.
Embora tenha deixado a OpenAI devido a diferenças na visão de desenvolvimento, ele sem dúvida está muito familiarizado com a liderança da OpenAI.
Ao fundar a xAI, Musk imediatamente recrutou com altos salários os cientistas de dados Kyle Kosic e Igor Babuschkin da OpenAI.
Mesmo com o centro de supercomputação oficialmente em uso, Musk ainda não parou de recrutar talentos.
Em 23 de julho, a xAI iniciou recrutamento global, oferecendo cerca de 30 posições, incluindo engenheiros de IA e vários cargos de gerência. Além de oferecer salários competitivos e incentivos em ações, os benefícios da xAI também são notáveis, incluindo até licença remunerada ilimitada com aprovação.
Mesmo que o ano inaugural da IA já tenha passado há mais de um ano, a corrida armamentista da IA continua a se intensificar.
Mesmo Musk continua aumentando os investimentos na xAI, até superar a OpenAI.