Pouco depois do lançamento do Grok 2, surgiu uma controvérsia. A xAI colaborou com a Black Forest Labs para experimentar o modelo FLUX, mas devido à falta de restrições rigorosas, resultou em uma grande quantidade de imagens chocantes na plataforma X.
Essas imagens incluíam cenas satirizando figuras políticas, como Harris vestida de palhaço, Trump armado, entre outras. Havia também imagens mais controversas, como Trump apontando uma arma para crianças negras. Considerando o período sensível das eleições nos EUA, essas imagens geraram sérias preocupações.
Internautas criticaram o Grok por não ter nenhum mecanismo de filtragem na geração de imagens, chamando-o de "uma das implementações de IA mais imprudentes e irresponsáveis". A xAI, reconhecendo a gravidade do problema, bloqueou temporariamente essa funcionalidade.
Devido às medidas de proteção mínimas do Grok 2, os usuários geraram uma grande quantidade de imagens satirizando celebridades, incluindo Trump fumando, Musk usando correntes de ouro, entre outras. Surgiram até cenas de reconciliação entre adversários políticos, como Biden fazendo campanha para Trump e Trump dançando para Biden.
Mais preocupante ainda, o Grok também gerou algumas cenas violentas e imagens envolvendo direitos autorais, como Pikachu armado e Mickey Mouse. Alguns temem que isso possa levar a processos judiciais.
Embora o Grok afirme ter estabelecido algumas restrições, na prática essas regras parecem ser ineficazes. Em comparação com empresas como Google, OpenAI, Meta e Anthropic, o Grok mostrou-se menos cauteloso em termos de filtragem de conteúdo e diretrizes éticas.
Este incidente destaca os desafios éticos e de segurança enfrentados pela tecnologia de geração de imagens por IA, e também suscita discussões sobre a responsabilidade das empresas de IA.