Grok 2 provocó controversia poco después de su lanzamiento. xAI colaboró con Black Forest Labs para experimentar con el modelo FLUX, pero debido a la falta de restricciones estrictas, aparecieron numerosas imágenes impactantes en la plataforma X.
Estas imágenes incluían escenas que se burlaban de figuras políticas, como Harris vestida de payaso y Trump con un arma. También había imágenes más controvertidas, como Trump apuntando con un arma a niños negros. Considerando el período sensible de las elecciones estadounidenses, estas imágenes generaron seria preocupación.
Algunos usuarios criticaron a Grok por no tener ningún mecanismo de filtrado en la generación de imágenes, calificándolo como "una de las implementaciones de IA más imprudentes e irresponsables". xAI, consciente de la gravedad del problema, ha bloqueado temporalmente esta función.
Debido a que Grok 2 solo tenía medidas de protección mínimas, los usuarios generaron numerosas imágenes burlándose de celebridades, incluyendo a Trump fumando y Musk con cadenas de oro. Incluso aparecieron escenas de reconciliación política, como Biden apoyando a Trump y Trump bailando para Biden.
Más preocupante aún, Grok también generó algunas escenas violentas e imágenes con derechos de autor, como Pikachu y Mickey Mouse armados. Algunos temen que esto pueda provocar demandas legales.
Aunque Grok afirma haber establecido algunas restricciones, en la práctica estas reglas parecen ser ineficaces. En comparación con empresas como Google, OpenAI, Meta y Anthropic, Grok ha sido menos prudente en cuanto al filtrado de contenido y las normas éticas.
Este incidente destaca los desafíos éticos y de seguridad que enfrenta la tecnología de generación de imágenes por IA, y también ha suscitado debates sobre la responsabilidad de las empresas de IA.