Grok 2 a suscité la controverse peu après sa sortie. xAI a collaboré avec Black Forest Labs pour expérimenter le modèle FLUX, mais en raison d'un manque de restrictions strictes, cela a conduit à l'apparition de nombreuses images choquantes sur la plateforme X.
Ces images incluaient des scènes parodiant des personnalités politiques, comme Harris déguisé en clown, Trump armé, etc. Il y avait aussi des images plus controversées, comme Trump pointant une arme sur des enfants noirs. Compte tenu de la période sensible des élections américaines, ces images ont suscité de graves inquiétudes.
Des internautes ont critiqué Grok pour son absence totale de mécanisme de filtrage dans la génération d'images, le qualifiant de "l'une des implémentations d'IA les plus imprudentes et irresponsables". xAI, conscient de la gravité du problème, a temporairement verrouillé cette fonctionnalité.
En raison des mesures de protection minimales de Grok 2, les internautes l'ont utilisé pour générer de nombreuses images parodiant des célébrités, notamment Trump fumant, Musk portant des chaînes en or, etc. Il y avait même des scènes de réconciliation entre adversaires politiques, comme Biden faisant campagne pour Trump ou Trump dansant pour Biden.
Plus inquiétant encore, Grok a également généré des scènes violentes et des images impliquant des droits d'auteur, comme Pikachu armé et Mickey Mouse. Certains craignent que cela puisse entraîner des poursuites judiciaires.
Bien que Grok prétende avoir mis en place certaines restrictions, ces règles semblent inefficaces dans la pratique. Comparé à des entreprises comme Google, OpenAI, Meta et Anthropic, Grok s'est montré moins prudent en matière de filtrage de contenu et de directives éthiques.
Cet incident met en lumière les défis éthiques et de sécurité auxquels est confrontée la technologie de génération d'images par IA, et soulève également des questions sur la responsabilité des entreprises d'IA.