Вскоре после выпуска Grok 2 разразился скандал. xAI сотрудничала с Black Forest Labs для экспериментов с моделью FLUX, но из-за отсутствия строгих ограничений на платформе X появилось множество шокирующих изображений.
Эти изображения включали сцены, высмеивающие политических деятелей, такие как Харрис в образе клоуна, Трамп с оружием и т.д. Были и более спорные изображения, например, Трамп, направляющий пистолет на чернокожего ребенка. Учитывая чувствительный период выборов в США, эти изображения вызвали серьезную обеспокоенность.
Некоторые пользователи критиковали Grok за полное отсутствие механизмов фильтрации при генерации изображений, называя его "одной из самых безрассудных и безответственных реализаций ИИ". xAI, осознав серьезность проблемы, временно заблокировала эту функцию.
Поскольку Grok 2 имел лишь минимальные меры защиты, пользователи использовали его для создания множества пародийных изображений знаменитостей, включая курящего Трампа, Маска с золотыми цепями и т.д. Появились даже сцены примирения политических оппонентов, такие как Байден, выступающий в поддержку Трампа, или Трамп, танцующий для Байдена.
Еще более тревожно то, что Grok также создавал сцены насилия и изображения, связанные с авторскими правами, такие как Пикачу с оружием и Микки Маус. Некоторые опасаются, что это может привести к судебным искам.
Хотя Grok утверждает, что установил некоторые ограничения, на практике эти правила, похоже, не работают. По сравнению с такими компаниями, как Google, OpenAI, Meta и Anthropic, Grok проявил меньшую осторожность в отношении фильтрации контента и этических норм.
Этот инцидент подчеркивает этические и безопасностные проблемы, с которыми сталкивается технология генерации изображений с помощью ИИ, и вызывает дискуссии об ответственности компаний, занимающихся ИИ.