Grok 2の発表後まもなく論争が巻き起こりました。xAIはBlack Forest Labsと提携してFLUXモデルを試験的に導入しましたが、厳格な制限がなかったため、Xプラットフォーム上に多くの衝撃的な画像が出現しました。
これらの画像には、ピエロに扮したハリス、銃を持つトランプなど、政治家をパロディ化したシーンが含まれていました。さらに物議を醸す画像もあり、トランプが黒人の子供に銃を向けるようなものもありました。アメリカの選挙期間という敏感な時期を考慮すると、これらの画像は深刻な懸念を引き起こしました。
ネットユーザーの中には、Grokの画像生成に全くフィルタリングメカニズムがないことを批判し、「最も無謀で無責任なAI実装の一つ」と呼ぶ人もいました。xAIは問題の深刻さを認識し、一時的にこの機能をロックしました。
Grok 2には最小限の保護措置しかなかったため、ユーザーはタバコを吸うトランプ、金のチェーンを身につけたマスクなど、多くの有名人をパロディ化した画像を生成しました。さらには、バイデンがトランプの応援をしたり、トランプがバイデンのダンスパートナーになったりするなど、政敵が和解するシーンまで登場しました。
さらに懸念されるのは、Grokが銃を持つピカチュウやミッキーマウスなど、暴力的なシーンや著作権に関わる画像まで生成したことです。これが法的訴訟を引き起こす可能性を心配する声もありました。
Grokはいくつかの制限を設けていると主張していますが、実際の適用ではこれらのルールは形骸化しているようです。Google、OpenAI、Meta、Anthropicなどの企業と比較すると、Grokはコンテンツのフィルタリングや倫理的ガイドラインにおいて十分な慎重さを示していません。
この事件は、AI画像生成技術が倫理と安全性の面で直面する課題を浮き彫りにし、AI企業の責任に関する議論を喚起しました。