マスクがある店で万引きをしているところを発見されたというニュースが話題を呼んでいますが、その真偽は確認できません。Grok AIにセーフガードがないことが発見された後、ネットユーザーは有名人や政治家などを含む様々な衝撃的な画像を生成するためにそれを狂ったように使い始めました。
GrokとFlux画像生成ツールを組み合わせると、生成された画像のリアリティは本物と見分けがつかないほどです。マスクやトランプなどの人物の「監視映像」や合成写真が大量にオンラインで出回っています。
現在、Grokには効果的なコンテンツ審査メカニズムが欠けているようで、インターネット上には不適切なコンテンツが溢れています。ユーザーはGrokを使って、トランプが手術を受けたり、オバマと親密な関係にあるなど、様々な荒唐無稽なシーンを生成しました。
Grokはマスク本人の画像生成にはある程度の制限があることが発見されましたが、他の有名人についてはほとんど制限がないようです。マスク本人さえもこのパロディの流れに参加しています。
Grokは過激な画像の生成にも躊躇がなく、ユーザーは生成テンプレートをまとめあげました。様々な有名人の合成写真や動画がインターネット上で広く拡散されています。
この現象は、AI生成コンテンツの真実性と倫理的問題に関する懸念を引き起こしています。技術の進歩に伴い、真実と虚偽のコンテンツを区別することがますます困難になっています。
[ここで複数の画像を省略]