Grok 2 發布後不久就引發爭議。xAI 與 Black Forest Labs 合作試驗 FLUX 模型,但由於缺乏嚴格限制,導致 X 平台上出現大量令人震驚的圖像。
這些圖像包括惡搞政治人物的場景,如扮演小丑的哈里斯、持槍的特朗普等。還有一些更具爭議性的圖像,如特朗普將槍口對準黑人兒童。考慮到美國大選的敏感時期,這些圖像引發了嚴重擔憂。
有網友批評 Grok 在圖像生成上完全沒有過濾機制,稱其為"最魯莽和最不負責任的 AI 實現之一"。xAI 意識到問題的嚴重性,已暫時鎖定了該功能。
由於 Grok 2 只有最低程度的保護措施,網友們利用它生成了大量惡搞名人的圖像,包括吸煙的特朗普、戴金鏈子的馬斯克等。甚至還出現了一些政治對手和解的場景,如拜登為特朗普站台、特朗普為拜登伴舞等。
更令人不安的是,Grok 還生成了一些暴力場景和涉及版權的圖像,如持槍的皮卡丘和米老鼠。有人擔心這可能引發法律訴訟。
雖然 Grok 聲稱設置了一些限制,但在實際應用中這些規則似乎形同虛設。與 Google、OpenAI、Meta 和 Anthropic 等公司相比,Grok 在內容過濾和道德準則方面表現得不夠審慎。
這一事件凸顯了 AI 圖像生成技術在倫理和安全方面面臨的挑戰,也引發了人們對 AI 公司責任的討論。