Grok 2发布后不久就引发争议。xAI与Black Forest Labs合作试验FLUX模型,但由于缺乏严格限制,导致X平台上出现大量令人震惊的图像。
这些图像包括恶搞政治人物的场景,如扮演小丑的哈里斯、持枪的特朗普等。还有一些更具争议性的图像,如特朗普将枪口对准黑人儿童。考虑到美国大选的敏感时期,这些图像引发了严重担忧。
有网友批评Grok在图像生成上完全没有过滤机制,称其为"最鲁莽和最不负责任的AI实现之一"。xAI意识到问题的严重性,已暂时锁定了该功能。
由于Grok 2只有最低程度的保护措施,网友们利用它生成了大量恶搞名人的图像,包括吸烟的特朗普、戴金链子的马斯克等。甚至还出现了一些政治对手和解的场景,如拜登为特朗普站台、特朗普为拜登伴舞等。
更令人不安的是,Grok还生成了一些暴力场景和涉及版权的图像,如持枪的皮卡丘和米老鼠。有人担心这可能引发法律诉讼。
虽然Grok声称设置了一些限制,但在实际应用中这些规则似乎形同虚设。与Google、OpenAI、Meta和Anthropic等公司相比,Grok在内容过滤和道德准则方面表现得不够审慎。
这一事件凸显了AI图像生成技术在伦理和安全方面面临的挑战,也引发了人们对AI公司责任的讨论。