在前總統唐納德·川普遭遇暗殺未遂事件後，伊隆·馬斯克的人工智能聊天機器人Grok發布了幾則具有誤導性的新聞摘要。這一事件凸顯了人工智能技術在處理複雜現實世界事件時的局限性。
馬斯克對Grok寄予厚望，希望人們能夠使用它來獲取新聞信息，並可能顛覆傳統媒體。然而，Grok在這種情況下的表現遠非理想。
一個顯著的錯誤聲稱副總統卡瑪拉·哈里斯遭到襲擊，這似乎源於對社交媒體上嘲笑拜登總統口誤的帖子的誤解。另一個摘要錯誤地識別了嫌疑人，並在沒有適當核實的情況下將其與"反法西斯"聯繫起來。
儘管這些摘要附有免責聲明，但錯誤信息的潛在風險仍然令人擔憂。馬斯克此前曾吹噓X（前身為Twitter）和Grok能夠將數百萬用戶帖子的信息提煉成標題和新聞摘要。他批評傳統媒體反應緩慢、可信度下降，鼓勵用戶依賴Grok獲取實時新聞更新。
在6月的一次廣告業活動中，馬斯克強調："在X上，我們正在實現信息的匯聚和精煉。我們正在使用人工智能將數百萬用戶的輸入轉化為精煉的摘要。我相信這將成為未來新聞傳播的新常態。"
Grok由馬斯克的人工智能公司xAI開發，已逐步整合到X中，為訂閱用戶提供智能聊天機器人等功能。雖然它在新聞摘要方面表現出一定的準確性，但最近的事件暴露了其設計上的弱點，特別是在處理突發新聞情況時。
Facebook前公共政策主管Katie Harbath評論道："我們還有很長的路要走。當涉及到突發事件如槍擊案時，事實尚未確定，人類專業判斷和背景知識是不可或缺的。"
Grok的一些錯誤超出了突發新聞情況下的典型混亂。一個標題錯誤地暗示《小鬼當家2》的一名演員在川普集會上遭到槍擊，將川普在電影中的客串與實際事件混為一談。
這並非Grok首次在總結新聞事件時面臨挑戰。在6月的一場總統辯論後，它錯誤地生成了一個標題，聲稱加利福尼亞州州長加文·紐森"贏得"了一場他並未參與的辯論。
前Twitter高管Evan Hansen透露，在馬斯克接管之前，Twitter曾嘗試過人工智能輔助摘要寫作，但仍需要人工審核和修正。他指出，"人工智能可以發揮作用，但必須非常謹慎地處理。"
這一事件凸顯了在開發能夠準確處理和總結複雜、實時新聞事件的人工智能系統方面持續存在的挑戰。