ドナルド・トランプ元大統領に対する暗殺未遂事件を受けて、イーロン・マスクのAIチャットボットGrokが複数の誤解を招くニュース要約を公開しました。この出来事は、複雑な現実世界の事象を扱うAI技術の限界を浮き彫りにしています。
マスクはGrokに高い期待を寄せ、人々がニュース情報にアクセスするために使用し、従来のメディアを潜在的に破壊することを望んでいました。しかし、この状況におけるGrokのパフォーマンスは理想からはほど遠いものでした。
注目すべき誤りの一つは、カマラ・ハリス副大統領が攻撃されたと主張したことで、これはバイデン大統領の言い間違いを揶揄するソーシャルメディアの投稿を誤解したことに由来するようです。別の要約では、容疑者を誤って特定し、適切な検証なしに「アンティファ」と関連付けていました。
これらの要約には免責事項が付されていましたが、誤情報の可能性は依然として懸念されています。マスクは以前、X（旧Twitter）とGrokが何百万ものユーザーの投稿から情報を抽出し、見出しやニュース要約に変換する能力を宣伝していました。彼は従来のメディアの遅い反応と信頼性の低下を批判し、ユーザーにリアルタイムのニュース更新にGrokを利用するよう促していました。
6月の広告業界のイベントで、マスクは次のように強調しました：「Xでは、情報の収束と洗練を実現しています。何百万人ものユーザーの入力を洗練された要約に変換するためにAIを使用しています。これが将来のニュース配信の新しい標準になると信じています。」
マスクのAI企業xAIが開発したGrokは、徐々にXに統合され、加入者にインテリジェントチャットボットなどの機能を提供しています。ニュース要約においてある程度の正確性を示してきましたが、最近の出来事により、特に速報ニュースの状況を扱う際の設計上の弱点が露呈しました。
Facebookの元公共政策責任者であるケイティ・ハーバスは次のようにコメントしています：「まだ長い道のりがあります。銃撃事件のような突発的な出来事で、事実がまだ確立されていない場合、人間の専門的な判断と背景知識は不可欠です。」
Grokの一部のエラーは、速報ニュースの状況での典型的な混乱を超えていました。ある見出しは誤って、「ホーム・アローン2」の俳優がトランプの集会で撃たれたと示唆し、映画でのトランプのカメオ出演と実際の出来事を混同していました。
これはGrokがニュース事象の要約に課題を抱えた初めてのケースではありません。6月の大統領討論会の後、カリフォルニア州知事のギャビン・ニューサムが参加していない討論会で「勝利した」と誤って見出しを生成しました。
元Twitter幹部のエバン・ハンセンは、マスクの買収前にTwitterがAI支援の要約作成を実験していたが、依然として人間のレビューと修正が必要だったことを明らかにしました。彼は「AIは役割を果たすことができますが、非常に慎重に扱わなければなりません」と述べました。
この出来事は、複雑でリアルタイムのニュース事象を正確に処理し要約できるAIシステムの開発における継続的な課題を浮き彫りにしています。