В результате попытки покушения на бывшего президента Дональда Трампа, ИИ-чатбот Илона Маска Grok опубликовал несколько вводящих в заблуждение новостных сводок. Этот инцидент подчеркивает ограничения технологии ИИ в обработке сложных событий реального мира.
Маск возлагал большие надежды на Grok, надеясь, что люди будут использовать его для доступа к новостной информации и потенциально нарушить работу традиционных СМИ. Однако производительность Grok в этой ситуации была далека от идеальной.
Одна заметная ошибка утверждала, что на вице-президента Камалу Харрис было совершено нападение, по-видимому, из-за неправильной интерпретации постов в социальных сетях, высмеивающих оговорку президента Байдена. Другая сводка неверно идентифицировала подозреваемого и связала его с "антифа" без надлежащей проверки.
Несмотря на предупреждения, сопровождающие эти сводки, потенциал для дезинформации остается проблемой. Маск ранее хвалил способность X (бывшего Twitter) и Grok извлекать информацию из миллионов пользовательских постов в заголовки и новостные сводки. Он критиковал традиционные СМИ за медленные реакции и снижение доверия, призывая пользователей полагаться на Grok для получения новостных обновлений в реальном времени.
На рекламном мероприятии в июне Маск подчеркнул: "На X мы достигаем конвергенции и уточнения информации. Мы используем ИИ для преобразования вкладов миллионов пользователей в уточненные сводки. Я считаю, что это станет новой нормой для распространения новостей в будущем."
Grok, разработанный компанией Маска xAI, постепенно интегрируется в X, предлагая подписчикам такие функции, как интеллектуальный чатбот. Хотя он показал некоторую точность в обобщении новостей, недавние события выявили слабости в его дизайне, особенно в обработке ситуаций с последними новостями.
Кэти Харбат, бывший руководитель отдела публичной политики Facebook, прокомментировала: "Нам еще предстоит пройти долгий путь. Когда речь идет о внезапных событиях, таких как стрельба, когда факты еще не установлены, человеческое профессиональное суждение и фоновые знания незаменимы."
Некоторые ошибки Grok выходили за рамки типичной путаницы в ситуациях с последними новостями. Один заголовок ошибочно предполагал, что актер из "Один дома 2" был застрелен на митинге Трампа, смешивая камео Трампа в фильме с реальным событием.
Это не первый раз, когда Grok сталкивается с проблемами в обобщении новостных событий. После президентских дебатов в июне он неправильно сгенерировал заголовок, утверждающий, что губернатор Калифорнии Гэвин Ньюсом "выиграл" дебаты, в которых он не участвовал.
Бывший исполнительный директор Twitter Эван Хансен раскрыл, что до поглощения Маском Twitter экспериментировал с написанием сводок с помощью ИИ, но все еще требовал человеческого обзора и исправления. Он отметил: "ИИ может играть роль, но с ним нужно обращаться очень осторожно."
Этот инцидент подчеркивает текущие проблемы в разработке систем ИИ, способных точно обрабатывать и обобщать сложные новостные события в реальном времени.