Suite à une tentative d'assassinat de l'ancien président Donald Trump, le chatbot IA d'Elon Musk, Grok, a publié plusieurs résumés d'actualités trompeurs. Cet incident met en lumière les limites de la technologie d'IA dans la gestion d'événements complexes du monde réel.
Musk a placé de grandes attentes sur Grok, espérant que les gens l'utiliseraient pour accéder aux informations d'actualité et potentiellement perturber les médias traditionnels. Cependant, la performance de Grok dans cette situation était loin d'être idéale.
Une erreur notable prétendait que la vice-présidente Kamala Harris avait été attaquée, semblant provenir d'une mauvaise interprétation de publications sur les réseaux sociaux se moquant d'un lapsus verbal du président Biden. Un autre résumé identifiait incorrectement le suspect et le liait à "antifa" sans vérification appropriée.
Malgré les avertissements accompagnant ces résumés, le potentiel de désinformation reste préoccupant. Musk a précédemment vanté la capacité de X (anciennement Twitter) et de Grok à distiller les informations de millions de publications d'utilisateurs en gros titres et résumés d'actualités. Il a critiqué les médias traditionnels pour leurs réponses lentes et leur crédibilité déclinante, encourageant les utilisateurs à s'appuyer sur Grok pour des mises à jour d'actualités en temps réel.
Lors d'un événement de l'industrie publicitaire en juin, Musk a souligné : "Sur X, nous réalisons une convergence et un raffinement de l'information. Nous utilisons l'IA pour transformer les contributions de millions d'utilisateurs en résumés raffinés. Je crois que ce sera la nouvelle norme pour la diffusion des actualités à l'avenir."
Grok, développé par la société d'IA de Musk, xAI, a été progressivement intégré à X, offrant aux abonnés des fonctionnalités comme un chatbot intelligent. Bien qu'il ait montré une certaine précision dans la synthèse des actualités, les événements récents ont exposé des faiblesses dans sa conception, en particulier dans la gestion des situations d'actualités de dernière minute.
Katie Harbath, ancienne responsable des politiques publiques chez Facebook, a commenté : "Nous avons encore un long chemin à parcourir. Lorsqu'il s'agit d'événements soudains comme des fusillades, où les faits ne sont pas encore établis, le jugement professionnel humain et les connaissances de base sont indispensables."
Certaines erreurs de Grok sont allées au-delà de la confusion typique dans les situations d'actualités de dernière minute. Un titre suggérait erronément qu'un acteur de "Maman, j'ai encore raté l'avion" avait été abattu lors d'un rassemblement de Trump, confondant le caméo de Trump dans le film avec l'événement réel.
Ce n'est pas la première fois que Grok fait face à des défis dans la synthèse d'événements d'actualité. Après un débat présidentiel en juin, il a incorrectement généré un titre affirmant que le gouverneur de Californie Gavin Newsom avait "gagné" un débat auquel il n'avait pas participé.
L'ancien dirigeant de Twitter Evan Hansen a révélé qu'avant le rachat de Musk, Twitter avait expérimenté la rédaction de résumés assistée par IA mais nécessitait toujours une révision et une correction humaines. Il a noté : "L'IA peut jouer un rôle, mais elle doit être gérée très soigneusement."
Cet incident souligne les défis continus dans le développement de systèmes d'IA capables de traiter et de résumer avec précision des événements d'actualité complexes en temps réel.