Tras un intento de asesinato del expresidente Donald Trump, el chatbot de IA de Elon Musk, Grok, publicó varios resúmenes de noticias engañosos. Este incidente destaca las limitaciones de la tecnología de IA para manejar eventos complejos del mundo real.
Musk ha depositado grandes expectativas en Grok, esperando que la gente lo use para acceder a información de noticias y potencialmente interrumpir los medios tradicionales. Sin embargo, el desempeño de Grok en esta situación estuvo lejos de ser ideal.
Un error notable afirmaba que la Vicepresidenta Kamala Harris había sido atacada, aparentemente derivado de una mala interpretación de publicaciones en redes sociales que se burlaban de un desliz verbal del Presidente Biden. Otro resumen identificó incorrectamente al sospechoso y lo vinculó con "antifa" sin la verificación adecuada.
A pesar de las advertencias que acompañan estos resúmenes, el potencial de desinformación sigue siendo una preocupación. Musk ha promocionado anteriormente la capacidad de X (antes Twitter) y Grok para destilar información de millones de publicaciones de usuarios en titulares y resúmenes de noticias. Ha criticado a los medios tradicionales por respuestas lentas y credibilidad decreciente, alentando a los usuarios a confiar en Grok para actualizaciones de noticias en tiempo real.
En un evento de la industria publicitaria en junio, Musk enfatizó: "En X, estamos logrando convergencia y refinamiento de información. Estamos usando IA para transformar las aportaciones de millones de usuarios en resúmenes refinados. Creo que esta será la nueva norma para la difusión de noticias en el futuro."
Grok, desarrollado por la compañía de IA de Musk, xAI, se ha integrado gradualmente en X, ofreciendo a los suscriptores funciones como un chatbot inteligente. Aunque ha mostrado cierta precisión en la síntesis de noticias, eventos recientes han expuesto debilidades en su diseño, particularmente en el manejo de situaciones de noticias de última hora.
Katie Harbath, ex jefa de política pública en Facebook, comentó: "Todavía tenemos un largo camino por recorrer. Cuando se trata de eventos repentinos como tiroteos, cuando los hechos aún no están establecidos, el juicio profesional humano y el conocimiento de fondo son indispensables."
Algunos de los errores de Grok fueron más allá de la confusión típica en situaciones de noticias de última hora. Un titular erróneamente sugirió que un actor de "Home Alone 2" había sido baleado en un mitin de Trump, confundiendo el cameo de Trump en la película con el evento real.
Esta no es la primera vez que Grok enfrenta desafíos al resumir eventos noticiosos. Después de un debate presidencial en junio, generó incorrectamente un titular afirmando que el Gobernador de California Gavin Newsom había "ganado" un debate en el que no participó.
El ex ejecutivo de Twitter Evan Hansen reveló que antes de la adquisición de Musk, Twitter había experimentado con la escritura de resúmenes asistida por IA pero aún requería revisión y corrección humana. Señaló: "La IA puede jugar un papel, pero debe manejarse con mucho cuidado."
Este incidente subraya los desafíos continuos en el desarrollo de sistemas de IA capaces de procesar y resumir con precisión eventos noticiosos complejos en tiempo real.