Un proyecto de investigación trata de entrenar a la IA para desconfiar de las fuentes y detectar las falacias que suelen usarse en la desinformación
¿Sabes cómo es un pavo real bebé? La inteligencia artificial no y es un problema grave para Internet
Las inteligencias artificiales generativas de texto son herramientas muy poderosas. Han analizado las obras humanas a lo largo de la historia y han aprendido cómo se construye el lenguaje, haciéndolas capaces de crear informes, resúmenes, historias, artículos o traducciones. También son muy buenas identificando emociones, opiniones o actitudes en las redes sociales y otros medios, así como reconociendo de qué personas, lugares o conceptos se habla en cada caso. Pero pese a todo ello no se les da bien desmentir bulos.
El motivo es que la mentira humana es más sutil. No se deshace con fuerza bruta matemática. “Estos grandes modelos lingüísticos siguen teniendo un razonamiento crítico limitado”, resume Iryna Gurevych, directora del Laboratorio de Procesamiento Ubicuo del Conocimiento (UKP Lab, por sus siglas en inglés), uno de los laboratorios más influyentes en el campo del procesamiento de lenguaje natural.