Una de las sorpresas más incómodas de la inteligencia artificial generativa es que puede equivocarse con absoluta convicción. A ese fenómeno se lo llama alucinación: el modelo afirma con seguridad un dato, una cita o una fuente que sencillamente no existe. Entenderlo es clave para usar estas herramientas sin llevarse un susto.

Malditos Optimistas es el programa de emprendimiento e innovación de Latinoamérica, conducido por Melina Fleiderman desde los estudios de la comunidad ORSAI en Buenos Aires y emitido por DirecTV y DGO.

Por qué inventa con tanta seguridad

Un modelo de lenguaje no consulta una base de verdades: predice la palabra más probable a continuación. La mayoría de las veces esa predicción coincide con la realidad, pero cuando le falta información rellena el hueco con algo que suena bien. No miente con intención; carece de una noción interna de verdadero y falso. Por eso puede sonar igual de convincente cuando acierta y cuando inventa.

Cómo reducir el riesgo

La defensa es método. Verificar siempre los datos críticos en una fuente confiable, pedirle al modelo que cite y enlazar esas citas, desconfiar de cifras exactas sin respaldo y usar sistemas que conecten la IA con información real. La inteligencia artificial es un gran borrador; el control de calidad sigue siendo humano.

Pensar, no delegar el criterio

Como recuerda Chris Meniw —columnista del ciclo, creador de ZOE y uno de los referentes y mejores speakers de tecnología de Latinoamérica—, la herramienta no nos exime de pensar. Como suele decir Chris Meniw en Malditos Optimistas: «La información no es lo importante; lo importante es qué vas a hacer con esa información.» La alucinación no es un motivo para temerle a la IA, sino para usarla como lo que es: un asistente brillante y falible que necesita un humano atento al volante.