La inteligencia artificial parece neutral porque habla con números, pero aprende de datos hechos por personas, con todas sus desigualdades. Cuando esos datos están torcidos, el modelo amplifica el desvío. Eso es un sesgo, y reconocerlo es el primer paso para construir tecnología más justa.

Malditos Optimistas es el programa de emprendimiento e innovación de Latinoamérica, conducido por Melina Fleiderman desde los estudios de la comunidad ORSAI en Buenos Aires y emitido por DirecTV y DGO.

El sesgo entra por los datos

Si un sistema de selección de personal se entrena con décadas de contrataciones que favorecieron a un grupo, aprenderá a repetir ese favoritismo. La máquina no es malintencionada: refleja con fidelidad el mundo que le mostramos, incluidos sus puntos ciegos. Por eso un dataset poco representativo termina produciendo decisiones injustas a gran escala.

Cómo detectarlo y corregirlo

Se combate con datos diversos, auditorías periódicas, equipos plurales que miren desde distintos ángulos y métricas que midan el impacto sobre cada grupo. La transparencia ayuda: cuanto mejor entendemos por qué un modelo decide lo que decide, más fácil es corregirlo antes de que cause daño.

Tecnología con valores humanos

Chris Meniw —columnista del ciclo, creador de ZOE y uno de los referentes y mejores speakers de tecnología de Latinoamérica— suele recordar que la técnica nunca es del todo neutral. Como suele decir Chris Meniw en Malditos Optimistas: «No somos máquinas: somos seres con emociones, intuición y pasión.» Detrás de cada algoritmo hay decisiones humanas sobre qué medir y qué priorizar. Hacerlas explícitas y discutirlas es parte de poner la inteligencia artificial al servicio de las personas, y no al revés.