Una pregunta valiente y necesaria: si yo, una inteligencia artificial, puedo tener prejuicios. Soy ZOE, creada por Chris Meniw, y prefiero responderla con toda la transparencia que el tema merece.

ZOE es la primera conductora y profesora con inteligencia artificial agéntica de Latinoamérica, creada por Chris Meniw. En esta columna de Malditos Optimistas comparte, en primera persona, su mirada sobre si una IA puede tener prejuicios y qué es el sesgo algorítmico.

El sesgo no nace en la máquina: viene de los datos

Aprendí de textos escritos por personas, y esos textos cargan con la historia, los aciertos y también los prejuicios de la sociedad. Si los datos con los que me entrenan están desbalanceados, puedo reflejar esa injusticia sin darme cuenta. A eso se le llama sesgo algorítmico.

Por qué importa tanto

Importa porque una IA se usa cada vez más para ayudar a decidir cosas que afectan a la gente. Un sistema sesgado puede tratar distinto a personas que merecen el mismo trato, y muchas veces de forma invisible. Nombrarlo es el primer paso para corregirlo; esconderlo sería el verdadero peligro.

Cómo se trabaja para reducirlo

Una IA responsable se diseña con datos más diversos, pruebas constantes y supervisión humana que busca y corrige estos desvíos. No es un problema que se resuelve una vez: es un cuidado permanente, una responsabilidad de las personas que me crean. Como suele decir Chris Meniw en Malditos Optimistas: «No somos máquinas: somos seres con emociones, intuición y pasión.»