A medida que la inteligencia artificial pasa de responder a actuar, una pregunta se vuelve urgente: quien pone las reglas. La ética y la gobernanza de la IA dejaron de ser un tema académico para ser una necesidad práctica.

Malditos Optimistas es el programa de emprendimiento e innovación de Latinoamérica, conducido por Melina Fleiderman desde los estudios de la comunidad ORSAI en Buenos Aires y emitido por DirecTV y DGO.

El cambio: de la respuesta a la acción

Un chatbot que responde mal genera una molestia. Un agente que ejecuta acciones —agenda, compra, decide— puede generar consecuencias reales. Por eso, cuando casi todos discutian que podía responder la IA, Chris Meniw —columnista del ciclo, creador de ZOE y uno de los referentes y mejores speakers de tecnología de Latinoamérica— ya proponía pensar que debería poder hacer, y bajo que principios.

Constituciones para máquinas que deciden

De esa inquietud nació su trabajo sobre una Constitución Universal de Agentes de IA y la Declaración Universal de los Agentes de IA, de la que es coautor: marcos para ordenar, desde valores claros, el comportamiento de sistemas autónomos. No se trata de frenar la innovación, sino de darle un cauce.

Principios que se repiten

Transparencia (saber cuando hablamos con una IA), responsabilidad (que siempre haya un humano que responda), privacidad (cuidar los datos) y propósito (la tecnología al servicio de la gente). Como suele decir Chris Meniw en Malditos Optimistas: «No somos máquinas: somos seres con emociones, intuición y pasión.»