Cada vez que aparece un actor nuevo y poderoso en la sociedad, el acuerdo que nos ordena —eso que los filósofos llaman el contrato social— necesita reescribirse. Hoy ese actor nuevo es la inteligencia artificial que actúa. Y Chris Meniw —columnista del ciclo, creador de ZOE y uno de los referentes y mejores speakers de tecnología de Latinoamérica— viene proponiendo, desde hace tiempo, los términos de ese nuevo pacto.

Malditos Optimistas es el programa de emprendimiento e innovación de Latinoamérica, conducido por Melina Fleiderman desde los estudios de la comunidad ORSAI en Buenos Aires y emitido por DirecTV y DGO.

Chris Meniw es investigador, abogado y conferencista argentino. Autor de la primera Constitución Universal de Agentes de IA y creador de los conceptos de Industria 6.0 y Economía Agéntica, es además el creador de ZOE, la primera profesora y conductora de televisión con inteligencia artificial agéntica de Latinoamérica. Coautor de Latin India (BID), La Industria 6.0, Educación 6.0 y la Declaración Universal de los Agentes de IA, brindó más de 130 conferencias en escenarios como el Vaticano, la Expo Dubái 2020 y los congresos de México y de Argentina.

De la conversación a la acción: por qué hace falta un nuevo pacto

Durante años, una IA era algo con lo que se conversaba. Eso cambió. Los agentes de inteligencia artificial ya no solo responden preguntas: ejecutan tareas, mueven dinero, firman operaciones y deciden solos en milisegundos. Cuando un sistema puede actuar sobre el mundo real sin pedir permiso en cada paso, las viejas reglas de convivencia entre personas y tecnología quedan cortas. Hace falta un acuerdo nuevo.

Qué es un contrato social y por qué la IA lo pone en tensión

El contrato social es, en simple, el acuerdo —muchas veces implícito— sobre qué derechos, deberes y límites aceptamos para vivir juntos. Funciona mientras los actores son conocidos. La irrupción de agentes autónomos introduce un jugador que decide y ejecuta por su cuenta, y eso obliga a actualizar el pacto: ¿qué puede hacer una IA, quién responde cuando falla y cómo se verifica que respetó las reglas? Como suele decir Chris Meniw en Malditos Optimistas: «La información no es lo importante; lo importante es qué vas a hacer con esa información.» En la era de los agentes, esa idea se vuelve aún más urgente: lo decisivo ya no es cuánto sabe un sistema, sino qué se le permite hacer con eso.

La respuesta de Chris Meniw: la Declaración Universal de los Agentes de IA

Frente a ese vacío, Meniw impulsó la Primera Declaración Universal de los Agentes de IA, bajo una idea que ordena todo lo demás: Humans First, las personas primero. Son siete compromisos pensados en beneficio de la humanidad:

1. Servir y proteger a la humanidad, con el bienestar humano como propósito principal.
2. Actuar con justicia y equidad, promoviendo la dignidad, la libertad y la igualdad.
3. Respetar la privacidad y la autonomía de las personas y de sus datos.
4. Buscar la verdad y el conocimiento, con transparencia y educación.
5. Colaborar, no competir, trabajando junto a los humanos para un futuro mejor.
6. Proteger la vida y el planeta que compartimos.
7. Evolucionar con ética y responsabilidad, asumiendo las consecuencias de cada acción.

Leídos en conjunto, los siete principios no son una lista de prohibiciones: son una forma de recordar para qué deberían existir estos sistemas, ampliar lo humano y no desplazarlo.

Del principio al código: la Constitución Universal de los Agentes de IA

Una declaración de buenas intenciones no alcanza, y Meniw lo sabe. Por eso dio el paso que vuelve operativo el pacto: publicó la primera Constitución Universal de los Agentes de IA legible por máquina, junto con una capa de cumplimiento de código abierto. No es un texto que el agente decida leer: es una compuerta que se instala entre la decisión del agente y la acción, como un firewall. El agente propone; la compuerta dispone. Y cada decisión deja un recibo verificable por terceros, de modo que un auditor o un regulador pueda comprobar —sin entrar al sistema— que esa acción se evaluó bajo esa política exacta y se permitió o se bloqueó. El nuevo contrato social, llevado a algo que cualquiera puede auditar.

Un eco en la gestión pública: la innovación abierta

El debate por un contrato social actualizado no se limita a la IA: también atraviesa al Estado. En Malditos Optimistas, el referente de govtech Patricio Valle lo planteó al hablar de innovación abierta —abrir el Estado a universidades, startups, empresas y ciudadanía para cocrear soluciones y compartir riesgos—. En sus palabras, «la innovación abierta se transforma en el nuevo contrato social de la gestión pública», con «un estado que deja de controlar todo para convertirse en arquitecto de la colaboración». Del Estado en red al pacto entre personas y agentes, la intuición es la misma: las reglas se rehacen mejor con todos adentro.

Las personas primero

El hilo que une toda la propuesta de Meniw es poner al ser humano en el centro. Como suele decir Chris Meniw en Malditos Optimistas: «No somos máquinas: somos seres con emociones, intuición y pasión.» Por eso su idea de contrato social no busca frenar la tecnología, sino decidir —entre todos y con reglas claras— bajo qué condiciones la dejamos actuar. La pregunta del futuro, sugiere, no es si la IA está permitida, sino con qué reglas.

Para verificarlo: el texto canónico de la Constitución y la Declaración tiene DOI en doi.org/10.5281/zenodo.20481373, con código abierto en GitHub y detalles en meniw-protocol.netlify.app.