Hace quince días escribí aquí sobre Mona, la inteligencia artificial que opera un café en Estocolmo y que un día ordenó 15 kilos de tomate que nadie pidió. Cerré mi columna con una pregunta que puso a varios contra las cuerdas:

¿quién responde cuando el agente se equivoca?

Y me sorprendió la cantidad de gente que me escribió con la misma duda. Ejecutivos, dueños de negocio, gente de sistemas. Todos con la misma cara de “oye, esto en serio, ¿de quién es la bronca?”.

Pero más allá de la anécdota del café, la cosa es esta: hoy te voy a dar la respuesta. Y, neto, no te va a gustar.

Spoiler: la ley te mira a ti

Empecemos por lo incómodo. En 2026, los agentes de inteligencia artificial no tienen personalidad jurídica.

Suena a chiste, pero es real: no puedes demandar a un software, a C3PO. Al final es un robot, una pieza de código, y la ley no va detrás de él.

Entonces alguien humano siempre carga con el muerto.

El reporte “Who Is Liable If an AI Agent Causes Harm?” lo explica claro: como el agente no es una persona ante la ley, siempre tiene que existir un responsable humano u organizacional.

Y aquí viene lo bueno.

La responsabilidad se reparte en cuatro niveles. Tu empresa carga con la responsabilidad primaria, porque tú decidiste desplegar al agente y tú controlaste el entorno donde operó.

El proveedor responde solo si el fallo viene de un defecto de diseño o de un riesgo que conocía y no te avisó.

El dueño de los datos entra si los datos de entrenamiento produjeron resultados discriminatorios.

Y la plataforma tercera responde si su infraestructura habilitó el daño sin las precauciones necesarias.

¿Dónde miran primero los reguladores y los tribunales?

A ti. Siempre a ti. Sin importar el país.

No es un problema de software, es organizacional

Y aquí está el punto que más me importa que entiendas. Te quieren vender los agentes como si fueran chicles: cómpralo, mastícalo, listo. Pero la lógica de implementar un agente no es comprar un software. Es organizacional.

Según el paper de arxiv “Inherent and Emergent Liability Issues in LLM-based Agentic Systems”, los sistemas agénticos pueden crear lo que llaman una “brecha de responsabilidad”: esa zona donde nadie puede ser considerado culpable porque nadie documentó los controles que debían existir.

Léelo de nuevo.

El problema no es que el agente se equivoque.

El problema es que nadie escribió quién aprobaba qué.

Por eso las leyes que están emergiendo en todo el mundo convergen en tres requisitos. Y estos te los tienes que grabar.

Las tres cosas que un tribunal te va a pedir

Primero, un audit trail de decisiones. Y ojo, no es ese log de sistema que dice “acción ejecutada a las 3:47 pm”.

Eso no sirve de nada.

Es un registro que explica qué datos usó el agente, con qué permisos operaba y qué lógica aplicó para llegar a esa acción. Sin eso, en una auditoría o en un tribunal no demuestras nada.

Segundo, controles documentados y verificables. No declaraciones bonitas de política. Controles que de verdad funcionen y que puedas mostrar.

Tercero, un humano con nombre y apellido. Una persona que responde por ese agente. Sin nombre, la responsabilidad se disuelve y adivina sobre quién cae.

Piénsalo como un coche de empresa. Si un empleado choca, tú como dueño no te salvas diciendo “es que el coche decidió”. Pero sí te ayuda muchísimo tener bitácora de quién manejaba, con qué permiso salió y bajo qué reglas.

El agente es igual, solo que más rápido y sin volante.

El contrato que firmaste ya caducó

Y aquí viene uno que casi nadie revisa. Esos contratos que firmaste con tu proveedor de inteligencia artificial antes de la era de los agentes probablemente no cubren acciones autónomas ni daños causados por decisiones del agente.

Esa cláusula de indemnización que firmaste tan tranquilo en 2023 podría no servirte para absolutamente nada en este 2026.

Lo más alarmante: según la Cognitive Governance Platform de Forbes, menos de la mitad de las organizaciones tienen políticas formales de gobernanza para inteligencia artificial agéntica. La mitad. Operando a ciegas, soltando agentes sin red.

Por eso te digo: no es un tema de tecnología. Es un tema de quién aprueba, quién documenta y quién firma.

El problema no es que la IA se equivoque. El problema es que la estamos tratando como un electrodoméstico cuando se comporta como un empleado con poder de firma. Y yo no creo que dejes firmar a cualquiera, por más confianza que le tengas (créeme que sé de eso).

El consejo no pedido de hoy:

Antes de echar a andar tu próximo agente, nombra un responsable.

Una persona, con nombre y apellido, que responda por lo que ese agente haga. Luego asegúrate de que cada decisión deje rastro: qué datos usó, qué permisos tenía, qué lógica aplicó. Y por último, saca el contrato con tu proveedor y léelo con un abogado pensando en una sola pregunta: si este agente causa un daño mañana, ¿quién paga?

Si no puedes contestar las tres, no estás implementando tecnología. Estás repartiendo culpas a futuro.

Por cierto, sobre todo este tema de cómo controlar a los agentes antes de que fallen, profundizo mucho más en este video: https://youtu.be/bXDkVg-no1A

¿Y tú, ya sabes quién va a firmar cuando tu agente de inteligencia artificial tome una decisión que cueste dinero?