IA agéntica: gobernanza, cumplimiento normativo y protección de datos

Esa ganancia de capacidad es, al mismo tiempo, el origen del nuevo mapa de riesgos. La IMDA identifica como factores críticos el alcance de las acciones del agente, su reversibilidad, el grado de autonomía, el acceso a datos sensibles, la exposición a sistemas externos y la complejidad del sistema.

La AEPD llega a una conclusión convergente: la potencia y versatilidad de la IA agéntica amplía la potencial vulnerabilidad, porque integra modelos, memoria, bases de datos, motores de planificación, servicios externos y múltiples interfaces. Por ello, los riesgos ya no se reducen a la calidad del output, sino que incluyen acciones erróneas o no autorizadas, brechas de datos, sesgos operativos, errores compuestos, desalineación respecto de la finalidad del tratamiento y fallos en cascada en arquitecturas complejas.

Gobernanza: del principio abstracto al control operativo basado en la ley

La respuesta a ese riesgo no puede ser únicamente tecnológica, ni puramente documental. El marco de la IMDA propone cuatro pilares que resultan especialmente útiles para cualquier organización:

– Evaluar y acotar los riesgos desde el diseño.

– Mantener una responsabilidad humana significativa.

– Implantar controles técnicos, pruebas y monitorización continua.

– Habilitar la responsabilidad del usuario final.

El valor de este modelo no está solo en formular principios, sino en traducirlos a prácticas concretas: limitar privilegios, segmentar herramientas, definir identidades del agente, introducir aprobaciones humanas en puntos críticos, probar el comportamiento antes del despliegue y monitorizar en producción con capacidad de intervención y de rollback.

Las orientaciones de la AEPD completan esa visión desde una lógica de cumplimiento de la normativa protectora de los datos personales: si un agente se usa como medio en uno o varios tratamientos de datos personales, la organización debe revisar el diseño del tratamiento (privacidad desde el diseño y por defecto), sus bases legitimadoras, los flujos de datos, la relación con terceros, el registro de actividades, el ejercicio de derechos, la posible aplicación del artículo 22 del RGPD (derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar), y la necesidad de una nueva gestión del riesgo o incluso de una evaluación de impacto en protección de datos personales (EIPD).

La aportación de la AEPD es especialmente relevante porque desplaza el debate desde la pregunta sobre qué puede hacer el agente a la pregunta de qué tratamiento de datos personales está implementando y con qué garantías, cuando ello ocurre. Ese cambio de foco es clave para evitar la banalización tecnológica y para aterrizar la revisión de cumplimiento legal y normativo en procesos concretos que afecten a la privacidad.

El encaje jurídico en la Unión Europea

Aunque el AI Act no crea una categoría jurídica autónoma para los “agentes de IA”, la posición publicada por el AI Act Service Desk de la Comisión Europea es clara: normalmente un agente contendrá al menos un modelo GPAI y, por disponer de interfaz u otros componentes de sistema, quedará cubierto por la definición de sistema de IA del artículo 3 (1) del Reglamento europeo de Inteligencia Artificial (RIA) y por la de modelo GPAI del artículo 3 (63).

En consecuencia, a los agentes se les aplican las normas del AI Act o RIA relativas tanto a los sistemas de IA como a los modelos GPAI. La Comisión añade que son especialmente relevantes las prohibiciones de manipulación nociva y explotación de vulnerabilidades del artículo 5 del RIA, las obligaciones de transparencia del artículo 50 del AI Act cuando el agente interactúe con personas o genere contenido, y, desde el 2 de agosto de 2026, los requisitos adicionales del Capítulo III del RIA, cuando el sistema se clasifique como de alto riesgo (salvo que finalmente se apruebe el Digital Omnibus para IA, ampliando el plazo para la aplicación de las obligaciones legales dirigidas para sistemas de IA de alto riesgo). También recuerda que la autonomía y el uso de herramientas pueden ser factores relevantes para calificar el modelo subyacente como de riesgo sistémico.

Algunas conclusiones relevantes derivadas de la Guía Agéntica de la AEPD

El documento de la AEPD aporta varias conclusiones estratégicas que conviene incorporar a cualquier hoja de ruta corporativa en el despliegue de agentes de IA:

• La IA agéntica debe analizarse como un medio que implementa tratamientos, no como un fin autónomo.
• La memoria —tanto la memoria de trabajo como la memoria de gestión basada en logs— es uno de los elementos más críticos, porque puede generar retención excesiva, perfilado de usuarios, reutilización impropia de información y dificultades para el ejercicio de derechos.
• La autonomía obliga a decidir explícitamente el nivel de intervención humana, la reversibilidad de las acciones, la explicabilidad del proceso y la existencia de puntos de control.
• El uso de agentes amplía el número de intervinientes, la complejidad de los flujos y la dificultad de asegurar minimización, exactitud y limitación de la finalidad si no existen políticas de acceso, catalogación y trazabilidad.
• La organización debe asumir que el fallo es posible y diseñar el sistema con gobernanza, evidencia, pruebas, segregación, rutas de escalado y planes de contingencia.

Especialmente valiosa es la idea, poco subrayada en otros documentos, de que la IA agéntica puede servir no solo para cumplir, sino para mejorar la privacidad. Esta visión es coherente con la aproximación práctica de la IMDA. En conjunto, ambos documentos dibujan una idea central: la ventaja competitiva en la era de los agentes no vendrá sólo de adoptar la tecnología antes, sino de poder demostrar que se gobierna, regula y controla mejor.

¿Quién es responsable por los daños que cause un agente de IA?

Por regla general, la responsabilidad por los daños causados por un agente de inteligencia artificial recae principalmente en el humano o empresa que tiene el control sobre tal agente, si bien se podrían definir diversos escenarios en términos de responsabilidad, debiendo estar al caso concreto para definir la misma, en particular, en lo relativo al ciclo o cadena de valor asociada al mismo.

En última instancia, para muchas organizaciones y autoridades, como la IMDA, los usuarios finales son quienes utilizan y de quienes dependen los agentes y, por tanto, la responsabilidad humana también se extiende a ellos.

Es por ello, que las organizaciones deben proporcionar a los usuarios finales información suficiente para fomentar la confianza y permitir un uso responsable de los mismos. Por ello, cualquier modelo de gobernanza de agentes en una compañía debe considerar, al menos, los siguientes elementos:

• Transparencia: los usuarios deben ser informados de las capacidades de los agentes cuando estos interactúan con ellos (por ejemplo, el alcance del acceso del agente a los datos del usuario, y las acciones que puede ejecutar), así como de los puntos de contacto a los que pueden dirigirse tal usuario, si el agente presenta mal funcionamiento. Esto requiere redefinir y repasar las políticas informativas, o los contratos y cláusulas informativas que corresponda para poder cumplir y demostrar tal cumplimiento de forma diligente.
• Educación y concienciación: los usuarios, por ejemplo, dentro de una Organización, deben recibir formación sobre el uso adecuado y la supervisión de los agentes (por ejemplo, sobre el rango de acciones que puede realizar un agente, los modos de fallo más comunes, como las alucinaciones, y las políticas de uso de datos), así como sobre la potencial pérdida de conocimiento práctico, es decir, a medida que los agentes asumen más funciones, puede erosionarse el conocimiento operativo básico. Por ello, debe proporcionarse formación suficiente, especialmente en aquellas áreas donde los agentes estén más extendidos, para garantizar que las personas conserven las competencias esenciales.

Es decir, los diferentes casos de uso con agentes pueden requerir diferentes necesidades y, por tanto, enfoque en la gobernanza asociada. Por ejemplo, la IMDA trae a colación este ejemplo:

En definitiva, la discusión sobre agentes de IA ya no puede abordarse como una cuestión meramente tecnológica. El AI Act confirma que los agentes quedan dentro del marco regulatorio europeo, la AI Office, y las autoridades nacionales como la AESIA, deberán supervisar su aplicación, y la AEPD ofrece una hoja de ruta concreta para integrar la protección de datos desde el diseño de estos.

Para las organizaciones y autoridades, la conclusión es inequívoca: desplegar agentes exigirá clasificar usos, rediseñar tratamientos de datos, reforzar trazabilidad, limitar memoria y privilegios, asegurar supervisión humana efectiva y mantener evidencia continua del control. En la práctica, gobernar bien los agentes de IA será una condición necesaria para escalarlos con confianza.