Asistentes y agentes de IA en el trabajo: la política de uso que pide la AEPD

Lo que ha publicado la AEPD

El 27 de octubre, la Agencia Española de Protección de Datos publicó Asistentes y agentes de IA: que la IA actúe por ti, no sin ti, un decálogo para quien usa asistentes capaces de gestionar el calendario, leer el correo, compartir documentos o completar compras.

La idea de fondo es sencilla: cuando el asistente solo responde, un error es una respuesta equivocada; cuando actúa, es un correo enviado, un archivo compartido, una compra o un consentimiento dado en tu nombre. La Agencia propone hacerse cinco preguntas antes de delegar:

• ¿Qué puede ver?
• ¿Qué puede recordar?
• ¿Qué puede hacer en mi nombre?
• ¿Adónde envía mis datos?
• ¿Afecta a alguien más?

Y cuenta un caso real: un usuario que pulsó «permitir siempre» y cuyo agente cerró la venta de un objeto y dio su dirección al comprador, que se presentó en su casa sin que lo supiera, según recoge Europa Press.

El apartado que te toca como empresa

El decálogo está escrito para personas usuarias, pero incluye un bloque titulado «Si lo usas en el trabajo» que dice, en esencia:

• Usa solo los asistentes autorizados por tu organización y conecta únicamente las cuentas, aplicaciones y datos que esta haya autorizado.
• Que una herramienta sirva en el ámbito personal no significa que sea adecuada para uso profesional.
• No instales agentes por tu cuenta en el equipo de trabajo ni conectes el correo o los documentos profesionales a una cuenta personal de IA.
• Los datos de clientes siguen siendo responsabilidad de la organización.

Lee la primera frase al revés: si tu empresa no ha autorizado ningún asistente, el empleado que quiera cumplir no puede usar ninguno. Y el que no quiera cumplir usará el suyo, con su cuenta personal y el correo de tus clientes dentro. En una pyme, lo segundo es lo habitual. Por eso hace falta una política de uso, aunque sea de una página.

Consultar no es actuar: autoriza por niveles

La AEPD insiste en que «leer no es lo mismo que enviar, modificar o borrar». Es el criterio más útil para decidir qué permitir:

Dos reglas del decálogo que conviene copiar tal cual en la política:

• Nada de «permitir siempre» salvo que sea realmente necesario y se entienda su alcance.
• Sin acceso a datos delicados (salud, situación económica, contraseñas, códigos de verificación) más allá de lo imprescindible.

La combinación que hay que evitar

El punto más técnico del decálogo es también el más importante para una empresa. Una web, un correo, un PDF o una invitación de calendario pueden llevar instrucciones ocultas, incluso invisibles, para que el agente haga otra cosa. La AEPD reconoce que ninguna medida elimina del todo ese riesgo y concluye que la mejor protección es limitar lo que el agente puede hacer si consigue ser engañado.

En la práctica, eso significa no juntar en la misma tarea estas tres cosas:

1. Contenido de desconocidos: correos entrantes, documentos de terceros, webs.
2. Acceso a información privada: el buzón, el CRM, las carpetas de clientes.
3. Capacidad de actuar hacia fuera: enviar, compartir, pagar o publicar.

El ejemplo que pone la propia Agencia es «resume mis correos nuevos y responde a todos». Si un proceso necesita las tres —y muchos de atención al cliente las necesitan—, toda acción hacia fuera debe pasar por la confirmación de una persona. Explicamos cómo diseñar esa confirmación sin que se convierta en aprobar sin mirar en supervisar agentes de IA.

Qué exigir al proveedor antes de autorizarlo

El decálogo dedica su cierre a lo que se puede esperar del proveedor, porque «la responsabilidad no puede recaer solo en la persona usuaria». Úsalo como lista de comprobación antes de autorizar una herramienta:

• Empresa identificada, con contacto y que permita ejercer derechos en la UE.
• Permisos comprensibles que distingan consultar de actuar.
• Confirmación configurable para las acciones de mayor impacto.
• Historial de lo que el agente ha hecho en nombre de cada usuario.
• Parada inmediata del agente y retirada de accesos.
• Gestión y borrado de la memoria, con controles del propio servicio y no solo pidiéndoselo en la conversación.
• Información clara sobre adónde se envían los datos y si se usan para entrenar la IA.

Si una herramienta no ofrece estos controles, el propio decálogo dice que hay que tenerlo en cuenta al decidir qué se le confía. Para una empresa, eso suele significar no autorizarla para nada que pase del nivel 1.

La política, en una página

Una pyme no necesita un manual. Necesita que todo el mundo sepa esto:

• Qué herramientas están autorizadas y con qué cuenta (la de empresa, nunca la personal).
• Qué datos no se meten nunca: contraseñas, datos de salud, datos de clientes que no hagan falta para la tarea.
• Qué nivel de permiso tiene cada herramienta y en qué procesos se puede pasar del nivel 2.
• Qué acciones requieren siempre confirmación: enviar, compartir, borrar, pagar, contratar o aceptar condiciones.
• Quién revisa, cada cierto tiempo, las conexiones activas, las tareas programadas y el historial.
• A quién avisar si algo sale mal.

Con eso, el empleado sabe qué puede hacer, y la empresa sabe qué está pasando con sus datos.

Si algo falla

El decálogo pide averiguar cómo detener el agente y retirarle los accesos antes de necesitarlo. Ten escrito el procedimiento:

1. Detener el agente y desconectar las aplicaciones afectadas.
2. Cambiar contraseñas.
3. Comprobar en el historial y en cada aplicación qué se ha enviado, compartido, comprado o cambiado.
4. Avisar a quien pueda verse afectado.
5. Si hay datos personales de por medio, valorar con quien lleve la protección de datos si hay que notificarlo.

Los controles técnicos que hay detrás de cada uno de estos pasos —permisos mínimos, registro de acciones, aislamiento— los repasamos en agentes de IA en la empresa: riesgos, RGPD y AI Act.

Cómo lo hacemos en Amud

Cuando una tarea merece un agente, la mejor forma de que la plantilla no recurra a su cuenta personal es darle uno de la empresa, construido con estas reglas desde el principio. En nuestros agentes de IA para empresas, cada agente tiene acceso solo a lo que necesita su puesto, el contenido externo se trata como dato y nunca como orden, lo que sale hacia fuera espera la aprobación de una persona y se ejecuta una sola vez, y todo queda registrado con su autor. Es el «el agente prepara y la persona aprueba» de la AEPD, convertido en proceso.