Cumplir la Ley de IA en atención al cliente implica avisar de que el chatbot es una IA, verificar si los sistemas que puntúan a tus agentes son de alto riesgo y documentar ambos como exige el Reglamento (UE) 2024/1689, actualizado en 2026 por el Reglamento Digital Omnibus (UE) 2026/1744. Esta guía detalla qué hacer con cada herramienta del departamento.

Qué herramientas de IA se usan en un departamento de atención al cliente

La inteligencia artificial atraviesa las cinco áreas de proceso del departamento, no solo el chatbot que ve el cliente. El nivel de riesgo no depende de la herramienta, sino del proceso donde se aplica y sobre quién decide.

Operativa y canales de comunicación

Los principales CRM y helpdesk incorporan funciones de IA en sus planes estándar: Zendesk documenta resúmenes automáticos, triaje y copilot como funciones nativas de su suite, y el mismo modelo siguen Freddy AI en Freshdesk o Einstein en Salesforce Service Cloud.

  • Recepción de contactos: chatbots y voicebots de primera línea que atienden consultas antes de llegar a un agente.
  • Priorización y triaje de casos: clasificación y enrutamiento automático de tickets por urgencia, impacto y tipo de cliente.
  • Documentación en CRM: resumen automático de cada interacción y registro asistido del caso.
  • Gestión de SLA: priorización predictiva de colas según los plazos comprometidos.
  • Dimensionamiento: previsión de volumen de contactos y planificación de turnos.

Resolución y soporte

En esta área la IA opera en dos modos: como asistente del agente (agent assist: sugiere y la persona decide qué enviar) o como agente autónomo que resuelve la consulta de extremo a extremo.

  • Soporte de uso: respuestas sugeridas al agente en tiempo real (agent assist).
  • Gestión de quejas: generación asistida de respuestas a reclamaciones y disputas.
  • Asistencia técnica: diagnóstico asistido de incidencias a partir del histórico de casos.
  • Comunicación proactiva: alertas automatizadas a clientes afectados por incidencias o retrasos.
  • Atención multiidioma: traducción automática de conversaciones en tiempo real.

Medición y análisis

La IA analítica evalúa interacciones y comportamientos. En este punto empieza a valorar a personas, aunque sean clientes.

  • Valoración de interacciones: análisis de sentimiento sobre llamadas, chats y correos.
  • Control de llamadas: transcripción y resumen automático de conversaciones.
  • Métricas de percepción: encuestas CSAT y NPS automatizadas y analizadas por IA.
  • Riesgo de baja: predicción de cancelaciones (churn) por patrones de comportamiento.
  • Reporting: detección de causa raíz en los motivos de contacto repetidos.

Gestión del equipo

Es el bloque jurídicamente más sensible del departamento: la IA ya no evalúa tickets, evalúa a tus trabajadores.

  • Control de calidad: scorecards automáticos que puntúan llamadas y chats de cada agente.
  • Evaluación del desempeño: valoración de agentes por IA a partir de sus interacciones.
  • Monitorización de la actividad: vigilancia continua de la operativa del equipo.
  • Formación continua: itinerarios de aprendizaje adaptativos por agente.

Mejora y fidelización

El área de menor exposición normativa: la IA genera contenido y segmenta, sin decidir sobre personas concretas en la mayoría de los casos.

  • Base de conocimiento: generación de guías, artículos y preguntas frecuentes.
  • Retención: segmentación predictiva de clientes con riesgo de baja.
  • Fidelización: personalización de ofertas y comunicaciones.
  • Reputación: análisis masivo de reseñas y valoraciones.
Mapa de IA por área de proceso en atención al cliente y afectación a personas
Área de proceso Herramientas de IA típicas ¿Decide sobre personas?
Operativa y canales Chatbot, voicebot, triaje, enrutamiento, previsión de volumen Parcial (prioriza casos)
Resolución y soporte Agent assist, agentes autónomos, alertas proactivas, traducción Parcial (el agente autónomo resuelve casos de clientes)
Medición y análisis Sentimiento, transcripción, churn, causa raíz Parcial (evalúa clientes)
Gestión del equipo Scorecards, monitorización, evaluación de agentes Sí (trabajadores)
Mejora y fidelización Base de conocimiento, segmentación, análisis de reseñas Parcial (segmenta clientes)

Nivel de riesgo de cada proceso según el AI Act

El artículo 6 del Reglamento de IA clasifica los sistemas por riesgo. En atención al cliente, la clasificación práctica se reduce a un criterio.

Cómo clasificar el riesgo: depende de si la IA decide sobre clientes o sobre trabajadores

La misma herramienta puede caer en dos niveles de riesgo distintos según a quién afecta. El criterio que ordena todo el mapa: si el sistema toma o prepara decisiones sobre personas trabajadoras, es candidato a alto riesgo; si solo interactúa con clientes o procesa tickets, baja de nivel.

Alto riesgo: monitorización y evaluación de agentes

Los sistemas que evalúan a personas trabajadoras figuran en el Anexo III (ámbito de empleo). En atención al cliente:

  • Sistemas afectados: scorecards automáticos, monitorización de calidad por IA y evaluación del desempeño de agentes. Las plataformas de helpdesk los venden como estándar: Zendesk, por ejemplo, ofrece la puntuación automática de agentes humanos en su módulo de control de calidad. Ser estándar en el mercado no exime de la clasificación.
  • Verificación caso a caso: el artículo 6.3 excluye del alto riesgo los sistemas sin riesgo significativo que encajen en alguno de sus cuatro supuestos tasados (tarea procedimental limitada, mejora de una actividad humana previa, detección de patrones sin sustituir la evaluación humana o tarea preparatoria). La excepción nunca aplica si el sistema elabora perfiles de personas, y los scorecards de agentes perfilan. Documentar la evaluación y registrar el sistema en la base de datos de la UE corresponde al proveedor: exígele esa justificación si invoca la excepción.
  • Obligación previa: informar a los trabajadores afectados y a su representación legal antes de activarlos (artículo 26.7).

Riesgo limitado: chatbots y contenido generado

Chatbots, voicebots y respuestas generadas hacia el cliente exigen transparencia (artículo 50): el cliente debe saber que habla con una IA. Caso típico: el bot que resuelve solo el “¿dónde está mi pedido?”, como Fin de Intercom o Lyro de Tidio.

Riesgo mínimo: el resto de la operativa

Triaje, resúmenes en el CRM, traducción, previsión de volumen y base de conocimiento no tienen obligaciones específicas: solo buenas prácticas voluntarias (revisión periódica y minimización de datos).

Catálogo de riesgo por herramienta de IA en atención al cliente
Herramienta / proceso Nivel de riesgo Por qué Qué te obliga
Scorecards, monitorización y evaluación de agentes Alto riesgo (verificar caso a caso) Evalúa a personas trabajadoras (Anexo III, empleo) Art. 26 completo: supervisión, logs, informar al equipo y a la RLT
Chatbots y voicebots con clientes Limitado Interacción directa con personas Aviso de IA (art. 50)
Respuestas y contenido generado (agent assist, reclamaciones) Limitado Contenido sintético hacia el cliente Identificación del contenido y revisión humana
Análisis de sentimiento sobre conversaciones Mínimo / Limitado Sube de nivel si perfila a personas concretas Transparencia y minimización de datos
Predicción de churn y segmentación de clientes Mínimo Segmenta sin efectos jurídicos significativos Buenas prácticas y RGPD
Formación adaptativa del equipo Mínimo Afecta a trabajadores sin evaluarlos con efectos significativos Transparencia interna
Triaje, resúmenes CRM, traducción, previsión de volumen, base de conocimiento Mínimo No decide sobre personas Ninguna obligación específica

Qué obligaciones tienes como responsable del despliegue de IA en atención al cliente

El responsable del despliegue (artículo 3.4 del Reglamento) es quien utiliza un sistema de IA bajo su autoridad en una actividad profesional. Tu empresa no desarrolla el chatbot, pero responde de cómo lo usa.

Proveedor vs. responsable del despliegue: qué papel ocupa tu empresa

Si compras o contratas la herramienta y la usas en tu operativa, eres responsable del despliegue. El proveedor es quien la desarrolla y comercializa. Existe un caso frontera: si tu empresa modifica sustancialmente el sistema o lo comercializa con su marca, puede asumir obligaciones de proveedor (artículo 25); ante cualquier personalización profunda, consúltalo antes con asesoramiento legal.

Obligaciones del artículo 26 aplicadas a atención al cliente

El artículo 26 concentra las obligaciones del responsable del despliegue de sistemas de alto riesgo. Son exigibles solo para esos sistemas; aplicarlas como práctica general al resto de tu IA reduce riesgo y abarata la adaptación. Traducidas a directrices del departamento:

Obligaciones del responsable del despliegue traducidas a directrices operativas
Obligación Directriz en atención al cliente Quién la ejecuta Cuándo aplica
Uso según instrucciones del proveedor Aplicar la configuración y los límites de uso documentados al chatbot y a los scorecards IT + responsable del área Siempre
Supervisión humana Designar un supervisor formado, con autoridad para intervenir o pausar el sistema RRHH / responsable del área Siempre (reforzada en alto riesgo)
Pertinencia de los datos de entrada Depurar el histórico de tickets y conversaciones que alimenta el sistema IT Alto riesgo
Vigilancia del funcionamiento Revisar periódicamente respuestas, desviaciones y sesgos del sistema Calidad / responsable del área Siempre
Conservación de registros (logs) Guardar los logs que genera el sistema durante al menos seis meses IT Alto riesgo
Información a trabajadores y RLT (art. 26.7) Comunicar al equipo y a la representación legal antes de activar la monitorización RRHH Alto riesgo laboral
Suspensión y notificación (art. 26.5) Protocolo de parada e informe al proveedor y a la autoridad de vigilancia (AESIA) ante riesgo grave Legal + responsable del área Ante incidentes

Transparencia frente al cliente: la obligación del artículo 50

Aunque tus sistemas no sean de alto riesgo, el artículo 50 garantiza que el cliente sepa que trata con una IA, con dos directrices en tu implementación:

  • Aviso de interacción con IA: el proveedor debe diseñar el chatbot o voicebot para que informe al cliente de que habla con una IA, salvo que resulte evidente por el contexto (artículo 50.1). Tu directriz: verificar que ese aviso está activo en tu implantación y no desactivarlo. Los proveedores ya comercializan agentes de voz diseñados para sonar naturales: cuanto más humano suena el bot, menos opera la excepción del contexto.
  • Identificación de contenido sintético: los textos, audios o imágenes generados artificialmente deben poder identificarse como tales; el marcado técnico es del proveedor y el uso conforme, tuyo.

No forma parte del artículo 26, pero verificar su cumplimiento en tus canales recae en tu empresa como responsable del despliegue.

Qué obligaciones NO te corresponden

Son del proveedor del sistema (artículos 9 a 15): la documentación técnica, la gestión de riesgos del sistema, el marcado CE y el registro como proveedor en la base de datos de la UE.

Lo que sí te corresponde es exigirle esa documentación: instrucciones de uso, declaración de conformidad e información del artículo 13 para los sistemas de alto riesgo. Sin esos documentos no puedes cumplir tu parte.

Usos prohibidos de IA en atención al cliente

El artículo 5 del Reglamento prohíbe determinadas prácticas. Estas prohibiciones se aplican desde el 2 de febrero de 2025 y la AESIA las detalla en su recurso oficial sobre sistemas prohibidos:

  • Reconocimiento de emociones sobre los agentes: inferir emociones de personas trabajadoras en su puesto está prohibido, con la única excepción de fines médicos o de seguridad. Ningún sistema de calidad puede puntuar el estado emocional de tu equipo.
  • Técnicas subliminales o manipulativas: sistemas que alteren de forma sustancial el comportamiento del cliente causándole un perjuicio, por ejemplo en procesos de retención o venta.
  • Puntuación social: clasificar a clientes por su comportamiento social con efectos desproporcionados o descontextualizados.

Plan de acción: cómo adaptar el departamento de atención al cliente

Adaptar el departamento no exige parar la operativa: exige inventariar, clasificar y documentar. El método general está en la guía sobre cómo cumplir el Reglamento de Inteligencia Artificial; estos seis pasos lo aterrizan en atención al cliente.

Paso 1. Inventaría los sistemas de IA en uso

Lista toda la IA del departamento en tres capas:

  • Contratada: chatbot, voicebot, quality.
  • Embebida: funciones inteligentes del CRM, helpdesk y centralita (resúmenes, priorización, transcripción) en plataformas como Zendesk, Freshdesk o Salesforce.
  • Shadow AI: lo que los agentes usan por su cuenta, como pegar una reclamación en ChatGPT. Según el Work Trend Index de Microsoft y LinkedIn, el 78% de quienes usan IA en el trabajo lleva sus propias herramientas sin aprobación (el 80% en pymes). También es IA con datos personales: regularízala o prohíbela por política interna.

Regla práctica: si el proveedor lo anuncia como “smart”, “AI-powered” o “automático”, entra en el inventario. Entregable: registro de sistemas con proveedor, función y proceso.

Paso 2. Clasifica el riesgo de cada proceso

Aplica el catálogo de riesgo de esta guía con el criterio de clasificación: ¿decide sobre clientes o sobre trabajadores? Empieza por los scorecards y la monitorización de agentes: son los candidatos a alto riesgo. Entregable: mapa de riesgo del departamento.

Paso 3. Exige la documentación a tus proveedores

Antes de renovar cada contrato:

  • Proveedor del chatbot: instrucciones de uso y aviso de IA del artículo 50 resuelto en su interfaz.
  • Proveedor del quality y los scorecards: documentación de alto riesgo (artículo 13) y declaración de conformidad.
  • Todos: DPA firmado, dónde se procesan las conversaciones y compromiso de no entrenar modelos con datos de tus clientes.

Paso 4. Implanta transparencia y supervisión humana

  • Aviso de IA en el primer mensaje del chatbot y en la locución inicial del voicebot.
  • Protocolo de escalado a agente humano visible en todo momento.
  • Supervisor de turno con acceso al panel del bot y autoridad para pausarlo.
  • Comunicación previa al equipo y a la RLT antes de activar la monitorización de agentes.

Entregable: protocolo de supervisión del departamento.

Paso 5. Forma a tu equipo: la alfabetización en IA del artículo 4

El artículo 4 exige alfabetización en IA en el personal que opera los sistemas. Contenidos mínimos por perfil:

  • Agentes: límites del bot, cuándo escalar, cómo documentar la intervención.
  • Supervisores: lectura del panel y criterios de pausa.
  • Calidad: uso conforme de los scorecards.

La guía completa está en el artículo sobre formación en inteligencia artificial para trabajadores. Entregable: plan de formación con registro de asistencia.

Paso 6. Documenta, registra y revisa periódicamente

  • Logs de los sistemas de alto riesgo conservados y decisiones de clasificación registradas.
  • Calendario de revisión: cada nueva herramienta o función del CRM actualiza el inventario.
  • Protocolo de incidentes: si el chatbot facilita información errónea con impacto en derechos del cliente, pausar y notificar al proveedor y a la autoridad de vigilancia (artículo 26.5). En España esa autoridad será la AESIA, designada como organismo central en la ley española de gobernanza de la IA, en tramitación parlamentaria.

Checklist de verificación:

  • ¿Inventario de sistemas de IA completado en sus tres capas (contratada, embebida en CRM y helpdesk, shadow AI de los agentes)? Sí / No
  • ¿Cada sistema clasificado por nivel de riesgo con la decisión documentada? Sí / No
  • ¿Scorecards y monitorización de agentes evaluados como posible alto riesgo? Sí / No
  • ¿Aviso de IA activo en el chatbot y el voicebot? Sí / No
  • ¿Protocolo de escalado a agente humano operativo? Sí / No
  • ¿Supervisor designado con formación y autoridad para pausar los sistemas? Sí / No
  • ¿Equipo y representación legal informados antes de activar la monitorización? Sí / No
  • ¿Expediente completo de cada proveedor (instrucciones, conformidad, art. 13, DPA y uso de datos)? Sí / No
  • ¿Formación en IA impartida y registrada por perfil (agentes, supervisores, calidad)? Sí / No
  • ¿Logs conservados y calendario de revisión del inventario en marcha? Sí / No

Conclusión

La Ley de IA no exige eliminar la inteligencia artificial del departamento de atención al cliente: exige saber qué usas, qué riesgo tiene y poder demostrarlo. El mayor foco de riesgo no está en el chatbot que ve el cliente, sino en los sistemas que evalúan a tus agentes. El artículo 26 obliga al responsable del despliegue a cooperar con las autoridades y aportar los registros del sistema: la empresa con el inventario, el mapa de riesgo y las evidencias al día puede acreditar el cumplimiento cuando se lo pidan; la que no, tendrá que reconstruirlo todo bajo plazo administrativo.

Una herramienta de gobernanza como Atico34 AI Governance permite sistematizar este proceso: centraliza el inventario de sistemas de IA, guía la clasificación de riesgo de cada proceso y conserva las evidencias de cumplimiento (documentación de proveedores, registros de formación y logs) listas para inspección.