Para poder regular el uso de sistemas de inteligencia artificial (IA) y establecer las diferentes obligaciones para proveedores, importadores, distribuidores y responsables del despliegue (operadores de IA) respectivamente, el Reglamento de IA de la UE establece diferentes niveles de riesgo para los derechos y libertades de las personas; en las siguientes líneas detallamos cada uno de estos niveles de riesgo de los sistemas de IA.
¿Cómo clasifica el Reglamento de IA los Sistemas de IA según el riesgo?
El Reglamento Europeo de Inteligencia Artificial (RIA) clasifica los sistemas de IA utilizando un enfoque basado en el riesgo para los derechos y libertades de las personas, de manera que establece cuatro niveles diferentes:
- Riesgo mínimo
- Riesgo limitado
- Alto riesgo
- Riesgo inaceptable
Cada uno de estos niveles de riesgo marca las limitaciones y obligaciones legales que los operadores de sistemas de inteligencia artificial deben tener en cuenta y cumplir cuando desarrollen o usen modelos de IA.
Cabe señalar que estos niveles de riesgo son aplicables a todos los tipos de inteligencia artificial y que, por tanto, cuando se desarrolle, cree o use un sistema de IA, es necesario determinar qué nivel de riesgo supone.
Sistemas de IA de Riesgo mínimo
Los sistemas de IA Riesgo mínimo son aquellos que suponen un impacto bajo para la seguridad y privacidad de las personas, por lo que su desarrollo y uso no implica obligaciones legales adicionales, si bien los proveedores de estos sistemas de inteligencia artificial pueden aplicar voluntariamente las medidas contempladas en la ley para una IA de ética y de confianza y adherirse a códigos de conducta.
Según la Comisión, la gran mayoría de sistemas de IA utilizados hoy en día son de este tipo. Algunos ejemplos son los filtros anti-spam del correo electrónico, los asistentes virtuales o los sistemas de predicción de texto.
Sistemas de IA de Riesgo limitado
Este nivel de Riesgo limitado está relacionado con la transparencia de algunos sistemas de IA (con independencia de que puedan ser clasificados, además, como sistemas de alto riesgo). El RIA establece obligaciones de transparencia para estos sistemas de Riesgo limitado, con el fin de que no se pueda manipular o engañar a las personas.
Dentro de estos sistemas de inteligencia artificial encontramos:
- Sistemas de IA para interactuar directamente con personas, como los chatbots. Los proveedores deben diseñar el sistema de manera que las personas sepan siempre que están interactuando con una máquina.
- Sistemas de IA para generar contenido sintético de audio, imagen, video o texto, como las IA generativas. Los proveedores deben asegurarse de que el contenido generado esté marcado de forma legible para máquina, como que ha sido creado por una IA, para que pueda indicarse como tal de cara a las personas que consumen esos contenidos.
- Sistemas de reconocimiento de emociones o de categorización biométrica (cuando su uso no esté prohibido). Los responsables del despliegue deberán informar del funcionamiento e impacto sobre las personas expuestas a él.
- Sistemas de IA que generen o manipulen imágenes o contenidos de audio o vídeo que constituyan una ultrafalsificación (deepfake) y contenidos que informen sobre asuntos de interés público. Los responsables del despliegue deben informar claramente de que el contenido ha sido generado o manipulado mediante IA.
Sistemas de IA de Alto Riesgo
El RIA clasifica como sistemas de IA de Alto Riesgo aquellos que suponen un riesgo significativo para causar daños a la salud, la seguridad o los derechos fundamentales de las personas. Su regulación es más estricta y los operadores deben cumplir obligaciones específicas establecidas en el RIA.
El artículo 6 del RIA establece las reglas de clasificación de los sistemas de inteligencia artificial de alto riesgo:
- El sistema de IA está destinado a ser utilizado como componente de seguridad de un producto que entre en el ámbito de aplicación de los actos legislativos y de armonización de la UE (marcado CE) recogidos en el anexo I del Reglamento, o que el sistema de IA sea uno de esos productos.
- Que el producto del que el sistema de IA es un componente de seguridad según el punto anterior, o el propio sistema de IA como producto, deba someterse a una evaluación de conformidad de terceros para su introducción en el mercado o puesta en servicio de acuerdo a los actos legislativos de armonización de la UE recogidos en el anexo I del Reglamento.
Así mismo, también se consideran sistemas de IA de Alto Riesgo debido al ámbito en el que son utilizados y sus aplicaciones específicas, los sistemas recogidos en el anexo III del RIA:
- Usos de biometría:
- Sistemas de identificación biométrica a distancia (cuando las excepciones contempladas por el Reglamento permitan su utilización).
- Sistemas de IA para categorización biométrica según atributos o características sensibles o protegidas o basados en la inferencia de estos.
- Sistemas de IA destinados al reconocimiento de emociones.
- Sistemas de IA utilizados como componente de seguridad en la gestión y explotación de infraestructuras digitales críticas, tráfico rodado, suministro de agua, gas, calefacción o electricidad.
- Sistemas de IA utilizados en educación y formación profesional:
- Acceso o admisión o asignación de personas a instituciones educativas.
- Evaluar los resultados de aprendizaje.
- Evaluar el nivel de educación que se impartirá a un individuo o al que podrá acceder.
- Para controlar y detectar comportamientos prohibidos de los estudiantes durante pruebas.
- Sistemas de IA usados en el empleo, gestión de trabajadores y acceso al autoempleo:
- Para la contratación o selección de personas, publicar anuncios de empleo, analizar y filtrar solicitudes de empleo y evaluar candidatos.
- Para tomar decisiones que afecten a las condiciones de las relaciones laborales, la promoción o la terminación de relaciones contractuales, para asignar tareas basadas en el comportamiento de las personas o en rasgos o características personales o para supervisar y evaluar el rendimiento.
- Sistemas de IA usados para el acceso y disfrute de servicios privados esenciales y de servicios y prestaciones públicas esenciales:
- Utilizados por autoridades públicas o en su nombre para evaluar el derecho de las personas a prestaciones y servicios esenciales de asistencia pública, así como para conceder, reducir, revocar o reclamar prestaciones.
- Utilizados para evaluar la solvencia de las personas o establecer una puntuación crediticia (con excepción de los sistemas de IA utilizados para detectar fraudes financieros).
- Utilizados para la evaluación de riesgos y la tarificación en relación con las personas en caso de los seguros de vida y de enfermedad.
- Destinados a evaluar y clasificar llamadas de emergencia de personas físicas o a ser utilizados para despachar o establecer prioridad de despacho de servicios de emergencias (incluidos policía, bomberos y asistencia médica), así como sistemas de triaje de pacientes en urgencias y emergencias.
- Sistemas de IA usados por las Fuerzas y Cuerpos de seguridad, en la medida en que su uso esté permitido por la legislación nacional o de la UE:
- Para evaluar el riesgo de que una persona física puede ser víctima de infracciones penales.
- Para apoyar investigaciones, como polígrafos o herramientas similares.
- Para evaluar la fiabilidad de las pruebas en el curso de la investigación o el enjuiciamiento de delitos penales.
- Para evaluar el riesgo de que una persona cometa un delito o reincida (siempre que no se base en la elaboración de perfiles a la que se refiere el art. 3.4 de la Directiva UE 2016/680).
- Para la elaboración de perfiles de personas a la que se refiere el art. 3.4 de la Directiva UE 2016/680 en el curso de la detección, investigación o enjuiciamiento de infracciones penales.
- Sistemas de IA para la gestión de la migración, el asilo y el control de fronteras en la medida en que su uso esté permitido por la legislación nacional o de la UE:
- Polígrafos o herramientas similares.
- Para evaluar un riesgo para la seguridad, de migración irregular o sanitario, planteado por una persona que pretenda entrar o haya entrado en un territorio de un Estado miembro.
- Asistencia en el examen de solicitudes de asilo, visado o permiso de residencia.
- Para la gestión de la migración, el asilo o el control de fronteras con el fin de detectar, reconocer o identificar personas físicas, con excepción de la verificación de documentos de viaje.
- Sistemas de IA en la Administración de justicia y procesos democráticos:
- Sistemas destinados a ser utilizados por autoridades judiciales o para asistir a estas en la investigación e interpretación de hechos y del Derecho y en la aplicación del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en la resolución alternativa de litigios.
- Sistemas de IA destinados a ser utilizados para influir en el resultado de una elección o referéndum o en el comportamiento de voto de las personas en el ejercicio de estos derechos.
Riesgo inaceptable
Finalmente, el RIA establece un nivel de Riesgo inaceptable para los sistemas de inteligencia artificial cuyo desarrollo y uso pueda suponer «una clara amenaza para la seguridad, los medios de vida y los derechos de las personas».
Los sistemas de IA categorizados como sistemas de Riesgo inaceptable están prohibidos y podemos encontrarlos en el artículo 5 del Reglamento como prácticas de IA prohibidas, entre ellas los sistemas de puntuación social, los sistemas cuya finalidad sea la manipulación de las personas, la identificación biométrica remota en espacios de acceso público (salvo las excepciones que contempla la ley) o sistemas para la creación o ampliación de bases de datos de reconocimiento facial recabando imágenes faciales de forma indiscriminada de internet o CCTV.
