En su objetivo de regular el uso de sistemas de IA en la UE y proteger los derechos y libertades fundamentales de sus ciudadanos, el nuevo Reglamento de Inteligencia Artificial establece una serie de prácticas de IA prohibidas, que detallamos en las siguientes líneas.
Contenido del artículo
¿Cuáles son las prácticas prohibidas por el Reglamento de IA de la UE?
El artículo 5 del Reglamento de Inteligencia Artificial de la UE establece como prohibidas las siguientes prácticas de IA:
- El uso, introducción o comercialización de un sistema de IA que recurra a técnicas subliminales, manipuladoras o engañosas, diseñadas para influir en el comportamiento de una persona o grupo de personas sin que estos sean plenamente conscientes, que pueda alterar de manera significativa su capacidad para tomar decisiones informadas y les lleve a tomar decisiones que no habrían adoptado por sí mismas, lo que podría ocasionar, o ser altamente probable que cause, daños considerables a individuos o colectivos.
- El uso, puesta en servicio o comercialización de un sistema de IA que se aproveche de las vulnerabilidades de personas o grupos debido a su edad, discapacidad o situación social o económica, con el fin de influir significativamente en su comportamiento, de modo que puede causar, o es muy probable que cause, daños importantes a esas personas o a terceros.
- El uso, puesta en servicio o la comercialización de sistemas de IA para evaluar o clasificar a personas físicas o colectivos de personas durante un tiempo determinado, en función de su comportamiento social o características personales o de su personalidad conocidas, inferidas o predichas, cuando la puntuación resultante provoque una o varias de estas situaciones:
- Discriminación o trato desfavorable de determinadas personas físicas o colectivos en un contexto sin relación con aquel en el que se generaron originalmente las puntuaciones.
- Discriminación o trato desfavorable de determinadas personas físicas o colectivos cuando resulte injustificado o desproporcionado con respecto a su comportamiento social o la gravedad de este.
- El uso, puesta en servicio o la comercialización de un sistema de IA para evaluar el riesgo de que una persona física cometa un delito, basándose únicamente en la elaboración de un perfil o en la evaluación de rasgos y características de su personalidad.
- El uso, puesta en servicio o la comercialización de sistemas de IA para crear o ampliar bases de datos de reconocimiento facial mediante la extracción indiscriminada de imágenes faciales de internet o de circuitos cerrados de televisión (CCTV).
- El uso, puesta en servicio o la comercialización de sistemas de IA para inferir emociones de una persona física en su lugar de trabajo y en los centros educativos, salvo cuando dicho sistema tenga como fin motivos médicos o de seguridad.
- El uso, puesta en servicio o la comercialización de sistemas de categorización biométrica que clasifiquen individualmente a las personas físicas sobre la base de sus datos biométricos para deducir o inferir categorías especiales de datos (raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual). Esta prohibición no se aplica al registro de datos biométricos ni su categorización cuando se han adquirido lícitamente y dentro del cumplimiento del Reglamento General de Protección de Datos (RGPD).
- El uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho (salvo las excepciones que veremos en el siguiente punto).
Excepciones para el uso de sistemas de identificación biométrica remota «en tiempo real»
Las excepciones para el uso de identificación biométrica remota en espacios de acceso público por parte de las autoridades son las siguientes:
- La búsqueda selectiva de víctimas concretas de secuestro, trata de seres humanos o explotación sexual de seres humanos, así como la búsqueda de personas desaparecidas.
- La prevención de una amenaza específica, importante e inminente para la vida o la seguridad física de las personas o de una amenaza real y actual o real y previsible de un atentado terrorista.
- La localización o identificación de una persona sospechosa de haber cometido un delito con la finalidad de llevar a cabo una investigación o un enjuiciamiento penales o de ejecutar una sanción penal privativa de libertad, cuya duración sea al menos de cuatro años, por alguno de los siguientes delitos:
- Terrorismo
- Trata de seres humanos
- Explotación sexual de menores y pornografía infantil
- Tráfico ilícito de estupefacientes o sustancias psicotrópicas
- Tráfico ilícito de armas, municiones o explosivos
- Asesinato, lesiones corporales graves
- Comercio ilícito de órganos o tejidos humanos
- Tráfico ilícito de materiales nucleares o radiactivos
- Secuestro, retención ilegal o toma de rehenes
- Crímenes de la competencia de la Corte Penal Internacional
- Secuestro de aeronaves o buques
- Violación
- Delitos contra el medio ambiente
- Robo organizado o a mano armada
- Sabotaje
- Participación en una organización delictiva implicada en uno o varios de los delitos enumerados anteriormente
Este uso de sistemas de IA para la identificación biométrica remota «en tiempo real» está sujeto a la autorización administrativa o judicial correspondiente, y debe contemplar limitaciones temporales, geográficas y personales y valorar el impacto en los derechos fundamentales de los ciudadanos.
Sanciones por llevar a cabo prácticas de IA prohibidas
Aunque llevar a cabo las prácticas prohibidas descritas más arriba no se consideran delitos de la inteligencia artificial, sí que son infracciones del Reglamento de IA y, por tanto, están castigadas con las siguientes sanciones:
- Multas de hasta 35 millones de euros o, en caso de empresas, hasta el 7% de su volumen anual de negocios total a escala mundial, si la cifra es superior, por desarrollar o usar sistemas de IA prohibidos.
¿Por qué se prohíben estas prácticas de IA en el Reglamento de Inteligencia Artificial de la UE?
El Reglamento de IA de la UE prohíbe estas prácticas de IA por el potencial que tienen para causar daños y perjuicios a los derechos y libertades fundamentales de los ciudadanos europeos. Estas prácticas y uso de los sistemas de IA pueden conducir a discriminaciones, limitación de libertades, intromisiones en la privacidad de las personas (como ejemplo tenéis nuestro artículo sobre los riesgos del reconocimiento facial de emociones) o manipulación de las personas y su toma de decisiones.
El uso de sistema de IA tiene un gran potencial para hacernos progresar tecnológicamente y como sociedad, pensemos, por ejemplo, en la cura de enfermedades a las que pueden conducir diagnósticos y estudios apoyados por inteligencia artificial, pero también tienen un gran potencial para causar daños y perjuicios a la sociedad y a los individuos, como el sistema de puntuación social que ya usa el gobierno de China y que puede coartar los derechos y libertades de las personas.
La cuantía de las sanciones por infringir esta prohibición está pensada para desalentar el desarrollo y uso de sistemas de IA con estos fines.
