Prácticas prohibidas por la Ley de Inteligencia Artificial

¿Qué prácticas están prohibidas por la Ley de Inteligencia Artificial?

La Ley de Inteligencia Artificial establece una serie de prácticas prohibidas que las empresas deben evitar para garantizar el cumplimiento normativo y la ética en el uso de la IA.

Manipulación mediante técnicas subliminales

Se prohíbe la comercialización, puesta en servicio o uso de sistemas de IA que utilicen técnicas subliminales que escapen a la conciencia de una persona, con el objetivo o efecto de distorsionar materialmente su comportamiento de manera que cause o sea probable que cause un daño significativo.

Explotación de vulnerabilidades

La ley prohíbe el uso de IA para manipulación de datos con el fin de explotar las vulnerabilidades de personas o grupos específicos debido a su edad, discapacidad o situación social o económica, con el objetivo de distorsionar su comportamiento de manera que les cause o sea probable que les cause un daño significativo.

Evaluación y clasificación social

Está prohibido el uso de sistemas de IA para la evaluación o clasificación de personas físicas o grupos durante un período determinado, basándose en su comportamiento social o características personales, que conduzca a un trato perjudicial o desfavorable en contextos no relacionados o injustificado en relación con su comportamiento.

Evaluación de riesgos basada en perfiles

Otro de los usos ilegales de la IA es la comercialización, puesta en servicio o uso de sistemas de IA para realizar evaluaciones de riesgo de personas físicas con el fin de predecir la probabilidad de que cometan un delito, basándose únicamente en el perfil de la persona o en la evaluación de sus rasgos y características de personalidad.

La Ley de IA prohíbe la manipulación subliminal, evaluación social, vigilancia biométrica masiva y explotación de vulnerabilidades para proteger derechos y evitar discriminación.

Creación de bases de datos de reconocimiento facial

Se prohíbe la comercialización, puesta en servicio o uso de sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de Internet o de grabaciones de CCTV.

Inferencia de emociones en entornos laborales y educativos

La ley prohíbe el uso de sistemas de IA para inferir emociones de una persona en ámbitos como el lugar de trabajo y las instituciones educativas, excepto cuando el uso esté destinado a razones médicas o de seguridad.

Categorización biométrica sensible

Está prohibido el uso de sistemas de IA que categoricen a individuos basándose en datos biométricos para inferir o deducir características sensibles como raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual.

Identificación biométrica remota en tiempo real en espacios públicos

Se prohíbe el uso de sistemas de identificación biométrica a distancia “en tiempo real” en espacios de acceso público con fines policiales, salvo en situaciones excepcionales y bajo estrictas condiciones legales.

Prácticas que prohíbe la Ley IA

Excepciones a las prohibiciones de la Ley IA

Sí, algunas de las prohibiciones establecidas en la Ley de Inteligencia Artificial española tienen excepciones bajo ciertas condiciones muy estrictas. Estas excepciones suelen estar relacionadas con el interés público, la seguridad nacional y la aplicación de la ley. Aquí te detallo algunas de las principales excepciones:

Identificación biométrica remota en tiempo real en espacios públicos

Esta práctica está generalmente prohibida, pero se permite en circunstancias excepcionales si cumple con estos requisitos:

• Autorización judicial previa: Debe existir una orden emitida por un juez.
• Finalidad específica: Puede usarse únicamente para la prevención de delitos graves, como terrorismo o trata de personas.
• Duración y alcance limitados: La identificación debe aplicarse en un tiempo y área geográfica concretos, evitando su uso indiscriminado.

Inferencia de emociones en entornos laborales y educativos

Aunque está prohibida para evaluar el desempeño de trabajadores y estudiantes, se permite si:

• Se usa con finalidades médicas o de bienestar, como detección de estrés o fatiga en trabajadores de alto riesgo (pilotos, cirujanos, etc.).
• Se emplea en el ámbito educativo para apoyar a personas con necesidades especiales bajo supervisión humana.

Uso de bases de datos de reconocimiento facial

En general, la recopilación de imágenes faciales de Internet para entrenar sistemas de IA está prohibida, pero puede permitirse si:

• Se obtiene consentimiento explícito de las personas involucradas.
• Se trata de datos disponibles en bases públicas con fines legítimos y regulados, como investigaciones científicas o académicas.

Existen algunas excepciones a las prohibiciones establecidas en la Ley de Inteligencia Artificial española pero bajo condiciones muy estrictas

Evaluación de riesgos basada en perfiles

Las empresas no pueden usar IA para predecir el comportamiento delictivo solo con base en perfiles, pero hay excepciones en:

• Investigaciones policiales supervisadas, donde los algoritmos ayudan a detectar patrones en grandes volúmenes de datos, pero sin que la decisión final dependa únicamente de la IA.
• Evaluaciones en el sector financiero, siempre que no sean discriminatorias y sigan criterios objetivos (por ejemplo, análisis de solvencia basado en datos verificables).

Manipulación subliminal y explotación de vulnerabilidades

Estas prácticas siguen estando casi siempre prohibidas, pero pueden permitirse en:

• Investigación y desarrollo en entornos controlados, donde los efectos de estas técnicas se analicen con objetivos científicos y sin causar daño.

En general, las excepciones son muy limitadas y requieren una justificación clara, control estricto y supervisión por parte de autoridades competentes.