El impacto de la Ley de Inteligencia Artificial en las administraciones públicas

La ley de inteligencia artificial en las administraciones públicas marca un cambio profundo en cómo se diseñan y aplican los servicios digitales. No solo regula el uso de la IA, sino que exige responsabilidad, supervisión y ética institucional.

¿Qué es la Ley de Inteligencia Artificial y cómo afecta a las administraciones públicas en España?

La nueva Ley de Inteligencia Artificial en España transpone el Reglamento (UE) 2024/1689. Su finalidad es garantizar que los sistemas de IA respeten los derechos fundamentales y funcionen de forma segura, ética y transparente. Las administraciones públicas tienen un papel clave como usuarias, desarrolladoras o evaluadoras de sistemas de IA.

Esta ley les afecta porque:

• Deben asegurar que los sistemas utilizados cumplen con la normativa.
• Asumen nuevas responsabilidades de supervisión y gestión del riesgo.
• Han de implementar medidas de transparencia y explicabilidad.
• Deben atender posibles reclamaciones ciudadanas.
• Están sujetas a posibles sanciones si incumplen sus obligaciones.

Por ejemplo, si una IA decide el acceso a un subsidio público, la administración debe justificar cómo lo hace y con qué criterios.

Obligaciones de las administraciones públicas con la Ley IA

¿Qué obligaciones impone la Ley de IA a las administraciones públicas?

La Ley establece deberes específicos para las entidades públicas. Estas obligaciones buscan proteger los derechos ciudadanos y fomentar el uso responsable de la IA.

Las principales obligaciones son:

• Identificar si un sistema es de alto riesgo.
• Evaluar y mitigar sus posibles impactos negativos.
• Garantizar la trazabilidad y explicabilidad del sistema.
• Mantener registros detallados del uso del sistema.
• Colaborar con las autoridades de supervisión.

La Ley de inteligencia artificial para administraciones públicas también establece que estas entidades deben garantizar que el personal implicado esté formado adecuadamente. Por ejemplo, los técnicos de una consejería que implemente IA en educación deben conocer los requisitos éticos y legales del sistema.

¿Cómo se clasifican los sistemas de IA según la Ley y qué implica para el sector público?

La Ley y el Reglamento europeo clasifican los sistemas de IA en función del riesgo que presentan. Esta clasificación determina el nivel de control y supervisión exigido.

Las categorías son:

• Riesgo inaceptable: sistemas prohibidos, como manipulación subliminal o puntuación social.
• Alto riesgo: IA usada en educación, empleo, justicia, etc.
• Riesgo limitado: sistemas con requisitos de transparencia.
• Riesgo mínimo: IA sin obligaciones específicas.

Las administraciones deben evitar usar IA de riesgo inaceptable y someter los sistemas de alto riesgo a controles rigurosos.
Ejemplo: un sistema que analiza perfiles para seleccionar becarios universitarios es de alto riesgo y debe cumplir requisitos estrictos.

¿Cuál es el papel de la AESIA y otras autoridades en la supervisión de la IA en la administración pública?

La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) coordina la vigilancia del uso de la IA en España. Su función es crucial para garantizar el cumplimiento de la ley de IA en la administración pública.

Entre sus competencias están:

• Supervisar sistemas de IA de alto riesgo en el sector público.
• Actuar como punto de contacto nacional y europeo.
• Coordinar con otras autoridades autonómicas y sectoriales.
• Recibir denuncias sobre sistemas de IA problemáticos.
• Imponer sanciones y medidas correctoras cuando proceda.

Por ejemplo, si un sistema de IA usado por un ayuntamiento genera decisiones discriminatorias, la AESIA puede ordenar su retirada o desconexión.

¿Qué medidas deben adoptar las administraciones públicas para garantizar la transparencia y la ética en el uso de la IA?

La ley exige que el uso de IA en la administración sea transparente, explicable y respetuoso con los derechos fundamentales. Para ello, deben adoptarse medidas concretas:

• Informar a los ciudadanos cuando se usen sistemas de IA.
• Explicar cómo funciona la IA y en qué se basan sus decisiones.
• Garantizar el acceso a mecanismos de reclamación.
• Evaluar impactos éticos antes de desplegar un sistema.
• Asegurar la no discriminación en los resultados.

Por ejemplo, si se usa IA para ordenar listas de espera médicas, los criterios deben ser públicos y comprensibles.

¿Qué sanciones contempla la normativa de IA para las administraciones públicas en caso de incumplimiento?

Aunque las sanciones económicas se reservan para empresas, la Ley también prevé consecuencias para las administraciones públicas que incumplan.

Estas pueden ser:

• Apercibimientos formales.
• Obligación de adoptar medidas correctoras.
• Retirada del sistema de IA implicado.
• Incoación de procedimientos disciplinarios.
• Publicación de las infracciones cometidas.

Además, cualquier ciudadano podrá denunciar incidentes graves ante la AESIA.
Por ejemplo, si un sistema de IA deniega indebidamente el acceso a un servicio público, puede iniciarse un expediente sancionador.

¿Cómo deben prepararse las administraciones públicas para implementar la Ley de IA de manera efectiva?

Las administraciones deben adaptarse para cumplir la Ley de IA desde su entrada en vigor. Esto implica realizar cambios organizativos y técnicos.

Pasos clave:

• Evaluar todos los sistemas de IA en uso.
• Clasificarlos según su nivel de riesgo.
• Formar al personal en la normativa y buenas prácticas.
• Establecer canales de supervisión interna.
• Coordinarse con la AESIA y otras autoridades.

Por ejemplo, un departamento de empleo debe revisar sus sistemas de criba curricular automatizada y aplicar medidas correctoras si es necesario.

En resumen, la transformación digital del sector público con IA no puede hacerse sin reglas claras. La ley exige a las administraciones actuar con transparencia, control y garantías para evitar abusos y proteger a la ciudadanía.