Los derechos relacionados con la inteligencia artificial conforman una disciplina emergente que examina cómo esta tecnología puede influir, tanto de forma positiva como negativa, en las libertades y garantías fundamentales. Para hacer frente a estos desafíos, se están estableciendo marcos regulatorios y principios éticos que aseguren un uso justo y responsable, preservando la seguridad, la privacidad, la equidad y otros derechos esenciales.
¿Qué derechos fundamentales puede vulnerar la inteligencia artificial?
El uso de inteligencia artificial puede vulnerar los derechos fundamentales de las personas, incluso de manera no intencionada, cuando esta tecnología se usa sin aplicar o tener en cuenta valores éticos, sin prever realmente los derechos que pueden verse afectados o las consecuencias de ello (es decir, sin haber hecho un análisis de impacto previo).
Cabe recordar que los derechos fundamentales derivan, en gran medida, de la Declaración Universal de Derechos Humanos y teniendo en cuenta cómo se entrenan, funcionan y la finalidad que tienen algunos sistemas de IA, es innegable que siempre existirá una relación entre el uso de inteligencia artificial y derechos fundamentales, donde la tecnología tendrá un potencial doble: por un lado, podrá contribuir a la mejora de la sociedad, y, por otro lado, también podrá afectar negativamente a estos derechos, incluso violarlos, como veremos en los siguientes puntos.
Derecho a la intimidad, al honor y a la propia imagen
El derecho a la intimidad, al honor y a la propia imagen es uno de los derechos fundamentales más amenazado por la inteligencia artificial, puesto que para conseguir que determinados modelos de IA sean eficientes y eficaces, es necesario recabar grandes cantidades de datos personales, datos que pueden incluir todo tipo de información personal, médica, financiera, de comportamiento, imágenes, etc.
Estos datos son recogidos de forma masiva, a veces sin el consentimiento explícito e informado de los interesados, lo que ya de por sí es una violación de la privacidad personal.
Además, de usar los datos personales para el entrenamiento de los modelos de IA, no son pocas las empresas que ya emplean herramientas de IA para analizar patrones de comportamiento a partir de esos datos, en muchas ocasiones sin el conocimiento de los interesados o sin informarles debidamente.
Así mismo, ya hay herramientas y aplicaciones de IA que su solo uso puede vulnerar el derecho a la imagen; por ejemplo, las aplicaciones de IA que pueden usarse para «desnudar» personas y que se emplean para crear deepfakes pornográficos, suponen una vulneración del derecho de imagen y del derecho al honor, o las IA capaces de clonar voz vulneran nuestros derechos de voz (que son parte de nuestro derecho a la imagen).
No podemos dejar de mencionar también que el reconocimiento facial ha avanzado mucho, gracias al uso de la inteligencia artificial, de manera que cámaras y programas con capacidad para el reconocimiento de rostros pueden emplearse para seguir a las personas y vigilarlas y, sin las salvaguardas legales y éticas adecuadas, acabar vulnerando el derecho a la intimidad y a la libertad de movimientos, incluso de manifestación.
Derecho a la protección de datos
Estrechamente ligado al derecho a la intimidad, el derecho a la protección de datos es otro derecho fundamental que puede verse vulnerado por el uso de la inteligencia artificial en los siguientes aspectos:
- La falta de transparencia en la IA implica que los interesados no sepan para qué y cómo se usan sus datos personales en estos sistemas, más allá de las explicaciones, normalmente insuficientes, que aparecen en la política de privacidad.
- Esa falta de transparencia también implica que los procesos de toma de decisiones automatizadas pueden resultar incomprensibles para el interesado, que no entiende por qué un sistema ha tomado una decisión concreta que puede tener consecuencias jurídicas o legales para él.
- Riesgos de seguridad que pueden poner en peligro la confidencialidad, integridad y disponibilidad de los datos, puesto que los sistemas de IA también son susceptibles de sufrir ciberataques; si los datos personales que usan o almacenan no están debidamente protegidos, podrían filtrarse y usarse con fines maliciosos.
- Pérdida de control sobre los datos personales.
Derecho a la no discriminación y a la igualdad de oportunidades
Aunque la inteligencia artificial tiene como fin ser objetiva, puede perpetuar y amplificar la discriminación existente, cuando los algoritmos han sido entrenados con datos que reflejan sesgos humanos históricos o se diseñan sin tener en cuenta la diversidad de la población.
Esta discriminación causada por el sesgo algorítmico está bien documentada y conduce a que determinados grupos de población y demográficos sean discriminados por el sistema, especialmente cuando se confía en él para la toma de decisiones. Y esto es algo que puede ocurrir en diferentes ámbitos, desde el empleo hasta la seguridad y la justicia.
Por ejemplo, un banco puede usar un sistema automático para la concesión de hipotecas basadas en los datos del solicitante; si ese sistema basado en IA ha sido entrenado con conjuntos de datos sesgados (por ejemplo, el histórico de clientes y solicitantes, en el que la mayoría son hombres blancos, de una edad entre los 30 y 50 años), discriminará a cualquier solicitante que se salga de esos datos (en el ejemplo, mujeres, personas de otras etnias u hombres menores de 30 años).
Derecho a la justicia
Ya se estudia la aplicación de la inteligencia artificial en el sistema judicial, lo que, unido a los citados sesgos, puede vulnerar el derecho a un juicio justo de las personas, así como provocar sentencias injustas y, en el caso más extremo, aplicar la ley de forma preventiva (es decir, usar la IA para predecir qué posibilidades tiene una persona de cometer un delito y actuar antes de ello; esto puede sonar ahora a ciencia ficción, pero los sistemas de puntuación social que ya se emplean en China, así como el monitoreo por las cámaras de seguridad, son un paso en esa dirección).
Derecho a la información y a la libertad de expresión
La inteligencia artificial también puede usarse para manipular la opinión pública al crear de manera más sencilla bulos creíbles y hacerlos virales en mucho menos tiempo, empleando para su distribución y difusión granjas de bots y «medios» online sin respeto por la ética ni la deontología periodística. Esto puede vulnerar el derecho a la información al saturar internet de contenidos falsos o desinformación, haciendo que al final los usuarios duden de la veracidad de cualquier contenido, incluidos los veraces, lo que puede acabar dañando también a la democracia
Así mismo, la IA ya se emplea para moderar contenidos en redes sociales, de manera que las publicaciones que vulneren los términos y condiciones de la plataforma sean retiradas de forma automática. Sin embargo, estos algoritmos no son infalibles y pueden acabar censurando contenido legítimo.
Automatizar la censura en internet puede restringir la capacidad de los individuos para expresarse libremente, algo que se agrava cuando no se explica debidamente por qué se retira dicho contenido y los mecanismos para impugnar esas censuras no son claros o resulta engorroso usarlos.
Derecho a la seguridad
Los sistemas autónomos, como los vehículos autónomos, operados completamente por IA, sin intervención humana directa, pueden fallar y poner en peligro la vida y seguridad de las personas.
Errores en la programación, falta de actualizaciones, manipulación indebida, accidental o malintencionada, pueden tener consecuencias muy graves en casos de accidente o mal funcionamiento.
Inteligencia artificial y derechos humanos
Inteligencia artificial y derechos humanos deben convivir, y el desarrollo y uso de la primera debe respetar a los segundos, por ello es fundamental no solo que los gobiernos legislen y promulguen leyes como la Ley de Inteligencia Artificial, sino que las propias empresas que crean modelos y sistemas de IA y aquellas que los usan y los ponen a disposición de sus clientes, adopten un enfoque ético, responsable y transparente.
El desarrollo y progreso de la tecnología basada en IA no puede hacerse a costa de los derechos fundamentales de las personas; empresas, organizaciones, entidades públicas y usuarios debemos ser conscientes del daño potencial que puede causar la inteligencia artificial a las personas y los derechos que se pueden ver vulnerados (ya empezamos a tener jurisprudencia en la inteligencia artificial, que nos indica los malos usos que se están haciendo ya de ella o algunas de sus consecuencias negativas imprevistas) y adoptar las medidas necesarias para evitar esas vulneraciones o, al menos, minimizar el impacto negativo.
Cabe señalar que tanto la evolución como el control normativo de la inteligencia artificial avanzan de forma constante, y que la cooperación entre instituciones gubernamentales, empresas y ciudadanos resulta clave para asegurar que su aplicación favorezca al conjunto de la sociedad.
