Para funcionar de forma adecuada, la inteligencia artificial requiere, al menos algunos modelos, del procesamiento de grandes cantidades de datos, cuando la finalidad de esos modelos requiere del análisis de datos personales, el uso de la IA plantea cuestiones relativas a la privacidad, de manera que nos preguntamos si inteligencia artificial y privacidad son compatibles y cómo podemos garantizar la privacidad de las personas afectadas por el uso de sistemas o herramientas de IA.
¿Cómo afecta la inteligencia artificial a la privacidad?
Los sistemas o modelos de inteligencia artificial dependen en gran medida del procesamiento de grandes cantidades de datos, tanto para su entrenamiento como para su funcionamiento, cuando esos datos son datos personales, surge la preocupación por cómo afecta el uso de IA la privacidad de los datos y la seguridad de las personas.
Tanto es así que la Ley de Inteligencia Artificial ha clasificado los sistemas de inteligencia artificial en función del riesgo para la privacidad y la seguridad de las personas en los siguientes niveles:
- Riesgo inaceptable, son sistemas de IA cuyo está prohibido debido a que suponen un elevado riesgo para la privacidad y la seguridad de las personas, no hablamos solo de pérdida de privacidad, sino de discriminación, control o manipulación (sistemas de clasificación social, sistemas que puedan manipular el comportamiento, etc.).
- Riesgo alto, son sistemas de IA que dependen de una evaluación de conformidad realizada por un organismo independiente para poder ser usados. Requieren sistemas adecuados de evaluación de riesgos, registros de actividad, supervisión humana, medidas de gobernanza de datos, etc. (cirugía asistida por robot, educación, medios de transporte, etc.).
- Riesgo bajo o limitado, son aquellos sistemas cuyo uso no entraña un riesgo para la privacidad de las personas y cuya utilización sería libre, siempre y cuando cumplan con el principio de transparencia, es decir, informen de que se trata de IA o que se ha usado una herramienta de IA (chatbots, IA generativa, etc.).
Riesgos de la inteligencia artificial para la privacidad
Los riesgos de la inteligencia artificial para la privacidad van más allá de los riesgos para la privacidad digital o la privacidad en internet, aunque, en parte, muchos de los datos que se recaban para entrenar los sistemas de IA se recaban en la Red, de muy diversas fuentes (si bien, no son las únicas fuentes).
En general, y dada la relación entre privacidad y protección de datos, los riesgos de la IA para la privacidad no son muy diferentes de los riesgos de la inteligencia artificial y protección de datos; hablamos sobre todo de falta de transparencia de cara a los usuarios, del riesgo de discriminación debido a los sesgos algorítmicos, la amenaza de las violaciones de datos y los problemas éticos que plantea la monitorización y el control en tiempo real de las personas.
Falta de transparencia
La falta de transparencia en la inteligencia artificial es la falta de información clara y comprensible para los usuarios o interesados, es decir, para las personas cuyos datos son tratados por sistemas o modelos de IA.
Hablamos de falta de transparencia en las categorías de datos que son procesadas por los modelos de IA, en la finalidad de los procesamientos, en el «razonamiento» del algoritmo o algoritmos empleados o en si esos mismos datos o los datos de salida se emplearán con otros fines o se cederán a terceros.
Esta falta de transparencia no solo dificulta la comprensión de cómo funcionan los sistemas o herramientas basados en IA, sino que generan desconfianza entre los usuarios, que realmente no pueden saber para qué están dando realmente su consentimiento.
Discriminación
Los modelos o sistemas de IA se entrenan con datos, cuanto más diversa sea la muestra, menos probabilidades de sesgo aparecerán en los resultados. Sin embargo, se ha comprobado ya en diferentes estudios e informes, que los sistemas de IA están, muchas veces sesgados, puesto que los datos de entrenamiento no son los suficientemente diversos, especialmente cuando el sistema o herramienta va a usarse de forma universal, es decir, no en un determinado grupo de social o geográfico.
El sesgo algorítmico es un problema y un riesgo en sí mismo, porque conduce a la discriminación, por parte del sistema de IA, de ciertos grupos étnicos, a discriminaciones de género y otras discriminaciones de minorías o grupos que están infrarrepresentados en los datos de entrenamiento.
Violaciones de datos
Los sistemas y modelos de IA son entrenados con volúmenes masivos de datos, cuando se trata de datos personales, hablamos de información de todo tipo (financiera, de salud, ideológicas, localización, etc.), de manera que si se produce una violación de datos y estos no están debidamente protegidos (encriptación, anonimización, etc.), se genera un gran riesgo para la privacidad y seguridad de las personas, ya que sus datos personales acaban en manos de actores maliciosos, que pueden emplearlos con diferentes fines.
Monitorización y vigilancia
Tecnología como el reconocimiento facial en tiempo real ya puede emplearse para llevar a cabo tareas de monitorización y vigilancia en espacios públicos, lo que plantea toda una serie de dudas éticas e invasión de la privacidad.
La Ley de IA de la UE limita, en ese sentido, el uso de estos sistemas y tecnologías a las Fuerzas de Seguridad y solo bajo situaciones y escenarios muy concretos de seguridad pública.
¿Son compatibles la inteligencia artificial, con privacidad y seguridad?
Inteligencia artificial, privacidad y seguridad son compatibles, siempre y cuando se respeten las leyes existentes para regular la primera, como son la ya citada Ley de IA, pero sobre todo la Ley de Protección de Datos (RGPD y LOPDGDD), porque aunque esta no trate directamente el uso de la IA, al depender del procesamiento de datos personales, se deben aplicar las medidas contempladas en ella y cumplir con las obligaciones de la misma.
Por lo tanto, para poder hablar de compatibilidad entre inteligencia artificial y privacidad e inteligencia artificial y seguridad, es necesario que responsables y encargados del tratamiento (rol que ocupan no solo los desarrolladores de sistemas y herramientas de IA, sino también los usuarios o entidades que desplieguen estos sistemas) cumplan con las leyes vigentes, además de aplicar un uso ético de la inteligencia artificial.
En ese sentido, también es importante que el legislador no se quede atrás y la regulación de estas tecnologías avancen al mismo ritmo que lo hacen ellas, sino, nos encontraremos con lagunas legales que pueden ser explotadas por actores menos éticos o que deciden prescindir de una autorregulación.
En esa línea, ya hemos visto las dudas respecto a la privacidad que plantea el uso de IAs como ChatGPT, de las que no sabemos con claridad qué datos se han usado para su entrenamiento, y no nos referimos solo a los datos introducidos por los usuarios en la aplicación.
¿Cómo usar inteligencia artificial y garantizar la privacidad?
Para usar inteligencia artificial, sea cual sea la herramienta o modelo a utilizar, o si se va a desarrollar un modelo propio, y garantizar la privacidad de las personas, tanto usuarios como no usuarias, es necesario cumplir con los requisitos y obligaciones que ya están presentes en la Ley de Protección de Datos:
- Privacidad desde el diseño y por defecto a la hora de aplicar una herramienta o modelo de IA, para garantizar la confidencialidad, integridad y disponibilidad de los datos en todo el ciclo de vida de la IA, desde su concepción y desarrollo, hasta su despliegue y uso.
- Principio de minimización a la hora de recabar datos para el entrenamiento de modelos de IA, teniendo en cuenta los riesgos para los derechos y libertades que el uso masivo de determinados datos personales pueden tener para los interesados.
- Principio de exactitud de los datos para evitar el sesgo algorítmico y garantizar la protección de los derechos fundamentales.
- Licitud para el tratamiento para garantizar que los datos recabados se usan con la finalidad pretendida y que no se usarán con otros fines diferentes a los declarados.
- Principio de transparencia para informar a los interesados no solo de que sus datos serán procesados por un sistema o modelo de IA, sino también de la finalidad perseguida y de los terceros a quienes pueden ser cedidos estos datos. Así mismo, también se debe informar claramente sobre la lógica aplicada y las consecuencias previstas para los sistemas de decisiones automatizadas o la elaboración de perfiles.
- Efectuar análisis de riesgos y evaluaciones de impacto en todo el ciclo de vida de un sistema o modelo de IA, especialmente cuando hablamos de sistemas clasificados como de riesgo alto.
- Supervisión humana de las decisiones automatizadas o la elaboración de perfiles.
- Designación de un Delegado de Protección de Datos para garantizar el cumplimiento y la gestión del riesgo al emplear sistemas o herramientas basadas en IA.
- Aplicar e implementar medidas de seguridad de los datos para evitar las vulneraciones de datos o, en su caso, minimizar el impacto de las mismas.
- Establecer plazos de conservación de los datos empleados en el sistema o herramienta de IA.
- Someter los sistemas o herramientas basadas en IA a auditorías de control en protección de datos.
En definitiva, para garantizar la privacidad cuando se usa inteligencia artificial, es necesario observar y cumplir con la legislación vigente en materia de protección de datos e inteligencia artificial. Y como usuarios (e interesados) informarnos sobre cómo y para qué se usan nuestros datos personales cuando interactuamos con sistemas o herramientas basadas en IA.
