¡Pide presupuesto en 2 min! ✓
Inteligencia artificialLOPDGDD & RGPDNuevas tecnologias

¿Cómo se adapta la Inteligencia Artificial al RGPD?

19 Mins read

La entrada en vigor del RGPD coincide con la adopción más generalizada de inteligencia artificial a medida que la tecnología se integra en más y más aplicaciones empresariales.

Existe una emoción palpable en torno a la IA por su potencial para revolucionar aparentemente todas las facetas de cada industria. Los estudios revelan que el 80% de los ejecutivos creen que la IA aumenta la productividad.

En el futuro inmediato, los ejecutivos están buscando inteligencia artificial para aliviar tareas repetitivas y serviles, como papeleo (82%), programación (79%) y hojas de tiempo (78%). Para 2025, se informa que el mercado de inteligencia artificial superará los 100 mil millones de euros.

Junto a la emoción, hay preocupaciones. Entre ellos, cómo abordar la privacidad de los datos y la preocupación entre la privacidad de los datos y la inteligencia artificial es más pronunciada en el Reglamento General de Protección de Datos.

El RGPD está diseñado para proteger la privacidad de los ciudadanos de la UE y darles más control sobre sus datos personales. Su objetivo es establecer una nueva relación entre el usuario y el sistema, una donde la transparencia y un estándar de privacidad no sean negociables.

La Inteligencia Artificial (IA) es un conjunto de tecnologías o sistemas que permiten a las computadoras realizar tareas que implican una simulación de la inteligencia humana, incluida la toma de decisiones o el aprendizaje. Para hacerlo, la tecnología o el sistema recolecta grandes cantidades de datos (llamados Big Data) y, a saber, datos personales.

AI y Big Data van de la mano, lo que ha llevado a muchos a preguntarse si es posible usar AI mientras se protegen los derechos fundamentales de protección de datos personales como se describe en el RGPD.

Inteligencia artificial y RGPD

Cómo se aplica el RGPD en el contexto de la Inteligencia Artificial

El procesamiento de datos personales a través de un algoritmo cae dentro del alcance del RGPD. Por lo tanto, cada vez que un sistema de IA utiliza datos personales, todas las disposiciones estándar del RGPD puede aplicarse.

Cuando los datos personales son procesados ​​por un sistema de IA, esto se lleva a cabo en dos fases: la fase de entrenamiento algorítmico y la fase de uso.

Durante el primero se entrena el algoritmo de la IA en un conjunto de datos, lo que le permite crear un modelo mediante la identificación de patrones y conexiones entre diferentes puntos de datos.

En la última fase, este modelo se aplica al caso de uso particular en el que se diseñó la IA a fin de proporcionar una predicción o clasificación, ayudar a una decisión humana o tomar una decisión por sí mismo.

Por lo tanto, los datos personales son un componente vital para el ciclo de vida completo de un sistema de IA.

Cabe señalar que no todos los sistemas de IA procesan datos personales. Pero incluso donde los sistemas de IA no son diseñados para procesar datos personales, la línea entre datos personales y los datos no personales se vuelven cada vez más borrosos. Esto puede deberse a una falta de robustez en las técnicas de anonimización y el riesgo de reidentificación derivada de las correlaciones e inferencias que se puede extraer de conjuntos de datos agregados.

Cuando se trata de IA en particular, las consecuencias del uso de un sistema diseñado para hacer conexiones y patrones de puntos no visibles de inmediato para el ojo humano aumenta este riesgo de reidentificación.

Base legal

Para todo el procesamiento de datos personales utilizando sistemas de IA, los controladores deben confiar en una de las seis bases legales para el procesamiento establecidas en virtud del artículo 6 del RGPD.

La mayoría de los controladores dependen del consentimiento, intereses legítimos, obligación legal o necesidad contractual.

Una base legal apropiada debe ser establecida durante la fase de entrenamiento y la fase de uso.

Existen varios requisitos asociados con estas bases legales. Por ejemplo, para que el consentimiento sea válido
bajo el RGPD, debe ser específico, informado, otorgado libremente y sin ambigüedades.

Con respecto a la base legal de interés legítimo, los controladores están obligados a equilibrar los intereses que ellos (o terceros) persiquen y los intereses y derechos de las personas cuyos datos personales se procesan.

En el contexto de la IA, esto puede significar definir el objetivo del procesamiento de la IA desde el principio y asegurarse de que el propósito original del procesamiento se reevalúa si el sistema de IA proporciona un resultado inesperado, ya sea para que puedan identificarse los intereses legítimos perseguidos o para que el consentimiento válido, según sea el caso, pueda ser recogido de individuos.

El RGPD establece una prohibición general sobre el procesamiento de categorías especiales de datos, como los datos relacionados con salud, raza u orientación sexual, excepto en circunstancias específicas, como que el individuo haya
proporcionado consentimiento explícito.

La IA se utiliza, por ejemplo, en el sector de la salud o en relación con la prevención y detección del delito,  por lo que necesita confiar en una de las excepciones específicas establecidas en virtud del artículo 9 a esta prohibición general.

El procesamiento de datos personales de niños también debe realizarse con un cuidado particular, según el RGPD.

Por ejemplo, si se ofrece un servicio de la sociedad de la información a un niño y es necesario su consentimiento, ese consentimiento debe ser proporcionado o autorizado por un adulto con responsabilidad parental sobre ese niño.

Los controladores deben ser más cautelosos al desarrollar o utilizar sistemas de IA diseñados para ofrecer dichos servicios a los niños.

Principios de protección de datos

El artículo 5 del RGPD establece los principios de protección de datos que deben cumplirse. Algunos de estos son de particular relevancia para los sistemas de IA, pero todo el procesamiento también debe cumplir con los principios de limitación de propósito, precisión, limitación de almacenamiento e integridad y confidencialidad.

Limitación

El principio de limitación de propósito requiere que los controladores que usan sistemas de IA determinen el propósito del uso del sistema de IA al comienzo de su capacitación o implementación, y realizar una reevaluación de esto para determinar si el procesamiento del sistema arroja resultados inesperados. Los datos personales solo se recopilarán para “fines específicos, explícitos y legítimos” y no se utilizarán de una manera que sea incompatible con el propósito original.

En el mismo sentido, el principio de limitación de almacenamiento requiere que los datos personales se mantendrán en forma identificable por un tiempo no superior al necesario para los fines para los cuales se procesan.

Precisión

El principio de precisión requiere que los datos personales sean precisos y estén actualizados. Este principio es de
importancia particular para sistemas totalmente automatizados, donde la salida podría tener un impacto significativo en individuos con poca supervisión humana.

Alimentar un sistema de IA con datos inexactos podría disminuir la calidad del resultado, y este principio requiere que los usuarios de IA adopten un enfoque particularmente vigilante para garantizar que el conjunto de datos no se diluye con datos de mala calidad.

La decisión imprecisa podría tener un impacto significativo en las personas.

Procesamiento seguro

Finalmente, el principio de que los datos personales deben procesarse de forma segura requiere que quienes los desarrollan o usan IA considerarán los problemas de riesgo de seguridad particulares que dicho uso puede generar y lo mitigarán.

Además del posible acceso no autorizado a datos personales, la falta de seguridad adecuada puede conducir a que terceros no autorizados accedan y manipulen el algoritmo para cambiar su lógica y resultados. Esto puede tener serias consecuencias para las personas donde, por ejemplo, se toma una decisión con respecto a ellos por o con la ayuda de este algoritmo.

Accountability

La rendición de cuentas o accountability requiere que aquellos que procesan datos personales establezcan una organización integral, políticas y procedimientos para garantizar que los datos personales se procesen de conformidad con el RGPD. Y puedan demostrar esas políticas y procedimientos.

En el contexto de la IA, los controladores deben rendir cuentas tanto a los reguladores como a las personas, y deben tener en cuenta la probabilidad y gravedad de las consecuencias del uso de la IA en las personas. No pueden simplemente desplegar un sistema de inteligencia artificial y luego culpar a ese sistema cuando su salida daña a las personas o resulta en incumplimiento.

Los controladores están sujetos a obligaciones de responsabilidad más onerosas que los procesadores. En el contexto de la IA, las partes que normalmente actuarían como procesadores, como los desarrolladores de software o los diseñadores de sistemas, pueden actuar como co-controladores (donde cada parte decide los propósitos y medios de su propio procesamiento del datos personales utilizados por la IA) o como controladores conjuntos (por ejemplo, cuando las partes desarrollan juntas un sistema de IA).

En estos casos, cada parte debe cumplir con las obligaciones de control bajo el RGPD en relación con el sistema de IA.

Dentro de la IA, el programa de gestión de privacidad de una organización incluye:

  • liderazgo y supervisión
  • evaluación de riesgos
  • creación e implementación de políticas y procedimientos apropiados
  • transparencia
  • capacitación y conciencia
  • control y monitorización y
  • respuesta y ejecución.

Es recomendable identificar un equipo o autoridad específica dentro de la empresa responsable del uso de sistemas de inteligencia artificial donde se procesan datos personales.

Nombramiento de un Delegado de protección de datos

Los controladores y procesadores deben designar un DPO en los siguientes casos:

  • el procesamiento lo lleva a cabo una autoridad u organismo público;
  • sus actividades principales consisten en procesamientos que involucran monitorización regular y sistemática de individuos a gran escala;
  • sus actividades principales consisten en procesar a gran escala categorías especiales de datos.

En el contexto de un sistema de IA, existe una mayor probabilidad de que se produzca alguno de estos supuestos. Por ejemplo, la IA se usa en el contexto de diagnósticos médicos (que incluirán datos personales confidenciales), y por su naturaleza, la IA requiere el procesamiento de grandes volúmenes de datos, particularmente en su fase de entrenamiento, para funcionar de manera efectiva.

Como ejemplos adicionales, los emisores de tarjetas de crédito pueden usar IA para detectar y prevenir el fraude financiero en millones de transacciones, y las agencias de aplicación de la ley pueden usar tratamientos de reconocimiento facial para ayudar con sus actividades de vigilancia.

Registro de actividades de tratamiento

Los controladores también están obligados por el Artículo 30 del RGPD a mantener un registro de procesamiento que incluya los propósitos de cada actividad de procesamiento que involucra datos personales, así como el período durante el cual los datos serán retenidos.

Por lo tanto, los controladores deben poder completar este registro de inventario con todos los datos relevantes, incluidos los propósitos de su uso de IA al comienzo de su capacitación y despliegue.

Si el uso de la IA proporciona material que es inconsistente con esos propósitos originales o si cualquier otra información cambia a lo largo del ciclo de vida del sistema, se requiere que el controlador lo actualice.

Los procesadores también deben mantener un registro de inventario que incluye los detalles del controlador en nombre de quién están procesando los datos, las categorías de procesamiento, detalles de transferencias fuera del EEE y la seguridad técnica y organizativa que ha implementado.

En el caso de que entrenen un algoritmo o desarrollen un sistema de IA según las instrucciones de un controlador, tendrían que asegurarse de que la información relevante se almacena en el registro de inventario.

Contratos controlador-procesador y transferencias de datos

El GDPR requiere que la relación entre un controlador y un proveedor de servicios de terceros o se rija por un contrato que incluya disposiciones específicas de protección de datos que garantizan la continuidad de protección de datos personales y cumplimiento del RGPD.

En el contexto de la IA, la relación entre el controlador y el procesador puede variar, dependiendo de las funciones y responsabilidades precisas que las partes tienen en relación con la capacitación y el despliegue del sistema de IA.

Estas deben reflejarse adecuadamente en un contrato.

Por ejemplo, un procesador puede entrenar un algoritmo bajo la instrucción de un controlador. A través de las disposiciones contractuales, los controladores pueden garantizar que estos sistemas de IA estén diseñados u operados para procesar datos personales solo de acuerdo con sus instrucciones y para los fines acordados entre las partes.

Todas las transferencias de datos de los controladores y procesadores de la UE a cualquier destinatario fuera del EEE deben enmarcarse por un mecanismo de transferencia compatible con el RGPD, como las Cláusulas contractuales estándar o la certificación de Privacy Shield (para transferencias a los EE.UU.), para garantizar que los destinatarios brinden el mismo nivel de protección de datos xigido.

Incluso cuando los datos de la UE solo se usan para entrenar un sistema de IA, aquellos que operan el sistema fuera del EEE estarán sujetos al mismo estándar de protección con respecto a esos datos que los controladores o procesadores que están directamente sujetos al RGPD.

Brechas de seguridad

Siempre que haya una violación que involucre datos personales procesados por un sistema de IA, ya sea en la capacitación o en la fase de uso, el controlador debe informar a las autoridades de Protección de datos y a las personas sobre el incumplimiento, si las condiciones relevantes se cumplen por las circunstancias del incidente.

Esto requiere que los usuarios de IA se aseguren de tener visibilidad del funcionamiento de la IA, para poder identificar las infracciones cuando ocurren y mitigarlas de manera adecuada.

Derechos de las personas

Las personas tienen ciertos derechos en relación con sus datos personales bajo el RGPD, incluidos los derechos a
acceder, rectificar o actualizar sus datos, solicitar su eliminación, o restringir u objetar el procesamiento.

Además, las personas tienen derecho a recibir los datos personales que han proporcionado a un controlador en un formato estructurado, de uso común y legible por máquina.

Para cumplir con estos derechos, un sistema de IA debe ser diseñado y operado de manera que permita a los controladores identificar y recuperar la información solicitada por individuos. Si se cumplen ciertas condiciones, los controladores también deben asegurarse de que puedan borrar o eliminar los datos personales del sistema de IA.

Protección de datos por diseño y por defecto

El artículo 25 del RGPD exige que los controladores implementen una técnica y organización adecuada para garantizar la aplicación efectiva de los principios de protección de datos y cumplir con los requisitos del RGPD, tanto antes como durante las actividades de procesamiento.

Por lo tanto, aquellos que diseñan sistemas de IA deben garantizar los principios y obligaciones de privacidad descritos anteriormente, es decir, el requisito de brindar a las personas la oportunidad de ejercer sus derechos, tener un registro de procesamiento, establecer una base legal para el procesamiento, procesar los datos de forma segura, etc. Esto deben tenerlo en cuenta al diseñar el sistema. La privacidad de los datos debe ser un enfoque principal desde el principio.

La cantidad de datos personales recopilados, el alcance de su procesamiento y el período de almacenamiento estará, por defecto, limitado solo a lo necesario. Esto limita a los desarrolladores y usuarios de IA en términos de qué datos personales pueden recopilar y procesar.

Efectos extraterritoriales del RGPD

Cuando una entidad fuera de la UE procesa datos personales de ciudadanos de la UE, ya sea ofreciendo a esas personas bienes o servicios, o monitorizando su comportamiento, está sujeta al RGPD y necesita designar un representante en la UE.

El objetivo del representante es proporcionar a los reguladores de la UE y a las personas un punto de contacto a través del que pueden buscar información sobre el uso de la IA. Este puede ser el caso, por ejemplo, de un sistema de IA capacitado en datos personales recopilados a través de la monitorización de individuos en la UE o utilizados en el
contexto de ofrecer ciertos bienes o servicios.

Autoridades de Protección de datos y sanciones

Las autoridades de Protección de datos han dirigido su atención más ampliamente a la IA y están proporcionando orientación específica sobre su uso responsable.

La Agencia Española de Protección de Datos (AEPD) publicó en febrero de 2020 una guía para aquellos que buscan utilizar la IA (incluyendo desarrolladores) estableciendo las garantías de privacidad y calidad que deben aplicarse.

El RGPD otorga a las autoridades reguladoras poderes de aplicación de sanciones considerables, incluidas las
multas a empresas de hasta el 4% de la facturación mundial anual, o 20 millones de euros, en caso de incumplimiento.

Además, los grupos de consumidores y los tribunales europeos han estado prestando atención al uso de la IA.

Por ejemplo, el Tribunal de La Haya dictaminó en febrero de 2020 que la Indicación de Riesgo del Sistema (SyRI), una herramienta de IA utilizada por el gobierno holandés para combatir el fraude en beneficios, bonificaciones e impuestos, no cumplió con el artículo 8 del Convenio Europeo de Derechos Humanos (es decir, el derecho al respeto a lo privado y a la familia) y fue desproporcionado con los objetivos que buscaba alcanzar.

En febrero de 2020 un tribunal francés determinó que las escuelas que utilizan la tecnología de reconocimiento facial lo habían hecho sin una ley que cumpla con el RGPD y de manera desproporcionada.

Estas posibles sanciones administrativas y recursos civiles, en combinación con los derechos individuales
indicados anteriormente, proporcionan una protección adecuada bajo el RGPD para cualquier persona que desee impugnar el uso de sus datos personales por un sistema de IA.

IA + RGPD

Particularidades del RGPD respecto a la IA

Como indicábamos anteriormente, el RGPD regula la IA en la misma medida que cualquier otra herramienta / tecnología utilizada para procesar datos personales.

Sin embargo, hay disposiciones del RGPD que son de particular relevancia para sistemas de IA. Éstos incluyen:

  • Requisito de que el procesamiento sea justo
  • Principio de minimización de datos
  • Evaluaciones de impacto de la protección de datos

Procesamiento justo

El concepto de procesamiento justo establecido en el Artículo 5 cubre una serie de prácticas de procesamiento y
se superpone con el requisito de transparencia con respecto a los sistemas de IA.

También implica un análisis de si el procesamiento tendrá un impacto adverso e injustificable en las personas involucradas.

Definir la justicia es un desafío continuo ya que puede abarcar una amplia gama de significados. Es un concepto subjetivo y contextual que está influenciado por varios factores sociales, culturales y legales y que se magnifica en el contexto de IA.

El procesamiento justo requiere que los controladores consideren el impacto probable de su uso de IA en las personas y lo reevalúen continuamente. En particular, el procesamiento justo requiere que los sistemas de IA no produzcan sesgos.

El controlador debe tener en cuenta y justificar activamente por qué un algoritmo es justo y que el uso del algoritmo elegido no conduce a resultados inapropiados.

Si un sistema de IA no es lo suficientemente transparente, será imposible para aquellos que supervisan su uso identificar sesgos en su razonamiento y salida.

Minimización de datos

El principio de minimización de datos establecido en el Artículo 5 del RGPD requiere que los datos personales sean
“Adecuados, relevantes y limitados a lo que es necesario en relación con los fines para los cuales son procesados.”

Por definición, los sistemas de IA necesitan cantidades sustanciales de datos para operar de manera efectiva, particularmente durante la fase de entrenamiento. Por ejemplo, un sistema de IA que analiza los factores de riesgo de ataque cardíaco se proporcionará con datos sobre enfermedades cardíacas y ataques cardíacos, así como información más general de los médicos de varios pacientes y su estilo de vida (por ejemplo, fumar, beber, antecedentes de diabetes) durante la fase de entrenamiento.

Durante su implementación y uso, los datos de un paciente específico se analizarán dentro de un marco creado por la IA basado en todos los datos procesados durante la fase de entrenamiento.

Como tal, los sistemas de inteligencia artificial pueden no ser capaces de funcionar sin primero ser entrenados con un gran conjunto de datos. Mientras, esto puede verse como una tensión entre el uso de sistemas de IA y la ley de protección de datos, ya que no siempre es posible predecir qué elementos de datos pueden ser relevantes para el objetivo del sistema.

El principio en sí mismo no limita el procesamiento de datos a modo de referencia a un volumen específico o conjunto de elementos de datos: se refiere a lo que es “necesario” para los fines del procesamiento. Qué datos personales son considerado “necesarios” varía según el sistema de IA y el objetivo para el que se utiliza.

El hecho de que los datos personales deben ser limitados no significa que el sistema de IA en sí mismo sea inútil, especialmente porque no todos los sistemas de IA necesitan proporcionar una salida precisa.

Para sistemas que requieren una precisión del 100%, por ejemplo en la esfera médica, los controladores necesitan ingresar más datos que para los sistemas donde hay un margen de error aceptable.

Los controladores deben establecer límites que sean suficientes para lograr el propósito de procesamiento, en lugar de utilizar todos los datos disponibles.

Evaluaciones de impacto en Protección de datos

Las evaluaciones de impacto están diseñadas para evaluar el impacto de una actividad de procesamiento en la protección de datos personales, donde es probable que el procesamiento genere un alto riesgo para los derechos y libertades de las personas físicas.

Debe contener una descripción sistemática del procesamiento propuesto, su propósito y el legítimo interés perseguido (si corresponde), así como una evaluación de su necesidad y proporcionalidad, sus riesgos y
las medidas previstas para abordar esos riesgos.

Donde los resultados de un DPIA demuestran un alto riesgo para individuos que no pueden ser mitigados, el controlador debe consultar con la autoridad de Protección de datos antes de llevar a cabo el procesamiento propuesto.

Cuando se propone utilizar AI, se puede requerir que los controladores consideren los riesgos que representa para las personas involucradas y si se mitigarán adecuadamente esos riesgos.

El uso de AI es más probable que active el requisito de un DPIA, según los criterios del Art 35 del RGPD.

Las nuevas tecnologías incluyen dónde se usa la tecnología de manera innovadora y dónde se combinan las tecnologías para aumentar su efecto. Estas actividades brindan oportunidades para nuevas formas de recopilación y uso de datos y sus riesgos son desconocidos. Estas nuevas tecnologías exigen, por tanto, realizar una DPIA.

Cuando se requiere una consulta con la autoridad de protección de datos porque existe un riesgo residual en el uso del sistema, esta tiene la última palabra sobre si el uso de la IA es permisible o no. Esto puede resultar en la restricción de todoel sistema de inteligencia artificial, o potencialmente solo los aspectos del algoritmo que se consideran no conformes.

Protección de datos en sistemas de IA

Las disposiciones del RGPD relacionadas con la toma de decisiones automatizada, incluida la elaboración de perfiles, específicamente regulan la AI.

Las capacidades de análisis de big data, inteligencia artificial y aprendizaje automático han hecho que sea más fácil crear perfiles y tomar decisiones automatizadas con el potencial de impactar significativamente los derechos de las personas.

Toma de decisiones automatizadas: definición y alcance

En línea con su enfoque basado en el riesgo, el artículo 22 del RGPD somete a requisitos adicionales solo aquellas
decisiones basadas en el procesamiento automatizado y / o la elaboración de perfiles que producen un efecto legal o significativo para los individuos. Además, estas decisiones deben tomarse únicamente por medios automatizados,
sin intervención humana.

Por lo tanto, estas protecciones adicionales solo se aplican a la toma de decisiones automatizadas más impactantes.

Producir un impacto en los derechos legales de alguien o algo significa que afecte el estado legal o los derechos de una persona bajo un contrato, o una decisión con efectos y significado similares.

Por ejemplo, la toma de decisiones automatizadas para garantizar la seguridad de la red y prevenir ataques cibernéticos, para rechazar transacciones fraudulentas en el contexto de la prevención del fraude, para desconectar un servicio cuando los clientes no pueden realizar pagos a tiempo o las formas comúnmente aceptadas de publicidad dirigida no equivalen a producir un efecto legal o significativo para las personas y quedan fuera del alcance del artículo 22.

Transparencia y lógica

Según el Artículo 5 del RGPD, los controladores deben procesar los datos personales de manera legal, justa y
transparente. Los artículos 13 y 14 también establecen varios requisitos de notificación que especifican qué individuos deben ser informados antes de que se procesen sus datos personales.

En el contexto del uso de IA, estos requisitos incluyen la obligación de informar a las personas sobre los fines del procesamiento, sus derechos en relación con sus datos y la existencia de decisiones automatizadas, incluida información significativa sobre la lógica involucrada y la importancia y las consecuencias previstas de dicho procesamiento.

Del mismo modo, el artículo 15 del RGPD otorga a las personas el derecho de acceder a sus datos, que incluye una
obligación del controlador de proporcionar información sobre la existencia de decisiones automatizadas, incluida la creación de perfiles,

Ya sea incluida en un aviso de privacidad o al momento de ejercer el derecho de acceso, esta información es de particular importancia cuando la IA está en uso.

También destacan la transparencia, la agencia humana y la supervisión y responsabilidad como tres principios clave para una IA confiable.

Bajo el RGPD, un sistema de IA no puede funcionar sin un grado de supervisión de las personas cuyos datos personales se están utilizando. Por lo tanto, las organizaciones que usan IA deben estar listas para coordinarse con los individuos en varios aspectos del uso de la IA, incluso al principio, proporcionando información sobre la lógica utilizada por el algoritmo relevante y en una etapa posterior en la respuesta a un ejercicio de derechos.

Sin embargo, la transparencia es un desafío en el contexto de la IA ya que la información proporcionada al individuo debe ser básica y adaptada al contexto. Los algoritmos son por definición complejos y evolucionan con el tiempo.

Además, la transparencia no es ilimitada, ya que no debe conducir a la divulgación de secretos comerciales.

Intervención humana y derecho a concurso

Aunque existe un derecho general a oponerse al procesamiento de datos personales en ciertas circunstancias bajo
el artículo 21 del RGPD, el artículo 22 establece que únicamente se permite la toma de decisiones automatizadas cuando el individuo ha dado su consentimiento explícito, si el procesamiento es necesario para celebrar un contrato con la persona o cuando esté autorizado por el Derecho del Estado miembro.

Sin embargo, estas condiciones no permiten la toma de decisiones automatizadas cuando están involucradas categorías especiales de datos.

El Artículo 22 también otorga a las personas el derecho a obtener intervención humana en una decisión tomada por AI y el derecho a impugnar la decisión. Estos son derechos importantes para las personas en el contexto de la IA que
aseguran que el uso de la IA sea justo y centrado en el ser humano.

Permitir a las personas obtener información transparente, incluida una explicación de cómo fue una decisión
por lo tanto, es clave para permitirles impugnar una decisión automatizada.

Directrices para empresas de Inteligencia Artificial

Las Pautas de ética sobre IA establecen un marco para lograr una AI confiable, que comprende los siguientes siete requisitos clave que las empresas deben cumplir al diseñar sistemas de IA:

  • Agencia humana y supervisión
  • Robustez técnica y seguridad
  • Privacidad y gobernanza de datos
  • Transparencia
  • Diversidad, no discriminación y equidad
  • Bienestar ambiental y social
  • Responsabilidad.

Estos principios no se limitan a la privacidad de los datos y tienen como objetivo abordar un conjunto más amplio de preocupaciones derivadas de la AI. Sin embargo, se superponen de varias maneras con los requisitos del RGPD.

Por ejemplo, enfatizan el respeto por la autonomía humana, y específicamente la agencia humana y derechos asociados como requisitos clave cuando se usa AI.

El principio general de la autonomía del usuario debe ser central para la funcionalidad del sistema.

Related posts
Nuevas tecnologias

Estafas con Bitcoins y otras criptomonedas. Consecuencias y prevención

11 Mins read
Con el uso de los Bitcoins y otras criptomonedas cada vez más extendido, también se han extendido las estafas que tienen como…
Inteligencia artificialNuevas tecnologias

Inteligencia artificial: Definición, tipos y aplicaciones

9 Mins read
Es un término que cada vez oímos más, en varios aspectos la Inteligencia Artificial (IA) o Artificial Intelligence (AI) forma ya parte…
InternetLOPDGDD & RGPD

Proctoring o cómo supervisar exámenes online

16 Mins read
Los métodos docentes están cambiando a pasos agigantados en los últimos años. La aparición de la enseñanza virtual permite que podamos adquirir…

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Las siguientes reglas del RGPD deben leerse y aceptarse:
Este formulario recopila tu nombre, correo electrónico y e contenido para que podamos realizar un seguimiento de los comentarios dejados en la web. Para más información revisa nuestra política de privacidad, donde encontrarás más información sobre dónde, cómo y por qué almacenamos tus datos.