El uso del reconocimiento facial está cada vez más extendido, gracias, en gran medida, al desarrollo y avance de la inteligencia digital, y a su aceptación como medida de seguridad, por su comodidad (posar ante una cámara o hacernos un selfie es más cómodo que introducir una contraseña o presentar un documento). Sin embargo, su uso no está exento de peligros y amenazas. En las siguientes líneas repasamos los principales riesgos del reconocimiento facial para las personas.
Contenido del artículo
¿Cuáles son los riesgos del reconocimiento facial?
El desarrollo y mejora de las cámaras biométricas y la implementación de sistema de IA más avanzados, han propiciado la expansión del uso del reconocimiento facial, sin embargo, también plantean dudas sobre los riesgos que usar y registrar datos biométricos, como es el patrón facial, pueden suponer para las personas, desde su privacidad y seguridad, hasta la limitación de sus derechos y libertades fundamentales.
Cada vez son más los usos en los que se emplea el reconocimiento facial, ya no solo es una forma novedosa para desbloquear nuestro smartphone, sino que también se emplea como medida para gestionar la seguridad de espacios públicos, para llevar a cabo operaciones que requieren verificar la identidad de la persona (como la apertura de una cuenta bancaria online), agilizar procesos (por ejemplo, se usa el reconocimiento facial en aeropuertos para facilitar el proceso de embarque) o para la identificación de sujetos.
Conocer los riesgos del reconocimiento facial es fundamental para que, como usuarios, sepamos qué información debemos buscar y consultar antes de usarlo y podamos decidir si consentimos o no en su uso, al menos, cuando tenemos la oportunidad de hacerlo, porque, cómo veremos a continuación, el reconocimiento facial para el control y preservación de la seguridad ciudadana, que ya supone un riesgo en sí mismo, especialmente en sitios en los que no haya una regulación clara del uso de la inteligencia artificial con esta finalidad.
Pérdida de privacidad
Uno de los riesgos más significativos del reconocimiento facial es la pérdida de privacidad, especialmente en espacios públicos.
El empleo de cámaras de reconocimiento facial en tareas de videovigilancia pueden facilitar el monitoreo constante de las personas y registrar sus movimientos sin que seamos conscientes realmente de ello. Estamos tan acostumbrados a la presencia de cámaras de vigilancia en el espacio público y en espacios privados de acceso público, que si estas cámaras registrasen nuestro rostro con esos fines, no nos daríamos cuenta.
Este monitoreo constante supone una invasión de la privacidad, especialmente cuando se lleva a cabo de forma indiscriminada sobre cualquier ciudadano y sin informar sobre ello.
Yendo un poco más lejos, la capacidad de rastrear a las personas en tiempo real y de manera ubicua puede llevar a una sociedad de vigilancia en la que los movimientos y acciones de las personas están perpetuamente bajo escrutinio. Este tipo de monitoreo constante puede afectar la libertad de expresión y de asociación, ya que las personas pueden sentirse incómodas al participar en actividades legítimas, pero que pueden considerarse controvertidas.
Cabe recordar que si ya no es legal fichar con reconocimiento facial sin tener una clara base jurídica para ello y el consentimiento del interesado, es porque el uso de datos biométricos con estos fines se considera una invasión del derecho a la privacidad de las personas.
Riesgos de seguridad
Los sistemas de reconocimiento facial almacenan enormes cantidades de datos biométricos, muchas veces en bases de datos centralizadas, para agilizar y facilitar el proceso de comprobación y verificación. Si estas bases de datos biométricos no se protegen adecuadamente, pueden ser vulnerables a ciberataques y acabar en la pérdida, filtración, manipulación o robo de datos biométricos.
Como cualquier otro dato biométrico, la información facial es permanente y no puede cambiarse como una contraseña, lo que significa que si nuestro patrón biométrico se ve comprometido en un ciberataque o incidente de seguridad, las consecuencias pueden ser devastadoras y duraderas; puedes crear nuevas contraseñas, pero de cara no puedes cambiar.
Por otro lado, el acceso no autorizado a bases de datos de reconocimiento facial puede llevar al robo y suplantación de identidad, fraudes y otros delitos cibernéticos. Además, los hackers pueden manipular estos sistemas para evitar la detección o para incriminar a personas inocentes, socavando la confianza en la seguridad digital.
Limitación de derechos fundamentales
Sin unas leyes y regulación adecuadas, la tecnología de reconocimiento facial puede ser utilizada por los estados para monitorear y controlar a sus ciudadanos, poniendo en riesgo los derechos humanos de sus ciudadanos.
Generalmente, pensamos que solo regímenes autoritarios hacen uso de esta tecnología para reprimir la disidencia política, controlar a la población y llevar a cabo una vigilancia masiva sin restricciones legales, pero lo cierto es que también pueden ser un riesgo para las democracias.
Implementar sistemas de reconocimiento facial sin las adecuadas salvaguardas puede derivar en abusos de poder escudados en el mantenimiento de la seguridad pública. Este riesgo es que ha llevado a la UE a calificar el uso de sistemas de monitoreo con reconocimiento facial en tiempo real y remoto como un riesgo inadmisible en la Ley de IA, de manera que no se pueden utilizar salvo en situaciones muy concretas y con la debida autorización.
Sesgos, falibilidad y discriminación
Los sistemas de reconocimiento facial actuales funcionan con sistemas de IA que han sido entrenados en muchas ocasiones con datos poco diversos, esto ha propiciado la aparición del denominado sesgo algorítmico. En este contexto, ya se ha comprobado y documentado en diferentes estudios que el reconocimiento facial tiene mayores tasas de error para ciertos grupos demográficos, especialmente personas de color, mujeres y jóvenes.
Los sesgos y errores pueden producir falsos positivos y conducir a discriminaciones e injusticias. La utilización de sistemas sesgados en aplicaciones críticas, como la seguridad pública, puede exacerbar las desigualdades existentes y perpetuar la discriminación sistémica. Además, la falta de transparencia en cómo se entrenan y se utilizan estos sistemas impide una supervisión adecuada y el desarrollo de soluciones para mitigar estos sesgos.
Así mismo, esta falibilidad de los sistemas de reconocimiento facial puede socavar la confianza en la tecnología y en las instituciones que la usan.
Explotación indebida de datos
En el uso de sistemas de reconocimiento facial participan diferentes actores, la empresa u organización que implementa el sistema, la empresa proveedora del sistema, que puede también supervisarlo e incluso la empresa que ha desarrollado el sistema. Si no hay unas políticas de protección de datos adecuadas, todos estos actores pueden tener acceso a los datos biométricos del rostro e incluso usarlos para finalidades diferentes a las de la empresa que implementa el sistema.
Entre esas finalidades puede estar el entrenamiento del sistema de IA o la comercialización de los datos, por ejemplo, sin que los interesados hayan dado su consentimiento para ello.
Ejemplos reales de los riesgos del reconocimiento facial
Para ilustrar el riesgo real que suponen los sistemas de reconocimiento facial, tres ejemplos:
- En 2018, la American Civil Liberties Union (ACLU) demostró cómo el sistema de reconocimiento facial de Amazon confundió a 28 congresistas de EE. UU. con criminales condenados. Para el experimento, la ACLU cruzó una base de datos con 25.000 fotos públicas de delincuentes con las 535 de congresistas.
- En 2020, la policía de Londres probó un sistema de reconocimiento facial en vivo en una zona de la capital, Oxford Circus; de las ocho alertas generadas, solo una resultó ser real, las otras siete fueron falsos positivos.
- En 2024, ciberdelincuentes chinos usaron el reconocimiento facial para robar cuentas bancarias. Para ello crearon una app supuestamente gubernamental para suscribirse a un servicio de pensiones, al descargarla confiando en que era oficial, las víctimas descargaban también el malware que se instalaría en su móvil. Los ciberdelincuentes solicitaban un vídeo con fines de reconocimiento facial que posteriormente usaban para crear deepfakes con los que acceder a las cuentas bancarias de las víctimas y robarlas.
¿Cómo prevenir los riesgos del reconocimiento facial?
Para prevenir los riesgos del reconocimiento facial son necesarias leyes que regulen de manera clara el uso y los límites para estos sistemas (como hace la ya citada Ley de IA). Estas leyes deben exigir a las organizaciones públicas y privadas un uso ético y seguro de los sistemas de reconocimiento facial, obligando a adoptar y aplicar medidas de seguridad técnicas y organizativas para la protección de las bases de datos y de los propios sistemas.
Así mismo, se debe exigir que los modelos de IA que se usarán en el reconocimiento facial sean entrenados con datos diversos, que abarcan a todos los grupos demográficos y étnicos, que ese entrenamiento y el propio sistema cuando esté en funcionamiento, sean supervisados por humanos, para detectar posibles sesgos y corregirlos. Además, el uso de estos sistemas debe ser transparente y rendir cuentas ante las autoridades correspondientes.
Finalmente, también es importante que, como usuarios, nos informemos sobre cómo usan y protegen nuestros datos biométricos esas aplicaciones o servicios que emplean reconocimiento facial antes de dar nuestro consentimiento para ello, porque en la UE, el tratamiento de datos biométricos está prohibido salvo que concurra alguna de las circunstancias contempladas en el artículo 9.2 del RGPD.
