Uno de los usos que tiene el reconocimiento facial es, en combinación con la inteligencia artificial (IA), el reconocimiento de emociones, una actividad que no está exenta de riesgos para las personas, además de tener limitaciones que en la actualidad ponen en duda su funcionamiento y utilidad. En las siguientes líneas repasaremos los principales riesgos y limitaciones del reconocimiento facial de emociones.
Contenido del artículo
¿Se puede usar el reconocimiento facial para reconocer emociones?
Sí, gracias a los avances hechos en inteligencia artificial y el desarrollo y perfeccionamiento de las cámaras biométricas, es posible usar el reconocimiento facial para reconocer las emociones de las personas.
Es decir, a través de las cámaras de reconocimiento facial se pueden registrar los gestos y expresiones de la cara que hacen las personas ante diferentes situaciones, analizarlas y determinar qué emoción pueden estar sintiendo. Gracias a la aplicación de la IA en el reconocimiento facial y el análisis de las expresiones, se puede predecir el tipo de emoción que una persona siente ante un estímulo determinado.
Este reconocimiento de emociones ya tiene algunas aplicaciones en desarrollo en diferentes ámbitos, como la medicina, la publicidad o la seguridad vial, tal y como os contamos en nuestro artículo sobre reconocimiento de emociones y protección de datos.
Sin embargo, y cómo decíamos en la introducción, existen riesgos y limitaciones en el uso del reconocimiento facial para el reconocimiento de emociones, en gran medida porque estamos ante los «primeros pasos» de esta tecnología, pero conocer estos riesgos y limitaciones puede ayudar a evitarlos y solucionarlas respectivamente en el futuro, a medida que la tecnología se desarrolla y perfecciona, incluso puede ayudar a evitar que se use el reconocimiento de emociones fuera de unos ámbitos muy concretos, para prevenir abusos y malos usos del mismo.
¿Cuáles son los riesgos del reconocimiento facial de emociones?
Los riesgos del reconocimiento facial de emociones son, esencialmente, aquellos relacionados con los sesgos raciales que pueden conducir a perpetuar la discriminación, especialmente cuando hablamos de procesos de toma de decisiones automatizadas.
Debemos tener en cuenta que no todas las personas expresan las emociones de la misma manera, además, también hay que tener presentes las diferencias culturales, porque las emociones no se expresan en el mismo grado en todas las culturas (por ejemplo, hay culturas que son más abiertas con mostrar determinadas emociones en público, mientras que otras son más reservadas). Esto hace que un sistema de reconocimiento de emociones, ante una misma expresión o gesto en dos personas, pueda evaluarlas de forma distinta.
Este problema se vuelve más serio cuando un sistema de reconocimiento de emociones se usa para categorizar personas y prevenir determinadas acciones o comportamientos; por ejemplo, en varias estaciones de tren de Reino Unido se probaron cámaras con IA para el reconocimiento de imágenes, entre otras finalidades, se usaron para identificar comportamientos antisociales y detectar el riesgo de suicidio. Las cámaras fallaron en estos aspectos.
Así mismo, la Universidad de Maryland llevó a cabo un estudio que demostró que los sistemas de reconocimiento de emociones están sesgados y tienden a relacionar a las personas negras con emociones como el enfado más que a las blancas, aun cuando ambas personas tienen el mismo gesto.
Estas pruebas ponen de manifiesto que los sistemas reconocimiento facial pueden ser insuficientes para evitar incidentes o conducir a situaciones de injusticia, si comienzan a emplearse en sistemas de videovigilancia o en procesos laborales (por ejemplo, si se usasen en un proceso de selección). Puede que ahora solo ocurra en la ciencia ficción, pero los sistemas de reconocimiento facial y emociones podrían emplearse como medida preventiva de la comisión de supuestos delitos, basándose en la expresión del rostro y corporal de una persona, lo que podría conducir a su detención preventiva.
Es evidente que el reconocimiento de emociones puede aportar beneficios en algunos campos, pero también traer problemas si su desarrollo y uso no se regulariza y controla.
Evitar estos riesgos requeriría de entrenar sus modelos de IA con enormes volúmenes de datos y además, estos deberían ser diversos y de calidad, es decir, representar la diversidad de la humanidad, de otra forma, lo único que se conseguirá será perpetuar sesgos y discriminación.
¿Qué limitaciones tiene el reconocimiento facial de emociones?
Aparte de los riesgos, también hay que tener en cuenta las limitaciones del reconocimiento facial de emociones, puesto que, cómo ya hemos señalado, se trata de una tecnología que apenas está comenzando a desarrollarse y, aunque el desarrollo de los sistemas de IA va rápido, en lo que a reconocimiento de emociones se refiera aún hay mucho camino por andar. Sin olvidarnos, además, de las limitaciones legales.
Técnicas
El reconocimiento de emociones tiene limitaciones técnicas, ya no solo relativas a las diferencias entre personas y culturas, sino también para reconocer emociones complejas, es decir, aquellas emociones que van más allá de «gustar», «felicidad», «enfado», etc.
Además, el reconocimiento de emociones puede «entender» que una persona está feliz porque está sonriendo, pero no saber si esa sonrisa es realmente de felicidad o una sonrisa para salir o lidiar con una situación incómoda. No puede determinar el motivo que provocan esas emociones con exactitud (salvo que sea un estímulo muy claro), ni tampoco son capaces de determinar las intenciones detrás de una expresión o gesto (cómo ocurrió con las cámaras en las estaciones de trenes de Reino Unido que mencionábamos más arriba).
Es decir, un sistema de reconocimiento facial de emociones no puede prever con exactitud cómo va a actuar una persona en base a sus expresiones faciales o corporales.
También hay que tener en cuenta que si la persona lleva el rostro parcialmente cubierto, el sistema tampoco funciona.
Legales
Las limitaciones legales para el reconocimiento facial de emociones las encontramos en el RGPD y la Ley de IA de la UE.
Aunque las emociones no están contempladas en el RGPD ni se consideran datos personales, para poder analizarlos es necesario usar y analizar datos biométricos, estos datos sí que están reconocidos en la normativa de protección de datos como datos especialmente protegidos, cuyo tratamiento está prohibido salvo que se dé alguna de las circunstancias contempladas en el artículo 9.2 del RGPD (tenéis más información sobre esto en nuestro artículo sobre datos biométricos y protección de datos).
Por su parte, la Ley de IA prohíbe el uso del reconocimiento facial para el reconocimiento de emociones en diferentes ámbitos (como el escolar y el laboral), por considerarlo un sistema de IA de alto riesgo.
Por lo tanto, la legislación vigente limita en gran medida el uso de sistemas de reconocimiento facial de emociones, aunque esto no quiere decir que no se esté trabajando con esta tecnología y desarrollándola para darle diferentes usos. Sin embargo, todavía estamos lejos de ver una aplicación realmente efectiva de la misma.
Es esencial, además, que en el desarrollo de las tecnologías de reconocimiento de emociones se tengan en cuenta los riesgos que tienen para los derechos y libertades fundamentales de las personas y se aplique un enfoque ético y transparente, para evitar problemas de discriminación en el futuro (no podemos olvidar que el sesgo algorítmico es algo real y uno de los principales problemas de algunos sistemas de IA).
