La Inteligencia Artificial está cada vez más integrada en nuestras vidas, recurriendo a ella en diferentes tipos de situaciones, desde la ayuda de asistentes virtuales, hasta los procesos de toma de decisiones. La IA, que sigue evolucionando y desarrollándose continuamente, pero como creación humana que sigue siendo, adolece de los mismos problemas y carencias ya presentes en la sociedad, como son los relacionados con la igualdad de género.
En las siguientes líneas analizaremos la relación actual entre Inteligencia Artificial e igualdad de género.
En este artículo hablamos de:
La importancia de una Inteligencia Artificial con perspectiva de género
Podríamos pensar que algo basado en lógica, datos y cálculos matemáticos no está de ninguna manera influenciado por sesgos o estereotipos de ninguna clase, sean de género (como los que nos ocupan en este artículo) o de raza, de clase, de orientación sexual, etc., que las máquinas aprenden en base a unos datos neutros, pero diferentes estudios y proyectos fallidos de IA nos dicen que la realidad es bien distinta.
Las inteligencias artificiales que se usan actualmente están basadas en machine learning, el uso de algoritmos y son alimentadas con datos para entrenarlas. Esos datos no son neutros, aunque puedan parecerlo, lo que provoca que las IA acaben desarrollando comportamientos sexistas, racistas, etc. Es decir, cuando no se aplica sobre su desarrollo y aplicación un enfoque de género, aparecen sesgos de género en la Inteligencia Artificial y esta acaba repitiendo los mismos comportamientos e ideas que imperan en la sociedad actual
Debemos tener en cuenta que la IA puede tener un impacto diferente en la vida diaria de hombres y mujeres y por ello es necesario implementar la perspectiva de género en todo el ciclo de vida de la misma, desde su diseño y desarrollo, hasta su implementación.
Los sesgos de género en la Inteligencia Artificial
Un informe publicado por la Fundación Alternativas divide los sesgos de género presentes en las IA en dos tipos: de datos y de diseño.
Como hemos dicho, las IA se entrenan suministrándoles grandes cantidades de datos. Sin embargo, ese alto volumen no implica que los datos sean diversos y representativos de todas las realidades, porque en muchos casos, los datos provienen de la mayoría dominante, invisibilizando colectivos o grupos sociales, que históricamente han quedado relegados a un segundo, tercer o cuarto plano. Si los datos que entrenan la IA no son representativos de todas las realidades, las respuestas y resultados que se obtendrán de ella estarán sesgados.
Respecto al diseño, se corre el riesgo de que quienes diseñan los sistemas de Inteligencia Artificial viertan en años sus propios sesgos y estereotipos de género. El mejor ejemplo de esto lo tenemos en el diseño de los asistentes virtuales; Alexa, Cortana, Siri… ¿Qué tienen en común? Exactamente, que están «encarnadas» por mujeres y no es casual, ya que tradicionalmente se asocia a la mujer con los trabajos de asistencia, de ayuda, de recepcionista, secretaria, etc. Esto también lo vemos en los chatbots de algunas páginas web.
Ejemplos del efecto de los sesgos de género en la IA
Aparte del ejemplo de los asistentes virtuales, podemos ver otro ejemplo de sesgo de género en la Inteligencia Artificial, en este caso en los datos, con un proyecto de Amazon, en el que la IA no hizo más que perpetuar una situación de desigualdad entre los empleados de la empresa.
Amazon recurrió a un sistema de IA para reclutar nuevo personal, para entrenarlo, le suministró datos de los trabajadores de los últimos 10 años. En ese período de tiempo, la mayoría de puestos técnicos estaban ocupados por hombres, de manera que la IA comenzó a descartar cualquier candidatura de mujeres, porque en los datos con que se había entrenado apenas figuraban y el sistema entendía que no eran candidaturas adecuadas.
Unos datos aparentemente neutros no lo eran, lo que provocó que la IA acabase discriminando a las mujeres para ocupar puestos de trabajo técnicos.
Posibles soluciones para integrar la perspectiva de género en la IA
Integrar la perspectiva de género en la IA no es algo que pueda hacerse de un día para otro, pero hay posibles soluciones que a medio y largo plazo pueden ir cambiando esta relación entre Inteligencia Artificial y género.
Una de esas soluciones pasa por crear equipos más diversos en el desarrollo de IA, donde las mujeres no sean una minoría (como ocurre ahora) e incorporar así una perspectiva más amplia en el diseño, desarrollo y aplicación de las mismas.
Otra solución, esta a largo plazo, pasa por integrar la formación y sensibilización en perspectiva de género de forma transversal en las ingenierías, para que a la hora de analizar y tratar conjuntos de datos, los desarrolladores sean capaces de detectar los sesgos de género presentes en ellos.
En esa línea, pero a corto plazo, es recurrir a las ciencias sociales y a incluir en los proyectos de IA a profesionales expertos en igualdad de género, para analizar los conjuntos datos en busca de esos sesgos y de este modo poder crear algoritmos libres de los mismos. Además, estos algoritmos deberían ser monitoreados y auditados para detectar posibles sesgos en los resultados.
El uso de la Inteligencia Artificial para promover la igualdad de género
Si conseguimos eliminar los sesgos de género de la Inteligencia Artificial y aplicar en ella un enfoque de género, esta tecnología puede ayudar a solucionar problemas relacionados con la desigualdad y promover una sociedad más igualitaria, puesto que podría detectar no solo las situaciones de desigualdad, sino también definir causas y proponer soluciones.
La IA tiene el potencial de incrementar la eficacia y la eficiencia de los procesos de detección de problemas y predicción de soluciones, de avanzar hacia soluciones y servicios más personalizados para los ciudadanos, pero para que las desigualdades no se perpetúen, es importante integrar en ella la perspectiva de género, porque, como hemos dicho, los datos en realidad no son neutros.
El caso de Suecia y su apuesta por la igualdad en el uso de Inteligencia Artificial
Un ejemplo de la aplicación del enfoque de género en la Inteligencia Artificial lo encontramos en Suecia (no en vano, es el primer país de la UE en igualdad de género). El país escandinavo lleva ya un tiempo haciendo uso de esta tecnología de manera proactiva a favor de la igualdad de género, en concreto en las siguientes áreas: influencia y poder (proyecto Ceretai), educación (proyecto Gradecam), distribución igualitaria de los ciudadanos y el trabajo no remunerado, la eliminación de la brecha salarial (proyecto Rikare II), la lucha contra la violencia de género y el acceso y disfrute igualitario a la salud (proyectos Grace Health y Bonzun).
Suecia emplea la IA como herramienta para identificar situaciones de discriminación para las mujeres, así como para proponer soluciones y promover su inclusión. Para ello, se han propuesto una serie de factores habilitadores de la IA con perspectiva de género, como por ejemplo, la cooperación entre quienes sufren la discriminación, las personas emprendedoras, programadores/as de IA y expertos/as en cuestiones de género o incluir la perspectiva de género en todos los procesos de desarrollo.