¿Qué es la gobernanza en la inteligencia artificial?

La gobernanza en la inteligencia artificial es la gestión y regulación del desarrollo y uso de las tecnologías de IA para garantizar que su utilización es ética, segura y beneficiosa para toda la sociedad. Engloba las prácticas, políticas y normativas diseñadas para enfrentar los desafíos y riesgos asociados al uso de la IA.

Por lo tanto, la gobernanza en la IA se refiere a todos aquellos mecanismos y procesos de supervisión para abordar los riesgos inherentes al desarrollo y uso de sistemas de IA, como son los sesgos, la vulneración de la privacidad o los usos indebidos de estas tecnologías, al tiempo que se fomenta la innovación y la confianza en ellas. Riesgos derivados de la intervención humana en la creación, desarrollo y uso de la inteligencia artificial, pero también de su progresiva autonomía.

Así, la gobernanza de la IA tiene como fin establecer un enfoque estructurado para mitigar esos riesgos y garantizar que los algoritmos de los modelos de IA se supervisan, evalúan y actualizan para evitar que las decisiones tomadas por estos sean erróneas o puedan tener consecuencias perjudiciales para las personas o la sociedad en su conjunto.

De manera que la gobernanza en la inteligencia artificial no depende solo de los desarrolladores de estas tecnologías, sino también de gobiernos, empresas, especialistas en ética y de los propios usuarios.

¿Por qué es importante la gobernanza de la inteligencia artificial?

El rápido desarrollo, evolución e integración de sistemas de inteligencia artificial (IA) plantea un escenario donde la gobernanza de la IA es clave para evitar posibles impactos negativos en las personas y en la sociedad.

El desarrollo y uso de sistemas de IA sin supervisión ninguna puede conducir a errores y comportamientos inesperados de los propios sistemas (por ejemplo, Tay, el chatbot basado en IA de Microsoft, acabó desarrollando un comportamiento tóxico tras sus interacciones públicas en las redes sociales).

Para generar la necesaria confianza en los sistemas de IA, así como asegurar el cumplimiento de las leyes y los valores éticos, es necesario adoptar y aplicar la gobernanza en la inteligencia artificial, especialmente en aquellos sistemas más avanzados y que, poco a poco, se van volviendo más autónomos.

En ese sentido, la gobernanza en la IA persigue varios objetivos fundamentales con los que maximizar sus beneficios para la sociedad, al tiempo que se minimizan sus riesgos potenciales:

• Promover la ética y los derechos humanos: A través de la gobernanza de la IA se persigue asegurar un desarrollo y uso que respeten los principios éticos y los derechos humanos. La ética de la IA implica garantizar que los sistemas de IA no perpetúen los sesgos, la discriminación, los perjuicios o la injusticia, y que su uso beneficie a toda la sociedad.
• Garantizar la seguridad y la fiabilidad: Se deben crear y desarrollar sistemas de IA robustos y fiables, así como resilientes ante fallos técnicos, ciberataques y vulnerabilidades, puesto que el hackeo de un sistema de IA podría tener consecuencias imprevistas y potencialmente negativas para la sociedad (pensemos, por ejemplo, en lo que podría ocurrir si se manipulan los datos de entrenamiento de un sistema de IA que debe tomar decisiones médicas). Inteligencia artificial y ciberseguridad deben complementarse. Así mismo, para garantizar la fiabilidad, en el desarrollo y despliegue de sistemas de IA debe primar la transparencia y la rendición de cuentas (entender cómo funciona el sistema y saber quién es el responsable de sus consecuencias).
• Fomentar la innovación responsable: La gobernanza en la IA también persigue una innovación responsable, es decir, apoyar la investigación y el desarrollo de aquellos sistemas y tecnologías de IA que sean seguras y éticas, al mismo tiempo que se fomenta y promueve un entorno regulatorio capaz de equilibrar la innovación y el desarrollo con la protección de la sociedad ante los avances de la IA.

Principios de la gobernanza en la inteligencia artificial

Para lograr la implantación de valores éticos, asegurar la fiabilidad y seguridad en el desarrollo y uso de los sistemas de IA, la gobernanza en la inteligencia artificial se basa en una serie de principios rectores que guían (o deben guiar) el desarrollo, la implementación y la regulación de los sistemas de IA:

• Transparencia: Los procesos y decisiones tomadas por sistemas de IA deben ser comprensibles y explicables. Gracias a la transparencia, usuarios y autoridades reguladoras pueden evaluar cómo y por qué un sistema de IA toma determinadas decisiones.
• Responsabilidad: Desarrolladores y usuarios de sistemas de IA deben ser responsables de sus acciones y decisiones; la responsabilidad y, por extensión, la rendición de cuentas, abarca desde la creación de los algoritmos de los modelos de IA, hasta el uso de datos para su entrenamiento, garantizando que cualquier impacto negativo se enfrente y solucione de forma adecuada.
• Justicia y equidad: Los sistemas de IA deben evitar el sesgo y la discriminación, tanto en su etapa de creación y desarrollo (especialmente en los datos empleados para su entrenamiento) como durante su uso. Es fundamental que los sistemas de IA no repliquen prejuicios y discriminaciones ya presentes en la sociedad, sino que garanticen beneficios para todos los grupos de la sociedad.
• Seguridad: Los sistemas de IA deben ser seguros y resistir contra fallos y ciberataques. Desde el propio diseño de los algoritmos, hasta su entrenamiento y despliegue, se deben adoptar e implementar medidas técnicas y organizativas de seguridad que garanticen el funcionamiento seguro de los sistemas de IA y mitiguen los riesgos para los usuarios y la sociedad.

Cualquier mecanismo o políticas de gobernanza de la inteligencia artificial debe tener presente tanto los objetivos que detallamos en el punto anterior, como estos principios e integrarlos.

¿Cuáles son los desafíos para la gobernanza de la IA?

Más allá de sus objetivos y principios, la gobernanza de la IA también presenta una serie de desafíos que deben conocerse y enfrentarse, si se quiere establecer un marco de gobernanza eficaz y sostenible:

• Complejidad técnica: La IA no solo es una tecnología altamente compleja, sino que se encuentra, actualmente, en una evolución constante y, en muchos aspectos, rápida. Esto dificulta en gran medida que legisladores y reguladores puedan mantenerse al día con los avances que se hacen en este campo y las nuevas tecnologías que van apareciendo y puestas, en algunos casos, a disposición del gran público, lo que hace extremadamente complicado desarrollar normativas adecuadas que no acaben quedándose desfasadas en un tiempo relativamente corto. Si la ley siempre ha ido un paso por detrás del avance tecnológico, especialmente desde la irrupción de las TIC, con la IA ese retraso es mucho mayor.
• Sesgo y discriminación: El sesgo algorítmico es un problema persistente en los sistemas de IA; creados y desarrollados por humanos y entrenados por humanos, los algoritmos pueden perpetuar o incluso agravar los prejuicios existentes en la sociedad si no se diseñan y prueban adecuadamente (imagina un modelo de IA entrenado solo con datos de un grupo de población determinado, en sus resultados será totalmente parcial y ciego a la existencia de otros grupos diferentes). Abordar este desafío requiere ser consciente de los sesgos existentes y adoptar un enfoque más justo y equitativo.
• Privacidad y protección de datos: Los modelos de IA basados en machine learning y deep learning requieren de grandes cantidades de datos para su entrenamiento, cuando estos datos son datos personales o de ellos se pueden inferir datos personales, se plantean preocupaciones respecto a la privacidad y la protección de datos de los individuos. Encontrar el equilibrio entre la calidad y utilidad de los datos y la protección de la privacidad es un desafío clave en la gobernanza de la IA (cuestiones que ya abordamos en nuestros artículos sobre inteligencia artificial y protección de datos e inteligencia artificial y privacidad).
• Propiedad intelectual: En línea con la protección de datos, la protección de la propiedad intelectual también plantea un serio desafío a la gobernanza de la IA, especialmente cuando hablamos de IA generativas. Estas IA se han entrenado con contenidos en muchos casos protegidos por derechos de autor, sin que sus autores hubieran dado su consentimiento (y ni siquiera fueran conscientes de ello), ni compensados. Si las IA generativas pueden ser un riesgo para el empleo y actividad de esos autores y creadores, la gobernanza debe abordar estas consecuencias.
• Responsabilidad y rendición de cuentas: ¿Es responsable un sistema de IA de las consecuencias negativas de sus decisiones? Determinar y establecer quién es el responsable de las acciones y decisiones tomadas por los sistemas de IA puede ser complicado; ¿sus creadores?, ¿sus usuarios? Por lo tanto, es fundamental establecer marcos regulatorios claros de responsabilidad y rendición de cuentas para una gobernanza efectiva.

Ejemplos de aplicación de la gobernanza de la IA

Pese al rápido desarrollo de la IA y sus desafíos, ya podemos encontrar diferentes ejemplos de aplicación práctica de la gobernanza de la IA, que incluyen políticas, normativas y estándares que buscan guiar el desarrollo y uso ético y seguro de los sistemas de inteligencia artificial. Entre esos ejemplos destacamos los siguientes:

• Normativas y regulaciones: Gobiernos y organizaciones internacionales llevan ya algunos años desarrollando directrices y regulaciones específicas para la IA, con las que buscan establecer unos estándares mínimos de seguridad, ética y transparencia para la creación, desarrollo y uso de los sistemas de IA. Como ejemplos más claros tenemos la Ley de IA de la UE (que entrará completamente en vigor a lo largo de 2026) y que ya prohíbe determinados usos de alto riesgo de la IA, la orden ejecutiva emitida por el Gobierno de EE. UU. en 2023 para garantizar la seguridad de la IA a través de una serie de normas generales, o las directrices de la OCDE para la IA.
• Estándares técnicos: A través de los estándares técnicos se puede garantizar la interoperabilidad y la seguridad de los sistemas de IA. Organizaciones como ISO o NIST están desarrollando estándares específicos para los sistemas de IA.
• Códigos de conducta y buenas prácticas: La autorregulación también forma parte de la gobernanza de la IA; los códigos de conducta y buenas prácticas desarrollados por la propia industria proporcionan directrices para el desarrollo ético y responsable de la IA.
• Evaluaciones de impacto y auditorías: Las evaluaciones de impacto y las auditorías son herramientas efectivas para identificar y mitigar los riesgos asociados con la IA. Deben ser realizadas no solo a nivel interno, sino por organismos independientes que garanticen la objetividad. Ahora bien, para que estas evaluaciones de impacto y auditorías sean efectivas, los sistemas de IA deben ser transparentes y estar documentados debidamente.

¿Cómo implementar la gobernanza de la IA en la empresa?

Hasta ahora hemos hablado de la gobernanza en la inteligencia artificial con carácter general, pero ¿cómo puede una empresa adoptar e implementar un enfoque de gobernanza de la IA?

Se trata de un proceso que requiere planificación y que puede desarrollarse en los siguientes pasos:

1. Crear un comité de gobernanza de IA: El primer paso será formar un equipo multidisciplinario que incluya expertos en IA, en Derecho, en ética y de negocio. El comité será responsable de supervisar todas las actividades relacionadas con la IA en la empresa.
2. Definir políticas y directrices: Se definirán y desarrollarán políticas claras que aborden el uso ético de la IA, la protección de datos, la transparencia y la responsabilidad. Estas directrices deben alinearse con las normativas locales e internacionales y con los principios éticos de la empresa.
3. Llevar a cabo evaluaciones de impacto: Antes de desarrollar o implementar cualquier sistema de IA, se hará una evaluación de impacto para identificar posibles riesgos éticos, legales y de seguridad. Esto ayudará a anticipar y mitigar problemas antes de que se presenten.
4. Establecer protocolos de seguridad: Se deben crear e implementar protocolos de seguridad para proteger los datos y los propios sistemas de IA contra fallos técnicos y ciberataques. Los protocolos deben mantenerse actualizados frente a nuevas amenazas.
5. Desarrollar algoritmos justos: Se deben adoptar y aplicar prácticas para evitar el sesgo algorítmico; esto implica observar la calidad y diversidad de los datos utilizados para entrenar los modelos de IA. Así mismo, también implica la supervisión del modelo y la validación continua del mismo para detectar y corregir posibles sesgos.
6. Documentar procesos y decisiones: Se deben mantener registros detallados de los procesos de desarrollo de la IA, las decisiones tomadas y la lógica detrás de las mismas. Esto facilitará la transparencia y permitirá la realización de auditorías internas y externas.
7. Implementar mecanismos de rendición de cuentas: Se establecerán mecanismos claros para asignar la responsabilidad de las decisiones y acciones de los sistemas de IA.
8. Implementar auditorías periódicas: Se deben auditar de manera periódica los sistemas de IA para asegurar tanto el cumplimiento de las políticas de IA como de las normativas vigentes. Aunque se pueden realizar auditorías internas, estas deberán cumplimentarse con auditorías externas de organismos independientes.
9. Mejora continua: Es necesario mantenerse actualizado no solo de los avances en el campo de la IA, sino también sobre los cambios regulatorios que la afectan, para adaptar y mejorar continuamente el marco de gobernanza de la IA dentro de la empresa.

En conclusión, la gobernanza en la inteligencia artificial es clave para asegurar un desarrollo, evolución y uso ético, justo y seguro de los sistemas de IA. Esta tecnología tiene el potencial para beneficiar enormemente a la humanidad en diferentes áreas, pero también lo tiene para tener consecuencias catastróficas (especialmente, aunque no solo, a medida que ganan autonomía), por ello es fundamental que se desarrollen marcos regulatorios y jurídicos desde los gobiernos y organismos internacionales para su regulación, así como que sus creadores y desarrolladores adopten un enfoque autorregulatorio basado en la ética, la equidad y la seguridad, y los propios usuarios sean éticos y responsables en el uso de estas tecnologías.

Te ayudamos a cumplir la Ley de Protección de Datos

Escríbenos o contacta con nuestras oficinas

He leído y acepto la política de privacidad.