Buenas prácticas para el uso de la inteligencia artificial

Si las empresas quieren evitar un impacto negativo tanto entre su personal como en la sociedad en general, deben adoptar e implementar buenas prácticas en el uso de la inteligencia artificial.

¿Qué buenas prácticas en el uso de IA puede adoptar la empresa?

Existen diversas buenas prácticas en el uso de IA que se pueden adoptar e implementar por parte de la empresa, algunas de las cuales dependerán del sector y actividad de la misma; por ejemplo, el uso de la IA en el ámbito de la salud no tiene los mismos riesgos que el uso de la IA en el marketing, aunque en ambos casos hay que tener en cuenta los riesgos que entraña para la protección de datos.

Así mismo, también hay que tener en cuenta los diferentes tipos de IA, puesto que no todas las herramientas o sistemas que usan inteligencia artificial para operar proyectan los mismos riesgos para usuarios, ciudadanos y sociedad. Por ejemplo, los filtros de spam para correo electrónico usan IA para aprender qué es correo legítimo y cuál no deseado, y clasificarlos en estas categorías, por los que los riesgos derivados son mínimos. Al contrario, las redes neuronales capaces de aprender de forma autónoma de los datos de entrenamiento suministrados, entrañan riesgos más peligrosos para la sociedad o parte de ella.

Por lo tanto, a continuación ofrecemos una guía de buenas prácticas para IA en empresas y negocios de carácter general, con la que se podrá evitar el mal uso de la inteligencia artificial.

Guía de bunaas prácticas sobre uso de IA

Implementar una estructura de gobernanza y supervisión

Implementar una estructura de gobernanza y supervisión de la IA es fundamental para la empresa, puesto que permitirá crear las políticas y protocolos que deben seguirse en el uso de sistema de IA dentro de la empresa.

Entre las buenas prácticas que se pueden adoptar destacamos las siguientes medidas:

• Establecer un comité de ética para supervisar la implementación y uso de la IA en la empresa. Este comité deberá incluir no solo personal experto o conocimientos sobre IA, sino también expertos legales y otras partes interesadas a quienes el uso de la IA pueda afectar.
• Definir los roles y responsabilidades respecto al uso de la IA dentro de la empresa, de manera que haya un responsable encargado de la supervisión y el cumplimiento.
• Establecer mecanismos de rendición de cuentas y responsabilidades por los daños o perjuicios que puedan generar los sistemas de IA.
• Llevar a cabo auditorías periódicas de los sistemas de IA para garantizar el mantenimiento del cumplimiento y que los sistemas funcionan dentro de los parámetros esperados.

Ser transparentes

Tanto si somos desarrolladores de sistemas IA como si somos usuarios finales, debemos ser transparente al crear o usar estos sistemas, es decir, asegurarnos que las decisiones tomadas por la IA son comprensibles para todos los involucrados y afectados.

Para garantizar la transparencia de la inteligencia artificial, estas son algunas buenas prácticas que se pueden adoptar:

• Asegurarnos de que todos los procesos de toma de decisiones de la IA están debidamente documentados; esto incluye el diseño del algoritmo, los datos de entrenamiento utilizados y los criterios de evaluación.
• Proporcionar una interfaz de usuario clara para los usuarios finales, junto a una explicación comprensible de cómo y por qué la IA toma ciertas decisiones. Por ejemplo, puede incluir visualizaciones de datos y descripciones en un lenguaje sencillo.
• Facilitar el acceso a la información relevante sobre la IA para todas las partes interesadas, incluyendo clientes, empleados y reguladores.

Adoptar medidas de protección de datos

Inteligencia artificial y privacidad están muy relacionadas, porque las IA no solo pueden manejar datos personales en el desempeño de su actividad, sino que también pueden ser entrenadas con conjuntos de datos personales.

Por ello se deben adoptar las siguientes medidas y buenas prácticas:

• Siempre que sea posible, utilizar datos anonimizados para entrenar y operar los sistemas de IA, reduciendo con ello el riesgo de vulneraciones de privacidad.
• Obtener siempre el consentimiento informado de los usuarios para la recogida y uso de sus datos por sistemas de IA. Se debe explicar claramente la finalidad del tratamiento, los riesgos que entraña para la privacidad y qué derechos tienen los interesados.
• Hacer análisis de riesgos y evaluaciones de impacto para poder implementar las medidas de seguridad adecuadas para proteger los datos y el sistema de IA de posibles ciberataques y accesos no autorizados. Se puede usar la IA para ciberseguridad, pero también es importante no olvidar que funciona en un sistema informático que también presenta vulnerabilidades. Algunas medidas que se pueden adoptar son el cifrado, la autenticación multifactor y el monitoreo continuo.

Cumplimiento normativo

Aunque la inteligencia artificial no está regulada en muchos países, en la UE la Ley de IA entrará en vigor en 2026 y es necesario prepararse para cumplir con las obligaciones que contempla esta normativa tanto para desarrolladores como para proveedores de sistemas de IA y usuarios finales

Así mismo, también existen otras leyes que, aunque no recojan la IA explícitamente, son de aplicación sobre ella.

Para garantizar el cumplimiento normativo en el uso de IA, la empresa puede recurrir a estas buenas prácticas:

• Contar con asesoría legal sobre el uso de IA y las leyes que son de aplicación.
• Mantenerse actualizado sobre novedades y cambios normativos sobre regulaciones de la IA (es importante, porque es de esperar que en estos próximos meses y años aparezcan nuevas regulaciones).
• Desarrollar y mantener políticas internas claras sobre el uso de la IA en la empresa, que estén basadas en las leyes y normas vigentes o que entrarán en vigor dentro de poco. Así mismo, se debe formar y capacitar los empleados sobre estas políticas.

Evitar el sesgo

El sesgo en la IA puede llevar a decisiones injustas y discriminatorias, lo que no solo es un problema ético, sino que también puede dañar la reputación de la empresa y tener consecuencias legales.

Para mitigar el sesgo algorítmico, especialmente en el desarrollo de sistemas de IA, se debe:

• Usar datos diversos y de calidad en el entrenamiento de los modelos de IA; los conjuntos de datos deben ser representativos de todos los grupos demográficos pertinentes.
• Realizar auditorías periódicas de los sistemas de IA para identificar y corregir posibles sesgos. Esto incluye pruebas de equidad y análisis de impacto.
• Fomentar la diversidad en los equipos de desarrollo de IA para incorporar diferentes perspectivas y reducir el riesgo de sesgo inconsciente.

Adoptar un enfoque ético

Adoptar un enfoque ético en el uso de la inteligencia artificial es fundamental para garantizar que la tecnología beneficie a todos de manera justa y equitativa. Las empresas deben integrar principios éticos en cada etapa del ciclo de vida de sus sistemas de IA, desde el diseño y desarrollo hasta la implementación y monitoreo continuo.

Más allá del cumplimiento normativo, las buenas prácticas que se pueden aplicar para adoptar un enfoque ético son las siguientes:

• Establecer un marco claro de principios éticos que guíen todas las decisiones relacionadas con la IA. Este marco debe incluir aspectos como la justicia, la transparencia, la privacidad, la responsabilidad y la sostenibilidad.
• Involucrar en el proceso a una variedad de partes interesadas en el desarrollo de estos principios, incluyendo expertos en ética, representantes de la comunidad, y empleados de diferentes departamentos. Esta diversidad de perspectivas puede ayudar a identificar y mitigar posibles riesgos éticos desde el inicio.
• Implementar mecanismos efectivos para monitorear y garantizar el cumplimiento de estos principios éticos. Esto puede incluir auditorías regulares, sistemas de retroalimentación y la creación de comités de ética que revisen las decisiones y procesos relacionados con la IA.

Formación y capacitación del personal

La formación y capacitación del personal respecto al uso de la IA también forma parte de las buenas prácticas. Entre las medidas que se pueden adoptar, destacamos las siguientes:

• Ofrecer programas de capacitación regular para empleados sobre los aspectos técnicos, éticos y legales de la IA. Esta formación y capacitación debe llegar a todos los empleados, incluidos los directivos, para que comprendan las implicaciones del uso de la IA.
• Promover una cultura empresarial que valore la ética y la responsabilidad en el uso de la IA. Esto puede incluir la integración de principios éticos en la misión y los valores de la empresa relativos al uso de sistemas de IA.

En definitiva, la inteligencia artificial puede ser un peligro, pero implementando las buenas prácticas en el uso de IA descritas en este artículo, tu empresa podrá minimizar y mitigar algunos de los riesgos y desafíos éticos y legales más significativos del empleo de sistemas de inteligencia artificial.