Para abordar los desafíos éticos y legales que plantea el uso de sistemas y herramientas de inteligencia artificial (IA) en las empresas, muchas organizaciones están implementando protocolos de IA. En las siguientes líneas explicamos qué son los protocolos de uso de IA y cuál es su finalidad en las empresas.
¿Qué son los protocolos de IA?
Un protocolo de IA es un conjunto de normas, principios y procedimientos que regulan el uso responsable de la inteligencia artificial en la empresa. Su propósito principal es establecer directrices claras y buenas prácticas de IA para asegurar que sistemas y herramientas de IA se usan de forma ética, segura y conforme a la normativa vigente.
Un protocolo empresarial de inteligencia artificial no solo se centra en cómo usar esta tecnología dentro de la empresa, sino también en el posible impacto de la inteligencia artificial en las personas y en los propios procesos empresariales. Por ejemplo, en el protocolo de IA se pueden abordar temas sobre la transparencia de los algoritmos, la protección de datos personales, la equidad en los resultados y la responsabilidad ante posibles fallos. También puede incluir la forma en que se pueden usar diferentes herramientas de IA y sus límites (por ejemplo, cómo se puede usar ChatGPT en la empresa sin vulnerar la confidencialidad o la privacidad de la información).
Cabe señalar que los protocolos de IA son, o deben ser, dinámicos; dada la velocidad a la que avanza esta tecnología y la aprobación de nuevas leyes para regular su uso, es necesario que los protocolos de inteligencia artificial se actualicen de forma periódica para reflejar esos cambios normativos y nuevos posibles riesgos.
¿Para qué sirve un protocolo de IA en la empresa?
Los protocolos de IA tienen diferentes propósitos relacionados entre sí:
- Cumplimiento normativo: Leyes como el RGPD y la Ley de IA exigen a las empresas utilizar las tecnologías de IA de manera responsable y ética, además de establecer obligaciones concretas respecto al tratamiento de datos personales y el uso de sistemas de IA de alto riesgo. Tener implantado un protocolo de IA ayuda a cumplir estas normativas.
- Reducción de riesgos: El uso de sistemas de IA tiene riesgos éticos y legales, como el sesgo algorítmico, la discriminación en las decisiones automatizadas, la violación de la propiedad intelectual o el uso de herramientas de IA prohibidas por la Ley de IA. Un protocolo de IA permite identificar estos riesgos y adoptar medidas para su mitigación antes de que puedan afectar a la empresa o a sus clientes.
- Uso ético de la IA: Los protocolos de IA son, en cierto sentido, las instrucciones de la empresa para usar los sistemas o herramientas de IA, al aplicar la ética en la IA, fomentan el uso responsable de la misma dentro de la empresa.
- Genera confianza: La inteligencia artificial es una tecnología reciente para muchos usuarios, que esperan que las empresas que la emplean sean transparentes al respecto. Contar con un protocolo de IA demuestra el compromiso de la empresa con la IA ética, lo que refuerza la reputación y genera confianza entre clientes y usuarios, así como entre los empleados.
- Herramienta educativa: El protocolo de IA proporciona a los empleados una herramienta orientativa para utilizar la IA de forma eficaz y alineada con los objetivos de la empresa.
¿Cuál es el contenido de un protocolo de IA?
El contenido esencial de un protocolo de IA incluye:
- Principios éticos: Son la base del protocolo e incluyen el compromiso con la justicia, la no discriminación y el respeto a los derechos humanos. Por ejemplo, pueden especificar medidas para evitar el sesgo algorítmico y no perpetuar desigualdades o discriminación. Asimismo, se fomenta la transparencia en los procesos, permitiendo a los usuarios y partes interesadas comprender cómo y por qué se toman las decisiones automatizadas.
- Políticas de privacidad y seguridad: En ellas se detalla cómo se protegen los datos personales utilizados en los sistemas de IA. Incluyen prácticas como la anonimización de los datos, el cifrado o el control de acceso basado en roles. También se contempla la realización de auditorías periódicas para garantizar que los datos personales no se vean comprometidos y que se cumple con el RGPD.
- Áreas de aplicación: En este apartado se identifican y describen los usos de la IA en la empresa. Por ejemplo, si se emplea para análisis predictivo en marketing o para mejorar la eficiencia operativa (como puede hacerse al emplear inteligencia artificial para abogados en el despacho de abogados); el protocolo debe especificar los objetivos y límites de cada aplicación, y asegurar que no se desvían hacia propósitos no autorizados o inesperados.
- Mecanismos de supervisión: El protocolo de IA debe incluir también las herramientas y procesos que se emplearán para monitorear el desempeño e impacto de los sistemas de IA usados en la empresa. Esto puede abarcar desde auditorías periódicas, sistemas de alerta para detectar errores hasta la designación de un equipo responsable de hacer revisiones periódicas. Además, se establecen protocolos para la desconexión de sistemas en caso de fallos críticos.
- Responsabilidades y capacitación: Este apartado distribuye tareas específicas entre departamentos y roles clave, como el cumplimiento normativo, la supervisión técnica y la evaluación ética. También incluye programas de capacitación para empleados, que tocan tanto la formación en principios técnicos como éticos de la IA, para asegurar un uso consistente y responsable.
¿Cómo hacer un protocolo de IA para empresas?
Para hacer un protocolo de IA es necesario adoptar un enfoque estructurado y colaborativo. El proceso de elaboración del protocolo puede dividirse en las siguientes fases:
- Evaluar necesidades y riesgos: Es esencial identificar cómo se está utilizando la IA en la empresa o cómo se planea utilizar, y después hacer un análisis de riesgos que evalúe vulnerabilidades, amenazas y posibles impactos negativos, así como los riesgos de incumplimiento de las normativas vigentes aplicables a la inteligencia artificial.
- Involucrar a las partes interesadas: Para tener un protocolo completo y alineado con los intereses de la empresa y el uso ético, es necesario implicar en su elaboración a todas las áreas pertinentes: dirección, IT, recursos humanos y legal, así como a una representación de los trabajadores (en caso de que la empresa no cuente con RLT). Además, es recomendable consultar a expertos externos sobre IA y ética para garantizar que el protocolo refleje las mejores prácticas del sector y cumpla con las normativas vigentes.
- Definir principios: Los principios deben alinearse con los valores de la empresa, así como con los estándares internacionales en materia de seguridad de la información y derechos humanos y ética. Por ejemplo, el principio de transparencia puede incluir compromisos explícitos para explicar las decisiones de los sistemas de IA a los usuarios o clientes.
- Definir objetivos: Se deben definir objetivos alineados con los objetivos empresariales, pero también con el uso ético y responsable de la IA. Los objetivos deben ser específicos, por ejemplo, «garantizar la privacidad de los datos personales utilizados en el entrenamiento de modelos».
- Incluir definiciones: El protocolo debe incluir definiciones de la terminología que se usa en el documento, para garantizar su comprensión. Se pueden colocar como un anexo.
- Documentar las políticas y procedimientos: Este paso consiste en redactar un documento claro y accesible que explique cómo se implementarán y supervisarán las políticas. Esto incluye desglosar responsabilidades, establecer un calendario para auditorías y definir indicadores clave de rendimiento (KPI) para evaluar el éxito del protocolo.
- Formación y comunicación: Además de ofrecer capacitaciones técnicas, se deben diseñar programas educativos que sensibilicen a los empleados sobre los riesgos éticos y legales de la IA. Las empresas también deben comunicar de manera efectiva el propósito y las expectativas del protocolo a todos los niveles, utilizando herramientas como cursos de formación, guías de usuario y plataformas internas de aprendizaje.
- Supervisar y actualizar: Una vez implementado, el protocolo debe someterse a revisiones periódicas. Estas revisiones deben evaluar su efectividad en la práctica y considerar cambios en la legislación, avances tecnológicos o nuevas aplicaciones de la IA. Es recomendable designar a un comité responsable para supervisar este proceso de mejora continua.
La solución de Atico34 AI Governance: El software de Atico34 está diseñado para que todas las empresas puedan cumplir la normativa de inteligencia artificial de manera económica. Con Atico34 AI Governance empresas y negocios de cualquier sector de actividad pueden elaborar su protocolo interno para el uso de la IA simplemente respondiendo una serie de cuestiones en el software, por ejemplo qué herramientas IA usa. Todo ello además, con el soporte legal de los abogados especialistas en compliance de Atico34.
¿Es obligatorio tener un protocolo de IA en la empresa?
No hay ninguna ley que obligue a tener un protocolo de IA en la empresa, sin embargo, se recomienda su implementación para minimizar riesgos de cumplimiento normativo, especialmente del RGPD y la Ley de IA, para asegurar que los sistemas y herramientas de IA se usan de forma ética y responsable en la empresa, y para reforzar la seguridad de la información al usar estas tecnologías, puesto que en ocasiones se comparte información confidencial de la empresa con herramientas como ChatGPT, que podría acabar siendo filtrada.
Debemos ver el protocolo de IA para la empresa no solo como un recurso técnico, sino como una herramienta estratégica que garantiza que la organización aprovecha todo el potencial de la inteligencia artificial de manera segura, ética y eficiente.
