Usar un chatbot implica cumplir con una serie de responsabilidades legales, tanto si somos el desarrollador del chatbot como si lo usamos para proporcionar un servicio a nuestros clientes, como puede ser un servicio automatizado de atención al cliente. En las siguientes líneas repasamos cuáles son las principales responsabilidades legales de los chatbots.
Contenido del artículo
¿Un chatbot tiene responsabilidad legal?
Empecemos por aclarar que un chatbot, como ente, no tiene responsabilidad legal, puesto que se considera una herramienta y carece de personalidad jurídica alguna, por lo que ni tiene derechos ni obligaciones legales y, por tanto, tampoco responsabilidad civil, en caso de que de sus respuestas se deriven daños físicos o morales para las personas.
Entonces, si no tiene responsabilidad un chatbot, ¿quién la tiene?, ¿quién responde si las respuestas erróneas de un chatbot como ChatGPT producen un daño físico o moral?, algo que podemos considerar uno de los peligros de la IA.
Porque no podemos olvidar que los chatbots, aunque nos parezca que hablan y se expresan como personas, que incluso piensan como personas, en realidad son algoritmos que predicen respuestas en base a sus datos de entrenamiento (tal y como explicamos en nuestro artículo sobre de dónde saca la información ChatGPT). Si los datos de entrenamiento contienen errores y esos errores acaban replicándose en las respuestas del chatbot y producen alguna clase perjuicio a las personas, ¿quién tiene la responsabilidad?
¿Y si el modelo ha sido hackeado y manipulado de alguna forma para obtener determinadas respuestas de salida? Precisamente, uno de los problemas que presenta la inteligencia artificial en ciberseguridad es que los modelos también pueden ser vulnerables a ataques informáticos en sus diferentes fases, incluida la de entrenamiento.
Lo cierto es que se trata de una pregunta compleja por la falta de regulación específica, pero en el siguiente punto trataremos de aclararla.
¿Quién responde legalmente de las acciones de un chatbot?
El chatbot nunca responderá legalmente de las consecuencias de sus acciones (una herramienta no puede ser responsable de los errores o malos usos de la inteligencia artificial). Para determinar quién es el responsable de los daños causados por un chatbot, debemos acudir tanto a la Ley de IA como a la propuesta de Directiva sobre responsabilidad civil no contractual de la inteligencia artificial de la UE.
La Ley de IA clasifica los sistemas de IA según su nivel de riesgo y establece diferentes obligaciones para desarrolladores (fabricantes) y usuarios (en este caso, empresas que usan o prestan servicios basados en sistema de IA a usuarios finales). En el caso de los chatbots nos encontramos ante un sistema de IA de riesgo limitado, cuyas obligaciones son relativas a la transparencia.
De acuerdo a la propuesta de Directiva sobre responsabilidad civil de la IA, en el caso de los chatbots, dado su riesgo limitado, podrían responder legalmente de sus posibles daños:
- Los desarrolladores del chatbot:
- Si existe un defecto en su diseño, programación o datos de entrenamiento, que fuera razonablemente previsible y que sea causa directa del daño sufrido.
- Si no se han cumplido las obligaciones legales correspondientes para detectar riesgos y minimizar su impacto.
- Los usuarios (proveedores de servicios de IA):
- Si no han cumplido con su deber de informar a los usuarios sobre el funcionamiento del chatbot y sus posibilidades de cometer errores
- Si no han cumplido con su deber de diligencia debida sobre el funcionamiento y seguridad del chatbot.
Así mismo, habría que tener en cuenta al propio usuario final, si este ha decidido no leer las advertencias dadas por el proveedor o usuario del chatbot, ni los términos y condiciones del mismo, podría no poder reclamar la responsabilidad civil por los daños sufridos, al no haberse informado debidamente, aunque en última instancia, esto lo decidiría un juez (especialmente si la información dada no es clara o resulta difícil de encontrar o comprender).
¿Cuáles son las responsabilidades legales de los chatbots?
Tanto desarrolladores como usuarios de chatbots tienen que cumplir con una serie de responsabilidades legales a la hora de desplegar esta herramienta. Estas responsabilidades legales de los chatbots se derivan de las diferentes leyes y normativas que son de aplicación a los sistemas de IA.
Protección de datos y privacidad
Los chatbots tratan con datos personales, tanto si es un servicio de atención al cliente, como si un chatbot general como ChatGPT. Las personas comparten con ellos información de carácter personal y eso implica que deben cumplir con la normativa de protección de datos y proteger la privacidad de sus usuarios.
Por lo tanto, desarrolladores y usuarios de sistemas de IA deben cumplir con las obligaciones del RGPD respecto a consentimiento del interesado, licitud y finalidad del tratamiento, hacer el análisis de riesgos, aplicar medidas de seguridad técnicas y organizativas para proteger la información personal, no usar los datos con otros fines de los que no se haya informado a los interesados, establecer plazos de conservación mínimos, e informar sobre los derechos de los interesados.
Así mismo, el chatbot debe tener su propia política de privacidad o un apartado concreto en la política de privacidad de la empresa.
Seguridad informática
Los chatbots no están exentos de sufrir vulnerabilidades que pueden convertirlos en el objetivo de los ciberdelincuentes, bien para manipular su funcionamiento y la información que ofrecen, bien para robar los datos e información personal que recaban de sus usuarios finales.
Por ello, otra de las responsabilidades legales de los chatbots es garantizar la seguridad informática, para ello desarrolladores y usuarios deben llevar a cabo los correspondientes análisis de riesgos y aplicar las medidas de seguridad adecuadas para minimizar las probabilidades de sufrir un ciberataque, así como para minimizar el impacto negativo del mismo sobre la empresa y sus clientes si este ocurre.
Transparencia
Los chatbots deben ser transparentes en cuanto a su funcionamiento, esto significa que se debe informar a los usuarios finales de que están interactuando con una máquina y no con un humano.
Si ese chatbot puede tomar decisiones automatizadas, como hacer recomendaciones o aceptar la realización de un contrato, también se debe informar de cómo se llegan a esas decisiones, es decir, cuál es la lógica del algoritmo, de forma comprensible para los usuarios finales
Así mismo, también se informará de los posibles sesgos y limitaciones del chatbot.
Dentro de esta responsabilidad de transparencia podemos incluir los términos y condiciones que deben especificarse sobre el uso del chatbot, que en realidad recogen gran parte de la información que hemos descrito en los párrafos anteriores. En concreto:
- Alcance y limitación del chatbot (incluido si este puede cometer errores en la información que ofrece al usuario final).
- Dejar claro que la comunicación se produce con una máquina.
- Información sobre protección de datos.
- Responsabilidades de la empresa usuaria o que presta el servicio de chatbot.
Responsabilidad y rendición de cuentas
Cómo ya establecimos antes, desarrolladores y usuarios de chatbots son responsables y deben rendir cuentas del funcionamiento de sus sistemas de IA. Esto implica que deben implementar mecanismos para supervisar y evaluar el rendimiento y los resultados del chatbot de manera continua, para asegurarse de que funcionan dentro de los estándares legales y éticos.
Así mismo, deben disponer de procedimientos para responder ante incidentes y quejas de los usuarios finales y para corregir errores y problemas que surjan del uso del chatbot.
Ni desarrolladores ni usuarios pueden desvincular el chatbot de su responsabilidad, porque este es una herramienta creada y diseñada por una entidad o persona, que funciona bajo unos determinados parámetros, incluso si puede pensar y tomar decisiones de forma autónoma.
Ya hay un precedente judicial sobre la responsabilidad legal de un chatbot; en 2022, un pasajero de Air Canada tomó como buena la información sobre una política de reembolsos que le dio el chatbot de la compañía. La compañía le negó ese reembolso, puesto que la información no era del todo correcta y el pasajero demandó ante los tribunales a Air Canada porque confió en la información dada por su chatbot. Air Canada trató de alegar que el chatbot era una entidad jurídica independiente, algo que rechazó el tribunal; el chatbot era una herramienta de la web de Air Canada, que proporcionaba información de la compañía, por lo que es ella la responsable de la misma y de asegurarse de que esta es correcta y no conduce a error.
No discriminación
Finalmente, los chatbots no deben discriminar, es decir, que en su entrenamiento y en su uso no deben perpetuar sesgos y prejuicios que conduzcan a discriminaciones. Así mismo, deben proporcionar un trato equitativo para cualquier tipo de usuario.
Para ello, los desarrolladores deben diseñar, entrenar y evaluar sus sistemas de IA para evitar el sesgo algorítmico y las discriminaciones. Los usuarios deben supervisar y controlar que las respuestas del chatbot sean justas y no discriminen.
