Conoce Atico34 - Solicita presupuesto
Inteligencia artificial

¿Clonar la voz con IA es legal?

La aparición de las IA generativas está suponiendo todo un revuelo en diferentes ámbitos, no exento, además, de polémicas relacionadas con aspectos legales o la ausencia de regulación en torno al uso de esta nueva tecnología. En este artículo vamos a hablar de si es legal o no clonar voz con IA y los riesgos que tiene asociados.

¿Cuándo es legal clonar la voz usando inteligencia artificial?

Si seguís más o menos la actualidad en algunas de las redes sociales más utilizadas y en algunos medios especializados, seguramente ya estéis al tanto de la existencia de inteligencias artificiales que permiten clonar la voz de las personas, siendo capaces de imitar nuestro habla, timbre y prosodia (que son aquellos elementos que distinguen y diferencian nuestra voz, como el tono, el acento, la entonación, etc.) y quizás hasta hayáis visto ejemplos del uso de estas IA en acción (hace poco podíamos ver a una IA doblar a otros idiomas las voces de diferentes personajes conocidos, manteniendo sus voces iguales).

La IA para clonar voz es un tipo de inteligencia artificial generativa que, mediante el uso de algoritmos y el aprendizaje automático, es capaz de clonar la voz de cualquier persona, en algunos casos con muestras de audio de tan solo unos segundos (tal y como afirma Microsoft con su IA generativa de voz, VALL-E). Pero que algo pueda hacerse, no implica necesariamente que sea legal hacerlo, o ético. Y cuando hablamos de elementos tan personales y vinculados a una persona, como lo es su voz, cabe preguntarse sobre la legalidad de clonar la voz con inteligencia artificial, sin olvidar las consideraciones necesarias sobre ética digital.

En los siguientes puntos vamos a ver diferentes escenarios en los que ya se ha empezado a clonar voz con IA y las cuestiones legales que debemos tener en cuenta, porque hay dos normativas que entran en juego: la Ley de Protección de Datos (no podemos olvidar que la voz es considerada un dato personal y, en ocasiones, un dato de categorías especiales) y la Ley Orgánica 1/1982, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, ya que nuestra voz y nuestro habla son parte de los derechos de la personalidad, amparados por esta ley.

tarifas proteccion datos

Clonar la propia voz

El primer escenario es la clonación de nuestra propia voz usando este tipo de IA generativa. Ante la llegada de estas tecnologías, quién no siente curiosidad para ver cómo funcionan y probarlas.

Clonar mi voz con inteligencia artificial es completamente legal, puesto que yo mismo estoy consintiendo a que el modelo de IA generativa use mis muestras de voz para clonarla.

Eso sí, es muy recomendable que leas la política de privacidad y los términos y condiciones del modelo de IA que vayas a utilizar, de manera que sepas qué uso pueden hacer de tus muestras de voz, durante cuánto tiempo las conservan, qué usos pueden hacer de tu voz clonada, etc. Aunque aún no haya una legislación específica sobre IA, la normativa de protección de datos en este caso concreto de la voz es de aplicación, tal y como explicamos en nuestro artículo sobre inteligencia artificial y protección de datos.

Clonar la voz de terceros sin una relación mercantil o laboral

Hablamos de clonar la voz de terceros sin una relación mercantil o laboral cuando nos referimos a clonar la voz de amigos, familiares o conocidos, incluso de personas fallecidas.

En este escenario debemos tener en cuenta el contexto y el consentimiento para determinar si es legal o no clonar voz con inteligencia artificial

Respecto al contexto, podemos encontrar diferentes supuestos. Si clonamos la voz de un amigo o familiar para probar una aplicación capaz de clonar voces como divertimento o curiosidad, por ejemplo, para escuchar cómo suena nuestro amigo que no sabe inglés hablando inglés, y estos audios no salen de nuestro ámbito privado, estaríamos ante un uso legal y, en lo que se refiere a protección de datos, un supuesto de excepción doméstica (art. 2.2.c del RGPD). Nuevamente, sí que deberíamos leer la política de privacidad y los términos y condiciones de la aplicación.

Ahora bien, si la voz clonada la vamos a difundir o a usar con otro fin (por ejemplo, el doblaje de un personaje en un proyecto de animación, o para versionar una canción y publicarla en YouTube o TikTok), necesitaremos el consentimiento de la persona cuya voz hemos clonado para su difusión. Cómo hemos dicho, la voz es un dato personal y su tratamiento requiere, en este caso, del consentimiento del interesado.

Además, aquí también podría ser de consideración el artículo 7.6 de la Ley Orgánica 1/1982, que dice que reconoce como una intromisión ilegítima «la utilización del nombre, de la voz o de la imagen de una persona para fines publicitarios, comerciales o de naturaleza análoga».

Respecto a clonar la voz de personas fallecidas con IA, si bien el RGPD no sería de aplicación, si podría serlo el artículo 3.1 de la LOPDGDD, que habilita a las personas vinculadas al fallecido por razones familiares y a sus herederos para solicitar el acceso y, en su caso, la supresión de datos personales. En este escenario, podrían solicitar que no se clone la voz del fallecido o pedir la supresión de aquellos contenidos con la voz clonada que hayan podido difundirse.

clonar voz con ia

Clonar la voz de terceros con una relación mercantil o laboral

Nuestro tercer escenario tiene que ver con clonar voz con IA de personas con las que se tiene una relación mercantil o laboral, es decir, autónomos o colaboradores, como pueden ser actores de doblaje, cantantes, traductores o intérpretes, o empleados.

En ambos casos, en lo concerniente al consentimiento, sería de aplicación tanto la Ley de Protección de Datos como la Ley Orgánica 1/1982, puesto que aquí hablamos de usar la voz con alguna finalidad, como puede ser la comercial (que lo será en la mayoría de los casos). Asimismo, sería necesario que en el contrato se especificarán las condiciones para el uso de la voz clonada (dónde se puede usar, para qué, límites temporales, límites geográficos, etc.) y que dichas condiciones no fueran abusivas para los interesados.

Por lo tanto, en ese supuesto sería legal clonar voz con IA, siempre y cuando las condiciones se especifiquen en el contrato, estas no excedan los límites de la ley ni sean abusivas, y el interesado dé su consentimiento para el uso y difusión de su voz clonada, sin sobrepasar las condiciones del contrato.

¿Qué riesgo tiene clonar la voz de otra persona?

Los riesgos que tienen clonar la voz de otra persona no son tanto para quien clona la voz, sino para quienes su voz ha sido clonada, riesgos, además, que ya se están produciendo.

En concreto, nos referimos a las estafas y fraudes que ya se llevan a cabo utilizando voces clonadas; en muchos casos se trata de llamadas de teléfono en las que se hace creer a las víctimas que un familiar suyo está en peligro o necesita ayuda, pidiéndole una cantidad de dinero. O llamadas de supuestos CEO que solicitan una transferencia de dinero. También hemos visto cómo en los deepfake, las voces clonadas pueden hacernos creer que una persona conocida ha dicho algo que realmente no ha dicho.

Estos riesgos son recientes, pero ya abundantes, como comunicó la Comisión Federal de Comercio de EE. UU., alertando de que en 2022 recibieron 2,4 millones de reportes de este tipo de fraudes.

Las redes sociales donde tenemos perfiles públicos son uno de los lugares donde los cibercriminales acuden para hacerse con muestras de voz de los vídeos que subimos a ellas, después es cuestión de usar una de esas aplicaciones o programas para la clonación de voz mediante IA que están disponibles para el público, suministrarle las muestras y crear un texto creíble para que la IA genere el audio fraudulento.

Es cierto que para obtener una voz clonada realmente verosímil y prácticamente indistinguible de la voz real, es necesario usar muestras de voz de buena calidad, pero eso no limita el hecho de que algunos modelos de IA generativa para clonar voz puedan conseguir resultados muy creíbles con unas pocas muestras extraídas de vídeos.

Al riesgo de los fraudes sumamos también el riesgo de la manipulación y los bulos, a los que se presta el uso de IA generativa para clonar voz y cuyos ejemplos ya hemos mencionado antes.

Asimismo, no podemos dejar de mencionar el riesgo que puede suponer el uso de voces clonadas para determinadas profesiones, como actores y actores de doblaje, presentadores o intérpretes, ya que el uso de esta tecnología, podría llevar a prescindir de ellos en el futuro (de hecho es una de las preocupaciones presente en la huelga de actores en Hollywood en 2023). De ahí la necesidad de regular este aspecto de la IA generativa y la necesidad de que los contratos que contemplen su uso sean muy claros al respecto.