Detectar si una voz ha sido creada con IA se complica un poco más, debido a la evolución y desarrollo de los sistemas de IA empleados para la clonación de voz y los deepfakes de audio. Sin embargo, todavía es posible saber si una voz ha sido creada con IA, tanto simplemente escuchando con atención como empleando herramientas específicas para ello.
En las siguientes líneas explicamos cómo detectar una voz creada con IA.
Contenido del artículo
¿Cómo saber si un audio fue generado por IA?
Para saber si una voz o audio ha sido creado con IA, todavía hay señales en las que nos podemos fijar, porque los sistemas de IA que crean audios sintéticos (tecnologías Text-to-Speech o Texto-a-Voz IA) dejan algunas pistas y señales que podemos reconocer si prestamos atención, especialmente porque estos sistemas aún no son capaces de recrear de manera completamente natural el habla humana.
Entre esas señales tenemos la entonación, el timbre de voz, el acento, el tono, la forma en las que una persona pronuncia determinadas letras, los ruidos que produce la boca al hablar, incluso el contexto puede darnos alguna pista más, porque no siempre pronunciamos igual las frases; por ejemplo, la entonación de las preguntas puede ser diferente según la situación, o dónde nos paramos a coger aire en una frase larga.
Los sistemas de IA para clonar voz todavía no logran sonar completamente naturales en estos elementos, por lo que si recibimos un supuesto audio de una persona que conocemos u oímos un supuesto audio de un personaje famoso en una red social u otro medio online, tenemos que escucharlo con atención para poder detectar estas pistas.
Detectar si una voz ha sido creada con IA será cada vez más difícil para el oído humano.
Sin embargo, con sistemas de IA cada vez más sofisticados y que siguen siendo entrenados, la clonación de audio mediante IA está consiguiendo voces cada vez más realistas, y con el tiempo será muy difícil que el oído humano pueda distinguir si está ante una voz real o una voz creada con IA.
En ese futuro escenario (que no está tan lejos como podemos pensar), ¿cómo detectar si una voz ha sido creada con IA?
La biometría de voz para detectar voces creadas con IA
Una de las soluciones para detectar voces creadas con IA, especialmente si estamos ante una voz IA realista, es la biometría de voz, un método de autenticación e identificación biométrica, que utiliza el patrón único de voz de una persona para verificar su identidad.
El patrón de voz de una persona incluye características únicas, como son el tono, la entonación, la velocidad del habla o la pronunciación (como ocurre con otros datos biométricos, estas características no se repiten en otras personas, aunque sí es cierto que la voz nos cambia con los años, especialmente en el paso de la infancia a la adolescencia).
A través del empleo de la biometría de voz, es posible detectar voces generadas con IA con diferentes métodos, como el análisis espectral para detectar patrones de voz únicos, algoritmos de aprendizaje profundo para que la máquina detecte características únicas en la voz de una persona y que un generador de voz IA difícilmente pueda replicar, o la detección de artefactos (que son rastros digitales que se pueden encontrar en los deepfakes de voz cuando tratan de simular el habla humana).
Cómo veis, la biometría de voz para detectar deepfakes requiere de la asistencia de la propia inteligencia artificial o, como mínimo, de un software de análisis forense de la voz. Es decir, que para detectar voces creadas con IA necesitamos de la ayuda de la IA.
Cómo ya explicamos en nuestro artículo sobre cómo detectar vídeos creados por IA, la mejor herramienta para detectar una voz creada por IA es otro sistema de IA entrenado específicamente para esta labor, ya se haya entrenado para detectar determinadas señales que «dejan» las IA al crear voces clonadas o para buscar marcas de agua específicas (algunas empresas, como Meta con AudioSeal, ya están trabajando para desarrollar e implantar marcas de agua en los contenidos generados por IA, sin embargo, todavía no hay un estándar general y específico para ello).
En cualquier caso, emplear la biometría de voz para detectar deepfakes de voz no es una solución que vaya a estar al alcance de cualquier usuario, pero sí resultará útil en casos de posibles estafas y fraudes, así como deepfakes de personajes famosos, para poder denunciarlos y perseguirlos.
Herramientas para detectar si una voz ha sido creada con IA
Actualmente, ya podemos encontrar varias herramientas (basadas en IA) que podemos emplear para detectar si una voz ha sido creada con IA y saber si estamos ante un deepfake de voz o no, aunque se trata de herramientas de pago. Algunas de ellas son:
- IA or Not, su versión gratuita permite verificar 10 imágenes, pero si queremos comprobar deepfakes de audio, tendremos que suscribirnos a alguna de sus versiones de pago.
- Sensity es una herramienta de pago que se puede usar para la detección de deepfakes de vídeo, imagen y voz.
- Reality Defender es otra herramienta de pago con la que se pueden detectar todo tipo de deepfakes, incluidos los de audio.
El problema de la clonación de voz con IA
La clonación de voz con IA está convirtiéndose en un problema serio, puesto que esta técnica se emplea ya para llevar a cabo estafas mediante suplantación de identidad, así como para manipular la opinión pública tratando de hacer pasar supuestos comentarios hechos por alguien como reales (especialmente en el caso de personajes conocidos y famosos).
Poder detectar voces generadas con IA es importante para que empresas y organizaciones no caigan en estafas o fraudes de suplantación de identidad (ya existe más de un caso en el que se han usados supuestos audios de un jefe para solicitar una transferencia bancaria, bien a través de WhatsApp u otra aplicación de mensajería instantánea, o incluso a través de una llamada). Pero también para los usuarios particulares, que pueden ser víctimas de este tipo de engaños.
La detección de deepfakes de voz también es importante para evitar la desinformación y los bulos (aunque en estos casos es más habitual recurrir a deepfakes de vídeo o imagen).
Así mismo, también está siendo importante para proteger la propiedad intelectual, puesto que en el mundo de la música ya se están produciendo casos en los que se están clonando las voces de artistas para que interpreten temas de otros cantantes.
En definitiva, si bien la tecnología de clonación de voz mediante IA supone un problema serio de a corto y medio plazo, también es cierto que la solución para detectar este tipo de deepfakes la encontramos también en los propios sistemas de IA entrenados para reconocer voces generadas por IA y, en cierto sentido, estamos en una carrera en la que los primeros se perfeccionan para seguir engañando a humanos y máquinas, y los segundos para detectar esos engaños. Lo que es seguro es que cuanto más avancen los sistemas de IA, más difícil será para un humano detectar si una voz ha sido creada por IA.
