Para saber si una videollamada ha sido manipulada con inteligencia artificial podemos poner en práctica una serie de técnicas, que nos ayudarán a reconocer si estamos ante un deepfake, aunque el mejor consejo es observar bien y mantener la calma si el contenido de la videollamada es una aparente emergencia, para no llevar a cabo ninguna acción que nos pueda perjudicar.
En las siguientes líneas explicamos cómo detectar videollamadas manipuladas con inteligencia artificial, en qué contextos se usan y qué hacer si somos víctimas de uno de estos deepfakes.
Contenido del artículo
- ¿Cómo detectar videollamadas manipuladas con inteligencia artificial?
- ¿Cómo funcionan las videollamadas manipuladas con IA?
- ¿Para qué se usan las videollamadas manipuladas con inteligencia artificial?
- ¿Qué hacer si eres víctima de un deepfake en una videollamada?
- Te ayudamos a cumplir la Ley de Protección de Datos
¿Cómo detectar videollamadas manipuladas con inteligencia artificial?
Actualmente, para detectar si una videollamada está manipulada con inteligencia artificial, puedes poner en práctica estas técnicas:
- Pide a tu interlocutor que gira la cabeza, es decir, se ponga de perfil. Una prueba realizada por la compañía Metaphysic (empresa dedicada al desarrollo de herramientas de IA) junto al actor Bob Doyle y usando DeepFaceLive, un programa que permite cambiar tu rostro por el de una serie de personajes famosos, demostró que cuando la cabeza se pone de perfil, el programa falla y distorsiona la imagen claramente. Este software y otros similares fallan en los ángulos agudos, al tomar como puntos de referencia la mayoría de la vista frontal de una cara.
- Pide a tu interlocutor que te salude con la mano. Al mover la mano delante de la cámara, también es posible que se distorsione la imagen o haya fallos en la misma que la delaten.
- Pide a tu interlocutor que se levante o se mueva, por el mismo motivo que el del punto anterior.
- Si estas pruebas visuales fallan o no son conclusivas, puedes hacer las siguientes acciones:
- Pregunta a tu interlocutor información que solo tú y él conozcáis (en caso de familiares, por ejemplo, se recomienda tener una contraseña para evitar caer en esta clase de engaños).
- Corta la videollamada y llama tu a tu interlocutor para comprobar que era esa persona con la que realmente estabas hablando antes (este método solo es válido para personas conocidas, por lo que no podrás hacerlo si se trata de videollamadas con desconocidos, que, además, tienen asociados otros peligros).
Cabe señalar que detectar videollamadas manipuladas con inteligencia artificial todavía es posible poniendo en práctica las técnicas visuales que hemos explicado más arriba, aunque cuanto más aprenden y mejoran los modelos de IA que se usan para crear aplicaciones y software de manipulación de imagen, más difícil irá resultando reconocer solo a través de la observación estos deepfakes, por lo que las otras técnicas sugeridas se vuelven más importantes.
Teniendo en cuenta que este tipo de estafas mediante videollamada se suelen realizar con un contexto de emergencia para que no nos paremos a pensar o a comprobar la autenticidad de la llamada, siempre debemos intentar mantener la calma y hacer las comprobaciones necesarias, incluso, como hemos dicho, colgar la videollamada y llamar nosotros mismos a esa persona, no devolviendo la llamada, sino usando su contacto en nuestra agenda. Es esta comprobación la que más infalible puede resultar.
¿Cómo funcionan las videollamadas manipuladas con IA?
Para crear y hacer videollamadas manipuladas con IA, los cibercriminales usan diferentes software o aplicaciones de manipulación de imagen basados en IA, muchos de los cuales son de fácil acceso y ni siquiera requieren grandes conocimientos técnicos ni un costoso equipo para usarlos, en la gran mayoría de los casos, cualquier smartphone u ordenador puede usarse para ello.
Para cambiar su cara por la de la persona que quieren suplantar solo necesitan hacerse con varias imágenes de esa persona en la que su rostro sea claramente visible, algo que muchos de nosotros facilitamos al publicar nuestras fotos y vídeos en redes sociales. Más fácil resulta si la persona suplantada es un personaje famoso o conocido, porque habrá mucho más material gráfico sobre él disponible. Estas imágenes se usan para entrenar a la IA que se va a usar.
En cuanto a la voz, también es posible clonar voz con IA, aunque para tener un buen resultado se necesitan suficientes muestras de buena calidad, estas pueden obtenerse a través de ataques de ingeniería social, también es posible usar muestras más pequeñas y obtener resultados menos sofisticados, pero que con la excusa de una mala llamada o ruido de fondo, pueden colar y engañar a la víctima. Incluso hay estafas mediante videollamada que ni siquiera requieren cambiar la voz por la de otra persona, solo alterarla.
Una vez se tiene todo lo necesario, el cibercriminal efectúa la videollamada por cualquier aplicación que tenga disponible y el programa de IA que esté usando para manipular la imagen y el audio, entra en funcionamiento. Para la víctima es como si estuviera hablando con la persona suplantada.
Lo habitual es que solo se realice una videollamada a la víctima, pero en febrero de 2024 se documentó el primer caso de una videollamada múltiple en la que todos los participantes menos uno, la víctima, eran deepfakes; le ocurrió a la filial en Hong Kong de una empresa británica, en la que se robaron casi 24 millones de euros. La víctima, pese a una desconfianza inicial, creyó estar en todo momento siguiendo indicaciones lícitas del director de finanzas y otros ejecutivos de la filial.
¿Para qué se usan las videollamadas manipuladas con inteligencia artificial?
El objetivo de las videollamadas manipuladas con inteligencia artificial es normalmente económico, es decir, conseguir que la víctima transfiera o envíe dinero al estafador, aunque también se usan para el robo de datos personales (ten en cuenta que las videollamadas se pueden grabar) y empresariales.
Por ejemplo, el FBI ya ha alertado del uso de deepfakes en entrevistas de trabajo remotas para después robar datos a las empresas (la inteligencia artificial en el trabajo puede ayudar, pero también suponer un peligro).
Las llamadas estafas románticas también han comenzado a usar la IA y los estafadores realizan videollamadas a sus víctimas para dotar de mayor realismo su supuesta «relación».
A la inteligencia artificial se le puede dar un mal uso como los citados arriba y, a medida que se desarrolla, avanza y se perfecciona esta tecnología, más difícil será poder detectar videollamadas manipuladas con IA sin ayuda de otras herramientas de IA o haciendo las comprobaciones oportunas.
¿Qué hacer si eres víctima de un deepfake en una videollamada?
Si eres víctima de un deepfake en una videollamada, puedes denunciarlo, especialmente si has sido víctima de una estafa. O si alguien está usando tu imagen y tu voz para estafar a otras personas (recordamos que me pueden grabar una conversación sin mi consentimiento e incluso sin mi conocimiento, grabación que se puede usar para clonar la voz, por ejemplo).
Puedes denunciarlo ante la policía, al tratarse de un delito de estafa o de suplantación de identidad. Y ante la Agencia Española de Protección de Datos (AEPD), ya que en caso de suplantación de identidad, se estaría produciendo un tratamiento ilícito de tus datos personales y la Ley de Protección de Datos se aplica a las grabaciones de voz (puedes encontrar más información sobre este tema en nuestro artículo sobre inteligencia artificial y protección de datos).
En cualquiera de estos casos recomendamos guardar y aportar las pruebas correspondientes en la denuncia.
En definitiva, la mejor forma de saber si una videollamada ha sido manipulada con inteligencia artificial es comprobar que quien te llama es quien dice ser y si no es posible, observar la imagen y poner en práctica las técnicas que describimos más arriba. Ya sabes qué puede ocurrir y cómo, solo queda estar atento.
