Los cheapfakes, también llamados shallowfakes, son manipulaciones simples y poco sofisticadas de vídeos o imágenes para generar bulos o crear desinformación sobre una situación, persona o grupo de personas concreto. Si bien estamos más acostumbrados a hablar de los riesgos de los deepfakes, los cheapfakes están al alcance de cualquier usuario y pueden causar bastante daño en determinados contextos.
En las siguientes explicamos en profundidad qué son y cómo funcionan los cheapfakes y cuáles son sus riesgos.
Contenido del artículo
¿Qué es un cheapfake?
Un cheapfake es un vídeo o imagen manipulada empleando técnicas básicas y poco sofisticadas de edición de vídeo o imagen, con el fin de acelerar, ralentizar, cortar o recontextualizar un material existente para crear un engaño.
Por lo tanto, un cheapfake puede ser un vídeo o una imagen estática, incluso unas declaraciones, manipulados y descontextualizados de manera que buscan generar una determinada reacción entre el público, normalmente, una reacción en contra de un personaje conocido (lo habitual suelen ser políticos, puesto que los cheapfakes se emplean como una forma de propaganda política) o de un grupo concreto (por ejemplo, para crear alarma social o rechazo frente a determinados grupos).
Cabe señalar que aunque en lo que a alteración y manipulación de vídeos se refiere, actualmente existe una mayor preocupación por los deepfakes, especialmente con los últimos desarrollos experimentados por los modelos de IA generativa, donde están comenzando a representar uno de los mayores peligros de la inteligencia artificial, los cheapfakes llevan siendo un problema mucho más tiempo, puesto que para hacerlos solo son necesarios unos conocimientos mínimos sobre manipulación de vídeo e imagen y herramientas fáciles de usar, algunas de ellas gratuitas y al alcance de cualquier usuario, tanto para ordenador como para el móvil.
Además, al no intervenir en la creación de los cheapfakes herramientas de IA, estos ni siquiera están considerados dentro de la Ley de Inteligencia Artificial, por lo que no hay una regulación concreta sobre ellos, aunque, cómo veremos más adelante, eso no quiere decir que su creación y difusión no pueda ser un delito (de la misma forma que la futura Ley de menores en entornos digitales modificará el Código Penal para tipificar el delito de crear imágenes pornográficas con IA).
¿Cómo funcionan los cheapfakes?
Los cheapfakes se crean y funcionan de una manera relativamente sencilla, puesto que, cómo hemos dicho, no requieren de habilidades técnicas avanzadas o muchos conocimientos sobre edición.
Así, las técnicas más comunes para crear cheapfakes son las siguientes:
- Recorte y edición: Se eliminan partes de un video o se reorganizan las secuencias para cambiar el contexto original y que parezca que una persona ha dicho o hecho algo que en realidad no ocurrió así.
- Alteración de velocidad: Modificar la velocidad de reproducción de un video puede hacer que las acciones o declaraciones de una persona parezcan más lentas o más rápidas, cambiando así su percepción. Por ejemplo, al ralentizar un vídeo y editar el tono de voz, se puede hacer creer que la persona que habla está borracha.
- Cambios de audio: Ajustar el audio, agregar o eliminar sonidos, o cambiar el tono de la voz para alterar el mensaje original.
- Superposición de texto o imágenes: Añadir texto o imágenes sobre el contenido original para inducir al error o proporcionar información engañosa, cambiado el contexto de lo que realmente aparece en el vídeo o imagen original.
- Recorte de imágenes: Manipular fotografías mediante recortes y ajustes básicos para cambiar el contexto visual.
Una vez manipulado el vídeo o la imagen, este se publica a través de internet, habitualmente a través de redes sociales y determinados foros, al principio entre un público objetivo que será más receptivo y estará predispuesto a creer que el mensaje es auténtico, para después poder viralizarse entre un público más general.
Estas técnicas, aunque simples, pueden ser muy efectivas para desinformar y manipular la percepción pública, especialmente cuando se viralizan entre el público en general y algunos medios puedan incluso darle crédito.
Ejemplos de cheapfakes
De la misma forma que ya resulta fácil encontrar un ejemplo de mal uso de la inteligencia artificial, también es muy fácil encontrar diversos ejemplos de cheapfakes.
Aunque generalmente siempre se menciona el vídeo manipulado de Nancy Pelosi de 2019, en el que la ralentización del vídeo hace parecer que arrastra las palabras al hablar como si estuviera borracha, en España también podemos encontrar otros ejemplos de este tipo; vídeos ralentizados de tal manera que no hagan sospechar en un primer momento de que puedan estar manipulados y que quieren hacer creer que sus protagonistas estaban bebidos o drogados.
Podéis ver varios de estos ejemplos en la recopilación de cheapfakes de políticos que hizo Maldita.es.
¿Qué riesgos tiene la creación y publicación de cheapfakes?
La creación y publicación de cheapfakes tiene varios riesgos, puesto que su intención generalmente siempre es la manipulación y el engaño:
- Desinformación: Los cheapfakes pueden ser utilizados para difundir información falsa o engañosa, lo que puede influir en la opinión pública, afectar procesos electorales y fomentar divisiones sociales.
- Daño a la reputación: Personas, organizaciones y figuras públicas pueden ser víctimas de cheapfakes que dañen su imagen y credibilidad.
- Impacto en la democracia: Aunque este es un riesgo más asociado a los deepfakes, los cheapfakes también pueden socavar la confianza en las instituciones democráticas y en los medios de comunicación, ya que la manipulación de la información puede conducir a la desconfianza continua y a dar todo contenido como posible falsedad.
- Incitación a la violencia: Los cheapfakes pueden ser utilizados para incitar a la violencia o generar pánico al propagar mensajes falsos y alarmantes sobre determinados grupos sociales o incluso personas concretas.
¿Crear un cheapfake puede ser delito?
Crear un cheapfake puede ser delito si:
- El vídeo o imagen manipulado se considera difamatorio, es decir, incurre en injurias o calumnias.
- Si se invade la privacidad de la persona para poder obtener las imágenes sin consentimiento.
- Una vulneración del derecho a la propia imagen y una infracción de la ley de protección de datos, si la persona o personas que aparecen en el cheapfake no son personas conocidas públicamente.
Cómo identificar un cheapfake
Para identificar un cheapfake lo más importante es ser críticos con la información que recibimos, especialmente si ese vídeo o imagen generan cierto tipo de reacciones y se viralizan muy rápido.
En cualquier caso, estas son una serie acciones que puedes poner en práctica para identificar si estás ante un cheapfake:
- Revisión del contexto: Verificar el contexto del contenido. Preguntarte si las imágenes, audio o video parecen estar fuera de lugar o descontextualizados.
- Verificación de fuentes: Comprobar la fuente del contenido. Contenido proveniente de fuentes no verificadas o poco fiables debe ser visto con escepticismo. Con imágenes siempre es recomendable realizar una búsqueda inversa, y con los vídeos rastrear su origen hasta la primera fuente en que se publicó.
- Contrastar con fuentes confiables: Comparar el contenido sospechoso con informes y datos de fuentes confiables y reconocidas.
- Análisis visual y auditivo: Examinar detalles visuales y auditivos que puedan parecer editados o alterados. Inconsistencias en el ritmo del habla, iluminación, sombras y bordes pueden ser indicativos de manipulación.
- Recurrir a verificadores: Existen ya diferentes medios y páginas de verificadores online, a las que se puede recurrir para comprobar si estamos ante un bulo.
Diferencias entre cheapfake y deepfake
Aunque los cheapfakes y los deepfakes consisten en la manipulación de imágenes, vídeos o audios, existen diferencias evidentes entre ellos, siendo la más evidente la de las herramientas empleadas para hacerlos.
Mientras que podemos usar herramientas de edición sencillas o algunos software específicos para editar y manipular un vídeo o imagen y crear un cheapfake (por ejemplo, mediante Photoshop o el editor de vídeo de nuestro ordenador), los deepfake requieren del uso de herramientas de IA para manipularlos, por lo que los más sofisticados y realistas requieren de mayor esfuerzo y complejidad.
Por lo tanto, los deepfakes tienen mucha mayor calidad y realismo que los cheapfakes.
Así mismo, los cheapfakes suelen tener siempre una intención política o de propaganda, mientras que los deepfakes, aparte de esta finalidad, también se emplean con otros fines, como la suplantación de identidad para llevar a cabo fraudes o extorsiones.
En definitiva, los cheapfakes llevan más tiempo entre nosotros y, aunque no generan el mismo nivel de alarma que los deepfakes, en realidad ya han demostrado ser una herramienta útil para la desinformación y la propaganda política.
