Conoce Atico34 - Solicita presupuesto
Inteligencia artificial

Malos usos de la inteligencia artificial: ejemplos y consecuencias

La inteligencia artificial abre la puerta a diferentes usos y aplicaciones con el potencial de mejorar nuestras vidas y la sociedad, pero también entraña, como contrapartida, usos indebidos de los que ya estamos siendo testigos. En este artículo hablamos del mal uso de la inteligencia artificial y de sus consecuencias.

¿Qué entendemos por mal uso de la inteligencia artificial?

Entendemos por mal uso de la inteligencia artificial cualquier utilización de esta tecnología con fines maliciosos, dañinos o ilícitos. Es decir, usar la IA para causar algún tipo de perjuicio, difundir información falsa con alguna intencionalidad de manipulación o engaño, para cometer algún delito o, simplemente, utilizarla con resultados perjudiciales para una o varias personas o entidades, aun cuando no se pretendiera causar daño en primer lugar.

Si bien es cierto que cada vez hay más cosas beneficiosas para la sociedad que puede hacer la inteligencia artificial (pensemos, por ejemplo, en las aplicaciones médicas que tiene el uso de la IA), también lo es que hay personas dispuestas a hacer usos muchos menos éticos de la IA, cómo veremos en el siguiente punto, porque la inteligencia artificial es peligrosa si se usa con fines maliciosos o sin tener en cuenta la ética y los límites que marcan las leyes y los derechos humanos.

tarifas proteccion datos

Los malos usos de la inteligencia artificial

Actualmente, los malos usos de la inteligencia artificial están relacionados con la manipulación y el engaño con diferentes fines (desde el plagio a la pornografía). Entre los usos de la inteligencia artificial con fines maliciosos más destacados y habituales encontramos los siguientes:

El plagio y el fraude de la IA generativa

La IA generativa, como ChatGPT, puede ser muy útil para realizar, e incluso automatizar, diferentes tareas, también puede ayudarnos a enfocar y preparar temas para la creación de contenidos o para la redacción de trabajos e informes o ayudarnos a corregir textos.

Sin embargo, la puesta a disposición del público general de este tipo de IA ha creado toda una fuente de conflictos con los derechos de autor y la creación de contenidos originales.

Las IA generativas de texto (los modelos de lenguaje) se emplean por parte de estudiantes de todo el mundo para hacer trabajos, por empresas para crear contenidos para sus páginas web, especialmente orientados al marketing digital y el marketing de contenidos.

Por su parte, las IA de generación de imágenes (como Midjourney o Dall-E) se usan para obtener imágenes sin necesidad de contratar a ilustradores y fotógrafos o recurrir a un banco de imágenes, que además, empiezan a tener también contenido generado por IA.

El problema aquí es que estos modelos de IA generativa se han entrenado con contenidos con derechos de autor, sin el permiso de los titulares de los mismos y sin remuneración alguna. Y si bien no podemos hablar enteramente de plagio en los textos o imágenes que generan estas IA, no se está muy lejos de ello.

Este mal uso de la IA puede provocar la pérdida de trabajos para determinados creadores de contenidos y artistas, pero también una merma en la originalidad y la calidad, porque si las IA comienzan a alimentarse y entrenarse con lo que crean otras IA, no podremos hablar realmente de creatividad.

Los deepfakes y la desinformación

En línea con lo anterior, y con relación a las IA generativas de imágenes, otro de los malos usos más extendidos es la creación de deepfakes empleados para llevar a cabo acciones maliciosas o para extender bulos y desinformación.

Hace pocos años, crear deepfakes requería de ciertos conocimientos y recursos, pero la IA generativa actual ha cambiado eso y ahora es relativamente fácil crear imágenes o vídeos falsos de personajes famosos (o personas corrientes) para engañar a otros o para difundir información falsa.

ChatGPT se ha usado para crear campañas de desinformación y promover noticias falsas y mensajes de odio (aunque en principio no pueda utilizarse con esos fines). También hemos visto imágenes falsas de políticos en diferentes circunstancias (recordemos las de Trump siendo detenido).

Si cada es más difícil distinguir entre una imagen real y una imagen generada por IA, o unas declaraciones, será cada vez más fácil engañar y manipular a las personas, especialmente en una era en la que la inmediatez de internet nos hace detenernos poco a reflexionar sobre lo que estamos viendo o leyendo.

La creación de contenido pornográfico con deepfakes

Seguimos con los deepfakes, porque representan un mal uso de la inteligencia artificial cada vez más extendido, y es su uso con fines pornográficos, afectando especialmente a las mujeres de todas las edades, tanto famosas como anónimas.

La tecnología de los deepfakes no solo se puede emplear para sustituir actores reales por dobles digitales, sino que también se emplea para crear imágenes o vídeos pornográficos con el rostro de otras personas, que cada vez son más realistas. Los fines son variados, pero el lucro y el chantaje están muy presentes. Como lo están los daños que pueden causar a las víctimas.

Existen también aplicaciones basadas en IA que, de forma gratuita o por unos pocos euros, permiten «desnudar» a la persona que aparezca en una foto que se haya subido a la app (no por casualidad, estas apps se promocionan siempre con imágenes de mujeres). Evidentemente, estas fotos se usan y se suben a las apps sin el consentimiento de las personas que aparecen en ellas y muchas veces acabar compartidas a través de redes sociales, aplicaciones de mensajería instantánea o se suben a sitios de pornografía online.

El peor uso de la IA generativa que se hace en este sentido, es la creación de contenidos pornográficos utilizando las imágenes de menores de edad (que, además, en España es considerado un delito de pornografía infantil).

Suplantación de identidad

La IA generativa también ha facilitado la suplantación de identidad; crear una o varias imágenes para abrir un perfil o varios en redes sociales y hacerse pasar por una persona que no es o utilizar ChatGPT y similares para redactar textos para correos electrónicos fraudulentos, son dos malos usos de la IA destinados generalmente a llevar a cabo ataques de phishing o spear phishing, así como poder derivar, en el caso de los perfiles de redes sociales en intentos de chantajes, si de la víctima se obtiene información privada y confidencial o imágenes íntimas.

mal uso de la inteligencia artificial

Ejemplos de malos usos de la inteligencia artificial

A continuación vemos algunos ejemplos de malos usos de la inteligencia artificial:

Consecuencias del mal uso de la inteligencia artificial

Las consecuencias del mal uso de la inteligencia artificial se pueden listar actualmente en las siguientes:

  • Mayores posibilidades de generar desinformación y, por lo tanto, generar mayor desconfianza entre la ciudadanía.
  • Víctimas de chantajes y sextorsión utilizando imágenes o vídeos deepfake.
  • Creación de pornografía utilizando la imagen de otras personas sin su consentimiento, y los daños para su reputación y su imagen, además de los perjuicios psicológicos que puedan derivarse de este tipo de exposición.
  • Aumento y perfeccionamiento de fraudes y estafas online.
  • Robo y uso no autorizado de contenidos protegidos por derechos de autor, lo que puede conducir a que se realice menos contenido original o no se comparta a través de internet.

Como consecuencia positiva, podemos mencionar que ya existe una legislación a nivel europeo para regular los usos (y castigar los abusos) de la IA; la llamada Ley de Inteligencia Artificial, entre otras cosas, obligará, entre otras cosas, a compensar a los autores cuyos contenidos se empleen en el entrenamiento de modelos de IA o a señalar cuando un contenido ha sido creado con IA.