{"id":49332,"date":"2025-06-25T15:28:22","date_gmt":"2025-06-25T13:28:22","guid":{"rendered":"https:\/\/protecciondatos-lopd.com\/empresas\/?page_id=49332"},"modified":"2025-07-11T14:03:33","modified_gmt":"2025-07-11T12:03:33","slug":"mal-uso","status":"publish","type":"page","link":"https:\/\/protecciondatos-lopd.com\/empresas\/inteligencia-artificial\/mal-uso\/","title":{"rendered":"Malos usos de la inteligencia artificial: ejemplos y consecuencias"},"content":{"rendered":"

La inteligencia artificial abre la puerta a diferentes usos y aplicaciones con el potencial de mejorar nuestras vidas y la sociedad, pero tambi\u00e9n entra\u00f1a, como contrapartida, usos indebidos de los que ya estamos siendo testigos. En este art\u00edculo hablamos del mal uso de la inteligencia artificial<\/strong> y de sus consecuencias.<\/p>\n

\u00bfQu\u00e9 entendemos por mal uso de la inteligencia artificial?<\/strong><\/h2>\n

Entendemos por mal uso de la inteligencia artificial cualquier utilizaci\u00f3n de esta tecnolog\u00eda con fines maliciosos, da\u00f1inos o il\u00edcitos.<\/strong> Es decir, usar la IA para causar alg\u00fan tipo de perjuicio, difundir informaci\u00f3n falsa con alguna intencionalidad de manipulaci\u00f3n o enga\u00f1o, para cometer alg\u00fan delito o, simplemente, utilizarla con resultados perjudiciales para una o varias personas o entidades, aun cuando no se pretendiera causar da\u00f1o en primer lugar.<\/p>\n

Si bien es cierto que cada vez hay m\u00e1s cosas beneficiosas para la sociedad que puede hacer la inteligencia artificial (pensemos, por ejemplo, en las aplicaciones m\u00e9dicas que tiene el uso de la IA), tambi\u00e9n lo es que hay personas dispuestas a hacer usos muchos menos \u00e9ticos de la IA<\/a>, c\u00f3mo veremos en el siguiente punto, porque la inteligencia artificial puede ser peligrosa<\/a> si se usa con fines maliciosos o sin tener en cuenta la \u00e9tica y los l\u00edmites que marcan las leyes y los derechos humanos.<\/p>\n

Los malos usos de la inteligencia artificial<\/strong><\/h2>\n

Actualmente, los malos usos de la inteligencia artificial<\/strong> est\u00e1n relacionados con la manipulaci\u00f3n y el enga\u00f1o con diferentes fines (desde el plagio a la pornograf\u00eda). Entre los usos de la inteligencia artificial<\/strong> con fines maliciosos m\u00e1s destacados y habituales encontramos los siguientes:<\/p>\n

El plagio y el fraude de la IA generativa<\/strong><\/h3>\n

La IA generativa, como ChatGPT, puede ser muy \u00fatil para realizar, e incluso automatizar, diferentes tareas, tambi\u00e9n puede ayudarnos a enfocar y preparar temas para la creaci\u00f3n de contenidos o para la redacci\u00f3n de trabajos e informes o ayudarnos a corregir textos.<\/p>\n

Sin embargo, la puesta a disposici\u00f3n del p\u00fablico general de este tipo de IA ha creado toda una fuente de conflictos con los derechos de autor y la creaci\u00f3n de contenidos originales.<\/p>\n

Las IA generativas de texto (los modelos de lenguaje) se emplean por parte de estudiantes de todo el mundo para hacer trabajos, por empresas para crear contenidos para sus p\u00e1ginas web, especialmente orientados al marketing digital y el marketing de contenidos.<\/p>\n

Por su parte, las IA de generaci\u00f3n de im\u00e1genes (como Midjourney o Dall-E) se usan para obtener im\u00e1genes sin necesidad de contratar a ilustradores y fot\u00f3grafos o recurrir a un banco de im\u00e1genes, que adem\u00e1s, empiezan a tener tambi\u00e9n contenido generado por IA.<\/p>\n

El problema aqu\u00ed es que estos modelos de IA generativa<\/a> se han entrenado con contenidos con derechos de autor, sin el permiso de los titulares de los mismos y sin remuneraci\u00f3n alguna. Y si bien no podemos hablar enteramente de plagio en los textos o im\u00e1genes que generan estas IA, no se est\u00e1 muy lejos de ello.<\/p>\n

Este mal uso de la IA puede provocar la p\u00e9rdida de trabajos para determinados creadores de contenidos y artistas, pero tambi\u00e9n una merma en la originalidad y la calidad, porque si las IA comienzan a alimentarse y entrenarse con lo que crean otras IA, no podremos hablar realmente de creatividad.<\/p>\n

\"consecuencias

Consecuencias del mal uso de la inteligencia artificial<\/p><\/div>\n

Los deepfakes y la desinformaci\u00f3n<\/strong><\/h3>\n

En l\u00ednea con lo anterior, y con relaci\u00f3n a las IA generativas de im\u00e1genes, otro de los malos usos m\u00e1s extendidos es la creaci\u00f3n de deepfakes empleados para llevar a cabo acciones maliciosas o para extender bulos y desinformaci\u00f3n.<\/p>\n

Hace pocos a\u00f1os, crear deepfakes requer\u00eda de ciertos conocimientos y recursos, pero la IA generativa actual ha cambiado eso y ahora es relativamente f\u00e1cil crear im\u00e1genes o v\u00eddeos falsos de personajes famosos (o personas corrientes) para enga\u00f1ar a otros o para difundir informaci\u00f3n falsa.<\/p>\n

ChatGPT se ha usado para crear campa\u00f1as de desinformaci\u00f3n y promover noticias falsas y mensajes de odio (aunque en principio no pueda utilizarse con esos fines). Tambi\u00e9n hemos visto im\u00e1genes falsas de pol\u00edticos en diferentes circunstancias (recordemos las de Trump siendo detenido).<\/p>\n

Si cada es m\u00e1s dif\u00edcil distinguir entre una imagen real y una imagen generada por IA, o unas declaraciones, ser\u00e1 cada vez m\u00e1s f\u00e1cil enga\u00f1ar y manipular a las personas, especialmente en una era en la que la inmediatez de internet nos hace detenernos poco a reflexionar sobre lo que estamos viendo o leyendo.<\/p>\n

La creaci\u00f3n de contenido pornogr\u00e1fico con deepfakes<\/strong><\/h3>\n

Seguimos con los deepfakes, porque representan un mal uso de la inteligencia artificial cada vez m\u00e1s extendido, y es su uso con fines pornogr\u00e1ficos, afectando especialmente a las mujeres de todas las edades, tanto famosas como an\u00f3nimas.<\/p>\n

La tecnolog\u00eda de los deepfakes no solo se puede emplear para sustituir actores reales por dobles digitales, sino que tambi\u00e9n se emplea para crear im\u00e1genes o v\u00eddeos pornogr\u00e1ficos con el rostro de otras personas, que cada vez son m\u00e1s realistas. Los fines son variados, pero el lucro y el chantaje est\u00e1n muy presentes. Como lo est\u00e1n los da\u00f1os que pueden causar a las v\u00edctimas.<\/p>\n

Existen tambi\u00e9n aplicaciones basadas en IA que, de forma gratuita o por unos pocos euros, permiten \u00abdesnudar\u00bb a la persona que aparezca en una foto que se haya subido a la app (no por casualidad, estas apps se promocionan siempre con im\u00e1genes de mujeres). Evidentemente, estas fotos se usan y se suben a las apps sin el consentimiento de las personas que aparecen en ellas y muchas veces acabar compartidas a trav\u00e9s de redes sociales, aplicaciones de mensajer\u00eda instant\u00e1nea o se suben a sitios de pornograf\u00eda online.<\/p>\n

El peor uso de la IA generativa que se hace en este sentido, es la creaci\u00f3n de contenidos pornogr\u00e1ficos utilizando las im\u00e1genes de menores de edad (que, adem\u00e1s, en Espa\u00f1a es considerado un delito de pornograf\u00eda infantil).<\/p>\n

Suplantaci\u00f3n de identidad<\/strong><\/h3>\n

La IA generativa tambi\u00e9n ha facilitado la suplantaci\u00f3n de identidad; crear una o varias im\u00e1genes para abrir un perfil o varios en redes sociales y hacerse pasar por una persona que no es o utilizar ChatGPT y similares para redactar textos para correos electr\u00f3nicos fraudulentos, son dos malos usos de la IA<\/strong> destinados generalmente a llevar a cabo ataques de phishing o spear phishing, as\u00ed como poder derivar, en el caso de los perfiles de redes sociales en intentos de chantajes, si de la v\u00edctima se obtiene informaci\u00f3n privada y confidencial o im\u00e1genes \u00edntimas.<\/p>\n

Ejemplos de malos usos de la inteligencia artificial<\/strong><\/h2>\n

A continuaci\u00f3n vemos algunos ejemplos de malos usos de la inteligencia artificial:<\/p>\n