Es ilegal desnudar con IA a una persona sin su consentimiento, es más, según las circunstancias, crear imágenes pornográficas con IA puede ser delito, y en el caso de menores de edad, un delito de pornografía infantil. En las siguientes líneas analizamos qué dice el Código Penal sobre la generación de imágenes pornográficas mediante inteligencia artificial.
Contenido del artículo
La IA en el Código Penal
Actualmente, no está contemplada la IA en el Código Penal, es decir, no aparecen tipificados delitos en los que se menciona explícitamente el uso de inteligencia artificial, sin embargo, en nuestro ordenamiento jurídico no todos los delitos o ilícitos penales se tipifican por la tecnología utilizada para cometerlos, sino por la finalidad o la intención con la que se usa esta y los efectos que produce.
Es decir, que aunque en el Código Penal no se hable la creación de imágenes pornográficas con IA, sí que se pueden cometer determinados delitos usando esta tecnología, como veremos en el siguiente punto.
Cabe señalar que la futura Ley de menores en entornos digitales introducirá varios cambios en el Código Penal, entre ellos, el grooming y la creación y difusión de deepfakes sin consentimiento de contenido sexual o vejatorio para el afectado; estos serán considerados delitos penales para los que habrá tanto multa como pena de prisión. De manera que el deepfake será delito en España cuando se trate de imágenes pornográficas.
España no es el primer país en querer ilegalizar la creación de imágenes pornográficas con IA, ya que sigue los pasos del Reino Unido, que también castigará la creación de deepfakes pornográficos, de la UE y EE. UU., donde también si quiere crear un marco regulatorio para perseguir estas acciones que, en su mayoría, afectan a mujeres (más del 95% del contenido creado) y menores de edad.
Entre los malos usos de la inteligencia artificial, la creación de deepfakes pornográficos de otras personas, famosas o completas desconocidas, es uno de los más habituales y que viene ya de lejos, con los primeros casos de deepfakes de mujeres famosas circulando por Reddit en 2017. Esto, junto a los casos más recientes protagonizados por menores, como el caso de Almendralejo de 2023 (en el que víctimas y victimarios eran menores), ha hecho necesario incluir en el Código Penal el uso específico de esta tecnología con estos fines, de la misma forma que se ha vuelto obligatorio para determinados sitios online y servicios online implementar sistemas de verificación de edad efectivos.
¿Es delito crear imágenes pornográficas con IA en España?
Crear imágenes pornográficas con IA en España puede incurrir en alguno de estos delitos:
- De injurias, si la imagen lesiona de forma grave el derecho al honor de la persona afectada (art. 208 y siguientes).
- Contra la intimidad, cuando la finalidad perseguida con las imágenes es vulnerar el derecho a la intimidad y a la imagen de la persona afectada (art. 197 y siguientes).
- De pornografía infantil, si la víctima es menor de edad, y en ese caso es delito tanto la producción de los deepfakes pornográficos, como su distribución y divulgación y su simple posesión (art. 189 y siguientes).
Respecto al delito de pornografía infantil, aunque no se cita la IA ni los deepfakes, el Código Penal sí que recoge que poseer, crear o distribuir cualquier material que represente de manera visual a un menor participando en una conducta sexualmente explícita, real o simulada, o la representación de sus órganos sexuales es delito. Por lo tanto, hacer deepfakes explícitamente sexuales de menores de edad, poseerlos o distribuirlos sí está tipificado como delito.
Penas por crear imágenes pornográficas con IA
Las penas por crear imágenes pornográficas con IA dependen del tipo de delito cometido, así como de su gravedad:
| Delito | Pena |
|---|---|
| Injurias |
|
| Contra la intimidad |
|
| Pornografía infantil |
|
¿Si los autores son menores de edad?
Si los autores de las imágenes pornográficas creadas con IA son menores de edad, los castigos que contempla la ley son diferentes a los propuestos para los adultos, ya que lo que se busca es más la reeducación del menor.
En cualquier caso, si los autores son menores de 14 años, son inimputables, aunque sus padres o tutores legales serán responsables civilmente del daño causado.
Para autores de 14 o más años, la ley prevé estas medidas:
- Tareas socioeducativas, con las que se busca educar al menor sobre las consecuencias de sus actos y fomentar su desarrollo personal y social.
- Internamiento en Régimen Cerrado para los casos más graves, con una duración máxima de 10 años.
Los padres de menores de 14 o más años también serán responsables civilmente del daño causado.
Cabe señalar que, como medida de protección de datos de menores y de cara a su futuro, los delitos cometidos durante esa etapa quedan borrados de sus antecedentes penales al alcanzar la mayoría de edad, siempre y cuando hayan cumplido las medidas impuestas por el juez y no hayan reincidido.
¿Qué hacer si eres víctima de la creación de imágenes pornográficas con IA?
Si eres víctima de la creación de imágenes pornográficas con IA, puedes denunciarlo a través de tres vías: la penal, la civil y la administrativa, además de poder solicitar tu ejercicio del derecho al olvido en internet.
Las tres vías son compatibles entre sí y podrás ejercerlas a la vez, aunque también puedes optar por una u otra en función del delito que quieras perseguir y que sea castigado.
Optes por la vía que optes, siempre es recomendable recopilar todas las pruebas que puedas (las propias imágenes, capturas de pantalla de conversaciones, grabaciones de llamadas, etc.) y contar con la asistencia de abogado (salvo en el caso de la reclamación por protección de datos, donde no es necesario, aunque su ayuda siempre es recomendable). Así mismo, para que las pruebas tengan validez, también es recomendable certificarlas mediante testigo digital o recurrir a los servicios de un perito informático.
Denuncia por la vía penal
En el caso de que la imagen o deepfake pornográfico pueda ser considerado un delito contra la intimidad o de injurias, podremos denunciarlo por la vía penal, acudiendo a hacer la denuncia ante las Fuerzas y Cuerpos de Seguridad (Policía Nacional, Guardia Civil…) o el Ministerio Fiscal.
Si sabemos quién es el autor de las imágenes, podemos interponer la denuncia directamente contra esa persona. Si no, las autoridades se ocuparán de investigar el caso y determinar si existe delito.
Demanda por la vía civil
Si optamos por la vía civil, tendremos que presentar una demanda en un juzgado por vulneración del derecho al honor o la propia imagen.
En este caso, a la persona o personas responsables de crear y/o difundir las imágenes se les impondrá una indemnización por los daños y perjuicios causados a la víctima. Y si las imágenes se difundieron en plataformas online, el juez obligará a que sean eliminadas.
Reclamación por protección de datos
También podremos presentar una reclamación ante la AEPD, ya que nuestra imagen, cuando se nos puede identificar a través de ella, se considera un dato personal. Además, al tratarse de contenido sexual, podemos recurrir al Canal prioritario de la AEPD para solicitar la retirada de las imágenes.
Aparte de la retirada de las imágenes, la AEPD podría imponer una multa por vulnerar la protección de datos a quien creó y/o distribuyó las imágenes pornográficas creadas por IA.
Ejerce tu derecho al olvido
Finalmente, podemos ejercer el derecho al olvido en internet (derecho de supresión), solicitando a los principales buscadores que dejen de indexar ese contenido y a las redes sociales y páginas web que lo retiren.
Para ejercer el derecho al olvido, deberemos enviar la correspondiente solicitud al responsable del tratamiento o rellenar el formulario que buscadores y redes sociales tienen habilitado para ello. Si en el plazo de un mes no nos dieran respuesta o la respuesta no fuera satisfactoria, es decir, no retiran las imágenes o no las desindexan, podemos presentar una reclamación ante la AEPD, adjuntando copia de la solicitud de derecho al olvido enviada al responsable del tratamiento o su delegado de protección de datos.
En definitiva, crear imágenes pornográficas con IA puede ser un delito de injurias y/o contra la intimidad, así como un delito de pornografía infantil cuando las víctimas son menores. Además, crear deepfakes pornográficos sin consentimiento será también un delito castigado cuando entre en vigor la Ley de protección de menores en entornos digitales.
