El etiquetado de contenidos con IA

Los contenidos generados por inteligencia artificial son cada vez menos indistinguibles de los contenidos reales y es de esperar que con el tiempo y modelos de IA generativa cada vez más y mejor entrenados, diferenciar entre unos y otros sea prácticamente imposible para el ojo humano. Para evitar y prevenir desinformación y manipulaciones, el etiquetado de contenidos con IA es clave.

En este artículo explicamos qué es y cómo funciona este tipo de etiquetado de contenidos.

¿Qué es el etiquetado de contenidos con IA?

El etiquetado de contenidos con IA es añadir de forma manual o automática una etiqueta al contenido publicado en redes sociales o plataformas de vídeo que indica que ese contenido ha sido creado mediante IA generativa.

Cuando el etiquetado de contenidos se hace de forma manual, es el propio usuario quien añade la etiqueta «creado con IA» a su contenido a la hora de subirlo o publicarlo. Mientras que en el etiquetado automático, es la propia red social o plataforma la que coloca la etiqueta al detectar que el contenido que se va a publicar o subir ha sido generado mediante herramientas de IA generativa (por ejemplo, Dall-e, Midjourney o Meta AI).

¿El etiquetado de contenidos con IA es obligatorio?

Indicar que un contenido ha sido generado o creado mediante IA será obligatorio en la UE cuando entré en vigor la Ley de IA en 2026, ya que esta es una de las medidas que recoge para el uso de IA generativa (considerada por el Reglamento una práctica de IA de riesgo limitado).

Así mismo, algunas plataformas digitales obligan ya a sus usuarios a etiquetar los contenidos creados mediante IA, habilitando la opción tanto de colocar la etiqueta «creado con IA» de manera manual antes de hacer la publicación, así como implementado el etiquetado automático.

Actualmente, las redes sociales que obligan al etiquetado de contenidos con IA son TikTok (fue la primera red social en hacerlo), Facebook, Instagram y Threads (de Meta). La obligación de colocar esta etiqueta es para todas aquellas publicaciones que parezcan realistas y puedan conducir a error o manipular al resto de usuarios.

No cumplir con esta obligación, puede suponer la imposición de sanciones para el usuario, aparte de la retirada del contenido.

Cabe señalar que otras plataformas y empresas tecnológicas también están trabajando en la implementación y uso del etiquetado de contenidos creados con IA, por lo que es de esperar que en los próximos meses y año veamos más plataformas y servicios digitales contar ya con este etiquetado, que ayudará a los usuarios a reconocer de manera sencilla aquellos contenidos que han sido generados por IA, cuando estos son realistas y difíciles de distinguir.

Así mismo, Joe Biden, presidente de EE. UU., firmó en octubre de 2023 una orden ejecutiva para impulsar el etiquetado de los contenidos generados por IA.

¿Qué aplicaciones utilizan ya el etiquetado de contenidos con IA?

Cómo hemos adelantado en el punto anterior, las aplicaciones que ya utilizan el etiquetado de contenidos creados con IA son TikTok, Facebook, Instagram y Threads.

Las cuatro aplicaciones cuentan con la opción de añadir la etiqueta «creado con IA» de manera manual, pero también pueden extraer unos metadatos concretos que identifican las imágenes creadas mediante IA generativa (al menos, y de momento, de algunas de ellas). TikTok puede etiquetar los vídeos generados con IA, mientras las aplicaciones de Meta lo hacen sobre imágenes, pero ya están trabajando para hacerlo con vídeos y audios.

El objetivo final es que de forma automática y nativa, estas aplicaciones sean capaces de reconocer cualquier tipo de contenido creado o editado con IA y etiquetarlo. Para ello, no obstante, es necesaria la colaboración de diferentes empresas y organizaciones, que desarrollen estándares técnicos conjuntos para esos metadatos que comentábamos más arriba.

Un ejemplo de esta colaboración lo tenemos en las llamadas credenciales de contenido, como la Coalition for Content Provenance and Authenticity (C2PA) o la IPTC Photo Metadata Standard; dos estándares técnicos internacionales que permiten, entre otras cosas, saber cuándo un contenido ha sido creado o alterado con una herramienta de IA y con qué herramienta en concreto.

¿Cómo funciona el etiquetado de contenidos con IA?

En el etiquetado de contenidos con IA manual, es el propio usuario quien debe marcar como tal este tipo de contenido antes de la publicación. Dependiendo de la aplicación, esta opción aparecerá entre los pasos para hacer una publicación, lo único que deberá hacer el usuario es marcar o activar la correspondiente casilla u opción.

En el etiquetado de contenidos con IA automático, es la propia aplicación la que detectará los metadatos específicos que añaden las herramientas de IA generativa a sus contenidos, esas credenciales de contenido que comentábamos en el punto anterior. Estos metadatos funcionan como una especie de marca de agua invisible que la IA de la aplicación puede reconocer, para añadir de forma automática la etiqueta «contenido creado por IA».

Una vez etiquetado el contenido creado con IA, esa etiqueta ni se puede ocultar ni se puede quitar.

Cómo señalamos en el punto anterior, no todas las herramientas de IA generativa crean estos metadatos de la misma forma, por lo que para que el etiquetado automático sea más efectivo y eficaz, es necesario la creación y uso de los estándares técnicos que mencionábamos más arriba y que más empresas y desarrolladores se unan a estos proyectos.

Etiquetado de contenidos, etiquetado de contenidos con IA y etiquetado de contenidos digitales ¿son lo mismo?

No, el etiquetado de contenidos, el etiquetado de contenidos con IA y el etiquetado de contenidos digitales no son lo mismo, ya que cada uno responde a un marcado diferente.

El etiquetado de contenidos es el que se refiere, con carácter general, a señalar qué tipo de contenido y para qué edad está recomendado en cine, series y videojuegos, sobre todo. Un ejemplo lo tenemos en el etiquetado del sistema PEGI en videojuegos.

Por su parte, y cómo hemos visto, el etiquetado de contenidos con IA consiste en marcar de forma visible que un contenido publicado en redes sociales u otras plataformas se ha creado mediante IA.

Finalmente, el etiquetado de contenidos digitales es similar al primero; se trata de indicar si el contenido digital es adecuado para menores o, por el contrario, no lo es, al ser contenido violento, pornográfico o que pueda incitar a conductas dañinas, como el juego online. Este etiquetado está contemplado en la futura Ley de protección digital de menores.

¿Por qué es importante etiquetar los contenidos con IA?

En una era en la que la desinformación y los bulos se publican diariamente en internet, el etiquetado de contenidos con IA es importante por los siguientes motivos:

• Transparencia para evitar el engaño y la manipulación, ya que los usuarios podrán saber si el contenido es real o generado por IA y se podrá llegar hasta su fuente original.
• Permite tomar decisiones informadas respecto a la credibilidad, autenticidad y confiabilidad del contenido y la información, ya que facilita la diferenciación entre contenido real y contenido generado por IA, especialmente cuando se trata de contenidos realistas.
• Puede ayudar a los propios responsables de las herramientas de IA generativas a detectar sesgos y otros problemas y contribuir a la mejora de los modelos.
• Cumplimiento normativo, especialmente de cara a la entrada en vigor de la Ley de IA de la UE.
• Puede ayudar a reducir el plagio de contenidos protegidos por derechos de autor.

En definitiva, el etiquetado de contenidos con IA es una tendencia que vamos a ver crecer en los próximos meses, al tiempo que este tipo de contenidos proliferan y se perfeccionan y diferentes empresas tecnológicas y plataformas se suman a las iniciativas ya existentes para lograr un etiquetado automático, que favorezca la transparencia y el cumplimiento legal.

Te ayudamos a cumplir la Ley de Protección de Datos

Escríbenos o contacta con nuestras oficinas

He leído y acepto la política de privacidad.