TikTok etiquetará contenido generado por IA desde otras plataformas

TikTok etiquetará el contenido generado por IA, como vídeos e imágenes, utilizando la marca de agua digital Content Credentials.

TikTok busca disipar las preocupaciones sobre el contenido generado por IA que influye en las próximas elecciones en todo el mundo.

Se anuncia la popular aplicación de vídeos cortos que «está comenzando a etiquetar automáticamente el contenido generado por IA (AIGC) cuando se carga desde otras plataformas».

TikTok ya etiqueta contenido generado por IA creado con herramientas dentro de la aplicación, pero la última medida aplicaría una etiqueta a videos e imágenes generados fuera del servicio.

Contenido generado por IA

TikTok no es la primera plataforma social en hacer esto. En febrero, por ejemplo, Meta Platforms dijo que había comenzado a detectar y etiquetar imágenes generadas por IA creadas por sistemas de IA de otras empresas en Facebook, Instagram y Threads.

Meta ya había etiquetado imágenes creadas por sus propios servicios de inteligencia artificial, que incluían marcas de agua invisibles y metadatos que podían alertar a otras empresas de que la imagen se había generado artificialmente.

Las medidas de Meta y TikTok se producen en medio de una creciente preocupación por el potencial de uso indebido de los sistemas de inteligencia artificial generativa que pueden crear contenido visual falso (deepfakes, etc.) que parece auténtico .

Ahora, TikTok dijo que detectará cuando se carguen imágenes o videos en su plataforma que contengan etiquetas de metadatos que indiquen la presencia de contenido generado por IA.

Sin embargo, TikTok afirma ser la primera plataforma de redes sociales que admite los nuevos metadatos de credenciales de contenido a prueba de manipulaciones , desarrollados por Adobe el año pasado.

También dijo que se está asociando con la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).

«La IA permite oportunidades creativas increíbles, pero puede confundir o engañar a los espectadores si no saben que el contenido fue generado por IA», dijo. “El etiquetado ayuda a aclarar ese contexto, razón por la cual etiquetamos AIGC creado con efectos de IA de TikTok y hemos exigido a los creadores que etiqueten AIGC realista durante más de un año. También creamos una herramienta única en su tipo para que esto sea fácil de hacer, que más de 37 millones de creadores han utilizado desde el otoño pasado”.

«Durante los próximos meses, también comenzaremos a adjuntar credenciales de contenido al contenido de TikTok, que permanecerán en el contenido cuando se descargue», agregó.

«Con la vasta comunidad de creadores y usuarios de TikTok en todo el mundo, estamos encantados de darles la bienvenida tanto a C2PA como a CAI mientras se embarcan en el viaje para brindar más transparencia y autenticidad en la plataforma», dijo Dana Rao, asesora general y directora de confianza. en Adobe. “En un momento en el que cualquier contenido digital puede modificarse, es esencial ofrecer formas para que el público pueda discernir lo que es verdad. El anuncio de hoy es un paso fundamental para lograr ese resultado”.

Riesgos de la IA

Desde hace un tiempo ha habido preocupación sobre el contenido generado por IA y su potencial para engañar a la gente antes de elecciones importantes en todo el mundo.

Por ejemplo, las elecciones generales de la India tuvieron lugar en abril, y también habrá elecciones importantes en el Reino Unido y Sudáfrica, así como elecciones al Parlamento Europeo en el verano.

Las elecciones presidenciales de Estados Unidos se celebrarán a finales de este año.

Para combatir la posible interferencia de la IA, empresas tecnológicas de renombre acordaron con la Administración Biden en julio de 2003 implementar salvaguardias voluntarias contra los riesgos que plantea la IA, incluido el uso de marcas de agua.

En agosto de 2023, Google DeepMind anunció que estaba “lanzando una versión beta de SynthID, una herramienta para marcar e identificar imágenes generadas por IA ”.

En febrero de este año, veinte de las empresas tecnológicas más grandes del mundo, incluidas Amazon, Adobe, Google, Meta, Microsoft, OpenAI, TikTok y X, prometieron tomar medidas contra el uso indebido de la inteligencia artificial (IA) para perturbar las elecciones en todo el mundo. este año.

En enero, una llamada automática falsa con la voz del presidente estadounidense Joe Biden instó a los votantes a no participar en las elecciones primarias de New Hampshire .

Taiwán vio contenido falso circulando en las redes sociales antes de las elecciones del 13 de enero. NetMedia, Inglaterra.JT.Traducido al español