TikTok prohíbe deepfakes de figuras no públicas

Las deepfakes prohibidas

TikTok está añadiendo a su plataforma una prohibición nueva en EEUU para moderar su contenido mediante una actualización de sus políticas. Las reglas sobre qué contenido se puede publicar y promocionar prácticamente no han cambiado, pero incluyen nuevas restricciones para compartir deepfakes de tecnología IA, que se han vuelto cada vez más populares en la aplicación en los últimos meses.

La mayor parte de estas políticas de moderación (o «Pautas de la comunidad», en la jerga de TikTok) no han cambiado y no sorprenden. No se permite violencia gráfica, discurso de odio ni contenido abiertamente sexual, con reglas graduadas para este último según la edad del sujeto. Sin embargo, una sección recientemente ampliada cubre «medios sintéticos y manipulados», también conocidos como deepfakes de IA, que se han vuelto cada vez más populares en la aplicación en los últimos meses.

Anteriormente, las reglas de TikTok sobre deepfakes estaban restringidas a una sola línea que prohibía el contenido que podía «engañar a los usuarios al distorsionar la verdad de los eventos o causar un daño significativo al sujeto del video». Ahora, la compañía dice que todo el contenido realista generado y editado por IA debe «divulgarse claramente» como tal, ya sea en el título del video o como una etiqueta superpuesta.

Deepfakes de celebridades y figuras no públicas: prohibidos

TikTok dice que no permitirá ningún medio sintético «que contenga la imagen de una figura privada real» o que muestre una figura pública que respalde un producto o viole las otras políticas de la aplicación (es decir, sus prohibiciones sobre el discurso de odio). La compañía define a las figuras públicas como cualquier persona mayor de 18 años con “un papel público significativo, como un funcionario del gobierno, un político, un líder empresarial o una celebridad”.

El contenido generado por IA ha aumentado su popularidad en TikTok, en gran parte gracias a la mayor disponibilidad de herramientas de clonación de voz de IA que facilitan imitar la voz de alguien. Estas herramientas han creado nuevos subgéneros de contenido, a menudo centrados en colocar a figuras públicas como el presidente Joe Biden y el expresidente Donald Trump en escenarios inesperados, como trasladar las personalidades de los presidentes a argumentos sobre juegos en línea o Dungeons & Dragons, por ejemplo.

Otros ejemplos de usos dañinos de esta tecnología son las múltiples falsificaciones de IA que muestran figuras públicas leyendo declaraciones transfóbicas u homofóbicas, y en ocasiones, se han confundido preocupantemente con la realidad. La prohibición de TikTok de los respaldos falsos parece una respuesta a un video específico que usó IA para falsificar a Joe Rogan y promocionar un «refuerzo de la libido para hombres». Dichos videos también se han difundido en aplicaciones como Twitter e Instagram.

La actualización de las políticas de TikTok llega en un momento de creciente presión política para la empresa matriz ByteDance, ya que los gobiernos occidentales expresan su temor por la recopilación de datos privados de la aplicación y su potencial para influir en la opinión pública. Según los informes , el gobierno de EE. UU. ha amenazado con prohibir públicamente TikTok si el propietario ByteDance no vende su participación, mientras que la aplicación ya ha sido prohibida en dispositivos gubernamentales en EE. UU., Reino Unido, Nueva Zelanda y Canadá.