La empresa prohibió las deepfakes en las que aparezcan figuras públicas y estableció que si un usuario sube un contenido de esta clase deberá especificarlo.
TikTok está bajo el escrutinio de los reguladores mundiales y por ello está endureciendo algunas de sus reglas, especialmente aquellas que tienen que ver con la difusión de contenido generado por Inteligencia Artificial, como las deepfakes, que son videos, imágenes o audios manipulados o generados a través de esta tecnología con el fin de parecer reales.
Estas falsificaciones de la realidad también son llamadas medios sintéticos y la plataforma de videos cortos señaló que no se permitirá ningún video de esta clase “que contenga la imagen de una figura privada o real”.
De acuerdo con la empresa, las figuras públicas son aquellos individuos mayores de 18 años con “un papel público significativo, como un funcionario del gobierno, un político, un líder empresarial o una celebridad”.
Si bien TikTok está prohibiendo este contenido cuando se trata de figuras públicas no está completamente eliminado de la plataforma; sin embargo, la empresa estableció que si un usuario quiere subirlo a su perfil deberá “divulgarlo claramente”, es decir, especificar que se trata de una deepfake ya sea en el título del video o en una de sus etiquetas.
La decisión por parte de TikTok se debe a que el contenido generado por IA ha crecido en los últimos meses, principalmente por el acceso masivo que se ha tenido a herramientas de IA. Incluso se han creado subgéneros de contenido basados en esta tecnología y es común, por ejemplo, ver a figuras públicas como el presidente de Estados Unidos, Joe Biden, y a los expresidentes Trump y Obama platicar de cuál es su anime favorito.
No obstante, existen otros casos de uso más dañinos para estas falsificaciones, como mostrar a figuras públicas leyendo declaraciones que incitan al odio de ciertas comunidades, como la homofobia o la transfobia, por citar algunos casos.
El objetivo de implementar estas nuevas características de seguridad, dijo TikTok, es ofrecer “mucha más transparencia sobre nuestras reglas y cómo las aplicamos”. Asimismo, publicó una serie de ocho principios comunitarios para aclarar cómo se abordan los casos de cumplimiento relacionados a casos como la prevención de daños y la libertad de expresión.
Los cambios en la plataforma se dan en medio de un contexto complicado para TikTok, pues los gobiernos occidentales han demostrado su temor respecto a que la plataforma recopile datos de los usuarios.
De hecho, países como Bélgica, Dinamarca, Canadá, Reino Unido o Estados Unidos han prohibido su uso en dispositivos gubernamentales, pues consideran que se trata de una amenaza a la seguridad nacional por el riesgo de ciberespionaje.