TikTok lanza herramientas para identificar el uso de IA y mejorar el bienestar digital

TikTok ha presentado nuevas herramientas para detectar, etiquetar y comprender el contenido generado por inteligencia artificial (IA), una tecnología que está transformando cómo se protege la seguridad en esa red social, que ha adoptado prácticas mejoradas para eliminar las cuentas que difunden el odio y la violencia.

TikTok anunció en su Foro Europeo de Seguridad, celebrado en Dublín, novedades sobre cómo la plataforma aprovecha la tecnología para garantizar la seguridad, con especial foco en la IA, además de la creación de un nuevo espacio en la aplicación llamado Tiempo y Bienestar, para ayudar a crear hábitos conscientes del uso digital.

Durante la sesión, el director global de divulgación y colaboración de TikTok, Valiant Richey, destacó que la base de la plataforma, con unos mil millones de usuarios, de ellos doscientos millones es Europa, es la seguridad, que "no es negociable".

Ente las novedades, TikTok empezará a añadir, “en las próximas semanas, una marca de agua invisible para etiquetar el contenido generado por IA en la propia plataforma, indicó la directora de Seguridad, Privacidad y Protección de Datos, Políticas Públicas en Europa, Jade Nester.

Esa marca suponen un capa adicional de protección, pues solo puede leerla TikTok y eso hace más difícil que pueda ser eliminada. Esta ayudarán a etiquetar el contenido de manera más fiable y proporcionará a la plataforma más contexto sobre los cambios realizados en el contenido.

La plataforma empezó a etiquetar el contenido generado por IA en 2003, unos esfuerzos que siguen adelante, señaló Nester, pues si bien la IA puede para potenciar la creatividad, debe usarse de forma responsable y transparente, para no contribuir a la desinformación.

Hasta ahora, se han etiquetado 1.300 millones de videos. TikTok exige a los creadores que marquen el contenido realista generado por IA en la plataforma para lo que ofrece herramientas.

En las próximas semanas, se empezará además a probar un nuevo control para el contenido creado por IA, con el que los usuarios podrán determinar qué cantidad de este tipo de creaciones quieren ver en el feed "Para ti".

Además, se lanzará un fondo de dos millones de dólares para que expertos creen contenido dirigido al feed "Para ti", centrado en la alfabetización y seguridad de los usuarios en materia de IA.

Acciones contra contenidos de odio

El foro también trató sobre el refuerzo de prácticas mejoradas en TikTok para detectar redes de cuentas que difunden el odio y la violencia.

En lo que va de año, la plataforma eliminó 17 redes de este tipo, compuestas por más de 920 cuentas dedicadas a difundir el odio con ideologías extremistas.

En los seis primeros meses acabó con 6,5 millones de vídeos por infringir esas normas, lo que suponer algo menos del 2 % de todo el contenido infractor, dijo el jefe de desarrollo de políticas para la confianza y la seguridad de TikTok, Zachary Hecht.

Se trata de grupos que adaptan su estrategia para evitar ser detectados, usando cuentas de apariencia inocua, otras que intentan dirigir fuera de la plataforma para compartir materiales, o con el uso de lenguaje cifrado, por ejemplo con emojis, para hacer referencia a discursos de odio.

Moderación de contenidos e IA

Detectar ese tipo de discursos de odio es uno de los objetivos de la moderación del contenido que cada día se suben a TikTok para que cumplan con las normas. Una tarea que realiza tanto la IA como equipos humanos.

Aunque el uso de la IA no es nuevo, los recientes avances están transformando la forma en que se hace la moderación, en un momento en que se acelera la creación de contenido, indicó Brie Pegum, y destacó la importancia de que haya un equilibro entre la moderación de la IA y la de las personas, pues los equipos humanos siguen teniendo un papel central.

Los datos de TikTok indican un descenso del 76 % del contenido gráfico moderado por el equipo humano el año pasado. Pegum destacó además la moderación de comentarios, en la que el uso de la IA permite identificar el doble de no permitidos.

Bienestar digital

Otras de las novedades es la puesta en macha de nuevas funcionalidades de bienestar para promover hábitos digitales saludables.

El nuevo espacio de "Tiempo y Bienestar" ofrece entre otras funciones sonidos relajantes, ejercicios de respiración consciente o un "diario de afirmaciones, para establecer una intención o propósito para la jornada.

Además, se incorporan cuatro nuevas Misiones Bienestar, dirigidas especialmente a adolescentes, aunque útiles para ayudar a todos a desarrollar hábitos digitales equilibrados. Entre ellas: Horas de Sueño, para no usar la plataforma por la noche durante ocho semanas o la misión semanal de Tiempo de Pantallas, para ayudar a ser conscientes del tiempo que se pasa en la plataforma.