En mayo, TikTok anunció que etiquetaría automáticamente los contenidos generados por IA en su plataforma. Sin embargo, esto no aplica a todas las versiones de la aplicación. Un nuevo informe de la Fundación Mozilla y AI Forensics concluye que la versión Lite-Save Data (ahorradora de datos) de TikTok, dirigida a los usuarios de los mercados más pobres, no solo deja sin etiquetar el contenido generado por IA, sino que carece de otras salvaguardas similares.

Las etiquetas no son para todos

“El etiquetado es una táctica muy importante que las plataformas utilizan para ofrecer algún tipo de confianza y seguridad”, según Odanga Madung, investigador de Mozilla y coautor del informe.

Los usuarios de la versión completa de TikTok, por ejemplo, verán etiquetas que indican que el contenido es gráfico o muestra comportamientos peligrosos. Asimismo, algunos contenidos sobre temas como las elecciones y la salud incluyen un aviso que anima a los usuarios a acceder a información fidedigna a través de un “centro de recursos” de la aplicación.

En TikTok Lite no hay ninguna de estas barreras. Entre otras cosas, esto significa que, dado que el contenido engañoso generado por IA es un problema en las elecciones de todo el mundo, los usuarios de los mercados más pobres reciben menos información sobre lo que es falso y lo que es real que los usuarios de los mercados más ricos.

Madung se pregunta por qué, de todas las funciones que podrían recortarse para optimizar la aplicación, la empresa incluyó algunas que hacen que la plataforma sea más segura para los usuarios. “No sabemos si se trata de una elección o de una simple negligencia”, sostiene.

“Hay varias inexactitudes de hecho en este informe que fundamentalmente tergiversan nuestro enfoque de la seguridad”, según anunció un portavoz de TikTok en un comunicado. “El hecho es que el contenido que rompe nuestras reglas se elimina de TikTok Lite de la misma manera que en nuestra aplicación principal y ofrecemos numerosas características de seguridad”. La compañía declinó señalar cualquier inexactitud específica.

Ven a (casi) TikTok

Las versiones Lite de las apps son desde hace tiempo una forma que tienen las empresas de aumentar su cuota de mercado en zonas donde los usuarios están sujetos a elevados costos de datos o solo pueden permitirse teléfonos menos avanzados. En 2015, Meta, entonces Facebook, lanzó Facebook Lite, una versión reducida de su aplicación que era más compatible con las redes de datos 2G. Ese mismo año también lanzó Free Basics, que permitía a los usuarios del Sur Global acceder a la plataforma y a algunos otros sitios web sin que se les cobrara por el uso de datos. (Una aplicación o servicio que cumpla estos criterios se denomina “zero-rated” -de calificación cero-). En su momento, el proyecto fue objeto de críticas generalizadas, sobre todo en la India, por crear una experiencia de segundo nivel para los clientes más pobres.

TikTok lanzó su versión Lite en 2018 en Tailandia, y se expandió rápidamente a otros mercados del sudeste asiático, como Indonesia, Malasia y Filipinas. La app, que a diferencia de la versión completa de TikTok puede funcionar en redes 2G y 3G, cuenta ya con más de 1.000 millones de descargas, según datos de Google Play Store. (TikTok Lite solamente está disponible para teléfonos Android).

“La mayoría de los usuarios del Sur Global tienen bajos ingresos y recursos limitados”, afirma Payal Arora, profesora de culturas inclusivas de IA en la Universidad de Utrecht, en los Países Bajos. Las versiones Lite de las aplicaciones ayudan a las empresas a conseguir que estas personas se incorporen, algo que, según ella, es aún más crítico que en el pasado porque “los datos son moneda de cambio en este mercado impulsado y ávido de IA.”

Sin cuidado

Un ejemplo de las diferencias que los investigadores encontraron entre las versiones de la app tiene que ver con Covid-19; mientras que los usuarios de Lite son remitidos a un centro de recursos cuando buscan activamente términos relacionados con el virus, el contenido real sobre él no está etiquetado con un enlace a ese centro, cosa que sí ocurre en la versión completa de TikTok.

Los investigadores también descubrieron que los subtítulos estaban truncados en la versión Lite de TikTok, lo que dejaba a los usuarios con menos contexto sobre lo que estaban viendo. La versión Lite de la aplicación también carece de una función que permite a los usuarios limitar el tiempo que pasan en la aplicación y un “modo restringido” que elimina el contenido que “puede no ser apropiado para todos los públicos”, de acuerdo con las políticas de TikTok.

Al eliminar estas funciones, TikTok parece repetir los errores de anteriores aplicaciones Lite. Facebook Lite también eliminó elementos que podrían haber ayudado a los usuarios a comprender mejor el contenido que encontraban.

“En el caso de la versión Lite de Facebook, a las personas les resultaba más difícil saber qué era real y qué no, porque a menudo eliminaba las imágenes a medida que pesaban más, o hacía imposible hacer clic en los enlaces”, recuerda Ellery Roberts Biddle, antiguo miembro del Berkman Klein Center for Internet and Society de Harvard, quien ha estudiado las plataformas sociales zero-rated. “Parecen tener su origen en una falta de consideración similar por el empoderamiento del usuario”.

A Madung le preocupa que el daño causado por la falta de etiquetas y moderación no se limite necesariamente a los usuarios de TikTok Lite. “El contenido que se hace en TikTok no se queda en TikTok”, explica. “La gente descarga videos frecuentemente y los comparte en WhatsApp o Instagram Reels”.

Artículo publicado originalmente en WIRED. Adaptado por Mauricio Serfatty Godoy.