Según la agencia Reuters, la Fiscalía General del Estado de Nueva York acusó a TikTok de haber llevado a cabo experimentos de "placebo" o experimentos "fantasma" con funciones de seguridad en miles de usuarios.
La función problemática es "Algo Refresh" (Actualización de algoritmo), diseñada para permitir que los usuarios comiencen de nuevo el algoritmo de recomendación de TikTok y se alejen de contenido no deseado o perjudicial.
Según la Fiscalía de Nueva York, los usuarios asignados al grupo experimental creyeron que habían activado la función, pero su feed de recomendaciones no cambió. En contraste, los usuarios que recibieron la función funcionando correctamente experimentaron cambios en sus feeds recomendados.
TikTok repitió el experimento en 2023 comparando el tiempo de permanencia en la plataforma e ingresos publicitarios entre usuarios que no recibieron correctamente la función de seguridad y aquellos que la recibieron normalmente. La empresa buscaba determinar el impacto de las funciones de seguridad en el tiempo de uso de la plataforma e ingresos publicitarios de los usuarios.
Empleados dentro de TikTok también expresaron preocupaciones. Un gerente de producto de bienestar digital de la empresa señaló en conversaciones internas que la función estaba relacionada con la transparencia del algoritmo y el control del usuario, y expresó inquietud de que establecer un grupo placebo contradecía este propósito.
TikTok respondió argumentando que probar nuevos productos y características en entornos reales es un procedimiento estándar para verificar la experiencia del usuario y comprender cómo funcionan las características. La empresa refutó además las afirmaciones de la Fiscalía de Nueva York, diciendo que estaban distorsionando la naturaleza de la función de actualización del algoritmo, y afirmó que prioriza la seguridad de los menores de edad.
Antes, la agencia Bloomberg reportó que TikTok llevó a cabo un experimento separado en el que no aplicó medidas de seguridad para reducir la exposición a contenido perjudicial a aproximadamente el 10% de los usuarios estadounidenses. De acuerdo con documentos internos de TikTok, aproximadamente 15 millones de personas participaron en este experimento, incluido un adolescente de 16 años de Nueva York. Según Bloomberg, la cuenta del adolescente fue expuesta de manera concentrada a contenido relacionado con suicidio y autolesiones durante el período experimental, y posteriormente el joven se quitó la vida. Sin embargo, la relación causal entre este experimento y la muerte del adolescente no ha sido confirmada.
Por su parte, TikTok anunció la función el 16 de marzo de 2023 con el nombre "Refresh your For You feed" (Actualiza tu feed Para ti). En ese momento, se describió como una función que permitiría a los usuarios comenzar de nuevo su feed "Para ti" cuando estuvieran insatisfechos con las recomendaciones o enfrentaran exposición repetida a contenido específico.
* Este artículo ha sido traducido por IA.