TikTok enfrenta nuevos cuestionamientos en Estados Unidos luego de que una investigación revelara que la plataforma habría mantenido deliberadamente desactivada una función de seguridad para millones de usuarios, mientras analizaba si esa protección afectaba sus niveles de participación.
De acuerdo con documentos internos revisados por Bloomberg Businessweek y retomados por ExpokNews, la medida se relacionaba con el algoritmo de recomendaciones de TikTok y con su capacidad para evitar que los usuarios quedaran atrapados en ciclos de contenido sobre temas potencialmente dañinos, como depresión, autolesiones y suicidio.
El origen del caso se remonta a 2021, cuando TikTok modificó su sistema de recomendaciones para reducir las llamadas burbujas de contenido. La intención era evitar que una persona que consumiera repetidamente determinado tipo de videos recibiera cada vez más publicaciones similares.
La compañía desarrolló una versión del algoritmo que incorporaba esta protección, pero no la aplicó a todos los usuarios de Estados Unidos. Aproximadamente 10 % de los usuarios estadounidenses, unos 15 millones de personas en ese momento, permanecieron con la versión anterior y formaron parte de un grupo de control.
Según el documento interno, la decisión buscaba determinar si la modificación de seguridad tenía algún impacto en las métricas de participación de la plataforma, entre ellas el número de usuarios activos diarios.
Uno de los casos que ahora genera mayor preocupación es el de Chase Nasca, un adolescente de 16 años de Nueva York que fue seleccionado aleatoriamente para formar parte de ese grupo de control el 25 de enero de 2022.
De acuerdo con la investigación, durante las semanas posteriores su cuenta recibió una gran cantidad de videos relacionados con tristeza, soledad, desesperanza y suicidio. El joven murió aproximadamente un mes después, en febrero de 2022.
La investigación no establece por sí sola que el algoritmo haya causado directamente la muerte del adolescente. Sin embargo, el hecho de que su cuenta estuviera dentro del grupo al que deliberadamente no se aplicó la protección y que posteriormente recibiera contenido de esa naturaleza ha generado fuertes cuestionamientos sobre las decisiones tomadas por la compañía.
El caso provocó la reacción de los senadores estadounidenses Marsha Blackburn y Richard Blumenthal, quienes exigieron explicaciones a Shou Chew, director ejecutivo de TikTok, y a Adam Presser, responsable de la operación estadounidense.
Los legisladores cuestionaron que una función destinada a reducir posibles riesgos para los usuarios pudiera mantenerse desactivada con el propósito de medir su efecto sobre las métricas de participación.
Blackburn y Blumenthal solicitaron información sobre quiénes conocían el experimento, por qué se permitió la participación de menores, cuándo fueron informados los directivos y cuál fue la justificación para mantener desactivada la medida de seguridad.
También pidieron información sobre otros experimentos algorítmicos realizados en Estados Unidos en los que TikTok haya retenido, retrasado, reducido o desactivado funciones de seguridad, así como el número de usuarios involucrados y cuántos de ellos eran menores.
Los legisladores establecieron el 1 de septiembre como fecha límite para que la empresa entregue las respuestas solicitadas.
TikTok, por su parte, aseguró ante Bloomberg Businessweek que mantiene un fuerte compromiso con la seguridad y el bienestar de sus usuarios, especialmente los adolescentes.
La empresa expresó además su solidaridad con las familias que han sufrido pérdidas y señaló que continúa invirtiendo en sus equipos de Confianza y Seguridad, así como en sistemas destinados a detectar y retirar contenidos que infringen sus normas.
El episodio también ocurre mientras en Estados Unidos continúa el debate sobre la responsabilidad legal de las plataformas digitales frente a los posibles daños que sus productos pueden generar entre menores de edad.
Blackburn y Blumenthal han impulsado la Kids Online Safety Act, conocida como KOSA, una propuesta que busca establecer mayores obligaciones para las plataformas tecnológicas en materia de protección infantil.
El caso de TikTok vuelve a colocar en el centro de la discusión la manera en que las empresas tecnológicas realizan pruebas con sus sistemas de recomendación y hasta dónde pueden llegar cuando esas pruebas involucran funciones relacionadas con la seguridad.
La controversia también plantea una pregunta de responsabilidad empresarial: si una plataforma identifica una medida capaz de reducir la exposición de sus usuarios a contenido potencialmente dañino, ¿puede suspenderla para comprobar si afecta sus niveles de participación?
Para los críticos de TikTok, la seguridad de los usuarios no debería tratarse como una variable más dentro de los indicadores de negocio, especialmente cuando los sistemas involucrados pueden afectar a menores.
El caso podría tener consecuencias más allá de TikTok, ya que abre nuevamente el debate sobre la responsabilidad de las grandes plataformas digitales, la transparencia de sus algoritmos y la necesidad de establecer límites claros a los experimentos que pueden afectar la seguridad y el bienestar de sus usuarios.
ExpokNews
Hola, déjenos un comentario