Una niña de 10 años murió el año pasado tras participar en el llamado Blackout Challenge, también conocido como el juego de la asfixia
La madre de una niña de 10 años que murió el año pasado ha demandado a TikTok y su empresa matriz, ByteDance, alegando que el algoritmo de la red social recomendó el llamado “Blackout Challenge” en el feed de la niña.
En una demanda presentada el jueves, Tawainna Anderson, de Pensilvania, dice que su hija Nylah murió el año pasado asfixiada mientras intentaba realizar el llamado “Blackout Challenge”, que anima a las personas a grabarse aguantando la respiración o estrangulándose hasta desmayarse. La madre la llevó de urgencia a un hospital el 7 de diciembre, pero la niña murió el 12 de diciembre debido a sus heridas.
Los documentos judiciales afirman que TikTok le recomendó el desafío porque el algoritmo “determinaba que el letal Blackout Challenge probablemente sería de interés para Nylah Anderson, de 10 años”.
El Blackout Challenge ha estado haciendo rondas en la plataforma durante años, pero desafíos similares existen en el patio de la escuela desde hace décadas. Aun así, la muerte de Tawainna se suma a una serie de incidentes de asfixia similares en TikTok y muy publicitados en los últimos años. Otra niña de 10 años murió en Italia después de intentar hacer el desafío en enero, y un niño de 12 años de Colorado murió en abril de 2021 por la misma razón.
En un comunicado por correo electrónico, un portavoz de Tiktok dijo: “Este ‘desafío’ inquietante, del que la gente parece enterarse de fuentes distintas a TikTok, es anterior a nuestra plataforma y nunca ha sido una tendencia de TikTok. Seguimos atentos a nuestro compromiso con la seguridad de los usuarios y eliminaríamos inmediatamente el contenido relacionado si lo encontráramos. Nuestro más sentido pésame a la familia por su trágica pérdida”.
La plataforma tiene reglas explícitas sobre contenido que promueva la autolesión. La app tiene una versión para usuarios menores de 13 años que limita los detalles personales que los usuarios pueden compartir y su capacidad para comentar o publicar contenido, pero no está claro cómo los sistemas automáticos pueden restringir la aparición de contenido en los feeds de los usuarios.
La plataforma tiene una calificación de 12+ en las tiendas de aplicaciones de Apple y Google, pero como pasa con la mayoría de las aplicaciones, todo lo que se necesita para crear una cuenta es afirmar que estás por encima del límite de edad. La compañía afirma que eliminó más de 15 millones de cuentas de menores el año pasado.
Durante una conferencia de prensa el jueves, uno de los abogados de Anderson, Bob Mangeluzzi, dijo: “TikTok es una de las empresas más poderosas y tecnológicamente avanzadas del mundo, ¿y qué hizo TikTok una vez que se enteró de esto? Usó su aplicación y algoritmo para reenviar un vídeo de Blackout Challenge a una niña de 10 años”.
La demanda dice que el algoritmo de la aplicación está diseñado intencionalmente para “maximizar la participación y la dependencia del usuario” y que alienta a los niños a participar repetidamente. La demanda apunta a TikTok, diseñadores del algoritmo, como distribuidores que promocionaron el contenido para Tawainna.
“Es hora de que estos peligrosos desafíos lleguen a su fin”, dijo Anderson durante la conferencia de prensa. “Algo tiene que cambiar, algo tiene que parar porque no me gustaría que ningún otro padre pasara por lo que estoy pasando yo”.
Esta demanda no es la única que persigue a TikTok por las acusaciones de que promueven contenido peligroso para los niños. En marzo, se conoció la noticia de que varios fiscales generales de Estados Unidos están investigando si TikTok es perjudicial para los adultos jóvenes y si la empresa está al tanto del contenido que ven los usuarios más jóvenes.
TikTok se ha convertido rápidamente en una de las plataformas de redes sociales más populares disponibles, y se espera que gane más en publicidad que Twitter o Snap combinados.
Autora: Kyle Barr
Foto: phBodrova (Shutterstock)