Lo que comenzó como una app para bailar y hacer lip sync podría estar protagonizando uno de los debates más serios del ecosistema digital. Las autoridades francesas no están bailando con el algoritmo de TikTok: lo están interrogando. ¿Puede un feed infinito ser tan oscuro como para empujar a los jóvenes a la autolesión o incluso al suicidio? En Francia no quieren esperar a averiguarlo tarde.
Te puede interesar: [Demandan a OpenAI por violación de marca registrada en una función de Sora]
Una investigación que no cabe en 15 segundos
La fiscal de París, Laure Beccuau, anunció esta semana la apertura de una investigación penal contra TikTok, la plataforma china propiedad de ByteDance. El motivo: posibles vínculos entre el algoritmo de la app y riesgos para la salud mental de los adolescentes, incluyendo incitación al suicidio.
El detonante fue una solicitud formal de una comisión del Parlamento francés, tras una demanda presentada por siete familias que aseguran que sus hijos fueron expuestos repetidamente a contenido sensible y peligroso. Y no están solos: en Estados Unidos ya hay varias demandas en curso por razones similares.
El algoritmo bajo sospecha (otra vez)
Según el informe del comité parlamentario, TikTok tiene un cóctel potencialmente explosivo: moderación deficiente, acceso sencillo para menores y un algoritmo tan eficiente que puede volverse peligroso.
El informe sugiere que los jóvenes más vulnerables pueden quedar atrapados en burbujas de contenido depresivo o autodestructivo, en bucles que no son precisamente de los que se repiten para bailar.
La brigada de delitos cibernéticos de París ya se ha puesto manos a la obra y analizará si TikTok incurrió en un delito tipificado en Francia como “promoción de medios para cometer suicidio”, que podría acarrear hasta tres años de prisión.
TikTok se defiende: “no somos los malos de la película”
Como era de esperar, TikTok no tardó en responder. En un comunicado enviado a Reuters, la empresa rechazó “enérgicamente” las acusaciones y calificó la iniciativa judicial como injusta y carente de fundamento.
Según su portavoz, la plataforma ha implementado más de 50 funciones de seguridad diseñadas para proteger a los adolescentes, incluyendo sistemas de moderación que eliminan automáticamente el 90% del contenido inapropiado antes de que nadie lo vea. ¿Suficiente? Francia quiere comprobarlo con lupa.
Más informes, más preocupación
La fiscalía también revisará informes anteriores que complican aún más el panorama para TikTok. Por ejemplo, el Senado francés, Amnistía Internacional y la agencia estatal Viginum han publicado documentos desde 2023 que señalan que:
- El algoritmo de TikTok puede fomentar conductas autolesivas.
- Es altamente adictivo, especialmente entre menores.
- Podría ser una herramienta para manipular la opinión pública, incluso en contextos electorales.
Nada de esto suena como un simple malentendido algorítmico.
¿Una advertencia para todo el sector?
TikTok se siente atacado y ha dicho que el Parlamento francés quiere convertir a la plataforma en el chivo expiatorio de un problema más grande: la salud mental de los jóvenes y el impacto de las redes sociales. Y quizá tenga razón… parcialmente.
Lo cierto es que, más allá de esta app, la conversación ya está abierta: ¿Hasta qué punto pueden las plataformas tecnológicas ser responsables de lo que sus algoritmos muestran? ¿Y cómo se protege realmente a los usuarios más jóvenes en un entorno que prioriza la permanencia y el “engagement” por encima de todo?
Te puede interesar: [Varios expertos están contradiciendo a Bill Gates sobre el impacto de la IA en el trabajo]
Mientras tanto, Francia ha decidido investigar antes que lamentar. Porque si algo aprendimos con las redes sociales es que lo viral no siempre es inofensivo.