L'ONG reproche au réseau social d'amplifier la suggestion de contenus portant sur la dépression, l'automutilation ou le suicide auprès de jeunes utilisateurs dont la santé mentale est déjà fragile.Pour Amnesty international, le système de recommandation de TikTok et les pratiques intrusives de collecte de données qui l’accompagnent, entraînent ce jeune public dans des spirales de contenus potentiellement dangereux.
L’ultrapopulaire plateforme chinoise de vidéos courtes et virales attire chaque mois plus de 22 millions d’utilisateurs actifs rien qu'en France. Un engouement que le réseau social, très prisé des plus jeunes, doit en grande partie à son système de recommandation des contenus, qui s'appuie sur la collecte des données des utilisateurs. Deux rapports, publiés mardi 7 novembre par Amnesty international, dénoncent une "quête effrénée pour obtenir l’attention des utilisateurs" au détriment de la santé mentale des plus jeunes. En ligne de mire, la fonctionnalité "Pour toi" de l’application.
Sur ce fil, alimenté par des algorithmes, défilent à l’infini des contenus en rapport avec les centres d’intérêt de l’utilisateur. "Nous avons observé qu’en l’espace de 20 minutes, voire moins, des comptes d’adolescent·e·s qui avaient signalé leur intérêt pour des contenus liés à la santé mentale se voyaient pour la plupart proposer des vidéos liées à la dépression et à l’automutilation", s’alarme Amnesty international, dont les conclusions s’appuient sur plus d’une trentaine de comptes automatisés qui avaient été paramétrés de manière à représenter des enfants de 13 ans au Kenya et aux États-Unis.
Afin de confirmer ces résultats, une deuxième simulation, exécutée manuellement cette fois-ci, a été réalisée via un compte au Kenya, un autre aux Philippines et un troisième aux États-Unis. "Au bout de cinq ou six heures passées sur la plateforme, près d’une vidéo sur deux était relative à la santé mentale et potentiellement nocive, soit un volume 10 fois plus important que celui présenté aux comptes n’ayant indiqué aucun intérêt pour le sujet", rapporte l'organisme. Plus inquiétant encore, en l’espace d’une heure seulement, "de nombreuses vidéos recommandées idéalisaient, banalisaient voire encourageaient le suicide"
Pour Amnesty international, le système de recommandation de TikTok et les pratiques intrusives de collecte de données qui l’accompagnent représentent un danger pour les jeunes utilisateurs en les entraînant dans des spirales de contenus potentiellement dangereux. "Le système algorithmique de recommandation de contenu, auquel est attribué l’essor rapide de la plateforme à l’échelle mondiale, expose les enfants et les jeunes adultes ayant déjà des problèmes de santé mentale à de graves risques", souligne Lisa Dittmer, chercheuse à Amnesty International, citée dans un communiqué.