TikTok

HUM — Atteinte à l'intégrité mentale par algorithme

L'organisation Amnesty International a mené des recherches détaillées sur le fil « Pour toi » de TikTok en France, révélant que ce fil pousse les enfants et les jeunes qui s'intéressent à la santé mentale vers un cercle vicieux de contenus dépressifs ou valorisant l'automutilation et le suicide. Les faux comptes d'adolescent·e·s créés pour cette étude ont été exposés rapidement à des vidéos idéalisant le suicide, montrant des jeunes exprimant leurs idées suicidaires ainsi que des méthodes de suicide.

Selon les recherches, l'algorithme de la plateforme double le pourcentage de contenus tristes ou dépressifs recommandés dès que des vidéos sur ce thème sont visionnées. Deux témoignages soulignent l'impact de ces contenus : Maëlle, 18 ans, a vu sa santé mentale empirer après s'être fait attirer vers des contenus dépressifs et liés à l'automutilation sur TikTok en 2021, tandis que la mère d'une adolescente décédée de suicide affirme que TikTok a exacerbé le penchant de sa fille pour l'automutilation.

Les recherches montrent également les manquements de la modération de contenu de TikTok, qui n'a pas supprimé des contenus incitant à l'automutilation ou au suicide malgré de répétés signalements. Une tendance documentée est le « défi du baume à lèvres », qui a commencé sous la forme d'un défi consistant à deviner le goût du baume à lèvres d'une autre personne, puis à s'automutiler ou à tenter de se suicider une fois le baume terminé.

Ces conclusions ont été présentées à TikTok mais n'ont pas reçu de réponse. Amnesty International a appelé la Commission européenne à intégrer ces nouvelles preuves dans son enquête sur les violations du Règlement sur les services numériques (DSA) par TikTok et à prendre des mesures contraignantes pour rendre la plateforme plus sûre pour les jeunes.

Sources