TikTok veut bloquer les contenus qui plombent la santé mentale des plus jeunes

Il n’y a pas si longtemps, suite à la divulgation de fichiers confidentiels révélant la responsabilité de certains réseaux sociaux sur la mauvaise santé mentale des plus jeunes, Facebook et sa clique ont été épinglés.

Depuis, les plateformes sont en alerte et publient tour à tour l’annonce de nouvelles fonctionnalités censées protéger les jeunes utilisateurs et utilisatrices. C’est notamment le cas de TikTok. Dans un récent communiqué, il a annoncé la mise en place d’outils inédits pour préserver la santé mentale des internautes…

Vraies solutions ou simple tentative de redorer son image ?

Les effets négatifs du flux TikTok

Si vous n’avez jamais vu la couleur de TikTok, je vous explique. Pour y découvrir des vidéos, il existe ce qu’on appelle la page « Pour toi », un fil d’actualité personnalisé permettant d’explorer des contenus censés nous ressembler.

Comment ça marche ? L’algorithme de TikTok prend simplement en compte l’engagement de ses utilisateurs et utilisatrices, comme les mentions « j’aime », les vidéos visionnées ou encore les comptes suivis, pour ensuite proposer les contenus les plus susceptibles de les intéresser. De temps en temps, pour diversifier un peu le flux, TikTok recommande aussi des contenus qui sortent un peu de la « zone de confort » des utilisateurs et utilisatrices.

Le hic, c’est que fatalement, on peut tomber sur des contenus qui déclenchent un souvenir ou une habitude négative, en d’autres termes, qui trigger l’internaute. Une victime de violences sexuelles peut, par exemple, être intriguée par une vidéo traitant de ce sujet, la visionner, puis se voir proposer le même type de contenus encore et encore.

Une personne souffrant de troubles des conduites alimentaires peut tomber sur un TikTok parlant du dernier régime tendance, la regarder, et voir son fil d’actu se remplir de vidéos qui renforcent ses troubles. En gros, plus vous regardez ces vidéos ou plus vous les aimez, plus elles vous seront proposées. Pas ouf pour préserver sa santé mentale…

TikTok veut éviter d’enfermer ses internautes dans des troubles

Dans son récent communiqué, la plateforme adresse le problème :

« Nous testons des moyens d’éviter de recommander une série de contenus similaires – par exemple autour des régimes extrêmes ou de la remise en forme, de la tristesse ou des ruptures – afin de se prémunir contre le visionnage excessif d’une catégorie de contenu qui peut être acceptable en tant que vidéo unique mais problématique si elle est visionnée en grappes.

Nous nous efforçons également de reconnaître si notre système peut, par inadvertance, ne recommander que des types de contenu très limités qui, bien que ne violant pas nos politiques, pourraient avoir un effet négatif s’il s’agit de la majorité de ce qu’une personne regarde, comme du contenu sur la solitude ou la perte de poids. Notre objectif est de faire en sorte que le flux Pour Toi de chaque personne présente un large éventail de contenus, de créateurs et de sujets. »

Des outils pour diversifier les suggestions

Pour y remédier et proposer de nouveaux outils, TikTok aurait consulté des experts en médecine, en psychologie clinique et en éthique de l’Intelligence Artificielle (IA).

Alors, quelles sont les solutions trouvées par la plateforme chinoise et ses pros de la santé ? Dans le but de personnaliser davantage l’expérience des utilisateurs et utilisatrices en fonction de leurs préférences, TikTok travaillerait sur une fonctionnalité qui leur permettrait de choisir des mots ou des hashtags associés à des contenus qu’ils ne veulent pas voir dans leur flux.

Autrement dit, un outil capable de bannir certains sujets ou thématiques de leur fil d’actualité, « que ce soit pour un végétarien qui souhaite voir moins de recettes à base de viande, ou une personne travaillant sur son estime de soi qui préférerait voir moins de tutoriels de beauté », précise le communiqué.

En parallèle, l’application planche sur des fonctionnalités pour examiner les vidéos au fur et à mesure qu’elles gagnent en popularité, « afin de réduire la probabilité que des contenus qui pourraient ne pas convenir à un public général entrent dans le système de recommandations. »

Des solutions louables, mais encore faudrait-il que les utilisateurs et utilisatrices aient recours à la nouvelle fonction, et que l’équipe de la plateforme soit capable de modérer les contenus avec efficacité. Au vu du nombre de vidéos publiées chaque minute, cela semble peu probable…

À lire aussi : Les nostalgiques du 1er confinement sont déjà là (et ils chantent sur TikTok)

Crédits photos : cottonbro et Alex Green (Pexels)