À l’heure actuelle, les nouvelles expériences sur Tiktok ne se limitent plus à des danseurs ou des tutoriels culinaires. Les nouveaux utilisateurs découvrent souvent des personnages aux traits déformés, accompagnés d’une voix artificielle, ou des animations désordonnées pleines d’erreurs. Avant même de pouvoir choisir, l’algorithme a déjà fait ses choix.
Selon une étude par Kapwing, presque 59% des vidéos dans le fil "Pour toi" d'un nouveau compte Tiktok sont fabriquées par des intelligences artificielles. Cette proportion est inquiétante, étant trois fois plus élevée que celle observée sur Youtube Shorts. La saturation en contenus non vérifiés est particulièrement frappante dans les catégories destinées aux enfants.
Tiktok, le mauvais élève de l'éducation
Ce phénomène, souvent désigné par le terme "IA Slop", décrit des vidéos répétitives et trompeuses, esquivant toute logique ou rationalité. Parmi ces productions, on trouve des faux groupes musicaux et des contenus animés dépourvus de fond.
Alors que Tiktok admet l’omniprésence de contenus générés par IA dans l’expérience utilisateur, l’observation de Kapwing pointe un décalage entre cette réalité et l’outil promettant aux utilisateurs de contrôler leur exposition à ces contenus. De fait, la plateforme pourrait être saturée de ces vidéos automatisées, où 1,3 milliard de vidéos avaient déjà été identifiées comme provenant de l'IA.
Joe Tidy de la BBC mentionne que les mentions "J’aime" pour des commentaires négatifs concernant l’IA surpassent largement celles pour les publications originales. Ce phénomène indique une fatigue croissante face à cette avalanche de contenus générés par des machines.
Contenus éducatifs en péril
Les contenus destinés aux enfants sont les plus touchés, avec 57,4% des vidéos générées générant des critiques de faible qualité. Les domaines comme l’éducation scientifique, la santé et l’histoire, où l’exactitude est cruciale, montrent une vulnérabilité alarmante face à ces contenus. Bien que l’IA puisse illustrer des concepts, cela ne justifie pas une logique de production rapide où l’exactitude est négligée.
Certains créateurs, comme Jonathan Laramy, visent à créer un contenu éducatif de qualité, mais les erreurs factuelles demeurent un défi, mettant en lumière le manque de compréhension historique inhérent à l’IA, selon Brendan Gillis de l’American Historical Association.
Une alerte sur la désinformation infantile
Les résultats sont encore plus préoccupants sur des plateformes populaires auprès des jeunes. Sur le hashtag #cartoonkids, 97 vidéos sur 100 ont été identifiées comme étant automatisées et de mauvaise qualité. Cela pose un risque sérieux d’exposition des enfants à des contenus inappropriés.
Le Dr Dana Suskind, pédiatre à l’Université de Chicago, alerte sur cette désinformation : "C'est de la désinformation à grande échelle pour les jeunes, avec des conséquences potentiellement catastrophiques sur leur développement".
La situation est d’autant plus critique que plus de 70% des enfants de moins de deux ans sont exposés à des écrans, avec seulement la moitié des parents utilisant des contrôles parentaux sur les dispositifs numériques.
Les réseaux sociaux à un tournant
Face à ces critiques et à la montée des contenus automatisés, Tiktok prend des mesures. Bien qu’elle offre de nouvelles options pour limiter l'exposition à l'IA, la question de la nature même des réseaux sociaux reste cruciale. Autrefois conçus pour relier des individus, ils semblent désormais basculer vers une production de contenu uniquement généré par machines, éloignant de plus en plus l'utilisateur de l'expérience interactive.
Entre des animations bizarres et des cours de mathématiques mal conçus, il devient ardu de discerner si ces contenus sont véritablement ce que les utilisateurs veulent ou simplement un reflet de ce que l'algorithme décide de leur montrer.
