L'Unicef a récemment exprimé des préoccupations majeures concernant l'augmentation alarmante des images d'enfants détournées par intelligence artificielle pour créer des deepfakes sexuels. Ce phénomène comprend notamment la "nudification", une méthode consistant à modifier ou supprimer les vêtements d'une victime.
Une enquête menée par l'Unicef en collaboration avec Interpol révèle que dans au moins 11 pays, 1,2 million d'enfants auraient été exposés à cette dérive au cours de l'année passée. Les pays concernés incluent l'Arménie, le Brésil, la Colombie, la République dominicaine, le Maroc, le Monténégro, la Macédoine du Nord, le Mexique, le Pakistan, la Serbie et la Tunisie. Dans certains cas, cela équivaut à un enfant par classe, selon l'étude.
Le rapport souligne que les images générées ou manipulées par des outils d'IA représentent de véritables abus sexuels sur enfants. Les conséquences, tant psychologiques que sociales, de ces abus sont palpables et graves. "Les abus commis au moyen d’images hypertruquées restent des abus, et les préjudices qu’ils entraînent sont tout sauf fictifs", a déclaré un porte-parole de l'organisation.
Un autre point soulevé par l'Unicef concerne le manque de protections adéquates dans les modèles d'IA actuels, qui sont souvent intégrés aux plateformes de médias sociaux. Cette intégration facilite la propagation rapide d'images altérées, augmentant ainsi le risque d'exploitation.
Le réseau social X, propriété de Elon Musk, est d'ores et déjà sous le feu de critiques et d'investigations dans plusieurs pays. Des plaintes ont été déposées en raison de son chatbot Grok, qui a diffusé des contenus pornographiques à partir d'images réelles, comme l'affirme un rapport de Libération.
Face à cette situation critique, le Fonds des Nations unies pour l'enfance exhorte les développeurs d'IA à établir des garde-fous robustes pour prévenir la création de ces deepfakes. L'Unicef demande également aux gouvernements d'adapter la législation, en élargissant la définition des contenus présentant des abus sexuels sur enfants, afin d'inclure ceux générés par l'IA, et de criminaliser leur création, leur acquisition, leur détention et leur diffusion.
