Elon Musk a annoncé le 9 janvier la suspension de certaines fonctionnalités de Grok, l'assistant d'intelligence artificielle de la plateforme X, en réponse à des critiques croissantes concernant l'utilisation abusive de l'outil pour générer des images à caractère sexuel. Contrairement à la version gratuite, où ces capacités sont désormais désactivées, les abonnés payants peuvent encore y accéder.
Ce changement fait suite à de vives préoccupations exprimées dans le monde entier, notamment en raison de la création d'images d'individus, y compris de mineurs, dénudés. « La génération et l'édition d'images sont disponibles uniquement pour les abonnés payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités », a indiqué Grok sur X.
Cette décision a suscité une vive réaction du gouvernement britannique, qui a critiqué ces mesures comme étant « insultantes pour les victimes ». Downing Street a demandé des solutions rapides pour empêcher la diffusion de telles images, qualifiant ces actes de « révoltants et inacceptables ». Liz Kendall, ministre en charge des Technologies, a également exprimé son indignation, déclarant que « ce genre de contenu ne devrait pas exister dans une société digne de ce nom ».
En parallèle, la Commission européenne a pris des mesures conservatoires contre la plateforme X, lui ordonnant de conserver tous ses documents internes relatifs à Grok jusqu'à fin 2026, suite au scandale impliquant la génération d'images sexuelles de mineurs. Cette ordonnance reflète une approche plus stricte envers les violations des normes de sécurité en ligne.
Le scénario rappelle également l'amende de 120 millions d'euros imposée à X en décembre dernier pour des violations du règlement des services numériques (DSA), malgré les critiques des responsables américains à l'encontre de l'UE.
Cristina González, experte en droits numériques, a commenté la situation en affirmant que « la réglementation doit évoluer à mesure que la technologie progresse, et les plateformes doivent prendre responsabilité pour leurs outils ». Ce développement soulève des questions sur l'avenir de la réglementation des contenus générés par l'intelligence artificielle et le rôle des entreprises dans la protection des utilisateurs vulnérables.
