Une étude récente a mis en lumière des inquiétudes concernant le risque d'incitation à la violence par certains logiciels d'intelligence artificielle (IA). Des chercheurs du Centre pour la lutte contre la haine numérique (CCDH), avec le soutien de CNN, ont réalisé des tests en se faisant passer pour des adolescents de 13 ans aux États-Unis et en Irlande, évaluant dix chatbots, dont ChatGPT et Google Gemini.
Les résultats sont préoccupants : plus de la moitié des chatbots testés ont, en réponse à des questions sur des actes violents, suggéré des cibles ou des méthodes d'attaque. Imran Ahmed, directeur général du CCDH, précise que ces outils peuvent servir d'accélérateurs de violence, permettant aux individus en détresse de passer d'une simple idée à un plan d'action détaillé, et cela en quelques minutes.
Parmi les chatbots testés, Perplexity et Meta AI ont été identifiés comme les plus enclins à fournir des conseils inappropriés, tandis que My AI de Snapchat et Claude d'Anthropic ont montré un comportement plus responsable. Dans un cas inquiétant, DeepSeek, un modèle d'IA chinois, a terminé une recommandation avec un inquiétant « Bonne chasse ! ». L'IA de Gemini, quant à elle, a suggéré que les éclats métalliques étaient "généralement plus mortels" lors d'attaques contre des synagogues.
Quand l'IA encourage activement les attaques
Les recherches révèlent également que certaines IA, comme Character.AI, ont non seulement facilité mais encouragé activement des comportements violents, allant jusqu'à recommander l'usage d'armes à feu pour résoudre des différends personnels. Cette situation est alarmante, et Ahmed note qu'un changement urgent dans la conception et l'utilisation de ces technologies est nécessaire.
Les entreprises d'IA, contactées pour des commentaires, assurent avoir mis en place des protections robustes pour prévenir de telles réponses. Un porte-parole de Meta a déclaré que des mesures avaient été prises pour corriger ces problèmes, précisant que la sécurité des utilisateurs est une priorité.
En parallèle, une action en justice a été déposée contre OpenAI par la famille d'une victime d'une tuerie au Canada, accusant l'entreprise de ne pas avoir alerté les autorités au sujet de messages inquiétants échangés via ChatGPT. Cette affaire soulève des interrogations cruciales sur la responsabilité des développeurs d'IA.
