Le Service météorologique national américain (NWS) a récemment été confronté à un dilemme inattendu. En pleine crise de personnel, conséquence des réductions d'effectifs imposées sous l'administration Trump, l'organisme se tourne vers l'intelligence artificielle pour produire des cartes de prévisions. Ce changement a toutefois suscité des inquiétudes après la publication de visuels contenant des villes fictives telles qu'Orangeotild et Whata Bod.
Des exemples similaires émergent de plus en plus, alimentant le débat sur l'utilisation de l'IA dans des services publics déjà sous pression. En effet, le NWS a confirmé que les anomalies observées provenaient d'erreurs générées par des outils d'IA, ce qui soulève des questions quant à la fiabilité des technologies utilisées.
Des experts, tels que Erica Grow Cei, porte-parole du NWS, ont reconnu ces erreurs, soulignant que "la carte affichait par inadvertance des noms de villes illisibles". Bien qu'ils cherchent à optimiser leurs services grâce à l'IA, les responsables reconnaissent qu'une vérification rigoureuse de ces outils est essentielle pour maintenir la confiance du public.
Les coupes budgétaires ayant entraîné un départ massif de personnel dans les bureaux locaux du NWS sont en grande partie responsables de ce recours à l'IA. Dans une déclaration de la National Oceanic and Atmospheric Administration (NOAA), il a été mentionné que des efforts seraient faits pour recruter de nouveaux employés d'ici septembre, mais d’ici là, l’automatisation pourrait continuer à jouer un rôle majeur dans les prévisions météorologiques.
Cependant, des experts de la météo, comme ceux interviewés par la Science, avertissent que ces erreurs pourraient miner la confiance du public dans l'IA, même pour des applications pertinentes qui s'appuient sur des modèles scientifiques solides. "Un visuel défectueux ne remet pas en question la validité des modèles de prévisions fondés sur la science", souligne un climatologue local.
Alors que le NWS s'efforce d'intégrer l'IA dans ses services, il est clair que des balises de sécurité et des formations spécifiques doivent être mises en place pour éviter que ces erreurs nuisent à la crédibilité du service.
