Un modèle d'intelligence artificielle de pointe développé par Anthropic a mis au jour des failles de sécurité cachées dans des systèmes informatiques classifiés hautement sécurisés du gouvernement américain, selon un responsable américain anonyme qui s'est confié à l'Associated Press.

Cette entreprise spécialisée dans l'IA s'est associée à des agences de renseignement américaines pour mener des tests confidentiels de cybersécurité à l'aide de son modèle « Mythos », développé en interne. Ce système d'IA est capable de détecter des failles système encore inconnues en un temps extrêmement court. Le responsable a toutefois apporté une précision importante : l'identification rapide de failles ne signifie pas que l'IA puisse exploiter ces failles de sécurité pour lancer de véritables cyberattaques dans le même laps de temps.

Toutes ces évaluations en matière de cybersécurité s’inscrivent dans le cadre du projet Glasswing d’Anthropic. Ce programme intersectoriel rassemble des entreprises technologiques de premier plan afin de renforcer la protection des systèmes logiciels mondiaux critiques. L'objectif principal de ce projet est de faire face aux menaces potentiellement considérables que représentent les outils d'IA avancés. Si une technologie d'IA aussi puissante venait à être utilisée de manière illégale, cela aurait des conséquences dévastatrices sur la sécurité nationale, la sécurité publique et la stabilité économique.

Ce résultat surprenant a été rendu public par Mark Warner, un éminent sénateur américain. Le sénateur démocrate a souligné que cet outil d'IA de pointe est capable de pénétrer rapidement dans la quasi-totalité des systèmes informatiques classifiés américains, alors que les méthodes traditionnelles de détection manuelle nécessitent un temps de travail bien plus long. Il a précisé que cette conclusion faisant autorité émane du général Joshua Rudd, qui dirige à la fois l'Agence nationale de sécurité (NSA) et le Cyber Command américain.

Cet incident suscite de nombreux débats sur la double nature de l’IA moderne de pointe. D’une part, l’IA peut aider les administrations publiques à détecter à l’avance les risques cybernétiques et à optimiser efficacement les systèmes de défense numérique. D'autre part, sa capacité extraordinaire à repérer les failles des systèmes suscite également des inquiétudes croissantes quant aux risques liés à l'IA. Les gouvernements du monde entier accordent désormais une importance accrue à la supervision normalisée des modèles d'IA hautement performants, afin d'empêcher que cette technologie ne soit utilisée à des fins de cyberactivités illégales.