AP通信の取材に応じた匿名の米国政府当局者によると、Anthropic社が開発した最先端の人工知能モデルが、米国政府の高度にセキュリティが強化された機密コンピュータシステムに潜むセキュリティ上の脆弱性を発見したという。.

このAI企業は、米国の情報機関と提携し、自社開発の「Mythos」モデルを用いて機密性の高いサイバーセキュリティテストを実施している。このAIシステムは、未発見のシステムの脆弱性を極めて短時間で発見することができる。 とはいえ、同当局者は明確に次のように説明した。脆弱性を迅速に特定できるからといって、AIが同じ時間内にこれらのセキュリティ上の欠陥を悪用して実際のサイバー攻撃を仕掛けることができるわけではない、と。.

これらのサイバーセキュリティ評価はすべて、Anthropic社の「Project Glasswing」の一環です。この業界横断的なプログラムでは、主要なテクノロジー企業が結集し、世界的に重要なソフトウェアシステムの保護体制を強化しています。 このプロジェクトの主たる目的は、高度なAIツールがもたらす潜在的な巨大な脅威に対処することです。このような強力なAI技術が違法に悪用された場合、国家安全保障、公共の安全、経済の安定に壊滅的な影響を及ぼすことになります。.

この驚くべきテスト結果について、米国のベテラン議員マーク・ワーナー氏が公の場で言及した。 この民主党所属の上院議員は、この高度なAIツールが米国のほぼすべての機密コンピュータシステムを瞬時に突破できる一方で、従来の手作業による検知方法でははるかに長い作業時間を要すると指摘した。同氏は、この権威ある結論が、国家安全保障局（NSA）および米サイバーコマンドの両方の長官を務めるジョシュア・ラッド将軍によるものであると述べた。.

この事件をきっかけに、現代の高度なAIが持つ二面性について広範な議論が巻き起こっている。一方で、AIは政府機関がサイバーリスクを事前に検知し、デジタル防衛システムを効果的に最適化するのに役立つ。 他方、システムの脆弱性をスキャンするその並外れた能力は、AIのリスクに対する懸念をますます高めている。世界中の政府は現在、高性能AIモデルに対する標準化された監督をこれまで以上に重視しており、この技術が違法なサイバー活動に悪用されるのを阻止しようとしている。.