據一名向美聯社透露消息的匿名美國官員表示,Anthropic 開發的一款頂級人工智慧模型,已發現美國政府高度安全的機密電腦系統中存在隱藏的安全漏洞。.
這家人工智慧公司已與美國情報機構合作,利用其自主研發的「Mythos」模型進行機密網路安全測試。該人工智慧系統能夠在極短時間內發現尚未被察覺的系統弱點。 不過,該官員明確澄清:快速識別漏洞並不意味著該人工智慧能在同一時間段內利用這些安全漏洞發動實際的網路攻擊。.
所有網路安全評估均屬 Anthropic「Project Glasswing」計畫的一部分。這項跨產業計畫匯聚了領先的科技企業,旨在提升全球關鍵軟體系統的防護能力。 該計畫的核心宗旨在於應對先進人工智慧工具可能帶來的巨大威脅。若此類強大的人工智慧技術遭非法濫用,將對國家安全、公共安全及經濟穩定造成毀滅性影響。.
美國資深議員馬克·華納已公開提及這項令人驚訝的測試結果。 這位民主黨籍參議員指出,這項先進的人工智慧工具能夠迅速突破幾乎所有美國機密電腦系統,而傳統的手動偵測方法則需要耗費更長的工作時間。他提到,這項權威結論來自同時擔任國家安全局(NSA)及美國網路司令部(USCYBERCOM)指揮官的約書亞·拉德將軍。.
這起事件引發了關於現代先進人工智慧雙重性質的廣泛討論。一方面,人工智慧能協助政府部門預先偵測網路風險,並有效優化數位防禦系統。 另一方面,其掃描系統漏洞的非凡能力,也引發了對人工智慧風險日益增長的擔憂。全球各國政府現正更加重視對高性能人工智慧模型的標準化監管,以防止這項技術被用於非法網路活動。.

發佈留言