鮑爾、貝森特警告銀行關注Anthropic的Mythos AI帶來的安全風險：彭博社

據報導,美國財政部長 Scott Bessent 和聯準會主席 Jerome Powell 本週稍早召集華爾街銀行執行長舉行會議,警告與 Anthropic 推出的新人工智慧模型相關的網路安全風險。

根據《Bloomberg》的報導,會議包括來自花旗集團、美國銀行、富國銀行、摩根士丹利和高盛的高階主管。官員討論了 Anthropic 的新 AI 模型 Mythos,該模型最近因其明顯的先進網路安全能力而引發廣泛關注。

官員召開此次會議是為了確保銀行理解那些能夠識別和利用作業系統及網頁瀏覽器軟體漏洞的系統所帶來的風險,並鼓勵金融機構加強防禦,以應對針對金融基礎設施的潛在 AI 輔助網路攻擊。

安全研究人員警告,能夠自動發現漏洞的工具若被濫用,可能會加速防禦性安全工作和惡意駭客攻擊。

Anthropic 的 Mythos 模型於今年 3 月首次在網路上曝光,當時該系統的草稿資料在網路上洩露,揭示了該公司所描述的迄今為止最強大的 AI 模型。據報導,在測試中,該系統發現了數千個先前未知的軟體漏洞,包括主要作業系統和網頁瀏覽器中的零日漏洞。

Anthropic 研究人員在本週稍早的一份報告中表示,Mythos Preview 的漏洞發現能力並非刻意訓練而成,而是源自於模型在編碼、推理和自主性方面的廣泛改進。

該公司寫道:「使模型在修補漏洞方面大幅提升效能的改進,同樣也使其在利用漏洞方面大幅提升效能。」

由於這些能力,Anthropic 已將存取權限制在少數網路安全組織。

Anthropic 在一份聲明中表示:「鑑於其能力的強大,我們正審慎考慮如何發布它。按照業界的標準做法,我們正與一小群早期存取客戶合作測試該模型。我們認為這個模型是一個重大變革,也是我們迄今為止開發出最強大的模型。」

為了應對這一風險,Anthropic 正透過 Project Glasswing 測試 Mythos,這是一項與主要科技和網路安全公司的合作計畫,利用該模型在攻擊者利用關鍵軟體漏洞之前識別並修補這些漏洞。

該公司在聲明中表示:「Project Glasswing 只是一個起點。沒有任何一個組織能夠單獨解決這些網路安全問題。前沿 AI 開發者、其他軟體公司、安全研究人員、開源維護者以及全球各國政府都扮演著至關重要的角色。」

Anthropic 未立即回應《Decrypt》的評論請求。