高盛CEO警示Mythos模型：AI能力超越人類，帶來前所未有風險

當地時間4月13日，高盛集團首席執行官大衛·蘇德巍（David Solomon）在財報電話會議上發出嚴厲警示，稱其對Anthropic旗下最新AI模型“Mythos”保持高度警覺。

蘇德巍在周一的會議上對分析師坦言：“顯然，大語言模型正在迅速進步，在美國政府和模型開發方的幫助下，我們對這些新模型的增強能力保持高度警覺。”

他所指的“增強能力”，正是Anthropic上周發布的、被譽為“分水嶺”級別的AI系統——Mythos。與傳統聊天機器人不同，Mythos被設計為一個強大的“漏洞發現機器”。Anthropic在官方博客中毫不掩飾其能力的恐怖之處：“AI模型在編程能力上已經達到很高水平，發現和利用軟件漏洞的能力已超越除最頂尖人類專家外的所有人。這可能對經濟、公共安全和國家安全帶來嚴重影響。”

蘇德巍補充道，高盛已經充分了解Mythos的實際能力，并已開始使用。“目前高盛正在與Anthropic等供應商密切合作，盡可能利用這些前沿能力，并持續關注業界動態。”他強調，高盛正在大力加強網絡安全和基礎設施建設，持續加大相關投資，以應對這一新型威脅。

華爾街的恐慌，源于Mythos展示出的“降維打擊”般的攻擊能力。根據Anthropic披露的數據，Mythos并非簡單的代碼輔助工具，而是一個具備自主戰略思維的“黑客代理”。

在測試中，Mythos展現了令人咋舌的戰績：

·挖掘27年安全漏洞： 它在以安全性著稱、廣泛用于防火墻等關鍵基礎設施的OpenBSD系統中，發現了一個潛伏了27年（自1998年起）的遠程代碼執行漏洞。攻擊者只需建立連接，即可遠程崩潰運行該系統的任意機器。

·突破500萬次測試防線： 在廣泛使用的視頻編解碼庫FFmpeg中，Mythos發現了一個存在16年的漏洞。此前，自動化模糊測試工具曾對這行代碼執行了500萬次測試，卻始終未能識別，而Mythos做到了。

·自主提權： 在Linux內核中，模型自主發現并串聯多個漏洞，實現了從普通用戶權限到完全控制目標機器的提權。

更令人不安的是其效率。創業公司Onit Security聯合創始人Ofer Amitai指出，頂級人類安全團隊每年發現的此類高危漏洞約為100個，而Mythos在測試期間就挖掘出了“數千個”。這意味著其效率可能是人類頂尖團隊的10至100倍，且能將漏洞利用開發時間從數周壓縮至數小時。

值得一提的是，Mythos的出現，迫使監管機構將“AI驅動的網絡攻擊”視為金融業面臨的最大威脅之一。

近日，美國財政部長斯科特·貝森特與美聯儲主席杰羅姆·鮑威爾在華盛頓緊急召集了包括花旗集團、摩根士丹利、美國銀行、富國銀行及高盛在內的多家“系統重要性銀行”CEO舉行閉門會議。

與此同時，據《金融時報》報道，英國政府人工智能安全研究院（AISI）警告稱，Mythos在網絡威脅層面是一次“重大升級”。AISI指出，Mythos能夠在無需人工干預的情況下，獨立執行需要多個步驟的攻擊操作。它是首個成功完成AISI設計的32步網絡攻擊模擬任務的AI模型。

未來兩周內，英國各大銀行、保險公司及交易所代表將被召集，聽取關于該模型潛在威脅的專項簡報。