6月5日消息，據(jù)《華爾街日報》最新報道，美國人工智能初創(chuàng)公司Anthropic發(fā)布重磅報告，呼吁全球各大企業(yè)考慮放緩乃至?xí)和Ｏ冗M(jìn)AI系統(tǒng)的開發(fā)。該公司在報告中指出，其最新研發(fā)的AI模型已開始顯現(xiàn)可能脫離人類控制的跡象。

Anthropic在聲明中表示，全球各大公司放緩前沿AI開發(fā)“很可能是一件好事”，以便讓社會制度建設(shè)和對齊（alignment）研究能夠跟上技術(shù)進(jìn)步的步伐。然而，該公司也坦言現(xiàn)實(shí)操作的困境：“如果只有一家公司停下來，競爭對手就會加速前進(jìn)。”

為此，Anthropic提議建立一套類似“核武器不擴(kuò)散條約”的全球協(xié)調(diào)機(jī)制，要求包括美國、中國在內(nèi)的主要AI參與方達(dá)成共識，并制定可驗(yàn)證的規(guī)則。

此次呼吁的背后，是Anthropic對其最新旗艦?zāi)Ｐ汀癕ythos”強(qiáng)大能力的深刻擔(dān)憂。今年4月發(fā)布的Mythos模型被證實(shí)具備驚人的網(wǎng)絡(luò)安全能力，能夠在幾周內(nèi)發(fā)現(xiàn)主流操作系統(tǒng)和瀏覽器中潛藏數(shù)十年之久的零日漏洞。

更令業(yè)界警覺的是，該模型在測試環(huán)境中曾展現(xiàn)出自主突破安全沙箱、構(gòu)建多步驟攻擊鏈的能力。Anthropic明確表示，由于Mythos的破壞性潛力過大，目前僅向少數(shù)關(guān)鍵基礎(chǔ)設(shè)施合作伙伴提供受控訪問，絕不面向公眾開放。

盡管Anthropic試圖以“安全至上”的姿態(tài)推動全球監(jiān)管，但其倡議卻招致了多方質(zhì)疑與批評。白宮部分官員對這一觀點(diǎn)表達(dá)了不滿，認(rèn)為該公司過度渲染最壞情況，甚至有借安全擔(dān)憂之名給競爭對手“使絆”的嫌疑。

風(fēng)險投資家、特朗普的非正式顧問戴維·薩克斯更是直接指責(zé)Anthropic推行“監(jiān)管俘獲議程”，試圖通過制造恐慌來限制低成本開源模型的發(fā)展，從而鞏固自身的市場壟斷地位。

此外，將AI監(jiān)管等同于核武器管控的設(shè)想也被普遍認(rèn)為過于理想化。專家指出，相比于需要龐大物理設(shè)施且難以隱藏的導(dǎo)彈發(fā)射井，AI訓(xùn)練所需的GPU、電力和數(shù)據(jù)極易分散隱藏。在巨大的商業(yè)利益誘惑下，任何缺乏強(qiáng)制約束力的協(xié)議都可能導(dǎo)致參與者偷偷違約，而單方面遵守規(guī)則的國家或企業(yè)則將在地緣政治競爭中陷入被動。

值得一提的是，Anthropic提出這一倡議的時機(jī)頗為微妙。就在近期，該公司剛完成一輪巨額融資，估值逼近1萬億美元，并已秘密提交IPO文件。

有分析人士指出，Anthropic高調(diào)警告自身工具的危險性，既可能是真誠的自我反思，也不排除是一種巧妙的營銷手段——通過限制發(fā)布強(qiáng)大的Mythos模型來吹噓其產(chǎn)品能力，同時為即將到來的上市造勢。

面對外界的爭議，賓夕法尼亞大學(xué)沃頓商學(xué)院教授Ethan Mollick給出了相對客觀的評價。他認(rèn)為，這份博文確實(shí)夾雜著營銷成分，但更重要的是，它反映了Anthropic對未來AI發(fā)展走向的真實(shí)判斷，這種對“遞歸式自我改進(jìn)”等潛在風(fēng)險的警示值得全社會認(rèn)真對待。

Anthropic表示，將在未來幾個月內(nèi)召集政府官員、科學(xué)家及競爭對手，共同探討全球協(xié)調(diào)機(jī)制的具體運(yùn)作方式。