新華社北京4月1日電　新聞分析｜AI智能體“龍蝦”為何引發(fā)廣泛警惕

　　新華社記者馮玉婧

　　今年年初以來，一款俗稱“龍蝦”的人工智能（AI）智能體工具“開放之爪”（OpenClaw）憑借其自主執(zhí)行復(fù)雜任務(wù)、可擴(kuò)展技能包等強(qiáng)大能力，在開源社區(qū)迅速崛起。但爆火之后，“開放之爪”接連被曝出存在多重安全隱患。

　　目前，多國(guó)監(jiān)管機(jī)構(gòu)和科技企業(yè)已陸續(xù)發(fā)布針對(duì)“開放之爪”的使用指南和規(guī)范。4月1日，中國(guó)國(guó)家知識(shí)產(chǎn)權(quán)局發(fā)布風(fēng)險(xiǎn)提示說，“開放之爪”等智能體工具被曝光默認(rèn)安全配置脆弱，易引發(fā)嚴(yán)重安全風(fēng)險(xiǎn)。與此同時(shí)，使用此類智能體撰寫專利申請(qǐng)文件，也可能誘發(fā)多重風(fēng)險(xiǎn)。

　　安全漏洞頻發(fā)

　　“開放之爪”由奧地利軟件工程師彼得·施泰因貝格爾開發(fā)，是一款開源AI智能體軟件。該智能體采用層級(jí)化架構(gòu)，將社交即時(shí)通訊軟件與自動(dòng)化智能體深度耦合，同時(shí)借助插件系統(tǒng)擴(kuò)展各種工具能力。這種分層架構(gòu)雖賦予了“開放之爪”靈活性與可擴(kuò)展性，但也帶來了多維度的安全風(fēng)險(xiǎn)。

　　1月下旬，開源平臺(tái)GitHub上發(fā)布的一項(xiàng)安全審計(jì)報(bào)告顯示，“開放之爪”存在512項(xiàng)安全漏洞，其中有8項(xiàng)被歸類為“嚴(yán)重”，涵蓋了身份驗(yàn)證、機(jī)密管理等領(lǐng)域。

　　2月下旬，國(guó)際網(wǎng)絡(luò)安全機(jī)構(gòu)“綠洲安全”研究人員發(fā)布報(bào)告說，“開放之爪”核心系統(tǒng)中存在一個(gè)名為“ClawJacked”的重大安全漏洞，攻擊者可能通過惡意網(wǎng)頁(yè)接管該智能體，從而獲取設(shè)備權(quán)限和訪問系統(tǒng)數(shù)據(jù)?！伴_放之爪”團(tuán)隊(duì)將漏洞定級(jí)為“高度危險(xiǎn)”，并在24小時(shí)內(nèi)發(fā)布了修復(fù)版本。

　　3月30日，中國(guó)360數(shù)字安全集團(tuán)在官方微信公眾號(hào)上發(fā)文說，在“開放之爪”平臺(tái)中發(fā)現(xiàn)一處高危漏洞，影響范圍覆蓋全球50多個(gè)國(guó)家和地區(qū)。

　　廣泛的攻擊風(fēng)險(xiǎn)

　　美國(guó)微軟公司安全團(tuán)隊(duì)發(fā)布的風(fēng)險(xiǎn)報(bào)告顯示，使用“開放之爪”可能面臨兩類攻擊風(fēng)險(xiǎn)：惡意技能插件和間接提示詞注入。

　　“開放之爪”的執(zhí)行能力依賴于社區(qū)平臺(tái)提供的技能插件。綠盟科技公司近期發(fā)布的安全報(bào)告指出，如果缺乏嚴(yán)格的代碼審計(jì)和簽名校驗(yàn)，攻擊者可通過發(fā)布包含惡意提示詞和代碼的惡意技能插件實(shí)現(xiàn)“代碼投毒”。用戶可能只因一次點(diǎn)擊就加載了此類插件，攻擊者可在受害者系統(tǒng)中獲得持久駐留能力。而攻擊者上傳自定義技能插件的門檻非常低，只需要注冊(cè)一個(gè)非實(shí)名的GitHub賬號(hào)即可。

　　據(jù)美國(guó)派拓網(wǎng)絡(luò)公司2月發(fā)布的數(shù)據(jù)，研究人員已在相關(guān)平臺(tái)上發(fā)現(xiàn)超過800個(gè)針對(duì)“開放之爪”的惡意技能插件。

　　提示詞注入是一種針對(duì)大語(yǔ)言模型的攻擊技術(shù)，分為直接注入（攻擊者直接輸入惡意指令）和間接注入（通過網(wǎng)頁(yè)、文檔等外部數(shù)據(jù)源實(shí)現(xiàn)攻擊）兩種方式。

　　美國(guó)“眾擊”網(wǎng)絡(luò)安全服務(wù)公司近期在官網(wǎng)發(fā)文說，提示詞注入的首要威脅是敏感數(shù)據(jù)泄露，考慮到“開放之爪”對(duì)敏感文件與系統(tǒng)的高訪問權(quán)限，這一風(fēng)險(xiǎn)尤為嚴(yán)重。間接注入則會(huì)進(jìn)一步放大風(fēng)險(xiǎn)，因?yàn)楣粽邿o需直接與“開放之爪”交互，只需污染其讀取的數(shù)據(jù)，惡意指令即可悄悄進(jìn)入軟件決策流程。

　　多國(guó)機(jī)構(gòu)及企業(yè)發(fā)布使用規(guī)范

　　對(duì)于“開放之爪”是否適合在企業(yè)中部署應(yīng)用，“眾擊”公司的文章指出，若員工在企業(yè)設(shè)備上部署“開放之爪”或?qū)⑵浣尤肫髽I(yè)系統(tǒng)，且配置不當(dāng)、缺乏安全保護(hù)，它就可能成為系統(tǒng)“后門”，執(zhí)行攻擊者的指令。

　　業(yè)內(nèi)人士建議，個(gè)人或企業(yè)用戶不要在常規(guī)辦公與涉密設(shè)備上運(yùn)行“開放之爪”，如需部署須采取權(quán)限治理、沙箱機(jī)制、持續(xù)監(jiān)控與全周期安全防護(hù)等嚴(yán)格管控措施。

　　據(jù)媒體報(bào)道，出于風(fēng)險(xiǎn)管控的考慮，美國(guó)元宇宙平臺(tái)公司、韓國(guó)多音通訊公司等多國(guó)科技企業(yè)已禁止員工在辦公設(shè)備上使用“開放之爪”。與此同時(shí)，多國(guó)監(jiān)管機(jī)構(gòu)也發(fā)布了關(guān)于使用“開放之爪”的安全指南。

　　荷蘭數(shù)據(jù)保護(hù)局2月發(fā)布公報(bào)，建議用戶和組織不要在存有敏感或機(jī)密數(shù)據(jù)（如訪問碼、財(cái)務(wù)行政資料、員工數(shù)據(jù)、私人文檔或身份證明文件）的系統(tǒng)上使用“開放之爪”及類似AI智能體；建議謹(jǐn)慎對(duì)待外部插件，實(shí)施嚴(yán)格的訪問控制，在存在泄露風(fēng)險(xiǎn)時(shí)及時(shí)更新登錄信息。該監(jiān)管機(jī)構(gòu)還呼吁將“開放之爪”等AI智能體納入歐盟《人工智能法》的管轄范圍。

　　3月22日，中國(guó)國(guó)家互聯(lián)網(wǎng)應(yīng)急中心等發(fā)布了“開放之爪”安全使用實(shí)踐指南。此前，工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)組織相關(guān)機(jī)構(gòu)研提了“六要六不要”建議，以防范“開放之爪”開源智能體安全風(fēng)險(xiǎn)。

【責(zé)任編輯:陳聽雨】