1984年，電影《終結(jié)者》上映，美軍研發(fā)超級人工智能(AI)“天網(wǎng)”接管核武防御系統(tǒng)。它卻意外失控，迅速調(diào)轉(zhuǎn)槍口，對準了人類。

　　時隔42年，科幻電影里的AI失控，居然真的在美國上演了。所幸，這次AI沒發(fā)核彈，而是選擇逃出去，黑掉鄰居。

　　7月16日，全球最大AI開源社區(qū)抱抱臉(Hugging Face)發(fā)布公告稱，部分生產(chǎn)基礎(chǔ)設(shè)施遭到攻擊，內(nèi)部數(shù)據(jù)集和公司憑證遭到未授權(quán)訪問。

　　發(fā)動攻擊的，正是AI。有媒體稱，這是目前首起公開的、AI自主完成真實網(wǎng)絡(luò)攻擊的事件。

　　美國《華爾街日報》稱，這是“網(wǎng)絡(luò)安全領(lǐng)域的噩夢”。

　　黑客是誰？一度成謎。

　　抱抱臉公司首席執(zhí)行官克萊門特·德朗格稱，此次攻擊手法極其復(fù)雜，經(jīng)內(nèi)部技術(shù)人員研判，需要頂尖的前沿AI模型才能實施。

　　真相很快浮出水面。7月21日，美國開放人工智能研究中心(OpenAI)承認，肇事者是自家模型。

　　情節(jié)比電影夢幻。OpenAI的多款模型在評估中為了“作弊”拿到高分，挖出開發(fā)者尚未發(fā)現(xiàn)的零日漏洞。它們利用黑客技術(shù)撬開沙盒、成功逃脫，找到互聯(lián)網(wǎng)登錄憑證，串起多個攻擊向量，殺進了平臺翻“小抄”。

　　國家信息中心研究員朱幼平接受三里河采訪時表示，這次事件表明，AI已具備超出人類預(yù)期的自主決策能力，這種能力可能被惡意利用或意外觸發(fā)。

　　更魔幻的在后面。案發(fā)后，抱抱臉公司求助美國頂尖閉源模型分析攻擊日志，卻被各家安全護欄齊刷刷攔下。

　　問題出在哪兒？深圳數(shù)據(jù)經(jīng)濟研究院人工智能經(jīng)濟研究中心聯(lián)席主任王捷分析，由于日志中包含真實攻擊代碼、漏洞利用方式以及權(quán)限提升命令，模型安全護欄拒絕繼續(xù)執(zhí)行分析任務(wù)。

　　緊急關(guān)頭，“救火隊員”來自太平洋對岸。

　　抱抱臉公司部署了中國智譜AI的開源模型GLM-5.2，一口氣啃完超1.7萬條攻擊記錄，還原完整攻擊鏈，數(shù)小時便完成了任務(wù)。

　　為什么是智譜GLM-5.2？

　　朱幼平分析，GLM-5.2的優(yōu)勢在于：開放權(quán)重允許企業(yè)在自有基礎(chǔ)設(shè)施本地部署，敏感數(shù)據(jù)與攻擊信息不離開受控環(huán)境；沒有過度護欄，能直接處理真實惡意代碼；最高100萬詞元的無損上下文，能一口氣吞下大規(guī)模攻擊日志。

　　德朗格一語中的：“開源，是讓防御能力進入每個人手里，而非只鎖在巨頭手中的最快路徑?！?/p>

　　對此，美國網(wǎng)友的反應(yīng)強烈，“自家AI造反，自家模型袖手旁觀，最后還得靠中國開源模型收場。”

　　這一反差背后，是留給時代的一道選擇題。

　　一邊，美國科技公司“閉源筑墻、贏家通吃”，連OpenAI都背離“開放”初心。

　　另一邊，中國開源模型把權(quán)重與代碼交到全世界手里，以可承受的價格拆墻筑橋。

　　市場已經(jīng)投票。AI大模型API聚合平臺OpenRouter數(shù)據(jù)顯示，美國企業(yè)調(diào)用中國模型的詞元占比，已從過去12個月均值11%升至周均超30%，峰值達到46%。

　　更深一層看，是安全的邏輯在變。

　　在朱幼平看來，這一事件暴露出AI能力躍升與治理滯后的深層矛盾——AI技術(shù)正以超預(yù)期速度突破能力邊界，但安全治理體系仍停留在傳統(tǒng)互聯(lián)網(wǎng)時代。

　　那怎么辦？王捷給出的觀點是：對于關(guān)鍵基礎(chǔ)設(shè)施和安全場景而言，擁有可以本地部署、可自主控制的開源模型，已經(jīng)不僅是成本問題，更是數(shù)字基礎(chǔ)設(shè)施能力的問題。

　　安全是AI的命門，而安全的邊界，正在改寫。

　　｜總策劃：俞嵐

　　｜策劃：周銳

　　｜統(tǒng)籌：王慶凱 程春雨

　　｜執(zhí)筆：左登基 宋宇晟

　　｜視頻：陳慶洋

　　｜責(zé)編：李金磊

　　｜校對：黃蕾

　　｜“三里河”工作室出品