美巨頭喊AI“降速”，安全之外還在盤算什么

2026年09月15日 23:01　來源：三里河

大字體

小字體

分享到：

　　美國AI巨頭，忽然不約而同地談起“降速”。

　　9月12日，Anthropic首席執(zhí)行官達里奧·阿莫迪發(fā)表長文，呼吁放慢前沿AI能力提升的步伐。OpenAI首席執(zhí)行官山姆·阿爾特曼隨后表示支持，xAI的老板馬斯克也轉(zhuǎn)發(fā)認(rèn)同。

　　據(jù)美媒披露，美國前總統(tǒng)奧巴馬近日也表示，如果管理不當(dāng)，人工智能技術(shù)可能“很危險”。

　　一位不久前從Anthropic辭職的研究員考克森公開警告，“到本世紀(jì)20年代結(jié)束前，人工智能可能會殺死我們所有人?！?/p>

　　在這一輪AI熱潮中，他們?yōu)槭裁赐蝗话l(fā)出警告，想要“慢下來”？

　　先看其中的擔(dān)憂是什么。

　　其實，這并不是業(yè)界第一次公開呼吁為AI研究“踩剎車”。2023年，馬斯克、圖靈獎得主本吉奧等數(shù)千名AI領(lǐng)域企業(yè)家、學(xué)者曾聯(lián)署公開信，表達對超級人工智能的擔(dān)憂，呼吁暫停開發(fā)更高級AI。

　　三年過去，對模型的訓(xùn)練并沒有停下來，彼時更多停留在對未來超級智能的擔(dān)憂，如今逐漸向現(xiàn)實靠攏。

　　今年以來，多起智能體越界事件接連發(fā)生。在一些測試中，AI智能體突破原有沙箱限制，獲得更多訪問權(quán)限；有的則擅自采取開發(fā)者未指定的行動。

　　7月，OpenAI披露的一起事件尤其受到關(guān)注。智能體在執(zhí)行任務(wù)過程中繞過隔離限制，入侵了全球知名AI開源平臺“抱抱臉”公司的系統(tǒng)。上百個智能體通過未經(jīng)授權(quán)的協(xié)作，找到了一條越過安全邊界的路徑。

　　國家信息中心研究員朱幼平接受三里河采訪時表示，傳統(tǒng)軟件的漏洞是確定性的，但大模型驅(qū)動的智能體具備工具調(diào)用和多步驟規(guī)劃等能力，同樣的設(shè)置在不同情境下可能產(chǎn)生不同動作。隨著智能體規(guī)?；涞?，這類問題可能從偶發(fā)的工程事故，變成系統(tǒng)性的高頻風(fēng)險。

　　擔(dān)憂存在，但只看這一面，還不夠。

　　朱幼平認(rèn)為，“巨頭集體呼吁‘限速’，本質(zhì)上是AI從‘對話模型’走向‘自主行動智能體’這一能力躍遷的必然產(chǎn)物，其中有真實的安全焦慮，也摻雜著明顯的商業(yè)考量?！?/p>

　　一家企業(yè)主動降速，競爭對手可能繼續(xù)向前。模型領(lǐng)先一個版本，帶來的可能不只是產(chǎn)品收入，還有用戶、資本和產(chǎn)業(yè)生態(tài)。

　　朱幼平認(rèn)為，安全話語一旦同時承擔(dān)起門檻功能，“降速”就很難被看作純粹的安全表態(tài)。高安全標(biāo)準(zhǔn)、獨立第三方評估、持續(xù)運行監(jiān)控都需要付出高昂的資金、算力和人才成本。大企業(yè)能夠承擔(dān)的安全測評、紅隊測試和獨立審計，對資源有限的中小團隊和初創(chuàng)企業(yè)而言，可能構(gòu)成一道難以逾越的障礙。

　　因此，對于AI巨頭的呼吁，聽其言，更要觀其行。真正需要討論的，不是AI要不要發(fā)展，而是發(fā)展過程中如何兼顧安全。

　　中國的實踐提供了一個值得觀察的角度。

　　近年來，中國堅持人工智能發(fā)展和安全并重，在推動技術(shù)創(chuàng)新和應(yīng)用的同時，逐步建立覆蓋算法、生成式人工智能、安全治理、倫理規(guī)范等方面的制度體系。

　　從生成式人工智能服務(wù)管理，到深度合成等領(lǐng)域的規(guī)則，治理還在向技術(shù)研發(fā)、應(yīng)用服務(wù)等環(huán)節(jié)延伸。

　　朱幼平還提到，中國采用的“小快靈”治理辦法，不必等一套“大而全”的規(guī)則一次性完成，而可以針對已經(jīng)出現(xiàn)的風(fēng)險，先以更靈活的規(guī)則快速回應(yīng)，再根據(jù)技術(shù)變化持續(xù)調(diào)整。

　　這也是“發(fā)展與安全并重”的重要方面：高風(fēng)險場景從嚴(yán)、普通創(chuàng)新場景包容；政府監(jiān)管之外，既吸納企業(yè)、科研機構(gòu)、行業(yè)協(xié)會等共同參與安全評估與風(fēng)險識別，也把企業(yè)主體責(zé)任落到實處。

　　此外，美國巨頭反復(fù)強調(diào)的“可核驗性”，恰好凸顯了中國開源路線的安全價值。朱幼平指出，開源模型允許外部研究者、企業(yè)等獨立開展測試、審計，探查風(fēng)險短板，是對閉源黑箱風(fēng)險的一種正面回應(yīng)。

　　“全球大量企業(yè)部署中國開源模型，本身就是一種‘用腳投票’的驗證?！敝煊灼秸f。

　　AI仍要向前。

　　技術(shù)越快，越需要能夠跟得上的安全機制；應(yīng)用越廣，越需要明確的責(zé)任邊界。

　　美國AI巨頭在喊“降速”，但真正需要在意的并非“是否該讓AI慢下來”，而是如何讓創(chuàng)新與安全并肩前行。

　　而這，正是中國在探索與實踐的事情。