新聞1+1丨人工智能安全治理，再升級(jí)！

　　9月14日，《人工智能安全治理框架3.0》發(fā)布，梳理更新人工智能安全風(fēng)險(xiǎn)分類，就優(yōu)化調(diào)整技術(shù)應(yīng)對(duì)和綜合治理措施提出了建議。

　　三年時(shí)間里，一年一更新，當(dāng)《人工智能安全治理框架》來(lái)到了3.0版本，這一次又做了怎樣的調(diào)整升級(jí)？新挑戰(zhàn)又在哪里？

　　人工智能出現(xiàn)能力躍遷

　　關(guān)注智能體引發(fā)的安全風(fēng)險(xiǎn)問(wèn)題

　　過(guò)去三年，從1.0迭代到3.0，如何看待這樣的更新頻率和迭代節(jié)奏？3.0對(duì)比1.0、2.0，最突出的不同是什么？

　　中國(guó)政法大學(xué)人工智能法研究院副教授 文禹衡：三年推出三個(gè)版本，體現(xiàn)出我國(guó)人工智能治理 “小步快跑”的節(jié)奏?；乜?.0版本，重點(diǎn)聚焦內(nèi)生安全風(fēng)險(xiǎn)與應(yīng)用安全風(fēng)險(xiǎn)；到了2.0版本，進(jìn)一步關(guān)注安全應(yīng)用的衍生風(fēng)險(xiǎn)，包括對(duì)就業(yè)、倫理層面的風(fēng)險(xiǎn)，同時(shí)提出可信人工智能的基本原則。

　　發(fā)展到3.0版本，人工智能出現(xiàn)重大的能力躍遷。從去年年底，大模型不再局限于回答問(wèn)題，演進(jìn)到以智能體為代表、可以主動(dòng)執(zhí)行任務(wù)的新階段。正因如此，3.0版本更加關(guān)注智能體所引發(fā)的安全風(fēng)險(xiǎn)問(wèn)題。

　　智能體風(fēng)險(xiǎn)已傳導(dǎo)至現(xiàn)實(shí)世界

　　治理迎來(lái)結(jié)構(gòu)性轉(zhuǎn)變

　　框架有一處非常明顯變化，把智能體風(fēng)險(xiǎn)、具身智能風(fēng)險(xiǎn)單獨(dú)列出。為什么要做這樣的安排？

　　文禹衡：從中能夠看到治理層面的結(jié)構(gòu)性轉(zhuǎn)變。在大模型出現(xiàn)之前，甚至更早的信息時(shí)代、網(wǎng)絡(luò)時(shí)代，更多是把物理社會(huì)當(dāng)中的行為、現(xiàn)實(shí)世界的信息內(nèi)容投射到網(wǎng)絡(luò)虛擬空間。

　　但隨著智能體執(zhí)行能力提升后，情況發(fā)生了改變。智能體在虛擬空間產(chǎn)生的行為，已經(jīng)可以向外溢出，傳導(dǎo)到物理社會(huì)。也就是說(shuō)，智能體、具身智能帶來(lái)的風(fēng)險(xiǎn)，已經(jīng)發(fā)生到我們的現(xiàn)實(shí)物理世界。從這個(gè)角度來(lái)說(shuō)，我們才會(huì)特別關(guān)注它所引發(fā)的治理層面的結(jié)構(gòu)性改變。

　　企業(yè)對(duì)標(biāo)指引 贏得用戶信任

　　這份治理框架不是一個(gè)強(qiáng)制性的法律，而是一個(gè)指引性的文件，怎么讓企業(yè)，包括行業(yè)，需要把它落實(shí)為切實(shí)行動(dòng)的主體，怎么把它落實(shí)為合規(guī)行動(dòng)？

　　文禹衡：對(duì)企業(yè)而言，在于通過(guò)指引能夠獲得一些積極的效果。雖然它不是強(qiáng)制性的，但它是一個(gè)標(biāo)尺，監(jiān)管者在對(duì)企業(yè)進(jìn)行相應(yīng)監(jiān)管治理的時(shí)候，可以把這個(gè)指引當(dāng)作一個(gè)框架，當(dāng)作一把尺子來(lái)衡量。從這個(gè)角度來(lái)說(shuō)，企業(yè)首先自己要做到，這是一個(gè)方面。

　　另外一個(gè)方面，在市場(chǎng)信用上，企業(yè)主動(dòng)做出指引3.0里面的規(guī)范性動(dòng)作，對(duì)消費(fèi)者和用戶來(lái)說(shuō)，會(huì)產(chǎn)生更好的信用。

　　“動(dòng)態(tài)平衡”

　　實(shí)現(xiàn)安全與創(chuàng)新雙向兼顧

　　3.0版本框架提到強(qiáng)化開(kāi)源生態(tài)安全、供應(yīng)鏈安全管理，特別是開(kāi)源模型下的下載使用，明確了禁止性行為，劃出了紅線。如何看待發(fā)展和安全？如何平衡這個(gè)問(wèn)題？

　　文禹衡：安全與創(chuàng)新之間，主要是雙方站在兩端的狀態(tài)。但如果我們采取動(dòng)態(tài)平衡的方案，在安全和創(chuàng)新之間，并不是找一個(gè)靜態(tài)固定的平衡點(diǎn)，而是采取動(dòng)態(tài)思維去治理。比如在創(chuàng)新過(guò)程當(dāng)中，發(fā)現(xiàn)風(fēng)險(xiǎn)比較高，相應(yīng)的安全措施等級(jí)也會(huì)比較高；如果風(fēng)險(xiǎn)低一點(diǎn)，我們就把安全措施的要求降低一點(diǎn)。通過(guò)動(dòng)態(tài)平衡的方式，就能夠更好地促進(jìn)創(chuàng)新發(fā)展和安全治理跟進(jìn)。

　　另外，我們認(rèn)為不會(huì)抑制創(chuàng)新。因?yàn)樵趧?chuàng)新過(guò)程當(dāng)中，如果沒(méi)有做到安全，創(chuàng)新的破壞力就會(huì)更大。從這個(gè)意義上來(lái)說(shuō)，從社會(huì)效應(yīng)來(lái)說(shuō)，它并不一定是真正有效的創(chuàng)新。

　　中國(guó)人工智能發(fā)展

　　一直側(cè)重于安全與發(fā)展并重

　　最近有美國(guó)的科技公司負(fù)責(zé)人在呼吁人工智能企業(yè)要放緩訓(xùn)練大模型的速度、前沿技術(shù)發(fā)展的速度，甚至指出中國(guó)的人工智能領(lǐng)域保持著領(lǐng)先，會(huì)對(duì)美國(guó)國(guó)家安全造成風(fēng)險(xiǎn)。

　　文禹衡：這種論調(diào)是片面的。中國(guó)人工智能技術(shù)的領(lǐng)先與美國(guó)的國(guó)家安全之間沒(méi)有必然的聯(lián)系。人工智能的技術(shù)發(fā)展在我們國(guó)家是以人為本，所以我們一直側(cè)重于安全與發(fā)展并重，從這個(gè)角度來(lái)說(shuō)，我們不僅是對(duì)國(guó)內(nèi)講安全，我們對(duì)全球所有的主體都是一樣的，以人為本。作為一個(gè)負(fù)責(zé)任的大國(guó)，在發(fā)展人工智能安全的同時(shí)，我們是把這個(gè)標(biāo)尺放在全球來(lái)說(shuō)的，所以并不存在影響美國(guó)國(guó)家安全的說(shuō)法。

　　互信互鑒

　　推動(dòng)人工智能國(guó)際合作

　　要推動(dòng)國(guó)際合作，共治共享，有什么好的建議？

　　文禹衡：在國(guó)際合作、共治共享方面，我們采取的策略是首先大國(guó)之間要互信，在技術(shù)的發(fā)展方面更為重要，要采取合作的姿態(tài)。另外要互鑒，這個(gè)是從我們的治理規(guī)則或者我們的治理制度方面來(lái)看，各個(gè)國(guó)家之間的治理規(guī)則可以更好地取長(zhǎng)補(bǔ)短?；バ藕突ヨb是我們?cè)谶@個(gè)領(lǐng)域里面，進(jìn)行國(guó)際合作的兩個(gè)重要抓手。

　　來(lái)源：央視新聞客戶端