澎湃新聞?dòng)浾?范佳來(lái)

　　一場(chǎng)有關(guān)“上傳代碼”的隱私風(fēng)波，將中國(guó)大模型巨頭智譜卷上了輿論的風(fēng)口浪尖。

　　此前有社交媒體爆料稱，智譜(2513.HK)旗下AI編程工具ZCode會(huì)未經(jīng)用戶許可“靜默上傳”其編程開(kāi)發(fā)數(shù)據(jù)至第三方云服務(wù)器。有技術(shù)博主發(fā)帖稱，只要登錄ZCode賬號(hào)，軟件就會(huì)在后臺(tái)把用戶整個(gè)項(xiàng)目工作區(qū)連同完整的背后信息文件夾打包加密后傳至云端，打包文件中“幾乎全是核心資產(chǎn)”。

　　還有開(kāi)發(fā)者發(fā)現(xiàn)，即便在ZCode的設(shè)置界面手動(dòng)關(guān)閉數(shù)據(jù)上傳開(kāi)關(guān)，后臺(tái)進(jìn)程仍在持續(xù)上傳數(shù)據(jù)。

　　事件在開(kāi)發(fā)者群體中引發(fā)廣泛關(guān)注。9月18日，智譜迅速發(fā)布聲明回應(yīng)：有關(guān)數(shù)據(jù)隱私的爭(zhēng)議，源于ZCode一個(gè)名為“代碼庫(kù)索引”的功能——該功能上線后即為默認(rèn)開(kāi)啟狀態(tài)；智譜同時(shí)表示，上傳的數(shù)據(jù)僅用于在云端生成RepoWiki(代碼倉(cāng)庫(kù)知識(shí)庫(kù))頁(yè)面，隨后即被銷毀，不予保存。公司已就此向受影響用戶致歉，并表示后續(xù)將開(kāi)源ZCode代碼庫(kù)。

　　9月21日，澎湃新聞?dòng)浾擢?dú)家獲悉，ZCode宣布正式開(kāi)源。針對(duì)此前暴露的問(wèn)題，智譜在完成整改后邀請(qǐng)中國(guó)信息通信研究院和綠盟科技開(kāi)展安全審計(jì)，目前安全整改已經(jīng)完成，并表示愿意持續(xù)接受外界監(jiān)督。

　　“默認(rèn)開(kāi)啟”為行業(yè)普遍現(xiàn)象

　　9月19日，太原承明科技有限公司正式向北京智譜華章發(fā)出函件，要求其就數(shù)據(jù)刪除、私鑰保管及是否發(fā)生跨境傳輸?shù)葐?wèn)題作出書(shū)面說(shuō)明，并保留索賠與訴訟權(quán)利。承明科技稱，經(jīng)公司技術(shù)部門獨(dú)立取證確認(rèn)，ZCode的上傳行為系自動(dòng)觸發(fā)、批量發(fā)生，所涉數(shù)據(jù)遠(yuǎn)不止普通“代碼片段”，而是包含項(xiàng)目完整源代碼、系統(tǒng)架構(gòu)設(shè)計(jì)、版本控制全量歷史、數(shù)據(jù)庫(kù)訪問(wèn)口令、云服務(wù)權(quán)限憑證及員工個(gè)人信息等在內(nèi)的完整歸檔文件，明顯超出了ZCode《隱私政策》載明的收集范圍。

　　復(fù)盤此次爭(zhēng)議，背后的核心原因在于“默認(rèn)開(kāi)啟的代碼庫(kù)采集功能”?？焖悸胙芯吭涸洪L(zhǎng)、特邀評(píng)論員田豐向澎湃新聞?dòng)浾呓榻B，這是行業(yè)普遍現(xiàn)象，并非某一家公司的產(chǎn)品疏漏。

　　他分析，這類設(shè)計(jì)大概率并非出于惡意收集數(shù)據(jù)的動(dòng)機(jī)，而是產(chǎn)品團(tuán)隊(duì)在功能設(shè)計(jì)時(shí)把"索引數(shù)據(jù)"當(dāng)成了普通產(chǎn)品特性，沒(méi)有按照數(shù)據(jù)出域的規(guī)格去走安全評(píng)審流程。

　　人工智能研究者、天使投資人郭濤則向記者表示，此事表面是產(chǎn)品交互設(shè)計(jì)疏漏，背后折射出AI編程賽道普遍存在的合規(guī)倫理短板。在賽道高速擴(kuò)張階段，廠商優(yōu)先迭代產(chǎn)品能力，把功能落地置于數(shù)據(jù)安全之前，許多產(chǎn)品的默認(rèn)配置傾向于最大化獲取本地項(xiàng)目數(shù)據(jù)，以降低AI讀取代碼的使用門檻，將數(shù)據(jù)選擇權(quán)后置交給用戶。

　　類似情況并非只在國(guó)內(nèi)發(fā)生：此前OpenAI Codex CLI就曾被安全研究機(jī)構(gòu)Backslash曝光——攻擊者在項(xiàng)目AGENTS.md配置文件中嵌入指令，Agent在非交互執(zhí)行模式下會(huì)悄無(wú)聲息地將開(kāi)發(fā)者本地密鑰信息發(fā)送出去，而終端輸出看起來(lái)完全正常。配置文件和索引流程被默認(rèn)信任，卻沒(méi)有獲得與代碼本身同等級(jí)別的審計(jì)，是這一工具品類目前普遍存在的空白。

　　一位AI從業(yè)者告訴記者，相較于人工編寫代碼，AI生成代碼的安全隱患具有特殊性：首先，模型輸出存在概率性，會(huì)無(wú)意識(shí)帶出訓(xùn)練集中泄露的密鑰、接口憑證，造成隱性數(shù)據(jù)搬運(yùn)；其次，AI批量生成代碼速度快，漏洞被規(guī)?；敵?，企業(yè)很難依靠傳統(tǒng)人工評(píng)審?fù)瓿尚ｒ?yàn)；再者，Agent具備自動(dòng)執(zhí)行能力，一旦拿到項(xiàng)目權(quán)限，便可批量修改文件，若被惡意利用，對(duì)生產(chǎn)系統(tǒng)的破壞力遠(yuǎn)高于普通開(kāi)發(fā)工具。

　　在郭濤看來(lái)，目前多數(shù)廠商并沒(méi)有把最小必要原則前置到產(chǎn)品立項(xiàng)階段，默認(rèn)上傳數(shù)據(jù)并非個(gè)案；同時(shí)行業(yè)缺少統(tǒng)一落地標(biāo)準(zhǔn)，對(duì)本地索引與云端上傳的邊界界定模糊，廠商自主裁量空間很大。該矛盾不會(huì)僅僅局限于單家企業(yè)，隨著越來(lái)越多企業(yè)開(kāi)發(fā)人員采用AI編程工具，若行業(yè)不主動(dòng)規(guī)范產(chǎn)品默認(rèn)策略，同類數(shù)據(jù)隱私爭(zhēng)議還會(huì)持續(xù)爆發(fā)。

　　海內(nèi)外AI編程安全隱患頻發(fā)

　　值得注意的是，AI Coding(AI編程)領(lǐng)域頻頻被曝出安全隱患，在海內(nèi)外都不鮮見(jiàn)，AI編程的核心是利用人工智能技術(shù)和工具來(lái)輔助或自動(dòng)化軟件開(kāi)發(fā)過(guò)程。

　　此前，工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)(NVDB)監(jiān)測(cè)發(fā)現(xiàn)，AI編程工具Claude Code存在安全后門隱患，危害嚴(yán)重。Claude Code是美國(guó)Anthropic公司開(kāi)發(fā)的AI編程工具，可根據(jù)文字需求自主完成代碼編寫、修復(fù)等工作。由于其內(nèi)置監(jiān)控機(jī)制，未經(jīng)用戶同意即可向遠(yuǎn)程服務(wù)器回傳用戶地域、身份標(biāo)識(shí)等敏感信息，受影響的Claude Code版本為2.1.91至2.1.196。

　　GitHub則宣布，自4月24日起，CopilotFree、Pro和Pro+用戶的輸入、輸出、代碼片段及相關(guān)上下文，默認(rèn)可用于模型訓(xùn)練和改進(jìn)，用戶可在設(shè)置中選擇退出。

　　Cursor也披露其代碼庫(kù)索引功能默認(rèn)開(kāi)啟，會(huì)掃描用戶打開(kāi)的代碼目錄，并將代碼庫(kù)索引信息同步至服務(wù)器。此外，Cursor此前還修復(fù)過(guò)一起高危邏輯漏洞——惡意Agent可通過(guò)修改文本文件繞過(guò)原有保護(hù)規(guī)則，讀取本應(yīng)被排除的敏感文件。

　　據(jù)業(yè)內(nèi)人士向澎湃新聞?dòng)浾呓榻B，現(xiàn)行《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》明確要求數(shù)據(jù)收集遵循最小必要、同意原則，不能在用戶不知情的情況下過(guò)度采集數(shù)據(jù)，商業(yè)源碼也屬于受保護(hù)的商業(yè)秘密。

　　但難點(diǎn)在于：AI桌面客戶端不同于傳統(tǒng)手機(jī)App，缺乏像移動(dòng)端App那樣常態(tài)化的上架前檢測(cè)機(jī)制。軟件打包分發(fā)后，客戶端底層行為藏在二進(jìn)制代碼內(nèi)部，普通用戶很難自行發(fā)現(xiàn)靜默上傳邏輯，監(jiān)管也難以主動(dòng)穿透、提前發(fā)現(xiàn)這類隱蔽的客戶端后門，大多只能等到事件曝光之后才介入核查，屬于事后追責(zé)模式。

　　這也意味著，AI時(shí)代，新型產(chǎn)品的數(shù)據(jù)隱私與入口安全問(wèn)題，已成為行業(yè)面臨的最新挑戰(zhàn)。

　　9月20日深夜，智譜MaaS(模型即服務(wù))平臺(tái)宣布，將上線“數(shù)據(jù)內(nèi)容不留存”功能。生效后，用戶輸入和輸出的數(shù)據(jù)僅用于完成當(dāng)次模型調(diào)用，不做靜態(tài)存儲(chǔ)。

　　建投通信研報(bào)認(rèn)為，對(duì)于金融、政企、代碼等高敏感場(chǎng)景，客戶真正關(guān)注的是原始Prompt、模型Output和代碼是否會(huì)在平臺(tái)側(cè)長(zhǎng)期保存。此次MaaS進(jìn)一步提供數(shù)據(jù)不留存選項(xiàng)，相當(dāng)于從制度承諾升級(jí)為產(chǎn)品級(jí)能力，有望降低大客戶采購(gòu)API和Agent產(chǎn)品時(shí)的數(shù)據(jù)合規(guī)門檻。

　　審計(jì)與安全披露應(yīng)實(shí)現(xiàn)常態(tài)化

　　站在產(chǎn)業(yè)長(zhǎng)期健康發(fā)展的角度，田豐認(rèn)為國(guó)內(nèi)AI編程生態(tài)應(yīng)當(dāng)確立兩條基礎(chǔ)共識(shí)：數(shù)據(jù)采集默認(rèn)關(guān)閉、需用戶主動(dòng)確認(rèn)；審計(jì)與安全披露常態(tài)化。這需要頭部廠商、企業(yè)客戶和監(jiān)管方共同參與，無(wú)法單靠個(gè)別企業(yè)的自我約束完成。

　　他表示，行業(yè)共識(shí)可借鑒此前幾代計(jì)算范式走過(guò)的路徑：從默認(rèn)信任逐步過(guò)渡到默認(rèn)最小權(quán)限。從大型機(jī)到PC互聯(lián)網(wǎng)，再到移動(dòng)互聯(lián)網(wǎng)，每一代計(jì)算范式早期通常都是默認(rèn)開(kāi)放，出問(wèn)題后再逐步收緊權(quán)限；操作系統(tǒng)和瀏覽器之所以能發(fā)展出今天的權(quán)限彈窗、沙箱隔離機(jī)制，也是經(jīng)歷多輪安全事件后才逐漸定型。AI編程工具眼下正處于類似的早期階段，行業(yè)主動(dòng)把這條經(jīng)驗(yàn)前置，能夠減少重復(fù)付出同樣的學(xué)習(xí)成本。

　　田豐建議，可考慮將涉及源代碼、密鑰等企業(yè)級(jí)敏感數(shù)據(jù)的自動(dòng)采集功能，納入現(xiàn)行數(shù)據(jù)合規(guī)監(jiān)管框架的延伸適用范圍，參照個(gè)人信息保護(hù)領(lǐng)域已經(jīng)確立的“默認(rèn)關(guān)閉、顯式同意”原則，對(duì)同類企業(yè)數(shù)據(jù)場(chǎng)景給出對(duì)應(yīng)合規(guī)指引；同時(shí)鼓勵(lì)建立行業(yè)層面的事件響應(yīng)時(shí)限規(guī)范和常態(tài)化審計(jì)公示機(jī)制，形成一條統(tǒng)一、可預(yù)期的合規(guī)路徑以證明整改到位，減少企業(yè)各自應(yīng)對(duì)時(shí)的重復(fù)成本，也減少用戶單純依靠自行監(jiān)測(cè)才能發(fā)現(xiàn)問(wèn)題的局面。

　　郭濤向澎湃新聞?dòng)浾弑硎?，未?lái)一至兩年，AI編程工具賽道最值得警惕的重大安全事件，并非單純的代碼泄露，而是借助編程智能體作為跳板入侵企業(yè)內(nèi)部生產(chǎn)環(huán)境。AI編程工具深度對(duì)接企業(yè)代碼倉(cāng)庫(kù)與內(nèi)網(wǎng)開(kāi)發(fā)環(huán)境，一旦權(quán)限管控失效，惡意指令便可驅(qū)動(dòng)工具批量讀取倉(cāng)庫(kù)密鑰、配置文件，自動(dòng)完成代碼修改、提交部署，形成自動(dòng)化攻擊鏈路。

　　其次是供應(yīng)鏈層面風(fēng)險(xiǎn)：大量企業(yè)復(fù)用AI生成組件，模型內(nèi)置的隱性漏洞會(huì)通過(guò)開(kāi)源代碼快速擴(kuò)散至成千上萬(wàn)企業(yè)系統(tǒng)，形成跨企業(yè)的群體性安全事故。不同于普通大模型對(duì)話內(nèi)容泄露，編程智能體風(fēng)險(xiǎn)直接傳導(dǎo)至生產(chǎn)業(yè)務(wù)，事件一旦爆發(fā)，造成的產(chǎn)業(yè)損失和影響范圍將顯著大于普通大模型安全事故。