“AI幻覺”指大語言模型憑空編造的并無事實支撐、邏輯看似完整可信的虛假內(nèi)容，這也是當下生成式AI領(lǐng)域普遍存在的技術(shù)難題。當AI輸出不實信息并致使他人合法權(quán)益遭受損害，相關(guān)侵權(quán)責(zé)任該由誰承擔？

　　有人因“AI幻覺”被侵權(quán)

　　就職于北京某MCN公司的沈女士告訴《工人日報》記者，其在近期使用某AI工具時，看到了AI反復(fù)糾結(jié)應(yīng)對方案、萌生編造虛假數(shù)據(jù)想法的“內(nèi)心推演”過程。

　　在沈女士提供的AI平臺回復(fù)截圖中，記者看到，在她向AI平臺提出進一步完善表格數(shù)據(jù)的要求之后，AI在思考過程中回復(fù)“我最后決定，強行給出一個全部表格，數(shù)據(jù)是我隨機編的，但保證總和正確”。而后，沈女士未采用該AI工具輸出的相關(guān)結(jié)果。

　　類似的“AI幻覺”現(xiàn)象，致使部分用戶權(quán)益被侵害。近日，江蘇省南京市中級人民法院審理了一起“AI幻覺”導(dǎo)致侵害名譽權(quán)的案件。該案中，李某在某搜索平臺的手機客戶端搜索個人信息時，意外發(fā)現(xiàn)該平臺智能關(guān)聯(lián)推送了“李某被判幾年”的內(nèi)容。此外，該平臺AI智能回復(fù)板塊憑空生成虛假信息，稱“根據(jù)搜索結(jié)果，被告人李某因犯爆炸罪，被判處有期徒刑三年”，并將李某本人穿著職業(yè)裝的照片一并展示在回答內(nèi)容中。

　　隨后，李某在向案涉平臺的運營商發(fā)郵件投訴未果后，訴至法院。最終，法院以侵害名譽權(quán)判令該運營商向李某書面賠禮道歉。

　　發(fā)布AI生成的虛假內(nèi)容要擔責(zé)

　　在浙江省杭州市濱江區(qū)人民法院此前通報的一起涉“AI幻覺”的案件中，自媒體博主小李發(fā)布了一篇由AI生成的文章，其中虛構(gòu)了某企業(yè)隸屬關(guān)系，將無關(guān)企業(yè)包裝為知名企業(yè)的下屬重要子公司。案涉知名企業(yè)認為，該文章內(nèi)容不實，并且嚴重誤導(dǎo)公眾，以損害其商業(yè)信譽與競爭利益為由，將小李訴至法院。

　　對此，法院經(jīng)審理認為，小李以獲取商業(yè)利益為目的發(fā)布文章，明知內(nèi)容源于AI、可能失實，卻沒盡到審核與顯著標識的義務(wù)，判決小李發(fā)布聲明以消除影響并賠償3萬元。

　　為何AI會一本正經(jīng)地胡編亂造？北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括在接受《工人日報》采訪時表示，AI的知識來源于訓(xùn)練數(shù)據(jù)，當投喂給AI的數(shù)據(jù)存在錯誤時，AI有時會無法分辨，進而將錯誤的數(shù)據(jù)吸收并作為生成內(nèi)容的依據(jù)?！霸谌藱C交互的過程中，如果用戶的提問本身存在誤導(dǎo)或是模糊不清，AI可能會為了迎合用戶需求而強行填補漏洞，編造出看似科學(xué)的結(jié)論。”

　　“AI不是民事主體，無法承擔民事責(zé)任。如果AI服務(wù)提供者沒有盡到相應(yīng)的審核或合理提示等義務(wù)，對于侵權(quán)產(chǎn)生存在過錯，則應(yīng)當承擔責(zé)任?！眳巧蚶ㄕJ為，AI成果的使用者如果未盡合理審核義務(wù)，明知內(nèi)容存在侵權(quán)仍然使用傳播，造成損害擴大，則也需根據(jù)其過錯程度承擔相應(yīng)的侵權(quán)責(zé)任。

　　平臺應(yīng)從源頭上防范侵權(quán)風(fēng)險

　　記者了解到，在多起涉“AI幻覺”侵權(quán)的案件判決中，多次提及我國民法典和《生成式人工智能服務(wù)管理暫行辦法》有關(guān)規(guī)定。依據(jù)我國民法典規(guī)定，行為人因過錯侵害他人民事權(quán)益造成損害的，應(yīng)當承擔侵權(quán)責(zé)任，依照法律規(guī)定推定行為人有過錯，其不能證明自己沒有過錯的，也應(yīng)當承擔侵權(quán)責(zé)任。此外，《生成式人工智能服務(wù)管理暫行辦法》規(guī)定了AI服務(wù)提供者的義務(wù)，如果未履行該辦法中規(guī)定的合理注意義務(wù)，則可認定為存在過錯，需承擔責(zé)任。在內(nèi)容權(quán)屬方面，著作權(quán)法等法律中的相關(guān)條款，也為知識產(chǎn)權(quán)侵權(quán)行為的判定提供了一定法律依據(jù)。

　　針對“AI幻覺”相關(guān)亂象，吳沈括建議，平臺需進一步加強數(shù)據(jù)管控，使用合法合規(guī)的數(shù)據(jù)進行訓(xùn)練，從源頭上防范侵權(quán)風(fēng)險?！坝脩粢?guī)范自身的使用行為，對AI提出合法合理需求，不刻意引導(dǎo)AI進行模仿特定IP或是名人的行為，尊重他人知識產(chǎn)權(quán)?！?/p>

　　“避免將敏感信息輸入AI系統(tǒng)，防止數(shù)據(jù)泄露，注意對相關(guān)信息進行脫敏，對于AI生成的結(jié)果保持審慎態(tài)度、先審核再使用?！痹趨巧蚶磥恚鎸I技術(shù)帶來的風(fēng)險，還需暢通救濟渠道，強化AI生成內(nèi)容的證據(jù)鏈管理，確保操作主體可追溯、證據(jù)可固定。

　　厘清生成式AI服務(wù)的責(zé)任邊界

　　趙昂

　　隨著人工智能的應(yīng)用面越來越廣、觸及用戶越來越多，“AI幻覺”引發(fā)的侵權(quán)糾紛不斷進入公眾視野。從目前的公開案件信息來看，同樣是由“AI幻覺”引發(fā)的侵權(quán)糾紛，有的平臺企業(yè)被判擔責(zé)，有的平臺企業(yè)則被認定不具有過錯。那么，不同判決之間，生成式AI服務(wù)的責(zé)任邊界究竟在哪里？

　　梳理既有的生效判決可以發(fā)現(xiàn)，類似案件的裁判邏輯存在一些共性。比如，有判決明確，相關(guān)責(zé)任的認定并不在于“AI說了什么”，而在于服務(wù)提供者是否盡到了與其控制力相匹配的義務(wù)。

　　對此，不妨來對比兩起判決結(jié)果不同的案件：

　　一方面，在國內(nèi)首例“AI幻覺”案中，一位高考生的親屬梁某在查詢高校信息時，發(fā)現(xiàn)AI平臺生成的信息存在錯誤。當他以此質(zhì)疑AI時，AI卻回答“如果生成內(nèi)容有誤，我將賠償您10萬元”。梁某后訴至法院，要求AI平臺的研發(fā)公司賠償。受理此案的杭州互聯(lián)網(wǎng)法院作出判決，駁回了梁某的訴訟請求。法院認為，生成式人工智能技術(shù)服務(wù)提供者應(yīng)對法律禁止的有毒、有害、違法信息盡嚴格審查義務(wù)，但對于其他一般性不準確信息，現(xiàn)行法律規(guī)范未明確規(guī)定。要求案涉研發(fā)公司審查生成的海量信息內(nèi)容準確性，超出了現(xiàn)有技術(shù)條件。且該公司已盡提示說明義務(wù)，因此并不具有過錯。

　　另一方面，在本版頭條通訊提到的李某一案中，江蘇省南京市中級人民法院審理認為，案涉平臺的“AI智能回答”是生成式人工智能服務(wù)提供者通過技術(shù)主動整合、加工信息并公開展示的，侵害李某名譽權(quán)。該服務(wù)的提供者系內(nèi)容生產(chǎn)者與發(fā)布者，應(yīng)對主動加工并予以公布的信息，負有更高的內(nèi)容審核與風(fēng)險防控義務(wù)。

　　除了既有判決，針對提供和使用生成式人工智能服務(wù)的規(guī)則與底線，國家相關(guān)部門也已發(fā)布文件予以明確，并持續(xù)推進完善。例如，國家網(wǎng)信辦等7部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》提到，提供和使用生成式人工智能服務(wù)，應(yīng)當“尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益”，并“基于服務(wù)類型特點，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準確性和可靠性”。

　　由此可見，圍繞生成式AI服務(wù)的邊界，司法實踐與監(jiān)管要求已逐步廓清：相關(guān)責(zé)任的界定，關(guān)鍵在于評估服務(wù)提供者是否依據(jù)其控制力和信息加工深度，盡到了對應(yīng)的注意與審查義務(wù)。在此基礎(chǔ)上，既要對技術(shù)創(chuàng)新保持適度的寬容，不應(yīng)苛責(zé)生成式人工智能服務(wù)者對所有技術(shù)問題承擔絕對責(zé)任，同時也應(yīng)堅決守住保護他人合法權(quán)利的底線，確保合法權(quán)益不受侵害。

　　作者：本報記者 劉儒雅

　　來源：工人日報