AI蒸餾復刻同事?潛藏三方面法律風險需關注
當下職場涌現(xiàn)出AI蒸餾復刻同事這類新型用工隱患,而社保未足額繳納、臨時用工勞動關系認定,則是常年高發(fā)的職場糾紛。讓我們結(jié)合司法案例,解析新技術催生的全新法律風險,厘清這些經(jīng)典用工維權難題。
近日,AI開源工具“同事.skill”引發(fā)廣泛關注,開發(fā)者通過收集、提取離職員工的聊天記錄、工作文檔、溝通習慣等數(shù)據(jù),借助AI蒸餾技術生成具備特定人格特征、可替代人工完成工作任務的智能模型,被輿論稱為“數(shù)字重生”。依托數(shù)據(jù)提取、人格復刻、能力遷移等特性,AI蒸餾技術快速落地,類似“同事.skill”等未經(jīng)授權復刻他人人格與工作能力的項目不斷涌現(xiàn),不僅嚴重侵害自然人的人格權、損害勞動者合法權益,還擾亂數(shù)字空間公序良俗,衍生出一系列現(xiàn)實法律風險。
風險一
數(shù)據(jù)未經(jīng)授權濫用
人格權保護面臨嚴峻挑戰(zhàn)
AI蒸餾技術多以自然人肖像、聲音、聊天記錄、影像等人格要素為核心訓練素材,通過數(shù)字化提取、特征固化、模型復刻等方式對人格利益進行實質(zhì)性利用。實踐中,大量開發(fā)者未經(jīng)權利人同意,擅自抓取并使用個人數(shù)據(jù),甚至對逝者實施“數(shù)字復活”,嚴重侵害自然人人格權益。
北京某法院2023年4月審結(jié)的殷某訴北京某智能科技有限公司人格權糾紛中,配音師殷某曾為科技公司錄制有聲讀物,科技公司利用AI技術將殷某聲音訓練成文本轉(zhuǎn)語音產(chǎn)品并對外出售,相關AI配音短視頻廣泛傳播。
法院認為,聲音屬于人格權客體,錄音著作權不能替代人格權授權,企業(yè)即便享有錄音版權,未經(jīng)許可將他人聲音用于AI蒸餾仍構成聲音權侵權,判決公司賠禮道歉并賠償殷某25萬元。
風險二
算法監(jiān)控勞動過程
損害勞動者身心健康
AI蒸餾可將勞動者工作習慣、溝通方式、經(jīng)驗技能、行為模式轉(zhuǎn)化為可復用的AI模型,企業(yè)通過蒸餾員工數(shù)據(jù),優(yōu)化派單、考核、薪酬全鏈條算法,全程用硬性數(shù)據(jù)指標管控勞動者工作行為,倒逼勞動者被動貼合算法標準,損害勞動者的身心健康和休息權益。
北京某法院2024年7月審結(jié)的孫某訴北京市某商貿(mào)有限公司、某科技有限公司勞動糾紛中,外賣騎手孫某在送餐途中發(fā)生交通事故致骨折,商貿(mào)公司以“眾包非勞動關系”、平臺企業(yè)以“僅提供技術服務、不直接用工”為由,均拒絕支付傷殘賠償。
法院認為,平臺算法是核心管理工具,對騎手工作行為、勞動強度、收入分配具有絕對控制權,算法強制派單、壓縮時效、高強度派單,直接倒逼騎手疲勞、趕單、分心作業(yè),是導致事故受傷的重要誘因。最終平臺企業(yè)與孫某達成調(diào)解協(xié)議,支付孫某生活保障費1.3萬元。
風險三
算法黑箱導致舉證不能
權利救濟與司法認定困難
AI蒸餾的訓練數(shù)據(jù)、模型邏輯、調(diào)用過程均由技術方掌控,形成典型算法黑箱。被侵害的自然人通常無法獲取數(shù)據(jù)來源、授權記錄、算法規(guī)則、蒸餾過程等核心證據(jù),在維權中處于明顯弱勢,易因舉證不能導致訴求難以支持。
北京某法院2023年6月審結(jié)的唐某某訴某科技有限公司網(wǎng)絡服務合同糾紛中,科技公司運營的平臺將唐某某發(fā)布的內(nèi)容判定為“包含AI生成內(nèi)容但未標識”的違規(guī)情況,將該內(nèi)容隱藏并將用戶禁言一天,唐某某向平臺申訴失敗后將科技公司訴至法院。案件審理中,公司未對其使用算法決策依據(jù)和結(jié)果進行適度的解釋和說明。
法院認為,網(wǎng)絡內(nèi)容服務平臺在即時性創(chuàng)作文本場景下對使用算法自動化決策結(jié)果承擔適度說明義務,判決公司展開折疊的回答并刪除相關后臺記錄。
【法官建議】
一是強化人格權授權與保護。企業(yè)使用自然人數(shù)據(jù)開展AI模型蒸餾相關工作,必須依法征得書面明示同意,提前明確數(shù)據(jù)使用的具體用途、有效期限和適用范圍邊界,嚴禁企業(yè)未經(jīng)許可擅自采集、固化、永久留存勞動者人格特征與工作經(jīng)驗信息,防止以AI智能化升級、崗位優(yōu)化替代為由,違法解除勞動關系,變相脅迫員工簽署數(shù)據(jù)授權文件。
二是全面強化勞動者專項權益保護。在AI智能排班、算法考核、數(shù)字化管理等用工場景中,全面規(guī)范企業(yè)用工行為,嚴格保障勞動者勞動報酬、休息休假、崗位安全、社會保障等各項法定基本權益,堅決防范算法歧視、智能壓榨、差異化對待等各類隱形侵權問題。
三是嚴格適用舉證責任倒置規(guī)則。針對職場算法不透明、后臺規(guī)則隱蔽等算法黑箱突出問題,統(tǒng)一由AI模型使用方舉證數(shù)據(jù)來源合規(guī)、人員授權真實、全程算法合規(guī),切實降低勞動者與人格權權利人取證壓力,大幅減輕維權實操難度。
文/陳境峰(北京市第一中級人民法院)
來源/北京青年報





































京公網(wǎng)安備 11010202009201號