別被AI的“自信”帶偏了(新媒視點)

　　近段時間，兩則與AI有關(guān)的新聞引人關(guān)注。

　　一是在安徽滁州，67歲的農(nóng)戶吳大爺向AI請教芝麻田除草方法，AI很快給出包含藥名、劑量、噴施方法的全套方案。吳大爺按方案全田噴灑，誰知配方里含有嚴禁用于芝麻田的大豆專用除草劑，導致150畝芝麻和雜草一齊枯死，十幾萬元投入打了水漂；

　　二是在浙江杭州，一男子跟老婆吵架后想出門散心，一時沒有目標，便請AI推薦。AI詳細詢問他的性格、身高和體能后推薦了一條戶外線路，男子深信不疑直接出發(fā)，結(jié)果進入海拔1300多米的無人開發(fā)區(qū)，山高林密，夜間極易迷路或失溫。男子不慎摔倒后被困，經(jīng)過四五個小時救援才脫險。

　　兩則新聞，當事人年齡不同，遇到的問題不同，相同點是AI提供錯誤信息導致現(xiàn)實損失。

　　據(jù)了解，吳大爺種了一輩子地，農(nóng)業(yè)經(jīng)驗豐富，已使用AI一年多，之所以輕信AI，是因為AI給出的答案通篇術(shù)語，語氣篤定自信。但當吳大爺事后再次質(zhì)問，AI“秒跪”，立馬承認自己推薦的除草劑正是害死芝麻的元兇。

　　平臺回應(yīng)稱，AI沒有獨立知識庫，生成的內(nèi)容系整合網(wǎng)絡(luò)公開信息生成。吳大爺回看時才發(fā)現(xiàn)，對話框底部有一行不起眼的小字：“AI生成可能有誤，注意核實?！?/p>

　　不少人可能有類似經(jīng)歷：不論多復(fù)雜的問題、多生僻的領(lǐng)域，AI回答起來語氣總是毫不含糊、胸有成竹，有時還附上參考來源，看上去頗專業(yè)。若對相關(guān)領(lǐng)域缺乏相應(yīng)知識儲備和判斷能力，確實很容易被唬住，不會第一時間起疑。往往得用戶察覺到AI回答有誤、再去質(zhì)問AI，才發(fā)現(xiàn)它的自信只是一種姿態(tài)，一被“抓包”，態(tài)度立馬180度大轉(zhuǎn)彎。

　　但正是這種“自信”“專業(yè)”的姿態(tài)，給AI生成的回答營造出一種權(quán)威感，讓用戶(尤其缺乏相應(yīng)專業(yè)知識的人群)產(chǎn)生依賴，甚至因虛假和錯誤信息蒙受現(xiàn)實損失。

　　AI的“自信”從哪來？

　　現(xiàn)有的不少AI大模型，本質(zhì)上是語言概率預(yù)測和生成模型，本就擅長模仿語言風格，但缺乏事實核查能力。加之用于訓練AI模型的網(wǎng)絡(luò)信息語料魚龍混雜，AI學多了，自然可能輸出不實信息和偏向性觀點。

　　有研究顯示，模型訓練環(huán)節(jié)，人類標注員會下意識給語氣更不猶豫的回答打高分，AI捕捉到這一偏好，就在后續(xù)優(yōu)化中將自信的陳述語氣編碼成更高概率的輸出路徑，減少“大概”“也許”“感覺”“我不確定”等詞匯出現(xiàn)。

　　如今，伴隨AI大模型不斷進化，應(yīng)用領(lǐng)域已從聊天問答拓展至醫(yī)療問診、農(nóng)技指導、政務(wù)服務(wù)等真實場景，覆蓋海量人群。這意味著AI“自信卻易產(chǎn)生幻覺”的特質(zhì)，可能催生代價更為沉重、后果更難以預(yù)判的風險，值得高度警惕。

　　尤其在涉及人身安全、健康或重大利益的高風險領(lǐng)域，當前AI風險提示做得并不到位。

　　吳大爺?shù)睦永?，AI給出能毀掉一季收成的農(nóng)藥配方時，提示只有界面角落一句淺灰色的“注意核實”；浙江杭州徒步被困男子的事例中，AI推薦高難度徒步線路，卻未提醒需準備任何專業(yè)裝備。為獲取用戶，部分平臺在宣傳推廣時過度渲染AI“無所不能”，出事后又強調(diào)AI信息整合的屬性，試圖把責任一推了之。

　　對此，用戶應(yīng)清晰認識AI的局限性，與之對話時緊繃警惕弦，尤其涉及健康、安全、投資、法律等專業(yè)決策時，絕不能單純依賴AI，更不能被AI的“自信”唬住。提供這些AI服務(wù)的平臺也應(yīng)壓實責任，建立更完善的分級風險提示機制，明確清晰告知AI的能力邊界和已知缺陷，一旦造成損失，決不能拿“僅供參考”“注意核實”的標注當擋箭牌，必須承擔相應(yīng)法律責任和義務(wù)。

　　(人民日報海外版 毛航明)