2026網安周｜明確人機邊界，別做“甩手掌柜”

　　【編者按】當前，人工智能技術加速向經濟社會各領域滲透，與之相伴的安全風險與倫理挑戰(zhàn)也日益凸顯。2026年國家網絡安全宣傳周期間，光明網聯合科普中國推出AI科技倫理系列科普視頻，引導公眾理性認知技術邏輯，秉持算法向善理念，共建網絡安全生態(tài)。

　　AI能干的事情，正在變得越來越多。撰寫報告、語言翻譯、處理分析數據，甚至寫詩作畫，AI都可以高效完成。隨之而來的現實疑問也擺在所有人面前：到底還有哪些事情，只能由人完成，不能夠全盤托付給AI？

　　重復勞作、計算推演、規(guī)則清晰明確的任務，適合交給AI處理。這類工作AI處理速度快、準確度高，把這類事務交付機器，是技術帶給人類的解放。

　　但有三類核心事項，是絕對不能交出去的，這也是人與機器分工的底線。

　　第一是最終判斷。AI能夠梳理信息、分析利弊，給出多種方案建議。但是接不采納方案、最終如何行動，決定權必須掌握在人的手中。AI輸出的只是參考，做出抉擇的人，要為這個選擇承擔全部責任。

　　第二是價值選擇。AI可以羅列不同選項，拆解每一種選擇的利弊得失?？墒裁礃拥哪繕酥档米穼?，什么事情值得去做，屬于價值層面的取舍，算法無法替人類作答。算法擅長解決“怎么把事做好”，但“該不該做、為什么要做”，只能由人來思考定奪。

　　第三是承擔后果，也是最根本的底線。AI不會產生懊悔情緒，給出錯誤建議之后，也不會生出責任感。但人類會。很多事情之所以被我們鄭重對待，正是因為我們清楚，所有后果終究要自己扛下。承擔責任，是人和機器最深刻的分野。

　　有一個簡單實用的標尺，可以用來衡量一件事能不能交給AI：倘若AI出錯，誰來為此負責？

　　如果AI發(fā)生失誤，人類可以兜底、補救并且承擔責任，那么交由AI輔助處理就無可厚非?？梢坏┦虑槌鲥e，找不到具體的人站出來承擔“這是我的決定，由我負責”，那這件事就不適合交給AI。

　　就像醫(yī)療診斷，AI可以用來輔助分析病情，但給出診斷結論、對患者生命健康負責的必須是醫(yī)生；司法工作中，AI可以整理材料提供參考，但決定他人命運、背負司法責任的，只能是法官。在這類關鍵場景，人類必須始終在場。

　　無論技術如何迭代進步，有些核心位置不能拱手讓出。一旦交出的不僅僅是一項工作任務，更是屬于人的判斷力、價值取向與責任意識。

　　這并不是人和人工智能相互對立，而是人類為技術劃定合理邊界，也是身處智能時代，我們需要守住的立身之本。

出 品

科普中國前沿科技科普解讀

監(jiān) 制

光明網科普事業(yè)部

科學性審核

段偉文 崔原豪

策 劃

宋雅娟

文 案

羅苡柔(實習)