平時我們刷手機遇到的AI陪伴助手、虛擬情感好友，甚至給老人孩子提供陪伴的智能互動產(chǎn)品，今后將有明確的“行為規(guī)范”了。今年7月15日，《人工智能擬人化互動服務管理暫行辦法》將正式施行。那什么是“人工智能擬人化互動服務”呢？

　　《辦法》規(guī)定的“人工智能擬人化互動服務”是指，利用人工智能技術，向中華人民共和國境內(nèi)公眾提供的、模擬自然人人格特征、思維模式和溝通風格，且能開展持續(xù)性情感互動的服務。

　　而智能客服、知識問答、工作助手等不涉及持續(xù)性情感互動的服務，不屬于此類擬人化互動服務，不適用該辦法監(jiān)管。

　　中國政法大學網(wǎng)絡法學研究所所長 李懷勝：這類服務通過模擬人類情感和溝通方式，很容易讓用戶產(chǎn)生非理性的依賴，削弱現(xiàn)實的社交能力，甚至可能被用于情感操控或者說誘導危險行為。因此為了填補監(jiān)管空白，防范化解這類潛在風險，同時也是為了響應國家關于完善人工智能治理體系的戰(zhàn)略部署，出臺針對性的管理規(guī)范。

　　嚴禁向未成年人提供虛擬伴侶等服務

　　《人工智能擬人化互動服務管理暫行辦法》還聚焦未成年人保護，從服務限制、身份識別到監(jiān)護管控，給出了解決方案。

　　針對未成年人保護，《辦法》作出明確規(guī)定：嚴禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務；向不滿十四周歲未成年人提供其他擬人化互動服務的，應當取得未成年人的父母或者其他監(jiān)護人的同意；要求建立未成年人模式，支持監(jiān)護人管控使用行為、限制充值消費等。

　　北京航空航天大學法學院副教授 趙精武：禁止向未成年人提供虛擬親屬、虛擬伴侶的服務，主要考慮的是未成年人正處于三觀形成和培育階段，虛擬親密關系服務容易誤導未成年人對現(xiàn)實生活當中的親屬和伴侶關系產(chǎn)生一些錯誤的認識。還需要結(jié)合未成年人的年齡段，設置針對不同特定年齡段層次化的未成年人的保護措施和內(nèi)容，一旦未成年人在使用過程中出現(xiàn)極端性情緒，應當提供相應的援助這些必要的措施，并及時聯(lián)絡用戶的監(jiān)護人或者緊急聯(lián)系人。

　　全面保障用戶數(shù)據(jù)的控制權與隱私安全

　　針對人工智能擬人化互動“情感綁定、持續(xù)交互、易產(chǎn)生依賴”的特殊屬性，《辦法》從制度層面，填補了相關領域的治理空白。

　　在用戶數(shù)據(jù)保護上，《辦法》明確除法定情形或用戶同意外，服務提供者不得向第三方提供用戶交互數(shù)據(jù)，嚴格限制敏感個人信息用于模型訓練，全面保障用戶數(shù)據(jù)的控制權與隱私安全。

　　同時，要求服務提供者設定強制干預義務，包括用戶如果出現(xiàn)極端情緒時需及時干預，另外需提醒用戶控制使用時長，防范沉迷與情感依賴。

　　中國政法大學網(wǎng)絡法學研究所所長 李懷勝：這些規(guī)定大大提升了用戶隱私的保護力度，意味著企業(yè)不能隨意將用戶在聊天中透露出的敏感信息，比如說健康狀況等，直接用于優(yōu)化其大模型的訓練。此外，《辦法》還規(guī)定，提供者不得向第三方提供用戶交互數(shù)據(jù)，除非有法律或者用戶的明確同意，并需要向用戶提供交互數(shù)據(jù)的復制刪除等選項，這也是為了保障用戶對其個人信息的控制權。

　　新規(guī)施行在即

　　相關企業(yè)要加快合規(guī)準備

　　《人工智能擬人化互動服務管理暫行辦法》將于今年7月15日施行，相關企業(yè)也要加快合規(guī)準備，以促進行業(yè)步入“安全有序、向上向善”的發(fā)展新階段。

　　《辦法》對人工智能擬人化互動服務提供者，明確了四項核心要求，具體可理解為：

　　一是開展服務屬性自查，明確自身服務是否屬于監(jiān)管范圍，杜絕不合規(guī)服務違規(guī)運營；

　　二是建立全流程管理制度，涵蓋算法審核、倫理審查、應急處置等關鍵環(huán)節(jié)，規(guī)范服務運行；

　　三是按要求開展安全評估，依法完成算法備案、變更及注銷等相關手續(xù)，保障服務安全穩(wěn)定；

　　四是嚴格落實法定義務，做好數(shù)據(jù)安全保護、一老一小群體保護及用戶情緒干預提醒，完善用戶申訴舉報機制。

　　北京航空航天大學法學院副教授 趙精武：AI擬人化互動服務的發(fā)展方向是文化傳播和情感陪伴，在技術創(chuàng)新與倫理規(guī)范之間的需求需要進一步平衡，首先應該明確人類的主體地位和人格尊嚴保護的底線要求。任何擬人化服務的方式創(chuàng)新都不應當以減損現(xiàn)實情感交互為前提。擬人化互動服務的功能是對現(xiàn)有的情感交互的有益補充，而不是單純的替代。

　　(央視新聞客戶端)