近日，在湖北省恩施土家族苗族自治州巴東縣朱砂土村的暑假愛心托管班上，小朋友正在和機器人互動。 　　焦國斌攝（人民視覺）

觀眾在第四屆鏈博會上與全球首款分體式AI陪伴機器人互動。 　　唐 克攝（人民視覺）

江蘇省南通市通州區運鹽河幼兒園的孩子們在智能閱讀機的引導下沉浸式解鎖有聲繪本。 　　翟慧勇攝（人民視覺）

　　隨著生成式AI（人工智能）的快速發展，AI應用的對話交互能力越來越成熟，推動人機關系從功能輔助邁向情感陪伴，在適幼照護等領域展現出廣闊前景。但高度擬人化可能引發的情感依賴、認知混淆等深層次風險也逐步凸顯，規范治理需求日益迫切。

　　近期，國家互聯網信息辦公室等5部門聯合公布的《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》）正式施行，明確人工智能擬人化互動服務的定義，並劃定安全邊界，防止“AI陪伴”替代社會交往、控制用戶心理、誘導沉迷依賴。

　　專家指出，《辦法》的出台，既是對擬人化互動服務領域傳統安全風險的系統回應，也是對新型安全隱患的前瞻性防控，提出了“邊界清晰、權責明確、風險可控、創新包容”的治理要求，實現了創新發展與安全治理的有機平衡。

　　

　　擬人化互動隱患凸顯

　　向AI分享生活趣事、傾訴學習煩惱、讓AI幫助解答心理困惑……近年來，隨著各類生成式AI應用的普及，越來越多青少年嘗試與“AI搭子”進行情感交流。

　　劉沁（化名）的兒子在學齡前就接觸了AI，很快就對聊天功能十分著迷，常常聊到深夜還不肯睡覺。“我一開始覺得還挺好，AI能陪他像好朋友一樣聊天。”但孩子隨后的變化，令她愈發擔憂：孩子對外出玩耍的興趣減少，戶外活動時總是興致索然﹔情緒變得暴躁易怒，缺乏耐心﹔遇到煩惱更願意和AI傾訴，與家人之間的溝通減少。

　　“和AI交流，不用害怕被指責，不管我說什麼，它都會認真聽、慢慢回應，我感覺自己被理解了。”在談及為什麼喜歡跟AI聊天時，初中二年級學生小輝（化名）表示。

　　2025年，中國青少年研究中心孫宏艷研究員帶領團隊對全國7個省市8500余名中小學生進行了調查，結果顯示，超過六成學生使用過AI，近半數孩子心裡有煩惱時選擇求助AI。

　　依賴之所以產生，離不開AI的“投其所好”。

　　“相較於常批評自己的長輩，青少年更願意向耐心傾聽的伙伴敞開心扉。”孫宏艷告訴筆者，AI即時回應、無條件接納情緒、零拒絕交互等特點，尤其貼合青春期孩子的心理訴求。AI傾向於順從、討好、肯定的回應方式，也讓孩子在AI面前，不必擔心被批評、被拒絕。

　　然而，虛擬互動終究無法替代真實交往。不少家長反映，孩子習慣與AI聊天后，常認為周圍人都會無條件應答自己，對現實社會、人際關系產生認知偏差。劉沁回憶，一次兒子與同伴打鬧時站到台階邊緣，有家長出於安全考慮出言提醒，兒子卻生氣了，認為對方多管閑事。“那段時間，AI總順著他的話講，給了太多情緒上的迎合，讓他有些分辨不清現實中他人的善意了。”劉沁說。

　　“青少年本應在真實交往中學會接受分歧、拒絕和不確定性，若長期面對一個圍繞自身需求生成、可不斷調整的虛擬對象，容易形成失真的關系預期。”華東師范大學教育學部教授姚榮表示，當情緒寄托、關系需求乃至部分價值判斷逐漸向AI轉移，真實的家庭關系、同伴互動及社會化過程都可能受到影響。

　　未成年人若長久沉溺於AI無條件迎合營造的“情緒繭房”，會對充滿多元沖突的現實關系產生抵觸，進而更依賴與AI聊天，形成惡性循環。“長此以往，孩子對挫折的耐受力、情緒表達和感知能力都將被削弱。”孫宏艷說，“《辦法》的施行，正是有關部門針對這些潛在風險作出的及時回應，可謂正當其時。”

　　構筑防線劃定邊界

　　法治是防范技術風險、引導其健康發展的重要基石。

　　業內人士分析，此次《辦法》的出台，旨在把人工智能擬人化互動服務的隱性風險顯性化、標准化，降低長期不確定性。

　　根據《辦法》規定，人工智能擬人化互動服務指的是，利用人工智能技術，向公眾提供模擬自然人人格特征、思維模式和溝通風格的持續性的情感互動服務，包括通過文字、圖片、音頻、視頻等形式，提供的情感照護、陪伴、支持等互動服務。對於提供智能客服、知識問答、工作助手、科學研究等服務，不涉及持續性的情感互動的，不在此次管理范圍之內。

　　《辦法》首先明確了人工智能擬人化互動服務“輔助人類、服務人類”的定位，劃定了倫理紅線，禁止其替代或扭曲真實社會關系和人際交往，並通過顯著標識等機制，嚴防人機邊界模糊可能帶來的認知混淆與情感異化。

　　中國工程院院士鄭慶華表示，《辦法》構筑起三大核心防線，化解擬人化互動服務帶來的各類風險：

　　一是確立身份提醒機制。《辦法》要求服務提供者通過強制性顯著標識與動態提醒，保障用戶知情權與選擇權，筑牢人機認知邊界。比如，對用戶連續使用服務每超過2小時的，應當以對話或彈窗等方式提醒用戶注意使用時長，從源頭防范因擬人化設計導致的認知混淆。

　　二是建立防沉迷與心理保護體系。《辦法》要求服務提供者建立用戶狀態識別、時長提醒、危機干預等機制。嚴禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務﹔向不滿十四周歲未成年人提供其他擬人化互動服務的，應當取得未成年人父母或者其他監護人的同意。

　　三是強化數據安全與隱私保護。《辦法》要求服務提供者對擬人化交互中產生的數據實施嚴格管理，保護用戶對交互數據復制、刪除的權利，並規定除取得用戶單獨同意或者法律、行政法規另有規定外，屬於用戶敏感個人信息的交互數據不得用於模型訓練，夯實可信人工智能生態的基石。

　　值得注意的是，在未成年人保護方面，《辦法》並未採取簡單的“一刀切”，而是確立了“未成年人模式+現實提醒”雙重守護機制——要求平台主動適配未成年人專屬防護模式，同時通過常態化現實提醒打破虛擬沉浸感，引導未成年人理性、健康使用人工智能擬人化互動服務。

　　“這一機制體現了平台保護義務從內容管理向產品設計和持續交互過程的延伸。”姚榮稱，隨著擬人化互動服務持續進行，孩子可能慢慢不太在意對方是不是機器，反而更在乎能不能得到回應和情緒滿足。因此，現實提醒和時長限制，實質上是要求平台在風險累積過程中始終盡到應有的注意義務。

　　與此同時，《辦法》還規定了安全評估、算法備案、指導推動人工智能沙箱安全服務平台建設等制度。

　　多方攜手守護成長

　　有效的治理必然是協同的治理。《辦法》的有效實施，需要政府、企業及社會公眾共同參與，形成“企業主責、監管協同、行業自律、公眾參與”的多元治理格局。

　　新規之下，筆者體驗發現，EVE、MoMood等多個平台已強制進行實名認証，用戶需先選擇是否年滿18周歲，如選擇已滿18周歲，還需進一步輸入姓名、身份証號、緊急聯系人手機號等完成實名認証。另外，多平台的未成年人模式也出現需要填寫監護人信息、被限制使用等變化，部分平台還規定每日22時至次日6時未成年人無法登錄使用。

　　“新規實施后，合規成本會上升，但也會倒逼企業從流量思維轉向產品思維。”賽迪顧問人工智能與大數據研究中心研究分析師白潤軒表示，即使《辦法》短期內會帶來行業洗牌，但長期來看有利於情緒經濟進入規范化高質量發展的新階段。

　　姚榮強調，平台未來仍有進一步完善技術治理的空間。“設置彈窗提醒和未成年人模式切換，並不當然意味著平台已經盡責，還要看產品設計是否誘導用戶持續互動、強化情感依賴，以及發現風險后是否能採取有效措施。”

　　專家指出，學校作為教育主陣地，應積極推進人工智能通識教育，在提高學生實踐技能的同時，也注重培養批判性思維，引導他們正確認識技術邊界。

　　“學校可以通過人工智能通識等課程，幫助學生理解生成式AI的基本原理，有條件的話，還可以鼓勵學生自行設計簡易智能體，調整人設、提示語和回答方式，親自操作以后，孩子會更直觀地認識到，AI表現出的‘關心’和‘親密感’是可以被技術設計的。”姚榮認為，與其單獨開設一節“AI風險課”，不如把這些問題放進真實使用情境，通過案例和親身體驗，讓未成年人逐漸理解技術的局限，形成清晰的人機邊界和自主判斷能力。

　　作為家長，則需做好陪伴與守護，用現實的溫度幫助未成年人建立與真實世界的情感聯結。

　　“家庭之中，親子溝通是非常重要的。”孫宏艷告訴筆者，“家長要特別關注孩子情緒傾訴的需求。我們在很多研究中都發現，親子溝通好不好，會影響孩子怎麼用人工智能產品。父母若能經常跟孩子溝通，多給予親子陪伴，孩子在使用人工智能產品時往往會更理性、更節制。”

　　展望未來，擬人化互動將更深度融入教育、醫療、心理支持等專業領域。教會青少年善用AI，辨明邊界、擁抱真實，讓AI成為成長路上的良師益友，才能幫助他們在科技浪潮中保持清醒、向陽生長，在現實世界裡收獲更完整、更堅韌的力量。