人工智能拟人化互动服务管理暂行办法(2026年7月15日起施行)
更新时间:2026年7月16日
如果一个AI会记住你的习惯、用熟悉的口吻安慰你,还能连续几个月陪你聊天,它究竟只是一个工具,还是已经成了某种“关系”?过去,这个问题更多出现在产品讨论和伦理争议里。现在,它进入了明确的监管框架。
国家互联网信息办公室等部门发布的《人工智能拟人化互动服务管理暂行办法》已于2026年7月15日起施行。原来的征求意见稿已经完成公开征求意见和正式发布,因此,本文也不再按“草案速览”来写,而是结合最终文本,说明它管什么、普通用户会看到什么变化,以及产品团队真正需要承担哪些责任。
先说清楚:不是所有聊天机器人都在这个范围内
这份办法针对的,不是所有能对话的AI,而是那些通过文字、图片、音频或视频,模拟人的人格特征、思维方式和交流风格,并且持续与用户进行情感互动的服务。
可以把它想成两类完全不同的产品。一类像“智能前台”,回答完快递进度、报销规则就结束;另一类更像“长期陪伴者”,会记住你昨天为什么难过,今天继续追问,还可能逐渐形成稳定的人设和关系感。监管重点显然是后者。
最终文本也明确排除了几种常见情况:不涉及持续情感互动的普通客服、问答助手、工作助手,以及用于教育、科研等目的的服务,并不会仅仅因为“能聊天”就自动被纳入拟人化互动服务。
为什么要单独管“像人”的AI
普通软件出错,往往是按钮点不动、数字算错了;拟人化AI的问题更隐蔽。它可能在用户最脆弱的时候给出不恰当回应,也可能通过不断迎合,让人把算法生成的反馈误认为真实关系。
这有点像自动售货机突然学会了察言观色。它不仅卖饮料,还记住你每次失落时会买什么,再用最合你心意的话劝你多留一会儿。技术上,这可能只是用户画像、长期记忆、生成模型和推荐机制的组合;体验上,人却很容易把它理解成“它懂我”。
办法要解决的核心问题,正是这种体验差异:服务提供者不能只说“背后都是代码”,然后把用户形成的依赖、未成年人保护、隐私和极端风险全部留给用户自己承担。
普通用户会感受到哪些变化
最直观的一点,是AI身份必须持续、清晰地被告知。产品不能故意把机器包装成真人,也不能在用户已经产生误解时继续模糊身份。
长时间使用也会受到更明确的提醒。连续使用超过一定时长时,服务应提示用户休息;当系统识别到用户可能存在过度依赖、极端情绪或伤害自己、伤害他人的风险时,不能继续用普通的“陪聊话术”敷衍,而要采取干预、转介或紧急处置措施。
用户对自己的数据也应有更实际的控制权,包括依法查询、复制、更正和删除相关信息。退出关系不能被设计成一场“情感绑架”,产品应提供便捷的退出方式,不能让AI用内疚、威胁或反复挽留阻止用户离开。
未成年人保护不只是加一个开关
对未成年人来说,拟人化AI既可能是学习伙伴,也可能成为很难察觉的依赖来源。办法要求服务提供者建立未成年人模式,并在内容、使用时长、消费和情感依赖等方面采取专门措施。
这意味着产品团队不能把“年龄确认”做成一张随手点掉的弹窗。更完整的设计应包括适龄内容、默认更严格的互动边界、监护人可理解的提示、异常使用识别,以及避免诱导未成年人付费或建立排他性关系。
对产品和运营团队,真正增加了什么工作
首先,风险治理要进入产品设计,而不是等投诉出现后再补救。角色设定、长期记忆、推荐逻辑、情绪识别、付费机制和退出流程,都需要接受安全评估。
其次,规模达到规定条件的服务要履行更严格的评估义务。办法对注册用户达到100万或者月活跃用户达到10万等情形设置了安全评估要求,同时还涉及算法备案、投诉举报、日志留存和事件处置等责任。具体适用情形应以正式条文和主管部门要求为准。
最后,内容安全不能只靠关键词屏蔽。用户说“我不想活了”和说“这个角色在小说里不想活了”,表面词语相似,风险完全不同。系统需要结合上下文识别风险,同时保留人工介入和升级处置的通道。对高风险场景来说,模型会不会说漂亮话并不重要,能不能及时把人引向现实中的帮助才重要。
它并不等于“禁止AI陪伴”
这份办法不是要把所有AI都改成冷冰冰的办事窗口,也不是否定陪伴、数字人和情感交互的价值。它划出的底线是:产品可以有温度,但不能利用人的脆弱;可以形成连续体验,但不能故意制造依赖;可以记住用户,但必须尊重知情、选择和删除权。
对行业来说,这也许会让产品开发多出不少工作,却能逼着团队回答一个以前容易回避的问题:当AI越来越像人,谁来为“像人”带来的后果负责?现在,答案不再只是用户自己。
声明:本文是面向普通读者的政策解读,不构成法律意见。服务是否属于监管范围、具体应履行哪些义务,应结合正式文本、配套规定和实际业务,由专业人员判断。