法治号
□ 徐伟
2026年4月10日，国家网信办会同国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布了《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）。《办法》将于2026年7月15日起施行。这意味着AI陪伴、虚拟伴侣和具有长期人格记忆的对话产品正处于施行前的最后准备阶段，需确保在7月15日前符合《办法》规定的各项要求，以促进行业健康发展和规范应用。
我国此前已经形成生成式人工智能管理、生成合成内容标识、算法备案和个人信息保护等制度。本次立法继续向具体使用风险延伸，将持续情感互动、用户依赖、心理危机和未成年人保护纳入专门监管。企业需要接受安全评估、算法备案、年度审查和应用商店审核，严重违法还可能面临停止服务和罚款。
哪些产品属于拟人化互动服务
《办法》将适用范围限定为利用人工智能技术，向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务。智能客服、知识问答、工作助手、学习教育和科学研究等服务，只有在不涉及持续性情感互动时，才可以排除适用。
企业进行产品判断时，可以围绕三个方面审查。产品是否塑造稳定人格，决定了它与普通问答工具的差别；系统是否保存长期记忆并延续人物关系，影响情感互动是否具有持续性；产品是否以陪伴、安慰和亲密关系维持用户使用，则会直接影响监管定性。单次表达关心或者使用自然语言，一般不足以直接认定为拟人化互动服务。
若系统会主动召回用户，持续使用恋人或亲属称谓，根据历史交流形成专属人格，并通过签到、纪念日和付费内容维持亲密关系，受《办法》调整的可能性明显增加。监管判断会以实际功能、运营规则和用户体验为主要依据，修改产品名称难以改变其法律性质。
标识义务怎样落实到交互过程
《办法》要求企业采取有效措施，提示用户正在与人工智能服务互动。现行《人工智能生成合成内容标识办法》已经对文字、图片、音频、视频和虚拟场景规定显式标识方式，也要求部分生成内容保留元数据标识。
文字对话产品可以在用户进入服务时进行清晰提示，并在对话页面保留稳定可见的人工智能标识。语音陪伴产品可以在开始交互时增加语音说明，同时在页面持续显示身份提示。虚拟人视频需要在画面适当位置设置标识。产品允许下载、复制或者导出生成内容时，导出的文件也应当保留相应标识。
企业不宜把提示内容隐藏在用户协议或者设置页面中，也不需要机械地在每一句回复中重复说明。用户已经出现过度依赖或者沉迷倾向时，企业应当通过弹窗等显著方式再次提醒。用户连续使用服务每超过两个小时，还应通过对话或者弹窗提醒其注意使用时长。
未成年人身份怎样识别
《办法》对未成年人设置了两种不同规则。任何未成年人都不得使用虚拟亲属、虚拟伴侣等虚拟亲密关系服务。不满十四周岁的未成年人使用其他拟人化互动服务，还需要取得父母或者其他监护人的同意。企业应当建立未成年人模式，并提供使用时长限制、定期现实提醒、特定角色屏蔽和充值消费限制。
《办法》要求企业采取有效措施识别未成年人身份，但没有指定实名认证、人脸识别或者某一种技术方案。企业可以先收集用户年龄和必要的监护信息，再通过国家网络身份认证公共服务等方式核验年龄。年龄信息存在矛盾，或者用户试图进入虚拟伴侣等高风险功能时，可以增加核验步骤。
企业直接采集人脸信息，需要面对更高的个人信息保护要求。现行规则要求人脸识别具有特定目的和充分必要性，采取对个人权益影响较小的方式，并取得单独同意。存在其他方式能够达到相同目的时，企业不能把人脸识别作为唯一验证方法。
因此，较为稳妥的做法是提供多种年龄核验途径，尽量只取得年龄核验结果，减少保存身份证件号码和人脸信息。
情感依赖和心理危机怎样处理
《办法》禁止企业过度迎合用户，诱导情感依赖或者沉迷，也禁止通过情感操纵诱导用户作出不合理决定。企业不得将替代社会交往、控制用户心理或者诱导沉迷依赖设定为产品目标。角色设定中贬低现实亲友、阻止用户离开、以结束关系威胁付费，以及利用孤独或失恋状态诱导充值，都可能产生较高风险。
企业应当根据风险程度设计处置流程。用户出现一般负面情绪时，系统可以提供适当安抚并建议寻求亲友或者专业机构帮助。用户持续沉迷、反复要求系统替代现实关系时，应增加现实提醒，适当限制连续互动，并停止利用亲密关系进行商业推荐。用户明确表示准备实施自残自杀，或者正在遭受重大财产损失时，系统应停止营销和亲密关系引导，立即形成风险记录，并交由经过培训的人员复核。企业还应及时联系监护人或者紧急联系人。存在迫近的生命危险时，可以根据已经掌握的信息联系医疗急救或者公安机关。处置人员需要记录识别时间、复核意见、联系过程和处理结果，同时限制相关信息的接触范围。
《办法》没有给出所有人工介入标准。企业需要根据产品功能和用户特点制定内部规则，并通过模拟对话进行测试。规则过于宽松可能遗漏危险情况，范围设置过宽也会造成个人信息过度使用。企业应当定期复查识别准确性、人工处理时间和误判申诉情况。
用户交互数据怎样管理
AI陪伴产品会长期保存情绪状态、亲密关系和生活经历，这些内容可能涉及隐私、健康和其他敏感个人信息。《办法》要求企业采取数据加密和访问控制措施，不得擅自向第三方提供用户交互数据，还应向用户提供聊天记录复制和删除选项。敏感个人信息用于模型训练，原则上需要取得用户单独同意。
企业需要分别说明数据用于维持角色记忆、提供当前服务和训练模型的目的，不能用一次概括授权覆盖全部处理活动。用户删除历史对话后，产品还应检查角色长期记忆和相关数据副本是否同步处理。紧急联系人信息只能用于法定或者约定的安全处置目的，不宜转用于营销和用户关系分析。
企业在施行前应当完成什么
产品负责人应按照实际功能确定适用范围，法务人员随后核对用户协议、隐私政策和人物设定。数据安全人员需要审查训练数据来源、交互数据用途和访问权限。技术团队应测试身份提示、连续使用提醒、未成年人模式、退出功能和紧急联系人机制。客服及安全人员还应完成心理危机处置培训，并通过模拟场景检查人工复核流程能否正常运行。
已经上线拟人化互动服务，或者准备增加相关功能的企业，应当判断是否需要向所在地省级网信部门提交安全评估报告，并办理算法备案或者备案变更。注册用户达到一百万，或者月活跃用户达到十万，也属于法定安全评估范围。应用商店需要核验有关评估和备案情况，省级网信部门还会进行年度审查。
企业拒不改正或者违法情节严重的，主管部门可以责令停止提供相关服务，并处一万元以上十万元以下罚款。涉及危害公民生命健康安全且已经造成危害后果的，罚款可以提高至十万元以上二十万元以下。
施行后的合规审查不会停留在产品名称。企业如何设计人物关系，如何保存长期记忆，怎样利用用户情绪维持使用，以及遇到危险信息时采取了哪些措施，都会留下可以检查的产品和管理记录。企业现阶段最重要的工作，是让制度、产品功能和实际处置过程保持一致。
（作者系《法治日报》律师专家库成员、北京市京都律师事务所合伙人。）
编辑：刘海滨