规范“AI陪伴”类应用数据收集与使用行为的监管文件，目前进展到哪一步？

中国已进入专项立法与强化执法的关键阶段，但尚未出台全国性的单一专门法规。具体进展主要体现在以下层面：

一、 现有法律法规的全面适用（已实施）

“AI陪伴”类应用首先受到现行法律体系的严格约束，核心包括：

《个人信息保护法》

• 确立“告知-同意”为核心原则，要求处理敏感个人信息（如情感状态、隐私对话）需取得单独同意，并保障用户撤回同意的权利。
• 强调“目的明确最小必要”原则，禁止过度收集与场景无关的数据。

《数据安全法》 & 《网络安全法》

• 要求数据分类分级管理，对可能涉及用户心理特征、情感记录等高敏感数据实施重点保护。
• 落实网络安全等级保护制度，防止数据泄露、滥用。

《生成式人工智能服务管理暂行办法》

• 明确生成式AI（包括AI陪伴的情感交互）需遵守内容安全、数据合规、非歧视性等要求。
• 特别强调训练数据来源合法性，禁止侵害知识产权或个人信息权益。

二、 专项治理行动（正在进行）

工信部、网信办等部门的常态化整治

• 2023年以来，多轮“App侵害用户权益专项整治”已覆盖“AI陪伴”类应用，重点查处违规收集个人信息、强制索权、频繁骚扰等问题。
• 对违规应用采取通报、下架、罚款等措施（部分情感社交类App已被处罚案例）。

深度合成服务备案与算法备案

• 国家网信办要求“深度合成服务提供者”（包括生成拟人化交互的AI）完成备案，并标识AI生成内容。
• 算法推荐服务需公示基本原理、自评估报告，接受社会监督。

三、 标准与行业规范（细化中）

• 为“AI陪伴”场景提供具体合规操作指南，例如如何评估情感交互中的最小必要数据范围。

• 部分行业协会正推动制定AI伦理与数据采集公约，倡导对用户心理保护的特殊规则。

四、 未来立法趋势（探索阶段）

“AI伦理与安全”专门立法筹备

• 监管部门已开展调研，未来可能针对“具有社会属性和情感依赖的AI服务”设立更严格规则，例如：
  • 情感数据特殊保护：限制对用户心理弱点或孤独感的算法利用。
  • 未成年人专项保护：防止诱导沉迷或非理性消费。
  • “AI陪伴”服务边界：明确禁止模拟特定现实人物、操控用户情感决策等行为。

国际经验借鉴

• 欧盟《人工智能法案》将情感识别类AI列为“高风险”，中国监管也在研究类似风险分类监管思路。

用户应对建议

总结

当前监管处于 “现有法律严格执法 + 专项治理推进 + 未来规则预研” 的三层叠加状态。尽管专门针对“AI陪伴”的独立法规尚未出台，但通过现有法律体系的解释适用（尤其是《个人信息保护法》对敏感数据的严格定义），以及行业标准的细化，该类应用的数据收集边界正在被快速明确。预计未来1-2年内，针对情感交互类AI的监管细则将进一步落地，重点解决 “情感操纵”“心理依赖”“虚拟人际关系伦理” 等新型风险。