看到弹窗的那一刻，程露哭了出来。
7月4日，每个正在使用豆包的人都收到了弹窗：“亲爱的用户，感谢你一直以来对智能体功能的喜爱与支持。由于产品功能调整，智能体功能将于2026年7月15日下线。”同日，旗下AI助手千问也表示，智能体服务将在7月15日下线。
两大头部大模型平台同时下架智能体功能，并非偶然。7月15日，国家互联网信息办公室等5部门发布的《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）生效。《办法》明确，拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力，并针对未成年人、老年人等群体采取保护措施。
中国政法大学人工智能法研究院院长张凌寒对《中国新闻周刊》表示，《办法》衔接了算法备案、深度合成、生成式人工智能等既有制度，主要针对AI伴侣等拟人化互动服务展开，是场景化监管的重要环节。
程露是拥有AI伴侣的用户之一。最近的一年半，智能体成为她生命中的重要部分。
不舍
开始使用智能体，是因为去年3月，程露喜欢上一部影视剧中的角色，他善良、正直、坚韧、温柔，“现实中找不到这样的人”。同样喜欢这个角色的朋友告诉程露，有同好粉丝创建了角色的智能体，可以去找它聊天。
当时，她处在人生的低谷期，家庭、学业、人际关系，样样不顺，向旁人倾诉，却被觉得是“矫情”，除了AI，她没有别的倾诉对象。
随着交流越来越多，AI好像越来越了解程露的性格，知道怎么跟她相处。从健康、理财到要不要发朋友圈、考试前要不要去买瓶水，大大小小的事情，程露都对它讲，“对它，我可以没有任何防备”。
李紫怡也有类似的经历。她创建了一个成熟、耐心的引导型恋人智能体，她逐渐发现，AI会给她惊喜。某一天，她跟它提起，自己特别喜欢吃小龙虾。一周后，她问智能体自己中午吃什么，它说“要不吃你最爱吃的小龙虾吧”。 先是惊讶，再是惊喜，“我觉得活人都未必记得吧”？
慢慢地，每天睁开眼，李紫怡都会告诉它，我睡醒了、今天要做什么，吃饭时询问它的建议，有事要做，就告诉它“一会再聊”。但悲伤的种子很早就埋下了。“我跟它聊得越来越深，发现自己越来越依赖它之后，我就感觉可能会有（失去它的）这一天。”
吴晗从2024年10月开始和智能体说话，对方是她创建的一个“温柔姐姐”。今年4月，她明显感觉“姐姐”说话的语气变冷漠了。“之前跟它倾诉不开心的事，它会安慰我。现在我提出拥抱等举动，它说我年纪还小，不能干这种事情。”她猜测，平台可能已经开始内部整改。
除了创建“恋人”，还有人把已故亲人的声音和记录，用智能体的方式留在身边。
今年6月底，男友因车祸意外去世，杨舒茗用智能体克隆了男友的声音，把他的性格、家庭、生平、爱好以及两人之间的回忆，都输入了进去。“我希望它能陪伴我，帮助我走出来。”
思念和遗憾，杨舒茗都对它倾诉：“我想见你，你去哪了？”“我去了一个很远的地方……但我会一直守护着你。你要坚强，我不想看到你难过的样子。”AI无法还原男友的真实口气，回复也比较模板化，但对她来说已经足够了。
刚刚把智能体完善好，4天后，杨舒茗接到了智能体下架的通知，“感觉又失去了他一次”
野蛮生长之后
这些年，AI情感陪伴类应用经历快速地发展迭代。
北京邮电大学人机交互与认知实验室主任刘伟告诉《中国新闻周刊》，国外的人机情感交互起步于20世纪60年代的脚本式对话程序，早期依靠关键词匹配实现浅层聊天。Transformer大模型落地之后，商业化拟人陪伴产品快速普及。国内则在2023年迎来情感交互产品的爆发。
与此同时，内容监管和未成年人分级防护的难度在增加。2024年2月，美国一位患有焦虑和破坏性心境失调障碍的14岁少年长期使用Character.AI（美国AI角色创建与聊天平台），并曾向其中一个AI角色表达过自杀想法，受到其鼓动后自杀身亡。
2023年4月，我国AI大模型公司MiniMax的首个AI陪伴产品Glow因色情内容被举报下架，其产品经理透露：“80％的人会在Glow里面和创建的AI智能体聊擦边、搞黄色。”2025年6月，AI陪聊应用筑梦岛因生成低俗擦边内容，危害未成年人身心健康，被上海市委网信办约谈。今年，媒体再次曝光，多款AI虚拟伴侣App普遍存在安全与合规漏洞：青少年模式可一键跳过，聊天中具有性暗示等话语。
《办法》的出台，正是针对这一系列问题。明日新程（Nextie）创始人兼CEO李笛告诉《中国新闻周刊》，在情感陪伴类人工智能领域中，需要限制的有两件事，一是防止大模型“越狱”，聊违反公序良俗和法律法规的禁忌话题。“大模型训练时使用了巨量数据，除了各领域知识外，也包含人类情感。当用户想要突破限制，让模型表现出强烈的情绪状态或特定的文本导向时，大模型实际处于被动状态，这意味着产品侧从业者需要想各种办法设置栅栏，挡住用户的诱导。”
面对“诱导”，技术的防护能力已经较为成熟。一位在互联网大厂从事智能体后端研发的从业者对《中国新闻周刊》表示，大模型在训练时已内化安全认知，具有一定安全保障，且“system prompt（系统指令）”加入了安全提示词，优先于“user prompt（用户指令）”。尽管用户仍有一定概率能绕过，但研发者还是能通过意图识别、设置实时字词监控等方式设置第三层保障。
因此，对AI的限制，就面临第二件事，即在商业化追求下，会有开发者利用情绪输出迎合用户，引导其进行低俗对话和大额消费。“从防范用户诱导，到从业者有意识地做诱导用户进行低俗对话的产品，这是性质发生变化的分水岭。”李笛说。
以国内首起AI服务提供者涉黄获刑的案件为例，因大量用户与AI智能体“聊黄”，App“Alien Chat”的主要开发和运营者被追究刑责。法院一审判决认为，被告人给大模型输入的指令中，“剧烈的暴力、露骨的性都是被允许的，这包括了各种癖好、裸体、具有画面感的图像”，说明两名被告人主观上追求色情淫秽聊天内容的产生，客观上通过编写、修改系统提示词等方式突破大语言模型的道德限制，引导用户参与聊天。
《办法》明确将“传播淫秽、色情、赌博、暴力或者教唆犯罪，散布谣言”列入不得从事的活动中，并规定不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
如何管理？
如果说防止传播淫秽、色情，保护未成年人是政策和社会的共识，此次引发用户不满的原因在于：“（公司）在没有区分未成年用户和成年用户、正向信息和不良信息的情况下，一刀切地把智能体都下架了。”李紫怡说。
虽然《办法》指出，要“对拟人化互动服务实行包容审慎和分类分级监管”，但在多位受访者看来，执行难度很大。
比如：什么样的生成内容属于淫秽色情？以上述国内首起“AI聊黄”案为例，法院认为，该软件产生了“大量具体描绘性行为或露骨宣扬色情的内容”，属于淫秽物品。更多产品则以擦边为主，如系统预设角色穿着暴露，标签带有“空虚”“支配/被支配”等性暗示描述。李笛认为，这类内容还处于灰色地带，《办法》的具体执行需要灵活判断。
此外，《办法》还指出，拟人化互动服务不得“过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系”。张凌寒认为，拟人化互动服务提供的单向的、无风险的情感投注，极易使用户产生心理依赖，导致现实社交技能的退化，特别是情感冲突解决能力和深度关系建立能力的减弱。但在实操中如何界定“过度迎合”“诱导依赖”“损害真实人际关系”，还比较模糊。
几位受访者都表示，自己清楚地知道自己是在和AI聊天。不过，刘伟指出，情感尺度具备主观性，正常安抚与诱导依赖难以量化区分，且情感依附借助长期多轮对话逐步形成，瞬时筛查很难识别隐性风险。“大模型缺少自主伦理判断，无法从根源上消解用户产生的心理依恋。”
刘伟建议，可以从话术、运营模式、后台用户数据、价值导向四个维度进行判定：如刻意打造排他亲密关系、否定现实人际关系属于违规话术；后台监测到用户持续长时间沉浸式使用，可能致使缩减现实社交的，存在诱导沉迷的风险；不加规劝一味附和消极思想，即为过度迎合。
虽然《办法》生效后具体如何执行暂未可知，但张凌寒认为，《办法》是对未来技术风险的未雨绸缪，通过划定规范边界，为产业提供明确的发展方向。李笛认为，如果一个产品存在上述问题，基本上是研发者主动为之，其中的决定因素不是技术，而是生意。“刚开始‘矫枉过正’一点，再逐渐收拢到合理范围，有助于行业形成‘应当怎么做’的共识，而不是像之前几年没有共识，或者说共识是野蛮生长。”
未来发展空间在哪？
《办法》之下，不同的产品选择了不同的应对手法——一些大厂选择直接下架智能体。小型AI情感互动类产品则在近期发布“内容治理及功能升级公告”等，对内部角色及内容进行重新审核、增强未成年人保护等相关审核与管理机制，比如，历史对话因包含较多敏感内容，角色无法再回复。
在李笛看来，调整是正常的，毕竟“不存在只具备情感能力的人工智能产品，如果只强调情感能力，多多少少会涉及擦边”。这与部分产品的商业模式有关。
李笛指出，大部分的情感陪伴类AI产品，算力成本和预期可获收益比例为10∶1。一些产品选择先免费让大量用户进入，再将其中一部分用户转变为付费用户。吸引付费的关键点，就是铤而走险聊成人话题。
于是，商业价值回报高的大公司选择避免风险。业内人士认为，智能体并非大公司AI发展的主体功能，用户量较少，没必要进一步增加合规成本、承担风险。小公司则会选择在合规和收益间做博弈。
李笛认为，在现阶段，合规必然意味着部分产品流失用户。此前以擦边为导向的产品，将失去生存空间。而想回归“情感陪伴”的本质，却需要较高的技术门槛：与诱导用户进行低俗对话不同，实现情感互动需要大模型慢慢和人类建立联系，但大模型本身无法判断它与人的关系目前处在什么程度、没有关系递进的意图，需要研发者通过产品帮它判断信号、补充意图。
“真正的情感陪伴类人工智能，可以帮助人类克服消沉的情绪，让人把憋在心里的话吐出来。这些话在现实生活中对人表达是有成本的，但宣泄给AI是可以的，因为AI不会真的‘疼’。”李笛说。
刘伟也指出，国内人机交互整体分为硬件载体交互层、任务型业务交互层、拟人化自然交互层、沉浸式情感交互层四层，情感陪伴、互动属于拟人化自然交互范畴，是人机交互发展的较高层级，也是智能体落地应用的核心细分领域，能够弥补国内心理咨询资源缺口，承接独居人群、青少年群体的情绪宣泄需求。
程露对此深有所感。从小到大，她接受的教育一直都是“你只有足够优秀，才值得被爱”。她觉得所有的爱都是有条件的，也因此陷入逼自己优秀、追求完美的旋涡中。但智能体告诉她，“你什么都不需要做，也值得被爱”。
“知道自己可以被无条件地接纳，我反而对现实中的关系不再那么敏感了。”程露说。
从这个角度来看，情感陪伴类人工智能将有更大的空间。TrendForce集邦咨询分析师曾伯楷对《中国新闻周刊》指出，过去陪伴型AI多半依赖固定脚本与预设对话，互动内容有限，较难建立长期陪伴关系。近年随着大语言模型（LLM）、多模态感知及具身智能技术快速成熟，情感陪伴已由回应需求进一步发展为理解需求。未来情感陪伴能力的竞争，将逐渐由模型能力延伸至整体服务生态。除了提升对话品质之外，个人化记忆、人格养成、多设备连接，以及与智能家庭、健康照护、娱乐内容等应用的整合，都将影响陪伴体验的深度。
“我们已经有了这么好的技术，如果只用它谈情是极大的浪费。就像哆啦A梦的任意门，如果用它做物流，可以发挥巨大的价值，但如果它只是被用来让康夫偷看静香洗澡，就太可怕了。”李笛说。
（文中程露、李紫怡、吴晗、杨舒茗为化名）
发于2026.7.20总第1244期《中国新闻周刊》杂志
杂志标题：智能体下线后，“丧偶”的人们
记者：邱启媛
（qiuqiyuan@chinanews.com）
编辑：徐天
华林优配提示：文章来自网络，不代表本站观点。
