出品｜虎嗅ESG组
作者｜陈玉立
头图｜视觉中国
本文系 #ESG进步观察#系列第169篇
本期关键词：供应链治理、别想板合规边界、用软AI伦理
近日，色情字节跳动的做智“豆包”与阿里的“通义千问”几乎同步宣布下线智能体广场功能。
据公开信息显示，别想板豆包将相关功能剥离至独立产品“猫箱”；而千问则采取更为彻底的用软策略，直接关闭入口且未提供数据迁移方案。色情两家头部大厂不仅在处置逻辑上异曲同工，做智更在时间节点上精准卡位——均选择在7月15日《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式施行前夕完成调整。别想板该《办法》明确要求对虚拟恋人、用软深度角色扮演及情感依附类AI实施严格约束。色情
这一动作揭示了一个核心事实：大厂削减的做智并非问答、办公、别想板搜索、用软代码生成或工作流等通用AI能力，色情而是过去两年间迅速膨胀的“关系型智能体”——即基于用户自建人设、角色扮演、虚拟恋爱、情感陪伴及公开分发的智能体生态。
简言之，智能体行业并未整体退潮，退潮的是由低门槛UGC（用户生成内容）、情绪依赖及灰色亲密互动所支撑的那部分虚假繁荣。
在新规框架下，智能体赛道预计将发生结构性分流：任务型智能体将持续扩张，关系型智能体迈入强合规时代，而带有情感陪伴属性的“情趣”AI硬件则面临被市场边缘化的风险。
大厂切割“关系型智能体”的底层逻辑
豆包与千问的动作中，最值得剖析的是“下线”的具体指向及其背后的商业考量。
从产品策略来看，豆包并未放弃大模型核心业务或AI助手功能，而是选择将高风险互动模块从主App中隔离，仅保留在独立应用中。这一举措信号明确：主App需坚守大众效率工具、搜索入口及通用AI助手的定位，而情感互动、角色扮演及用户生成智能体等高风险功能，则被置于“隔离区”管理。
千问的处理方式更为决绝：直接关闭且无迁移路径。这反映出平台对该业务板块的评估更为审慎。当非核心功能带来的审核成本、监管压力及舆论风险远超其商业收益时，“关停”成为最理性的止损选择。
尽管手段不同，两家大厂的底层逻辑高度一致：关系型智能体在大厂主入口中的战略地位已发生根本性逆转。过去，它是提升用户互动时长与参与度的利器；如今，它已转化为高风险资产。
一个关键问题是：为何受冲击最大的是豆包、千问，而WorkBuddy等办公类智能体却相对平稳？
答案在于产品属性与风险类型的差异。
WorkBuddy等工具类智能体聚焦于任务处理（如文档撰写、会议纪要、流程审批、数据调用）。其风险主要集中在数据权限、企业信息安全、输出准确性及流程责任归属。相比之下，关系型智能体处理的是“人与拟人化对象”之间的情感连接。用户可低成本创建“AI女友”、“病娇妹妹”或“霸总伴侣”，若平台再辅以智能体广场、推荐算法及社交分享机制，产品性质便从“工具”异化为“拟人化内容平台”，风险随之呈指数级放大。
这种风险主要体现在三个维度：
- UGC内容失控：用户可低成本设定人设、语气、关系及头像并公开发布。供给越丰富，审核难度越大。此前上海累计下架1.4万个违规智能体的案例表明，缺乏管制的开放生态极易滋生擦边内容、侵权人设、真人仿冒及低俗互动。
- 情感依赖陷阱：普通问答助手交互即止，而关系型智能体具备持续记忆、主动关怀及亲密称呼功能，模拟真实陪伴关系。用户投入越深，留存率越高，付费转化越容易。然而，在未成年人、心理脆弱群体及孤独老人等场景中，这种黏性极易突破安全边界，引发伦理危机。
- 平台分发责任：单一用户自建自用智能体的风险半径有限；一旦进入广场、排行榜、搜索页及推荐流，平台即成为风险的放大器。此时再以“用户自建”为由推卸责任，已难以自圆其说。
对于豆包、千问这类拥有巨大流量入口的平台而言，其品牌基石是“干净、可信、普适”。若主App内充斥虚拟恋人、暧昧陪伴、侵权角色及擦边人设，一旦引发舆情，将严重损害产品的公共信任度。因此，下架动作本质上是停止为非核心场景承担额外风险，标志着大厂开始对关系型智能体进行重新定价。
新规将监管边界延伸至产品形态
《办法》的真正杀伤力在于，它超越了传统的“内容审核”层面，将监管触角延伸至服务定义与产品形态。
根据《办法》第八条，生成或提供淫秽色情、亲密性模拟交互内容及硬件功能被明确禁止。这一条款直击“拟人化关系商业化”的灰色地带。
过去，许多AI陪伴产品以“情感”、“陪护”、“孤独经济”为包装，表面提供倾诉与安慰，实则通过暧昧称呼、恋爱角色及亲密对话获取最大增长。用户投入越深，停留越久，付费意愿越强。
关系型智能体将AI从“工具”重塑为“关系对象”，将一次性使用转化为持续性陪伴。会员权益、角色道具、高级模型订阅等商业模式，均依附于这条情感链条。
然而，当产品利用孤独感、亲密需求及情绪脆弱性来提升留存与付费时，监管焦点便从“模型是否出错”转向“平台是否制造依赖”。若叠加未成年人保护、诱导消费、色情暗示、侵权人设及心理疏导越界等风险，合规等级将急剧上升。
因此，新规划定的边界可概括为：情感陪护合法，但将陪护关系性化非法；拟人化交互允许，但利用拟人化关系导向情欲消费禁止。
这一界定对AI硬件行业构成了更大挑战。
许多硬件从业者曾误判，认为拟人化互动监管仅影响聊天App及虚拟陪伴软件。但《办法》覆盖的是“拟人化互动服务”，任何搭载语音陪伴、主动关怀、仿人外观的硬件均可能纳入监管视野。
特别是AI陪护机器人、AI宠物、AI玩具及老人陪伴终端。为提升黏性，厂商往往设计专属称呼、情绪识别、主动问候、记忆偏好及拟人语气甚至肢体动作。这些设计本身虽不必然违规，但边界极为敏感：
- 儿童场景：涉及未成年人保护、防沉迷、价值观引导及诱导消费。
- 老人场景：涉及认知能力下降、健康建议误导及诈骗风险。
一旦厂商宣传提供“陪护”、“心理疏导”或“情绪安抚”，便不能再简单将其定义为硬件销售，而需承担相应的服务责任。
更高风险的是“情感陪伴AI + 性交互硬件”。
成人硬件行业长期存在痛点：一次性消费多、持续留存弱、用户关系浅。AI技术的引入提供了新想象空间：赋予硬件人格、记忆与情绪回应，将工具转化为“伴侣”，并通过订阅、内容及互动脚本实现持续变现。
新规直接封堵了这一路径。
若一款产品同时具备AI情感陪伴、长期人格记忆、情欲互动算法、仿真性结构或模拟性行为机械结构，便难以再被解释为普通成人用品或陪护设备。其风险不再源于模型偶发越界，而是产品设计目标本身即触碰红线。新规施行后，此类产品在安全评估、上市销售及渠道合规方面将面临实质性障碍。
软件产品出现问题，可通过下线入口、调整模型、增加过滤或修改提示词来补救；而硬件一旦开模、生产、铺货，整改成本极高。若产品形态已固化亲密模拟结构，合规风险便随之锁定。
因此，AI硬件从业者的压力源于一个前置性问题：产品定义能否经得起审查？
你是生活辅助设备，还是虚拟伴侣？是老人照护终端，还是借陪护之名包装亲密互动？是情绪支持工具，还是通过人格化关系推动情欲消费？
若答案模糊，产品注定难以长远。
智能体赛道的未来分流
一个明确的判断是：智能体行业不会整体降温，但将呈现明显的分层趋势。
第一类：任务型智能体加速发展
办公助手、企业知识库、代码智能体、客服助手、会议纪要、数据分析及流程自动化Agent，这些产品解决的是明确的任务需求。其价值可通过效率提升、成本降低、准确率提高及流程节省来量化。
此类产品的合规重点在于数据安全、权限控制、企业审计及输出责任。它们不主动制造亲密关系，也不依赖用户情绪黏性变现。WorkBuddy等产品的平稳表现，正源于此。
它们有风险，但风险类型清晰；治理核心是“组织如何安全使用AI”，而非“用户是否对虚拟人格产生依赖”。
第二类：关系型智能体进入强合规时代
AI恋人、虚拟伴侣、情绪陪伴、角色扮演及用户自建智能体不会因新规而消失。陪伴、倾诉、缓解孤独、养老辅助及心理支持是真实存在的需求，AI在这些场景中仍有巨大价值。
但过去的“野蛮生长”模式已行不通。
开放UGC、擦边人设、低成本角色库、热门榜分发、亲密互动拉留存、会员订阅收割情绪依赖，这条链路将变得愈发艰难。平台必须补齐年龄分级、防沉迷、未成年人保护、内容审核、真人仿冒治理、角色版权审核、风险提示、诱导消费限制及情感依赖边界管理等合规短板。
这些措施都将转化为显性成本。
过去，小团队接入模型API，套用角色模板，加上广场与分享机制，即可快速推出陪伴产品。在合规成本未显性化时，增长故事易于讲述。一旦审核、投诉、版权、未成年人保护及心理风险干预成为硬成本，许多产品的商业模型将被重构。
关系型智能体仍有机会，但将从“野放式增长”转向“强边界运营”。最终胜出的，不会是擅长撩拨情绪的团队，而是能清晰界定场景、责任与风险的团队。
第三类：“拟人化AI+情欲硬件”被挤出主流
此类产品面临的挑战最为严峻。聊天产品偶发越界尚可补救，而硬件产品若将仿真结构、亲密模拟、情欲算法与AI人格绑定，便已构成高风险闭环。
新规拆除了大量灰色包装：你不能一边宣称养老陪护、心理疏导及日常陪伴，一边设计情欲互动算法与性交互硬件；也不能一边享受拟人化关系带来的高黏性，一边将风险隐藏在“成人自愿使用”的叙事之后。
这将引发一轮行业出清。短期内，平台将收缩智能体业务，清理敏感角色，降低情感陪伴功能在主App中的权重；AI陪伴产品将强化分级、审核及风险提示；部分AI硬件项目将推迟上市，重新评估外观、交互及功能边界。
长期来看，智能体行业将回归更清晰的价值框架：能提高效率的继续做，能提供照护的规范做，依赖擦边与情欲变现的退出。
这也是豆包、千问此次动作给行业发出的最强信号。
它们并未否定AI应用，也未否定智能体方向，而是通过产品调整明确告知行业：关系型智能体不能再无差别地塞进主入口，平台不能继续将高风险互动视为低成本增长工具。
AI行业进入新阶段后，竞争维度不再局限于模型能力、入口流量及交互体验，更包括合规能力、风控体系及社会信任。
过去，智能体被想象为“什么都能扮演、什么关系都能模拟”的万能入口。新规之后，这一想象必须重写。所谓“智能体告别野蛮生长”，本质上是行业开始为产品边界、用户脆弱性及商业模式支付应有的代价。
本文来自虎嗅，原文链接：https://www.huxiu.com/article/4872727.html?f=wyxwapp