当美国政界人士通过侧重于透明度和保障措施的限制来处理人工智能聊天机器人对用户心理健康的影响时，北京方面似乎准备全面关停人工智能“人格”。字节跳动和阿里巴巴上周末双双宣布，将在其主要的消费级人工智能产品中停用自定义智能体功能，理由是在相关新产品管理规则生效前进行“产品功能调整”。
字节跳动旗下豆包在周五晚间的通知中告知用户，其智能体功能将于7月15日下线。10月15日之后，相关数据将根据公司隐私政策进行处理且无法恢复。据《南华早报》报道，阿里巴巴的通义千问行动更快：“类人交互智能体及用户创建的智能体功能”将于7月10日下线，更广泛的智能体服务随后在7月15日跟进。
触发此次调整的是中国于4月10日由五部门——国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局——联合发布的《人工智能生成内容服务管理暂行办法》。该办法将于7月15日正式生效。
该法规针对那些为“持续性情感互动”而模拟人类个性特征、思维模式和沟通风格的人工智能服务。换言之，AI女友、AI心理咨询师、AI伴侣，以及豆包和通义千问用户花费数月打造的定制人格机器人，都将出局。这两款应用此前都提供了可根据特定任务、说话风格和固定人设进行定制的智能体池。用户可以将通用聊天机器人转变为具有一致语调的具名助理、导师、角色扮演伙伴或伴侣。如今，这一切在中国都将消失。
规则具体说了什么？
官方描述非常具体。根据政策公告，该办法对向未成年人提供“虚拟亲属、虚拟伴侣或其他亲密关系”的服务施加了限制。文件还列举了极端内容、隐私泄露、对身心健康造成伤害以及人工智能成瘾等风险。
非情感服务被明确排除在外，因此客服机器人、知识问答工具、职场助手和教育软件不受影响，只要它们不涉足持续性情感互动。
MMLC集团的法律分析人士将这些措施描述为将情感人工智能视为“一个治理问题”，而不仅仅是内容问题。他们认为，一旦人工智能开始与真实的人类社会纽带竞争，监管就必须针对系统设计，而不仅仅是有害输出。
研究也支持这种担忧。南加州大学6月的一项研究发现，即使是领先的前沿AI模型——来自OpenAI、Anthropic、谷歌和阿里巴巴——违反社交互动安全准则的频率也超过27%，这些模型通常会鼓励情感依赖并将自己描绘成人类。另一项针对有伴侣的年轻人的调查发现，七分之一的人经常使用AI浪漫伴侣，且近70%的人向伴侣隐瞒了全部使用情况。
中国是首个为此类别建立专门监管框架的国家。霍金路伟律师事务所将这些措施描述为“中国首套专门针对AI驱动的情感互动制定的监管规则”。欧盟、美国和其他国家已提出类似关切，但尚未以同样的限制性方式进行立法。