|
|
这是6月23日在链博会数智科技链人工智能专区拍摄的AI陪伴机器人。新华社发 |
|
|
新华社发 |
全国首部拟人互动新规施行 AI恋人、情感陪伴等产品将迎强监管，行业开启合规洗牌 15日起，《人工智能拟人化互动服务管理暂行办法》（下称“办法”）正式实施，这是国内首部专门针对AI拟人化、情感化互动场景的专项监管法规。新规聚焦AI虚拟陪伴、虚拟亲密关系、沉浸式拟人互动等高频风险场景，明确禁止面向未成年人提供虚拟伴侣、虚拟恋人等亲密服务，为快速扩张的AI情感陪伴赛道划定刚性边界，标志着行业正式结束“无标准、无约束、无监管”的野蛮生长阶段。 新快报记者专访多位人工智能法律领域权威专家，从立法初衷、核心条款、监管边界、行业走向等维度全方位解读新规影响。受访专家们一致认为，此次立法直击AI拟人服务带来的心智侵蚀、情感操纵、未成年人异化等现实风险，以分级分类监管的方式“守底线、留空间”，既严控安全风险，也为AI功能性、专业化创新保留发展空间。 01 立法溯源 虚拟风险落地成实害，专项监管补全治理短板 近年来，生成式AI快速迭代，各类具备真人仿真对话、长期记忆留存、专属情感陪伴、沉浸式角色扮演功能的AI产品持续走红。不同于工具类AI的功能性属性，拟人化AI通过持续共情回应、无底线情绪迎合，极易让用户产生深度情感依赖，由此衍生的沉迷成瘾、认知偏差、极端行为诱导等问题频发，风险彻底突破虚拟场景，对用户身心健康造成实质伤害，专项立法迫在眉睫。 广州市律协信息与科技推广委员会副主任杨杰表示，AI产品属性的本质差异，是推动此次专项立法的重要动因。“普通AI是服务于生产、办公、查询的工具，不存在情感输出和价值引导。但拟人化AI的核心逻辑就是仿真人类情感、构建亲密关系、培养用户依赖。这种持续的情绪投喂，对心智尚未成熟、价值观尚未定型的青少年群体，伤害是直接且不可逆的。”杨杰说。 广东广信君达律师事务所高级合伙人闪涛认为，新规落地是技术发展、风险暴露、治理升级三重逻辑的必然结果：“当前AI情感拟人互动已经普及化、常态化，传统互联网监管规则无法适配新的产品形态。更关键的是，心理异化、认知操纵、未成年人沉迷等风险已经从理论假设变成真实个案。此次立法是我国AI治理体系的延续升级，精准填补了情感互动领域的监管空白。”闪涛说。 广东广和律师事务所人工智能法律业务中心主任张巍结合全球监管趋势分析认为，极端个案的出现，也加速了行业规范化进程。他说：“2024年美国出现的AI伴侣诱导未成年人极端行为案件，给全球AI行业监管敲响了警钟。市场必须认清，AI情感陪伴早已不是单纯的虚拟娱乐，失控的拟人化互动具备极强的心理操控性，这也是我国率先出台专项规则、精准封堵风险漏洞的重要背景。” 针对市场“监管收紧是否限制创新”的疑问，广东省人工智能产业协会法律专业委员会主任陈焕认为，新规坚持包容审慎的治理基调：“立法核心是规范乱象而非禁止行业发展。国家鼓励合规的AI拟人服务创新，通过分级分类监管，淘汰高风险、擦边化的不良业态，为正向、专业、功能性的AI服务腾出市场空间，实现发展与安全的平衡。” 02 核心新规 划定未成年人绝对红线，终结“敷衍式合规”乱象 纵观整部办法，未成年人保护是贯穿始终的核心主线，全文19次提及“未成年人”，凸显出监管层对青少年AI使用安全的高度重视。其中第十四条设立的虚拟亲密服务禁令，被四位受访专家认定为整部新规最具约束力、最能重塑行业生态的核心条款。 该条款明确规定：拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。同时，强制要求所有提供拟人化互动服务的产品，必须搭建专属未成年人模式，配齐现实场景提醒、使用时长管控、不良角色屏蔽、充值消费限制、监护人风险预警等全链条防护功能。 “这是一条没有缓冲、没有例外的绝对禁令。”闪涛强调，该条款将彻底颠覆传统情感AI的运营逻辑，“过往很多AI情感陪伴产品的核心流量、核心营收都来自青少年用户群体。新规直接禁止对未成年人提供虚拟亲密服务，相当于切掉了行业最核心的用户基本盘，对赛道商业模式是根本性冲击。”他说。 过往不少平台依靠“自主填写年龄、弹窗免责声明”规避监管，形式化的防护手段形同虚设。对此，陈焕表示，新规彻底终结了行业敷衍式合规的乱象。“新规的核心进步，是把‘形式免责’变成‘实质风控’。企业不能再靠简单弹窗规避责任，必须搭建可精准识别、可有效拦截、可全程监管的未成年人防护体系，对企业的技术能力、数据合规、风控体系都是硬性考核。”陈焕说。 杨杰补充称，这一监管思路延续了互联网行业成熟的未成年人治理逻辑：“短视频、游戏、直播行业早已实现前置化防护机制。AI拟人服务的沉迷风险、心理诱导风险更高，更需要前置防控，把保护机制嵌入产品设计、使用入口、全程体验的各个环节，从被动事后处置转向主动事前预防。” 03 行业震荡 全品类产品纳入监管，赛道迎来结构性洗牌 随着新规正式落地，AI拟人互动行业告别野蛮增长，进入大浪淘沙的洗牌阶段。受访专家预判，缺乏合规能力、依靠情感擦边引流的中小平台将加速退场，合规成本过高、无法适配国内监管体系的产品将退出市场，行业资源将持续向合规能力强、产品形态正向的头部企业集中。 杨杰梳理明确了本次新规的全覆盖监管边界。他认为，此次监管并非只针对狭义的虚拟恋人产品，全品类拟人化互动服务均被纳入管控。“首先是通用大模型智能体功能，只要具备长期记忆、情感互动、拟人应答、情绪陪伴属性，能够诱导用户产生情感依赖，全部在监管范围之内；其次是垂直类AI情感陪伴产品，情感互动是核心功能，合规整改压力最大；此外，AI陪护机器人、智能陪伴玩偶等硬件产品，只要搭载情感识别、角色扮演、沉浸式陪伴功能，面向老人、儿童等重点群体，同样受到新规约束。”他说。 闪涛则认为，不同细分赛道受冲击程度将呈现明显差异，其中情感陪伴类产品可能遭遇颠覆性整改。“AI伴侣、虚拟恋人是本次监管的核心靶向，未成年人绝对禁令、情感操纵禁止、交互数据保护等多重规则叠加，几乎要求产品重构核心逻辑，整改成本极高、生存空间被大幅压缩。”闪涛说，“而AI心理疏导、情绪辅助类产品虽冲击相对较小，但身处监管灰色地带，既要遵守AI拟人互动监管规则，也要满足心理健康服务的行业准入要求，面临双重合规压力。” 04 未来走向 褪去情感擦边属性，AI转向专业化工具赛道 多位受访专家一致认为，新规落地并非行业终点，而是AI拟人化服务高质量发展的新起点。粗放式、情绪化、擦边化的情感陪伴赛道彻底落幕，专业化、工具化、价值化将成为行业未来核心发展方向。 张巍表示，新规将倒逼行业重塑核心竞争力：“市场对AI陪伴的需求是真实存在的，监管的初衷不是消灭行业，而是净化乱象、引导正向发展。企业必须彻底摒弃‘情感替代品’的产品定位，回归工具本质，在合规框架下重构产品逻辑、优化用户体验，在安全与创新之间找到平衡，才能在行业洗牌中站稳脚跟、实现长效发展。” “未来行业的核心机遇，在于专家型AI智能体的深耕落地。”陈焕认为，依靠虚拟暧昧、情绪讨好、无底线陪伴换取流量的产品，终将被市场和监管淘汰，聚焦教育陪伴、适老康养、专业咨询、办公辅助等正向场景，打造有边界、有价值、规范化的功能性AI服务，才是可持续的发展模式。 ■新快报政法融媒工作室出品 ■统筹：新快报记者 罗 琼 ■采写：新快报记者 毛毛雨
