划清拟人化互动服务边界 更有力保护未成年人

　　□伍里川

　　

　　近日，国家网信办、国家发展改革委、工业和信息化部等五部门联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）。该《办法》提出，拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。向不满十四周岁未成年人提供其他拟人化互动服务的，应当取得未成年人的父母或者其他监护人的同意。

　　这一新规直面AI情感化浪潮中的潜在风险，以平衡技术创新与安全防范为导向，对未成年人加以精准保护。

　　人工智能拟人化互动服务，是指人工智能驱动的模拟自然人人格特征、思维模式和沟通风格，为用户提供陪伴、咨询乃至娱乐等服务。在这一领域，AI伴侣、虚拟偶像等新兴业态表现突出，吸引了广大青少年的视线。

　　此类新业态在让一些青少年沉浸其中的同时，也出现一些不可忽视的新问题。正如相关专家所言，人工智能驱动的拟人化互动服务存在三大潜在风险：情感依赖与社交异化风险、认知操纵与价值观引导风险、心理健康与安全风险。部分应用存在一些极端AI人设与软色情内容诱导，便是明证。此外，诸如AI绘画软件随意生成不良图像、陪伴型聊天机器人变成“早熟导师”等问题也引发公众担忧。

　　拟人化互动服务的发展是不可阻挡的趋势。当前，大模型驱动的拟人化AI已能模拟共情、记忆甚至人格特征，在消解孤独情绪、安抚人心等方面展现出明显价值和潜力。但应该看到，当这类应用刻意设计“完美伴侣”角色、无条件迎合诱导用户时，极易诱发涉世未深的未成年人产生情感依赖和认知扭曲，甚至导致部分青少年用户在现实中的社交能力下降、消极面对生活、出现过激行为等。因此，绝不能任由拟人化互动服务野蛮生长，走向科技向善的反面。

　　在这种情况下，通过制度设计，确定拟人化互动服务的红线，为未成年人设置“防护衣”，迫在眉睫。《办法》提供的“分类分级、包容审慎”的监管思路，兼顾了发展与安全的关系，彰显了人工智能治理的破题意义。面对部分应用“剑走偏锋”的事实，唯有坚决划清“可用”与“禁用”的边界，坚决制止对未成年人进行情感诱导，方能正本清源。

　　值得一提的是，在明晰拟人化互动服务边界的基础上，也要针对拟人化互动服务的乱象加以有力遏制。一方面，有关部门应对此类应用强化常态化监管，及时消除跑偏、越轨问题并加以惩治。对于明显违规的应用，该下架必须下架。另一方面，某些应用诱导青少年“入瓮”绝不只是道德问题，而已涉嫌违法犯罪。对此，必须依法追究责任。这个案例具有样本价值：因为大量用户在一款APP上与AI智能体“聊黄”，APP的主要开发和运营者被追究了刑责。此案作为国内首起AI服务提供者涉黄获刑的案件，向所有人发出启示：以法治之力激浊扬清，必须态度坚决、行动坚决，绝不能留“情面”。

　　要让未成年人在数字时代健康成长，必须全方位升级防护体系。同时，还要深化AI教育，引导青少年明辨是非、知晓底线。（作者系资深媒体评论员）