|
|
|
AI换脸软件“ZAO”陷入如潮争议后，9月3日，工信部针对相关问题，对推出该软件的企业相关负责人进行了问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，依法依规强化网络数据和用户个人信息安全保护，防范安全风险隐患。 8月30日以来，宣称“仅需一张照片，出演天下好戏”的AI换脸软件“ZAO”突然火爆全网。用户们一键即可“换脸”化身影视片段中的人物，过把主角瘾。由这款APP生成的短视频在朋友圈开启了“病毒式”传播模式。 “ZAO”爆红后，围绕数据安全、隐私风险等问题的质疑随之而来：用户照片会不会被恶意篡改？会不会存在支付风险？视频素材是否拥有合规版权？ 面对各方质疑，9月4日下午，“ZAO”运营团队发表最新回应称，将严格按照法律法规和各主管部门的要求，按照更加严格的标准，全面加强内容管理、完善各项管理机制，确保用户个人信息安全和数据安全。 文/羊城晚报记者 李妹妍 1体验 他人照片也可用于“换脸” 8月30日晚，“ZAO”突然蹿红，迅速收割了百万下载量。到8月31日早上，“ZAO AI换脸”话题已跻身微博热搜榜的前十名，苹果应用商店内的APP下载量也攀升至娱乐类第二位。当日凌晨，“ZAO”官方助手表示，服务器已“满负荷”运转。 AI换脸有何玄机？羊城晚报记者进行了体验。 “ZAO”的界面并不复杂，下方仅设有“造视频”“造表情”“好友”“我的作品”四个子菜单，视频首页则设有“推荐”“合演”“名场面”“换装”“爱豆同台”等栏目。 记者点开“推荐”栏目，随意选择其中一段视频“演机灵鬼：还珠格格”。该片段中，有紫薇和小燕子两个角色可供用户任选其一进行换脸。 值得注意的是，记者可上传他人照片进行换脸，甚至在网上随意搜索一张人物的正脸照都可用于换脸。记者体验发现，数秒之后，该视频中小燕子的脸就被选中的图片替换好了。 根据系统限制，上传的未经肖像权验证的照片拥有10次使用“ZAO”制作视频的机会，生成的视频还会漂浮着“未经肖像权验证，此视频无法分享”的文字。记者操作发现，该界面禁止了手机自带的截图功能，但手机录屏软件可正常使用。 想要突破使用次数和分享权限的限制，用户只需自拍验证即可。用户需在摄像头前完成眨眼、扭头等动作，在系统判断上传的照片就是用户本人后，才能进行下一步操作。 2担忧 “换脸”或泄露个人信息 令开发者始料不及的是，这款一夜爆红的产品迅速成为众矢之的：9月1日，“ZAO”的微信分享链接失效，页面显示“网页存在安全风险，被多人投诉，为维护绿色上网环境，已停止访问”。 首当其冲的是用户肖像权问题。 “换脸验证的过程可能存在核心个人信息泄露的风险。”中国政法大学传播法研究中心副主任朱巍分析称，“换脸”技术本质是搜集用户的面部识别信息，“这是用户最核心的个人信息，一旦被比对之后落到坏人手里，可能对财产安全和人身安全造成影响”。 在技术日新月异的当下，指纹、虹膜、人脸等生物识别信息也许是比身份证号码、手机号更重要的个人隐私。今年7月，中国人民银行科技司司长李伟就曾公开表示，人脸是非常敏感的个人信息，一旦泄露会带来非常大的影响。 舆论压力之下，3日更新后，“ZAO”在用户协议开头增加了“特别提示”，声称真人验证环节仅为验证上传的照片是否为用户本人，APP不会存储个人面部特征信息，且删除了之前被声讨的“ZAO及关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”的内容。 修改后的协议仍未打消用户担忧。在应用商店的下载评论中，有用户质疑，修改后的条文并未明确规定收集和使用用户信息的具体情况，“我没给你授权吧？怎么进入之后直接就能打开我的微信跟QQ？”“这软件要的信息太多了！” 此外，“ZAO”内置可供选择的视频片段中，有包括《天下无贼》《武林外传》在内的多部热门影视剧，也有安妮·海瑟薇、新垣结衣等国外明星的视频片段。朱巍表示，“你突然间把这个脸换了的话，是不是构成合理使用？这个可能跟知识产权法是有密切关系的。” 3建议 有关部门应进行合规审查 3日上午，身处舆论风暴中心的“ZAO”运营团队发布声明道歉，称作为一个初创产品，其在大家核心关切的问题上确实考虑不周，并再次强调，不会存个人面部生物识别特征信息，无支付风险。 事件引发的隐私保护争议和反思并未平息。 根据我国《网络安全法》规定，收集、使用个人信息时应当公开收集、使用规则并经被收集者同意。有法律专家表示，此前用户协议中要求，授予“ZAO”及其关联公司以及“ZAO”用户在“全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利”，这是由“ZAO”单方制定，属于“霸王条款”，在法律上无效。 “从技术角度而言，它并不比其他上传照片的APP有更多风险，但‘ZAO’向用户索取了更多肖像使用授权，这意味着用户有暴露更多私隐的风险。”一位不愿具名的安全专家告诉记者。 “用户授权给APP经营者之后，用户协议中所称的转售权界定过于模糊，很可能会造成隐私泄露。”北京岳成律师事务所律师岳屾山建议相关部门对这类用户协议予以相应规制，使用者在使用前也要仔细阅读是否存在于己不利的条款。 “有多少人会认真看这些用户协议呢？再说也看不懂。”下载了“ZAO”的广州女孩小庞告诉记者，她身边很多同学都在玩，对潜在风险后知后觉，“看新闻才知道害怕，马上卸载了”。 广州律师詹朝霞认为，除了专业法律从业人员，一般用户对长篇累牍的协议往往无法详尽阅读、正确理解并作出选择，因此，应有国家公权力介入和监管。她建议，国家网信办等部门对类似APP从信息安全等各个方面进行合规审查，避免违法收集信息的应用软件上架运营。 制图/陈炜
