“换脸”应用爆红引发风险担忧

本篇文章2359字，读完约6分钟

由此可见，在“变脸”给社会带来集体娱乐盛宴的同时，强有力的监管也随之而来，人们也意识到了这一游戏可能带来的负面影响。同时，申请本身也存在一些法律问题。

专业人士表示，在数百万互联网用户的大规模参与下，很容易滋生黑色产品和欺诈，或者在各种人像识别场景中偷窃，甚至刷脸付钱。

最近，一种“变脸”的应用变得流行起来。用户只需上传一张人脸照片，就可以一键切换到明星的脸，生成自己的表情包，甚至“成为”影视剧的主角。该应用一度跃居下载列表的首位。

英国《金融时报》记者发现，从“P-picture”到“P-video”，用户的肖像权和隐私权逐渐成为讨论的焦点，“变脸”技术的负面影响开始受到关注。技术创新带来的隐患能否被技术所克服，已经成为业界讨论的一个问题。

人工智能媒体合成技术的应用

“这是第一次有数百万人工智能变脸用户在中国流行，它的流行是由于它的操作方便。”用户只需上传照片，等待几秒钟生成视频，然后在社交媒体上分享。不难猜测，在未来几个月内，各大应用商店将很快涌入大量的变脸软件。”西密歇根大学教授杨紫茳告诉英国《金融时报》记者。

杨紫茳说,“变脸”实际上是一种人工智能媒体合成技术，它利用机器学习来合成视频、图像和声音等多媒体信息。主要有三个特点:第一，合成媒体信息可以完全伪造；其次，它很受欢迎。利用机器学习原理制作视频图片和声音的工具可以免费下载，具有娱乐性和实用性；第三，技术发展迅速，更新能力强。

“这项技术可以让任何人说什么做什么，这不仅肉眼无法区分，而且也没有完美的技术来鉴别真伪。这意味着在人工智能时代，眼见为实不再是事实。”杨紫茳说。

据了解，人工智能变脸技术最早出现在2017年12月，用户“深度假货”在reddit上发布了一个“假视频”，将盖尔·加朵等著名女演员的脸变成了色情电影，照片是假的。“deepfake”逐渐成为人工智能变脸技术的名称，同样名称的算法在github中也是开源的。

2019年1月，荷兰deeptrace实验室发布了一份关于deep false发展的报告，显示2018年关键词“deep false”的搜索次数比2017年增加了1000倍。

艾变脸不再仅仅是一项技术，而是开始向产业化发展。杨紫茳告诉英国《金融时报》记者:“截至2019年7月，市场上已经出现了七种主流的欺诈软件和类似deepfake的算法。应用市场上有30多个人工智能变脸应用。目前，国外的ctrl-shift-alt团队已经推出了一项云端变脸服务，每次花费5到8美元；国内活跃的“AI，Face Change”QQ群的直接参与者人数已超过2万。”

深度欺诈的影响

由此可见，在“变脸”给社会带来集体娱乐盛宴的同时，强有力的监管也随之而来，人们也意识到了这一游戏可能带来的负面影响。同时，申请本身也存在一些法律问题。

“面部变化应用程序的用户协议的某些条款可能是无效的格式条款。此外，用户协议具有“复杂冗长”和“大多数用户没有仔细阅读用户协议的习惯”的特点，这尤其容易混淆无效格式条款。”广东程硕律师事务所律师胡帅在接受英国《金融时报》采访时表示，“在‘完全免费、不可撤销、永久、可分许可和可分许可’的条件下，保证用户有权使用相关视频、授权用户使用用户肖像权等条款，应当是无效格式条款。”它不仅没有履行提醒和解释的义务，而且隐藏在用户协议中，容易被用户忽视。它还免除了自己在相关条款中的主要义务，这大大增加了用户使用软件的责任，并且很容易处置他们的权利(如隐私权和肖像权等)。)错了。它试图以这样一种“聪明”的方式，在用户上传的大量影视作品中消除其侵权责任，并在使用各种具有知识产权的影视作品时，将获得相关权利人授权的责任进行转移。

对于人工智能媒体合成，即深度欺诈，其对社会有着巨大的影响，杨紫茳认为迫切需要解决这些衍生的问题，如利用合成熟人声音进行欺骗，视频是否可以作为法庭证据，媒体网站是否可以发布来自群众的新闻，以及如何验证领导人的讲话。

“一次普通的人工智能变脸将花费0.5到1元(gpu计算功耗+电费)。随着数百万互联网用户的大规模参与，很容易滋生黑色产品和欺诈，或在各种人像识别场景。盗窃，甚至面临付款。”杨紫茳说，具体来说，ai变脸的负面影响主要体现在以下场景:虚假视频合成——侵犯名人和普通人的肖像权和隐私权，获取经济利益；虚假广告——利用名人变脸进行虚假广告代言，获取经济利益；电信诈骗——利用社会网络资料制作虚假视频进行诈骗，获取经济利益；市场操纵——传播经济界名人的恶意视频和言论，让空/做多项目标来实现经济目标；可能涉及国家安全等更严重的情况。

如何解决负面影响

当前，金融业的数字化转型正在深入推进，人工智能已经成为有效提高金融服务水平和效率的关键技术。央行近期发布的《金融科技发展规划(2019 -2021)》提出，要根据不同场景的业务特点，创新智能金融产品和服务，探索相对成熟的人工智能技术在识别和风险防控领域的应用路径和方法，构建全流程智能金融服务模式。

那么，在人工智能与金融服务深度融合的现阶段，如何避免技术本身可能带来的隐患呢？

“技术的使用受刑法、民法和其他法律的管制。利用变脸技术等非法手段获取非法利益，可能涉嫌盗窃、诈骗等刑事犯罪，并由此承担刑事和民事赔偿责任。”北京东源律师事务所合伙人、律师焦京寿认为，换脸等新技术的使用和推广应在法律框架内进行，通过改进人脸识别技术和活体检测技术，减少技术漏洞带来的各种风险。

杨紫茳的观点是，变脸技术有许多合法的应用，也有许多灰色的应用，这些不能仅靠法律来解决，但关键是用技术来解决技术问题。

就在最近，由财政部独立开发的唇语识别活体检测系统正式上线。该系统在保持高通过率的同时，对用户误读指定信息的容忍度较低。