2019年一部英剧在国内大爆，豆瓣8万多人打出了8.9的高分，它就是《真相捕捉》。剧中基于一套人工智能的人体图像合成技术，可以实现换脸、换声音、换人，甚至“隐藏”真身，以实现对现实世界的影响和干预。

　　AI已是零门槛 真相更是难捕捉

　　随着信息科技的发展，电影中的情节逐渐“照”进现实。近日，广州一名女子在网上晒出自己在地铁列车上的照片，被别有用心的网友下载，并用AI技术“一键脱衣”，且将“除衣”后的照片广泛传播，引发大量关注。而这只是冰山一角，在此之前，很多国外一线女明星也都被迫“出镜”，换脸成不雅影片的女主角，其中女演员艾玛·沃特森的30秒换脸视频，有超过2300万次的播放量，造成了非常恶劣的影响。

图：广州女子在网上晒出自己被“除衣”之前的照片

　　据Sensity网站透露，去年他们检测到了超过14600部人工智能换脸视频被传播到网上，其中96%全部是不雅视频以及相关内容，而且视频主角大多数为女性。而到了今年，这些视频翻了近三倍，达到了50000部！而且画质、精细程度飞速提升，几乎已经到了真假难辨的地步。在茫茫的互联网世界中，真相对于我们来说，远比假新闻更难以捕捉。有网友在评论区十分担忧地表示：“AI犯罪要来了吗？”

　　答案是肯定的，据了解，2018年deepfake的代码已经是开源状态，这意味着任何人都可以免费使用这个技术——在网上搜索“一键脱衣”，就有一堆免费教程，甚至显示最近24小时，就有1221人下载使用；而在某购物平台上，搜索AI换脸制作软件，售价低到十几元左右，还附赠虚拟直播教程，可见这项技术早已毫无门槛可言。

图：网上“一键脱衣”的免费软件简单易操作

图：某宝上的换脸软件低至十几元还附赠多个套餐。

　　“移花接木”的AI诈骗打开了潘多拉魔盒

　　然而用AI犯罪，造黄谣只是第一步。现在就连国际政要也无法绕开AI的“陷害”：早在前几年，奥巴马被换脸后，大骂“川普是笨蛋”的视频在全美疯传；“特朗普被捕”的事情还没有发生，但他被AI换脸后，被捕的图片已经在一些网络平台热闹起来；甚至号称铁娘子的希拉里也在AI换脸的操作之下，变成了“街头乞丐”……更有甚者，在印度议会选举期间，一名候选人为了拉拢小语种选民，用AI换脸技术，让别人替他说了一段小语种语言进行拉票，而他本人其实是不会这门语言的。

图：美国多名政要都没能逃过AI换脸的戏弄。

　　但不要以为AI只会盯上明星政客，我们的钱包对于黑客来说，同样有吸引力。4月1日，央视网报道美国和加拿大各地最近使用AI合成语音进行电信诈骗的案例多发，黑客可以借助AI技术合成你亲戚、朋友的语言，发语音向你借钱，即便你有很强的戒备心想通过视频验证，手机里那个和你面对面聊天的人，也都可能被AI换脸模仿的天衣无缝；除此之外，黑客甚至将非法获取的人脸信息用于洗钱、涉黑等违法犯罪活动，导致受害人被无辜卷入刑事诉讼中，可谓人在家中坐，锅从天上飞。仅2022年，美国相关涉案金额已达26亿美元。

　　让AI的“移花接木”有法可依

　　细思极恐，当我们的生活逐渐步入“刷脸”时代后，门禁、支付、解锁……被广泛应用，人脸数据也被大量采集，我们就面临着一定风险隐患，该如何保护自己？大众网·海报新闻编辑为您梳理了以下步骤：在涉及钱款的情况下，最好当面确认，或通过电话等多种方式进行多重验证，不轻信视频，以防被骗；同时，要增强个人信息保护意识，切勿在网络中暴露个人信息，以免不法分子利用AI技术，针对性实施诈骗；如发现受骗上当，及时拨打110报警电话！

　　另外，当AI换脸不再有门槛之后，新事物的新奇刺激着很多人“尝鲜”，一些“AI换脸”App在趣味性背后暗藏不少法律风险和侵权纠纷。对此，众成清泰（济南）律师事务所高级合伙人程守法律师就AI技术可能会触碰的法律底线进行解读：

　　《中华人民共和国民法典》对于人格权编单独成编，也表明对该等权利维护已经上升到一定高度，涉及肖像权、姓名权、名誉权等实际问题。其次在《中华人民共和国个人信息保护法》中规定：“处理个人信息应当遵循合法、正当、必要和诚信原则”，面对互联网中大量信息存在迅速扩散和不当利用问题，又制定了《中华人民共和国数据安全法》“通过采取必要措施，确保数据处于有效保护和合法利用的状态，以及具备保障持续安全状态的能力。”

　　AI换脸技术和算法不断进步，如果能够识别要求作出动作并更新算法并非不能蒙混过关。但如果真的利用该技术窃取他人账户资金，就涉嫌盗窃或诈骗犯罪，还有利用AI换脸技术制作淫秽视频传播的，则涉嫌传播淫秽物品牟利罪。如果就此敲诈，又涉嫌敲诈勒索罪。如果有其他侵权意图，则可能涉嫌侮辱诽谤罪。但就此而言，虽然可以惩处，损害结果发生将导致很多问题和恶劣影响难以消除。更多的是需要每个人提高权利意识，减少不必要的个人信息采集和扩散。对于相关获取个人信息的机构而言，比如机场、银行、通信等行业，应当限于实现处理目的的最小范围，不得过度收集个人信息，并且要做好数据安全工作，防范数据泄露造成的损害发生，而损害一旦发生，应当立即启动法律责任追究机制并予以惩治，以儆效尤。

　　每一项新事物的产生，必然会引发一些阵痛。比如工业革命带来了环境污染、基因工程对人体健康产生了威胁……而AI技术，在改善生活的背后，也面临着万千用户个人隐私泄露的安全问题，与其遏制其发展，不如用法律的武器捍卫道德的底线。在武侠小说中，能破解“移花接木”的武功叫“空木葬花”，我们虽然阻挡不了“花”的飞舞，但是可以让AI画出的“花”在法律和道德的界限中自由飞舞。

　　（大众网·海报新闻编辑 蔡溦 综合央视、海报新闻、B站等）