渤海潮评 | 严治AI换脸乱象 筑牢技术向善的安全防线
··

特约评论员 马红赛
当AI换脸技术从“黑科技”沦为不法分子的牟利工具,20元可定制换脸视频、5万多条动态人脸视频被查获用于诈骗的新闻,一次次敲响警钟。近期,AI换脸乱象持续发酵,从明星被仿冒用于商业推广,到老年人被“AI霸总”围猎实施情感诈骗,再到公民个人信息被滥用合成虚假人脸用于账号实名认证,不仅侵害了个人权益,更扰乱了网络秩序与社会信任,整治AI换脸乱象已刻不容缓。
AI换脸乱象的泛滥,根源在于技术门槛降低与违法成本偏低的双重失衡。随着生成式AI技术的开源开放,各类简易换脸工具层出不穷,普通人无需专业知识即可上手操作,电商平台上20至500元就能定制明星换脸、名人拟声视频,甚至有商家规避平台监管,通过私下沟通承接违规换脸业务。更令人担忧的是,乱象已形成完整黑灰产业链:有人非法获取公民姓名、身份证号、证件照等信息,有人利用AI合成动态人脸视频,有人将虚假视频用于注册违规账号并出售,最终这些账号被用于诈骗、刷单、涉赌涉黄等违法活动,形成“信息窃取—AI合成—非法牟利”的闭环。
从演员王劲松形象被AI盗用用于商业推广,到温峥嵘被迫直播自证“真身”对抗AI分身,再到八旬老太被“AI靳东”诈骗钱财,AI换脸的侵权对象已从明星蔓延至普通民众。公安部数据显示,2025年第一季度全国AI换脸、拟声诈骗案件数量环比激增45%,其中老年群体受骗占比达38%;山东青岛警方近期更是查获5万多条合成动态人脸视频,背后隐藏着百万条公民个人信息,其潜在危害触目惊心。这些乱象不仅侵犯了公民的肖像权、隐私权,更对财产安全和社会秩序构成严重威胁。
面对愈演愈烈的AI换脸乱象,监管、平台与个人需形成合力,守住技术向善的底线。在监管层面,需加快完善相关立法,细化AI换脸的法律边界,引入惩罚性赔偿机制,让侵权成本远高于违法收益,同时加大全链条打击力度,从源头遏制黑灰产滋生,正如演员靳东在全国两会期间呼吁的,需通过立法规范AI换脸行为,填补法律空白。在平台层面,应主动承担主体责任,将审核关口前移,加强对AI合成内容的筛查,严厉打击仿冒名人、违规换脸等行为,微信、抖音等平台近期开展的专项治理,处置大量违规内容与账号,正是积极作为的体现。
技术本身无善恶,关键在于使用的边界与底线。AI换脸技术本可应用于影视创作、虚拟直播等合法领域,为社会发展注入新活力,却因部分人的逐利之心沦为作恶工具。除了监管与平台的发力,个人也需提升自我保护意识,不随意泄露个人证件照、生活照等信息,在注册软件时非必要不提供隐私权限,警惕各类AI合成信息的欺骗性。唯有监管有力度、平台有担当、个人有防范,才能遏制AI换脸乱象,让技术回归向善本质,守护好每个人的合法权益与社会的公平正义。



