AI换脸有没有安全风险?

2022年爆火电视剧《猎罪图鉴》，其中一个案件，讲述的便是犯罪分子利用AI换脸技术制作了一条视频发给受害者，被骗25万美金。“艺术来源生活”，放在现实生活中一点也不夸张。 AI技术的普遍已经高于大众认识，图像、视频、音频的深度合成、深度伪造现象凸显，已然成为了一种新型的违法犯罪手段。 就比如2021年，常州警方侦破一起，使用AI换脸技术伪造人脸识别认证、行业内称“过人脸”的犯罪团伙。 种种现象都在说明“AI换脸”已经被大众熟知，你看到的这些只是你以为“恶搞”、“侵权”，还有“犯罪”你无法想象。团队之间的配合，以及高技术的加持，也让很多小心翼翼的人落入圈套。 最常见的违法犯罪场景有两个：一是人脸认证如用于手机卡注册，这些手机号进入电信网络诈骗等网络黑色产业链，“换脸换声”成为网络违法犯罪的源头，此时被换脸者可能始终一无所知。 二是将合成的视频、音频直接用于欺骗、敲诈目标人物或其亲友，如伪造“裸聊”视频、亲友求助视频、在线通话等，此时受害人会因后知后觉或不愿报案而遭受财产损失。