“AI换脸”可以绕过人脸识别防线？

央视网消息：近日，南京市玄武区人民法院审理了一起“AI换脸”诈骗案。被告人符某利用非法获取的195万多条公民个人信息和AI换脸软件，登录了被害人的支付账户，盗刷银行卡进行消费。

男子通过/"AI换脸/"侵入他人金融账户

经查，符某为牟取非法利益，通过网购的方式，非法获取了195万多条公民个人信息，随后利用这些公民个人信息，通过AI换脸软件，以“人脸识别”的方式，登录了23名被害人的金融平台支付账户。其中，非法更改了5人的支付密码和绑定手机号，冒用了1人的支付账户绑定的银行卡，购买了两部手机，共计人民币15996元。

江苏省南京市玄武区人民检察院检察官助理张海月：通过技术融合，AI生成一个动态视频，左摇头、右摇头、张嘴，这样一些金融视频可能会常对用户登录时做的一些指令，突破金融支付平台的防线。

期间，符某曾试图利用AI换脸，突破多个金融支付平台的/"人脸识别/"认证系统，但是只在某金融支付平台得逞。

江苏省南京市玄武区人民检察院检察官徐佳：他就不断地去尝试，也尝试了很多平台，但是别的平台可能因为风控系统比较严格，这个平台可能存在一些漏洞，最终得逞。

【江苏南京】男子因多项罪名数罪并罚获刑4年6个月

检察机关认为，符某的行为，不仅构成刑事犯罪，也严重损害了社会公共利益，遂提起刑事附带民事公益诉讼。2024年10月，法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚，判处符某有期徒刑4年6个月，并要求其承担15996元公益损害赔偿金、删除存储的所有公民个人信息，并在国家级新闻媒体上公开赔礼道歉。符某表示认罪认罚。另外，针对本案暴露的某金融支付平台存在的技术风险问题，检察机关及时发出法律风险提示函。目前，该金融支付平台已完成整改。

徐佳：这个案子为什么会案发，就是因为只通过刷脸，简单的一个刷脸就进入了它的平台，可以修改密码，如果说这里面多一层身份认证，他就没有办法实现更改。目前没有再发现继续通过AI换脸进行犯罪的情况。

/"AI换脸/"可以绕过人脸识别防线？

随着AI换脸、伪造身份等技术的不断升级，人脸识别认证身份的方式，是否还足够安全呢？

对外经济贸易大学数字经济与法律创新研究中心主任许可：我们做网络安全的内行人都会说一句话，没有任何一个网络是永远安全的，每次更新和迭代都可能会带来新的漏洞，所以这个漏洞，我们觉得是很难避免的。

通过AI治理AI提升人脸识别的可靠性

虽然说漏洞不可避免，但是大家也不用恐慌，由技术带来的风险可以由技术本身的发展去解决，通过AI治理AI的方式，就能解决现在面临的人脸识别攻击的问题。

AI安全领域从业者朱萌：实际上，业内最顶尖的技术的检测率或者说检出率是超过95%的，他已经能够在实战中应对这样的AI风险了。比如说，我们在看一个方向的时候，你两只眼都会看向左方或者看向右前方，但是AI生成，它可能两只眼是往两个角度去看的。

专家介绍，当前，一些应用人脸识别技术的单位已经采用了类似的防伪鉴别程序，提升人脸识别系统的可靠性。

中国电子技术标准化研究院网络安全研究中心测评实验室副主任何延哲：比如说，某款这种最新出台的智能手机，它在你视频通话的时候，它就会有一个功能，比如说是否识别对面的人脸是伪造的，其实已经把这样的一些技术应用上了。

使用人脸识别的单位应有更严的安全措施

专家认为，除了不断提升技术手段和增强防伪鉴别能力外，个人信息保护依然是非常重要的环节。一方面，普通百姓应提高自我防范意识，避免随意泄露个人信息；另一方面，使用人脸识别的单位也应采取更为严格的安全措施。