蚂蚁数科新产品发布：拦截“AI换脸”风险 其测试样本超30万

凤凰网科技讯 4月16日，蚂蚁数科旗下科技品牌深度伪造（Deepfake）综合防控产品ZOLOZ Deeper在北京正式发布，以拦截用户刷脸过程中的“AI换脸”风险，目前已率先应用在身份安全领域。蚂蚁集团天玑实验室会通过GAN模型生成超30万测试样本，交给ZOLOZ Deeper 进行判别训练，每个月还会对其进行超过20000次的攻防测评，模拟上百种伪造攻击情况。

据介绍，ZOLOZ早在2019年就启动了Deepfake算法研发，彼时主要应对一些简单的人脸攻击，比如把图片、视频、面具等虚假内容呈现在摄像头前面，攻破人脸识别系统。ZOLOZ Deeper是针对注入式、活化等复杂攻击手段迭代而来的产品。