近日,网易互娱AI Lab在国际计算机与模式识别会议CVPR 2022图像鉴伪挑战赛(IFDC)中一举斩获冠军,分别以AUC 0.99386和0.98928的成绩包揽初赛和复赛两阶段的第一名,力压国际、国内共674支参赛队伍,在人脸伪造图像的鉴别方面真正秀了一把实力。同时,这也展现了网易互娱AI Lab对于AI应用安全问题的关注,以及在助力AI产业安全、可靠、可控发展方面所做出的不懈努力。
IFDC由视觉领域三大顶会之一的CVPR 2022主办,此次竞赛主要聚焦于人脸图像的伪造检测。相比以往测试数据只考虑特定场景或有限的几种造假方式,本次比赛的难点在于测试集覆盖了大量训练集中未出现过的场景和造假方式,其复杂情况与现实应用情况更加类似。并且,大赛要求入围复赛的队伍提交推理代码,因此复赛的测试数据对于选手而言是完全未知的,这对于AI鉴伪模型的泛化能力提出了更高的要求。
目前,业界主流的图像鉴伪方法虽然能够较好地识别训练中遇到过的造假方法,但对模型未见过的造假方法则识别率很低,因此模型的泛化能力很有限。针对该问题,网易互娱AI Lab凭借在人脸编辑和生成方面的深厚算法积淀,创新性地提出了一套以魔法打败魔法的解决方案——DAME: Data Augmentation and Model Ensemble for Generalized Face Forgery Detection。在主办方提供的10万张真图的基础上,网易互娱AI Lab基于面部重演、换脸、人脸属性编辑、人脸卡通画及艺术化滤波等算法生成了近40万幅假图,极大地丰富了训练集的多样性,为提升模型的泛化性奠定了基础。此外,团队通过多样化的主干网络设计、针对性的学习率调整和采样策略等方法训练了一系列模型,并借助模型融合进一步提高了最终的分类精度,最终在复赛阶段相比第二名取得了约1%的AUC提升,并比其降低了约48%的判断错误率。
近年来,人脸深度伪造技术用于合成内容制作已十分普遍,如AI合成主播、Deepfake影视剧换脸。然而,深度伪造技术在帮助自动高效生成内容的同时,其恶意应用也对个人信息安全、社会安全等方面造成了相应威胁,譬如一些犯罪分子利用伪造内容进行诈骗。因此,如何准确判断合成内容的真实性成为了亟待解决的问题。网易互娱AI Lab在人脸鉴伪方面表现出的超高准确率和优秀的泛化性能够帮助提升鉴伪的稳定性,更精准地识别多变的人脸伪造方法,帮助及时应对深度伪造带来的一系列挑战。
网易互娱AI Lab成立于2017年,一直致力于游戏行业的AI落地场景研究,此前在人脸编辑和生成技术方面已有非常丰富的应用经验,其相关技术在《羊城晚报》AI合成主播等合作项目中落地。未来,网易互娱AI Lab将在探究更多元应用场景的同时,持续关注前沿安全技术,为人工智能的发展提供更加完善的安全防护体系,助力整个行业的稳健成长。
【免责声明】本文仅代表第三方观点,不代表和讯网立场。投资者据此操作,风险请自担。
最新评论