新工具可以通过眼睛里的微小反射来识别出深度伪造照片
据外媒报道，在人工智能进步的推动下，被称为深度伪造(deepfake)的篡改视频内容在传播虚假信息方面带来了严重且严重程度在不断加深的风险。随着这些改变的剪辑变得越来越有说服力，一款可以帮助区分是否真实的工具亟待被开发出来。来自布法罗大学的计算机科学家日前开发了一种技术来实现这个目标。
据悉，这项新技术通过分析眼睛里的微小反射来识别人像照片中的深度伪造现象--准确率可达94%。
深度伪造是一种人工媒体，其通过让深度学习算法在一个人的真实视频片段上训练然后将其跟计算机图像混合生成虚构视频片段。这些正在变得越来越真实了。
对此，专家们越来越担心该种技术将可能会对民主产生的影响，他们篡改的视频显示，政客们似乎说了一些他们实际上从未说过的话，比如美众议院议长南希·佩洛西，她的说话视频就曾遭篡改过。
布法罗大学团队的这项研究由计算机科学家Siwei Lyu牵头，他试图通过利用眼睛反射中的微小偏差来开发一种新的深度伪造检测工具。当在现实生活中看某样东西时，该对象在人们眼睛里的反映是相同的形状和颜色。
“角膜几乎就像一个完美的半圆形，且具有很强的反光能力，”Lyu说道，“因此，任何从这些光源发出的光进入眼睛的东西都会在角膜上成像。两只眼睛的反射模式应该非常相似，因为它们看到的是相同的东西。当我们看着一张脸的时候通常不会注意到这一点。”
但深度伪造的情况就不同了。Lyu和他的团队开发了一套计算机工具来瞄准这个缺陷，他们首先绘制出人脸、检查眼睛，然后是眼球，之后是光线在每个眼球上的反射。在进行非常精细的细节比对后，工具可以找出在形状、光和强度反射光的差异。
研究团队在真人和深度伪造组合上试验了他们的新工具，结果发现它能以94%的效率区分后者。尽管这个数字看起来非常有前景，但研究小组指出，这种方法仍存在一些限制。其中一个是，这些偏差可以通过编辑软件修复，另外被检测图像必须呈现出清晰的眼睛视野才行。