短短几年间，当代人工智能生成系统在创造逼真人类方面取得了长足进步。眼睛和手是其最大的绊脚石。尽管如此，像稳定扩散（Stable Diffusion）这样的模型正在熟练地生成人类，这些人类即使不完美，至少很容易编辑，这引发了人们对滥用的担忧。
赫尔大学（University of Hull）的研究人员最近揭示了一种开创性的方法，可以通过分析人眼的反光来识别人工智能生成的深度伪造图像。上周，该团队在英国皇家天文学会的全国天文学会议上公布了这项技术。该方法利用天文学家研究星系时使用的工具来检查眼球中光线反射的一致性。
Adejumoke Owolabi 是赫尔大学的一名硕士生，他领导的研究小组由天体物理学教授 Kevin Pimbblet 博士指导。
这种检测技术的工作原理是，一对眼球对光源的反射是相似的。在真实图像中，双眼反射光的位置和形状是一致的。相比之下，许多人工智能生成的图像并没有考虑到这一点，从而导致两眼之间的反光位置错乱、形状怪异。
系统正确识别的自然眼睛示例。
基于天文学的深度伪造检测方法似乎有些过分，因为即使是随意的照片分析也会发现眼睛反光的不一致之处。然而，利用天文学工具自动测量和量化反光是一项新的进步，可以证实怀疑，从而为欺诈行为提供可靠的法律证据。
Pimbblet 解释说，Owolabi 的技术能自动检测眼球反射，并通过指数运行其形态特征，以比较左右眼球的相似度。他们的研究结果表明，深度伪造往往会表现出一对眼球之间的差异。
研究人员从天文学中提取概念，对眼球反射进行量化和比较。例如，他们可以利用基尼系数（Gini coefficient）来评估眼球像素反射的均匀性，基尼系数通常用于测量星系图像中的光线分布。基尼系数接近 0 表示光线分布均匀，而接近 1 则表示光线集中在单个像素上。
系统自动检测到的 Deepfake 图像
"就像为了测量星系的形状，我们分析它们是否中心紧凑，是否对称，以及它们有多光滑。我们分析光的分布，"Pimbblet 解释说。
研究小组还探索了使用 CAS 参数（浓度、不对称度、平滑度）的方法，这是另一种测量星系光分布的天文学工具。不过，这种方法在识别假眼方面效果不佳。
虽然眼球反射技术显示出了前景，但如果人工智能模型进化到包含物理上精确的眼球反射，它可能就无法做到万无一失了。GenAI 的创造者似乎不可避免地会及时纠正这些缺陷。这种方法还需要清晰、近距离地观察眼球才能奏效。
Pimbblet 警告说："有假阳性和假阴性之分；它不可能获得所有信息。但这种方法为我们在检测深度伪造的军备竞赛中提供了一个基础，一个攻击计划"。