生成式人工智能的商品化导致了网络虚假内容的爆炸式增长： 根据 ID 验证平台 Sumsub 的数据，从 2023 年到 2024 年，全球Deepfake的内容增加了 4 倍。2024 年，Deepfake甚至占所有欺诈行为的 7%，从冒名顶替和账户接管到复杂的社交工程活动不一而足。
Meta 希望能为打击Deepfake做出有意义的贡献，它将发布一款工具，为人工智能生成的视频片段添加不易察觉的水印。 该工具于本周四发布，名为"Meta Video Seal"，以开源形式提供，旨在集成到现有软件中。 该工具加入了 Meta 的其他水印工具：Watermark Anything（今天以许可方式重新发布）和 Audio Seal。
Meta 公司的人工智能研究科学家皮埃尔-费尔南德斯（Pierre Fernandez）在接受 TechCrunch 采访时说："我们开发 Video Seal 的目的是提供更有效的视频水印解决方案，尤其是在检测人工智能生成的视频和保护原创性方面。"
Video Seal 并非首创此类技术。 DeepMind 的SynthID可以为视频添加水印，微软也有自己的视频水印标注方式。
但费尔南德斯断言，许多现有方法都存在不足："虽然存在其他水印工具，但它们对视频压缩的鲁棒性不够，而视频压缩在通过社交平台共享内容时非常普遍；效率不够高，无法大规模运行；不开放或不可复制；或者是从图像水印中衍生出来的，而图像水印对视频来说不是最佳选择。"
除了水印外，Video Seal 还能在视频中添加隐藏信息，以便日后揭开这些信息，确定视频的来源。 Meta 声称，Video Seal 可抵御模糊和裁剪等常见编辑以及流行的压缩算法。
费尔南德斯承认，Video Seal 有一定的局限性，主要是在工具水印的可感知程度和整体抗篡改能力之间进行权衡，严重压缩和大量编辑可能会改变水印或使其无法恢复。
当然，Video Seal 面临的更大问题是开发人员和业界没有太多理由采用它，尤其是那些已经在使用专有解决方案的开发人员和业界。 为了解决这个问题，Meta 推出了一个公共排行榜--Meta Omni Seal Bench，专门用于比较各种水印方法的性能，并在今年的大型人工智能会议 ICLR 上组织了一个关于水印的研讨会。
"我们希望越来越多的人工智能研究人员和开发人员将某种形式的水印整合到他们的工作中。也希望与业界和学术界合作，在该领域取得更快的进展。"