深度造假可以很有趣。那些完美地把金·凯瑞和杰克·尼科尔森在《闪灵》中的角色结合在一起的视频真是有趣极了。然而，随着即将到来的美国大选临近，分析人士预计，深度造假可能会在向潜在选民发送大量虚假信息的过程中发挥作用。
本周，微软发布了一款名为“视频认证”的新软件。它的设计目的是自动分析视频，以确定算法是否篡改了视频。
该软件实时分析视频，并逐帧分解。在某种程度上，它的工作原理类似于我们熟悉的摄影取证技术。它寻找边缘上的不一致，这些不一致可能表现为颜色的细微变化或小像素簇(称为伪影)缺乏颜色信息。你很难用自己的眼睛去注意它们，特别是当每秒钟都有几十帧画面快速移动的时候。
当软件进行分析时，它会给出一个百分比或一个信心分数，来表明它对一张图片合法性的确定程度。在使用现代AI技术时，伪装单个帧是相对简单的，但移动会带来额外的挑战，而这通常是软件能够收集线索的地方。
研究表明，错误通常发生在以下情况:受试者的侧面出现，快速旋转超过45度，或者另一个物体快速移动到此人的脸前。虽然这种情况在现实世界中相对常见，但在候选人演讲或视频通话中却很少发生，而这些都是选举季的主要目标。
为了训练视频认证器，微软依靠FaceForensics数据集——一个专门用来训练人和机器识别深度造假的被操纵媒体的集合。它包含了来自1000个视频的150万张图片。一旦构建完成，微软就在DeepFake检测挑战数据集(DeepFake Detection Challenge Dataset)上测试该软件，该数据集是Facebook人工智能创建的，是构建自动检测工具竞赛的一部分。脸书雇佣了3426名演员，让他们在10万多段视频中出演，这些视频使用了各种技术，包括从深度学习方法到简单的数字人脸交换等各种技术。
Facebook的挑战在今年早些时候结束了，获胜的参赛者在82%的时间里正确识别了深度造假。该公司表示，它已经在使用内部工具来嗅出深度假货，但它没有公开给出平台上出现了多少假货的数字。
目前，普通用户还无法使用微软的视频验证器。作为“现实卫士2020”项目的一部分，人工智能基金会将独家提供该软件，该项目允许候选人、媒体、竞选活动、政党和社交媒体平台提供可疑的虚假媒体进行认证。但是，在未来，这些工具可能会更容易被公众使用。
另一家大型科技公司——谷歌——一直在努力研究检测换脸的方法;去年，该公司聘请了演员，并使用与Facebook类似的付费演员建立了自己的数据集。虽然谷歌还没有针对日常用户的特定深度伪造检测网站的公开计划，但它已经在图像搜索功能中实现了一些图像处理工具，这通常是试图确定一张照片是否虚假的第一步。
微软并未透露其ai驱动工具的成功率，但当你调查表现最好的玩家时，这个基准并不高。在Facebook的挑战中，获胜者在熟悉的数据上获得了82%的成功率——一旦将其应用于在较少控制变量的现实世界中拍摄的新视频，准确率就降至60%左右。加拿大公司Dessa在谷歌制作的控制变量视频上也取得了类似的成功。然而，通过从网上其他地方下载的视频，它很难达到60%的成功率。
我们仍然不知道深度造假将在2020年大选中扮演多大的角色，由于社交媒体平台在进行自己的幕后侦查，我们可能永远不会知道它可能有多糟糕。也许到下一次选举时，计算机将能更好地识别其他自动化操控者的手工操作。
