论文部分内容阅读
科学技术的每次发展，都会对世界带来或大或小的影响。但你可能不知道，你最近正在玩的APP所使用的技术，可能也会成为影响世界政治格局发展的一个关键因素。
换脸APP的风靡，让大家突然开始意识到个人隐私的重要性。随随便便一个人只要拿到你的照片，就能生成一个你完全不知道的视频，甚至可能是那种“你懂得”的视频，是不是想想就很可怕？同时还会出现的问题是，你的账户可能也没有那么安全了。刷脸支付越来越普及，但是你的脸只有你自己有吗？换脸软件告诉你，不是。
事实上更让世界担心的是，在2020年大选时，有人可能会使用换脸视频（深度伪造视频）传播虚假信息，动摇大选结果。一些参议员也警告过它的潜在威胁，内布拉斯加州共和党人本·萨斯提出了一项法案，法案中规定任何恶意制造或传播深度伪造视频的行为都是违法行为。最近的一项报道中显示，纽约大学识别的深度伪造视频试图传播虚假信息，动摇2020年大选。
其实，合成视频在社交网站上早就存在。今年年初，一段关于南希·佩洛西“醉酒”之后的发言在脸书上疯传（其实就是放慢的镜头）。脸书拒绝删除关于马克·扎克伯格的伪造帖子和深度伪造视频，而是用核查手段将其标记为虚假信息。
由于上次总统大选出现的问题，脸书防患于未然确实有道理。目前细节性的虚假政治活动信息在网络上大量涌现，人们一直谴责脸书，认为它不应该允许这种信息肆意传播。然而，深度伪造视频识别技术的发展可能会产生更严重的后果。荷兰初创公司Deeptrace一直致力于开发伪造视频识别工具，该公司分析师亨利·阿杰德表示，人们对深度伪造视频的看法无形中纵容了政治家们逃避责任，如果出现什么问题的话，他们就把责任都推给虚假信息。“深度伪造视频本身就已经造成了很多问题。”阿杰德表示。“虚假信息就像是政界的毒瘤，动摇着政治家和人民的思想。”
其实深度伪造视频识别工具早就存在。简单的识别技术包括分析视频文件的数据或研究视频人物的嘴型和眨眼特征，不过算法要捕捉和创建此类特征却非常困难。
最近，权威专家开发了一种伪造视频的识别方法，它训练深度学习算法来识别人物头部运动的特殊方式，目前的算法还没有学习过头部运动特征。这种识别方法是通过DARPA资助的另一个视频识别工具实现的。
很多专家对于深度伪造视频的飞速发展都表示惊讶。最近就有一款APP用静止图像制作了深度伪造视频并发布在网站上，此举引发巨大争议。南加州大学副教授兼特效师黎颢警告说，不久可能会出现大量人们无法识別的深度伪造视频。
技术的革新究竟会带领人类走向文明进阶之路，还是迎来新的毁灭？备受关注的人工智能技术发展，是会让人与人之间的情感连接更加疏离，还是能够解放生产力，创造更多的富余时间享受生活？这些问题每一天都有新的答案。 （本刊综合整理）（编辑/华生）
换脸APP的风靡，让大家突然开始意识到个人隐私的重要性。随随便便一个人只要拿到你的照片，就能生成一个你完全不知道的视频，甚至可能是那种“你懂得”的视频，是不是想想就很可怕？同时还会出现的问题是，你的账户可能也没有那么安全了。刷脸支付越来越普及，但是你的脸只有你自己有吗？换脸软件告诉你，不是。
事实上更让世界担心的是，在2020年大选时，有人可能会使用换脸视频（深度伪造视频）传播虚假信息，动摇大选结果。一些参议员也警告过它的潜在威胁，内布拉斯加州共和党人本·萨斯提出了一项法案，法案中规定任何恶意制造或传播深度伪造视频的行为都是违法行为。最近的一项报道中显示，纽约大学识别的深度伪造视频试图传播虚假信息，动摇2020年大选。
其实，合成视频在社交网站上早就存在。今年年初，一段关于南希·佩洛西“醉酒”之后的发言在脸书上疯传（其实就是放慢的镜头）。脸书拒绝删除关于马克·扎克伯格的伪造帖子和深度伪造视频，而是用核查手段将其标记为虚假信息。
由于上次总统大选出现的问题，脸书防患于未然确实有道理。目前细节性的虚假政治活动信息在网络上大量涌现，人们一直谴责脸书，认为它不应该允许这种信息肆意传播。然而，深度伪造视频识别技术的发展可能会产生更严重的后果。荷兰初创公司Deeptrace一直致力于开发伪造视频识别工具，该公司分析师亨利·阿杰德表示，人们对深度伪造视频的看法无形中纵容了政治家们逃避责任，如果出现什么问题的话，他们就把责任都推给虚假信息。“深度伪造视频本身就已经造成了很多问题。”阿杰德表示。“虚假信息就像是政界的毒瘤，动摇着政治家和人民的思想。”
如何应对这些深度伪造视频？
其实深度伪造视频识别工具早就存在。简单的识别技术包括分析视频文件的数据或研究视频人物的嘴型和眨眼特征，不过算法要捕捉和创建此类特征却非常困难。
最近，权威专家开发了一种伪造视频的识别方法，它训练深度学习算法来识别人物头部运动的特殊方式，目前的算法还没有学习过头部运动特征。这种识别方法是通过DARPA资助的另一个视频识别工具实现的。
很多专家对于深度伪造视频的飞速发展都表示惊讶。最近就有一款APP用静止图像制作了深度伪造视频并发布在网站上，此举引发巨大争议。南加州大学副教授兼特效师黎颢警告说，不久可能会出现大量人们无法识別的深度伪造视频。
技术的革新究竟会带领人类走向文明进阶之路，还是迎来新的毁灭？备受关注的人工智能技术发展，是会让人与人之间的情感连接更加疏离，还是能够解放生产力，创造更多的富余时间享受生活？这些问题每一天都有新的答案。 （本刊综合整理）（编辑/华生）