Deepfake不一定是问题，不知道才是大问题！关于Deepfake你需要知道什么？

艺术经纬：你的理智知道“眼见为实”，但你的眼睛还是会背叛你的理智，感觉不到被眼前的形象所吸引，尽管你真的真的知道那是假的。2021年底，Youtuber小鱼涉嫌利用Deepfake技术伪造多名名人的色情视听内容并出售。利用“深度造假技术”实施技术犯罪，既不是第一起，也不是唯一一起，更不是最后一起。

科技在进步，社会和法律如何跟上甚至超前部署？Deepfake这个话题是一个泛科学和法律白话文的协作，从Deepfake技术和假鉴别技术到法律如何应对，我们来全面分析一下Deepfake吧！

在第一章中，我们先对Deepfake技术做一个基本的介绍，然后开始吧！

00-1010 Deepfake技术Deepfake在2017年开始进入大众视野。最初的Deepfake起源于英文中“deep learning”和“fake”的组合，主要是指应用人工智能的深度学习技术，合成某个(不一定存在的)人的图像、影片甚至声音。最常见的应用是用另一张脸(往往是名人)代替影片中的脸，让指定的脸做一些他在影片中从未说过或做过的事。

利用深度学习技术合成或替换人脸的技术都属于Deepfake。图/stephenwolfram如今，说起Deepfake，大多数人可能会想到一个山寨成人视频。就像前面提到的Youtuber小鱼事件，Deepfake一开始引起关注，主要是因为名人或明星的面部图像合成到成人视频中。不过Deepfake的功能远不止这些，相关技术还包括替换表情、合成整张脸、合成语音等等。

除了在电影中让过去或现在的名人“栩栩如生”以做出用户想要的表情和动作之外，有几个应用程序曾在社交媒体上流行，包括通过上传一张照片来“变老”和“变性”自己的FaceApp，甚至还有让他们的脸说出经典电影中一句台词的“去玩”应用程序。这类功能也应用了前面提到的Deepfake技术。

虽然有线索显示这类APP往往存在安全隐患[注]，但至少技术成果多为自娱自乐，可以视为无害。

“栩栩如生”的爱因斯坦，而过去电影的视听产业需要应用许多复杂、耗时、昂贵的计算机模拟来模仿人脸。有了Deepfake的技术，很多只能遗憾和放弃的事情就有了弥补的空间。最著名的应用应该是好莱坞电影《玩命关头7》和《星际大战》系列。003010在拍摄过程中，主角保罗威廉沃克四世意外死亡，其余场景由他的弟弟演出。然后剧组用Deepfake技术让他哥哥和弟弟一起玩，整部电影上映。

Weta Digital解释了如何通过Deefake的技术让保罗沃克的弟弟Brian O'Conner继续帮助保罗沃克完成《玩命关头7》10

什么是 Deepfake？

。想想过去的电影比如《玩命关头7》中的咕噜或者010 30 10 2008年布拉德皮特主演的，以及deefake诞生之前修图或者CG技术对电影或者照片中的角色进行“变脸”和“变老”。Deepfake受关注的核心关键在于AI深度学习算法的应用，以及电脑和手机日益强大的计算能力，使得“电影变脸”越来越可及，无缝衔接。

用CG技术“老化”布拉德皮特。图/2008——派拉蒙影业过去的电影中使用的CG技术，要经过专业人士长达数月的后期处理，才能获得真假难辨的影像效果。而AI算法的应用，只需要一台台式电脑甚至手机，上网就可以获得软件，有机会得到不理想的结果。

/p>

进一步，传统软体演算法主要依靠工程师的持续修改调整，而如 Deepfake 这类技术，内部的演算法会经过训练持续进化。有许多技术被应用于提高 Deepfake 的伪造效果，其中最常见的一个作法被称为「生成对抗网路（Generative Adversarial Network, GAN）」，这里面包含了两组神经网路「生成器（Generator）」和「辨识器（Discriminator）」。

在投入训练资料之后，这两组神经网路会相互学习训练，有点像是坐在主人头上的小天使与小恶魔会互相吐槽、口才越来越好、想出更好的点子；在练习的过程中，「生成器」会持续生成伪造的影像，而「辨识器」则负责评分，反覆训练下来，伪造生成的技术进步，辨识伪造的技术也得以进步。

举例来说，This Person Does Not Exist 这个网站就充满了使用 GAN 架构建构的人脸，这个网站中的人脸看上去非常真实，实际上都是 AI 製造出来的「假脸」。

Deepfake 影片不一定是问题，不知道是 Deepfake 才是问题

现今的 Deepfake 技术得以持续进步、骗过人眼是许多人努力的成果，也不见得都是坏事。像是《星际大战：侠盗一号》片尾，年轻的莱娅公主出面惊鸿一瞥，就带给许多老粉丝惊喜。这项技术应用癥结在于，相关演算法轻易就能取得，除了让有心人可以藉以产製色情影片（这类影片佔了Deepfake滥用的半数以上），Deepfake 製造的影片在人们不知情的情况下，很有可能成为虚假讯息的载体、心理战的武器，甚至于影响选战与舆情。

因此，Deepfake 弄假似真不是问题，阅听者因此「不辨真假」才将是最大的问题所在。

相关的研究人员归纳了几个这类「变脸」影片常见的特徵，可以用来初步辨识眼前的影片是不是伪造的。

首先，由于 AI 尚无法非常细緻的处理一些动作细节，因此其眨眼、视线变化或脸部抽蓄的动作会较不自然。其次，通常在边缘处，如髮丝、脸的边缘线、耳环等区域会出现不连贯的状况。最后，在一些结构细节会出现不合理的阴影瑕疵，像是嘴角的角度位置等。

由于现阶段的 Deepfake 通常需要大量的训练资料（影像或影片）才能达到理想的伪造成果，因此会遭到「换脸」的受害者，主要集中在影像资源丰富的名人，如电影明星、Youtuber、政治人物等。需要注意的是，如果有人意图使用 Deepfake 技术製造假消息，其所製造的影片不见得需要非常完美，有可能反而降低解析度、非常粗糙，一般人如用手机浏览往往难辨真假。

人眼已经难辨真假，那么以子之矛攻彼之盾，以 AI 技术辨识找出 Deepfake 的成品，有没有机会呢？随着 Deepfake 逐渐成为热门的议题，有许多团队也开始试图藉由深度学习技术，辨识伪造影像。2020 年脸书与微软开始举办的「换脸侦测大赛」（Deepfake Detection Challenge）就提供高额奖金，徵求能够辨识造假影片的技术。然而成果只能说是差强人意，面对从未接触过的影片，第一名辨识的準确率仅为 65.18%。

对于 Deepfake 可能遭到的滥用，某部分我们可以寄望技术的发展未来终将「道高一尺」，让社群平台上的影像不致于毫无遮拦、照单全收；然而技术持续「魔高一丈」让防範的科技追着跑，也是显而易见的。

社群网路 FB 在 2020 年宣布全面禁止 Deepfake 产生的影片，一旦有确认者立即删除，twitter 则强制注记影片为造假影片。Deepfake 仅仅是未来面对 AI 浪潮，科技社会所需要应对的其中一项议题，法律、社会规範如何跟上？如何解决箇中的着作权与伦理问题？这些都将是需要经过层层讨论与验证的重要课题。

至少大家应该心知肚明，过往的网路流行语：「有图有真相」已经过去，接下来即将面临的，是一个「有影片也难有真相」的网路世界了。

• 注解：推出 FaceApp 与「去演」的两家公司其软体皆要求注册，且对于上传资料之后续处理交代不清，被认为有侵犯使用者隐私权之疑虑。