深度伪造，亟待技术的规制

时间：2022-01-28 18:16:35 来源：

文／陈根

人工智能技术在飞速迭代的同时，也让深度伪造不断渗入人们的生活。深度伪造也叫深度合成，是人工智能发展到一定阶段的产物，源于人工智能系统生成对抗网络（GAN）的进步。典型的“深度合成”主要包括人脸替换、人脸再现、人脸合成以及语音合成四种形式。

人脸替换也被称为换脸，是指将某一个人的脸部图像（源人物）“缝合”到另外一个人的脸上（目标人物），从而覆盖目标人物的面部。

人脸再现则利用深度合成技术改变人的面部特征，包括目标对象的嘴部、眉毛、眼睛和头部的倾斜，从而操纵目标对象的脸部表情。人脸再现不同于人脸替换，侧重于改变某个人的脸部表情，从而让其看起来在说他们从未说过的话。

人脸合成可以创建全新的人脸图像，而这些随机生成的人脸图像很多都可以媲美真实的人脸图像，甚至代替一些真实肖像的使用，比如广告宣传、用户头像等。

语音合成涉及创建特定的声音模型，不仅可以将文字转化成声音，而且可以转化为接近真人语调和节奏的声音。加拿大的语音合成系统RealTalk，就与以往基于语音输入学习人声的系统不同，它可以仅基于文本输入生成完美逼近真人的声音。

深度伪造虽然作为一种技术为社会提供了新的商业应用可能，但由于目前仍缺少监管，以至于在野蛮生长的情况下出现了诸多乱象。比如，深度伪造造成“有图不一定有真相”，视频和图像非常容易篡改，而这种滥用必然带来隐私风险、经济安全等调整，亟待技术和法律的规制。

深度伪造，亟待技术的规制

现在，由Adobe、微软、ARM、英特尔 TurePic和BBC共同成立的技术联盟宣布，它们已经完成了数字内容证明标准的1．0版本，用以验证照片／视频的拍摄方式，并记录后续的编辑记录。这意味着公司可以实施这种方法，而不必担心规范会改变并破坏他们的产品。

这项新标准在去年就已经开始制定的，它确定了图像或视频的首次创建时间和地点，以及所做的改变。Adobe的安迪·帕森斯（AndyParsons）表示：“开发和实施的速度几乎是前所未有的。这反映了打击日益严重的错误信息问题的需要，以及给内容创作者一种证明其作品确实是自己的方式”。

去年，Adobe曾展示该技术如何在Photoshop中工作，当时使用的还是一个尚未定稿的规范版本。Adobe计划通过开放源代码发布它所使用的代码，以便其他人可以在他们自己的应用程序中包含认证数据。

PS 发明后，有图不再有真相；而深度伪造技术的出现，则让视频也开始变得镜花水月了起来：人们普遍认为视频可以担当“实锤”，而现在这把实锤竟可凭空制造，对于本来就假消息满天飞的互联网来说，这无疑会造成进一步的信任崩坏。真实应该把握在人们的手上，而不是被技术滥用。好在标准的出台至少已经是对抗深度伪造滥用风险的一小步。

原文标题:陈根：深度伪造，亟待技术的规制

郑重声明：文章仅代表原作者观点，不代表本站立场；如有侵权、违规，可直接反馈本站，我们将会作修改或删除处理。