视宇新闻

|

dynamic

视宇评说:业内黑科技让你细思极恐

2019.08.05

近日,杨幂因为“换脸”上了微博热搜。

原来这是有视频制作人将《射雕英雄传》里朱茵扮演的黄蓉换上了杨幂的脸:

朱茵饰演黄蓉:

640.webp.jpg

替换成杨幂后:

640 (1).gif

该视频丝毫看不出破绽,因为太逼真,一经上传就在网上引起了轩然大波。网友都被这样的操作惊呆了,微博话题阅读量瞬间飙到1.1亿。

640.webp (1).jpg

谁能想到在技术的加持下,流量演员摇身一变就能成为演技派,以后「换脸」技术大概率会成为抠图表演者的新“捷径”。

640.webp (2).jpg

视频制作者作这段逼真视频的工具叫 Deepfake ,这一AI 技术在国外已经火了两年多。

640 (3).gif

视频中左侧为真实视频,右侧是Deepfake合成

当年,美国国防部把这项技术誉为人类对于AI的军备竞赛的一个开端,能把视频中的人脸换成其他人,同时保持脸部肌肉运动和谐,口型和声音匹配。

640 (4).gif

Deepfake合成后的「希拉里·川普」

但Deepfake技术却在2018年才意外走红。

因为国外著名成人网站Reddit上出现了一段《神奇女侠》主演盖尔·加朵的视频,这个视频正是利用 Deepfake 合成的,盖尔·加朵(右)的脸替换了色情女星的脸。

实际上,这类“换脸”的受害者除了盖尔·加朵,还包括黛茜·雷德利、娜塔莉·波特曼等一众好莱坞女星。

640 (5).gif

这样的视频合成更需要多专业?

并不十分困难。 

首先,在社交网络上搜索大量替代者和被替代者的静态图片和视频丢给系统进行深度学习。

640.webp (3).jpg

从原始照片中提取面部图像,生成谱图。

640.webp (4).jpg

接着,Deepfake会自动生成对抗网络(GAN),GAN中两个机器学习(ML)模型一个在数据集上训练后生成虚假音/视频,另一个则试图检测这些伪造物。两个模型每次的对抗结果都会生成网络制作时使用到的参数。

640.webp (5).jpg

最后,直到鉴别器无法辨别它生成的作品和真迹,选中系统的训练视频进行换脸,再设置合适的帧率,就可以得到一段自制 Deepfake 视频。

好莱坞女星斯嘉丽·约翰逊在华盛顿邮报的采访中表示:“让任何一个人成为这项技术的攻击目标只是时间问题。”

640.webp (6).jpg

假脸生成VS真脸识别

如果用“AI”对抗“AI”,结果会如何?

瑞士Idiap研究所两位科学家对「人脸识别方法检测DeepFake」进行了较为全面的测评 ,并发表了论文。

640.webp (7).jpg

结果显示:AI分辨真假视频错误率高达 95%!也就是说,在这场「假脸生成」和「真脸识别」算法的对抗赛中,Deepfake 无疑赢了。

 

在“杨幂换脸”视频被大肆转载和转发之后,视频制作者针对网上的争议做出回应,他说制作视频的本意是用于技术交流,并没有想要通过视频获利,更没想到会以这样的方式被传播。

然而,事件的背后还是让人细思极恐。

2019年1月,荷兰DeepTrace实验室发布了一份DeepFake发展报告,数据显示2018年“deepfake”关键词的谷歌搜索次数比2017年增长了1000倍。

640.webp (8).jpg

也就是说,这项技术正在被越来越多人使用,而且用途不明。

在这种前沿技术面前,每个人都可能成为潜在的受害者。

一旦被人滥用,真实照片与语音模拟器或语音合成系统相结合,就可以生成任意“假新闻”,任何人可以变成任何人。

那些由于技术滥用对当事人造成的伤害,对整个社会造成的反噬,是人类对新技术缺乏敬畏必须付出的代价。

近日,日本传来消息,日本历史上著名武将丰臣秀吉的正室北政所修建的高台寺23日向媒体展示了讲经“智能机器人观音”Minder,未来,这座寺庙的人就要对着这个机器人日夜祈求、烧香礼拜、听其讲经诵佛!

640.webp (10).jpg

什么时候开始,人工智能已经开始触及并改变人类赖以生存的精神源泉——文化?

再想想几天前新华社推出的“全球首个AI(人工智能)合成女主播,无论从五官还是整体的形态表达,都与真人无异;

640.webp (11).jpg

“性爱”机器人的出现,彻底的改变了传统的价值观,重新定义了“家庭”的概念,未来人类或将生育危机。

640.webp (12).jpg

1968年,毕加索曾说过“计算机是没用的”,但他没想到的是,50年后的佳士得拍卖会上,自己20多幅的作品都败给这幅由AI创造的画!

640.webp (13).jpg

著名的AK-47步枪的制造商为俄罗斯军方推出了一套新的机器人枪械系统,该系统将使用人工智能来确定目标,自主决定是否开枪。

640.webp (14).jpg

也难怪霍金曾警告过人类:“人工智能的全面发展将宣告人类的灭亡”!

对于一项技术来说,本身并没有对错,关键看掌握这项技术的人如何应用。这次杨幂出演“黄蓉”的视频,也给公众提了一个醒:AI换脸是一种新技术,大家对它的认识还不够,希望让更多朋友了解 , 否则将来有人伪造明星负面内容的视频时 , 将会给公众人物带来更大的损失。

如今,眼见已经不为实,对于泛滥的消息,我们还需加强鉴别,切莫人云亦云;

与此同时,AI面前,人类必须保持敬畏之心。