微信截图_20240920153326.jpg
换脸与识脸是“以子之矛攻子之盾”
2019-02-28 14:49:00  来源:北京青年报  作者:张田勘  
1
听新闻

  人工智能(AI)已经进入人们生活的方方面面,但是,由AI引发的争议、陷阱和困局同样伴随着人们。由于人工智能深度换脸技术DeepFakes引发激烈争议和担心其后果扩大,国外已经在禁用这一技术,但是国内却出现了疑似用深度换脸技术制作的影视节目。

  近日,在哔哩哔哩网站上一位用户名为“换脸哥”的博主上传了一段杨幂饰演《射雕英雄传》里“黄蓉”的视频。从几张视频截取的动图可以发现,除了脸部五官是杨幂的,发型和服饰却是原演员朱茵的扮相。不过目前这条视频在哔哩哔哩网站已经失效。

  视频在网上释出后,引发激烈争论,“将朱茵的黄蓉换成杨幂的脸”这个话题在微博上的浏览量甚至达到1.2亿次。有人认为这是对原演员的不尊重,甚至会导致部分流量明星可以不用担心演技问题,疯狂轧戏——只要先用替身完成拍摄,最后再用AI技术进行换脸,省时又省力。还有不少人认为这严重侵犯了隐私和肖像权。

  当然,严重的问题还不止于此,如果让同样是人工智能的人脸识别技术去识别深度换脸生成的人脸,结果会怎样呢?不得不说,这是人工智能引发的现代以子之矛攻子之盾。

  DeepFakes这个术语是深度机器学习(deep machine learning)和假照片(fake photo)的缩写。这项技术完全可以用来制作各种伪证、假证件和假象,例如伪造政治家的行为、公开演讲,制作色情内容,还可以通过换脸来敲诈政治人物和有钱人。更重要的是,当换脸技术制作的假视频源源不断出现之时,就像喊狼来了的孩子一样,到后来,真实的视频、录像就不再有人相信了,李鬼就会替代李逵,真实和诚信将毁于一旦。

  意识到人脸交换技术制作假视频的危害性,美国卡内基国际和平基金会还专门发表文章《国家如何应对DeepFakes?》,认为DeepFakes正在给政府与企业带来破坏性的影响,尤其是对反恐和国家安全造成危害。于是,人脸交换技术在美国被全网封禁,Reddit讨论版被删除,其GitHub开源代码也被清除。FakeApp的官网目前也已无法使用。

  尽管如此,人脸交换技术还是已扩散到全球,现在中国也受到这一技术的影响。这也意味着,人脸交换技术可能是禁不住的,原因在于,这项技术的确有很大的实用性,仅仅在影视娱乐产业,就可以节约成本,并获得很好的拍摄效果,尤其是科幻片,先通过计算机模型拍摄大型场面和惊险镜头,甚至可以不用替身,在后期制作时只需把演员的头像换到人物躯干上,就可以获得极为逼真的影视效果。

  而且,人脸交换技术实际上是对正在推进的人脸识别技术一个沉重打击,如果人工智能不能识别换脸后的假脸,真正的人脸识别技术就会陷于停滞,人工智能走入人们的生活也将受到局限。

  这实际上就是在逼迫人们以魔高一尺,道高一丈来应对,要利用人工智能来对付人工智能,攻破这个以人之矛攻人之盾的自相矛盾。现在,日本一些研究人员认为,可以通过微小的细节去发现线索,让人脸识别人工智能可以区分换脸技术制造的假视频。这实际上也是矛与盾两种人工智能的较量和比拼。

  当然,在有效的识别假视频人工智能软件研发出来并应用之前,目前当然需要禁止深度换脸技术的使用,不过这只是权宜之计;另一方面,也需要结合多种方法,如人工识别、信源调查和交叉核实等多种方式来判别视频的真伪。

标签:
责编:孔婧 袁涛
下一篇