“深度伪造”的网络狂欢和威胁

编辑:李三 来源:

近期,一款名为ZAO的人工智能换脸App在国内推出。用户只需上传一张正面照,就可以一键操作,把一些影视剧片段中演员的脸换成自己的,立刻生成视频,还可通过社交媒体传播,仿佛瞬间圆了明星梦。

这一款换脸App很快就成了爆款,颇受欢迎,但也很快引起有关部门的注意,就在本周,工信部就网络数据问题约谈了相关公司。

与此同时,“换脸” 软件所依托的的一项AI技术,也引起了人们的关注,它被称为:DeepFake, 深度伪造。

外国媒体报道:我们不能相信网上的所有东西,没错,深度伪造,深度伪造,深度伪造!是的,这到底是什么?深度伪造技术是利用人工智能合成以假乱真的视频,这是一种高科技手段,可以把某些话塞进某人嘴里。

Deepfake(深度伪造),“Deep learning”(深度学习)和“Fake”(伪造)结合而成的新单词。简单来说,这是一种可以实时伪造面部表情,并将其渲染成2D合成视频的人工智能技术。

早在一年多前, 2017年12月,一个名为“DeepFakes”的用户在Reddit网站发布“假视频”,将成人色情电影中演员的脸替换成了斯嘉丽·约翰逊等知名女演员的脸,画面以假乱真。这为人工智能换脸技术吸引来了一大波流量,“DeepFake”深度伪造,也逐渐成为这一技术的代称,同名算法也在Github开源,这是一个面向开源及私有软件项目的托管平台。

两年前,美国发布《人工智能与》报告,明确将人工智能伪造技术列为威胁的重点技术。

作为人工智能发展大国,中国也已经在加强政策和技术方面的监管,应对人工智能新技术可能带来的风险。

毕竟,当声音、指纹、人脸等重要的生物识别信息都开始出现“高仿”时,风险和隐患也将越来越多。

 

近日,脸书、微软等科技公司和众多学术机构联合发起一场“揪出深度伪造影像挑战赛”,希望改善现有工具,加强对深度伪造图片、声音和视频的检测能力。9月5号,脸书宣布将为此投入1000万美元。美国加州大学伯克利分校的研究人员也在研究如何应对深度伪造。