炼数成金 门户 商业智能 人工智能 查看内容

Deepfake阴影下的“人脸识别时代”全面到来!我们可能遭遇什么危险?

2020-2-10 17:44| 发布者: 炼数成金_小数| 查看: 34265| 评论: 0|原作者: Juny|来自: 硅谷洞察

摘要: 坐飞机、高铁人脸验证,住酒店人脸登记,在超市买东西人脸支付,随便进出哪个小区都靠刷脸开门。而人们似乎也快速地接受了这种新鲜、便捷的新生事物,就连小探80岁的外公外婆也颇为兴奋的拉着我去小区门口体验“刷脸 ...
小探最近回了趟国,发现从去年开始,国内似乎全面进入了“人脸识别时代”。

坐飞机、高铁人脸验证,住酒店人脸登记,在超市买东西人脸支付,随便进出哪个小区都靠刷脸开门。而人们似乎也快速地接受了这种新鲜、便捷的新生事物,就连小探80岁的外公外婆也颇为兴奋的拉着我去小区门口体验“刷脸卡”这种“黑科技”。

(小区、高铁、便利店的人脸识别系统)

一时间,人脸识别仿佛已经完全融入了大家的生活之中。但是,是否每个人都能意识到其背后的风险呢?小探记得,就在去年年底,硅谷人工智能公司Kneron曾表示该公司使用Deepfake(深度欺骗)技术成功欺骗了支付宝和微信的支付程序,并且顺利通过进入机场、火车站等自助终端的检验。

那么,现在全面铺开人脸识别技术有必要吗??我们正在进入的“人脸时代”真的安全吗?

Deepfake的阴影笼罩人脸识别时代
首先,为什么近些年来人脸识别发展的如此的火热、迅速,它到底能解决什么问题,从而产生巨大的商业价值?

实际上,人脸识别本质上也就是一种身份识别技术。如今,身份识别在各个领域都至关重要,而身份识别的方法目前主要有三种。

一是密码识别。密码是最古老的身份识别工具,也是目前的主流工具。但是,密码识别会有被破解的风险,也常出现遗忘、弄混的情况。

(密码登陆界面,图片来自于网络)

二是证书验证。证书指的是能证明个人身份的信息,比如你进出公司需要出示的工作证,进出小区的门禁卡。但在人卡分离、人机分离或未绑定相关证书设备的情况下,该验证就无法顺利实现。

生物识别技术则能够有效解决以上两种方式的困扰。通过将计算机与光学、声学、生物传感器和生物统计学原理等科技手段密切结合,利用人体固有的如指纹、脸相、虹膜等生物特征来进行个人身份的鉴定。

人脸识别作为生物识别中的重要手段,由于具有非强制性、非接触性、成本低、检测快、自动学习等特点,成为了近年身份识别中最热门的领域。


(图片来源于网络,版权属于原作者)

但是,与人脸识别技术共同发展的,还有借助机器学习系统、图像视频和音频内容,更改人脸、物体或环境呈现方式的“深度伪造”(Deepfake)技术。该技术通过借助海量训练数据,生成众多虚假视频和音频新闻,使辨别信息真伪、生物识别变得困难,成为一种困扰世界科技届的“反识别技术”。

深度伪造来源于生成对抗网络(GAN)的出现和发展。GAN算法可以基于一个数据库自动生成模拟该数据库中数据的样本,并通过识别器评估生成器生成的数据的真伪,生成器和识别器之间互相博弈、不断学习,进而产生大量高精度的数据。

(生成对抗网络技术生成深度伪造视频原理)

自2017年以来,深度伪造技术开始活跃在网络中,随着这一技术算法的日趋成熟,到如今,无论是人像还是声音、视频都可以被伪造或合成,并可达到几乎不能辨别真伪的程度,并开始引发诸多社会问题,人脸识别也面临被欺骗的考验。

DeepFake技术带来的重重风险
其实,面部伪造技术可追溯至20世纪60年代,当时好莱坞就开始尝试使用“换脸”特效技术,在1994年著名电影《阿甘正传》中男主角受到肯尼迪总统接见的片段中也就是使用了换脸技术。

(电影《阿甘正传》中肯尼迪会见阿甘片段,图片来自于网络)

而随着近几十年“AI换脸”技术的发展精进,现在通过简单的APP操作,一个人就能在视频里被轻易地替换成另一个人,表情、动作、姿态几乎能够达到完全同步,比如之前美国的Deepnude软件和国内红极一时的换脸软件ZAO。此外,去年9月,开源换脸工具FaceSwap甚至以超过23000星一度登上GitHub排行榜。


(曾红极一时的换脸App ZAO,图片来源于网络,gif)

除了娱乐行业之外,深度伪造技术在教育、文创、游戏等诸多领域都具有积极应用潜力,深度伪造技术也正在无成本、平民化地走向大众生活。但目前,由于鉴别深度伪造技术的能力却还未成熟,这对个人隐私、媒体公信力、司法取证等多方面带来困扰,引发了社会担忧。

一方面是安全问题凸显。人脸识别技术的信息安全将首先面临严峻挑战,由于目前人脸识别还在在识别精度、信息储存标准以及应用范围等问题上仍待规范,深度伪造技术将让仿冒身份、用户授权被盗用等安全问题爆发,严重威胁到公民人身安全和金融安全。

另一方面将导致信息不实,引发秩序混乱。2018年4月,美国前总统奥巴马说“特朗普是个彻头彻尾的笨蛋”的视频,在推特上获得超过200万次的播放,2019年5月特朗普在推特上转发并嘲讽的美国众议长佩洛西说话结巴的视频引发大量关注,最终都被证明是由深度伪造技术生成的伪视频。这些虚假信息除了将直接影响个人信誉外,甚至还可能引发“蝴蝶效应”导致整个市场秩序的紊乱。


(使用男演员图像伪造的奥巴马发表讲话视频,图片来自于网络,gif)

由于这些潜在的安全威胁和信任危机,各国政府也纷纷出手,加强对技术的监管,坚决遏制恶性苗头的出现。

2019年6月12日,美国国会提出《深度伪造责任法案》(DEEP FAKES Accountability Act),旨在通过限制深度伪造合成技术,打击虚假信息的传播。2019年11月,加州通过了一项旨在阻止伪造视频影响大选的法令,若有散布的信息使公众对政治人物的言论、行动产生错误或有害印象的行为将被列为犯罪。

我国在现象级换脸App “ZAO”仅出现三天之后,就下令下架、封杀,坚决遏制此类App带来安全隐患。并于2019年年底相继发布《网络音视频信息服务管理规定》、《网络信息内容生态治理规定》等法规,明确不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。

而2020年1月17日,据路透社报道,欧盟委员会正在草拟一项计划,考虑在3到5年时间里禁止在包括火车站、运动场和购物中心公共场所使用人脸识别技术,留出更多时间评估技术风险,欧盟希望通过相关立法,防止该人脸识别技术被滥用、侵犯个人隐私等,预计于 2 月份发布最终版本。


对抗Deepfake,人脸识别技术将往何处去?

虽然各国纷纷加强了监管措施,但遏制深度伪造技术滥用的根本手段,还是需要“反伪造”技术研究的加强与成熟。在技术研究上,科技巨头们也都加入到了这场“对抗”之中。

Google去年与科技孵化器Jigsaw合作整合了“FaceForenesics Benchmark”项目,并通过付费或者与志愿者演员合作录制了数百个视频, 并将这个深度伪造视频大数据集免费发布,以用来帮助研究人员更好的设计检测方法。

而Facebook作为社交媒体的头部公司,为避免平台上的虚假消息引发难以控制的舆论威胁,更是率先地加强反深度伪造技术的研发。

2019年9月,Facebook与微软、MIT、亚马逊等宣布合作,共同打击深度伪造。该计划被称为Deepfake检测挑战赛(DFDC),旨在创建能用于“打假”模型训练的开源工具供公司、政府和媒体等组织使用,以更好地检测视频是否被篡改。

12月,Facebook的人工智能研究部门宣布开发出一套较先进的“反识别”系统,能够辨别实时影像的真伪,而在此之前,反识别技术主要是应用于从监控摄像头或已存在视频或静止影像中进行人脸识别。今年1月,Facebook宣布将在今年美国大选前删除平台上AI换脸等深度伪造视频。


而人脸识别技术本身,也在对抗深度伪造的进程中不断演进发展。目前人脸识别主要分为2D和3D两种,普通的2D成像是用平面传感器接收被拍摄物体反射或者发出的可见光,从而形成二维图像。这个过程中,由于无法获取深度信息,容易存在物体特征信息缺失,图像极易被伪造。

而为了弥补2D人脸识别的不足,3D人脸识别成为了目前研究与应用的主流。3D成像传感通常由多个摄像头+深度传感器组成,一般由多张不同角度的深度图像合成,可以完整展示人脸的曲面形状,并且将采集到的人脸信息以密集点云的方式呈现在空间中,可以采集深度信息。此外,3D传感还可结合算法进行活体检测,进而可判断采集到的人脸是否是照片、视频或者软件模拟生成, 能更好的对抗深度伪造技术。

(3D人脸识别,图片来自于网络,版权属于原作者)

3D识别方式目前有结构光、激光测距、双目视觉等几大方向,目前的iPhone、华为等智能手机人脸解锁都开始采用3D识别技术。据前瞻产业研究院发布的数据显示,2018年3D人脸识别技术占比已达51%,预计未来3D技术将进一步深入应用市场。

但目前,3D人脸识别还存在着运算量大、识别速度慢、设备成本高等缺点,数据库也相对稀缺。因此,现阶段为对抗深度伪造问题,“人脸识别+支付口令”双保险制度是兼顾便捷和安全的实现方式。

实际上,人脸识别和深度伪造技术都是在人工智能纵深发展下的产物。需要注意的是,我们在享受由科技进步所带来的便利的同时,也要时刻警惕技术滥用可能给社会带来的潜在风险。

你们是如何看待现在全面进入的“人脸时代”呢?你目前是对人脸识别是信任还是保持怀疑呢?

声明:文章收集于网络,版权归原作者所有,为传播信息而发,如有侵权,请联系小编删除,谢谢!

欢迎加入本站公开兴趣群
商业智能与数据分析群
兴趣范围包括:各种让数据产生价值的办法,实际应用案例分享与讨论,分析工具,ETL工具,数据仓库,数据挖掘工具,报表系统等全方位知识
QQ群:81035754

鲜花

握手

雷人

路过

鸡蛋

相关阅读

最新评论

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

 

GMT+8, 2020-4-4 04:13 , Processed in 0.187679 second(s), 25 queries .