本文来自公众号:CV智识(ID:CVAI2019),作者:张雪;题图来自:视觉中国。
在比赛时间结束前的几秒钟里,当评委和主持人几乎要宣布失败的节骨眼上,现场观众突然发现屏幕上出现了“被动了手脚”的黄健翔的图片和清晰的伊万卡的照片,在最后关头,TSAIL战队完成了让AI犯错的任务。
同样充满戏剧性的是,在指纹识别的挑战中,参赛选手在时间倒计时20秒内才完成了指纹制作,然而就在拿指纹去验证的过程中,做好的指纹意外落地,引得全场惊呼。好在,指纹找到,并成功打开了四部智能设备。
这是CV智识在GeekPwn2019现场见证的一幕幕真实画面。
一场最具戏剧性的指纹挑战赛
在现实生活中,大家可能在不经意中会留下很多指纹,这些指纹看上去非常“淡”、非常的无足轻重,但是这些信息足够让不法分子做你的指纹膜。
“因为时间不够了,读秒到20秒的时候就强行停止了,指纹还没有雕完,只用了2/3的指纹,另外1/3还没有打完。”刚刚参加完GeekPwn2019指纹解锁挑战赛的腾讯玄武实验室指纹识别项目选手陈昱谈到。
在挑战过程中,陈昱经历了两个戏剧性的时刻,一是在时间截止前的最后一秒完成了满意的指纹制作,二是在从操作台拿到设备上验证的过程中,指纹意外掉落到了地上。
但就是这2/3并且因为意外掉到过地上的指纹,帮助陈昱在指纹识别比赛中成功破解了五个设备,完成了挑战,从中足以看出,依靠技术手段获取普通用户的指纹已经不是科技界的难事。
与其他比赛项目不同,指纹识别的挑战赛只有陈昱一个人参加。
比赛刚开始时,多数的现场观众或是在闲聊,或是处在中午疲惫期而兴趣寥寥。
为什么没有对手?面对媒体的发问,陈昱解释道:“极棒比赛有两种pwn和表演赛,我这个属于表演赛。”
比赛开始时,评委介绍称,在本次指纹解锁挑战中,核心点在于在20分钟内做一个指纹出来,并把所有的设备全部打开。
选手需要指纹解锁的设备主要有六个,分别是四部手机和两个指纹打卡机,这六个设备用的是不同的技术。
活动现场,随机找到的志愿者把指纹印在玻璃杯上,随后陈昱先要在玻璃杯上取得目标指纹,然后根据指纹样本,用3D打印机将指膜打印出来,进而实现指纹解锁。
与想象中采取指纹方式不同,陈昱是先把玻璃杯放到暗箱里去拍照——找指纹,然而在挑战过程中,这个简单的采集指纹动作就用了将近1分钟。
紧接着,他把手机里的照片进行了放大,将图片中的噪点进行了二次处理,以便3D打印时,指膜能够更加的准确清晰。
三分钟时,陈昱完成了第一个指膜的“3D打印”,但几分钟后,他似乎对拍摄的照片不满意。然后又开始了新一轮的重复动作。
随着比赛的一步步进行,越来越多的观众已经从闲聊和瞌睡中缓过神来,开始聚精会神地关注着比赛。
在剩8分30秒时,陈昱把雕刻的痕迹做了一些清理,并把雕刻出来的指纹剪了出来。其实这个雕刻过程还是需要挺长时间的,大概5分钟才能完成一次。
正是由于在指纹雕刻过程中花费了太多的时间,所以留给指纹再加工的时间非常有限。
接下来,可怕的一幕也发生了,由于陈昱在比赛前半段一直没有获得满意的指纹雕刻图像,所以在比赛结束20秒前他还没有一枚能拿去破解的指纹。
直到时间所剩无几,他精心修过的指纹才最终成型。
“可以看到现在陈昱的手都抖的不行,出了满头大汗。”主持人黄健翔在现场调侃道。
在解锁之前,还有一个把全场观众注意力推向高潮的一个细节,那就是指纹掉地上了。
这一幕发生时,黄健翔反复强调,“我保证这绝对不是安排好的。”
紧接着,在全场观众的瞩目下,陈昱开始了指纹印证开锁的环节,经过反复的测试,最终揭开了两个打卡机和三部手机。
这个比赛里面,为什么时间指标如此重要?
评委解释称,因为指纹采集是在咖啡馆、茶馆等真实场景中,而指纹解锁需要接触到手机,所以对指膜做出来的时间有客观要求,只有这样才能在短时间内完成解锁。
关于这次破解的成本,陈昱坦言,“硬件加在一起1千多,雕刻材料1块钱可以做出十几个,基本忽略不计。软件只是一部手机、我自己开发的一个App,所以是用廉价方式雕刻出一个3D指纹,这在以前是没有的。”
“第一个困难是选择材料,短时间内不可能尝试多种材料去攻克不同原理的指纹。所以选材料花了很久。第二个困难就是拍摄,由于只能用手机拍摄,所以比赛中这部分花了很长时间,如果用专用设备就容易得多。第三是不能被防伪系统认出,即让它认为是真实的手指上的指纹,而不是假的。”陈昱边回忆边叙述着这次挑战中的难点。
在此之前,以二维特征为技术原理的光学指纹和电容指纹,已经能够用不到5毛钱耗材的成本,在5分钟之内被攻破。
但本次涉及到的指纹识别是超声波指纹,这项技术是考察三维特征的。因而破解也需要用更高端的技术。
评委谈到,“这一次很大一个难点在于超声波的渗透。第二是要用一个指纹把所有的设备解锁,难度性也非常大。”
此外,在与陈昱之后的交谈中,CV智识了解到,这次挑战项目是拍手指在光滑平面(比如手机屏幕)上残留的指纹的痕迹,通过这种方式残留的指纹场景更多。所以演示的也是难度最高的——玻璃杯采集。
“屏幕上采集指纹难度比玻璃杯低好几倍,但屏幕上比杯子上采集容易。”陈昱说。
诚然,这次的挑战并没有达到100%的成功,毕竟还有两部手机没有解开。
谈到对结果的感受,陈昱告诉CV智识,“考虑到现场紧张的情绪和环境影响,对这个结果已经满意了。”
其实,虽然陈昱在指纹识别领域已经有了两年多的探索,但是在极棒这个赛场上他还是一个新选手。
指纹难,脸更难,清华战队巧骗AI
与陈昱不同,包揽两项AI挑战赛冠军的团队——TSAIL站队,他们是由三名清华计算机博士生和RealAI联合组成的顶配团队,似乎从出场就带着主角光环。
除了清华博士的头衔,让人对他们的比赛有些许的期待外,他们还有多个国际大赛冠军的背景加持。
在2017年,TSAIL站队就已经拿了Google顶尖机器学习三个对抗样板赛的冠军。去年,他们也获得了极棒拉斯维加斯的冠军。
与过去毫无二致,此次他们参赛的项目依旧都与AI相关,这回问题的核心点在于让AI犯错。
作为极棒大赛的传统项目,这无疑代表着此次大赛的最高难度和水准。
第一个比赛中,组委会为选手提供了三个挑战:定向攻击,非定向攻击,并攻击知名人脸识别服务。
这场比赛的高潮在于,TSAIL战队在第三关“人脸识别攻击”中用图片成功欺骗Clarifai人脸识别系统,让AI将黄健翔识别成了“美国第一千金”伊万卡,虽然置信度很低,但依照比赛规则,判定选手攻破成功。
“我们只能算勉强成功了一部分。因为三个模型中我们只攻破了一个,并且攻破的效果也不是特别好。”赛后,TSAIL站队选手们如此的自评道。
与在现场时的热闹不同,在采访过程中,他们十分冷静和理智。可能是已经习惯了大赛夺冠的结果,他们也并没有表现出明显的喜悦。
直到谈到比赛的技术原理,他们才开始滔滔不绝起来。
其实,现在国外AI已经能够实现“换脸”了。不过从原理来看,之前的“换脸”与本次挑战赛中的还是不一样的。
对此,他们解释道:“我们整个照片中脸其实没有换,我们只是在原有的照片上做了点微小的改变,人看起来改变不大,但这种微小的改变就能够让机器误以为是伊万卡的照片”。
“从学术角度来看,它实际上是数学的一个优化问题,因为目前神经网络有些漏洞,优化是一种途径。通过一些优化方法让模型认为它就是要攻击的目标对象——伊万卡。单从挑战内容来看,不同性别,国籍,人种和年龄都会有一定的影响。”他们进一步谈到。
一般而言,攻防型比赛从技术角度主要分为黑盒和白盒两种,白盒是指主办方给出模型的具体参数。这样一来,攻破就会变得更容易一点。
而黑盒则是不给具体参数,需要用类似反推技术找到具体参数,这次比赛中攻击的人脸识别就是一个典型的黑盒场景,难度更大。
“这次人脸识别的攻击主要要攻亚马逊、微软的API,对我们来说,因为商业保密性,并不知道它背后实现是怎样的,但我们发现不同的神经网络有一些共同点,通过利用这些共同点,它们有共同的漏洞,所以我们利用这些共同的漏洞来攻击。”参赛选手表示。
罗马不是一天建成的,选手的技术积累和比赛成功也不是依靠朝夕的功夫。
他们坦言,实验室本身在这个领域已经了有很深的积累。具体到他们个人,至少两年前就开始了研究,写了很多代码,看了很多论文。而这次针对极棒出的新赛题,也探索了一些新的方法,最近这一个月其实主要是针对任务调试。
所以取得好成绩似乎是意料之中的,而比赛失败才是意料之外的事情。
在积累中创新,在创新中攻破,这一系列的动作最终使得TSAIL站队最终以229.77分的累计得分,成功拿到GeekPwn2019 CAAD CTF图像对抗样本攻防赛的第一名。
除了让AI“脸盲”,参赛者们还可以让AI“失明”。
在CAAD隐身挑战赛中,选手仅通过A4纸便在AI的监视下成功实现了“隐身”,真正达到了类似哈利波特中的“隐身斗篷”效果。
具体规则是,选手们需要在规定时间内,通过总面积不超过一张A4大小的图片来遮挡身体,并在现场接受算法的实时检测,如果算法模型识别不出人的存在且结果维持10s以上,则挑战成功。
值得注意的是,此次比赛选手全部攻破的是被视为“目标检测网络的巅峰之作”的YOLOv3系统。
CV智识在现场看到,这个比赛虽然有多支队伍参加,但是每次场上只有一组挑战,在二十分钟的比赛时长中,参赛选手不断的调整和更换现场观众手中的A4纸,以便找出算法的漏洞。
最终,Hiding Cat、NISLer、TSAIL三支战队选手挑战成功,成功挑战的检测距离均为1米,其中TSAIL战队使用的纸张面积最小,仅为196平方厘米。
TSAIL战队在赛后的采访中表示,这个原理跟人脸识别一样,本质上都是用一些方法找AI模型的漏洞,技术上是相通的。
虽然TSAIL战队在这项比赛中取得的也是最优的成绩,但在他们自己眼里这个结果却不能让人满意。
他们表示,现场的不确定因素比较大,尤其光照,会影响补丁的分布,如果曝光严重,A4纸上的图就会变样。但规则要求在每个人身上都要达到一个通用的消失,这是一个技术难点,因为补丁是定制化的。
“跟今天的比赛场景不一样,如果提前知道要谁隐身的话,可以做定制化补丁,这个技术比今天的简单一些。但今天是随机在下面抽一个人,我没有办法根据他的体形、五官、衣着来定制化补丁,这对补丁的质量要求会更高。”
至于为什么维持10秒以上才算成功时,他们告诉CV智识,“其实检测是每帧都在做,主要是为了保持稳定性。如果上一秒隐身下一秒出现,这从使用角度来讲不算成功。如果隐身10秒以上,这个技术就好一点。10秒钟是赛方设定的一个时间,理论上是无限时间的。”
此外,这次CAAD隐身挑战赛对于AI安全来说还有着极高的现实意义,在对抗样本的作用下,活生生的人可以在镜头下实现“隐身”,这将使得犯罪分子甚至可以逃避执法机关的追捕,成为行走在镜头下的“危险隐形人”!
可见,当下“大红大紫”的AI技术安全性的确值得重视,因为一旦对抗样本在某些真实环境下被滥用,便很有可能造成极为严重的后果。
00后少年特工
与钻研多年的研究员和学识丰富的清华博士不同,今年新登场的少年极客显得青涩而紧张。
据介绍,到现场参赛的是通过初赛选拔的 17 支青少年战队,他们之中大部分是第一次参加这类比赛,最小年龄仅为9岁。
可能是考虑到孩子们紧张的因素,亦或是因为这是首次少年极客比赛,所以小朋友们的赛场设置在了大会场馆的左侧。
在此之前,针对机器人挑战赛的设置大多较为一致:开门、爬楼梯、转动阀门……不少道具与关卡稍显笨重枯燥。
而GeekPwn2019将“挑战”与“特工”进行关联,利用密闭空间与救援任务的场景式还原,增加了放置易燃炸弹模型、收集颜色矿石等情节设定,提高了挑战的紧张感与趣味性。
比赛要求各战队机器人完成指定位置放倒旗帜、隔绝通道、放置炸弹模型、中断信号线、穿越逃脱、脱离遥控收集制定颜色矿石等多项任务。
关于设置这样一场少年比赛的初衷,GeekPwn 创始人王琦略显着急和焦虑地谈到,“现在的少儿教育大部分是学机器人和编程。看了课程设置,我有个绝望的看法,这个世界未来不会要每个人都是程序员。我认为更多需要的是思维的训练。所以把青少年带到极客大赛这样的环境来。我们最基本的一个想法,是告诉他们,成长路线上得掌握哪些知识。”
在比赛现场可以看到机器人特工携带炸弹模型秘密潜入,跨过重重障碍机关,中断报警信号线路、悄无声息地放置好炸弹模型,再巧妙地全身而退……这场景酷似好莱坞大片的经典情节。
赛后,CV智识采访了两位少年极客代表——黄思瀚和蔡一铭,他们均是初中学生。
即使是获得了第三名,但是回忆起比赛的难度时,黄思瀚还是直言“很难”。
“虽然比赛前已经先用零件组装了机器人,并通过APP预设了编程,设置了动作,也用iPad操控机器人完成了任务。但是这其中的逻辑编程还是很困难的。”
被问及具体的难点,他回答称,“要自动识别,而且需要预设编程,要不断调整。”
同样,获得第二名的蔡一铭也表达了类似观点,“我们准备了一个多月,每次都调试到很晚才回去,还要做作业。”
据了解,要完成所有的任务,机器人需要完成拆线、爬坡、移动和按按钮这些动作。而对于初中生来说,机器人的编程和组装是相当复杂的,尤其是拼装,还需要进一步加固。
作为首次参赛的选手,他们在赛前做了大量的训练和多次的预演,也设计了三四款不同版本的机器人。
他们自己也承认在预演过程中,出现了很多次失败,然后接着是一遍遍的改进。
其中,按按钮要精准,被所有的参赛者看做是最难攻克的点。
蔡一铭进一步解释,“如果不精准就会按到旁边,导致机械臂的框有个缝隙,会卡住,闸门可能会被压住,导致后面的程序进行不下去。”
在比赛过程中,黄思瀚甚至在按按钮的时候出现了失误,导致门掉了下来!
被问及出现失误的感受时, 他回答道,“比赛过程中出现一些意外无法避免。但不能紧张,要沉着冷静。”
值得欣慰的是,虽然比赛中多是个人战,但是少年极客之间也有许多协助配合,面对比赛,他们的心态更多的是相互学习,在竞争中找到改进办法。黄思瀚甚至俗套地说,“ 友谊第一,比赛第二。”
据悉,早在GeekPwn2018,青少年群体就已在这一极客比赛中崭露头角,在当年的机器特工挑战赛中,唯一一支高中生战队便凭借优异表现成功斩获大赛第三名。
与往年相比,今年除了年龄下限降低外,还有不少由“科技少女”带头的团队入选。
虽然年纪尚小,但不可否认不少00后、10后已经开始在国内外诸多机器人大赛中获奖,新生一代的少年极客正在崛起。
结语
在今年的GeekPwn2019上,CV可以清晰地感受到,伴随着云计算、AI、物联网、5G等前沿科技的普及,极客的影响力边界正在拓宽。
不管是比赛中的指纹识别,人脸识别还是AI时代下的隐身术,在为人们带来前沿科技体验的同时,也隐隐地埋下了危险的种子。
不过,好在,在现实生活中有这样一批人,他们好似前沿技术中的消防员,一直在发现漏洞、攻破漏洞的路上在探索着,努力着。
身为普通人的他们在赛场上闪闪发光,靠自己的努力,守护着一方安全。
同时,新一批少年极客的崛起,也让我们看到了未来世界,安全可期的模样。
本文来自公众号:CV智识(ID:CVAI2019),作者:张雪。