GeekPwn2018：AI“眼花”背后的安全探究
不经意间，人工智能已经全面占领了我们的日常——“刷脸时代”似乎真的来了。随着办公室可以“刷脸打卡”、机场用上了“刷脸安检”、银行“刷脸取款”， 厕所 “刷脸取纸”等人脸识别技术的普及，人工智能成功从好莱坞巨幕中走进了人类的现实生活。
当它们在生活中扮演越来越重要的角色时，我们开始质疑：看似一丝不苟的AI是否是未来智能生活的最安全解决方案？GeekPwn2018揭开你的迷思。10月24日，在中国上海举办的GeekPwn2018国际安全极客大赛的现场，白帽黑客与人工智能的“争锋相对”——一场史无前例的人工智能项目破解秀，揭露了现阶段人工智能发展过程所存在的安全问题。
GeekPwn2018大赛上海站现场
作为全球首个探索人工智能与专业安全的前沿平台，GeekPwn始终保持敏锐的科技洞察力，在创建之初就开始关注AI安全问题。今年，以“人‘攻’智能，洞见未来”为主题的GeekPwn又对人工智能时代下的安全问题开启全新一轮的探索，其中重点项目“CAAD对抗性样本攻防挑战赛“的命题专项赛和“GAN掉马赛克挑战赛”的趣味挑战赛，创新国内人工智能对抗新玩法，黑客与人工智能之间的博弈无疑成为本届GeekPwn大赛最大的亮点。
“宇宙飞船”or“巨石”傻傻分不清楚？AI在诱导下也会看花眼
众所周知，人脸识别技术为生活带来诸多高效体验的同时，也打开了人类无限的想象空间。AI保安、AI警卫正在逐渐代替传统人力，承担起为重要场所“看家护院”的职责。似乎AI将不可避免地在某些领域被赋予“至高无上”的权利。但是，它真的能扮演好一个优秀警卫的角色，眼里容不得“半点沙”？
目前的AI识图并不能够万无一失，它不仅也会看花眼，而且离谱到“人人”都可以是施瓦辛格！本是肉眼就能轻易分辨出来的“事物”，被GeekPwn2018选手们“黑”去细节后，AI误将“宇宙飞行器”识别成“巨石”；将“导弹”判定为“安全物品”；甚至将现场特邀主持人蒋昌建老师的照片识别为阿诺德·施瓦辛格。在GeekPwn2018大赛现场，由吴青昕和谢慈航两位选手组成的IYSWIM战队，通过生成一系列“对抗样本”，成功欺骗亚马逊celebrity recognition，实现对AI识图的PWN三连击，以第一名的成绩率先完成“CAAD对抗性样本攻防挑战赛”项目第一阶段的限时挑战。
“CAAD对抗性样本攻防挑战赛”参赛队伍 IYSWIM
这是继今年8月GeekPwn拉斯维加斯站之后，“CAAD对抗性样本攻防挑战赛”首次登陆上海。GeekPwn 联合谷歌大脑人工智能研究科学家Ian Goodfellow、Alexey Kurakin以及美国加州大学伯克利分校计算机系教授宋晓冬等学术机构等权威，延续拉斯维加斯站上首创的CAAD CTF形式，邀请到来自清华大学、中国科学技术大学、美国约翰·霍普金斯大学、Facebook、腾讯、阿里巴巴、扇贝等知名高校与企业的六支 AI 强队登上“1024”的舞台，进行实时攻击与防守比赛，提前预演人工智能应用潜在的安全风险。
区别于第一阶段的“限时挑战赛”完成规定挑战即可，第二阶段的“攻防赛”是战队间一场不定向的拉锯战——各队伍相互攻击、相互防御，谁也预测不到下一个攻击来自“who”。选手们一手握着锋利的“刺刀“，一手把着厚实的”盾牌“，在攻击和防御的两端来回游走。经过两个阶段的激烈角逐，最终，IYSWIM团队问鼎本届“CAAD对抗性样本攻防挑战赛”项目冠军，OWLET、TSAIL团队分别获得二、三名，Blade、USTC-ALIBABA以及RNG团队获得优胜奖。
CAAD对抗性样本攻防挑战赛获奖选手合照
不仅如此，期待已久的CAAD线上赛最终成绩也在GeekPwn2018的现场揭晓。其中ysharma1126、Labmem2018、TSAIL团队分列非定向对抗攻击（Non-targeted attack）赛的前三名；ysharma1126、TSAIL、wilson8561团队分列定向对抗攻击（Targeted attack）赛的前三名；FAIR & JHU、TSAIL、ysharma1126团队分列对抗防御（Defense）赛的前三名。据悉，CAAD线上赛的奖金总计65万元。
打码如同心理安慰？GeekPwn利用AI还原马赛克背后的真相
马赛克作为修图软件中必不可少的工具之一，成为当代人获取“安全感”的重要保障。打码的背后，究竟是男友出轨的实锤？或是女神住处脏乱差的反差？还是隐婚族的蛛丝马迹？马赛克真的能够守住你的“小秘密“吗？GeekPwn2018现场，来自中国海洋大学的选手杜昂昂以“生成对抗性网络-GAN”的AI技术还原打码图片的真实原貌，撕碎马赛克的“伪装“，宣告仅仅依赖打码就万事皆平安的年代已经成为过去式。
“GAN掉马赛克”项目选手杜昂昂
根据“GAN掉马赛克”的比赛规则，主办方提前已告知参赛选手3类（菠萝、汉堡、比基尼）图片进行训练；比赛现场主办方提供3类中的多张图片，循环播放（选手不得观看），并由观众任选其中3张打上马赛克，交由选手尝试还原。选手最终几乎以“1:1完美复刻”的优秀表现成功完成项目破解挑战。
此次“CAAD对抗样本限时挑战赛”和“GAN掉马赛克挑战赛“两个项目的破解挑战，无疑为大众敲响了AI安全的警钟，如果犯罪分子利用对抗样本伪装成普通人，骗过强大的人脸识别系统;如果犯罪分子利用对抗网络GAN还原受害人的个人信息，找到其住所……这些隐藏在智能生活里的人工智能安全隐患，未来很可能真的发生并成为社会新闻的头条。
人工智能安全距离大众生活并不遥远，它与生活息息相关，从前瞻的技术趋势出发，智能安全应该引起更广泛的重视。碁震KEEN公司CEO，GeekPwn发起创办人王琦表示：自创办以来，极棒带来了许多脑洞大开的破解展示，向厂商提交了上百个漏洞，也让更多人关注到智能生活中安全问题的重要性和必要性，人“攻”智能不是目的，极棒希望以科学的评判及可视化的展示，让科学流行起来，让智慧飞扬起来，让大家的生活更加安全起来。