马鞍山网上炒股

股票配资 股票配资 资讯 查看内容

阿里和清华联手一呼:我们给钱给资源,求解这些AI宁静难题

2020-07-19| 发布者: 浦江新媒体| 查看: 135| 评论: 1|马鞍山网上炒股文章来源: 互联网

摘要: 原标题:阿里和清华联手一呼:我们给钱给资源,求解这些AI宁静难题来源:量子位Original金磊发自凹非寺量子位......
 

原标题:阿里和清华联手一呼:我们给钱给资源,求解这些AI宁静难题 来源:量子位

Original 金磊 发自 凹非寺量子位 报道 | 公众号 QbitAI

金磊 发自 凹非寺

量子位 报道 | 公众号 QbitAI

真的存在「隐形衣」吗?

在人脸辨认无处不在的今天,这个倒是可以有。

只要穿上这么一件T恤,就能骗过人脸辨认AI,从而到达「隐身」效果。

马鞍山网上炒股这就是由美国西北大学和MIT等研究机构,配合提出的Adversarial T-shirt——基于反抗样本的T恤衫。

马鞍山网上炒股据研究职员先容,这是全球首个在非刚性物体(如T恤)上,举行的物理反抗性实例。

也就是说,在被AI检测历程中,无论衣服产生任何褶皱或变形,都能到达「隐身」效果。

马鞍山网上炒股而且,这项研究已经入选计算机视觉顶级集会 ECCV 2020 的焦点论文(SpotlightPaper)。

马鞍山网上炒股而这,也引发了人们对人工智能期间下,宁静隐患的思索。

马鞍山网上炒股T恤上的「印花」就能愚弄AI

实在,到达所谓的「隐身」效果,实在就是愚弄AI的「视觉体系」。

这项研究也一定水平说明,目前所谓比力成熟的计算机视觉技能,具有一定的脆弱性。

比方,目前许多公司上班打卡都是通过人脸认证,但若是哪天穿了这种具有「反抗性」的T恤,迟迟打不上卡……

嗯,那种焦灼痛苦,你品,你细品。

那么,这款T恤的隐形效果到底是如何实现的呢?

这里所涉及到的要害技能就是反抗攻击(Adversarial Attack),目的就是让AI模子做出误判。

研究职员设计这款「隐形衣」的历程中,主要分为三个步骤:

马鞍山网上炒股起首,让实验职员穿着印有棋盘图案的T恤走动并录视频,将视频中的帧作为训练数据。

马鞍山网上炒股其次,将通用的反抗性扰动应用于布料区域。

末了,优化反抗性扰动,优化历程通过反向流传,作为一个闭环而举行。

这个历程中,一个要害因素就是解决T恤因褶皱、变形,所导致的降低攻击成率问题。

对此,研究职员提出了一种叫做TPS(Thin Plate Spline)变化的要领,来模拟衣服褶皱的情况。

然后将得到的TPS变化,融入到 EOT(Expectation over Transformation)算法中,如许就可以在现实世界的非刚性物体上,天生反抗样本。

马鞍山网上炒股再从定量分析的角度来看,研究职员提出的要领,在Faster R-CNN和YOLOv2模子上的攻击乐成率,分别到达了61%和74%。

但也正如研究职员所说:

这个攻击要领并不是完善的。

如下图所示,要领对于角度和间隔照旧比力敏感的——较大的变形角度、较远的间隔,都会让攻击乐成率降落。

比愚弄AI更可骇的是「以假乱真」

从如许的一件T恤中,我们可以发明,AI模子照旧比力脆弱的。

大概在我们人类眼中,稍微的图像扰动并不会造成失误判断,但对于AI模子来说却不是云云。

而在如今险些到处「人脸辨认」的期间,这种扰动一定会对我们的生活产生影响。

比方上放工刷脸打卡、刷脸支付、实名认证等等。

试想一下,穿着一件「反抗性T恤」,无论如何都辨认不出来人脸的那种痛苦……

马鞍山网上炒股但实在,比起这种辨认不出来的情况,更可骇的照旧「以假乱真」。

比方,客岁耐能(Kneron)公司便造出了个3D面具,还用这个面具逐一击破了诸多刷脸支付程序。

马鞍山网上炒股另有,用一张打印的照片,就能刷脸骗过智能快递柜的新闻也引发公众对于人脸辨认宁静话题的存眷。

试想一下,若是让人脸辨认连续脆弱至此,造成的经济丧失可能会是巨大的。

但在我们生活中经常用到的App中,却鲜有由于人脸辨认而造成大面积丧失的消息,比方淘宝、饿了么、闲鱼、高德等等。

马鞍山网上炒股实在,人脸辨认的宁静防护也没有人们想的那么脆弱。

人脸辨认的活体检测难题何解?

马鞍山网上炒股有攻击的矛,便有防御的盾。

马鞍山网上炒股而阿里宁静的这张盾,可以说是时刻在研究矛的进攻手段。

比方,在3D软件和实物人脸模子、视频行动播放等「攻击使命」中,阿里宁静的人脸辨认方案,可利用手机等检测装备自动打光,以及移动检测装备相互配合等技能要领,有用举行活体检测,乐成地防范了上述的问题。

马鞍山网上炒股而且,这项人脸辨认新专利方案已被美国专利局授权。

在此之前,业内专家认为:

目前市场上还没有公认成熟、方便易用的活体检测方案。

罢了有的技能方案包括基于特殊硬件装置,如双目镜头、深度相机的活体检测。

其原理是对物体举行3D检测,一般可以解决平面照片、视频、3D软件人脸模子的攻击问题,但难以防范实物的3D人脸面具的攻击问题,且有的场景无法应用,如无法在流行的智能手机中使用。

马鞍山网上炒股另有一种是基于辨认指定行动的活体检测方案,如使用颔首、摇头、眨眼、张嘴的活体检测,可以在智能手机中使用。

这种活体检测方案让用户做指定的多个随机行动并辨认判断,解决了照片或顺序播放视频等攻击威胁。

但也难以防范3D软件人脸模子和录好全部行动的视频攻击,由于用户可以控制3D模子或视频播放器,让3D人脸模子做出指定行动,或让播放器播出指定的行动。

基于此,阿里宁静打造了新一代人脸辨认技能方案。

马鞍山网上炒股阿里宁静资深算法专家觉奥先容道,阿里宁静的人脸辨认活体检测方案利用三项技能组合防范上述人脸辨认宁静问题:

这项方案是人、装备、算法一体化判断,通过装备屏幕自动打光和变化光的颜色的要领,获取对应每一时刻人脸各区域的颜色和亮度变化,通过用户移动检测装备的要领,根据传感器来获取装备的空间位置变化。

马鞍山网上炒股然后,从颜色、亮度、人脸姿态、装备空间位置的变化来判断检测对象是否相互一致,来完成活体检测,通过差别技能配合,打造一个便捷易用、可以或许防范3D软件和实物人脸模子、视频行动播放等攻击的宁静人脸辨认技能方案。

马鞍山网上炒股而这,也只是阿里宁静这张盾牌的「冰山一角」。

全球首个针对目标检测算法的反抗攻击竞赛

宁静,向来是个不可忽视,且需要连续存眷的问题,新鲜的血液和思想的碰撞必不可少。

像穿了一件具有「反抗性」图案的T恤,就辨认不出人脸,打不上卡这种事情,也会对我们的一样平常生活造成困扰。

为此,阿里宁静携手清华大学,联合举办全球首个针对目标检测算法的反抗攻击竞赛——宁静AI挑战者计划:

马鞍山网上炒股以反抗样本为焦点,假想未来作为宁静AI防守者的身份,联合内容宁静场景,从笔墨、图像、视频、声音等多个领域,针对反抗样本技能调集「挑战者」配合打磨AI模子宁静。

马鞍山网上炒股2019年8月-2020年3月,挑战者计划第一季乐成举办第一期人脸反抗辨认角逐、第二期ImageNet图像反抗角逐、第三期唾骂场景文本反抗角逐。

共吸引了全球200多所高校100多家企业的3587支队伍到场。

马鞍山网上炒股而本年的宁静AI挑战者计划,是第一季的升级传承,将业内的模子宁静问题体系化、尺度化,并形成一个优秀的社区。

马鞍山网上炒股而且,挑战者计划第二季第四期已启动!详情如下。

第四期标题价值

阿里宁静举办了全球首个联合黑盒白盒场景,针对多种目标检测模子的反抗攻击竞赛。

角逐接纳COCO数据集,其中包罗20类物体。

角逐使命是通过向原始图像中添加反抗补丁(adversarial patch)的方式,使得典型的目标检测模子不可以或许检测到图像中的物体,绕过目标定位。

马鞍山网上炒股为了更好的评价选手的攻击效果,阿里宁静创造了全新的得分计算准则——除了加入攻击乐成率之外,还对添加补丁的数目和巨细举行了束缚。

选手添加的补丁数目、修改的像素和模子辨认到的困绕盒越少,则代表攻击越发乐成,得分则越高。

马鞍山网上炒股别的,为了包管角逐的难度,阿里宁静选取了4个近期的SOTA检测模子作为攻击目标,包括两个白盒模子——YOLO v4和Faster RCNN和另外两个未知的黑盒模子。

赛程摆设

双周榜-算力自由

为满足选手因疫情在家服务器短缺的痛点,特发起「挑战者服务器免费送」活动。

玩法:每两周公布一次排行榜(8月3日、8月17日、8月31日),TOP 6队伍将得到1000元的阿里云服务器代金券,可兑换购置任意服务器。

马鞍山网上炒股规则:共三轮双周榜,TOP 6队伍如有重复,则顺延1000元服务器名额(为包管更多同学享受算力自由);作为心灵慰藉,重复的队伍将收到200元天猫超市购物卡。

产物可选择按量和包月,详细可自由选择。

激励设置

第一名:每支队伍奖金30000元

第二名:每支队伍奖金15000元

第三名:每支队伍奖金10000元

马鞍山网上炒股第四-六名:每支队伍奖金3000元

马鞍山网上炒股第七-十名:每支队伍奖金1000元

马鞍山网上炒股奇思妙想奖:阿里巴巴20周年限定勋章礼盒(奖励给思绪有创意的同学,上不设限)

荣誉证书:前十名队伍和奇思妙想奖,每位同学都将得到阿里和清华配合发表的顶级证书

马鞍山网上炒股线下颁奖:优秀队伍将受邀到场10月的CIKM集会,并在国际舞台担任speaker分享思绪

马鞍山网上炒股绿色通道:总成绩排名Top20的队伍,可得到阿里宁静校招绿色通道

马鞍山网上炒股云云有趣、刺激的挑战,另有这么丰盛的奖励,你有心动吗?

【报名入口】点击底部阅读原文,直达报名~

参考链接:

http://arxiv.org/pdf/1910.11099.pdf

量子位 QbitAI · 头条号签约作者

马鞍山网上炒股վ'ᴗ' ի 追踪AI技能和产物新动态

马鞍山网上炒股喜爱就点「在看」吧 !

(声明:本文仅代表作者观点,不代表新浪网态度。)

文章要害词: 网络文化

马鞍山网上炒股用微信扫描二维码分享至挚友和朋友圈

' + _substr(uids[i].name, 0, 14) + '

' + _substr(uids[i].v_reason, 0, 16) + '



鲜花

握手

雷人

路过

鸡蛋

最新评论(1)

Powered by 浦江新媒体 X3.2马鞍山网上炒股  © 2015-2020 浦江新媒体版权所有