近来，换脸APP“ZAO”从一夜爆火到被工信部约谈，再次折射出业界与大众在AI技能安全与道德方面认知的巨大间隔，以及政府在AI技能管理方面的认识与决计。
尽管“ZAO”随后修改了此前争议巨大的用户协议，但仍被很多刊出卸载，现在APP归纳评分已跌至1.9分，谈论内容多为对隐私走漏及安全危险的不满。有技能咖直指，这是开发方关于技能使用的道德标准短少敬畏，为了流量不惜牺牲用户的知情权，乃至企图将相应职责甩锅给用户的恶劣行径导致的反噬，也足以让更多技能开发者引以为戒。
当然，从技能层面来说，“ZAO”并不是AI“换脸”的初次使用。早在2017年12月，Reddit论坛的网友deepfake运用AI技能将“小电影”女主角的脸替换成明星盖尔·加朵(神奇女侠的主演)。尔后，跟着该项技能开源，使用越发广泛，前段时间一键脱衣的DeepNude更是引起了广泛重视和忧虑。而在政治方面，Twitter上“奥巴马吐槽特朗普是白痴”的假视频引起了一系列的跟风。美国众议院6月就Deepfake技能举行了听证会，评论了AI技能操作言论的潜力，如使用假视频削弱政府组织和新闻媒体的公信力，乃至会对2020年大选发作灾难性影响。此外，最近还发作了欺诈团伙使用AI组成语音技能从英国一家公司骗走22万欧元的事例。
“耳闻之不如目见之，目见之不如足践之。”跟着AI技能“换脸换声“变得越发简单且可“足践之”后，咱们的“耳闻”和“目见”都变得“假作真时真亦假”。技能的展开又一次呼喊道德与安全的标准。
事实上，早在2015年，AI安全的概念就现已被学界提出。跟着人工智能使用的迸发，使用AI技能缝隙进行“逃逸进犯”、“对立样本进犯”和“数据污染进犯”的事例逐步增多。跟着AI技能的展开，随之发作的安全危险也在不断堆集。尤其是人脸辨认，作为AI技能使用最为广泛的场景之一，正面临着益发严峻的应战。人脸信息作为个人重要且灵敏的信息，现已绑定了大多数人的手机解锁、付出，乃至政府类事务的一些身份验证。如发作人脸信息走漏或假装，将对使用人脸辨认技能的金融付出、公共安全等场景构成巨大要挟。
孵化自清华大学人工智能研讨院的RealAI
作为最早在“AI安全”范畴展开研讨的团队之一，RealAI（瑞莱才智）孵化自清华大学人工智能研讨院，致力于研讨和推行安全、牢靠、可信的第三代人工智能，中心团队成员在清华大学就现已展开了相关的研讨。
RealAICEO田天表明，近来发作的一些新闻事情，让AI安全议题从学术圈走向了社会。现在现已有越来越多的组织开端进行相关的研讨，未来AI安全会构成更大的影响力，社会各界都将认识到AI技能导致的安全问题，及其或许引发的深远结果。
据了解，RealAI在AI安全范畴的布局主要在两个方面：一是避免AI算法被用于损害社会的行为，例如换脸假视频。二是检测AI算法的缝隙并加以修正，例如避免人脸辨认被歹意攻破。RealAI以为，经过修正这些AI技能使用潜在的危险，可以让AI工业愈加健康地展开。
“AI安满是一个继续攻防的进程，必然会出现攻防互相促进展开的状况。有新的进犯手法出来，对应的就会有新的防护方法。首先要把握进犯方法，才干知道怎么去防护，防护的一方需求习惯动态改变的进犯场景。”
关于“AI换脸”，RealAI有很强的生成技能，比方“惹是生非”的AI换脸等；一起，也知道怎么去检测、防护它们。从作用上来看，现在RealAI在内部测验集上换脸检测的准确率现已到达99%以上，这个测验集覆盖了市面上大多数使用换脸技能的假视频。团队现在也针对未来或许潜在的攻防场景做预演，为应对潜在的危险提早规划可行计划。
图 | 换脸检测（来历：RealAI）
在AI算法缝隙检测方面，如针对AI辨认体系的“隐身”、“假装”等场景，RealAI则更注重在实在的物理国际（不同的光线、视点、间隔、运动含糊、失焦等）完成，以及愈加深化地研讨怎么使用白盒的代替模型来进犯黑盒的受害模型。作为首个使用对立样本进犯技能，在实际国际中破解商用手机人脸辨认体系的公司（其他研讨组织多停留在数字国际或公共FaceID体系层面），RealAI也可以供给相应的“防火墙”，现在其检测“人脸假装”的算法准确率相同现已到达99%以上。
图 | 破解人脸辨认（来历：RealAI）
据了解，“隐身”、“假装”等进犯手法的完成原理是“对立样本进犯”方法。“对立样本进犯”的防护方法主要有图画预处理和去噪、检测对立样本、对立性练习等。在这个范畴，且国内高校（尤其是清华人工智能研讨院）很早就展开相关的技能研讨，现在基本是处于抢先地位。作为最早研讨该技能的团队之一，RealAI针对对立样本，使用了一些更新、更适宜的方法来补偿传统的算法缝隙。
本年5月，RealAI与清华大学人工智能研讨院联合发布了的人工智能安全渠道——RealSafe对立攻防渠道，其支撑对多种算法和模型进行对立进犯和防护。RealSafe渠道一起可以供给全面、详尽的进犯防护算法的评测与比较，输出安全评测陈述。
田天以为，“RealSafe渠道可以作为从技能的视点提出的测验渠道，它经过输出目标来阐明AI算法的安全系数。经过这个渠道，期望可以推进AI安全往前走一步，比方给政府部门供给参阅，为政府部门拟定衡量AI安全技能目标供给技能根底”。
值得一提的是，与Google、IBM旗下的安全渠道相较，RealSafe渠道功用愈加全面，支撑更为通用的模型、更丰厚的对立进犯和防护算法，具有杰出的抢先优势。此外，RealAI也在和部分相关企业协作定制化一些提高AI安全性的产品，比方检测虚伪内容检测工具。未来终端涉及到的场景将会有各种刷脸认证场景，如火车站、机场人脸辨认闸机，手机、商铺刷脸付出；公共场所动态监控、安防布控等。
本年以来，多项重磅信息安全方针落地，包含等保2.0、史上最严的数据安全监管方法等。大众关于AI安全的言论也亟待产品使用去改进。RealAI以为，AI安满是个很大的范畴，不是某一个研讨者或研讨单位就可以将AI安全的一切问题都处理，未来需求更多人参加进来，一起推进AI安全技能的前进。但这需求我们在同一结构下去评论、落地。因而，由政府引导，威望组织组织拟定AI安全方面的行业标准势在必行。
