人工智能安全陈恺中国科学院信息工程研究所2020年2月11日信息安全2010-06/2018-11：“震网”病毒定向袭击伊朗核设施，离心机失控*信息来源：https://www.tuicool.com/articles/iuq2amy，2018年11月科研情况-研究背景2018-09：从2007年至2018年，毒云藤*组织对中国国防、政府、科技、教育以及海事机构等重点单位和部门进行了11年的网络间谍活动人工智能2016-03：阿尔法围棋(AlphaGo)与围棋世界冠军、职业九段棋手李世石进行围棋人机大战，以4比1的总比分获胜近年来：目标识别、语音助手等智能化解决方案广泛应用思考1：人工智能方法能否更好地解决传统安全问题？思考2：人工智能本身是否存在安全问题？是否会对人类真实生活环境产生影响？科研情况-研究背景漏洞检测与利用恶意代码分析与检测数据与隐私安全有害媒体伪造对抗学习人工智能模型后门数据与隐私安全安全硬件人工智能辅助传统安全（AIforSecurity）人工智能技术本身的安全(SecurityforAI)Google,UCBerkeley,…(???)(???)UCSB,Purdue(???)Google思考1：人工智能方法能否更好地解决传统安全问题？思考2：人工智能本身是否存在安全问题？是否会对人类真实生活环境产生影响？科研情况-研究背景漏洞检测与利用恶意代码分析与检测数据与隐私安全有害媒体伪造对抗学习人工智能模型后门数据与隐私安全安全硬件人工智能辅助传统安全（AIforSecurity）人工智能技术本身的安全(SecurityforAI)Google,UCBerkeley,…(???)(???)UCSB,Purdue(???)Google思考1：人工智能方法能否更好地解决传统安全问题？思考2：人工智能本身是否存在安全问题？是否会对人类真实生活环境产生影响？科研情况-研究背景人工智能辅助传统安全（AIforSecurity）人工智能技术本身的安全(SecurityforAI)漏洞方向恶意代码隐私安全-深度学习辅助(USENIXSecurity2020)-自然语言理解辅助(USENIXSecurity2019,CCS2017)-深度学习辅助(EuroS&P2018,2019)-自然语言理解辅助(S&P2019）-目标识别系统(CCS2019)-语音识别系统（白盒）(USENIXSecurity2018)-语音识别系统（黑盒）(USENIXSecurity2020)-神经网络后门-模型的隐私泄露(在研)对抗学习后门与隐私“智能化”隐私设置识别-近年来，人们对隐私重视程度显著增加-2018年5月，欧盟出台GDPR（《通用数据保护条例》）YiChen,MingmingZha,NanZhang,DandanXu,QianqianZhao,XuanFeng,KanYuan,FnuSuya,YuanTian,KaiChen,XiaoFengWang,WeiZou,"DemystifyingHiddenPrivacySettingsinMobileApps",IEE...
