文献类型：期刊文章

作　　者：陈宇飞[1,2] 沈超[1,2] 王骞[3] 李琦[4] 王聪[5] 纪守领[6,7] 李康[8] 管晓宏[1,2]

Chen Yufei;Shen Chao;Wang Qian;Li Qi;Wang Cong;Ji Shouling;Li Kang;Guan Xiaohong(Key Laboratory for Intelligent Networks and Network Security(Xi an Jiaotong University),Ministry of Education,Xi an 710049;Faculty of Electronic and Information Engineering,Xi an Jiaotong University,Xi an 710049;School of Cyber Science and Engineering,Wuhan University,Wuhan 430072;Institute for Network Sciences and Cyberspace,Tsinghua University,Beijing 100084;Department of Computer Science,City University of Hong Kong,Hong Kong 999077;Institute of Cyberspace Research,Zhejiang University,Hangzhou 310027;College of Computer Science and Technology,Zhejiang University,Hangzhou 310027;Department of Computer Science,University of Georgia,Athens,Georgia,the United States 30602)

机构地区：[1]智能网络与网络安全教育部重点实验室(西安交通大学),西安710049 [2]西安交通大学电子与信息学部,西安710049 [3]武汉大学网络安全学院,武汉430072 [4]清华大学网络科学与网络空间研究院,北京100084 [5]香港城市大学计算机科学系,香港999077 [6]浙江大学网络空间安全研究中心,杭州310027 [7]浙江大学计算机科学与技术学院,杭州310027 [8]乔治亚大学计算机科学系,乔治亚州雅典市30602

出　　处：《计算机研究与发展》

基　　金：国家自然科学基金项目(61822309,61773310,U1736205)~~

年　　份：2019

卷　　号：56

期　　号：10

起止页码：2135-2150

语　　种：中文

收录情况：AJ、BDHX、BDHX2017、CSA-PROQEUST、CSCD、CSCD2019_2020、EI、IC、JST、RCCSE、SCOPUS、ZGKJHX、核心刊

摘　　要：人类正在经历着由深度学习技术推动的人工智能浪潮,它为人类生产和生活带来了巨大的技术革新.在某些特定领域中,人工智能已经表现出达到甚至超越人类的工作能力.然而,以往的机器学习理论大多没有考虑开放甚至对抗的系统运行环境,人工智能系统的安全和隐私问题正逐渐暴露出来.通过回顾人工智能系统安全方面的相关研究工作,揭示人工智能系统中潜藏的安全与隐私风险.首先介绍了包含攻击面、攻击能力和攻击目标的安全威胁模型.从人工智能系统的4个关键环节——数据输入(传感器)、数据预处理、机器学习模型和输出,分析了相应的安全隐私风险及对策.讨论了未来在人工智能系统安全研究方面的发展趋势.

关 键 词：智能系统安全  系统安全 数据处理 人工智能 深度学习  

分 类 号：TP391]