文献类型：期刊文章

作　　者：化盈盈[1,2] 张岱墀[1,2] 葛仕明[1]

HUA Yingying;ZHANG Daichi;GE Shiming(Institute of Information Engineering,Chinese Academy of Sciences,Beijing 100093,China;School of Cyber Security,University of Chinese Academy of Sciences,Beijing 100049,China)

机构地区：[1]中国科学院信息工程研究所,北京100093 [2]中国科学院大学网络空间安全学院,北京100049

出　　处：《信息安全学报》

基　　金：国家自然科学基金(No.61772513)资助。

年　　份：2020

卷　　号：5

期　　号：3

起止页码：1-12

语　　种：中文

收录情况：CSCD、CSCD_E2019_2020、JST、RCCSE、ZGKJHX、普通刊

摘　　要：深度学习在很多人工智能应用领域中取得成功的关键原因在于,通过复杂的深层网络模型从海量数据中学习丰富的知识。然而,深度学习模型内部高度的复杂性常导致人们难以理解模型的决策结果,造成深度学习模型的不可解释性,从而限制了模型的实际部署。因此,亟需提高深度学习模型的可解释性,使模型透明化,以推动人工智能领域研究的发展。本文旨在对深度学习模型可解释性的研究进展进行系统性的调研,从可解释性原理的角度对现有方法进行分类,并且结合可解释性方法在人工智能领域的实际应用,分析目前可解释性研究存在的问题,以及深度学习模型可解释性的发展趋势。为全面掌握模型可解释性的研究进展以及未来的研究方向提供新的思路。

关 键 词：深度学习模型  可解释性 人工智能

分 类 号：TP181]