文献类型：期刊文章

作　　者：王璐[1,2] 姜远[1,2]

Lu WANG;Yuan JIANG(National Key Laboratory for Novel Software Technology,Nanjing University,Nanjing 210023,China;Collaborative Innovation Center of Novel Software Technology and Industrialization,Nanjing University,Nanjing 210023,China)

机构地区：[1]南京大学计算机软件新技术国家重点实验室,南京210023 [2]南京大学软件新技术与产业化协同创新中心,南京210023

出　　处：《中国科学：信息科学》

基　　金：国家自然科学基金(批准号:61673201,61921006);南京大学优秀博士研究生创新能力提升计划A资助项目。

年　　份：2021

卷　　号：51

期　　号：1

起止页码：27-39

语　　种：中文

收录情况：BDHX、BDHX2020、CSCD、CSCD2021_2022、JST、RCCSE、ZGKJHX、核心刊

摘　　要：本文研究K-近邻分类器的鲁棒性验证问题.形式化鲁棒性验证的目标是计算分类器在给定样本点上的最小对抗扰动的精确值或者最小对抗扰动的非平凡下界.我们将计算K-近邻分类器的最小对抗扰动形式化为一组二次规划问题.二次规划问题的数目随近邻参数K的增大呈指数级增长,精确求解该组二次规划问题往往不可行.约束放松法通过放松优化的约束项,可以在多项式时间内求解最小对抗扰动的下界.然而,本文通过理论分析和实验发现,当近邻参数K取值较大时,约束放松法求得的下界往往过于宽松,甚至会出现K越大下界越小的反直觉结果.为解决这一问题,本文提出使用随机平滑法对K-近邻分类器进行鲁棒性验证.随机平滑法利用了K-近邻分类器对高斯(Gauss)白噪声鲁棒的特点,获得了较为理想的鲁棒性验证效果.基准数据集上的实验结果表明,相比于最新的鲁棒神经网络,"随机平滑的"K-近邻分类器展现出了更好的验证鲁棒性.

关 键 词：监督学习  对抗机器学习  对抗鲁棒性  鲁棒性验证  K-近邻分类器  

分 类 号：TP181]