文献类型：期刊文章

作　　者：杨斌[1] 李成华[1] 江小平[1] 石鸿凌[1]

YANG Bin;LI Chenghua;JIANG Xiaoping;SHI Hongling(Hubei key Laboratory of Intelligent Wireless Communications,College of Electronic and Information Engineering,South⁃Central University for Nationalities,Wuhan 430074,China)

机构地区：[1]中南民族大学电子信息工程学院智能无线通信湖北省重点实验室

出　　处：《中南民族大学学报（自然科学版）》

基　　金：湖北省自然科学基金资助项目(2019CFC924);中央高校基本科研业务费专项资金资助项目(CZY17001)

年　　份：2020

卷　　号：39

期　　号：1

起止页码：74-78

语　　种：中文

收录情况：AJ、CAS、CSA-PROQEUST、IC、JST、RCCSE、ZGKJHX、普通刊

摘　　要：针对现有深度学习分类模型存在由标签边缘化效应引起的过拟合问题,提出了一种新的正则化损失函数--得分聚类损失函数.该函数为每个类别学习一个得分中心,将同类别样本的得分向得分中心聚集.得分中心经过softmax函数归一化后的概率向量,即为最佳的平滑标签.该函数避免了根据经验手工设置标签平滑系数,起到了自动平滑标签的作用,从而减轻了模型过拟合的风险.给出了得分聚类损失函数的定义和推导,并在刚性和非刚性图像分类任务上与其他正则化损失函数进行了实验比较.实验结果表明,应用本文的得分聚类损失函数能显著提高分类模型的准确率.

关 键 词：深度学习模型  正则化损失函数  过拟合 标签平滑  

分 类 号：TP391.4]