登录    注册    忘记密码

期刊文章详细信息

基于BERT-BiGRU-Attention的在线健康社区用户意图识别方法    

An online health community user intention identification method based on BERT-BiGRU-Attention

  

文献类型:期刊文章

作  者:迟海洋[1,2] 严馨[1,2] 周枫[1,2] 徐广义[3] 张磊[1,2]

CHI Haiyang;YAN Xin;ZHOU Feng;XU Guangyi;ZHANG Lei(Faculty of Information Engineering and Automation,Kunming University of Science and Technology,Kunming,Yunnan 650500,China;Yunnan Key Laboratory of Artificial Intelligence,Kunming University of Science and Technology,Kunming,Yunnan 650500,China;Yunnan Nantian Electronic Information Industry Company Limited,Kunming,Yunnan 650040,China)

机构地区:[1]昆明理工大学信息工程与自动化学院,云南昆明650500 [2]昆明理工大学云南省人工智能重点实验室,云南昆明650500 [3]云南南天电子信息产业股份有限公司,云南昆明650040

出  处:《河北科技大学学报》

基  金:国家自然科学基金(61562049,61462055)。

年  份:2020

卷  号:41

期  号:3

起止页码:225-232

语  种:中文

收录情况:AJ、CAS、DOAJ、JST、PROQUEST、RCCSE、ZGKJHX、普通刊

摘  要:针对传统用户意图识别主要使用基于模板匹配或人工特征集合方法导致成本高、扩展性低的问题,提出了一种基于BERT词向量和BiGRU-Attention的混合神经网络意图识别模型。首先使用BERT预训练的词向量作为输入,通过BiGRU对问句进行特征提取,再引入Attention机制提取对句子含义有重要影响力的词的信息以及分配相应的权重,获得融合了词级权重的句子向量,并输入到softmax分类器,实现意图分类。爬取语料实验结果表明,BERT-BiGRU-Attention方法性能均优于传统的模板匹配、SVM和目前效果较好的CNN-LSTM深度学习组合模型。提出的新方法能有效提升意图识别模型的性能,提高在线健康信息服务质量、为在线健康社区问答系统提供技术支撑。

关 键 词:自然语言处理 意图识别 在线健康社区  BERT词向量  BiGRU  Attention机制  

分 类 号:TP391]

参考文献:

正在载入数据...

二级参考文献:

正在载入数据...

耦合文献:

正在载入数据...

引证文献:

正在载入数据...

二级引证文献:

正在载入数据...

同被引文献:

正在载入数据...

版权所有©重庆科技学院 重庆维普资讯有限公司 渝B2-20050021-7
 渝公网安备 50019002500408号 违法和不良信息举报中心