文献类型：期刊文章

作　　者：郭佳楠[1,2] 陈婉莹[3]

Guo Jianan;Chen Wanying(College of Marxism,Zhengzhou Technology and Business University,Henan,Zhengzhou,450000;Digital Humanities Research Center,Renmin University of China,Beijing,100872;College of Marxism,Zhoukou Normal University,Henan,Zhoukou,466001)

机构地区：[1]郑州工商学院马克思主义学院,河南郑州450000 [2]中国人民大学数字人文研究中心,北京100872 [3]周口师范学院马克思主义学院,河南周口466001

出　　处：《科技智囊》

基　　金：国家社科基金重点项目“大数据背景下的集体记忆与政治认同研究”(项目编号:22AKS013);2023年度河南省社科联调研课题“当代新兴ChatGPT技术的伦理风险及其治理路径研究”(项目编号:SKL-2023-252);郑州工商学院科研创新项目“基于ChatGPT类生成式人工智能的红色文化传播现状与策略研究”(项目编号:2023-KYZD-01);2023年度郑州工商学院校级教育教学改革研究重点项目“中国特色工匠精神视域下民办高校大学生创新能力培养策略研究”(项目编号:GSJG2023003)研究成果。

年　　份：2023

期　　号：11

起止页码：42-52

语　　种：中文

收录情况：NSSD、RWSKHX、普通刊

摘　　要：大数据时代下,以ChatGPT为代表的生成式人工智能的发展蕴含着技术革命的契机,也可能带来潜在的社会风险。为了鼓励生成式人工智能技术的创新发展并规避其所带来的安全风险,需要积极提出并构建起生成式人工智能技术的安全风险防范策略。以当代新兴生成式人工智能技术为研究对象,遵循系统性文献综述法的范式,阐释生成式人工智能技术的内涵及其运行机理,进一步提出生成式人工智能技术的安全风险可以概括为思想风险、社会安全风险、政府建设与治理风险、政治安全风险。这种类型划分不仅印证了该技术社会影响的全面性,也揭示了风险生成的内在机理。在此基础之上文章还考察了生成式人工智能技术安全风险产生的原因,主要包括:算法强化人类偏见,算法霸权的崛起,人机关系的倒置与人类自我质疑。为了构建负责任性、有预见性的生成式人工智能技术安全风险防范策略,应坚持从加强党的领导、强化政府责任、推动社会协同、增强法治保障方面实现对技术安全风险的长效治理,以期为服务国家治理体系和能力现代化建设提供参考。

关 键 词：ChatGPT  生成式人工智能  预训练模型  安全风险  防范策略  

分 类 号：D0[政治学类]