文献类型：期刊文章

作　　者：许志伟[1,2] 李海龙[2,3] 李博[2,3] 李涛[1,4] 王嘉泰[5] 谢学说[1] 董泽辉[1]

XU Zhiwei;LI Hailong;LI Bo;LI Tao;WANG Jiatai;XIE Xueshuo;DONG Zehui(Haihe Laboratory of Information Application Innovation,Tianjin 300350,China;Institute of Computing Technology,Chinese Academy of Sciences,Beijing 100080,China;College of Data Science and Application,Inner Mongolia University of Technology,Hohhot 010080,China;College of Computer Science,Nankai University,Tianjin 300350,China;OPPO Research Institute,Beijing 100026,China)

机构地区：[1]先进计算与关键软件(信创)海河实验室,天津300350 [2]中国科学院计算技术研究所,北京100080 [3]内蒙古工业大学数据科学与应用学院,呼和浩特010080 [4]南开大学计算机学院,天津300350 [5]OPPO研究院,北京100026

出　　处：《计算机科学与探索》

基　　金：国家自然科学基金地区项目(61962045,62272248);内蒙古青年科技英才支持项目(NJYT23104)。

年　　份：2024

卷　　号：18

期　　号：9

起止页码：2293-2325

语　　种：中文

收录情况：BDHX、BDHX2023、CSCD、CSCD2023_2024、DOAJ、INSPEC、JST、SCOPUS、ZGKJHX、核心刊

摘　　要：人工智能生成内容(AIGC)模型因出色的内容生成能力,在全球范围内引起了广泛关注与应用。然而AIGC大模型的快速发展也带来了一系列隐患,例如模型生成结果的可解释性、公平性和安全隐私等问题。为了降低不可知风险及其危害,对AIGC大模型进行全面测评变得越来越重要。学术界已经开启了AIGC大模型测评研究,旨在有效应对相关挑战,避免潜在的风险。对AIGC大模型测评研究进行了回顾,并对其进行了综述和分析。对模型测评过程进行概述,内容涵盖模型测评前准备和相应的测评指标,并系统性地整理了现有测评基准。讨论了AIGC大模型在金融、政治和医疗领域的代表性应用及其存在的问题。通过可解释性、公平性、鲁棒性、安全性和隐私性等不同角度深入研究测评方法,对AIGC大模型测评需要关注的新问题进行解构,提出大模型测评新挑战的应对策略。最后探讨了AIGC大模型测评未来面临的挑战,并展望了其发展方向。

关 键 词：AIGC大模型  大模型测评  可解释性 公平性  鲁棒性 安全与隐私保护  

分 类 号：TP18] TP311.31]