可信人工智能系统的质量属性与实现:三级研究*李功源1,2,刘博涵1,2,杨雨豪1,2,邵栋1,21(南京大学软件学院,江苏南京210023)2(计算机软件新技术国家重点实验室(南京大学),江苏南京210023)通信作者:刘博涵,E-mail:bohanliu@nju.edu.cn摘要:人工智能系统以一种前所未有的方式,被广泛地用于解决现实世界的各种挑战,其已然成为推动人类社会发展的核心驱动力.随着人工智能系统在各行各业的迅速普及,人们对人工智能系统的可信性愈发感到担忧,其主要原因在于,传统软件系统的可信性已不足以完全描述人工智能系统的可信性.对于人工智能系统的可信性的研究,具有迫切需要.目前已有大量相关研究,且各有侧重,但缺乏一个整体性、系统性的认识.研究是一项以现有二级研究为研究对象的三级研究,旨在揭示人工智能系统的可信性相关的质量属性和实践的研究现状,建立一个更加全面的可信人工智能系统质量属性框架.收集、整理和分析2022年3月前发表的34项二级研究,识别21种与可信性相关的质量属性及可信性的度量方法和保障实践.研究发现,现有研究主要关注在安全性和隐私性上,对于其他质量属性缺乏广泛且深入的研究.对于需要跨学科协作的两个研究方向,需要在未来的研究中引起重视,一方面是人工智能系统本质上还是一个软件系统,其作为一个软件系统的可信值得人工智能和软件工程专家合作研究;另一方面,人工智能是人类对于机器拟人化的探索,如何从系统层面保障机器在社会环境下的可信,如怎样满足人本主义,值得人工智能和社会科学专家合作研究.关键词:人工智能系统;可信;质量属性;实践中图法分类号:TP18中文引用格式:李功源,刘博涵,杨雨豪,邵栋.可信人工智能系统的质量属性与实现:三级研究.软件学报,2023,34(9):3941–3965.http://www.jos.org.cn/1000-9825/6875.htm英文引用格式:LiGY,LiuBH,YangYH,ShaoD.QualityAttributesandPracticesofTrustworthyArtificialIntelligenceSystems:ATertiaryStudy.RuanJianXueBao/JournalofSoftware,2023,34(9):3941–3965(inChinese).http://www.jos.org.cn/1000-9825/6875.htmQualityAttributesandPracticesofTrustworthyArtificialIntelligenceSystems:ATertiaryStudyLIGong-Yuan1,2,LIUBo-Han1,2,YANGYu-Hao1,2,SHAODong1,21(SoftwareInstitute,NanjingUniversity,Nanjing210023,China)2(StateKeyLaboratoryforNovelSoftwareTechnology(NanjingUniversity),Nanjing210023,China)Abstract:Artificialintelligencesystemsarewidelyusedtosolvev...
