N0 生成式人工智能对个人信息安全的挑战及应对策略武林娜1,2宋恺1,2王淞鹤1,2(1.中国信息通信研究院泰尔终端实验室,北京100191;2.移动应用创新与治理技术工业和信息化部重点实验室,北京100191)摘要:基于生成式人工智能的强通用能力、交互能力和生成能力,结合当前产业现状,总结了面向用户的生成式人工智能服务具有服务形态多元、交互方式革新、服务模式复杂的特点,梳理了生成式人工智能技术应用对个人信息安全带来的全方位影响及生成式人工智能模型本身带来的挑战。在此基础上,从监管治理、标准规范、企业管理层面给出提升个人信息安全的具体建议和方案。关键词:生成式人工智能;人工智能;个人信息安全;大模型中图分类号:D922.16文献标志码:A引用格式:武林娜,宋恺,王淞鹤.生成式人工智能对个人信息安全的挑战及应对策略[J].信息通信技术与政策,2024,50(1):13-18.DOI:10.12267/j.issn.2096-5931.2024.01.0030引言生成式人工智能(ArtificialIntelligence,AI)基于训练数据以及用户提示词创建新内容的能力,在教育、娱乐、医疗保健和科学研究等多个领域提供变革潜力,激发起前所未有的关注度和创造力浪潮,引发公众、学术和政府层面的广泛讨论[1-3]。生成式AI作为AI演化过程中的重要突破,为引领产业革新和数字化变革奠定了坚实的基础。根据麦肯锡报告,生成式AI每年或将为全球GDP增加2.6万亿~4.4万亿美元。生成式AI表现出较强的通用、交互和生成能力,在创新服务形态、增强人机交互、丰富产品生态等方面给产业界带来深刻影响。区别于以往常应用于图像识别、推荐系统、语音识别等任务的决策式AI[4],生成式AI可以完成更加自然的对话、更加快速的内容创建,具有更强的逻辑和组织能力[5],实现了从简单感知到内容创造的跃迁,是迈向通用AI的重要技术探索。生成式AI在文本、图像、代码、音频、视频和3D模型等领域展现出强大的能力,可处理和关联多种模态的多源异构数据,实现跨模态任务处理,如给定文本生成一段对应的声音、图像/视频与文本的相互检索或生成等。生成式AI实现了高质量、高效率、多样化的内容生产,能够实现信息的快速收集、筛选、整合和推理,可作为技术底座,垂直应用于各产业和复杂场景,重塑和影响未来生活。2023年3月,意大利个人数据保护局对外宣称,ChatGPT平台已出现用户对话数据和支付信息泄露情况,故而宣布封锁ChatGPT[4]。各国政府普遍认识到生成式AI的变革性影响,正积极应对由此带来的风险挑战。根据经济合作与发展组织(OrganizationforEconomicCo-ope...
