DOI：10.13766/j.bhsk.1008−2204.2023.0336编者按：2023年，研究机构OpenAI发布的ChatGPT聊天机器人掀起了人工智能的新一轮浪潮。当前，中国正在积极探索人工智能发展的新模式、新路径，在对标ChatGPT大模型的基础上，着力构建开源框架和通用大模型的应用生态。ChatGPT受到了来自法学、数学、计算机科学与技术、网络空间安全、软件工程、语言学、哲学等多个学科的广泛关注，由此引发了如何认识ChatGPT、ChatGPT会给社会带来哪些机遇和挑战、应该对ChatGPT采取何种治理方案等诸多问题。针对上述问题，本刊特邀五位青年学者，从交叉学科视角出发，针对人工智能发展的新趋势及其潜在的技术安全风险，探讨ChatGPT对中国人工智能产业的影响方式和借鉴意义，以期为推动中国人工智能产业良性、高效发展助力。ChatGPT：挑战、发展与治理赵精武，王鑫，李大伟，刘艾杉，周号益（北京航空航天大学，北京100083）中图分类号：TP18文献标志码：C文章编号：1008−2204（2023）02−0188−05ChatGPT背后的技术安全风险及其应对路径生成型预训练变换模型（ChatGegerativePre-trainedTransformer，ChatGPT）因其强大的功能而爆火出圈，无论是短文撰写、新闻编辑，还是代码编写、时事点评，ChatGPT均能胜任。因此，国内外市场对于ChatGPT所代表的人工智能产业抱有较高的期待。部分专家甚至认为，ChatGPT能够通过取代人类完成部分重复性、模块化的工作任务，进而对社会人力资源分配和产业结构优化产生直接的推动效用。然而，技术创新从来都是与风险相伴的，ChatGPT也不例外−ChatGPT一旦被滥用，虚假信息泛滥、用户数据泄露、内嵌的算法歧视以及知识产权侵权等一系列风险也将随之而至。以网络安全风险为例，ChatGPT的自动编写代码功能在提升代码编写效率的同时，也会被黑客用于辅助编写恶意代码，网络安全态势势必更加严峻。具体表现为：其一，ChatGPT的代码编写功能将拓展黑客攻击的技术工具，使得原有的网络攻击呈现更加庞大的规模化趋势。ChatGPT能够辅助黑客高效完成恶意软件的编写，如此一来，黑客针对关键信息基础设施进行有组织、有规模的网络安全攻击的频次将会增加。同时，过去以大型企业为主要目标的攻击模式可能转变为囊括大中小型企业的攻击模式。其二，ChatGPT的信息编写功能能够辅助网络诈骗分子生成规模化、低成本的网络钓鱼软件，并且生成的诈骗信息具有智能化特征，使得被诈骗者识别信息真伪的难度进一步增加。其三，ChatGPT的信息编写功能可能会导...
