2023，59（13）人工智能技术正加速应用于军事领域，各型具备自主检测、识别能力的无人作战平台相继问世，深刻改变了传统战争模式。在深度学习技术支持下，无人作战平台采用智能识别算法，能够自主地提取目标图像的代表特征，自动判断其类别，可以代替战士完成目标识别和定位任务。针对目标智能识别算法精度不断提高，着眼打赢未来智能化战争，围绕争夺战场“制智权”，开展针对性的智能识别对抗算法研究迫在眉睫。有研究表明，因微小扰动而产生的对抗样本[1-5]，会引发智能识别算法性能下降，导致其输出错误判断结果。同时，对抗样本经过喷涂[6]、打印[7-8]、照射[9]、投影[10]处理后，仍具备较强的干扰性和攻击性。智能识别对抗算法即利用智能识别算法的脆弱性，采用生成对抗样本的方式，干扰和压制[11]智能算法性能，降低其识别精度，达成“反智”效果。另一方面，通过设计指定干扰模式的对抗样本，测试神经网络模型内部运行机理，可以精准定位智能算法薄弱环节[5，12]，为提高智能识别对抗算法攻击准确性提供支撑。当前，部分学者对智能识别对抗算法的发展现状进行了梳理和总结，如文献[13]和[14]将相关算法划分为7个类别，并介绍代表算法的基本原理；文献[15]和[16]采用二级分类的方式，从扰动添加范围和攻击模式两个方黑盒攻击智能识别对抗算法研究现状魏健，宋小庆，王钦钊陆军装甲兵学院兵器与控制系，北京100071摘要：智能识别对抗算法是深度学习领域一个全新的研究方向，获得越来越多的关注。介绍针对目标识别技术的黑盒攻击智能识别对抗算法的工作流程和主要环节，从算法原理、代价函数、攻击性能和应用场景等方面进行综述：分析开展黑盒攻击对训练数据和模型的条件需求及运用策略，归纳基于数据和基于代理模型开展智能识别对抗算法的原理及优缺点；从提高攻击有效性、增强攻击泛化性、降低模型迭代次数和拓展对抗样本应用场景角度，剖析基于代理模型的智能识别对抗算法研究进展，即多样化代价函数、集成训练模型、优化参数更新空间、改进参数更新策略等手段在对抗样本生成过程中的作用；以攻击人脸识别系统、自动驾驶系统和追踪系统为典型应用场景，梳理算法现实应用情况；以军事应用为背景，探讨开展黑盒攻击智能识别对抗算法研究面临的困难挑战及解决方案。关键词：黑盒攻击；对抗样本；生成对抗网络；代理模型文献标志码：A中图分类号：TP18doi：10.3778/j.issn.1002-8331.2210-0470ResearchStatusofBlack-BoxIntelligentAdversarial...
