·医疗卫生装备·2023年1月第44卷第1期ChineseMedicalEquipmentJournal·Vol．44·No．1·January·2023针对医学人工智能产品的对抗测试技术平台设计王光宇1，蒋泽宇1，杨国兴1，石剑宇1，刘晓鸿2（1.北京邮电大学信息与通信工程学院网络与交换技术国家重点实验室，北京100876；2.清华大学计算机系，北京100084）[摘要]目的：设计针对医学人工智能产品的对抗测试技术平台，以为医学人工智能产品提供对抗测试方法、通用性能评价和不良事件监控。方法：该平台基于浏览器/服务器（Browser/Server，B/S）架构设计，采用MySQL数据库进行搭建。该平台主要包括数据集管理、人工智能产品模型管理和人工智能性能监控3个模块，其中数据集管理模块和人工智能产品模型管理模块均采用React框架进行搭建，人工智能性能监控模块基于Nodejs框架设计，包括对抗测试技术和性能动态追踪与风险预警2个子模块。结果：该平台可实现对不同模态的人工智能产品的对抗测试、通用性能评价和不良事件监控，能够为医学人工智能产品提供全方位的评价与分析。结论：该平台解决了目前医学人工智能产品检测薄弱的问题，能够满足医学人工智能产品检测需求和监管需求。[关键词]医学人工智能产品；对抗测试；对抗攻击；人工智能产品检测[中国图书资料分类号]R318；R197.39；TP313[文献标志码]A[文章编号]1003-8868（2023）01-0008-05DOI：10.19745/j.1003-8868.2023002DesignofadversarialtestingtechnologyplatformformedicalartificialintelligenceproductsWANGGuang-yu1,JIANGZe-yu1,YANGGuo-xing1,SHIJian-yu1,LIUXiao-hong2(1.StateKeyLaboratoryofNetworkingandSwitchingTechnology,SchoolofInformationandCommunicationEngineering,BeijingUniversityofPostsandTelecommunications,Beijing100876,China;2.DepartmentofComputerScienceandTechnology,TsinghuaUniversity,Beijing100084,China)AbstractObjectiveTodesignanadversarialtestingtechnologyplatformtorealizeadversarialtesting,generalperformanceevaluationandadverseeventmonitoringformedicalartificialintelligence(AI)products.MethodsAnadversarialtestingtechnologyplatformwasdevelopedbasedonBrowser/Server(B/S)architectureandMySQLdatabase.Therewerethreemodulesfordatasetmanagement,AIproductmodelmanagementandAIperformancemonitoringinvolvedintheplatform.ThedatasetmanagementmoduleandAIproductm...
