·医疗卫生装备·2023年1月第44卷第1期ChineseMedicalEquipmentJournal·Vol.44·No.1·January·2023针对医学人工智能产品的对抗测试技术平台设计王光宇1,蒋泽宇1,杨国兴1,石剑宇1,刘晓鸿2(1.北京邮电大学信息与通信工程学院网络与交换技术国家重点实验室,北京100876;2.清华大学计算机系,北京100084)[摘要]目的:设计针对医学人工智能产品的对抗测试技术平台,以为医学人工智能产品提供对抗测试方法、通用性能评价和不良事件监控。方法:该平台基于浏览器/服务器(Browser/Server,B/S)架构设计,采用MySQL数据库进行搭建。该平台主要包括数据集管理、人工智能产品模型管理和人工智能性能监控3个模块,其中数据集管理模块和人工智能产品模型管理模块均采用React框架进行搭建,人工智能性能监控模块基于Nodejs框架设计,包括对抗测试技术和性能动态追踪与风险预警2个子模块。结果:该平台可实现对不同模态的人工智能产品的对抗测试、通用性能评价和不良事件监控,能够为医学人工智能产品提供全方位的评价与分析。结论:该平台解决了目前医学人工智能产品检测薄弱的问题,能够满足医学人工智能产品检测需求和监管需求。[关键词]医学人工智能产品;对抗测试;对抗攻击;人工智能产品检测[中国图书资料分类号]R318;R197.39;TP313[文献标志码]A[文章编号]1003-8868(2023)01-0008-05DOI:10.19745/j.1003-8868.2023002DesignofadversarialtestingtechnologyplatformformedicalartificialintelligenceproductsWANGGuang-yu1,JIANGZe-yu1,YANGGuo-xing1,SHIJian-yu1,LIUXiao-hong2(1.StateKeyLaboratoryofNetworkingandSwitchingTechnology,SchoolofInformationandCommunicationEngineering,BeijingUniversityofPostsandTelecommunications,Beijing100876,China;2.DepartmentofComputerScienceandTechnology,TsinghuaUniversity,Beijing100084,China)AbstractObjectiveTodesignanadversarialtestingtechnologyplatformtorealizeadversarialtesting,generalperformanceevaluationandadverseeventmonitoringformedicalartificialintelligence(AI)products.MethodsAnadversarialtestingtechnologyplatformwasdevelopedbasedonBrowser/Server(B/S)architectureandMySQLdatabase.Therewerethreemodulesfordatasetmanagement,AIproductmodelmanagementandAIperformancemonitoringinvolvedintheplatform.ThedatasetmanagementmoduleandAIproductm...