针对医学人工智能产品的对抗测试技术平台设计

作     者：王光宇 蒋泽宇 杨国兴 石剑宇 刘晓鸿 WANG Guang-yu;JIANG Ze-yu;YANG Guo-xing;SHI Jian-yu;LIU Xiao-hong

作者机构：北京邮电大学信息与通信工程学院网络与交换技术国家重点实验室北京100876 清华大学计算机系北京100084 

基　　金：国家重点研发计划项目(2019YFB1404804) 国家自然科学基金项目(61906105,62272055) 

出 版 物：《医疗卫生装备》 (Chinese Medical Equipment Journal)

年 卷 期：2023年第44卷第1期

页      码：8-12页

摘      要：目的:设计针对医学人工智能产品的对抗测试技术平台,以为医学人工智能产品提供对抗测试方法、通用性能评价和不良事件监控。方法:该平台基于浏览器/服务器(Browser/Server,B/S)架构设计,采用MySQL数据库进行搭建。该平台主要包括数据集管理、人工智能产品模型管理和人工智能性能监控3个模块,其中数据集管理模块和人工智能产品模型管理模块均采用React框架进行搭建,人工智能性能监控模块基于Nodejs框架设计,包括对抗测试技术和性能动态追踪与风险预警2个子模块。结果:该平台可实现对不同模态的人工智能产品的对抗测试、通用性能评价和不良事件监控,能够为医学人工智能产品提供全方位的评价与分析。结论:该平台解决了目前医学人工智能产品检测薄弱的问题,能够满足医学人工智能产品检测需求和监管需求。

主 题 词：医学人工智能产品 对抗测试 对抗攻击 人工智能产品检测 

学科分类：0831[工学-公安技术类] 08[工学] 0835[0835] 0836[0836] 081202[081202] 0812[工学-测绘类] 

D　O　I：10.19745/j.1003-8868.2023002

馆 藏 号：203118565...