《自然》发文提示：用个人数据训练医疗AI有泄露隐私的风险
原标题：《自然》发文提示：用个人数据训练医疗AI有泄露隐私的风险
发表在24日《自然》杂志的一篇研究论文发现，如果个人数据被用于训练医疗AI模型，那他可能面临在网络攻击中被识别的风险，且代表性不足群体个人信息泄露风险更高。研究认为，当前的风险评估并未将这些群体纳入考量，因此呼吁采取进一步措施以缓解并实施严格的访问控制。
医疗AI模型有望改善全球健康状况，特别是在缺乏专业人才的地区。然而，用于训练这些模型的敏感数据可能面临隐私攻击。攻击者利用成员推理攻击（MIA）来确定个人的数据是否被用于训练模型。通过此类攻击，可以推断出患者的医疗数据和私人信息。此前关于数据风险的研究主要基于整个数据集，并未考虑个体的风险。
德国慕尼黑工业大学研究团队开展了一项隐私审计，重点关注个人隐私风险，发现医疗AI模型可能对个人数据贡献者构成隐私风险。研究人员利用7个由真实临床数据（包括医学影像、心电图和电子健康记录）组成的大型数据集，确定了数据贡献患者中最为脆弱的群体。
研究发现，在个人层面，MIA针对的目标几乎毫无差错地被成功识别出来。在群体层面，在数据集中被识别为代表性不足的群体包括罕见病患者、少数族裔或社会经济地位较低的人群等。随着被AI模型编码的独特数据增多，研究发现这些群体和个人更加脆弱，且面临不成比例的隐私攻击风险。研究同时发现，MIA攻击的成功率，会随着模型容量和规模的增加而上升。
研究人员表示，诸如MIA之类的隐私攻击，在个体层面的精准打击效果，比目前普遍认为的更为显著。他们总结称，隐私风险评估必须将个体风险纳入考量，并对易受攻击的模型提供进一步保护。
免责声明：本站所有文章和图片均来自用户分享和网络收集，文章和图片版权归原作者及原出处所有，仅供学习与参考，请勿用于商业用途，如果损害了您的权利，请联系网站客服处理。
相关文章
-
“五一”假期旅游账单出炉：安岳县吸金超1
原标题：“五一”假期旅游账单出炉：安岳县吸金超1亿元 四川新闻网-首屏新闻资阳5月5日讯（吴双桂 艾兰花 记者 杨颜铭）5月5日，记者从资阳市安岳县获悉，“五一
2026-10-16 -
北京中小学入学信息采集今起开始 各区出新
原标题：北京中小学入学信息采集今起开始 各区出新招给“择校”降温 5月5日至31日，本市将进行小学和初中入学信息采集，学生家长应在规定时间内进行网上信息填报和确
2026-10-15 -
五一小长假广铁发送旅客453万人次，客流
原标题：五一小长假广铁发送旅客453万人次，客流总体平稳有序 记者从广铁集团获悉，今年“五一”假期，广铁集团发送旅客452.6万人次，其中高铁发送380万人次，
2026-10-15 -
上海加强各类场所环境清洁消杀监督检查
原标题：上海加强各类场所环境清洁消杀监督检查 东方网记者柏可林5月1日报道：上海市城管执法局发动全系统力量，持续推进开展社区、商场、建筑工地、农贸市场、公共场
2026-10-15 -
五一好去处 安逸走四川｜ 航天游丰富旅游
原标题：五一好去处 安逸走四川｜ 航天游丰富旅游新业态 “行西南旅游体验官”走进冕宁 四川新闻网成都4月29日讯（记者 戴璐岭）为弘扬中国航天精神，推动冕宁县域
2026-10-15
