国际学术期刊《自然》最新发表一篇健康科学的聚焦究呼研究论文提醒，数据被用于训练医疗人工智能(AI)模型的医疗吁加个人，可能面临在网络攻击中被识别的模型风险。

　　这项研究表明，险最新健代表性不足群体面临的康研数据泄露风险可能更高。论文作者指出，强评当前的估和风险评估并未将这些群体纳入考量，因此，保护他们呼吁采取进一步的聚焦究呼风险缓解措施并实施严格的访问控制。

　　该论文介绍，医疗吁加医疗AI模型有望改善全球健康状况，模型特别是私风在缺乏专业人才的地区。然而，险最新健用于训练这些模型的康研敏感数据可能面临隐私攻击。攻击者利用成员推理攻击(MIA)来确定个人的数据是否被用于训练模型。通过此类攻击，可以推断出患者的医疗数据和私人信息。此前关于数据风险的研究主要基于整个数据集，并未考虑个体的风险。

　　论文第一作者和通讯作者、德国慕尼黑工业大学Moritz A. Knolle与同事及合作者开展了一项隐私审计，重点关注个人隐私风险，发现医疗AI模型可能对个人数据贡献者构成隐私风险。他们利用七个由真实临床数据组成的大型数据集，确定了数据贡献患者中最为脆弱的群体。

　　论文作者发现，在个人层面，成员推理攻击针对的目标几乎毫无差错地被成功识别出来；在群体层面，在数据集中被识别为代表性不足的群体，包括罕见病患者、少数族裔或社会经济地位较低的人群，以及性别较不常见的人群。

　　随着被AI模型编码的独特数据增多，研究发现这些群体和个人更加脆弱，且面临不成比例的隐私攻击风险。同时，成员推理攻击者攻击的成功率会随着模型容量和规模的增加而上升。

　　论文作者总结说，本项研究的这些发现表明，诸如成员推理攻击之类的隐私攻击在个体层面的精准打击效果，比目前普遍认为的更为显著。他们强调，隐私风险评估必须将个体风险纳入考量，并对易受攻击的模型提供进一步保护。