Saksa teadlased avaldasid ajakirjas Nature uuringu, mille kohaselt meditsiiniliste diagnooside seadmiseks kasutatavad tehisintellekti (AI) mudelid võivad paljastada patsiendid, kelle andmeid mudelite treenimiseks kasutati. Eriti haavatavad on diskrimineerivad mudelid, mida saab rünnata nn liikmesuse järeldamise rünnakutega (MIA), kus mudelilt päritakse, kas konkreetne andmepunkt kuulus treeningandmestikku.
Uurijad analüüsisid seitset meditsiinilist andmestikku, mis sisaldasid pilte, EKG-salvestusi ja elektroonilisi terviseandmeid. Tulemused näitasid, et üksikuid patsiente saab tuvastada peaaegu täiusliku täpsusega, mida senised ohutushinnangud ei kajasta, sest need mõõdavad ründe edukust koondnäitajana.
Veelgi murettekitavam on, et alaesindatud rühmad — rassi, kindlustusstaatuse, soo, kuvamisprotokolli või haiguse alusel — on veelgi kergemini tuvastatavad. Müncheni Tehnikaülikooli teadlase Moritz Knolle sõnul võib treeningandmestikku kuulumine paljastada tundlikke seisundeid nagu Huntingtoni tõbi või depressioon. Suuremad andmestikud suurendavad riski. Teadlased järeldavad, et AI privaatsusauditi standardeid tuleb muuta. Siiski eeldab rünnak, et ründajal on juba osa ohvri meditsiiniandmetest olemas.