L’intelligenza artificiale (AI) in campo medico ha la possibilità di automatizzare le diagnosi, ridurre il carico di lavoro dei medici e persino di portare assistenza sanitaria specializzata alle persone nelle aree rurali o nei paesi in via di sviluppo. Tuttavia, queste potenzialità sono accompagnate anche da possibili rischi.
Analizzando set di dati crowd-sourced utilizzati per creare algoritmi di intelligenza artificiale da immagini mediche, i ricercatori della University of Maryland School of Medicine (UMSOM) hanno scoperto che la maggior parte non includeva i dati demografici dei pazienti. Nello studio pubblicato il 3 aprile su Nature Medicine, i ricercatori hanno anche scoperto che gli algoritmi non valutavano nemmeno i pregiudizi intrinseci. Ciò significa che non hanno modo di sapere se queste immagini contengono campioni rappresentativi della popolazione come neri, asiatici e indigeni americani.
Secondo i ricercatori, gran parte della medicina negli Stati Uniti è già piena di parzialità verso determinate razze, generi, età o orientamenti sessuali. Piccoli pregiudizi nei singoli set di dati potrebbero essere amplificati notevolmente quando centinaia o migliaia di questi set di dati sono combinati in questi algoritmi.
Larga parte dei dati raccolti in grandi studi tende a provenire da persone con mezzi che hanno un accesso relativamente facile all’assistenza sanitaria. Negli Stati Uniti, ciò significa che i dati tendono ad essere distorti verso gli uomini rispetto alle donne e verso i bianchi piuttosto che neri, asiatici, ispanici e indigeni americani. Poiché gli Stati Uniti tendono a eseguire più diagnosi per immagini rispetto al resto del mondo, questi dati vengono compilati in algoritmi che hanno il potenziale per distorcere i risultati in tutto il mondo.
Per il presente studio, i ricercatori hanno studiato algoritmi di imaging medico, come quelli che valutano le scansioni TC per diagnosticare tumori cerebrali o coaguli di sangue nei polmoni. Dei23 insiemi di dati analizzati, il 61% non includeva dati demografici come età, sesso o razza.
Man mano che i modelli di intelligenza artificiale diventeranno più diffusi nella diagnostica per immagini e in altri campi della medicina, spiegano i ricercatori, sarà importante identificare e affrontare potenziali pregiudizi che possono esacerbare le disuguaglianze sanitarie esistenti nell’assistenza clinica
