L'IA riesce a fare una cosa che per i medici umani è impossibile

I modelli di deep learning basati sull'intelligenza artificiale possono identificare l'etnia di un essere umano dai semplici dai raggi X, qualcosa che non riescono a fare perfino i medici. Questa nuova scoperta solleva preoccupazioni da parte degli esperti, a causa di possibili pregiudizi razziali nella diagnosi e nella valutazione e nel trattamento medico.

Tutto è iniziato quando un team di ricercatori ha addestrato la sua IA utilizzando centinaia di migliaia di immagini a raggi X esistenti etichettate con i dettagli dell'etnia del paziente. Effettivamente i ricercatori hanno "dato in pasto" all'IA le informazioni sugli esseri umani, ma l'obiettivo non era quello di riconoscerli durante gli esami.

Si è scoperto, tuttavia, che l'intelligenza artificiale è incredibilmente brava in questo. L'IA potrebbe prevedere l'identità etnica del paziente con sorprendente precisione, anche quando le scansioni sono state effettuate da persone della stessa età e dello stesso sesso. Sono stati raggiunti anche livelli del 90% di precisione con alcuni gruppi di immagini.

Gli scienziati non sono sicuri del motivo per cui il sistema di intelligenza artificiale è riuscito a identificare con una precisione così grande l'etnia da immagini che non contengono tali informazioni, almeno non in superficie. Anche quando vengono fornite informazioni limitate, rimuovendo ad esempio indizi sulla densità ossea o concentrandosi su una piccola parte del corpo, i modelli si sono comunque comportati sorprendentemente bene nell'indovinarla.

"La nostra scoperta indica che l'IA può prevedere con precisione l'etinia umana auto-riferita, anche da immagini mediche danneggiate, ritagliate e rumorose, spesso quando gli esperti clinici non possono. [Questo] crea un rischio enorme per tutte le implementazioni di modelli nell'imaging medico", scrivono i ricercatori.

Ciò normalmente non sarebbe un problema, ma poiché è noto che le IA attualmente tendono ad aver pregiudizi raziali a causa del set di immagini con cui vengono allenate (prevalentemente di etinica caucasica) potrebbe diventarlo.