L'IA è stranamente accurata anche con immagini mediche sfocate: ricercatori allarmati

Una nuova intelligenza artificiale medica, che analizzata le radiografie, è in grado di identificare la razza degli umani in un modo incredibilmente preciso... anche se non è questo il suo compito. I ricercatori sono particolarmente preoccupati di non essere riusciti a capire come i modelli di apprendimento abbiamo portato a questa funzione.

"Abbiamo ipotizzato che se il modello fosse in grado di identificare la razza di un paziente, suggerisce che i modelli avessero implicitamente imparato a riconoscere le informazioni razziali nonostante non fossero stati addestrati direttamente per quel compito", ha scritto il team nella loro ricerca pubblica sul server di prestampa Arxiv.

L'intelligenza artificiale, scoprono gli esperti, era in grado di prevedere con elevata precisione se i pazienti fossero stati neri, bianchi o asiatici... anche quando gli scienziati non ci riuscivano. Com'è possibile? Secondo gli esperti queste differenze potrebbero nascere a causa di alcune differenze regionali nei marcatori sulla scansione o dalle differenze del tessuto mammario o dell'osso.

La cosa più incredibile è che il software è riuscito ad identificare la razza dell'utente da immagini incredibilmente sfocate e con pochissimi pixel (addirittura 4x4). "Nel contesto dei dati di imaging a raggi X e TC, l'identità razziale del paziente è facilmente apprendibile dai soli dati di immagine, si generalizza a nuove impostazioni e può fornire un meccanismo diretto per perpetuare o addirittura peggiorare le disparità razziali che esistono nella pratica medica attuale".

Aldilà di tutto, l'intelligenza artificiale può essere utilizzate per scopi incredibili: come "prevedere il futuro" o ridare la voce a chi l'ha persa.