Il MIT di Toronto contro il riconoscimento facciale di Amazon: "è razzista"

Il MIT di Toronto contro il riconoscimento facciale di Amazon: 'è razzista'
di

Guai per il riconoscimento facciale Amazon Rekognition, secondo i ricercatori del MIT di Toronto avrebbe dei problemi con le minoranze: donne e neri non riconosciute bene dall'IA. Si parla di razzismo, ma è tutto fuorché una scelta dell'azienda, anzi si tratta di un problema comune a molte IA.

Il riconoscimento facciale di Amazon farebbe difficoltà a riconoscere donne e persone di colore. Con le donne ha un tasso di insuccesso del 7.1%, con le donne di colore, e con le ispaniche addirittura farebbe confusione (scambiandole per uomini) una volta su tre. Male anche il riconoscimento degli uomini di colore, l'IA di Amazon fa errori nell'1.3% dei casi.

Ovviamente le AI non possono essere razziste, né lo sono le persone che le sviluppano in linea di massima. Ma Amazon avrebbe potuto fare più attenzione. Una IA non è niente di più che i dati con cui è stata sfamata dai suoi programmatori, e un problema noto dagli addetti ai settori è la sovra-rappresentazione degli uomini bianchi nella stragrande maggioranza di database di immagini normalmente utilizzati dagli sviluppatori per addestrare le loro intelligenze artificiale.

È per questo motivo che spesso capita che le IA, nel riconoscere le persone, si dimostrino pressoché infallibili con gli uomini bianchi, e facciano molto peggio con le minoranze, meno presenti nei database divorati progressivamente dalle IA per imparare a migliorarsi.

Matt Wood, a capo della divisone IA di Amazon, ad ogni modo, ha contestato il risultato della ricerca del MIT, dicendo che il team di accademici avrebbe usato la funzione analisi facciale, e non quella di riconoscimento facciale. La prima non cerca una corrispondenza tra due volti, verificando le identità, ma semplicemente riconosce alcune qualità di un volto, come la carnagione, il sesso e l'età. Ovviamente si tratta di una cosa più difficile, e che, quindi, si presta a maggiori errori.

Quanto è interessante?
6