Il riconoscimento facciale di Amazon ha scambiato 27 politici per dei criminali, di nuovo

Il riconoscimento facciale di Amazon ha scambiato 27 politici per dei criminali, di nuovo
di

Altro fail per il riconoscimento facciale di Amazon, Rekognition. Dovrebbe servire alle forze dell'ordine per rintracciare i criminali a piede libero, ma per il momento ha fatto cilecca in troppe occasioni. Un nuovo test della ACLU mostra l'inefficacia del software: ha scambiato dei politici americani per dei criminali schedati dalla polizia.

È la seconda volta che Rekognition fallisce un test del genere, già in passato, durante un altro test, il software identificò erroneamente 28 membri del Congresso come criminali schedati. In quell'occasione si era aperto un dibattito sulla pericolosità del software di riconoscimento facciale di Amazon per le minoranze.

Il software fatica molto di più con le persone di colore, e anche molti dei membri del Congresso scambiati per criminali appartengono a delle minoranze. I limiti di Rekognition con le persone appartenenti alla minoranza afroamericana erano già emersi durante un altro studio del MIT di Toronto.

Ad Orlando il tentativo di testare il tool di Amazon ha avuto un esito disastroso.

L'ACLU, organizzazione di primo piano che si batte per i diritti civili, ha dato in pasto a Rekognition le foto di 120 politici californiani. Con 26 falsi positivi, il software si ingannerebbe nel 20% dei casi. Una percentuale piuttosto alta per uno strumento così delicato.

Da un punto di vista tecnico, non siamo ancora pronti ad affidare le funzioni di polizia ad uno strumento di riconoscimento facciale. Da un punto di vista etico, forse non lo saremo mai.

Quanto è interessante?
5