Uomo potrebbe essere finito in carcere ingiustamente a causa dell'IA

L'intelligenza artificiale è una tecnologia destinata a far discutere. C'è chi dice che è capace di prendere vita e chi sostiene che presto "diventerà Dio", ma sicuramente una cosa è certa: in futuro sarà sempre più utilizzata. Adesso Michael Williams, residente di Chicago, ha intentato una causa contro la città proprio per questo motivo.

Secondo quanto dichiarato, infatti, un controverso programma di intelligenza artificiale chiamato ShotSpotter ha portato al suo arresto senza prove. In poche parole, la causa federale sostiene che gli agenti abbiano riposto "cieca fiducia" nella tecnologia di localizzazione degli spari (guidata dall'IA) che, oltre a portare a un arresto ingiusto, alla fine ha impedito alla polizia di cercare altre piste.

Se la causa dovesse essere vita da Williams, la città di Chicago - tra le altre cose - potrebbe dover interrompere tutte le attività di ShotSpotter, software costato 33 milioni di dollari. L'intelligenza artificiale non sembra essere perfetta: un rapporto del 2021 affermava che l'89% degli avvisi di ShotSpotter mancasse di prove in loco, mentre un'indagine di Vice ha accusato il software di discriminazione razziale.

La causa sostiene che gli investigatori abbiano utilizzato il materiale del software in un modo che andava oltre l'uso previsto, poiché gli stessi sviluppatori consigliano l'utilizzo del programma per indagini iniziali, non per prove compromettenti. Il caso in questione è sicuramente particolare e, come accade spesso in queste situazioni, c'è sicuramente bisogno di sentire la versione di ambo le parti. Tuttavia questo evento è affascinante perché potrebbe essere il primo di una lunga serie.