Esperti di IA chiedono di non studiare algoritmi per prevedere i crimini

L’utilizzo dell’intelligenza artificiale e degli algoritmi per prevedere la criminalità dei cittadini, non avendo letteratura scientifica adeguata alla base, risulta controverso a molti esperti di IA. Per questo, una coalizione di ricercatori ha chiesto al mondo accademico di non pubblicare più studi a favore di questa tecnologia.

Questa coalizione chiamata Coalition for Critical Technology ha chiamato in causa i colleghi che svolgono ricerche in materia per convincerli a concludere tali studi per sempre. L’ambito della criminalità e degli algoritmi che cercano di prevederla infatti risulta spesso soggetto a bias che finiscono per trattare diversamente i vari gruppi sociali in base al colore della pelle o pregiudizi di altro tipo.

Come scritto dalla coalizione in una lettera su Medium firmata da 1700 esperti, “non esiste alcun modo per sviluppare un sistema in grado di prevedere la criminalità senza che questo meccanismo sia soggetto a bias, proprio perché la nozione di criminalità è naturalmente soggetta a pregiudizi. Ricerche in questo ambito non possono essere neutrali”.

Questa lettera è stata scritta in seguito all’annuncio da parte della casa editrice Springer, il publisher più grande al mondo di libri accademici, di pubblicare anche studi su questo settore. Tra questi, quello d’interesse della coalizione è A Deep Neural Network Model to Predict Criminality Using Image Processing, dove diversi ricercatori sostengono di poter creare un algoritmo per il riconoscimento facciale in grado di prevedere se qualcuno è un criminale o meno con precisione fino all’80% e senza alcun bias.

In seguito alla richiesta della Coalition for Critical Technology, Springer avrebbe deciso di non pubblicare più questa ricerca, che una volta sottoposta a peer review sarebbe risultata inattendibile. La scelta da parte della coalizione di agire durante le proteste di Black Lives Matter, che hanno coinvolto anche aziende come Google, probabilmente è casuale. La risonanza mediatica, però, proprio grazie a questi fatti potrebbe essere maggiore.