Questa IA ha fatto dimettere un governo e ha creato il caos nei Paesi Bassi

Questa IA ha fatto dimettere un governo e ha creato il caos nei Paesi Bassi
di

Nel 2012 il governo dei Paesi Bassi ha deciso di utilizzare l'intelligenza artificiale per fare quello che gli riesce meglio: analizzare i dati. Così l'autorità fiscale del paese riteneva che l'algoritmo potesse essere usato per segnalare casi di frode che, successivamente, dei funzionari umani avrebbero dovuto valutare per eliminare gli errori.

Tuttavia, come spesso accade, l'algoritmo ha iniziato a sviluppare dei pregiudizi molto pesanti, etichettando in modo esagerato tutti coloro che provenivano da ambienti a basso reddito, immigrati e minoranze etniche come responsabili di frode ai danni dello stato. Ovviamente così non era in molti casi.

I funzionari che dovevano controllare l'IA si sono fidati troppo della macchina perché non hanno controllato un bel niente e hanno dato per vero quello che affermava l'algoritmo. Effettivamente è stato questo lo sbaglio più grande di tutta la storia, creato - come sempre - per colpa degli esseri umani.

L'IA senza controllo, tuttavia, ha creato il caos.

Innanzitutto decine di migliaia di persone sono rimaste in condizioni di povertà, e alcune si sono perfino suicidate a seguito di una gigantesca pressione fiscale. Molti bambini sono stati separati dai genitori, all'incirca 70.000 (una cifra potrebbe essere molto più alta, poiché la stima era basata su dati successivi al 2015).

Questo evento è passato alla storia come "kinderopvangtoeslagaffaire" (letteralmente "scandalo olandese sui sussidi per l'infanzia") e tutte le vittime hanno avuto diritto ad - almeno - 30.000 euro, costringendo il governo in carica a dimettersi per lo scandalo.

A proposito di intelligenza artificiale, sapete che a questi software è stata diagnosticata la depressione?

FONTE: iflscience
Quanto è interessante?
3