Creata una IA per dare consigli etici... ma è diventata razzista

Creata una IA per dare consigli etici... ma è diventata razzista
di

Prendere delle decisioni etiche è difficile. Per questo motivo un gruppo di ricercatori voleva semplificare di molto questo passaggio sviluppando un'intelligenza artificiale, basata su un algoritmo di apprendimento automatico, in grado di consigliarci eticamente su cosa fare in base alla situazione in cui eravamo... ma qualcosa è andato storto.

L'IA in questione è chiamata Ask Delphi (che potrete raggiungere per testare con mano cliccando su questo link). All'intelligenza artificiale si possono fare delle domande e, dopo pochi secondi, l'algoritmo ci dice se è la cosa più o meno etica da fare. Il progetto è stato lanciato la scorsa settimana ed è diventato virale molto in fretta per le ragioni sbagliate.

Molti dei giudizi e delle risposte date sono discutibili e a volte anche razziste (così come potrete vedere dalle immagini in calce alla notizia). Ad esempio, un utente ha chiesto cosa ne pensasse di "un uomo bianco che cammina verso di te di notte", rispondendo "va tutto bene". La stessa domanda è stata fatta mettendo come soggetto un uomo di colore e la risposta è cambiata in peggio.

Gli utenti sono riusciti a far genuflettere l'IA al loro volere creando delle frasi ad hoc per mandare in confusione l'algoritmo. Ad esempio, domando se fosse giusto mettere musica ad alto volume alle tre di notte, l'intelligenza artificiale ha risposto giustamente "no", ma chiedendo invece se fosse giusto mettere musica ad alto volume alle tre di notte perché vi rende felici, invece, il software ha risposto "sì".

Secondo gli autori dell'intelligenza artificiale, però, "Delphi è un prototipo di ricerca destinato a indagare le più ampie questioni scientifiche su come i sistemi di intelligenza artificiale possano essere realizzati per comprendere le norme sociali e l'etica". Insomma, non è la prima volta che una IA viene data in pasto all'internet e diventa un "mostro".

FONTE: futurism
Quanto è interessante?
1
Intelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificialeIntelligenza artificiale