L’altra faccia dell’IA: il programma che vede genitali ovunque

di

Deep Dream, il programma per l’intelligenza artificiale di Google, ha dimostrato che la computer imagination può alcune volte incappare in errori. I ricercatori, a tal proposito, hanno sottoposto all’intelligenza artificiale delle immagini che traggono delle torri, ma l’errore sta nel fatto che l’IA ha praticamente visto ovunque dei genitali.

Il lavoro è stato portato avanti dallo scienziato informatico Gabriel Goh, che ha creato una rete neurale mixando due programmi esistenti, uno del MIT che utilizza il deep learning per creare delle immagini, ed il programma opensource di Yahoo che rileva in automatico le immagini e contenuti pornografici.
Goh, fondamentalmente, ha collegato queste due reti neurali, le quali hanno generato una serie di immagini casuali, con tanto di punteggio, in cui lo 0 rappresenta un’immagine sicura, ed 1 un contenuto pornografico.
Questo è quello che viene definito punteggio basso:

Mentre queste hanno ottenuto un punteggio più elevato:
La particolarità è stata rilevata quando Goh ha chiesto all’IA di generare delle immagini, dando al sistema un punteggio da 0,002 ad 1. Il risultato è stato il seguente:

Per quanto riguarda il deserto, invece, il sistema si sposta verso più i genitali femminili:

Per la gita al mare, invece, l'intelligenza artificiale fa un mix di entrambi:

Si tratta di uno studio molto importante, che dimostra ancora una volta come, nonostante gli importanti passi in avanti registrati negli ultimi tempi le tecniche di deep learning siano ancora piuttosto deboli dal punto di vista dell'affidabilità. I ricercatori hanno ancora molto lavoro da fare prima di poter parlare di un sistema infallibile.

FONTE: The Verge
Quanto è interessante?
0