Facebook: la (vera) storia dei bot riavviati per colpa della loro lingua

di

Qualche giorno fa sul web, ed anche su queste pagine, è stata riportata la notizia riguardante la decisione di Facebook di spegnere e riavviare un’intelligenza artificiale rea di aver sviluppato una lingua proprietaria che ha isolato gli utenti.

La notizia è stata ripresa da alcune delle testate giornalistiche più popolari ed autorevoli del mondo, tra cui il Sun, l’Independent ed il Telegraph, che hanno sbattuto i titoli in prima pagina, riportando però una notizia non propriamente esatta.

I due bot, infatti, hanno si iniziato a parlare tra di loro in maniera incomprensibile per gli esseri umani, ma non hanno sviluppato una vera e propria lingua.

Trattandosi di due bot che devono gestire delle contrattazioni con gli umani, infatti, per ottimizzare le comunicazioni tra di loro hanno semplicemente eliminato le parole inutili ed ottimizzato le frasi utilizzando gli algoritmi incorporati, ignorando di fatto qualsiasi regola grammaticale e generando frasi incomprensibili.

Ecco perchè i ricercatori del social network hanno pensato di spegnerli, riprogrammarli, ed inserire nello stesso algoritmo una regola che li obbliga a restare nei binari della corretta grammatica, al fine di rendere le frasi comprensibili per l’uomo.

Sostanzialmente, quindi, i bot hanno fatto esattamente ciò per cui sono stati programmati: contrattare su degli oggetti falsi. Solo che hanno sviluppato un nuovo modo di comunicare, ma non perchè sono troppo intelligenti, ma perchè i computer non parlano in inglese. I bot hanno utilizzato altre lettere per per sostituire parole più lunghe.

Per un’IA, ad esempio, una mela è solo una lunga stringa di numeri che quantificano il colore rosso e la parola, e queste rappresentazioni non sono comprensibili per gli esseri umani.

Si tratta, quindi, di un fatto abbastanza comune e proprio per questo non c'è bisogno di creare allarmismi. Almeno al momento, quindi, la situazione è sotto controllo.