Controllare una super IA sarebbe impossibile, affermano i ricercatori

Controllare una super IA sarebbe impossibile, affermano i ricercatori
di

C'è chi dice che l'intenzione è quella di creare Dio e c'è chi pensa che sia Skynet, ma la verità è che siamo lontani dalla creazione di una super IA. Nonostante questo, molti ricercatori si stanno effettivamente interrogando sulla possibilità di controllare una super-intelligenza artificiale di alto livello. La risposta? Non s'ha da fare.

Qualche tempo fa i ricercatori in uno studio pubblicato sulla rivista Journal of Artificial Intelligence Research avevano affermato tutti i loro dubbi sulla creazione di un software del genere. Innanzitutto la costruzione di un'IA del genere andrebbe ben oltre la comprensione umana e richiederebbe una simulazione di quella super-intelligenza che possiamo analizzare (e controllare).

Una volta che un sistema informatico funziona a un livello superiore alla portata dei nostri programmatori, infatti, non si possono più stabilire dei limiti ben visibili. "Una super-intelligenza pone un problema fondamentalmente diverso da quelli tipicamente studiati sotto la bandiera dell'etica robotica", scrivono i ricercatori. "Questo perché una superintelligenza [...] potrebbe raggiungere obiettivi potenzialmente incomprensibili per gli esseri umani."

Lo studio ha esaminato in parte il "problema di arresto" di Alan Turing del 1936. Quest'ultimo si chiede se sia sempre possibile per un programma per computer raggiungere o meno una conclusione e una risposta o se, semplicemente, si ripeterà per sempre cercando di trovarne uno. La risposta del problema? È logicamente impossibile trovare un modo che ci permetta di saperlo per ogni potenziale programma mai scritto.

Tornado alla questione dell'IA super-intelligente, quindi, secondo gli scienziati non possiamo capire se qualsiasi programma scritto per impedire al software di danneggiare gli esseri umani e distruggere il mondo, ad esempio, sia capace di raggiungere una conclusione (e fermarsi) o meno: è matematicamente impossibile saperlo.

Adesso vi chiederete: perché dare il controllo della sicurezza globale all'IA? Oltre al fatto che in futuro l'internet sarà dominato dall'intelligenza artificiale, "una macchina super intelligente che controlla il mondo suona come fantascienza", sostiene l'informatico Manuel Cebrian del Max-Planck Institute for Human Development. "Ma ci sono già macchine che svolgono determinati compiti importanti in modo indipendente."

Quanto è interessante?
1