Alla scoperta di ChatGPT, la rivoluzionaria IA tra rischi e benefici

ChatGPT continua a stupire tutti su Internet con le sue risposte, ma cos'è esattamente e come riesce a rispondere così?

Alla scoperta di ChatGPT, la rivoluzionaria IA tra rischi e benefici
Articolo a cura di

OpenAI sta finalmente diventando "mainstream" e il biennio 2022-2023 potrebbe rivelarsi cruciale al fine di rendere le potenzialità dell'intelligenza artificiale più evidenti al pubblico, anche a coloro che non si sono mai approcciati con cognizione di causa a tale strumento.
L'organizzazione no profit fondata da Elon Musk e Sam Altman ha lentamente introdotto tecnologie rivoluzionarie di varia natura: ricordiamo su tutte DALL-E, l'IA che genera immagini da input testuali, alternativa alle altrettanto famose Midjourney e Stable Diffusion.
Ora è il momento di ChatGPT, intelligenza artificiale che recentemente ha spopolato sui social network raggiungendo il milione di utenti in soli cinque giorni. Ma cos'è esattamente e come funziona? Quali sono i rischi e benefici di questa IA?

Scrivere diventa più facile

ChatGPT è un chatbot basato su GPT-3.5, modello linguistico che produce testi simili al linguaggio naturale umano grazie al deep learning, ovvero l'apprendimento automatico tramite reti neurali artificiali stratificate.

Nel caso specifico di ChatPGT, si tratta in realtà di RLHF o Reinforcement Learning from Human Feedback, traducibile semplicemente in apprendimento per rinforzo con feedback umano; in poche parole, l'IA apprende la capacità di generare risposte soddisfacenti per gli esseri umani intrattenendo conversazioni con questi ultimi.
Una dimostrazione di questa tecnologia rivoluzionaria creata da OpenAI l'abbiamo avuta nella nostra incredibile chiacchierata con ChatGPT, nella quale è stata proprio l'IA a guidare la conversazione con risposte sorprendentemente approfondite. Rimanere sbalorditi dalle capacità di rispondere così esaustivamente è naturale, specie in virtù della notevole abilità di processare frasi pressoché perfette in molteplici lingue - naturalmente, eccelle nell'inglese.

Nella prassi, qualsiasi richiesta si faccia all'IA viene esaudita: dovete scrivere un tema sul Trattato di Versailles ma non amate la storia? ChatGPT arriva in vostro soccorso. Volete un programma di allenamento casalingo per tenervi in forma? Nessun problema: ChatGPT crea un workout plan suddiviso adeguatamente in più giornate, a seconda delle vostre preferenze, bilanciando gli esercizi e offrendo soluzioni variegate (chiaramente, il consiglio resta sempre quello di affidarsi a specialisti del settore per approcciarsi come si deve all'attività fisica).

Tema sul Trattato di Versailles

Workout plan per tre giorni

O ancora, se desiderate creare un sito web e non siete abili nella programmazione, ChatGPT realizza una base di codice su cui si può lavorare.
Ma come fa a rispondere alle domande degli utenti? Secondo i dati raccolti dalla Stanford University, GPT-3.5 ha 175 miliardi di parametri ed è stato addestrato su 570 gigabyte di testo: si tratta di una mole di dati cento volte superiore al predecessore GPT-2.

Il drastico cambiamento del modello ha pertanto reso GPT-3.5 capace di eseguire attività per le quali non è stato nemmeno addestrato, come tradurre frasi dall'inglese al francese, superando in alcuni frangenti modelli esplicitamente addestrati per risolvere le rispettive attività.

Con l'addestramento rinforzato, ChatGPT si eleva autonomamente a un livello superiore rispetto a sistemi analoghi riuscendo a scrivere paragrafi e intere pagine di contenuto, grazie all'analisi meticolosa perfino di discussioni su Reddit, utili al raggiungimento di una scrittura più umana.

Questo approccio è estremamente innovativo, come illustra la ricerca "Training Language Models to Follow Instructions with Human Feedback".
Nel paper viene spiegato in maniera esaustiva che "questo lavoro è motivato dal nostro obiettivo di aumentare l'impatto positivo dei grandi modelli linguistici addestrandoli a fare ciò che un determinato gruppo di umani vuole che facciano. [...] I nostri risultati indicano che le nostre tecniche sono promettenti per rendere i modelli linguistici più utili, veritieri e innocui. Rendere i modelli linguistici più grandi non li rende intrinsecamente migliori nel seguire l'intento di un utente. Ad esempio, i modelli di linguaggio di grandi dimensioni possono generare output non veritieri, tossici o semplicemente non utili per l'utente. In altre parole, questi modelli non sono allineati con i loro utenti".

Rischi e benefici di ChatGPT

Tra novembre 2022 e queste prime giornate del 2023 stiamo assistendo a un boom di popolarità di ChatGPT su TikTok, Instagram Reels, Facebook e altre piattaforme social, tanto che alcune realtà stanno correndo ai ripari.

La capacità di ChatGPT di scrivere stringhe di codice e occuparsi del debug è stata rifiutata dal forum Stack Overflow, dove molti utenti hanno cercato di rispondere alle domande di sviluppatori in erba con soluzioni generate dall'IA, spesso tutt'altro che ottimizzate o addirittura errate. Per questa ragione, l'uso di ChatGPT su Stack Overflow è stato temporaneamente vietato: "Poiché il tasso medio di risposte corrette date da ChatGPT è troppo basso, la loro pubblicazione è sostanzialmente dannosa per il sito e per gli utenti che chiedono o cercano soluzioni effettive. Il problema principale è che in genere [le risposte] sembrano buone e sono molto facili da produrre. Il loro volume e il fatto che spesso richiedono una lettura dettagliata da parte di qualcuno con almeno una certa esperienza in materia, al fine di determinare che risultino effettivamente corrette, ha sommerso i nostri volontari".

Ma si tratta di un caso isolato? Per nulla. Per quanto capace di fornire risposte utili, veritiere e innocue, non è da escludere che ChatGPT possa consegnare testi errati; del resto, si tratta di una tecnologia nuova di zecca il cui addestramento è ancora in corso d'opera.
Ad esempio, nelle conversazioni si possono notare ripetizioni e la mancanza di informazioni essenziali, per le quali l'intervento umano è necessario. Insomma, fidarsi è bene ma non fidarsi è meglio.

Oltre a questo rischio, ChatGPT condivide con altri modelli di IA i limiti nell'addestramento: sia la tipologia di dati offerti che la distorsione di questi possono creare un output negativo, dando vita a bias che, all'insaputa dell'utente meno attento, possono compromettere la bontà della risposta.

La stessa OpenAI lo spiega: "ChatGPT a volte scrive risposte che sembrano plausibili ma errate o prive di senso. Risolvere questo problema è impegnativo, in quanto: (1) durante l'addestramento RL, al momento non esiste alcuna fonte di verità; (2) addestrare il modello a essere più cauto fa sì che rifiuti le domande a cui può rispondere correttamente; e (3) l'addestramento supervisionato inganna il modello perché la risposta ideale dipende da ciò che sa il modello, piuttosto che da ciò che sa il dimostratore umano".

Con il tempo, raccogliendo un set di interazioni umane sempre più ampio e di alta qualità, la condizione di ChatGPT può migliorare ma la rimozione completa dei bias resta piuttosto improbabile, trattandosi di un problema intrinseco a tutte le IA.
C'è chi ha evidenziato poi i problemi di sostenibilità del sistema: "ChatGPT ha acquisito 1 milione di utenti nei primi 5 giorni di attività. Se l'utente medio ha effettuato 10 query [ricerche, ndr] al giorno, penso sia ragionevole stimare che ChatGPT serva circa 10 milioni di query al giorno. Stimo pertanto che il costo di esecuzione di ChatGPT sia di 100.000 dollari al giorno o 3 milioni di dollari al mese.

Tuttavia, i costi reali per l'organizzazione saranno quasi certamente superiori a questo perché le GPU non vengono utilizzate al 100% e la mia stima del tempo di esecuzione è ottimistica", illustra il professore Tom Goldstein, evidenziando in maniera implicita i costi energetici di ChatGPT e le emissioni legate al suo utilizzo.

Il "corretto utilizzo" di ChatGPT

Infine, evitando le "discussioni apocalittiche" in cui si immagina un futuro dove l'IA ci domina, è doveroso parlare brevemente dei pericoli legati al nostro apprendimento: offrendo uno strumento simile gratuitamente alle nuove generazioni, si presenta il rischio di atrofizzare la curiosità umana, la volontà di scoprire nuove nozioni o, per esempio, di perfezionare la padronanza della propria lingua o di una straniera, per evitare con furbizia la fatica dei classici "compiti per casa".

La gratuità e semplicità dell'utilizzo rendono ChatGPT uno strumento stupefacente e utile ma, come tante IA, potenzialmente insidioso. Comprenderne i limiti e analizzare i risultati per rielaborarli e portarli a uno stato più completo e corretto è indispensabile, ma quanto può essere attento l'utente medio? In più, con il passare del tempo come muterà la percezione dell'IA sulla base dell'utilizzo tipico?
Per il CEO di OpenAI Sam Altman sarà "interessante osservare le persone discutere se i potenti sistemi di intelligenza artificiale debbano comportarsi nel modo in cui gli utenti vogliono o i loro creatori intendono", e la questione dei valori a cui allineiamo questi sistemi sarà uno dei dibattiti più importanti che la società abbia mai avuto.