GPDP: data ban in Italia per il chatbot IA Replika per la sicurezza dei bambini

Mentre gli appassionati del mondo Tech discutono sul futuro dei motori di ricerca per via del maxi leak di Bing con ChatGPT (c'è attesa anche per la risposta di Google), in Italia arriva un data ban per il chatbot IA Replika, servizio che fonda le sue radici su un concetto di "amicizia virtuale".

A tal proposito, come riportato anche da TechCrunch (sì, la questione non è passata inosservata all'estero), nonché come si può apprendere da un provvedimento datato 2 febbraio 2023 pubblicato sul portale ufficiale del GPDP (Garante per la Protezione dei Dati Personali), di mezzo c'è la sicurezza dei bambini.

Il tutto è legato a un servizio freemium con avatar digitali personalizzabili, che offrono risposte basate su intelligenza artificiale. Queste ultime avrebbero l'obiettivo dichiarato di "far sentire meglio gli umani". Ebbene, il Garante per la Protezione dei Dati Personali sta ordinando alla società dietro al tutto di interrompere l'elaborazione dei dati degli utenti italiani.

In un comunicato stampa ufficiale del GPDP datato 3 febbraio 2023, si legge: "Il Garante della privacy ferma "Replika". Il chatbot, dotato di una interfaccia scritta e vocale che basandosi sull'intelligenza artificiale genera un "amico virtuale", per il momento non potrà usare i dati personali degli utenti italiani. Il Garante della privacy ha infatti disposto con effetto immediato, nei confronti della società statunitense che sviluppa e gestisce l'applicazione, la limitazione provvisoria del trattamento dei dati".

"Alla luce delle recenti notizie stampa e delle prove condotte dall'Autorità su "Replika", l'applicazione presenta infatti concreti rischi per i minori d'età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo", prosegue il comunicato del GPDP. "L'"amico virtuale" - presentato come in grado di migliorare il benessere emotivo dell'utente, aiuterebbe l'utente a comprendere i propri pensieri e calmare l'ansia, attraverso la gestione dello stress, la socializzazione e la ricerca dell'amore - ha caratteristiche che, intervenendo sull'umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva".

Secondo il GPDP, Replika "viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere.

La società sviluppatrice statunitense, Luka Inc, oltre a dover interrompere il trattamento dei dati degli utenti italiani, deve comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo".