Deepfake, scoperto su Telegram un bot che "spoglia" le donne: oltre 100mila le vittime

Deepfake, scoperto su Telegram un bot che 'spoglia' le donne: oltre 100mila le vittime
INFORMAZIONI SCHEDA
di

La nuova frontiera della lotta ai deepfake è Telegram. Repubblica ha infatti scoperto un bot sulla piattaforma di messaggistica che è in grado di “spogliare” le donne utilizzando gli strumenti d’intelligenza artificiale. L’aspetto inquietante è che i lavori di questo bot sono addirittura stati condivisi in alcune chat pubbliche.

La scoperta è stata effettuata da Sensity, e pubblicata quest’oggi da Repubblica che ha avuto modo di visionarla in anteprima.

Usare gli algoritmi per creare delle immagini false con l’obiettivo di prendere di mira ex partner o conoscenti non è mai stato così semplice” ha affermato uno degli autori dello studio, Giorgio Patrini, secondo cui la popolarità dei deepfake sta ormai raggiungendo livelli di diffusione molto elevati in quanto grazie a bot come questi sono facili da generare: basta infatti dargli in pasto una foto, ed il sistema automatico la elabora in automatico per svestire la protagonista. Le stime parlano di oltre 100mila vittime, tra cui figurano anche VIP, attrici ed influencer.

Tuttavia, nello studio viene posta l’attenzione sul fatto che sempre più spesso i deepfake prendono di mira persone comuni, come ex fidanzate, compagne di classe o di lavoro. Insomma, chiunque abbia almeno una foto pubblicata sui social, un aspetto che espande a dismisura la cerchia delle potenziali vittime.

Basta caricare l'istantanea su un apposito canale Telegram. Lo scatto viene ritoccato e rispedito al mittente in pochi minuti, se non secondi" si legge nello studio, il quale osserva che il bot è completamente gratuito, sebbene sia presente una versione a pagamento che consente di rimuovere il logo del software ed avere priorità su altri utenti. I risultati ovviamente non sono perfetti e gli occhi meno attenti sono perfettamente in grado di riconoscere i deepfake, ma i meno esperti potrebbero cadere nel tranello facilmente.

La lotta ai deepfake sta diventando col tempo sempre più aspra: la California ad esempio ha vietato i deep fake di politici in vista delle elezioni presidenziali.

Quanto è interessante?
5