Scarlett Johansson e Gal Gadot in un film porno? Possibile, con l'IA di FakeApp

Su Reddit è esplosa la FakeApp mania, un fenomeno che nei prossimi anni potrebbe avere conseguenze disastrose per la privacy.

speciale Scarlett Johansson e Gal Gadot in un film porno? Possibile, con l'IA di FakeApp
Articolo a cura di

Gli effetti speciali al cinema permettono già da tempo di realizzare interi mondi di fantasia, con risultati oggi ormai molto credibili. Non solo questo però, perché la CGI è stata usata più volte per creare personaggi immaginari, basti pensare al Gollum de Il signore degli anelli, ma anche per riportare in vita attori prematuramente deceduti, come Philip Seymour Hoffman in Hunger Games. Meraviglie della tecnica e della tecnologia, realizzate da professionisti con competenze di alto livello.
Ma cosa succederebbe se una tecnica simile a quella applicata al grande Hoffman nel film di Francis Lawrence fosse resa disponibile per tutti? La risposta la conosciamo già, perché su Reddit è esploso il fenomeno FakeApp, un tool software gratuito in grado di inserire, in un video, il viso di una persona sul corpo di un'altra, grazie all'IA e al Machine Learning, e i risultati sono sotto gli occhi di tutti.

Porno personalizzati

Deepfakeapp è un utente Reddit che ha reso disponibile una serie di strumenti, basati sui software open source TensorFlow di Google, in grado di elaborare in maniera credibile i filmati in cui vengono applicati. Lo scopo di questo tool è quello di sostituire il viso di un soggetto a video con quello di un'altra persona. Si tratta di un software dall'ampio campo applicativo ma che è stato fin da subito utilizzato per la realizzazione di filmati pornografici fake. Inutile dire che le prime ad essere state colpite sono state la celebrità di Hoollywood, come Gal Gadot, Daisy Ridley e Scarlett Johansson, che hanno visto la loro immagine utilizzata in modo improprio per la realizzazione di filmati hard. In un periodo in cui lo star system è nel pieno della battaglia per l'affermazione dei diritti delle donne, la questione assume un tono abbastanza inquietante, anche se non manca un pizzico di ironia, ma le implicazioni morali saranno importanti in futuro.
FakeApp è un tool relativamente acerbo, che sfrutta le attuali tecnologie nel campo delle IA e del Machine Learning, ed è disponibile da poco tempo. Nonostante questo, alcuni degli esperimenti postati dagli utenti su Reddit sono incredibilmente realistici, magari non per tutta la durata del video, ma il risultato finale è notevole, inquietante, ma notevole, e in certi casi raggiunge vette assolute, come nella clip che vede protagonista la principessa Leia Organa.

Bisogna dire che l'utilizzo del software non è user friendly e l'elaborazione video richiede diverse ore per essere completata. Non tutti sono in grado di realizzare scene fake di qualità, ma l'autore del tool ha promesso miglioramenti costanti e una semplificazione marcata con il passare del tempo e l'affinamento dell'algoritmo. Già ora tuttavia, tra una Emma Watson come non la si era mai vista e un Nicolas Cage inserito ormai nei contesti più disparati , la qualità di alcune clip è davvero elevata, cosa che impone una riflessione morale sul futuro di queste tecnologie.
Cosa accadrà quando basteranno poche immagini e qualche tap sul telefono per inserire il viso di una persona, senza il suo consenso, all'interno di un video, porno o di qualsiasi altro genere? Chi vigilerà sulla diffusione di questi video fake? Domande che non trovano attualmente risposta. La cosa certa è che IA e Machine Learning stanno cambiando il mondo in cui viviamo più in fretta di quanto si potrebbe pensare, con conseguenze del tutto ignote.