Twitch, pugno duro contro i deepfake: si rischia il ban immediato

Dopo il reintegro del canale Twitch di Seinfeld AI sulla piattaforma, il popolare servizio di streaming ha iniziato a prendere delle pesanti misure per combattere il problema dei deepfake "espliciti". Questi ultimi, infatti, sembrano spopolare su Twitch, nonostante siano formalmente proibiti dalla piattaforma.

In particolare, Twitch ha aggiornato la sua policy sui contenuti "adulti" per includere il ban completo i profili "synthetic NCEI", ovvero quegli utenti non-umani che imitano delle persone in carne e ossa utilizzando il loro volto come base. La sigla NCEI significa infatti "Non-Consensual Exploitative Image), il che fa pensare che non tutti i deepfake verranno eliminati, ma solo quelli realizzati senza il consenso della persona che fornisce il loro volto.

Sembra che i canali NCEI verranno bannati da Twitch anche se mostreranno brevemente i deepfake incriminati, oppure se li mostreranno con uno scopo di critica. L'aggiornamento della policy dell'azienda, riporta Engadget, dovrebbe rendere chiaro che il ban per deepfake NCEI avverrà già alla prima infrazione delle linee guida della piattaforma ed avrà possibilità di appello limitate.

La nuova policy di Twitter nasce da un incidente avvenuto a fine gennaio, quando il noto streamer Atrioc ha pubblicato per errore una pagina web che vendeva deepfake di altre celebri creatrici di contenuti su Twitch, utilizzabili anche per la creazione di contenuti "adulti". Atrioc ha spiegato di non essere collegato al sito web e si è scusato con la community, ma la presenza di questi deepfake "adulti" sembra aver messo in allerta la stessa Twitch.

L'azienda, infine, ha annunciato un Creator Camp virtuale sui deepfake NCEI fissato per il 14 marzo, data nella quale svelerà molto probabilmente la revisione della sua policy per i contenuti "adulti", che così dovrebbe diventare effettiva da metà marzo in poi.