La super inchiesta del NY Times sulla pornografia illegale e l'ignavia delle aziende tech

La scorsa settimana una inchiesta estremamente curata (e tecnologicamente all'avanguardia) del New York Times ha puntato il dito contro le mancanze delle grandi società tech nei confronti della lotta agli abusi sui minori.

Da una parte motori di ricerca come Bing sembrano non adempiere nemmeno al minimo indispensabile, dall'altra il Times sottolinea anche la tendenza di sempre più servizi, da Whatsapp a Messenger, ad usare la crittografia, blindando le conversazioni degli utenti e rendendo complicate le indagini.

Si tratta di un'osservazione corretta, ma, ad avviso (esclusivo) di chi scrive, quantomeno spiacevole dato che la privacy è un valore altrettanto importante e fondamentale. Ne va letteralmente della vita o della morte per milioni di attivisti e oppositori politici. Sui rischi di uccidere la privacy e la crittografia in nome della guerra al terrorismo o agli abusi ne ha parlato recentemente anche Snowden, con un editoriale di cui avevamo riportato una serie di stralci.

Oggi lo strumento principale usato per combattere gli abusi sui minori dai colossi del web è un efficacissimo tool di Microsoft, si chiama PhotoDNA ed è in grado di scomporre un'immagine, o ogni frame che compone un video, in decine di parti individuali. Ad ognuna di queste viene conferita un'identità, che sommate formano quindi l'ID dell'immagine. Quello che fa PhotoDNA è confrontare ogni immagine caricata su un sito o indicizzata su un motore di ricerca con un enorme database di immagini e video notoriamente raffiguranti abusi su minori.

È uno strumento molto utile, e ad oggi è usato da tutte le grandi piattaforme tech e dalle forze dell'ordine dei principali Paesi attivi nella lotta contro gli abusi. È fondamentale perché la tecnica usata da PhotoDNA permette di riconoscere l'identità dell'immagine anche quando questa è stata pesantemente alterata. Oltre al fatto che permette di controllare un'enorme quantità di immagini in tempi rapidi e automaticamente.

Il Times ha usato a sua volta PhotoDNA unito ad uno strumento di sua invenzione, un browser automatizzato e "invisibile": naviga su internet ma non mostra nulla sullo schermo del device su cui è attivato. Il New York Times l'ha usato per operare PhotoDNA sui principali motori di ricerca, tra cui Google e Bing. Era necessario, vista l'estrema delicatezza della materia dell'inchiesta, per evitare che il team di giornalisti si autoincriminasse. Ne è venuto fuori che in tutti i portali consultati era presente materiale illegale, a portata di una semplice ricerca. Niente deep web, né tanto meno forum oscuri e nascosti. Per accedere alla pornografia illegale basta navigare sul web normale e usare strumenti alla portata di tutti. Questa è la prima rivelazione tragica dell'inchiesta del Times.

La seconda rivelazione è che paradossalmente a fare peggio di tutti è Bing. Paradossalmente perché: a) era finito nei guai per lo stesso problema non troppi mesi fa b) Bing è di proprietà di Microsoft, l'azienda dietro PhotoDNA. Microsoft, in altre parole, non userebbe correttamente lo strumento che ha creato.

Microsoft ha replicato all'azienda dicendo che alcuni algoritmi erano mal scritti, e che ora dovrebbe aver arginato il problema. Sta di fatto che Bing è (era?) infarcito di pornografia minorile, e i predatori di tutto il mondo, scrive il Times sulla base di diversi casi giudiziari recenti, lo sanno benissimo.

L'altro grande problema è che le aziende controllano spesso le immagini usando PhotoDNA, ma non utilizzano nessun filtro per i video. Questo è vero per moltissimi dei servizi che usiamo ogni giorno. Eppure i video stanno ricoprendo un ruolo sempre più predominante nel problema degli abusi su minori.

Oggi è tornato sull'argomento lotta agli abusi e Big Tech anche il Papa, che durante un evento è intervenuto in questo modo: "l'identificazione e l'eliminazione dalla circolazione in rete delle immagini illegali e nocive ricorrendo ad algoritmi sempre più elaborati è un campo di ricerca molto importante, in cui scienziati e operatori del mondo digitale devono continuare ad impegnarsi in una nobile competizione per contrastare l'uso perverso dei nuovi strumenti a disposizione".

"Faccio quindi appello agli ingegneri informatici, perché si sentano anch'essi responsabili in prima persona della costruzione del futuro. Tocca a loro, con il nostro appoggio, impegnarsi in uno sviluppo etico degli algoritmi, farsi promotori di un nuovo campo dell'etica per il nostro tempo: la 'algor-etica'".

Ma oggi le aziende sembrano essere ancora indifferenti a questo problema. Quantomeno questo è vero per molte di loro. "In questo momento non è una nostra priorità", si è sentito rispondere il giornalista del New York Times dopo aver interpellato un portavoce di Dropbox. Gli aveva chiesto come mai l'azienda non controllasse i video che i suoi utenti caricano sul cloud, per evitare la diffusione di pedopornografia.