Facebook è al lavoro su un'intelligenza artificiale per identificare i meme offensivi

La mole di segnalazioni che arrivano quotidianamente a Facebook è diventata quasi ingestibile per i moderatori del social network. E' per questo motivo che gli ingegneri hanno deciso di affidarsi all'intelligenza artificiale per aiutarli.

Attraverso un post pubblicato nella giornata di ieri sul blog aziendale, Facebook ha parlato di un nuovo sistema battezzato Rosetta che attraverso il deep learning è in grado di identificare il testo presente nelle immagini e video e quindi trascriverlo per renderlo leggibile agli occhi dell'intelligenza artificiale.

Il social network di Mark Zuckerberg nello specifico intende utilizzare questo strumento per trascrivere il testo presente sui meme allo scopo di segnalare e rimuovere quelli offensivi.

Per Facebook questi tool di trascrizione del testo non rappresentano certo una novità, ma la piattaforma con il passare del tempo si è trovata di fronte a sfide sempre più difficili e diversificate, che ora si sono spostate sui meme e la varietà di immagini che vengono caricate quotidianamente dagli utenti. Rosetta ora sarebbe in grado di estrarre il testo da un miliardo di immagini e di frame video al giorno, sia su Facebook che Instagram.

Nel post sul blog però la compagnia di Menlo Park lascia intendere che in futuro l'intelligenza artificiale potrebbe essere utilizzata anche per altri scopi, che vanno oltre la pulizia della piattaforma. Il sistema Rosetta infatti potrebbe essere usato per scegliere gli argomenti da mostrare nel News Feed in base ai propri interessi.

Ad oggi però l'estrazione del testo ed il deep learning vengono utilizzati per "identificare automaticamente i contenuti che violano la nostra politica di hate speech" in più lingue.