Dopo la recente dichiarazione del governo Usa sulla pervasiva minaccia dell’arma di apprendimento automatico, Facebook annuncia che metterà al bando i deepfake, ossia video e audio fake creati ad hoc da sistemi di AI e preordinati ad estorcere e disinformare, sfruttando i dati biometrici della persona, con conseguenze spesso molto gravi. La minaccia è seria e negli ultimi anni molte aziende sono state vittime di truffe informatiche, attraverso l’uso criminoso di tecniche di ingegneria sociale. Secondo il recente report della Polizia Postale e delle Telecomunicazioni, nel corso del 2019 svariate sono state anche nel nostro paese le vittime del deep fake. La pervasività del deep fake risiede proprio nella sovrapposizione di due volti in un video, creando uno scambio di identità funzionale ad un dolo specifico criminoso.
E così Mark Zuckerberg prende atto della minaccia e dichiara di avere già sviluppato il progetto “Deepfake Detection Challenge” con il quale, insieme ad altri colossi del digitale come Microsoft e Amazon, si impegnerà ad eliminare dalla sua piattaforma social i contenuti “manipolati allo scopo di ingannare”, attraverso 50 partner mondiali per il fact checking in 40 lingue e preservando tuttavia le parodie e la satira. Già lo scorso settembre Facebook ha lanciato l’iniziativa “Deepfake Detection Challenge”, volta a sviluppare strumenti in grado di identificare i deepfake. E il mese scorso ha anche avviato un’alleanza strategica con Reuters per creare un corso online per formare i giornalisti nel riconoscimento dei deepfake.
L’annuncio di Zuckerberg è quanto mai tempestivo, anche sotto l’aspetto del marketing.
Solo qualche giorno fa , il presidente Usa Donald Trump ha ingaggiato addirittura l’Intelligence per contrastare la nuova pervasiva minaccia del web, che essendo spesso preordinata alla disinformazione ed al sabotaggio, può presentare delle serie minacce per la stabilità dei sistemi democratici, specie laddove esistono precari equilibri. La minaccia del deep fake è stata dunque elevata al rango di minaccia temibile per la sicurezza nazionale americana, tanto da “meritare” una “taglia” di ben cinque milioni di dollari per lo sviluppo di tecnologie di rilevamento attraverso strumenti di AI, in favore delle aziende e degli enti di ricerca. Ulteriore livello di ingaggio dell’Intelligence americana è legato all’attività di disinformazione e sabotaggio potenzialmente commissionate da Paesi non amici e alla tempestiva notifica di eventuali ingerenze straniere, ritenute credibili, che si avvalgano di strumenti di sofisticazione per condizionare le elezioni democratiche.
In tale contesto, anche i social network sono chiamati a fare la loro parte, attraverso un serio impegno a ripulire le loro piattaforme da contenuti sofisticati e manipolati, potenzialmente in grado di destabilizzare sistemi democratici, specie in vista delle prossime elezioni presidenziali americane di fine 2020. “I contenuti oggetto di manipolazione saranno modificati in modi che non risultano evidenti a una persona comune, e che probabilmente indurrebbero a pensare che un soggetto del video abbia detto parole che in realtà non ha pronunciato”, ha dichiarato in un post la vicepresidente del Global Policy Management di Facebook, Monika Bickert. La Bickert ha inoltre aggiunto che saranno altresì rimossi i contenuti modificati, poiché “i deep fake rappresentano una sfida significativa per l’industria digitale e per la società, sebbene non siano ancora diffusi su internet”.
