Analisi Forense di Immagini Deepfake di Volti di Persone



International Information System Forensics Association (IISFA)



Sebastiano Battiato1,2, Oliver Giudice1, Luca Guarnera1,2, Cristina Nastasi1
1 Department of Mathematics and Computer Science, University of Catania, Italy
2 iCTLab s.r.l. Spinoff of University of Catania, Italy
{battiato, giudice}@dmi.unict.it, {luca.guarnera, cristina.nastasi}@unict.it








[RELATED WORKS]





Alcuni esempi di Deepfake: (a) Obama, creato da Buzzfeed in collaborazione con Monkeypaw Studios;
(b) Mark Zuckerberg, creato dagli artisti Bill Posters e Daniel Howe in collaborazione con l’azienda Canny;
(c) Matteo Renzi nel video trasmesso dal Tg Satirico Striscia la Notizia.



INTRODUZIONE


Manipolare un’immagine o un video consiste nell’alterare in qualche modo la realtà percepita: comunicare un messaggio falso, alterato o anche totalmente fantasioso. Fin da quando esiste la possibilità di rappresentare la realtà con un’immagine grazie alla fotografia, il fenomeno delle alterazioni è sempre stato un rischio [1]: l’immagine viene percepita sempre come reale dal visualizzatore e pertanto il rischio di trasmissione di notizie false o alterate diventa altissimo. D’altro canto, manipolare in maniera realistica un’immagine o peggio ancora un video, richiede delle abilità specialistiche, tempo, strumenti dedicati e una cura del dettaglio altissima: basta un piccolo errore e la manipolazione viene facilmente scoperta. Con l’avvento della fotografia digitale, sono stati realizzati Software sempre più specializzati per l’effettuazione di elaborazioni, addirittura è nato il termine “Photoshoppare” dall’omonimo programma della suite Adobe. Ma sebbene il ritocco sia alla portata di tutti fino ad oggi, il realismo percettivo del contenuto manipolato finale restava sempre legata strettamente all’abilità del manipolatore e alla sua capacità di utilizzare al meglio il relativo Software. L’evoluzione degli strumenti di Intelligenza Artificiale (IA) però sta cambiando lo scenario appena descritto: complessi modelli matematici, costruiti su miliardi di immagini di volti umani, sono in grado di alterare un volto cambiandone le caratteristiche come ad esempio il colore dei capelli, l’età o addirittura il sesso. Sebbene la costruzione di tali modelli è sicuramente estremamente complessa, l’utilizzo finale è a portata di click. Sui più comuni mobile-store sono apparse applicazioni come FaceApp [2] o Reface [3] che consentono in pochissimi passaggi di creare immagini manipolate di volti umani a un livello di realismo estremamente elevato. Nasce il fenomeno dei cosiddetti “Deepfake”. Politici, attori e personaggi famosi sono i principali bersagli di questo nuovo fenomeno: un famoso esempio è stato il video dell'ex premier italiano Matteo Renzi, mostrato da “Striscia la Notizia” nel settembre 2019, in cui appellava dei suoi colleghi in una maniera “non molto rispettosa”. Un altro famoso esempio è stato il video di Mark Zuckerberg in cui esponeva una serie di dichiarazioni sulla capacità di Facebook di rubare dati ai propri utenti. Tanti sono gli esempi di video Deepfake aventi come protagonisti personaggi famosi: uno tra gli esempi più famosi e nel contempo divertenti è sicuramente l'inserimento del volto di Nicholas Cage in alcuni film in cui lo stesso attore non ha recitato, come "The Matrix" o "Fight Club", oppure l'impressionante video in cui Jim Carrey interpreta Shining al posto di Jack Nicholson. Le tecniche di creazione di Deepfake diventano nuove armi: mentre il fenomeno per quanto riguarda i personaggi famosi è contenibile dai rispettivi uffici stampa che monitorano i canali mediatici e possono immediatamente smentire un Deepfake; il problema diventa legalmente e socialmente più pericoloso se essi vengono impiegati per creare contenuti pornografici. Secondo il rapporto “The State of Deepfakes” [4] del progetto Deeptrace, un lavoro di monitoraggio dei “Deepfake” attivi dal 2018, i video falsi costruiti con tecnologie d’intelligenza artificiale sono poco meno di 15.000. Tra questi il 96% dei video è di natura pornografica (Deep Porn). Purtroppo, questo fenomeno si sta evolvendo rapidamente, diventando sempre più pericoloso: come riportato dal Wall Street Journal, un video Deepfake riguardante l’amministratore delegato di un’azienda tedesca è stato utilizzato dai cyber-criminali per rubare 250.000 dollari da un'azienda inglese. Il tema del Deepfake assume un’importanza cruciale se analizzato nel campo giudiziario dove una traccia informatica falsa potrebbe addirittura ribaltare il verdetto finale. I problemi, però, non sono solo etici o sociali, poiché i Deepfake rappresentano una tra le emergenti minacce del nostro secolo proprio per la capacità intrinseca di creare “una nuova realtà”. La definizione di nuove “Best Practice” di analisi forense e la realizzazione di nuovi strumenti per smascherare i Deepfake, al fine di limitare potenziali danni e abusi, rappresentano al giorno d’oggi una tra le sfide più avvincenti e interessanti per i ricercatori del settore. Necessariamente, quindi, questa minaccia deve essere contrastata e mitigata. A tal proposito, nella restante parte dell’articolo verranno in prima analisi analizzate, ad alto livello, le tecnologie note ad oggi per la creazione di un Deepfake di volti. La comprensione di tali tecnologie servirà a capire come costruire strumenti adatti ad individuare eventuali caratteristiche invisibili per l’identificazione di un falso.






Download Paper  

Cite:
@article{battiato2021Analisi,
   author={Battiato, Sebastiano and Giudice, Oliver and Guarnera, Luca and Cristina, Nastasi},
   title={Analisi Forense di Immagini Deepfake di Volti di Persone},
   howpublished = { International Information System Forensics Association (IISFA)},
   year={2021}
}









[RELATED WORKS]