L’evoluzione delle bufale, tra “deep fakes” e realtà virtuale

Circola in rete un video [1] dove Jim Carrey sembra ripetere alla perfezione i movimenti di Jack Nicholson in una scena di “Shining”, perfettamente sincronizzato con l’originale.

image1

Per qualche secondo viene da pensare “che bravo Jim Carrey, si è studiato al secondo tutti i tempi, la postura e le espressioni“, ma basta una minima verifica per capire che si tratta di un “deep fake“, un video finto generato da software che hanno appiccicato la faccia di Jim Carrey su quella di Jack Nicholson [2].

L’unico limite è la fantasia: si può convertire qualunque testo in qualunque voce di qualunque persona [3]: basta qualche decina di minuti di registrazione per “istruire” l’“intelligenza artificiale” di un computer a parlare con la stessa voce di chiunque, e basta qualche video o fotogramma del soggetto da emulare per agganciare i movimenti del viso al suono di una voce artificiale [4] a cui avremo fatto dire quello che ci pare.

Di recente con questa tecnica sono stati realizzati dei video “deep fake” con falsi discorsi di Marc Zuckerberg [5] e Barack Obama [6], tecnologie meno raffinate e più accessibli hanno prodotto “cheap fakes” a buon mercato con Nancy Pelosi [7], la presidente della Camera dei Deputati Statunitense. Anche i video più grossolani, come quello con Pelosi, sono stati presi per buoni da molte persone,  e sono soltanto quelli che hanno fatto più scalpore, la punta dell’Iceberg in un oceano di contenuti che cercano di apparire plausibili pur essendo falsi, generati dal nulla e confinati nel mondo digitale.

Nessuno è al sicuro da queste manipolazioni. Per quanto robusta possa essere la nostra attrezzatura culturale che ci fa sentire al riparo dalla disinformazione, di fronte a un deep fake ben construito chiunque può avere una sensazione di “verità”, come quella che ho provato io per qualche attimo credendo che Jim Carrey avesse voluto dare sfoggio delle sue abilità recitative sincronizzando i suoi movimenti con quelli di Nicholson.

Anche pochi secondi sono troppi per credere a un imbroglio, e quei secondi mi hanno fatto capire quanto possiamo essere indifesi di fronte a manipolazioni realizzate con questa tecnica, che sfrutta la nostra naturale e istintiva tendenza a credere vero ciò che vediamo, anche quando lo vediamo su uno schermo che trasmette immagini manipolate.

Mi sono chiesto con un po’ di preoccupazione che cosa succederà quando questi strumenti verranno utilizzati per la propaganda politica o militare, e incontreranno il cosiddetto giornalismo immersivo” [8], realizzato attraverso esperienze di realtà virtuale [9].

Già oggi ci sono informazioni che ci raggiungono attraverso l’immersione visiva in situazioni e contesti digitali che danno una impressione di presenza e una sensazione di “verità oggettiva” di quello che si guarda, proprio come negli anni 50 e 60 del secolo scorso si pensava ad una “verità oggettiva” nel fotogiornalismo prima che i “media studies” approfondissero tutte le componenti di soggettività in una foto, che contiene una scelta del luogo, una scelta dell’inquadratura, una selezione di foto scartate da cui è emersa quella pubblicata, una prospettiva singolare e soggettiva di chi decide quando è il momento di scattare e dove.

Questo tipo di analisi è ancora ai suoi inizi per il giornalismo in realtà virtuale, dove si dimentica facilmente che non siamo immersi in una rappresentazione oggettiva della realtà, ma abbiamo sposato uno tra tanti possibili punti di osservazione soggettivi: quello dove il giornalista ha deciso di collocare la sua telecamera a 360 gradi per registrare un video.

image5

Utilizzando le tecnologie di realtà virtuale applicate al racconto giornalistico, la CNN ci permette già oggi di esplorare la linea del fronte in Yemen [10], la BBC propone passeggiate spaziali [11], Al Jazeera organizza visite virtuali alla Mecca [12], il Guardian ci porta a vivere l’esperienza di una cella di isolamento [13], e per questo tipo di racconti si sono attrezzati anche il New York Times [14] e la NBC [15].

Che cosa succederà quando il mondo dei deep fake incontrerà quello della realtà virtuale? Il rischio possibile è quello dell’applicazione di queste tecnologie alla propaganda politica, alla disinformazione, alla pseudoscienza e a ogni possibile tipo di manipolazione, dove saremo “nudi” di fronte all’impatto emotivo e cognitivo di un video finto che confeziona una realtà virtuale inesistente sul piano fisico, ma che può dare forma al nostro mondo reale sul piano psicologico e politico.

Se vi sono sembrate inquietanti le manipolazioni su Facebook fatte di test e immagini, che hanno condizionato pesantemente il referendum sul brexit trascinando nell’instabilità politica mezzo miliardo di europei [16], immaginate che cosa potrebbe accadere quando le esperienze di realtà virtuale usciranno dalla loro nicchia di avanguardia tecnologica per irrompere nella comunicazione di massa, nella propaganda politica, nelle “infowars” che spingono i popoli in guerra a beneficio di chi ce li manda. Immaginate presidenti che fanno dichiarazioni finte con un vero impatto sulla diplomazia internazionale, scandali costruiti al computer per gettare fango virtuale in grado di condizionare elezioni reali, “realtà virtuali” immersive, ma finte, che producono comportamenti, orientamenti e convinzioni condizionati dalle intenzioni di chi ha allestito un teatrino digitale talmente verosimile da farci dimenticare che è falso.

image2

Già oggi, per quanto riguarda la circolazione virale di video “deep fake” con discorsi finti di persone vere, è stato lanciato un segnale di allarme nel “rapporto sulle minacce mondiali” [17] pubblicato nel gennaio 2019 negli USA da Daniel Coats, direttore della National Intelligence, il principale consigliere della presidenza statunitense per questioni legate alla sicurezza nazionale.

Nel rapporto in questione, una sezione dedicata alle “interferenze elettorali con operazioni di condizionamento online” spiega che già nelle elezioni del 2020 ci saranno “quasi certamente” delle attività in rete per “indebolire le istituzioni democratiche” e “condizionare risultati politici negli Stati Uniti e altrove“. Per raggiungere questo obiettivo gli avversari strategici cercheranno probabilmente di “usare deep fakes o altre tecnologie di intelligenza artificiale per creare immagini, registrazioni e video convincenti ma falsi“.

image4

Non siamo più in un racconto di fantascienza o in una distopia orwelliana: per condizionare la realtà che ci circonda ormai basta cambiare la percezione che ne abbiamo.

Che Barack Obama abbia definito il Presidente Trump “a total and complete dipshit” [18] è un fatto accaduto solo nella realtà virtuale delle manipolazioni digitali, che diventano fatti reali solo nella mente di chi non saprà riconoscere la differenza. E non sarà un compito facile, nemmeno per chi si sente al sicuro da queste manipolazioni.

image3

Conviene prepararsi per tempo, ad esempio affrontando con senso critico e beneficio del dubbio qualunque contenuto audiovisivo diffuso in rete che non sia stato preventivamente verificato e confermato da terze parti indipendenti. Con le moderne tecnologie non basta più dire “l’ho visto in un video” per dire di aver visto qualcosa di realmente accaduto.

LINK ALLE FONTI UTILIZZATE PER QUESTO ARTICOLO:

[1] The Shining starring Jim Carrey : Episode 1 – Concentration

https://www.youtube.com/watch?v=HG_NZpkttXE

[2] Watch this deepfake version of ‘The Shining,’ starring Jim Carrey, and you may never trust another video clip.

https://www.marketwatch.com/story/watch-this-deepfake-and-you-may-never-trust-a-video-recording-ever-again-2019-07-09

[3] VoCo Demo at Adobe Max 2016

https://www.youtube.com/watch?v=GuZGK7QolaE

[4] Deepfakes – Real Consequences

https://www.youtube.com/watch?v=dMF2i3A9Lzw

[5] Zuckerberg must tolerate the deepfake treatment – and it’s all thanks to Facebook’s shoddy approach to news

https://www.independent.co.uk/voices/facebook-mark-zuckerberg-video-deepfake-pelosi-social-media-a8955441.html

[6] You Won’t Believe What Obama Says In This Video!

https://www.youtube.com/watch?v=cQ54GDm1eL0

[7] Doctored Pelosi video highlights the threat of deepfake tech

https://www.youtube.com/watch?v=EfREntgxmDs

[8] Virtual Reality Journalism

https://www.cjr.org/tow_center_reports/virtual_reality_journalism.php

[9] From 360 to Virtual Reality

https://medium.com/journalism-trends-technologies/from-360-to-virtual-reality-e20aa5f5b96d

[10] This is the frontline of Yemen’s civil war

https://edition.cnn.com/2018/01/29/vr/yemen-civil-war-front-line-vr/index.html

[11] A VR Spacewalk

https://canvas-story.bbcrewind.co.uk/sites/home-a-vr-spacewalk/

[12] Hajj 360 – experience the journey to Mecca in 360 degrees

https://interactive.aljazeera.com/aje/hajj360/index.html

[13] 6 x 9: A virtual experience of solitary confinement

https://www.theguardian.com/world/ng-interactive/2016/apr/27/6×9-a-virtual-experience-of-solitary-confinement

[14] New York Times – Virtual Reality

http://www.nytimes.com/marketing/nytvr/

[15] 15+ Great Examples of VR Journalism and 360 Reporting

https://vrtodaymagazine.com/vr-journalism/

[16] Facebook’s role in Brexit – and the threat to democracy

https://www.ted.com/talks/carole_cadwalladr_facebook_s_role_in_brexit_and_the_threat_to_democracy?language=en

[17] Worldwide Threat Assessment of the US Intelligence Community

https://www.dni.gov/files/ODNI/documents/2019-ATA-SFR—SSCI.pdf

[18] You Won’t Believe What Obama Says In This Video!

https://www.youtube.com/watch?v=cQ54GDm1eL0

Condividi:

Fonte: Matita Rossa – http://gubitosa.blogautore.espresso.repubblica.it/2019/08/13/deepfakes/

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *