parte 2
Da tecnologia di intrattenimento a potente strumento di comunicazione, business e controllo.
I vantaggi della tecnologia Deep Fake sono vari, può essere utilizzata in molti e diversi settori: servizi di comunicazione, pubblicitari, moda, campo medico, intrattenimento, dove ad es. le celebrità possono vendere il loro “modello virtuale” senza così avere la necessità di dover interpretare e/o viaggiare per andare sulle riprese di un set cinematografico.
Un altro aspetto interessante è ad es. quello di realizzare applicazioni per rappresentazioni umane sintetiche immaginarie, cioè utilizzare la tecnologia deep fake per creare modelli di persone immaginarie, mescolando ad es. le immagini di varie persone reali al fine di generare un modello di persona sintetica non reale (Facial synthesis).
Un esempio è il sito: https://generated.photos/face-generator. Qui è possibile creare un modello di umano (partendo da un database di immagini di persone reali), selezionando razza, età, colori degli occhi, profili, postura, stato d’animo, etc. e disporre così di un set fotografico di un modello virtuale unico da utilizzare, ad esempio, per una pubblicità, tra l’altro l’immagine generata è royalty free Nel prossimo futuro, sicuramente uno degli obiettivi principali dell’utilizzo del deep fake sarà la creazione di contenuti.
Anche per realtà governative il potenziale positivo di questa tecnologia risiede nella capacità di comunicare in modo più diretto, emotivo e naturale con le varie parti interessate, ad es. un annuncio di servizio pubblico che può essere trasmesso contemporaneamente in diverse lingue con modelli umani “sintetici” di varie etnie per rendere il messaggio più efficace e tranquillizzante.
Nel 2020 il canale MBN ha trasmesso un notiziario utilizzando un deep fake della giornalista Kim Joo-Ha (Fig. 4), che solitamente presentava le notizie.Per quanto riguarda l’aspetto negativo dei deep fake, a parte “vaporizzare” professioni (si pensi al software VoCo di Adobe, ancora in fase prototipale, in grado di soppiantare i doppiatori cinematografici), la manipolazione delle informazioni eseguita tramite questa tecnologia apre scenari di minaccia estremamente inquietanti. In generale, per le organizzazioni, si prevede che le aziende potranno essere vittime di diffamazione e inganno, gli attacchi di phishing attraverso audio e video saranno sempre più frequenti, complessi e soprattutto efficaci.
Ad es. nell’agosto 2019, l’amministratore delegato di una società europea, ingannato da un deepfake audio, ha assecondando la richiesta dei criminali effettuando un trasferimento di 243.000 dollari. Poiché Internet ha trasformato il mondo in un “villaggio globale”, anche le nazioni in conflitto utilizzano la diffusione di notizie false per portare avanti i loro programmi all’estero, minando la reputazione dei paesi avversari nel resto del mondo.
Molti paesi ormai gestiscono account di social media, siti Web ed applicazioni sponsorizzate dal governo, contribuendo alla propaganda politica globale. In particolare, si ritiene che i governi di Cina, Israele, Turchia, Russia, Regno Unito, Ucraina, Corea del Nord e specifiche organizzazioni governative come CIA e NSA, siano coinvolte nell’uso di “fantasmi digitali” per diffamare gli oppositori e diffondere disinformazione.
Anche in ambito governativo/militare l’utilizzo della tecnologia deep fake come arma da utilizzare in conflitti di cyberwarfare ha un enorme potenziale, la guerra ibrida di quinta generazione utilizza la disinformazione come ulteriore dimensione di conflitto; dalla propaganda politica alla disinformazione per destabilizzare i governi avversari, dall’ingerenza elettorale alla privazione delle persone della cosiddetta “autodeterminazione informativa” (“ciò che voglio far sapere di me lo decido io”), e della loro libertà decisionale (“quello che penso e faccio è una scelta su cui gli altri non possono interferire”).
La tecnologia deepfake sarà sempre più facilmente utilizzata ed il suo prodotto, sempre più sofisticato e realistico, sarà sempre più presente in due ambiti: nell’informazione falsa (Misinformation), imprecisa, comunicata indipendentemente dall’intenzione di ingannare, e nella disinformazione (Disinformation) attraverso strategie ben precise, utilizzate da lobbies economiche e politiche per fabbricare informazioni, per il loro vari obiettivi politici, finanziari, etc.
Si prevede che il deepfake diventerà il principale processo di diffusione intenzionale di notizie manipolate per influenzare l’opinione pubblica o oscurare la realtà. Grazie all’uso sempre più intensivo ed estensivo delle piattaforme social media, la divulgazione di notizie false generate con tecnologia deepfake audiovisiva ha effetti molto più devastanti, in quanto i soggetti, vittime a loro insaputa di un deepfake, non solo subiscono una perdita di controllo sulla loro immagine, ma vengono anche private del controllo sul loro pensiero, adducendogli false idee e comportamenti.
Le fonti di Misinformation/Disinformation aumenteranno, grazie al deepfake, le loro capacità “offensive”. Tra le principali fonti troviamo: Troll: Spesso confusi con gli haters, i troll hanno strategie diverse da questi ultimi, non vogliono solo insultare un soggetto in particolare (persona, organizzazione, Nazione, etc.) ma vogliono generare una rissa mediatica, in modo da attirare più persone sul soggetto da colpire.
troll sono sempre più spesso vere e proprie “aziende“ della disinformazione, fabbriche di troll al soldo di soggetti politici, lobbies ed aziende che li ingaggiano regolarmente per falsificare notizie relative ai loro concorrenti e diffonderle nel mercato. Bot: I bot sono software o algoritmi automatizzati, utilizzati per diffondere contenuti fabbricati o fuorvianti.
In genere sono sistemi adottati per una diffusione massiva e trasversale di contenuti, ad es. durante la campagna elettorale statunitense del 2016, i bot sono stati impiegati per generare un quinto di tutti i tweet postati durante l’ultimo mese di attività elettorale. I deepfake potenziati dai sistemi bot possono aumentare in maniera esponenziale il loro impatto negativo.
Ne è un esempio il caso del bot sull’app di messaggistica Telegram che, qualche tempo fà, utilizzando il codice di un’altraapp denominata Deepnude (ritirata dai vari app store ma disponibile sul sito Github), riproduceva l’immagine di un corpo femminile nudo basandosi sulle informazioni analizzate nella foto originale (dimensioni, ombre, proporzioni, etc.) inviata dagli utenti. La combinazione Bot+Deepfake può aprire scenari di produzione e diffusione massiva di informazioni false estremamente allarmanti.
Teorici della cospirazione: I teorici della cospirazione, in genere, credono che alcune importanti comunità gestiscono le informazioni nascondono delle verità, come ad es. le teorie del complotto sul controllo delle masse o la cospirazione dell’attuale pandemia di COVID da parte degli Stati Uniti e della Cina. In una situazione del genere, l’uso di contenuti deepfake audiovisivi fabbricati da parte di questi teorici, o da parti avverse che li sfruttano attraverso la Misinformation, possono innescare dannose azioni di disinformazione su controversie politiche a livello globale in pochissimo tempo.
Hyper-partisan Media: con il termine media “iper-partigiani” ci si riferisce a siti Web, blog di notizie, più o meno tematici, che diffondono intenzionalmente informazioni false.
Grazie ai social media e ad attori come i troll ed i teorici della cospirazione, i media “iper-partigiani” sono dei veri e propri incubatori per la diffusione di notizie false tra le persone. I convincenti contenuti falsi generati dall’Intelligenza Artificiale permettono la facile diffusione della disinformazione attirando a sé nuovi visitatori aumentandone la visibilità, ed informazioni basate su deepfake ne incrementano inoltre anche l’“autorevolezza”. Poiché i media “iper-partigiani” e le piattaforme social sono in gran parte gestite da organizzazioni indipendenti basate sulla pubblicità, la diffusione di informazioni fabbricate può essere puramente una strategia a scopo di lucro.
Politica: Principale fonte storica della disinformazione. A causa del gran numero di follower sulle piattaforme social, i politici sono nodi centrali nelle reti online, usando la loro fama e notorietà sfruttano il sostegno pubblico per diffondere notizie false tra i loro seguaci.
Con lo scopo di diffamare gli avversari politici, possono arrivare a pubblicare contenuti controversi sui loro concorrenti anche su media convenzionali.
parte 2
