I protagonisti dei video non hanno mai pronunciato quelle parole e probabilmente non sanno nemmeno che le loro fattezze e voci sono state usate così, a meno che non si siano visti: tutti questi video, infatti, sono deepfake, creati con intelligenze artificiali generative.

A volte le voci sono clonate abbastanza bene, a volte sono terribilmente meccaniche. I video sono credibili soltanto se non si fa abbastanza attenzione e se proprio non si ha idea che possano essere creati da qualcuno che ha usato un’ia. Eppure, a giudicare dai commenti sotto al video di Fedez, a fronte di molte persone che riconoscono il deepfake, ce ne sono molte che commentano come se fosse veramente il rapper a parlare.

Seguendo i link si atterra solo su video che girano in modalità organica – cioè condivisi da qualche pagina o profilo Facebook – quindi non si potrà accedere al livello successivo di questa operazione, che ora vediamo.

Per capire dove si va a parare, infatti, bisogna seguire il link del pulsante “Scopri di più” che, appunto, qui non c’è. Ho fatto questa scelta per due motivi: il primo è salvaguardare chi legge ed evitare che la navigazione venga disturbata troppo da altri video simili. Il secondo è che, spesso, i video che contengono il pulsante cliccabile sono stati rimossi dal sistema di controllo di Facebook, dopo un po’ di tempo.

Quelli che hanno il pulsante “Scopri di più”, infatti, non sono semplici post ma sono, appunto, annunci pubblicitari. Significa che qualcuno – nella fattispecie, i titolari delle pagine o dei profili – paga la Meta per raggiungere più persone che altrimenti non vedrebbero mai quel video.

Per vederne uno che, mentre scrivo, risulta ancora esistente sulla piattaforma anche se la campagna pubblicitaria è finita il 9 agosto 2004, si può seguire questo link: è sicuro perché rimanda all’archivio degli annunci pubblicitari di Facebook e per non incappare in fastidi piccoli o grandi basta non andare oltre con la navigazione.

Chi clicca su “Scopri di più” finisce su una pagina che, in gergo tecnico, si chiama landing page. Letteralmente, landing page significa “pagina di atterraggio” ma nel marketing digitale il termine indica, più precisamente, una pagina che ha come scopo quello di vendere qualcosa, far sottoscrivere l’iscrizione a un servizio, raccogliere dati o simili. Se ne può vedere una in maniera sicura cliccando qui. Il link rimanda a una fotografia di una di queste landing page che ho fatto personalmente, non alla pagina stessa. Dentro queste pagine di solito ci sono moduli da compilare, altri volti e nomi di personaggi famosi con virgolettati, recensioni e simili. Tutto finto, ovviamente. Tranne i moduli che raccolgono veramente i dati, se vengono inseriti.

Cosa succede provando a risalire al dominio principale di una di queste landing page? Qualcosa del genere: nel piè di pagina si trovano indirizzi fisici generici, per esempio quello di un coworking a Singapore. Se si usa uno dei servizi che aiuta a risalire a chi ha registrato il dominio – come Domain tool – il coworking a Singapore diventa un provider statunitense a cui qualcuno si è rivolto per la registrazione. Quel qualcuno risulta essere un’azienda cecoslovacca che però ha scelto di oscurare il proprio nome: può farlo. C’è l’indirizzo –un’anonima strada di Praga – e un numero di telefono. Cercando su Google il numero di telefono o l’indirizzo si scopre che il registrante, chiunque sia, ha registrato molti altri domini e sembra anche coinvolto in segnalazioni di tentativi di truffe online di vario genere.

Come fanno i soldi le persone che mettono in piedi tutto questo? A volte i link fanno iscrivere a qualche piattaforma legale di trading online, per esempio. Sono link di affiliazione. Significa che, se qualcuno si iscrive, qualcun altro – in questo caso, chi ha generato il video fasullo e la landing page – guadagna una percentuale di quel che viene poi investito sulla piattaforma o un importo fisso. A volte, invece, la truffa è molto più elaborata e prevede contatti puntuali per provare a estorcere enormi somme di denaro a singole persone: chi lascia i dati viene ricontattato, riceve una proposta di acquisto di azioni a 250 dollari l’una e se decide di comprare è fatta. Il New York Times ha appena raccontato il caso di Steve Beauchamp, un pensionato canadese di 82 anni, che ha perso più di 690mila dollari in una truffa basata su un video falso di Elon Musk. Come lui, una donna in Ontario ha perso 750mila dollari.

Le truffe online sono un giro d’affari enorme. L’Fbi stima che nel 2022 ci siano stati quasi 22mila casi di frodi via email che hanno portato a perdite di 2,7 miliardi di dollari. Nel 2023, senza le ia generative, si è arrivati a dodici miliardi di dollari persi da persone truffate. A gennaio 2024 un singolo deepfake video mirato ha causato una perdita di 25 milioni di dollari: una persona ha creduto di essere stata chiamata dal proprio capo, ma dall’altra parte della videoconferenza c’era un deepfake. Quando l’ha capito era troppo tardi: aveva già fatto il bonifico. La Deloitte stima che le truffe online potrebbero diventare, nei prossimi tre anni, un giro d’affari di oltre 20 miliardi dollari.

Ma le truffe di massa, quelle che si basano sui video che abbiamo visto qui, si potrebbero fermare?

La Meta ha detto al New York Times che stanno cercando di lavorare a un piano di individuazione automatica dei video-truffa sulla propria piattaforma, ma ha anche descritto uno scenario in cui le tattiche dei truffatori si affinano giorno dopo giorno. Eppure gli annunci pubblicitari a pagamento, prima di finire in piattaforma e di essere inviati alle persone che usano Facebook o Instagram, sono sottoposti a un sistema di approvazione preventiva: per esempio, provando a fare riferimenti a temi ritenuti sensibili si rischia il blocco dell’annuncio; se si mettono immagini controverse stessa cosa; se si crea un annuncio che riguarda temi politici occorre identificarsi con un documento; inutile ribadire cosa succede se si prova a parlare di Palestina.

Inoltre, ho provato personalmente a segnalare tutti i video fake elencati in questo articolo ma ho sempre ricevuto una notifica che mi diceva che non erano state individuate pratiche truffaldine tali da far bloccare l’annuncio, salvo poi trovarli bloccati qualche tempo dopo.

Come se non bastasse, questi annunci vengono pagati con sistemi di pagamento elettronici: sono, dunque, tracciabili. Così come i domini registrati. Davvero non si può fare di più?