Deepfake su Telegram, c’è un bot che spoglia le donne: oltre 100 mila vittime
Oltre 100 mila donne virtualmente denudate. Tra cui, alcune giovani influencer italiane. Vittime inconsapevoli di uomini che hanno dato le loro foto, spesso rubate sui social, in pasto a un bot Telegram: un programmino automatico che si trova sull’app di messaggistica russa ed è in grado di ritoccare le istantanee in tempo reale, svestendo le protagoniste. Immagini che sono state poi condivise, commentate e persino votate in almeno sette chat pubbliche. È la nuova frontiera del revenge porn, quella svelata da un’indagine della compagnia Sensity, che Repubblica ha potuto visionare in anteprima.
La nuova frontiera del revenge porn
Vendette sessuali e stupri virtuali non nuovi nell’app fondata da Pavel Durov, più volte accusata di non fare abbastanza contro gli abusi. Ma che adesso sfruttano una tecnologia prima appannaggio di pochi e ora diventata alla portata di chiunque. In gergo vengono definiti deepfake. In pratica si tratta di foto, video e audio taroccati sfruttando l’intelligenza artificiale. “Usare gli algoritmi per creare delle immagini false con l’obiettivo di prendere di mira ex partner o conoscenti non è mai stato così semplice”, commenta Giorgio Patrini, uno degli autori dell’analisi. Ed è proprio la facilità di utilizzo la principale novità del bot. Un’evoluzione che dimostra come i deepfake stiano evolvendo a ritmi vertiginosi. È solo l’esordio di una nuova stagione di cui è difficile delineare i contorni, scanditi dal progresso. Un domani in cui distinguere il falso dal vero diventerà sempre più difficile tanto quanto sarà facile falsificare la realtà, perché in ogni falso si nasconderà molto di autentico. Pensare che la storia dei deepfake è recentissima. Il primo caso noto alle cronache risale al 2017, quando Motherboard scovò un video in cui il volto dell’attrice Gal Gadot era stato sovrapposto a quello della protagonista di un porno. La parte più interessante della storia è che l’autore del filmato manipolato non era stato un grande studio di effetti speciali, ma un utente di Reddit che aveva usato strumenti reperibili online. Da allora il fenomeno è cresciuto tanto che a ottobre del 2019 si contavano sul web oltre 14.500 contenuti del genere, la maggior parte pornografici.[[ge:rep-locali:repubblica:271131794]]
I limiti superati
Rimanevano due paletti per l’adozione in massa. Prima di tutto, per usare molte delle applicazioni disponibili online è necessario saper programmare e aver a disposizione dei potenti processori grafici. Pagando esistono dei servizi ad hoc, ma il grande scoglio da superare è la quantità di dati necessaria: per funzionare gli algoritmi hanno bisogno di molte foto della persona che si vuole rendere protagonista del falso. Uno dei portali che si trovano in Rete richiede, ad esempio, 250 scatti. Entrambi i limiti sono stati abbattuti. Una foto, magari sottratta da un profilo social, è ora più che sufficiente per creare il proprio contenuto tarocco e rendere una ragazza inconsapevole protagonista di un’immagine pornografica. Pure le competenze informatiche non sono più fondamentali, spiega Patrini: “Basta caricare l’istantanea su un apposito canale Telegram. Lo scatto viene ritoccato e rispedito al mittente in pochi minuti, se non secondi”. Il bot è gratuito e in più c’è la possibilità di una versione premium: pochi dollari per rimuovere il logo del software sulla foto e avere priorità rispetto agli altri utenti nell’usufruire del servizio. I risultati non sono perfetti, ma in alcuni casi apprezzabili al punto da riuscire a passare per veritieri a un occhio meno esperto.
Dalle attrici alle ex fidanzate
Un salto di qualità che ha permesso di cambiare anche il bersaglio dei deepfake a sfondo sessuale. Se prima erano soprattutto attrici famose, di cui è possibile recuperare molto materiale con una semplice ricerca online, adesso sono per lo più compagne di scuola, colleghe, madri, sorelle. Potenzialmente chiunque abbia almeno una propria foto sul web. In particolare, i ricercatori hanno scoperto che nel mirino sono finite diverse influencer e celebrità. Ma nel 70 per cento dei casi le vittime sono soggetti privati, potenzialmente anche minorenni, di diverse nazionalità. Ne hanno individuate quattro: Russia, Argentina, Italia e Stati Uniti. Mentre per quel che riguarda gli utilizzatori, tra il bot in sé e i canali affiliati, se ne contano oltre 100mila: in maggioranza russi o di Paesi dell’ex Unione sovietica. Le implicazioni sono enormi. Oltre al già citato revenge porn e agli stupri virtuali, c’è il rischio concreto che queste immagini vengano usate per ricatti ed estorsioni. A dimostrazione che quando si parla di deepfake, il pericolo più immediato non è tanto la diffusione di notizie false e propaganda, quanto la sicurezza delle donne. E, al momento, non esistono strumenti per difendersi.
