“Nonna sono finito in prigione, non ho soldi né documenti, puoi mandarmi qualcosa per la cauzione?”: questa è la richiesta d’aiuto che la 73enne canadese Ruth Card ha ricevuto dalla voce del nipote Brandon. Subito dopo la telefonata, la donna è corsa a prelevare 3mila dollari per aiutare il nipote in difficoltà. Quando è arrivata in un’altra banca, per cercare di recuperare ancora più denaro, è stata bloccata da uno dei direttori: non era la prima persona ad avere ricevuto una chiamata simile, apparentemente da un parente. La richiesta proveniva da una voce falsa, generata tramite intelligenza artificiale.

La storia raccontata dal Washington Post è una testimonianza delle conseguenze inattese di un mondo in cui l’IA migliora costantemente nella capacità di creare contenuti credibili, siano essi testi, immagini o appunto audio.

Lo stesso quotidiano di proprietà di Jeff Bezos racconta come le truffe telefoniche con voci fasulle siano ormai sempre più comuni negli Stati Uniti: secondo dati della Federal Trade Commission, nel solo 2022 ci sono state oltre 36mila segnalazioni di persone spinte a dare denaro a impostori che si spacciavano per parenti o amici.

Una situazione che rischia di peggiorare con le nuove evoluzioni dell’intelligenza artificiale: dopo testo e immagini, in effetti, quella dell’audio sembra essere una delle prossime frontiere dell’IA. Come ChatGPT e Dall-E 2, esistono strumenti che democratizzano la creazione di deepfake audio sempre più credibili.

L’allarme

Il lato oscuro di ChatGPT: così l’intelligenza artificiale viene usata per il cybercrimine

di Emanuele Capone 12 Gennaio 2023

Come funziona la sintetizzazione vocale

In attesa del debutto di Vall-E di Microsoft, online si trovano già alcuni strumenti decisamente facili da utilizzare, che funzionano soprattutto in lingua inglese. Il più noto è Eleven Labs, che permette, a fronte di un abbonamento da 5 dollari al mese, di clonare qualunque voce in pochi minuti.

Il processo non è immediato, ma abbastanza facile perché possa diventare interessante per chi vuole lavorarci o usarlo per scopi meno legali. Tutto sta nell’inserimento di materiale di apprendimento, che consente all’intelligenza artificiale di imparare e replicare. Nel caso di Eleven Labs, è necessario inserire 25 file contenenti registrazioni chiare della voce che si vuole imitare. Una volta creata, compare uno spazio bianco, in cui è possibile inserire il testo che si vuol far recitare alla voce artificiale.

Un altro servizio simile è Resemble, che permette gratuitamente di creare una nuova voce con un procedimento simile a quello di Eleven Labs. La differenza è che, in questo caso, la voce si può registrare anche in diretta, ripetendo le frasi (per ora in inglese) proposte dal servizio.

Voci famose e meno famose

Come si capisce, il meccanismo è relativamente semplice: l’IA ascolta esempi di una determinata voce e impara a replicarla, per farle dire quello che si sceglie. Un sistema che mette potenzialmente a rischio chiunque, perché la nostra voce è uno dei dati che cediamo online, in particolare nei video pubblicati sui social network: “Un anno fa serviva una quantità enorme di materiale audio per clonare la voce di una persona - ha spiegato Hanih Farid, dell’Università di Berkeley, al Washington Post - Ora, se hai una pagina Facebook, o se hai registrato un TikTok e 30 secondi della tua voce sono online, è diventato piuttosto facile replicarla”.

Ed è questa la vera differenza rispetto al passato e rispetto a servizi come FakeYou: potenzialmente, chiunque potrebbe raggiungere uno dei nostri profili social (se disponibili al pubblico), scaricare i video che abbiamo pubblicato e addestrare con quegli audio uno dei sistemi di intelligenza artificiale disponibili in Rete.

Nonostante questo, le vittime più colpite da questa pratica sono naturalmente le persone la cui voce è più diffusa online, in particolare le celebrità statunitensi. In un articolo pubblicato su Vice, si racconta come, poco dopo il lancio della beta pubblica di Eleven Labs, 4Chan sia stata letteralmente invasa da deepfake audio con protagonisti personaggi controversi come Joe Rogan o Ben Shapiro. A Emma Watson, l’attrice che ha interpretato Hermione in Harry Potter, è andata peggio: circola ancora su Twitter un audio generato da IA in cui legge alcuni passi del Mein Kampf.

La stessa Eleven Labs, qualche tempo dopo, è intervenuta in un thread su Twitter per annunciare che le funzionalità di clonazione della voce sarebbero state disponibili solo a pagamento e che, in un prossimo futuro, sarebbe stato introdotto un sistema per segnalare l’audio generato artificialmente.

Il punto è che non sempre è facile distinguere il vero dal falso, anche per chi ha una certa esperienza online. C’è un video su TikTok in cui Taylor Swift commenta in modo quantomeno provocatorio la questione che riguarda il prezzo dei biglietti dei suoi concerti sul rivenditore Ticketmaster: “Non me ne frega niente, non mi esibisco per dei poveracci”, commenta una voce che sembra davvero quella della cantautrice dei record. Non è lei, ma il video a oggi ha quasi 3,5 milioni di visualizzazioni e 8mila commenti: alcuni parlano di intelligenza artificiale, altri però commentano la dichiarazione, come se fosse reale.