Sui social network, il 2022 si chiude in due modi: con post su Mercoledì, la bella serie di Tim Burton dedicata alla bimba della Famiglia Addams (e in particolare al suo inebriante balletto), oppure con slideshow di persone che mostrano com’è diventato il loro volto dopo il trattamento di Lensa. Pare impossibile sfuggire a uno di questi due flussi di contenuti. Qui ovviamente parliamo di Lensa.

Semplificando, è un’app che fa più o meno quello che fanno (facevano) Faceapp o altri software in grado di invecchiare o ringiovanire un viso partendo da un’immagine, una di quelle cose che si usano per scherzo e per vedere l’effetto che fa. Lensa ha gli stessi problemi di quelle app ma in qualche modo più grandi e più gravi, perché funziona molto meglio.

La storia

Privacy e riconoscimento facciale: gli abiti avversativi di una startup italiana ci nasconderanno dalle IA

di Emanuele Capone 26 Agosto 2022

Che cosa si può fare con Lensa

Lensa è una novità di questi giorni anche se non è davvero una novità: esiste dal 2018, ma è solo da dicembre che se ne parla tantissimo, talmente tanto da farla arrivare al primo posto nella sezione Photo & Video dell’App Store di iOS negli USA, che è quella dove stanno anche YouTube e Instagram (scese alle posizioni 3 e 4, al momento). È successo perché a fine novembre gli sviluppatori hanno introdotto la funzione Magic Avatar.

Dopo averla installata, Lensa chiede alle persone di fare l’upload di 10-20 foto personali, preferibilmente in primo piano o di profilo, e poi utilizza l’algoritmo di intelligenza artificiale di Stable Diffusion (cos’è?) per elaborarle e creare avatar della persona che sembrano disegnati da un artista digitale. Cosa che fra l’altro sta facendo arrabbiare tantissimo gli artisti digitali in carne e ossa.

Tutto questo non è gratis, e non è gratis anche in maniera non proprio trasparente: alla prima apertura, un pop-up invita ad attivare la prova gratuita di 7 giorni per usare gli strumenti di editing con IA, che se non viene annullata in tempo porta al pagamento di 39,99 dollari l’anno (29,99 euro, in Italia). Si può rispondere di no, ma la versione gratuita dell'app è molto limitata e comunque la funzione Magic Avatar sembra stare dietro a un altro paywall che a volte è attivo e a volte no: servono altri 3,99 dollari per 50 avatar, divisi in 5 varianti di 10 stili differenti.

La questione della privacy

Il problema del costo non è però quello più grande per Lensa. Il punto importante è l’uso che l’app fa delle immagini che riceve. Immagini che ritraggono la faccia di persone vere, che è una cosa da tenere ancora più presente in quest’epoca di deepfake (cos’è?), visto che con le facce di qualcuno si può fare praticamente qualsiasi cosa.

Gli sviluppatori dicono che le foto sono elaborate sui server di Amazon Web Services e che le immagini condivise dagli utenti vengono “cancellate entro 24 ore”, o comunque al termine dell’elaborazione. E però, si riferiscono solo alle immagini originali, quelle da cui il software parte per generare gli avatar. Tutte le altre, quelle create artificialmente, ma in cui comunque la persona è ovviamente riconoscibile, solo nella totale disponibilità dell’app. Come del resto è scritto chiaramente nella sezione Terms of Use: “You grant us a perpetual, revocable, nonexclusive, royalty-free, worldwide, fully-paid, transferable, sub-licensable license to use, reproduce, modify, adapt, translate, create derivative works from and transfer your User Content, without any additional compensation to you”. Che in italiano vuole dire che “ci concedi una licenza perpetua, revocabile, non esclusiva, esente da royalty, a livello mondiale, interamente pagata, trasferibile, sub-licenziabile per usare, riprodurre, modificare, adattare, tradurre, trasferire, creare opere derivate dai tuoi contenuti, senza ulteriore compenso per te”.

Che cosa se ne fanno, quelli di Lensa, dei nostri volti? Per esempio, possono usare le elaborazioni per pubblicizzare l’app, questa o altre che verranno in futuro. Così che potremo trovarci, senza saperlo, in bella mostra sul Play Store di Google. Sicuramente li useranno per allenare ulteriormente l’intelligenza artificiale a diventare ancora più brava, così che i prossimi software siano ancora più efficaci e convincano ancora più persone a usarli per vedere l’effetto che fa, fornendo altre facce che perpetueranno questo meccanismo praticamente all’infinito.

Il caso

Che cos’è Fakeyou, l’app per parlare con la voce di Conte e Berlusconi

di Francesco Marino 11 Ottobre 2022

Illegalità, nudo, sessismo: gli altri problemi

Questa è la parte prevedibile e altamente probabile di quello che accadrà con le foto condivise dalle persone su Lensa, poi c’è tutta la parte che è solo immaginabile. Anche se non meno probabile.

Per esempio, si dovrebbe ragionare sull’uso illegale che potrebbe essere fatto dei volti, che potrebbero essere utilizzati per contraffare documenti, magari addestrando una IA che faccia l’opposto di quello che fa quella usata da Lensa, riportando le foto al loro aspetto originale. Oppure per creare collage, animazioni, gif e video (più o meno brevi) a carattere pornografico, di cui gli ignari utilizzatori di Lensa si troverebbero involontariamente protagonisti. Cosa che agli attori di Hollywood già succede.

Quest’ultimo rischio sembra fra l’altro aumentato dalla facilità con cui l’app pare disposta a spogliare le persone. Le donne, soprattutto. I colleghi di TechCrunch sono riusciti a dimostrare come sia semplice produrre immagini di nudo frontale decisamente credibili, mentre su Twitter molte persone hanno fatto appunto notare che “se sei donna, nel set di avatar che ti vengono proposti ce ne sono molti in cui sei mezza nuda”. C’è addirittura chi ha provato a registrarsi prima come maschio e poi come femmina, notando che nel secondo caso la percentuale di immagini sessualmente allusive fosse decisamente più elevata.

Per tutte queste ragioni, Lensa non andrebbe usata con leggerezza. O almeno non per vedere l’effetto che fa, “tanto che vuoi che succeda?”.

@capoema