Donald Trump è a terra, in ginocchio, placcato dai poliziotti. L’immagine è falsa - come è stato ampiamente documentato - eppure il fotorealismo di questo scatto, generato dall’intelligenza artificiale, ha tratto molti in inganno.

Il finto scatto di Trump in arresto non sarà il primo - e neanche l’ultimo - a metterci in crisi. Ma finora, fortunatamente, l’IA che produce questo tipo di immagini - può essere Midjourney ma anche Stable Diffusion o Dall-E 2 - aveva un punto debole ben preciso: le mani.

Una serie di immagini, virale lo scorso gennaio, ha evidenziato bene il problema. Miles Zimmerman, un programmatore di San Francisco, ha usato proprio Midjourney per creare gli scatti di un party che non si è mai svolto, con persone totalmente inventate. Eppure nessuno (o quasi) avrebbe dubitato a prima vista della veridicità delle foto, se non fosse stato per le mani delle ragazze ritratte. Una di loro aveva almeno dieci dita. Un’altra, invece, ne aveva cinque ma di una lunghezza innaturale.

Questi scatti hanno innescato commenti ironici tra gli utenti di Twitter. E hanno rassicurato, in un certo senso, coloro che già prevedevano un mondo travolto dai deepfake, le immagini create dall’IA in cui - per esempio - il volto di una persona viene sostituito alla perfezione da quello di un altro individuo.

Nell’insieme, le immagini generate dall’intelligenza artificiale sembrano coerenti e plausibili. Ma spesso, man mano che si va in profondità con lo sguardo, e si sposta l’attenzione su elementi sullo sfondo, oppure di contorno al soggetto principale, ci si accorge che questi appaiono distorti e deformi.

È evidente nella finta foto in cui Trump “viene arrestato”. L’autore delle immagini, il giornalista - nonché fondatore di Bellingcat - Eliot Higgins, lo ha sottolineato con un tweet molto crudo, rimproverando una certa ‘stupidità’ a chi ha interpretato lo scatto come vero: basta osservare i simboli caotici sulle uniformi dei poliziotti, ma anche (e soprattutto) due mani che sbucano tra gli agenti, che di umano hanno ben poco.

L’IA di Midjourney (e simili) è stata addestrata su miliardi di immagini e la loro descrizione testuale. In questo modo l’algoritmo ha imparato che alla parola “astronauta” corrisponde l’immagine di un uomo o una donna con indosso una tuta e un casco spaziale. Così quando un utente, usando un’interfaccia simile a una chat, chiede all’IA di generare una nuova immagine che preveda la presenza di un astronauta, il software va a pescare le immagini relative a quella descrizione. E partendo da una forma casuale, si avvicina il più possibile alla richiesta dell’utente attraverso una rifinitura che prevede numerose iterazioni, vale a dire passaggi di rifinitura che aumentano la precisione e la qualità dell’immagine finale.

Abbiamo visto che questo processo è miracoloso, al punto da vincere concorsi d’arte e da far tremare fotografi, designer e illustratori, il cui lavoro si trova improvvisamente a rischio.

Un'opera creata da intelligenza artificiale ha vinto un concorso d'arte. Ma per molti è un imbroglio

Eppure l’IA, così brava a generare i volti degli esseri umani, così unici e ricchi di espressioni e particolarità, ha dei seri problemi con le mani. Perché?

Un giornalista di BuzzFeed lo ha chiesto a Stability AI, l’azienda che ad agosto 2022 ha lanciato Stable Diffusion, una delle IA text-to-image più potenti in circolazione. Un portavoce dell’azienda ha risposto che “nel volume di dati a disposizione dell’IA è universalmente noto che le mani sono molto visibili dei volti. E che, inoltre, sono molto più piccole nell’immagine originale”. L’algoritmo, dunque, ha più difficoltà a studiarle e a replicarle.

Italian Tech ha rivolto la stessa domanda a ChatGpt, la popolare intelligenza artificiale sviluppata da OpenAI, è la risposta è sorprendentemente simile: “È vero, anche i volti umani hanno numerose caratteristiche uniche, come le proporzioni del viso, le espressioni facciali, le rughe, i peli e così via. Tuttavia, l'intelligenza artificiale sembra avere meno problemi a generare visi umani rispetto alle mani perché i volti umani hanno alcune caratteristiche comuni che facilitano la loro generazione. Ad esempio, la simmetria del viso umano rende più facile per l'algoritmo di generazione di immagini creare un'immagine realistica del volto, poiché i due lati del viso sono in genere molto simili. Inoltre, ci sono anche molte più immagini di volti umani disponibili rispetto alle mani, il che significa che l'algoritmo di generazione di immagini ha a disposizione un maggior numero di esempi da cui apprendere”.

Quello che “afferma” ChatGpt ha una sua logica e soprattutto ha un fondamento di verità. Più dati ha a disposizione un algoritmo, più questo è intelligente. E in merito ai volti, è vero che questi sono più facilmente riconducibili a determinati ‘pattern’, ovvero a regolarità rilevanti che vanno a costituire un modello: la disposizione degli occhi, per esempio, oppure quella del naso o della bocca.

Su questi pattern, in fondo, è stato basato uno dei primi sistemi di riconoscimento facciale basato su intelligenza artificiale, sviluppato a metà degli anni 90 dal Dipartimento della Difesa Usa con l’ausilio di migliaia di foto dei suoi dipendenti.

Insomma, finora è stato relativamente semplice smascherare un’immagine creata dall’IA, nonostante fosse credibile: bastava osservare le mani, contare le dita e controllare la loro forma. Circola un’altra foto falsa di Trump, bloccato da due agenti, in cui un terzo poliziotto poggia una mano sul pugno sinistro dell’ex Presidente Usa: ebbene la mano del poliziotto ha qualcosa di strano, sembra sprovvista di indice.

Tuttavia anche questi difetti sono destinati a scomparire. Anzi, in molti casi sembrano essere già scomparsi.

L’ultimo aggiornamento di Midjourney, avvenuto lo scorso 16 marzo, sembra aver risolto il problema delle mani e delle dita. Un utente di Twitter, Zein Khan, ha sottolineato con due immagini come la nuova versione dell’IA sia capace di generare mani credibili: le ragazze ritratte sono state inventate dall’IA e hanno esattamente cinque dita. Cinque, lo stesso numero che identifica l’aggiornamento di Midjourney.

I passi in avanti dell’IA sono stati evidenziati anche da un giovane utente di Midjourney intervistato dal Washington Post, il diciannovenne Aidan Ragan, che ha messo a confronto le mani generate da Midjourney v4 (a sinistra, nel tweet qui sotto) con quelle create in seguito all’ultimo aggiornamento (a destra, nello stesso tweet).

La differenza salta agli occhi. Ragan ha detto di avere già nostalgia delle vecchie ‘imperfezioni’, che ritiene il risultato di un’affascinante interpretazione artistica dell’IA. “Ora invece il modello sembra molto rigido - ha detto il programmatore - è tutto più robotico, si riduce a uno strumento”.  

“Prima di sistemare questi dettagli - ha detto al Washington Post il professore di informatica forense Hany Farid, dell’Università della California - gli utenti medi contavano le dita e giungevano alla conclusione che, forse, una determinata immagine era falsa. Ma ora che anche i dettagli delle mani sono corretti, queste prove visive inizieranno a essere più rare”.

La stessa preoccupazione agita Del Walker, specialista nella creazione di personaggi 3D, che proprio lo scorso 16 marzo - il giorno dell’aggiornamento di Midjourney - ha pubblicato delle immagini in un tweet virale, visto da più di 1 milione di utenti, in cui affermava: “Midjourney ora può creare le mani nel modo giusto. Siate critici rispetto a qualsiasi immagine a sfondo politico osserverete online”.

“L’errore che non bisogna fare è dire ‘guarda le mani’ o ‘guarda i denti’ [che nelle foto generate dall’IA sono solitamente più numerosi rispetto alla realtà, ndr] - ha scritto Walker -  Questa intelligenza artificiale produce foto solo da quattro mesi. Tra due anni sarà indistinguibile. La cosa corretta da chiedersi è: ‘Questa foto cita fonti reali?’ oppure ‘Possiamo provare l'origine di questa immagine?’”.

Qualsiasi artista o illustratore sa bene che la mano è forse la parte del corpo più complessa da disegnare: per le numerose parti mobili rispetto al resto del corpo, ad esempio, e per la sovrapposizione che si viene a verificare quando le dita assumono diverse posizioni.

Non a caso fino al Medioevo la rappresentazione delle mani non ha brillato per il suo realismo. Poi è arrivato il Rinascimento. E Leonardo Da Vinci, con i suoi disegni che mettono in risalto ossa e legamenti della mano. E Michelangelo, Botticelli e Dürer. Anche la mano è diventata arte.   

In soli quattro mesi, le macchine hanno assimilato 623 anni di storia. E si preparano a lasciare la loro impronta sull’arte che l’uomo produrrà in futuro.