Ogni giorno su Twitch è possibile guardare tantissimi contenuti differenti: talkshow, videogiochi, esport, performance di vario tipo e anche esperimenti molto interessanti come una serie televisiva creata da una IA sulla falsariga di Seinfeld, chiamata (non senza ironia) Nothing, Forever. Perché è “il nulla che va avanti per sempre”, come si legge nella sua descrizione.

Si leggeva, perché lo show ha di recente subìto un blocco alle trasmissioni di 14 giorni per avere condiviso contenuti transfobici.

L’allarme

Il lato oscuro di ChatGPT: così l’intelligenza artificiale viene usata per il cybercrimine

di Emanuele Capone 12 Gennaio 2023

Che cos’è Nothing, Forever

Ma andiamo con ordine, perché non siamo di fronte alla classica storia di un comico che non capisce il tempo in cui vive e cerca di riposizionarsi facendo la vittima del politicamente corretto o un’autrice di libri per ragazzi che si scopre improvvisamente transfobica.

Nothing, Forever è uno show sviluppato da Mismatch Media e creato sfruttando interamente tecnologie base sul machine learning come Dall-E, GPT-3 e Stable Diffusion che ruota attorno a 4 personaggi vagamente ispirati a Seinfeld, ma solo per il fatto che sono 3 uomini e una donna che parlano di attualità e perché ogni show inizia con un piccolo momento di stand-up comedy.

Le similitudini si fermano qua, perché per il resto Nothing, Forever è uno show dai testi abbastanza noiosi con inquadrature strane che riprendono personaggi tridimensionali che sembrano usciti da un brutto gioco per la prima PlayStation. Ha successo soprattutto perché esiste ed è il prodotto di più intelligenze artificiali, più che per i suoi contenuti, anche se su Twitch c’è anche l’innegabile attrazione del qui e ora. Le gag, brutte o belle che siano, sono infatti irripetibili, momenti unici di follia, imbarazzo e comicità involontaria, che non si ripetono più: per questo (e prima del blocco), la media di spettatori si aggirava sulle 3mila persone, ben più di quante lo streamer medio possa sperare di ottenere.

Tuttavia, gli spettatori di Nothing, Forever dovranno aspettare le due settimane di stop che il canale ha dovuto subire per aver postato contenuti transfobici, violando palesemente le norme di Twitch.

Approfondimento

Cosa sono i dati sintetici e come potrebbero cambiare la nostra idea di privacy

di Gabriele Franco 05 Febbraio 2023

twitter: lo spezzone incriminato

Cos’è successo a Nothing, Forever

Ma com'è potuto succedere? A dire il vero, la stranezza è che sia successo solo adesso, perché quasi tutte le IA che hanno in qualche modo attinto ai contenuti in Rete sono diventate in poco tempo ricettacoli di razzismo, negazionismo storico o peggio.

Nel 2016, una chatbot di Microsoft fu corrotta dai contenuti di Twitter e in meno di 24 ore dall’attivazione iniziò a cinguettare contro minoranze, donne e a favore di Trump e sono molti gli esempi di machine learning che sono in qualche modo viziati da bias, perché sono gli stessi che affrontiamo noi tutti i giorni, solo che le IA non sono dotate di un contesto sociale e morale che fa da paracadute.

E quindi ecco che un bel giorno Larry, uno dei personaggi di Nothing, Forever, decide di iniziare il momento stand-up con una serie di commenti contro le persone transgender e come distruggono il tessuto della società, mettendoci dentro una frecciata contro gli omosessuali liberal che vogliono imporre il loro volere sul mondo. E a quel punto il ban era inevitabile.

In una mail inviata al magazine Kotaku, il creatore di Nothing, Forever, Skyler Hartle, si è dichiarato “molto imbarazzato” per l’accaduto e ha spiegato che la situazione si sarebbe verificata per un problema tecnico e ovviamente non rifletterebbe in alcun modo le opinioni di Mismatch Media.

Di solito i testi della sitcom sono vagliati da un sistema di moderazione fornito da OpenAI, che palesemente non ha funzionato e che verrà probabilmente affiancato da un secondo sistema per evitare ulteriori scivoloni. Più precisamente, pare che il modulo di GPT-3 utilizzando per lo show (chiamato Davinci) abbia avuto alcuni malfunzionamenti e, per evitare di interrompere le trasmissioni, i tecnici abbiamo momentaneamente usato Curie, un modulo di OpenAI meno evoluto. Che è quello che ha generato i commenti transfobici.