"Una foto di una bella donna, sfondo nero, scattata con una macchina fotografica Sony Alpha a7 III". È il prompt (l'istruzione, in altre parole) che ha dato alla versione 5 di Midjourney, uno dei più popolari generatori di immagini con intelligenza artificiale, lo specialista Nicolas Neubert. Lo ha fatto per 264 volte, una dopo l'altra. Un modo, non scientifico ma senz'altro indicativo, per capire come le IA intendono la bellezza.

Ecco, probabilmente non è una vera e propria sorpresa, ma i risultati dell'esperimento di Neubert offrono una prospettiva piuttosto chiara sui pregiudizi delle intelligenze artificiali. L'84% delle 264 foto generate ritrae persone bianche e tutti i ritratti rappresentano donne giovani: insomma, secondo il sistema, la bellezza avrebbe una connotazione molto precisa, estremamente limitata.

Il risultato non cambia sostituendo il genere: indicando al sistema di ritrarre un maschio, la diversità nelle generazioni non aumenta.

Strategikon

Più che di ChatGPT, dovremmo avere paura di noi stessi

di Andrea Monti 30 Marzo 2023

Chi insegna cosa?

Un esperimento simile, ancora con l'obiettivo di dimostrare bias e pregiudizi dell'intelligenza artificiale generativa, è arrivato da un utente che ha postato su Reddit un breve video intitolato "Come Midjourney vede i professori, a partire dal Dipartimento di provenienza". Il contenuto mostra una visione quantomeno stereotipata, a partire dalle materie di insegnamento: docenti uomini di ingegneria, fisica e matematica; insegnanti donne di storia dell'arte o di altre discipline umanistiche.

Il video ha generato una sorta di trend su Twitter, in cui professori, in particolare dagli Stati Uniti, hanno messo pubblicato una loro foto, messa a confronto con quella generata dall'IA per la loro disciplina di interesse.

Perché le intelligenze artificiali hanno pregiudizi

L'intervento

Seth Dobrin: "L'intelligenza artificiale va regolamentata, non fermata"

di Gabriele Franco 23 Aprile 2023

I bias o pregiudizi delle intelligenze artificiali sono figli e conseguenze dirette del modo in cui questi sistemi apprendono. Tutto parte da una enorme quantità di dati - immagini, nel caso di Midjourney - che viene processata e poi utilizzata per creare correlazioni, per comprendere cosa generare in base alle richieste. In altre parole, se un generatore di immagini basato su IA viene addestrato su un set di dati che rappresenta in modo sproporzionato determinati gruppi di persone, come individui dalla pelle chiara, le immagini generate tenderanno a riprodurre questo pregiudizio.

Come raccontato anche da un esperimento di Hugging Face, è più o meno questo quello che accade con sistemi come Stable Diffusion o Midjourney, che hanno la pericolosa tendenza a riprodurre pregiudizi presenti nella società. Durante il test condotto dagli scienziati dall'azienda statunitense, nel 97% dei casi, alla richiesta di ritrarre una persona in una posizione di potere, le IA hanno prodotto immagini di maschi bianchi.

C'è un modo per combattere gli stereotipi?

Beautiful Minds

Daniela Amodei: "Claude, la nostra IA è utile, non dannosa e onesta. E più gentile di ChatGPT"

di Eleonora Chioda 30 Aprile 2023

Si tratta di un tema importante per il futuro delle intelligenze artificiali. Il rischio, infatti, è che la diffusione di questi sistemi finisca con il rafforzare e riprodurre bias pericolosi su una scala ancora più ampia. Secondo un articolo comparso su Forbes, il lavoro sui pregiudizi dell'IA è una delle chiavi perché questa tecnologia possa avere un impatto positivo. Al centro, c'è un lavoro continuo sui dataset, alla ricerca di possibili squilibri che possano generare rappresentazioni non corrette in ambiti specifici.

Emily Bender, linguista della Washington University tra le voci più interessanti sul mondo dell'IA, ha invece spinto, in una recente intervista a New Republic, sulla trasparenza. "Mi piacerebbe vedere trasparenza - ha spiegato -. Mi piacerebbe che l'utente possa sempre essere in grado di distinguere testi o immagini sintetiche. E non solo: sarebbe importante anche poter tornare indietro per scoprire come il sistema è stato effettivamente addestrato".

Va nella direzione della trasparenza anche l'AI Act, approvato lo scorso 11 maggio dall'Eurocamera. Nel testo del provvedimento, si legge come i modelli di IA, come GPT, siano chiamati a rispettare specifici requisiti di trasparenza. Tra questi, l'obbligo di rivelare che il contenuto è stato generato dall'intelligenza artificiale, di progettare il modello per impedire che crei contenuto illegale e pubblicare riepiloghi dei dati protetti da copyright utilizzati per l'addestramento.

Intervista

Marzia Polito, l’italiana che ha aiutato Google a creare Lens: “Nelle IA molti più benefici che rischi”

dal nostro inviato Emanuele Capone 11 Maggio 2023