Da quando ha fatto la sua comparsa ChatGPT è ripartito un dibattito che negli ultimi anni si era un po’ sopito: quand’è che le intelligenze artificiali raggiungeranno il livello dell’essere umano? È già presente in loro una traccia di coscienza? È una tecnologia che rischia di rivelarsi pericolosa, al punto da rappresentare, come sostengono alcune correnti di pensiero, un “rischio esistenziale”?

Sono aspettative e timori che, a meno di clamorose sorprese, si possono considerare eccessivi: ChatGPT e gli altri LLM (la sigla sta per Large Language Model) non sono dotati di alcuna forma di intelligenza e nemmeno di comprensione. Posseggono invece la capacità di scovare, in maniera spesso molto accurata, quale sequenza di frasi abbia statisticamente la maggiore probabilità di rispondere alle nostre richieste o di replicare in maniera coerente a una nostra affermazione.

Questo, però, non significa che tutto vada sempre secondo le previsioni. Non solo perché ChatGPT e simili commettono ancora moltissimi errori e sono soggetti a vari tipi di allucinazioni (come si definiscono in gergo le situazioni in cui l’intelligenza artificiale produce con sicurezza resoconti completamente inventati), ma anche perché il comportamento dei modelli più potenti è spesso in grado di sorprendere i loro stessi programmatori.

Intelligenza artificiale

La IA fra razzismo e discriminazione: due anni dopo, siamo messi peggio di prima

di Emanuele Capone 27 Marzo 2023

Per esempio, nel corso di un test organizzato, tra gli altri, da Ethan Dyer, scienziato informatico di Google Research, sono state mostrate a vari LLM sequenze di emoji che riproducevano il titolo di un film. Nonostante i modelli più limitati fornissero risposte prive di senso, quelli più potenti riuscivano invece a indovinare, spesso al primo colpo, il film in questione (per esempio segnalando correttamente che le emoji rappresentanti i pesci e una bambina potevano indicare il film Alla ricerca di Nemo).

Un’abilità sorprendente, considerando che questi modelli dovrebbero avere un unico obiettivo: accettare una sequenza di testi come input e prevedere (su base puramente statistica) quale possa essere una prosecuzione coerente di quegli stessi testi. Non era in alcun modo previsto, però, che sviluppassero l’abilità di interpretare alcune emoji: “Nonostante i tentativi di prepararsi alle sorprese, mi sorprendo sempre di ciò che questi modelli sono in grado di fare”, ha chiosato Dyer.

Queste inaspettate abilità sono dette “emergenti”: capacità che solo i modelli più grandi sviluppano improvvisamente e che spesso hanno poco a che fare con l’analisi dei testi. In alcuni casi, per esempio, chiedere agli algoritmi di spiegare la ragione delle loro decisioni (sviluppando una catena di pensieri) permette loro di risolvere problemi matematici che, altrimenti, non sarebbero riusciti a risolvere correttamente.

Ci sono però anche alcuni rovesci della medaglia: “Mano a mano che, al crescere delle dimensioni, i modelli migliorano le loro prestazioni, aumenta anche la probabilità di comportamenti dannosi o portatori di pregiudizi - si legge su Quanta Magazine - I modelli più grandi possono improvvisamente diventare più parziali e distorti”, ha confermato sempre a Quanta il ricercatore Deep Ganguli, della startup Anthropic.

Più in generale, questo tipo di comportamenti indica un apprendimento cosiddetto Zero Shot o Few Shot: la capacità cioè di risolvere determinati problemi nonostante il sistema non li avesse mai (o solo raramente) incontrati prima. Un’abilità lungamente ricercata nel campo dell’IA, i cui sistemi non erano mai stati in grado di apprendere qualcosa autonomamente.

Nuova versione

GPT-4, l'intelligenza artificiale di OpenAI diventa ancora più potente

di Bruno Ruffilli 14 Marzo 2023

Adesso, però, viene il difficile: i ricercatori devono capire perché ciò si stia verificando. Una possibile spiegazione è che, effettivamente, i modelli più complessi stiano spontaneamente conquistando nuove abilità: “Potrebbe benissimo essere che questi sistemi abbiano appreso qualcosa di fondamentalmente nuovo e differente, che non possedevano invece quando le loro dimensioni erano più ridotte”, ha spiegato la scienziata informatica Ellie Pavlick.

La seconda possibilità è meno affascinante, ma altrettanto importante: le abilità emergenti potrebbero essere il culmine di un processo statistico interno. Secondo questa interpretazione, i sistemi più complessi diventerebbero talmente bravi a scovare correlazioni all’interno dei big data (sfruttando il maggior numero di parametri di cui sono dotati e magari anche i dati di migliore qualità) da raggiungere risultati che non erano inizialmente previsti.

Quale delle due spiegazioni è corretta? “Poiché non sappiamo esattamente ciò che avviene all’interno di questi sistemi, non sappiamo nemmeno dire quale scenario sia corretto”, ha spiegato sempre Pavlick. Insomma, almeno per il momento, l’intelligenza artificiale continuerà a sorprenderci senza che nemmeno ci sia possibile capire che cosa davvero stia avvenendo.