In evidenza
Sezioni
Magazine
Annunci
Quotidiani GNN
Comuni
      1. Aiello del Friuli
      2. Amaro
      3. Ampezzo
      4. Andreis
      5. Aquileia
      6. Arba
      7. Arta Terme
      8. Artegna
      9. Arzene
      10. Attimis
      11. Aviano
      12. Azzano Decimo
      1. Bagnaria d'Arsa
      2. Barcis
      3. Basiliano
      4. Bertiolo
      5. Bicinicco
      6. Bordano
      7. Brugnera
      8. Budoia
      9. Buia
      10. Buttrio
      1. Camino al Tagliamento
      2. Campoformido
      3. Campolongo al Torre
      4. Caneva
      5. Carlino
      6. Casarsa della Delizia
      7. Cassacco
      8. Castelnovo del Friuli
      9. Castions di Strada
      10. Cavasso Nuovo
      11. Cavazzo Carnico
      12. Cercivento
      13. Cervignano del Friuli
      14. Chions
      15. Chiopris-Viscone
      16. Chiusaforte
      17. Cimolais
      18. Cividale del Friuli
      19. Claut
      20. Clauzetto
      21. Codroipo
      22. Colloredo di Monte Albano
      23. Comeglians
      24. Cordenons
      25. Cordovado
      26. Corno di Rosazzo
      27. Coseano
      1. Dignano
      2. Dogna
      3. Drenchia
      4. Enemonzo
      5. Erto e Casso
      1. Faedis
      2. Fagagna
      3. Fanna
      4. Fiume Veneto
      5. Fiumicello
      6. Flaibano
      7. Fontanafredda
      8. Forgaria nel Friuli
      9. Forni Avoltri
      10. Forni di Sopra
      11. Forni di Sotto
      12. Frisanco
      1. Gemona del Friuli
      2. Gonars
      3. Grimacco
      1. Latisana
      2. Lauco
      3. Lestizza
      4. Lignano Sabbiadoro
      5. Ligosullo
      6. Lusevera
      1. Magnano in Riviera
      2. Majano
      3. Malborghetto Valbruna
      4. Maniago
      5. Manzano
      6. Marano Lagunare
      7. Martignacco
      8. Meduno
      9. Mereto di Tomba
      10. Moggio Udinese
      11. Moimacco
      12. Montenars
      13. Montereale Valcellina
      14. Morsano al Tagliamento
      15. Mortegliano
      16. Moruzzo
      17. Muzzana del Turgnano
      1. Nimis
      1. Osoppo
      2. Ovaro
      1. Pagnacco
      2. Palazzolo dello Stella
      3. Palmanova
      4. Paluzza
      5. Pasian di Prato
      6. Pasiano di Pordenone
      7. Paularo
      8. Pavia di Udine
      9. Pinzano al Tagliamento
      10. Pocenia
      11. Polcenigo
      12. Pontebba
      13. Porcia
      14. Pordenone
      15. Porpetto
      16. Povoletto
      17. Pozzuolo del Friuli
      18. Pradamano
      19. Prata di Pordenone
      20. Prato Carnico
      21. Pravisdomini
      22. Precenicco
      23. Premariacco
      24. Preone
      25. Prepotto
      26. Pulfero
      1. Ragogna
      2. Ravascletto
      3. Raveo
      4. Reana del Rojale
      5. Remanzacco
      6. Resia
      7. Resiutta
      8. Rigolato
      9. Rive d'Arcano
      10. Rivignano
      11. Ronchis
      12. Roveredo in Piano
      13. Ruda
      1. Sacile
      2. San Daniele del Friuli
      3. San Giorgio della Richinvelda
      4. San Giorgio di Nogaro
      5. San Giovanni al Natisone
      6. San Leonardo
      7. San Martino al Tagliamento
      8. San Pietro al Natisone
      9. San Quirino
      10. San Vito al Tagliamento
      11. San Vito al Torre
      12. San Vito di Fagagna
      13. Santa Maria La Longa
      14. Sauris
      15. Savogna
      16. Sedegliano
      17. Sequals
      18. Sesto al Reghena
      19. Socchieve
      20. Spilimbergo
      21. Stregna
      22. Sutrio
      1. Taipana
      2. Talmassons
      3. Tapogliano
      4. Tarcento
      5. Tarvisio
      6. Tavagnacco
      7. Teor
      8. Terzo d'Aquileia
      9. Tolmezzo
      10. Torreano
      11. Torviscosa
      12. Tramonti di Sopra
      13. Tramonti di Sotto
      14. Trasaghis
      15. Travesio
      16. Treppo Carnico
      17. Treppo Grande
      18. Tricesimo
      19. Trivignano Udinese
      1. Udine
      1. Vajont
      2. Valvasone
      3. Varmo
      4. Venzone
      5. Verzegnis
      6. Villa Santina
      7. Villa Vicentina
      8. Visco
      9. Vito d'Asio
      10. Vivaro
      1. Zoppola
      2. Zuglio
Il caso

“Il Colosseo è un centro commerciale”, dice la nuova intelligenza artificiale di Meta

“Il Colosseo è un centro commerciale”, dice la nuova intelligenza artificiale di Meta
Galactica è un sistema in grado di generare articoli scientifici e pagine di Wikipedia, nato per creare e distribuire conoscenza. Ma ha qualche problema con la verifica delle informazioni
2 minuti di lettura

“Il Colosseo è un centro commerciale, a Roma. Fu costruito tra gli anni ’60 e ’70 nel quartiere Prenestino Centocelle, nei pressi dell’Eur”. È quasi inutile far notare quanti errori, storici ma anche geografici, ci siano in queste due frasi dedicate a una delle sette meraviglie del mondo moderno. Potrebbe essere consolante dire che sono state generate da un’intelligenza artificiale. Peccato si tratti di un’IA addestrata sulla “conoscenza dell’umanità” per “consultare e rielaborare quello che sappiamo sull’universo”.

 

Cos’è Galactica e come funziona

Il progetto si chiama Galactica ed è gestito da Papers With Code, in collaborazione con la divisione AI di Meta. È quello che si definisce un Large Language Model, ovvero un sistema addestrato su una mole molto alta di testi e in grado di generarne di nuovi. La differenza è che, questa volta, il modello è basato su articoli scientifici, libri e, più in generale, fonti riconosciute e verificate. Sì perché l’obiettivo di Galactica è ambizioso: creare e distribuire conoscenza, informazioni con rilevanza scientifica. La demo è stata disponibile per tutti per poco più di un giorno e mezzo, prima di essere sostituita da una pagina che invita a leggere il paper di riferimento. 

Il funzionamento è piuttosto semplice: una barra di ricerca molto chiara, stile Google, dalla quale chiedere al sistema di generare un simil-articolo scientifico o una pagina di Wikipedia, sull’argomento che l’utente preferisce. A quel punto, il sistema restituisce una prima porzione di quel contenuto, offrendo la possibilità di proseguire la generazione.

Il problema è che, almeno in questa prima fase, Galactica non sta propriamente fornendo informazioni verificate (e chissà che non sia questa la ragione della messa in pausa della demo). A parte l’esempio del Colosseo, abbiamo provato con la generazione di una pagina dedicata alla Torre di Pisa. Bene, secondo il sistema, il noto monumento toscano sarebbe stato progettato da Filippo Brunelleschi e completato nel 1476. Peccato che il Brunelleschi non c’entri niente con la Torre di Pisa, terminata circa 200 anni prima, nel 1275. 

Altri esperimenti che abbiamo condotto, su Galileo Galilei o sul 5G, hanno avuto esiti migliori: la sensazione, tuttavia, è che in ogni generazione possa essere nascosto un qualche tipo di errore o inesattezza. Gli esempi testi di dubbia validità scientifica creati da Galactica sono diventati piuttosto diffusi sui social network. Su Twitter molti utenti hanno pubblicato le loro generazioni, tra cui un’accurata descrizione di una particolare specie di orsi galattici.

Cosa non funziona

Il fatto che Galactica, così come le altre IA basate sul testo, potesse inventare fatti scientifici non è propriamente una novità. I ricercatori di Meta e Papers With Code inseriscono questa eventualità tra le limitazioni del progetto. In particolare, scrivono: “I modelli linguistici possono avere allucinazioni. Non ci sono garanzie per un output veritiero o affidabile dai modelli linguistici, anche quelli di grandi dimensioni addestrati su dati di alta qualità come Galactica. Non seguire mai i consigli di un modello linguistico senza verifica”.

Ecco, ma allora il punto è: ha senso usare questa tecnologia per generare conoscenza? La risposta è no, secondo la ricercatrice dell’Università di Washington Emily M. Bender, che sul tema ha pubblicato un importante articolo scientifico. “L’unica conoscenza – ha scritto su Twitter – che un modello linguistico ha riguarda la composizione delle parole, il loro ordine”. E, in effetti, sembra essere questo il problema. Le IA per generare testo, come GPT-3, prevedono le probabilità che un segno linguistico segua un altro segno linguistico, ma non sono particolarmente efficaci nell’interpretare la validità delle informazioni. Tutto ciò che conta, in altre parole, è la forma, non il contenuto.

Meta AI e il precedente Blenderbot

Non è la prima volta che la divisione AI di Meta finisce al centro di una discussione sull’efficacia delle proprie soluzioni di intelligenza artificiale. Lo scorso agosto, l’azienda di Mark Zuckerberg aveva lanciato Blenderbot, una chatbot basata su IA per conversazioni con gli utenti del web. Erano bastate poche ore prima che il sistema iniziasse a esprimere commenti razzisti e opinioni poco lusinghiere nei confronti del fondatore di Facebook, accusato, tra le altre cose, di indossare sempre la stessa maglietta.