NewsGuard, l'agenzia americana che monitora gli organi di stampa e pubblica report periodici sulla loro affidabilità (qui un esempio), ha fatto debuttare il Centro di Monitoraggio delle informazioni generate dall'IA

Lo scopo è quello di tenere d’occhio i siti di notizie inaffidabili generati dall'intelligenza artificiale, che a oggi sarebbero almeno 150, e appunto produrre report, analisi e fact-checking relativi a disinformazione e false narrazioni che riguardano l’IA.

Intelligenza artificiale

Lo strano appello contro le IA: “Rischiamo l’estinzione”. Ma le aziende continuano a svilupparle

di Emanuele Capone 30 Maggio 2023

Il numero di questi siti è più che triplicato nell'ultimo mese e NewsGuard sta studiando in particolare come i media statali russi e cinesi abbiano usato testi generati dall'IA per diffondere affermazioni false, presentandole come vere: “Il China Daily  - si legge in una nota di NewsGuard - ha citato ChatGPT come fonte a supporto della notizia falsa secondo cui gli Stati Uniti gestiscono un bio-laboratorio in Kazakistan che starebbe conducendo ricerche sulla trasmissione dei virus dai cammelli all'uomo al fine di sviluppare un'arma biologica da utilizzare contro la Cina. Ad aprile, un altro sito generato dall'IA ha dato la falsa notizia della morte dell'attuale presidente degli Stati Uniti, Joe Biden”.

Inoltre, all'interno del centro di monitoraggio è disponibile il numero, costantemente aggiornato, dei siti denominati Uain (la sigla sta per Unreliable AI-Generated News) identificati dagli analisti di NewsGuard: sono siti di notizie inaffidabili creati, in parte o per intero, dall'intelligenza artificiale e che operano con poca o nessuna supervisione umana. Come detto, sinora sono stati identificati 150 siti Uain e gli analisti continueranno ad aggiornare il Centro di Monitoraggio mano a mano che emergeranno nuovi siti e nuove narrazioni false generate dall'intelligenza artificiale.

A maggio, quando NewsGuard ha iniziato a monitorare i siti Uain, il loro numero era di 49: “Uno dei motivi per cui 5 anni fa abbiamo creato NewsGuard era la facilità e il basso costo di produzione delle content farm - ha dichiarato Steven Brill, co-CEO di NewsGuard - I siti di notizie generati dall'intelligenza artificiale di oggi sono simili alle content farm macedoni che diffondevano disinformazione qualche anno fa, con la differenza che i costi di produzione sono ancora più bassi e che queste nuove fonti possono diventare ancora più prolifiche grazie ai progressi dell'intelligenza artificiale”. Gordon Crovitz, l’altro CEO di NewsGuard, ha ricordato che “la maggior parte di questi siti è stata creata sulla base del modello commerciale che genera entrate dalla pubblicità programmatica, che sembra funzionare bene. I marchi non hanno alcuna intenzione di inserire annunci su siti che non sono sicuri per la loro reputazione, eppure la scarsa trasparenza del sistema di gestione della pubblicità programmatica fa sì che le loro inserzioni, fornite da aziende di tecnologia pubblicitaria come Google, appaiano comunque su questi siti”.

Approfondimento

Disinformazione, pirateria e istituzioni: cosa c’è davvero dentro le IA come ChatGPT

di Francesco Marino 22 Aprile 2023

Da questo punto di vista, le stime prevedono che l'IA generativa consentirà a un maggior numero di aziende di incrementare i 2,6 miliardi di dollari di entrate pubblicitarie che vengono ogni anno destinati a siti che pubblicano disinformazione.

Questi siti, si legge nel report di NewsGuard, hanno solitamente nomi generici, come Top News Press e World Today News, spesso pubblicano un flusso costante di articoli su vari argomenti, tra cui politica, tecnologia, intrattenimento e viaggi. Ciò che viene omesso è il fatto che i siti operano con poca o nessuna supervisione umana e pubblicano articoli scritti in gran parte o interamente da bot, anziché offrire contenuti giornalistici creati e curati in modo tradizionale.

Gli articoli pubblicati da questi siti presentano in genere un linguaggio banale e ripetitivo, caratteristico dei testi prodotti da modelli di IA generativa: secondo l'analisi di NewsGuard, gli articoli talvolta contengono informazioni false su vari argomenti, come riferimenti a eventi mai accaduti o cure mediche false.