A Memphis un ragazzo di 19 anni, Ezekiel D. Kelly, è entrato in un negozio di ricambi auto e ha aperto il fuoco, uccidendo quattro persone. Mentre sparava, Kelly ha ripreso tutto con lo smartphone. E ha trasmesso i suoi omicidi su Facebook, in diretta.

Facebook, che sta lavorando su questo caso insieme al Global Internet Forum to Counter Terrorism, un’organizzazione indipendente creata nel 2017 insieme a Microsoft, Twitter e YouTube, ha fatto sapere di aver rimosso il Live di Kelly prima ancora che la polizia di Memphis diffondesse un’allerta pubblica.

Nonostante questo, alcuni utenti di Facebook potrebbero essersi imbattuti nelle drammatiche immagini in diretta. Non sappiamo ancora quanti, per stabilirlo servirà un’indagine del social. Come quella effettuata nel 2019, in seguito a un episodio simile. All’epoca il 28enne Brenton Harrison Tarrant ha condiviso in diretta su Facebook la parte iniziale del suo attacco a due moschee, a Christchurch in Nuova Zelanda, che ha causato la morte di 51 persone. Lo streaming live di Tarrant, in quell’occasione, è stato visto da 200 persone.

E dunque ci si chiede: possibile che Facebook non sia ancora in grado di impedire che brutali omicidi vengano trasmessi in diretta?

La questione è molto complicata. E implica sicuramente i mezzi del social network di Zuckerberg, ma anche il senso civico dei suoi utenti.

Partiamo dalle responsabilità di Facebook. Moderare una diretta è molto diverso dal controllare il contenuto di un video sulla piattaforma. Quando un utente carica un filmato preregistrato, entrano in gioco degli algoritmi che impediscono - se il contenuto infrange le linee guida del social - il completamento dell’upload.

Il caso

Facebook, Twitter e Instagram hanno rimosso il video dello stupro condiviso da Meloni: perché e com’è successo

di Emanuele Capone 23 Agosto 2022

Una diretta, invece, prevede un’analisi delle immagini più complicata. Dall’attentato di Christchurch, molto è cambiato e ora Facebook utilizza l’intelligenza artificiale anche per monitorare gli streaming live, allenando costantemente l’algoritmo a riconoscere situazioni violenti o casi di potenziali suicidi.

L’allenamento dell’IA avviene anche attraverso le immagini fornite dalla polizia, che riprende e trasmette al social i video degli addestramenti dei loro agenti. È una tecnologia che funziona in background, e che si unisce agli occhi di un team globale, costituito da dipendenti in carne ossa, che monitora i contenuti “24 ore al giorno, sette giorni su sette”.

Ma è ovvio che qualcosa possa sfuggire alle maglie dell’algoritmo e alla vista dei moderatori. Per quanto il team di Facebook sia grande, non può far fronte a milioni di utenti che, da un momento all’altro, possono trasformarsi in broadcaster.

Facebook scrive che, in generale, monitora e modera “le trasmissioni che raggiungono un certo livello di popolarità (senza specificare il numero di spettatori che lo determina, ndr) e che entrano nei trend”. Se si pensa alla diretta di Christchurch, del 2019, e ai suoi 200 spettatori, si intuisce subito che questo genere di Live, soprattutto se avviati da utenti anonimi, magari con pochi ‘amici’, difficilmente possono attrarre nel breve periodo un numero elevato di utenti.

Ma allora l’intelligenza artificiale non è abbastanza efficace? La verità sta nel mezzo. L’IA, non solo quella di Facebook, sia chiaro, può sbagliare. Ma soprattutto non è in grado di prevedere il comportamento di un utente. L’algoritmo potrebbe forse spegnere la diretta non appena identifica una pistola? Come può capire che questa sia vera? Come può sapere il modo in cui sarà utilizzata? Tutto questo nel Paese in cui circolano 357 milioni di armi. Diverso il discorso di contenuti preregistrati, che il software può analizzare nella sua interezza mentre avviene il caricamento.

Il caso

Cosa è successo oggi all'algoritmo di Facebook (e cosa ci ha mostrato)

di Francesco Marino 24 Agosto 2022

E veniamo, invece, alle ‘responsabilità’ degli utenti, alla loro sensibilità e al loro senso civico. Le dirette di Facebook sono soggette alle stesse linee guida che devono rispettare i post. Anche i Live, quindi, possono essere segnalati dagli utenti connessi se infrangono le regole. In questo caso, Facebook può attivarsi più rapidamente per l’interruzione della trasmissione.

Certo, molto dipende anche dalla durata della diretta. Se questa è molto rapida, di pochi minuti, è possibile che la segnalazione non sia sufficiente e che un omicidio si consumi prima che il social possa intervenire. Ma se il Live è più lungo, e le immagini fin da subito esplicite, una segnalazione immediata può aiutare. È vero che gli utenti non sono tenuti a fare il lavoro dei moderatori, ma è sorprendente il fatto che la prima segnalazione riguardante l’attentato di Christchurch, per esempio, sia avvenuta solo 12 minuti dopo la fine della diretta.

Social network

L’idea di Zuckerberg: nuove funzioni a pagamento per Facebook, Instagram e WhatsApp

di Emanuele Capone 02 Settembre 2022

Quando una diretta con immagini violente finisce, inoltre, cosa succede? È possibile che altri utenti riescano a registrare quel flusso, o parte di quel flusso, e a pubblicarlo altrove. Se questo avviene su Facebook, in genere il filmato in questione ha vita breve. Nel momento in cui viene individuato dalla piattaforma, infatti, una copia del video viene inserita in un database. Questa copia aiuta l’algoritmo di Facebook a trovare e rimuovere tutti i video identici. Una tecnologia simile viene utilizzata, per esempio su YouTube, dalle tv che detengono i diritti di eventi sportivi, per esempio, e che analizzano la piattaforma continuamente alla ricerca di immagini caricate illegalmente.

Anche in questo caso, l’algoritmo non ha un compito estremamente facile. È possibile, infatti, che il video originale venga leggermente modificato, oppure che venga ripreso da un altro schermo, di modo da alterare le dimensioni effettive.

Tempo fa, per esempio, gli utenti di YouTube avevano capito che pubblicando video di partite di calcio modificati, con un’immagine ribaltata come fosse allo specchio, potevano ingannare l’algoritmo della piattaforma video. È durata poco, l’intelligenza artificiale è stata addestrata a riconoscere anche quei filmati alterati.