La strage di Christchurch in diretta e i limiti delle aziende tecnologiche

Ancora una volta le piattaforme digitali non sono state all’altezza. Facebook e YouTube sono stati sopraffatti dagli eventi scatenati dal terrorista suprematista bianco di Christchurch, che ha usato i social network per dare più risonanza possibile alla sua azione.

A quanto pare le aziende tecnologiche non hanno imparato dal passato. I jihadisti del gruppo Stato islamico (Is) avevano infatti ottenuto gli stessi risultati, trasformando i loro massacri in spot pubblicitari sul teatro mondiale dei social network.

Brenton Tarrant, l’assassino di Christchurch, ha filmato la carneficina trasmettendola in diretta su Facebook. I video sono poi stati condivisi su altre piattaforme da alcuni utenti che condividono l’ideologia di Tarrant, che li aveva avvertiti. Dieci minuti prima di agire, l’assassino aveva pubblicato un link alla sua pagina sulla piattaforma statunitense 8Chan, frequentata dai suprematisti bianchi e altri neonazisti.

La trasmissione è durata 17 minuti. La premier neozelandese si è detta sorpresa dal fatto che Facebook non abbia bloccato prima quelle immagini atroci. Ma i controlli, su queste piattaforme, sono effettuati a posteriori, e solo dopo l’allerta è stato possibile agire. Ormai il danno era fatto e si stava propagando a grande velocità.

I numeri sono sorprendenti: Facebook ha annunciato di aver cancellato in 24 ore circa un milione e mezzo di copie del video del terrorista, di cui 1,2 milioni in fase di caricamento, dunque prima della diffusione.

Le cifre sono ancora più incredibili per quanto riguarda YouTube. Nelle ore successive al massacro, i video di Christchurch sono stati caricati al ritmo di uno al secondo, più rapidamente di quanto YouTube riuscisse a cancellarli. Tra l’altro, per sfuggire ai sistemi automatici, i video sono stati caricati in versioni leggermente modificate e dunque più difficili da individuare. Sopraffatta, la squadra di controllo di YouTube ha dovuto disattivare per la prima volta alcune funzioni per arrestare la diffusione delle immagini.

Da questo evento possiamo trarre due insegnamenti. Il primo è in realtà una constatazione: malgrado il loro impegno e l’assunzione di migliaia di moderatori, queste aziende sono incapaci di bloccare i contenuti carichi d’odio, illegali in tutti i paesi. Siamo davanti all’ennesimo scandalo che ha colpito le grandi aziende, già criticate per il disprezzo della privacy e l’elusione fiscale.

Il secondo insegnamento è più complesso. A Christchurch ha agito un uomo di 28 anni abituato a usare la tecnologia e gli strumenti dell’informazione virale. Come già l’Is qualche anno fa, anche questa frangia estremista sa sfuggire alla sorveglianza e usa tecnologie accessibili a tutti. Questo aspetto rappresenta una sfida enorme per le nostre società aperte, i cui nemici sfuggono in pochi clic.

(Traduzione di Andrea Sparacino)