Sean Liu ha cominciato il suo discorsetto con una storia edificante. Dopo essersi laureato all’università nel 2003 il suo primo lavoro è stato nella città di Shenzhen, nella Cina meridionale. Era una città difficile, ricorda, il tipo di posto in cui ladri in motocicletta possono derubarti in qualsiasi momento e i bambini possono essere rapiti e mai più ritrovati.
Tutto questo è cambiato. Adesso, stando a quello che dice Liu, Shenzhen è sicura. Naturalmente i rapimenti continuano a verificarsi, ma ora l’esito è diverso. Liu di recente ha visto al telegiornale cinese il video di un bambino che era stato rapito e condotto a centinaia di chilometri di distanza, in un’altra provincia. La polizia ci ha messo solo trenta minuti a identificare il rapitore e appena 24 ore a rintracciarlo e salvare il bambino.
“Perché?”, chiede Liu, prima di rispondersi da solo. “A Shenzhen ci sono circa due milioni di telecamere. Gli abitanti sono circa 20 milioni. Il merito non è solo delle telecamere, ma anche dell’intelligenza artificiale che c’è dietro, nel cloud. Perciò per ciascun abitante di Shenzhen è disponibile qualsiasi comportamento sia stato possibile registrare”.
La visione di Huawei
Liu è un dirigente commerciale di alto profilo dell’azienda tecnologica cinese Huawei. Si trova a Mombasa, in un incontro esclusivo di sindaci africani e funzionari governativi locali. Ci sono funzionari provenienti da tutto il continente: Etiopia, Kenya, Nigeria, Somaliland, Sudafrica, Uganda e Zimbabwe.
La conferenza, organizzata dalla Brenthurst foundation, un think-tank e gruppo di pressione con sede a Johannesburg, ha un profilo accademico e non è del tutto chiaro perché Huawei abbia avuto uno spazio tutto suo in cui promuovere la sua visione del futuro delle città africane. È una visione che ruota attorno alla sorveglianza, all’intelligenza artificiale e alle reti di comunicazione 5g, e che prefigura un mondo in cui ogni movimento può essere tracciato, registrato e ricercato.
Liu non riusciva a capacitarsi della meraviglia di questa nuova tecnologia. L’ultima volta che ha visitato il centro per la gestione dati di Shenzhen il suo volto è stato scansionato e all’improvviso lo schermo davanti a lui si è riempito di foto. “Foto di cosa?”, chiede. Un’altra domanda retorica, alla quale risponde: foto che lo ritraggono e che sono state scattate in tutti i posti della città dove è stato negli ultimi sei mesi.
“Credo che questa sia una storia molto incoraggiante per i paesi africani”, conclude Liu.
A questo punto interviene Christo Abrahams, un collega di Liu. I componenti di questa improbabile coppia di venditori ambulanti – Liu è alto e magro, Abrahams è meno alto e meno magro – hanno ruoli diversi. Liu traccia il quadro generale, ad Abrahams spetta il compito di aggiungere i dettagli.
Abrahams, ex responsabile dell’architettura tecnologica dell’Agenzia informatica di stato sudafricana, lavora da poco per Huawei, ma non per questo dimostra meno entusiasmo. “È una tecnologia rivoluzionaria”, dichiara mentre carica diapositive che spiegano di preciso come l’infrastruttura Smart city di Huawei possa rivoluzionare la gestione delle città. Contatori dell’acqua e dell’elettricità intelligenti, illuminazione stradale intelligente, gestione del traffico intelligente, tutto basato sulla nuvola informatica che raccoglie i dati su una singola piattaforma incessantemente gestita dall’intelligenza artificiale.
Quello che in origine era un sistema di monitoraggio del traffico si è trasformato rapidamente in uno strumento politico
I progressi più importanti però, scandisce Abrahams con fare solenne, sono quelli compiuti nel campo della sicurezza. “L’ambito della sicurezza pubblica è molto importante. La nostra filosofia si basa sul motto ‘prima una città sicura, poi una città intelligente’. Perché se una città non è sicura, nessuno ci investirà”. Abrahams cita l’esempio dell’unica città keniana in cui Huawei ha lanciato un progetto pilota, installando telecamere di sorveglianza ad alta definizione e addestrando i poliziotti a utilizzarle. “Il tasso di criminalità si è abbassato del 46 per cento!”, esclama Abrahams.
Né Liu né Abrahams hanno risposto al Mail&Guardian che chiedeva quale fosse la città keniana in questione.
Quando si parla della tecnologia che sta dietro al progetto Smart city di Huawei non tutti raccontano storie così edificanti. A Xinjiang, nella Cina occidentale, le organizzazioni per i diritti umani hanno documentato in modo accurato come il diffuso sistema di sorveglianza, combinato al riconoscimento facciale e all’intelligenza artificiale, sia stato stato utilizzato per mettere a tacere persone della minoranza uigura. Human rights watch descrive questa tecnologia con l’espressione “algoritmi della repressione”.
Si stima che dal 2017 circa un milione di uiguri siano stati detenuti arbitrariamente nei campi di “rieducazione” nello Xinjiang e siano stati sottoposti a maltrattamenti e a volte torturati. Fuori dei confini dei campi sono state imposte gravi limitazioni della libertà di movimento ed espressione della popolazione uigura. Queste restrizioni sono state messe in atto grazie a soluzioni tecnologiche, come le telecamere e le app per smartphone che tracciano gli spostamenti.
Come spiega The Diplomat: “Quello che in origine era un sistema di monitoraggio del traffico si è trasformato rapidamente in uno strumento politico in cui le tecnologie di riconoscimento facciale forniscono di continuo informazioni raccolte da tutte le superfici possibili in Cina. Le conseguenze di questi incubi cibernetici sono ben documentate nello Xinjiang, dove sistemi formati da milioni di telecamere a circuito chiuso tengono traccia della posizione dei cittadini con la collaborazione del sistema di credito sociale, un algoritmo basato su motivazioni politiche in grado di limitare in un attimo la mobilità fisica”.
Huawei non ha generato polemiche solo in Cina. Gli Stati Uniti hanno più volte accusato l’azienda di costruire nei suoi dispositivi tecnologici delle “backdoor” che consentirebbero al governo cinese di avere accesso ai dati e di aver aggirato il sistema di sanzioni internazionali per rifornire l’Iran.
Echi orwelliani
Un esempio particolarmente rilevante per i paesi africani è rappresentato dall’Ecuador, uno dei primi paesi ad aver adottato la tecnologia Smart city nel 2011. Come riferisce il New York Times, le riprese delle 4.300 telecamere installate vanno a finire direttamente alla polizia e alla “temuta agenzia di sicurezza interna del paese, che con il precedente presidente Rafael Correa ha una lunga storia di pedinamenti, intimidazioni e aggressioni ai membri dell’opposizione”.
Questi sono argomenti sui quali i venditori di Huawei preferiscono non soffermarsi più di tanto, anche se non è difficile vedere i possibili abusi della tecnologia che vogliono vendere alle città e ai governi africani.
Dopo la presentazione, Liu rifiuta di essere intervistato, ma Abraham è felice di chiacchierare, e più chiacchiera più quello che dice assume echi orwelliani.
“Vuoi catturare il criminale, ma lui indossa una maschera? Come fai a catturarlo?”, chiede. “Questi algoritmi di riconoscimento controllano i vestiti che indossi e le scarpe che hai ai piedi. Controllano perfino la tua andatura, perché ognuno ha un’andatura tutta sua. Tutti pensano alle impronte digitali o alla retina, ma anche l’andatura di una persona è unica. Questi algoritmi funzionano tutti insieme per identificarti. La cosa bella di tutto questo è che adesso vieni raggiunto dal tuo passato. Da una tua immagine presa di sfuggita, possono ricostruire il tuo volto e lanciarlo nel sistema di videocamere, così da sapere dove sei stato nelle ultime due settimane. In quale centro commerciale sei andato, che macchina stavi guidando, chi viene sempre con te al centro commerciale. Fanno tutte queste associazioni grazie all’intelligenza virtuale. Gli esseri umani non possono processare questa enorme quantità di dati, ma questo sistema sì. Te lo dico, sarai sopraffatto dal potere dell’intelligenza artificiale. Devi vedere gli algoritmi di questa azienda, l’intelligenza artificiale sta sviluppando la nuova generazione di intelligenza artificiale, senza umani”.
La nostra conversazione è interrotta dalla fila di funzionari governativi locali che vogliono parlare con i rappresentanti di Huawei. A quanto pare il discorsetto ha funzionato.
“Ho trovato la vostra presentazione molto interessante”, dice un funzionario del Somaliland. “Questi grandi dati, e le città intelligenti, tutta questa roba qui. È proprio quello che ci serve in Africa”.
(Traduzione di Giusy Muzzopappa)
Questo articolo è stato pubblicato sul settimanale sudafricano Mail & Guardian.
Internazionale pubblica ogni settimana una pagina di lettere. Ci piacerebbe sapere cosa pensi di questo articolo. Scrivici a: posta@internazionale.it
