A giugno la Axon, principale produttore di telecamere corporali, ha recepito la proposta del suo comitato etico di non dotare i propri dispositivi di tecnologie per riconoscimento facciale (almeno nel prossimo futuro). Lo scorso anno il presidente della Microsoft Brad Smith aveva invitato i governi a “adottare leggi che regolamentino questa tecnologia”. A giugno il direttore responsabile dei servizi web di Amazon, Andy Jassy, si è fatto a sua volta portatore di questa posizione, paragonando la tecnologia di riconoscimento facciale a un coltello. La sua immagine è meno drammatica della metafora dei rifiuti nucleari e del plutonio usata dalle voci più critiche, ma il suo messaggio – che viene da un dirigente di una delle più potenti aziende di riconoscimento facciale – è chiaro: questa è roba pericolosa.

Ma – a quanto sembrano sostenere Jassy e Smith, ed è un fatto significativo – è anche inevitabile. Invitando alla regolamentazione del fenomeno, la Microsoft e Amazon hanno realizzato un abile trucco: invece d’incentrare il dibattito sulla decisione di adottare o meno il riconoscimento facciale su ampia scala, l’hanno focalizzato su come gestire l’innovazione.

Altre finalità
Un portavoce di Amazon ha affermato che sta lavorando con ricercatori, legislatori e clienti “per capire come bilanciare al meglio i vantaggi e i potenziali rischi del riconoscimento facciale”, facendo notare che Rekognition dispone di vari usi possibili, compresi la lotta alla tratta di esseri umani e il ritrovamento di persone disperse. Microsoft ha ribadito quanto affermato da Smith a sostegno della regolamentazione del riconoscimento facciale, compresa la creazione di strumenti di protezione contro gli abusi denunciati e l’obbligo di un consenso da parte di chiunque sia oggetto di questa tecnologia.

Ma alcuni esperti della privacy ritengono che le aziende abbiano anche altre finalità. Evan Selinger, professore di filosofia al Rochester institute of technology, accusa la Microsoft e Amazon di voler “annacquare le motivazioni” a favore di un’imponente regolamentazione. Secondo lui le aziende stanno facendo pressioni per una regolamentazione al livello federale, perché le leggi nazionali sono solitamente scritte per diventare una base di partenza, non una limitazione. E hanno meno possibilità, rispetto alle regolamentazioni nate a livello locale, di prevedere delle limitazioni all’uso che le aziende private possono fare della tecnologia.

“Le regole federali non impediscono una successiva regolamentazione forte a livello locale”, spiega Selinger. “Ma tendono a far credere che la missione sia compiuta e fanno apparire come estremiste le persone che vogliono ottenere qualcosa di più rispetto al livello federale”. Avere come obiettivo il raggiungimento di un accordo bipartisan, e non una regolamentazione più decisa, può “togliere il vento in poppa a una legislazione locale, scoraggiando le persone e convincendole che sia già stato ottenuto un risultato significativo”, dice Selinger.

Senza una regolamentazione il rischio di un uso improprio della tecnologia di riconoscimento facciale è alto, soprattuto per le persone non bianche. Nel 2016 il ricercatore del Massachusetts institute of technology (Mit) Joy Buolamwini ha pubblicato una ricerca nella quale mostra che la tecnologia funziona meglio sugli uomini di pelle chiara che su quelli di pelle scura. I risultati peggiori sono sulle donne nere.

Scoraggiare il dissenso
Quando l’American civil liberties union (Aclu) ha confrontato i politici del congresso con alcune persone presenti in un database criminale, il software Rekognition di Amazon ha fatto confusione con i deputati neri più spesso che con quelli bianchi, anche se questi sono molto più numerosi.

Tra questi c’erano il presidente della camera Elijah Cumming, un nativo di Baltimora il cui viso è stato scannerizzato anche nel 2015, durante una manifestazione in memoria di Freddie Gray, l’adolescente nero, disarmato, morto per una ferita alla spina dorsale mentre era in stato di fermo di polizia. Il dipartimento di polizia di Baltimora ha usato il riconoscimento facciale per identificare i manifestanti e colpire alcuni di loro con mandati di cattura.

La maggior parte dei manifestanti era nera, il che significa che il software usato su di loro potrebbe essere stato meno preciso, aumentando la possibilità di errori d’identificazione.

Gli esperti ascoltati durante l’audizione della commissione a maggio hanno messo in guardia contro una conseguenza raggelante: molti manifestanti, preoccupati di essere identificati tramite riconoscimento facciale e confrontati con database criminali, potrebbero decidere di rimanere a casa invece di esercitare il loro diritto di riunirsi.

Sia la Microsoft sia Amazon sostengono di aver corretto, rispetto all’epoca della pubblicazione dello studio del Mit e del rapporto dell’Aclu, le disparità di precisione dovute alla razza. Ma affinare la tecnologia per riconoscere meglio i visi neri è solo una parte di un processo più ampio: una tecnologia dalla precisione assoluta potrebbe comunque essere usata a sostegno di operazioni di polizia dannose. Quel che importa è il modo in cui la tecnologia è usata, ed è qui che la regolamentazione potrebbe prevenire degli abusi. Le soluzioni proposte dalla Microsoft e Amazon richiederebbero di verificare le discriminazioni razziali e di genere prodotte dal riconoscimento dopo che questo sarà entrato in uso, ovvero quando potrebbe essere troppo tardi.

In tribunale
All’inizio di maggio il Washington Post ha riferito che la polizia stava caricando alcuni disegni realizzati dai medici legali all’interno del proprio software di riconoscimento facciale. Un testimone ha descritto un sospetto a un ritrattista, poi la polizia ha caricato lo schizzo eseguito da quest’ultimo su Rekognition, il software di Amazon, alla ricerca di un assassino, e ha quindi arrestato una persona. Gli esperti presenti all’audizione del congresso di maggio si sono mostrati scioccati all’idea che uno schizzo inserito in una base dati potesse essere considerato un indizio sufficiente per arrestare qualcuno.

Ma Jassy, il direttore responsabile dei servizi web di Amazon, ha sostenuto che la sua azienda non ha mai ricevuto un rapporto che parlasse di abusi da parte della polizia. A maggio gli azionisti di Amazon hanno votato contro una proposta che avrebbe messo al bando la vendita della tecnologia Rekognition alla polizia e all’agenzia per l’immigrazione e le dogane degli Stati Uniti.

Jassy ha dichiarato che la polizia dovrebbe affidarsi ai risultati di Rekognition solo quando il sistema raggiungerà il 99 per cento della precisione in un’identificazione. Si tratta di una prevenzione potenzialmente fondamentale contro gli errori d’identificazione, ma rimane solo un suggerimento: Amazon non impone alla polizia di rispettare questa limitazione, anzi non glielo chiede nemmeno. A gennaio il blog di tecnologia Gizmodo ha riferito che un funzionario dell’ufficio dello sceriffo dell’Oregon ha affermato che il suo dipartimento ignora del tutto questa limitazione: “Non c’è mai stata una singola lamentela da parte delle persone e nessun problema con le autorità locali a proposito del loro uso di Rekognition”, recita un passaggio di una dichiarazione inviata da un rappresentante di Amazon a Gizmodo.

E mentre le discussioni sulle specifiche tecniche dell’app del riconoscimento facciale si fanno sempre più vorticose, i critici sostengono che queste rappresentino una distrazione rispetto a discussioni più ampie e fondamentali.

“Abbiamo visto molte aziende mostrarsi pubblicamente a favore di una regolamentazione di tecnologie come il riconoscimento facciale che fosse più fondata sulle esigenze delle comunità e proteggesse i diritti civili, salvo poi adoperarsi, nella realtà, per indebolire queste stesse garanzie al momento dell’iter legislativo”, afferma Shankar Narayan, responsabile del progetto tecnologia e libertà presso l’Aclu di Washington.

Finora le aziende tecnologiche sono riuscite a fissare i termini del dibattito sul riconoscimento facciale. Ma quelli che stiamo vivendo potrebbero essere gli ultimi giorni in cui continueremo a essere proprietari dei nostri stessi volti. L’avere un terreno comune non è di per sé una vittoria. Restringere la discussione non è un compromesso, bensì uno stratagemma retorico. Trasforma la gestione della cosa pubblica in un’accettazione dei termini di servizio: una delle parti stabilisce i termini mentre l’altra, poco interessata e rassegnata all’inevitabile, dice semplicemente “acconsento”.

(Traduzione di Federico Ferrone)