Per insegnare a una macchina a riconoscere una persona servono moltissime immagini facciali. Per questo gli informatici usano i volti dei personaggi famosi di Hollywood per le loro ricerche: le foto di Tom Hanks, per esempio, sono così numerose – e scattate in diversi momenti della sua carriera – che è piuttosto facile costruire un database sull’attore e usarlo per allenare l’algoritmo.
Ma esistono anche altri database che raccolgono foto di volti umani, alcuni dei quali contengono decine di migliaia d’immagini. Queste raccolte di facce attingono a registri pubblici come foto segnaletiche, filmati di sorveglianza, fotografie legate alle notizie, immagini prese da Google e ricerche universitarie.
È possibile che il vostro viso si trovi in uno di questi database. O perlomeno, non c’è modo di sostenere con certezza il contrario.
La vostra faccia vi appartiene. È una caratteristica fondamentale della vostra identità. Ma è anche un altro dato in attesa di essere raccolto. In un’epoca in cui le telecamere sono ovunque e la raccolta di dati fa parte di ogni transazione, anche i volti sono catturati sempre più facilmente.
Il tasso di errore del riconoscimento facciale di afroamericani e altre minoranze etniche è più alto che per i bianchi
Gli intermediari di dati comprano e rivendono già dei profili dettagliati che descrivono chi siete. Tracciano i vostri archivi pubblici e i vostri comportamenti in rete per immaginare la vostra età, il vostro genere sessuale, la vostra situazione sentimentale, la vostra localizzazione, quanti soldi guadagnate, dove andate a fare la spesa e così via, all’infinito. È importante capire come le aziende stanno raccogliendo e usando anche le immagini che vi ritraggono.
Facebook usa un software di riconoscimento facciale per taggare le persone che appaiono nelle foto. La nuova app di Apple, Clips, riconosce le persone nei filmati che girate. I famosi filtri per selfie di Snap, l’azienda che ha creato Snapchat, funzionano mappando dei punti precisi nei volti delle persone (l’azienda sostiene che la sua tecnologia si ferma qui e non riconosce i volti che mappa).
È simile al modo in cui funziona il software della startup cinese Face++, che mappa decine di punti nel viso di una persona e poi immagazzina i dati raccolti. L’idea è usare i sistemi di riconoscimento facciali per entrare senza chiave, per esempio, negli edifici che ospitano uffici o nei complessi residenziali. Jie Tang, professore associato all’Università di Tsinghua, ha spiegato all’Mit Technology Review che usa la sua impronta facciale per pagare il pranzo: “Non solo posso pagare le cose in questo modo”, dice, “ma in alcuni caffè il personale viene avvisato da un sistema di riconoscimento facciale quando entro”, e lo saluta per nome.
Visto il loro rapido progresso, è quindi comprensibile che queste tecnologie diventino oggetto di teorie del complotto. Circola per esempio la notizia (anche se non ci sono le prove) che Snap stia creando un database segreto di riconoscimento facciale con le immagini delle persone che usano Snapchat.
Ma questi complotti non sono poi così assurdi. Sono decenni che gli esperti mettono in guardia contro i sistemi di riconoscimento facciale. Gli ultimi strumenti di riconoscimento facciale dell’Fbi permettono all’agenzia di scansionare milioni di foto di cittadini statunitensi. “Per essere chiari, questo è un database, o meglio una rete di database, formata perlopiù da americani onesti”, ha dichiarato Jason Chaffetz, deputato repubblicano dello Utah, durante un’udienza presso il Comitato di riforma e supervisione del governo della camera. “L’ottanta per cento delle foto presenti nella rete di riconoscimento facciale dell’Fbi riguarda dei non-criminali”. L’Fbi può accedere a immagini provenienti dalle patenti di guida di almeno 18 stati, oltre che da milioni di foto segnaletiche.
L’Fbi sostiene che un’impronta facciale non è così diversa da una digitale o da un confronto all’americana
“La maggior parte delle persone non ha idea che questo succede”, sostiene Alvaro Bedoya, direttore esecutivo del Centro per la privacy e la tecnologia alla facoltà di diritto dell’università Georgetown, che ha deposto nel corso dell’udienza. “L’ultima generazione di questa tecnologia permetterà alle forze dell’ordine di acquisire la faccia di ogni uomo, donna o bambino che camminerà per strada di fronte a una telecamera di sorveglianza… Uno non dovrebbe aver il diritto di camminare per strada senza che il governo acquisisca segretamente il suo viso? È una buona idea dare allo stato un potere così grande e con così pochi limiti?”.
Un altro argomento di discussione è la precisione del sistema usato dall’agenzia. Secondo Chaffez circa una ricerca su sette, tra quelle effettuate dal sistema dell’Fbi, ha dato come risposta una lista di candidati innocenti, nonostante il vero obiettivo si trovasse nel database. Inoltre, secondo il Government Accountability Office, l’agenzia non tiene conto del tasso di falsi positivi, il che fa emergere una delle più inquietanti derive a cui potrebbe portare il riconoscimento facciale. “Sarebbe diverso se la tecnologia di riconoscimento facciale fosse perfetta, o quasi”, ha dichiarato Chaffetz. “Ma non è così”.
“Un sistema impreciso chiamerebbe in causa delle persone per dei crimini che non hanno commesso”, ha dichiarato Jennifer Lynch, avvocato della Electronic Frontier Foundation, “e trasferirebbe a degli imputati innocenti il compito di dimostrare che non sono quello che il sistema crede che siano. Questa minaccia colpirà in modo sproporzionato i neri. Il tasso di errore del riconoscimento facciale di afroamericani e altre minoranze etniche è più alto che per i bianchi”.
L’Fbi sostiene che usa la tecnologia di riconoscimento facciale solo per finalità investigative e che un’impronta facciale non è così diversa da una digitale o di un confronto all’americana. Un software di riconoscimento facciale non è che un ulteriore strumento per un lavoro che le forze dell’ordine già fanno, ha dichiarato Kimberly Del Greco dell’Fbi.
“È una ricerca tra foto della polizia, fatto da forze di polizia per la polizia”, ha spiegato durante l’udienza. “Le forze dell’ordine usano da decenni confronti fotografici e foto segnaletiche da sfogliare. Il software di riconoscimento facciale permette di automatizzare questo processo”.
Non solo automatizzato, bensì automatico, nel senso che il sistema fotografico dotato di software di riconoscimento facciale identificherebbe chiunque si trovi nella foto. I difensori della privacy e i membri del congresso concordano sul fatto che il modo in cui vengono trattati questi dati è una questione complessa e urgente. Una telecamera di sorveglianza intelligente sarebbe in grado di fotografare e identificare i partecipanti a un comizio politico, per esempio, il che potrebbe funzionare da deterrente alla partecipazione civica.
In futuro potrebbe essere impossibile evitare di essere sorvegliati. “Potremmo arrivare a un punto nel quale non è più possibile tirarsi fuori”, ritiene Alvaro Hoyos, responsabile della sicurezza dell’informazione per l’azienda di gestione identità e password OneLogin. “Le persone forse non vogliono pensarci o parlarne, ma ci stiamo dirigendo verso uno stato di sorveglianza costante”.
In realtà, potremmo già esserci.
I sistemi che tracciano i dati sono già in grado di seguire il nostro comportamento, sia online sia offline, e produrre un nostro ritratto dettagliato. “I siti web lo fanno già, ma c’è la percezione che il nostro comportamento dietro la tastiera sia anonimo”, mi ha detto Hoyos. Eppure, dice, “esiste qualcosa nell’immagine umana, nella nostra immagine, che è per noi forse molto più intima di qualsiasi altra cosa. È quello che siamo”.
(Traduzione di Federico Ferrone)
Questo articolo è uscito su The Atlantic.
This article was originally published on The Atlantic. Click here to view the original. © 2017. All rights reserved. Distributed by Tribune Content Agency.
Internazionale pubblica ogni settimana una pagina di lettere. Ci piacerebbe sapere cosa pensi di questo articolo. Scrivici a: posta@internazionale.it
