Lo stesso vale per molti oggetti che funzionano con l’intelligenza artificiale: sono dei prototipi. Possono solo avvicinarsi alle funzioni che promettono di fornire, mentre gli esseri umani contribuiscono a quello che alcuni ricercatori di Harvard hanno definito “il paradosso dell’ultimo miglio dell’automazione”.

I progressi dell’intelligenza artificiale creano impieghi temporanei, come contrassegnare immagini con un tag o analizzare documenti audiovisivi, mentre la tecnologia è concepita per sostituire il lavoro umano. Nel caso dell’altoparlante Echo, alcuni lavoratori della gig economy sono pagati per migliorare il software di riconoscimento vocale. Che in seguito, quando sarà perfezionato, verrà usato, per esempio, per sostituire il personale alla reception degli alberghi.

Migliaia di immagini
Nel 2016 alcuni ricercatori dell’Università di Stanford hanno usato un sistema di visione artificiale per determinare, con una precisione dell’88 per cento, l’appartenenza politica di 22 milioni di persone in base alla loro auto e al luogo di residenza. Se avessero usato un sondaggio tradizionale avrebbero avuto bisogno di un gruppo di persone che ci lavorasse, di una discreta somma di denaro e di mesi di lavoro.

Il sistema che hanno progettato, invece, ha portato a termine il lavoro in due settimane. Ma prima ha dovuto imparare cosa fosse un’automobile.
I ricercatori hanno reclutato dei lavoratori attraverso la piattaforma Mechanical turk di Amazon, e li hanno pagati per catalogare manualmente migliaia d’immagini di automobili, in modo che il sistema fosse in grado di differenziare forme, stili e colori.

Per chi ha un altoparlante Echo potrebbe essere una rivelazione dolorosa, ma i sistemi d’intelligenza artificiale hanno bisogno di enormi quantità di dati ordinati per categorie, prima, durante e dopo il lancio del prodotto sul mercato.
Il loro stato ideale è un feedback perpetuo: Echo funziona discretamente, i dati sonori provenienti dai clienti sono raccolti e usati per migliorare il sistema, le persone che comprano il prodotto aumentano man mano che migliora, e così aumentano i dati raccolti, contribuendo a una ulteriormente messa a punto. Questo è vero per prodotti molto diversi fondati sull’intelligenza artificiale.

Persone in carne e ossa, per esempio, analizzano e catalogano manualmente i filmati caricati dalle telecamere di sorveglianza Ring, vendute da Amazon, che i proprietari di casa possono installare sul campanello o all’ingresso di casa.
L’intelligenza artificiale che si occupa di moderare i contenuti per Facebook funziona grazie a migliaia di persone che, in tutto il mondo, insegnano ai software cos’è considerato inappropriato nei diversi contesti.

Anche qui si crea un circolo vizioso: gli esseri umani segnalano i contenuti, l’intelligenza artificiale diventa più brava a rilevarli, gli utenti di Facebook aumentano dal momento che il social network diventa più sicuro, e l’intelligenza artificiale a sua volta diventa più precisa man mano che aumentano i contenuti segnalati.

In tutti questi casi, la Silicon valley vorrebbe farci credere che l’intelligenza artificiale sia abbastanza intelligente da sostituire gli esseri umani, quando in realtà funziona solo grazie al lavoro nascosto di lavoratori in carne e ossa, che contribuiscono a creare e a mantenere questi circoli viziosi. L’intelligenza artificiale è sempre frutto di una collaborazione tra uomo e macchina. Può raggiungere traguardi eccezionali, ma raramente da sola.

Gli interessi delle aziende
Astra Taylor, una scrittrice e regista di documentari che studia quella che definisce la “farsa dell’automazione”, fa notare che le aziende hanno un interesse diretto nell’oscurare il ruolo delle persone nell’ultimo miglio dell’automazione.
“Se ci mette a disagio sapere che dall’altra parte del nostro altoparlante intelligente c’è un essere umano”, afferma, “è un disagio che va affrontato”.

L’articolo di Bloomberg conteneva anche un racconto inquietante: i dipendenti di Amazon potrebbero essersi trovati di fronte a una violenza sessuale o a un incontro violento. Questi lavoratori hanno riferito a Bloomberg che i superiori di Amazon gli avevano detto d’ignorare quei rumori e di non sporgere denuncia alla polizia (contattata per una richiesta di commenti, Amazon ha inoltrato all’Atlantic alcuni documenti in cui sottolinea la sicurezza e la cifratura dei suoi spazi di archiviazione cloud). Secondo Taylor questo è uno degli altri paradossi dell’automazione: per rendere più intelligenti le macchine, gli esseri umani che le addestrano devono comportarsi in maniera più stupida: “La cosa tragica di questa faccenda è che sta obbligando le persone a essere meno intelligenti, meno empatiche”.

Taylor sostiene che nascondere il lavoro umano spinge le persone a comportarsi in modo simile alle macchine, senza etica o empatia personali. In un caso più estremo, oscurare la natura umana del sistema significa togliere ogni tipo di scelta.

A febbraio il giornale online The Intercept ha riferito che Google ha aiutato il dipartimento della difesa statunitense a migliorare i sistemi di visione artificiale dei droni del governo, scatenando la rabbia dei suoi dipendenti.

I droni con sistemi di visione artificiale sono in grado di “vedere” i loro obiettivi, ma hanno comunque bisogno di messa a punto e di precisione. A questo scopo Google ha usato centinaia di lavoratori per catalogare manualmente alcuni elementi e contribuire a creare un insieme di dati. Secondo The Intercept, i dipendenti non avevano idea che il loro lavoro servisse a questo.

Gli esseri umani sono uno degli elementi che permettono ai sistemi fondati sull’intelligenza artificiale di funzionare, e portano con sé tutto il loro limitato bagaglio umano: preoccupazioni legate alla privacy e alle intercettazioni, eventuali preconcetti, preferenze e giudizi. Questo non sempre va nel senso della creazione di una società più armoniosa, intelligente o funzionale.

Ma nascondere il loro ruolo, essenzialmente cercando di rendere meno umano il sistema uomo-macchina che permette all’intelligenza artificiale di funzionare, non fa altro che alimentare la storia raccontata dalla Silicon valley. Ovvero che l’intelligenza artificiale è uno strumento potente, razionale e imperscrutabile: la stessa storia che la Silicon valley racconta a proposito di sé stessa.

Mostrare la manodopera che si nasconde dietro alle tecnologie più avanzate permette di smascherare entrambe queste illusioni.

(Traduzione di Federico Ferrone)