I precari dei robot

Una delle prime persone a essere professionalmente declassate dall’intelligenza artificiale è stato Garry Kasparov, il campione mondiale di scacchi che nel 1997 fu costretto a dichiararsi sconfitto dal supercomputer Deep Blue in una sfida che ebbe un’enorme risonanza sui mezzi d’informazione di tutto il mondo. Ancora oggi Kasparov non riesce a togliersi dalla testa la sconfitta subita con un computer dell’Ibm. “Non sono bravo a perdere”, ha scritto nel libro Deep thinking (Fandango 2019). Ha la sensazione di essere stato truffato. Credeva di contribuire a un esperimento scientifico, ma per l’Ibm era solo una trovata pubblicitaria. Dopo la vittoria, l’azienda informatica statunitense non gli ha concesso la rivincita, ha rottamato in fretta il computer e ha negato a lui e a ogni altra persona interessata la possibilità di esaminarne il funzionamento, alimentando una serie di dubbi sull’effettiva superiorità dell’intelligenza artificiale.

In realtà non era intelligente Deep Blue, ma chi lo aveva inventato. “La vera sfida non era tra Kasparov e la macchina, ma tra Kasparov e una squadra di ingegneri e programmatori”, scrisse nel 1999 il filosofo statunitense John Searle. Deep Blue si limita a fingersi una macchina pensante. “Ma dentro di lui si nascondono esperti umani, moltissimi esperti umani”. Insomma, Deep Blue non sarebbe altro che una versione digitale del Turco.

Il Turco era un fantoccio di legno che verso la fine del settecento faceva credere agli spettatori di saper pensare. Muoveva la testa, roteava gli occhi e con la mano sinistra maneggiava le pedine degli scacchi nelle esibizioni pubbliche in cui sfidava gli esseri umani. Di solito vinceva. L’automa impressionò politici potenti, tra cui Napoleone, affascinò scienziati importanti, tra cui Charles Babbage, e ispirò artisti come Edgar A. Poe. Quando il suo ultimo proprietario fece bancarotta, il fantoccio fu riposto negli scatoloni e chiuso in un magazzino finché, nel 1840, con 400 dollari, un medico non lo riscattò per studiarlo. Il segreto dell’automa dalle fattezze umane era un doppio fondo, uno spazio nascosto che consentiva a una persona di bassa statura di fingersi un robot senza essere scoperta.

Intervento umano
Il Turco, curioso ibrido tra uomo macchina e macchina umana, è un buon modello per farsi un’idea dell’intelligenza artificiale. Quello che voglio dire non è che le prestazioni dei sistemi d’intelligenza artificiale si basano sull’inganno, ma che i macchinari, soprattutto i migliori e i più nuovi, hanno bisogno di un continuo intervento umano. Molti dei progressi più recenti dell’intelligenza artificiale nell’ambito del machine learning si devono non solo alle innovazioni tecniche di hardware e soft-ware, ma anche alle nuove opportunità di mobilitare rapidamente e a basso costo risorse umane da mettere al servizio delle macchine. L’intelligenza artificiale ha bisogno di scienziati ed esperti, ma anche di schiere di operai digitali, che raccolgono il materiale didattico per i sistemi e ne sorvegliano i progressi nell’apprendimento.

Questi operai digitali svolgono compiti che richiedono poca intelligenza ma che non possono essere automatizzati. Redigono legende per immagini, traducono brevi testi, valutano le traduzioni, trascrivono il parlato, digitano il contenuto di moduli compilati a mano e diagnosticano sintomi di malattie. Lavorano da soli, senza contratto e senza previdenza sociale. Non lavorano a giornata ma a minuto, perché i compiti che le piattaforme d’intermediazione digitale gli affidano spesso si possono svolgere molto rapidamente. Il loro compenso è la somma di contributi da pochi centesimi. Sono i perdenti della gig economy, i miserabili della sharing economy, gli emarginati del crowdsourcing. Sono il precariato dell’intelligenza artificiale. Li chiamano micro jobber, clickworker o crowdworker. Sono sparsi in tutto il mondo, nei paesi industrializzati e in quelli in via di sviluppo. Ma restano nell’ombra. Per questo il loro lavoro è descritto anche con il termine ghost work, lavoro fantasma.

Un lavoro invisibile, perché un osservatore esterno ha l’impressione che sia svolto da macchine dotate di intelligenza artificiale, senza alcun intervento umano. Le grandi aziende di software si adoperano per rafforzare quest’illusione. Face-book impiega migliaia di clickworker per selezionare messaggi d’odio, fake news e immagini pornografiche. Ma i dirigenti del social network si comportano come se le deiezioni della stupidità umana potessero essere filtrate dall’intelligenza artificiale attraverso procedimenti puramente matematici. Nella primavera del 2018 Google ha presentato un software d’intelligenza artificiale in grado di fissare appuntamenti per telefono in autonomia. Di recente, però, si è scoperto che le conversazioni telefoniche in cui il computer sembra un essere umano sono in effetti spesso fatte da esseri umani in carne e ossa. Apple, Google e Amazon vendono gadget che capiscono il parlato e riescono a condurre una conversazione con una persona. Ma per farli funzionare assoldano migliaia di clickworker, che a distanza monitorano i dialoghi tra la persona e la macchina.

Il matematico inglese Charles Babbage affrontò per due volte il Turco e perse entrambe le partite. Si racconta che avesse il forte sospetto di giocare contro un essere umano. Nella prima metà dell’ottocento Babbage fu tra i primi che osarono progettare un computer universalmente programmabile. Fu un genio eclettico con molti interessi e si occupò anche di questioni economiche, in particolare dell’ottimizzazione dei processi di lavoro industriali. Pubblicò un libro all’epoca importante sull’economia della produzione industriale e la sua divisione del lavoro. Fu la prima persona a occuparsi della meccanizzazione del lavoro intellettuale e studiò anche le possibilità di razionalizzare i processi di lavoro industriali. Prima che i computer trasformassero il lavoro in fabbrica, era il lavoro in fabbrica che influenzava i computer. Gli elementi che all’epoca erano l’uno a fianco all’altro sulla scrivania di Babbage, di recente sono tornati a congiungersi. L’economia digitale riscopre forme di organizzazione del lavoro che risalgono agli inizi dell’epoca industriale. Nel 2001 i dipendenti Amazon negli Stati Uniti hanno brevettato un Hybrid machine/human computing arrangement. Dal 2005 questa collaborazione tra macchine ed esseri umani è nota col nome di Mechanical Turk o MTurk. Il nome rimanda al Turco e indica una piattaforma digitale che distribuisce microlavori a microlavoratori. Nel 2011 Amazon sosteneva che il Mechanical Turk potesse attingere a più di 500mila turk worker (o turker) in 190 paesi. Secondo uno studio pubblicato nel 2018 dai ricercatori della New York university, ci sono tra i cento e i duecentomila turker attivi. Secondo un altro studio, i turker guadagnano in media due dollari all’ora.

Oltre a MTurk di Amazon oggi ci sono molte altre piattaforme simili, come Clickworker, Cloudfactory, Crowdflower, Crowdsource e Mobileworks. Alcune si sono specializzate in base alle esigenze di determinati settori. L’industria automobilistica offre molto lavoro perché, per sviluppare le automobili che si guidano da sole, si serve del lavoro di moltissimi clickworker, che suddividono per categorie singole immagini tratte da riprese video di scene stradali.

Da decenni si parla degli effetti dell’informatica sul mercato del lavoro e a lungo si è ritenuto che la digitalizzazione – o come si diceva una volta, l’automazione – avrebbe inevitabilmente distrutto posti di lavoro. Si pensava che ci sarebbe stato un terremoto: alcuni lavori sarebbero stati distrutti e altri creati ex novo; certi mestieri sarebbero scomparsi e ne sarebbero sorti di nuovi. Ci si chiedeva quanto lavoro aggiuntivo avrebbero prodotto i computer. Adesso lo sappiamo: moltissimo, ma si tratta di lavoro non qualificato a paghe miserabili. Ci si chiedeva quali mestieri sarebbero scomparsi e quali sopravvissuti. Adesso lo sappiamo: i lavoratori non vengono sostituiti da robot ma da schiere di operai digitali che, sorvegliati dai robot, svolgono minuscoli segmenti del lavoro che un tempo rendeva orgogliosi gli esseri umani che li svolgevano. Nel nuovo mondo del lavoro il robot non è un collega, è il padrone.

Secondo il sindacato svizzero Syndicom, ai crowdworker andrebbero garantiti “un equo compenso e la previdenza sociale”, e servirebbero “sistemi di certificazione per le piattaforme di crowdwork”. Ma nel nuovo mondo del lavoro la lotta di classe non è facile. Il ghost work è difficile da individuare, il precariato dell’intelligenza artificiale resta invisibile; filiera produttiva, clickworker e robot addetti alla preparazione del lavoro sono distribuiti in tutto il mondo.

Luce nel buio
Questa gestione digitale del lavoro pone complesse questioni di natura sociopolitica, ma anche questioni tecniche imponderabili. Come può l’intelligenza artificiale migliorare la vita degli esseri umani se dipende dal contributo di persone che lavorano in condizioni indegne di un essere umano? Quale paziente ospedaliero vorrà mai affidarsi alla diagnosi di un software che si basa sul giudizio di migliaia di anonimi impiegati sottopagati che, lavorando in condizioni di servitù, hanno etichettato i sintomi delle malattie in una forma tale da poter essere letta dal computer? Chi si sentirà a proprio agio in una macchina che si guida da sé, se la sua capacità di distinguere una striscia continua da una striscia discontinua dipende dalle migliaia di clickworker costretti a lavorare velocemente e che hanno descritto, si spera correttamente, centinaia di migliaia di immagini? Ci sono molti indizi del fatto che clickworker intelligenti abbiano cercato e trovato metodi per ingannare i robot che coordinano il loro lavoro. Hanno suddiviso i microincarichi che gli sono stati affidati e li hanno subappaltati ad altri microlavoratori pagati ancora peggio; usano software d’intelligenza artificiale reperibili online, come quelli per la traduzione automatica, per valutare per esempio i risultati dei soft-ware di traduzione senza dover sprecare lavoro intellettuale; hanno sviluppato script e bot per fare clickwork senza intervento umano.

Anche al netto dei lavoratori fantasma, le prestazioni dei sistemi d’intelligenza artificiale sono difficili da valutare. Basato su processi di machine learning, determinato da un complesso gioco di algoritmi e meta-algorirmi, di dati sul training e analisi statistiche, il funzionamento di questi sistemi per gli esseri umani è ormai quasi impossibile da ricostruire. Se a questo si aggiungono i lavoratori fantasma che infestano le macchine, l’intelligenza artificiale diventa del tutto ingestibile. Bisogna aprire i suoi cassetti segreti e illuminarne i doppi fondi.

(Traduzione di Susanna Karasz)