Qualche tempo fa ho scritto un articolo su un dispositivo chiamato GasWatch, un misuratore di bombole del gas collegato all’app di uno smartphone che aiuta a non rimanere senza gas durante una grigliata all’aperto.

Avevo sempre pensato che dispositivi del genere fossero ridicoli e che chi li aveva progettati non se ne rendeva conto, oppure non se ne preoccupava. Perché usare un computer per misurare i livelli del gas quando esistono apparecchi molto più economici?

Ma ora che i dispositivi e i servizi connessi a internet sono sempre più la norma, il senso del ridicolo è ormai superato. Nuovi tostapane promettono di aiutare le persone a “tostare in modo più intelligente”. Lucchetti per bici connessi agli smartphone promettono di “eliminare il fastidio e la frustrazione di perdere le chiavi o dimenticare la combinazione” alla modica cifra di 150 dollari. Poi c’è Nest, il termostato intelligente creato dall’ingegnere che ha progettato l’iPod. L’azienda, comprata da Google, produce anche delle telecamere di sicurezza domestica collegate alla rete che possono trasmettere video al telefono dei proprietari. Marchingegni un tempo di nicchia, come i monitor per controllare i bambini, oggi promuovono l’accesso a internet come un servizio essenziale.

La tendenza si è diffusa rapidamente. Alcuni anni fa un albergo elegante nel quale alloggiavo pubblicizzava il fatto che le sue chiavi elettroniche sarebbero state presto sostituite dagli smartphone. Oggi qualsiasi stanza della catena Hampton Inn può essere aperta con l’app della Hilton. Sono disponibili anche versioni elettroniche delle chiavi di casa. Una di queste misura per quanto tempo le porte rimangono chiuse: un dato del quale non avevo mai considerato la utilità.

Questi dispositivi pongono numerosi problemi. Il primo è il costo. Un lucchetto per la bicicletta, proprio come un misuratore di gas a basso costo, è un oggetto di uso comune. Di solito costa tra i dieci e 15 dollari, un decimo del prezzo di un lucchetto tecnologico come quello della Nokē.

Un altro problema è quello della privacy e della sicurezza. È stato detto che la Cia potesse spiare, attraverso un accesso riservato, i televisori Samsung. Ci sono stati casi in cui degli squilibrati hanno parlato con dei bambini tramite dei monitor di controllo. Un botnet ha fatto sì che migliaia di dispositivi dell’internet delle cose poco protetti lanciassero un attacco contro un sistema di nomi di dominio.

L’affidabilità è un problema anche dei gadget connessi a internet. Quando la rete è inaccessibile, o il servizio dell’app non è raggiungibile, oppure il comportamento di altri software interferisce, i prodotti spesso smettono di funzionare correttamente, o addirittura del tutto.

Prendete i campanelli delle porte. Quelli normali chiudono un circuito che attiva un elettromagnete, il quale muove un pistone che fa suonare un campanello. Un campanello intelligente chiamato Ring invece sostituisce questo bottone con una scatola che contiene un sensore di movimento e una telecamera. Bella idea. Ma secondo alcuni utenti, Ring a volte non è in grado di suonare il campanello, oppure lo fa con un discreto ritardo, o addirittura in assenza di visitatori, come un poltergeist. Questo genere di cose è così comune che esiste un account Twitter, Internet of shit, che elenca i difetti dei gadget connessi.

Come ha recentemente ironizzato lo scrittore Nicholas Carr, non sono questi i robot che ci avevano promesso. Auto volanti, case robotizzate e viaggi più veloci della luce non esistono ancora. Nel frattempo, i nuovi sogni del futuro prossimo prevedono che esseri umani e macchine possano fondersi, attraverso il biohacking o la coscienza simulata. Anche questo futuro sembra molto lontano, forse impossibile. Questa sua lontananza potrebbe attenuare la paura di un’apocalisse legata all’intelligenza artificiale, ma anche oscurare una certa verità sul ruolo delle macchine nel destino dell’umanità. E cioè che i computer sono già dominanti, che la vita umana si svolge già all’interno dei loro confini e che le persone sono soddisfatte di questa situazione.

***

Il divario tra gli usi ordinari e straordinari dei computer è emerso quasi settant’anni fa, quando Alan Turing elaborò un trucco che contribuì casualmente a creare il campo dell’intelligenza artificiale. Turing immaginò che le macchine sarebbero diventate più efficaci se fossero diventate compagni credibili, il che è essenzialmente quello che fanno gli smartphone (e i tostapane intelligenti) di oggi. Ma gli informatici hanno travisato il suo ragionamento distorcendo l’esperimento di Turing sul pensiero in una sfida che simulasse o sostituisse la mente umana.

Nel suo articolo del 1950 Turing descriveva il “gioco dell’imitazione”. Due persone, un uomo e una donna, si sistemavano dietro due porte chiuse, mentre un’altra persona all’esterno gli rivolgeva delle domande nel tentativo di capire chi fosse chi. Turing immaginò poi una versione nella quale uno dei giocatori dietro le porte fosse un essere umano e l’altro una macchina, per esempio un computer. Quest’ultimo supera la prova se l’interlocutore umano non riesce a dire chi sia chi. Nella sua versione istituzionalizzata il test di Turing, come è noto, ha finito per concentrarsi su personaggi computerizzati, i precursori delle chatbot che troviamo oggi su Twitter e Facebook Messenger. Esiste persino una gara annuale dedicata a loro. Alcune persone continuano ancora oggi a considerare questo test un metodo legittimo per individuare un’intelligenza artificiale.

Ma Turing non ha mai affermato che le macchine possano pensare, e tantomeno che possano farlo come la mente umana. Ha semmai ipotizzato che le macchine siano in grado di esibire un comportamento persuasivo. Cioè che le macchine siano capaci di spacciarsi per qualcosa di diverso. Con i progressi dell’informatica, “superare” il test di Turing è diventato sinonimo di successo, come in un’esame di abilitazione professionale, invece che di capacità di interpretare un ruolo in modo verosimile.

Questa errata interpretazione potrebbe aver segnato la fine della visione di Turing sui computer come macchine credibili. Ma Turing ha anche fatto sì che la persuasione diventasse un ingrediente strutturale degli hardware dei computer. Nel 1936 elaborò una macchina concettuale che manipola dei simboli su un nastro in base a una serie finita di regole. La macchina possiede una testina capace di leggere e scrivere simboli su alcune porzioni del nastro. Ogni simbolo corrisponde a un compito, come scrivere o cancellare, che la macchina esegue prima di muoversi su un’altra porzione del nastro.

Questo procedimento, noto come la macchina di Turing universale, è diventato un modello di procedura informatica. Dopo una serie di revisioni effettuate da John von Neumann e altre persone, la procedura si è evoluta diventando il computer a programma memorizzato, ovvero una macchina che conserva nella sua memoria non solo i dati ma anche le istruzioni di programmazione.

Nella storia dell’informatica, la macchina di Turing è generalmente considerata un’innovazione autonoma rispetto al test di Turing. Ma le due cose sono collegate. Nella scienza informatica generale è previsto che una macchina sia in grado di simulare una qualsiasi macchina di Turing. Una macchina di Turing, e quindi un computer, è una macchina che finge di essere un’altra macchina.

Pensate ai sistemi informatici che usate ogni giorno. Rappresentano tutti un tentativo di simulare qualcos’altro. Così come le macchine pensanti originali di Turing si sforzavano di farsi passare per un uomo o una donna, un computer cerca di spacciarsi, in un certo senso, per qualcos’altro. Come una calcolatrice, per esempio, oppure un diario di bordo, una macchina da scrivere, un telefono, una macchina fotografica, una vetrina o un bar.

Dopo un certo tempo, le macchine efficacemente simulate prendono il posto delle macchine che hanno originariamente imitato. Il programma di videoscrittura non è più solo la simulazione di una macchina da scrivere o di una segretaria, ma uno strumento a pieno titolo usato per produrre materiali scritti di ogni tipo. Quando prosperano, le macchine simulate diventano semplicemente delle macchine.

Oggi è questa l’attività principale di tutto il mondo dell’informatica. Non esistono molte attività lavorative o ludiche di cui i computer non si occupino. E così facendo il computer si allontana dalle sue origini, quando era un mezzo per ottenere la manipolazione di simboli con finalità produttive e creative, e diventa un’attività a pieno titolo. Oggi le persone non si rivolgono ai computer per svolgere delle attività, ma fanno delle cose che gli permettono di usare i computer.

***

Quando l’uso dei computer non è più collegato alle sue finalità e diventa uno stile di vita, obiettivi e problemi appaiono validi solo quando possono essere trattati e risolti da sistemi informatici. I gadget dell’internet delle cose rappresentano un esempio di questo nuovo ideale. Un altro è il modo in cui, sostanzialmente, le aziende tecnologiche della Silicon valley concepiscono i loro prodotti e servizi.

Prendete per esempio i comportamenti violenti sui social network. Quest’anno Chris Moody, il vicepresidente della strategia dei dati di Twitter, ha ammesso: “Sulla nostra piattaforma si sono registrati alcuni abusi”, aggiungendo poi, “ma è una sfida dura, molto dura”. Per vincerla Twitter si è convinta a ricorrere a Watson, un sistema d’intelligenza artificiale di Ibm, affinché rilevasse gli incitamenti all’odio. Anche Google ha intrapreso uno sforzo simile. Uno dei suoi laboratori ha sviluppato Perspective, una “api (interfaccia di programmazione di un’applicazione) che usa l’apprendimento automatico per individuare la violenza e le molestie in rete”.

In certi casi, per le aziende tecnologiche azioni simili sono una questione di sostenibilità aziendale, un modo per trovare soluzioni “modulari” per beni e servizi. Quando ho chiesto a Twitter di commentare l’affermazione di Moody, un portavoce mi ha detto che l’azienda usa una combinazione di sistemi umani e informatici quando analizza la sicurezza dei contenuti, ma non mi ha fornito troppi dettagli.

La cosa sembra interessante, ma i risultati sono altalenanti. Twitter sostiene che la sua lotta agli abusi è sempre più efficace, ma oggi sembra ancora continuare a ignorare anche i casi più clamorosi. E Perspective può essere ingannato ricorrendo a semplici errori di battitura e negazioni.

Anche se queste aziende hanno tutto l’interesse a risolvere subito questi problemi, si ritiene che per rendere gli spazi in rete più sicuri serva una risposta informatica. L’attività di moderazione è notoriamente difficile per gli esseri umani, come ammettono gli stessi moderatori. E il volume dei contenuti è tale che c’è bisogno di sistemi informatici per gestirli.

Ma forse gli abusi di gestione rappresentano una “sfida dura, molto dura” proprio a causa di questo assunto. L’idea stessa di una rete globale di persone in grado d’interagire tra loro in modo anonimo rende vano l’intervento umano. La risposta di Twitter presuppone che la loro piattaforma, che è quasi interamente gestita da applicazioni e server, vada benissimo così com’è, e che serva solo individuare il metodo giusto per gestirla. Se l’automazione informatica è considerata la migliore o unica risposta, allora è ovvio che a essere considerate sostenibili sono solo le soluzioni tecnologiche.

In fin dei conti è per lo stesso motivo che gli utenti di GasWatch non sceglierebbero un misuratore economico e analogico per pianificare le loro grigliate. Perché mai uno dovrebbe scegliere una soluzione non informatica, quando ci sono dei computer a disposizione? Le bombole di gas e i lucchetti delle bici sono casi limite ma i servizi digitali ordinari funzionano allo stesso modo: i servizi che le persone cercano sono quelli che permettono di usare i computer per fare delle cose, come trovare informazioni, chiamare un taxi oppure ordinare del cibo a domicilio. In questo, le motivazioni estetiche contano quanto quelle economiche. Le persone scelgono i computer come intermediari per il piacere sensuale di usarli, non solo perché sono mezzi pratici ed efficienti per risolvere dei problemi.

È così che si può capire la funzione di tutti quei servizi, app e dispositivi dell’internet delle cose apparentemente senza senso o non funzionanti: inseriscono un computer laddove prima mancava. Trasformano esperienze del mondo reale in esperienze informatiche. Oggi le macchine non si spacciano più per esseri umani. Oggi le macchine sperano che gli esseri umani le considerino davvero dei computer. È una specie di test di Turing alla rovescia.

***

Ed è così che viene chiamato questo fenomeno: il “test di Turing alla rovescia”. I captcha, quei codici che appaiono nei formulari online e che servono a filtrare i bot automatici, sono dei test di Turing alla rovescia nel quale i computer stabiliscono se un utente è un essere umano. Esistono anche test di Turing alla rovescia nei quali le persone cercano di stabilire quale attore, in un gruppo di computer, è in realtà un essere umano.

Questi strumenti usano il test di Turing come un’esperienza a sé stante, più che come un modo di misurare l’intelligenza. C’è un precedente che risale agli albori dell’informatica. Uno dei più famosi esempi di chatterbot che pratica un gioco dell’imitazione è il programma del 1966 di Joseph Weizenbaum, ELIZA. Il programma agisce come un terapeuta rogersiano, ispirato cioè a un genere di psicoterapia nel quale i pazienti ricevono le stesse domande che essi hanno formulato. Si tratta di uno schema facile da imitare, anche a metà degli anni sessanta, ma non si tratta esattamente d’intelligenza, artificiale o meno che sia. Il test di Turing funziona meglio quando tutti sanno che l’interlocutore è un computer ma traggono comunque piacere dal processo.

“Essere un computer” significa qualcosa di diverso oggi rispetto agli anni cinquanta, quando Turing introdusse il gioco d’imitazione. In contraddizione con i prerequisiti tecnici dell’intelligenza artificiale, agire come un computer significa spesso poco più che muovere alcuni bit di dati, oppure agire come un controllore o un esecutore. Griglie come computer, lucchetti per bici come computer, televisioni come computer. Un intermediario, insomma.

Prendete Uber. Il suo successo economico è dovuto al fatto di ignorare la forza lavoro e gli obblighi a cui sono normalmente sottoposte le aziende di trasporto. Ma il suo “successo estetico” deriva dalla capacità di permettere alle persone di chiamare un’automobile con uno smartphone. Non dover parlare con nessuno al telefono fa parte del suo fascino. Ma anche il fatto di vedere un’auto che si avvicina su una mappa digitale. Allo stesso modo gli appassionati di veicoli automatici sono attratti non solo dal fatto che questi liberano le persone dalle fatiche e dai pericoli della guida, ma anche perché rendono le automobili più simili a un computer.

Oppure ripensiamo ai campanelli delle case. Lasciamo stare Ring: i campanelli hanno già lasciato via libera ai computer. Quando gli amici dei miei figli vengono a farci visita, si limitano a mandare un messaggio in cui chiedono di venire ad aprire la porta. Il campanello è diventato un sistema computerizzato senza nemmeno dover essere collegato a un’app o a internet. Si può parlare di trasformazione se volete, ma non si può dire che campanelli, automobili e taxi scompaiano in questo processo. Semplicemente vengono spostati all’interno dei computer, dove possono attirare nuovi sentimenti positivi.

Uno di questi è il piacere dell’essere connessi. Le persone non vogliono stare offline. Perché dovrebbero volere che il loro tostapane o il loro campanello subiscano la stessa sorte? Oggi l’assorbimento informatico è un ideale cui tendere. Il sogno più elevato è essere costantemente online, o almeno collegati a una qualche forma di macchina informatica.

Non è questo il destino dei computer che alcuni avevano immaginato. Alcuni precoci scenari distopici mettevano in guardia contro la prospettiva che i computer diventassero dei burocrati o dei fascisti, riducendo il comportamento degli esseri umani alle capacità predeterminate di macchine poco complesse. Oppure che un uso ossessivo dei computer avrebbe addormentato gli esseri umani, spingendoli a un sonnolento distacco.

Questi timori continuano in una certa misura a esistere, anche perché si sono parzialmente avverati. Ma hanno anche avuto un esito opposto. È l’essere staccati dai computer che oggi appare come una limitazione, non l’essere attaccati visceralmente a essi. E quindi le azioni intraprese dai computer diventano autoreferenziali: per prolungare questo legame, sempre più cose vengono trasformate in computer.

***

Questa nuova distopia cyberpunk assomiglia più a La fabbrica delle mogli che a William Gibson. Tutto continua a essere come prima, ma le persone trattano la realtà come se fosse un computer.

Se viste in questa luce, molte delle questioni della cultura tecnologica contemporanea – l’aggregazione di dati aziendali, la privacy, o quello che in passato ho definito “iperimpiego” (il lavoro invisibile che le persone donano gratuitamente a Facebook, Google e altre aziende) – non costituiscono più sfruttamento ma solo una condizione che le persone hanno scelto, volontariamente o meno.

Tra i futurologi, la promessa (o la minaccia) di una rivoluzione informatica è sempre stata condizionata dagli eventuali grandi progressi dell’intelligenza artificiale. Il filosofo Nick Bostrom ha definito “superintelligenza” l’intelligenza artificiale priva di capacità umane. Quando si arriverà a questa superintelligenza, l’umanità sarà a un passo dal liberarsi per sempre dalla schiavitù del lavoro oppure a un passo dalla distruzione tramite apocalisse robotica.

Un’altra prospettiva, sostenuta dal filosofo David Chalmers e dall’informatico Ray Kurzwell, è la “singolarità”, l’idea che, con una sufficiente potenza di calcolo, i computer saranno in grado di simulare il cervello umano. Se così fosse le persone potrebbero caricare le loro coscienze sulle macchine e, in teoria, vivere per sempre, almeno secondo una certa definizione di vita. Kurzwell lavora oggi per Google, dove esiste un settore che si occupa d’immortalità umana.

Alcuni sono invece convinti che la superintelligenza sia una tecnologia del passato, e non del futuro. Nel corso di milioni di anni sarebbe possibile sviluppare una simulazione informatica sufficientemente potente e complessa da comprendere la totalità di quello che oggi i terrestri chiamano l’universo. L’ipotesi di simulazione, questo il nome con cui è nota questa teoria, rientra nella ricca tradizione d’ipotesi secondo le quali la realtà non è altro che un’illusione.

Ma lo status presente e reale delle macchine intelligenti è al contempo banale e più potente di qualsiasi futura apocalissi robotica. Turing è spesso definito il padre dell’intelligenza artificiale, ma si è limitato a dire che le macchine potrebbero diventare abbastanza intelligenti da stimolare un’interazione. La cosa si può a malapena definire intelligenza, sia essa artificiale o reale. Ed è anche molto più facile da ottenere. I computer hanno già convinto le persone a trasferire le proprie vite al loro interno. Le macchine non hanno avuto bisogno di rendere le persone immortali, di promettere di esaudire ogni loro capriccio, o di minacciare di distruggerle arbitrariamente. Hanno solo avuto bisogno di diventare una parte di tutto ciò che fanno gli esseri umani, facendo sì che questi ultimi non siano più in grado, o non vogliano, fare più quelle stesse cose senza i computer.

Questo futuro ha qualcosa di tragico. E non è il fatto che le persone potrebbero non essere preparate a un’apocalissi robotica, o che potrebbero morire invece di caricare i loro dati. La vera minaccia che proviene dai computer non sta nel fatto che potrebbero sostituire e distruggere l’umanità con i loro poteri e la loro intelligenza. È che potrebbero rimanere banali e impotenti come sono oggi, ma essere comunque in grado di prendere il nostro posto.

(Traduzione di Federico Ferrone)