L’ansia crescente a proposito dell’intelligenza artificiale non riguarda le tecnologie, noiose ma affidabili, che completano i messaggi sui nostri telefoni o insegnano agli aspirapolveri robot a evitare gli ostacoli in salotto. È lo sviluppo della cosiddetta “intelligenza artificiale generale”, o iag, che preoccupa gli esperti. Ancora non esiste, ma molti sono convinti che il rapido sviluppo di software come ChatGpt, prodotto dalla OpenAi, ne sia un’avvisaglia. Sam Altman, tra i fondatori della OpenAi, ha descritto l’intelligenza artificiale generale come un insieme di “sistemi in generale più intelligenti degli umani”. Costruire questi sistemi resta un compito difficile, secondo qualcuno addirittura impossibile. Ma i vantaggi sembrano davvero difficili da ignorare. Immaginate dei Roomba, i robot aspirapolvere, che non si limitano più a pulire i pavimenti ma si evolvono in robot multiuso, capaci di preparare il caffè la mattina o di piegare i panni, senza nemmeno essere stati programmati per svolgere tutti questi compiti.

Sembra invitante. Ma se questi aspirapolvere intelligenti diventassero troppo potenti, la loro missione di creare un’utopia immacolata potrebbe rivelarsi un problema per i loro disordinati padroni umani. Almeno ce la siamo goduta finché è durata. I dibattiti sull’intelligenza artificiale generale sono pieni di questi scenari apocalittici. Eppure una nascente lobby formata da studiosi, investitori e imprenditori ribatte che, una volta resa sicura, l’iag sarebbe una manna per la civiltà. Altman, il portavoce di questa campagna, si è imbarcato in un tour per convincere i politici. Qualche mese fa ha scritto che l’intelligenza artificiale generale potrebbe dare un forte impulso all’economia e alla conoscenza scientifica ed “elevare l’umanità facendo crescere la ricchezza”.

Ecco perché, nonostante i timori, tanti cervelli del settore tecnologico lavorano notte e giorno a questa discussa tecnologia: potrebbe salvare il mondo e non usarla sembra immorale. Sono animati da un’ideologia che considera questa nuova tecnologia inevitabile e, in una versione sicura, universalmente vantaggiosa. I suoi sostenitori non riescono a pensare ad alternative migliori per risolvere i problemi dell’umanità e aumentarne l’intelligenza. Ma questa ideologia – chiamiamola iagismo – è sbagliata. I veri rischi dell’iag sono politici, e non basterà domare dei robot ribelli per scongiurarli. Neanche la più sicura delle intelligenze artificiali generali sarà la panacea progressista promessa dalla sua lobby. Presentando il suo sviluppo come un fatto ineluttabile, lo iagismo ci distrae dal compito di trovare un modo migliore di accrescere l’intelligenza.

Anche se i suoi sostenitori non ne sono consapevoli, lo “iagismo” non è altro che il figlio bastardo di un’ideologia molto più ampia secondo cui, come disse l’ex premier britannica Margaret That­cher, “non ci sono alternative” al libero mercato.

Più che distruggere il capitalismo, come ha suggerito Altman, l’intelligenza artificiale generale – o almeno la corsa al suo sviluppo – molto più probabilmente diventerà un alleato potente (e più alla moda) della più distruttiva dottrina del capitalismo: il neoliberismo. Gli architetti del neoliberismo, innamorati delle privatizzazioni, della concorrenza e del libero scambio, volevano dinamizzare e trasformare un’economia stagnante e troppo sindacalizzata attraverso i mercati e la deregolamentazione. Alcune di queste trasformazioni hanno funzionato, ma a un costo altissimo. Con il passare degli anni, il neoliberismo si è attirato moltissime critiche ed è stato accusato di aver provocato la grande recessione, la crisi finanziaria, il trumpismo, la Brexit e molto altro. Non c’è da stupirsi, quindi, se l’amministrazione Biden ha preso le distanze da questa ideologia, ammettendo che i mercati a volte si sbagliano. Fondazioni, centri studi e docenti universitari hanno perfino osato immaginare un futuro post-neoliberista.

Il neoliberismo, però, è tutt’altro che morto. E quel che è peggio, ha trovato un alleato nello iagismo, che rischia di rafforzare e rilanciare i suoi principali pregiudizi (bias): che il privato funziona meglio del pubblico (bias del mercato), che adattarsi alla realtà è meglio che trasformarla (bias dell’adattamento) e che l’efficienza viene prima delle preoccupazioni sociali (bias dell’efficienza). Questi pregiudizi rovesciano completamente la promessa invitante dell’iag: invece di salvare il mondo, la corsa al suo sviluppo non farà che peggiorare le cose. Ecco come.

Vi ricordate quando Uber, con le sue tariffe bassissime, corteggiava le amministrazioni municipali proponendosi come un servizio di trasporto pubblico? All’inizio era tutto bellissimo: l’azienda prometteva corse irrealisticamente a buon mercato scommettendo su un futuro fatto di veicoli a guida autonoma e costi del lavoro ridotti all’osso. Questa prospettiva piaceva moltissimo ai ricchi investitori, che hanno assorbito le perdite multimiliardarie di Uber. Alla prova dei fatti, però, si è capito che le vetture a guida autonoma sono ancora una chimera. Gli investitori hanno battuto cassa e Uber ha dovuto alzare i prezzi. Gli utenti che si erano affidati alla piattaforma per sostituire autobus e treni sono rimasti a piedi.

L’istinto neoliberista dietro il modello d’impresa di Uber è che il privato funziona meglio del pubblico. Il problema non riguarda solo le amministrazioni municipali e il trasporto pubblico. Ospedali, polizia e perfino i militari statunitensi si affidano sempre più alla Silicon valley. Con l’iag la dipendenza aumenterà ulteriormente, anche perché non ci sono limiti agli obiettivi e alle ambizioni di questa tecnologia. Nessun servizio amministrativo o di governo sarà insensibile alla sua promessa di innovazione.

Per convincerli non c’è nemmeno bisogno che l’iag esista. Questa, almeno, è la lezione di Theranos, una startup un tempo amatissima dall’élite statunitense, che prometteva di “risolvere” il problema della sanità attraverso una tecnologia rivoluzionaria per le analisi del sangue. La tecnologia non è mai esistita, ma le sue vittime purtroppo sì.

Dopo traumi come quelli di Uber e di Theranos, sappiamo già cosa aspettarci da un ipotetico lancio dell’iag. Si articolerà in due fasi: prima ci sarà un’offerta irresistibile di servizi fortemente sovvenzionati, poi arriverà la spiacevole marcia indietro, e gli utenti pubblici e privati, ormai dipendenti da quei servizi, dovranno sobbarcarsi il costo di renderli redditizi.

Come sempre, gli esperti della Silicon valley minimizzano il ruolo del mercato. In un recente articolo intitolato “Perché l’intelligenza artificiale salverà il mondo”, il famoso investitore Marc Andreessen ha scritto addirittura che l’ia “è di proprietà della gente e controllata dalla gente, come qualsiasi altra tecnologia”. Solo un capitalista di ventura poteva spacciare un’idea simile. La realtà è che la maggior parte delle tecnologie è di proprietà di aziende private. E saranno loro – e non la mitica “gente” – a monetizzare la salvezza del mondo.

Ammesso che lo stiano davvero salvando. Il bilancio finora è misero. Aziende come Airbnb e Task­Rabbit (un software per ingaggiare traslocatori e tuttofare) sono state dipinte come le salvatrici della vessata classe media; le auto elettriche della Tesla sono state descritte come un rimedio al riscaldamento globale. Soylent, che produce frullati sostitutivi dei pasti, si è data la missione di “risolvere” il problema della fame, mentre Facebook ha promesso di “risolvere” i problemi di connettività del sud del mondo. Nessuna di queste aziende ha salvato il pianeta.

Una decina d’anni fa ho definito questo fenomeno “soluzionismo”, ma “neoliberismo digitale” sarebbe altrettanto appropriato. È una visione del mondo che ridefinisce i problemi sociali alla luce di soluzioni tecnologiche create per fare profitti. In questo modo questioni che riguardano la sfera pubblica sono reinterpretate come opportunità di mercato.

Lo iagismo ha riacceso il fervore soluzionista. Nel 2022 Altman ha dichiarato che “l’iag probabilmente sarà necessaria per la sopravvivenza dell’umanità”, perché “i nostri problemi sono troppo grandi” e non possiamo “risolverli senza strumenti migliori”. Recentemente ha aggiunto che l’iag sarà un catalizzatore della prosperità umana.

Ma le aziende hanno bisogno di profitti, e questa benevolenza, soprattutto da parte di imprese che non fanno guadagnare e bruciano i miliardi degli investitori, non è la regola. La OpenAi, dopo aver preso miliardi dalla Microsoft, vuole raccogliere altri cento miliardi di dollari per sviluppare l’iag. Questi investimenti dovranno essere ripagati, a fronte di costi invisibili esorbitanti. Secondo una stima di febbraio, le spese operative di ChatGpt ammonterebbero a 700mila dollari al giorno.

Quindi la spiacevole fase della marcia indietro, con drastici aumenti dei prezzi per rendere redditizi i servizi dell’iag, potrebbe arrivare prima di quella dell’“abbondanza” e della “prosperità”. Ma a quel punto, quante istituzioni pubbliche avranno scambiato i capricci del mercato per tecnologie convenienti e saranno diventate dipendenti dalle dispendiose offerte della OpenAi? E se non vi piace che la vostra città affidi i trasporti pubblici a una fragile startup, accettereste che consegni l’assistenza sociale, lo smaltimento dei rifiuti e la sicurezza ad aziende forse perfino meno affidabili?

Il neoliberismo ha la tendenza a usare la tecnologia per rendere tollerabili le sofferenze della società. Mi ricordo di un’innovativa soluzione hi-tech che nel 2017 prometteva di razionalizzare l’uso di una linea della metropolitana offrendo dei compensi per incentivare i pendolari a non viaggiare nelle ore di punta. Gli ideatori volevano sfruttare la tecnologia per influenzare la domanda (dei viaggiatori), ritenendo troppo difficile fare cambiamenti strutturali dal lato dell’offerta (per esempio aumentando i finanziamenti al trasporto pubblico). La tecnologia avrebbe aiutato gli abitanti di Chicago ad adattarsi all’infrastruttura in declino della città invece di migliorarla per rispondere ai bisogni del pubblico.

È il bias dell’adattamento: l’idea che grazie a una bacchetta magica tecnologica possiamo diventare insensibili alle nostre sofferenze. È il prodotto dell’instancabile tifo neoliberista per l’autosufficienza e la resilienza. Il messaggio è chiaro: attrezzatevi, valorizzate il vostro capitale umano e tracciate il vostro percorso come una startup. Lo iagismo gli fa eco. Bill Gates ha strombazzato che l’intelligenza artificiale può “aiutare le persone in tutto il mondo a migliorare la propria vita”.

Il banchetto soluzionista è appena cominciato: dalla lotta alla prossima pandemia, alla solitudine o all’inflazione, l’ia viene già spacciata come un martello multiuso adatto a molti chiodi, reali e immaginari. Ma il decennio che abbiamo perso seguendo la follia soluzionista rivela i limiti di questi rimedi tecnologici. Certo, le tante app della Silicon valley – per controllare quanto spendiamo, quante calorie consumiamo e quanto spesso facciamo ginnastica – a volte sono utili. Il problema è che ignorano quasi completamente le cause profonde della povertà o dell’obesità. E se non si affrontano le cause, si resta confinati nella sfera dell’adattamento, negando ogni possibilità di trasformazione. C’è una differenza tra incentivare a camminare ogni giorno – una soluzione che favorisce l’adattamento individuale – e capire perché nelle nostre città non ci sono spazi pubblici per camminare, prerequisito per una soluzione politica che favorisca la trasformazione collettiva e istituzionale.

Il punto è che lo iagismo, come il neoliberismo, considera le istituzioni pubbliche prive di immaginazione e non particolarmente produttive. Anche loro dovrebbero semplicemente adeguarsi all’iag. O almeno così sostiene Altman, che recentemente si è detto preoccupato per “la velocità con cui le nostre istituzioni riescono ad adattarsi”. È anche per questo che vuole “cominciare a diffondere questi sistemi molto presto, quando sono molto deboli, in modo da dare alla gente più tempo possibile”.

Ma le istituzioni devono solo adattarsi? Non potrebbero sviluppare un loro piano per migliorare l’intelligenza dell’umanità? O servono solo a mitigare i rischi legati alle tecnologie della Silicon valley?

Una delle critiche più comuni al neoliberismo è che ha appiattito la nostra vita politica, riorganizzandola intorno all’efficienza. “The problem of social cost” (Il problema del costo sociale), un articolo del 1960 diventato un classico della letteratura neoliberista, sosteneva che una fabbrica che inquina e le sue vittime non dovrebbero perdere tempo a litigare in tribunale. Queste dispute sono inefficienti (a che serve la giustizia, in fondo?) e intralciano l’attività del mercato. Le parti dovrebbero negoziare privatamente un risarcimento e andare avanti con la loro vita e i loro affari.

Questa fissazione per l’efficienza è la stessa che ci ha portati a “risolvere” il problema del cambiamento climatico permettendo ai peggiori criminali di continuare come se nulla fosse. Il modo per evitare i vincoli della regolamentazione è stato architettare un sistema – nel caso specifico, tassare l’anidride carbonica – che permette agli inquinatori di comprare dei crediti per compensare le emissioni in eccesso.

Questa cultura dell’efficienza, in cui i mercati misurano il valore delle cose e fanno le veci della giustizia, inevitabilmente corrode le virtù civili. I problemi che crea sono evidenti. Gli studiosi si lamentano che con l’avvento del neoliberismo la ricerca e l’insegnamento sono diventati merci. I medici denunciano che gli ospedali danno priorità ai servizi più redditizi come la chirurgia programmata a scapito delle cure d’emergenza. I giornalisti non sopportano che il valore dei loro articoli sia misurato in visualizzazioni.

Ora immaginate di sguinzagliare l’iag su queste istituzioni – le università, gli ospedali, i giornali – con la nobile missione di “aggiustarle”. La missione civile di queste istituzioni sarebbe invisibile per l’iag, anche perché non è quasi mai quantificata nelle relazioni annuali, su cui sono addestrati i modelli informatici dell’intelligenza artificiale. In fondo, chi si vanterebbe che il suo corso sulla storia del rinascimento è stato frequentato solo da una manciata di studenti? O che il suo articolo sulla corruzione in qualche paese sperduto ha ottenuto solo una decina di visualizzazioni? Inefficienti e poco redditizie, queste anomalie sopravvivono per miracolo. Il resto dell’istituzione le sovvenziona in silenzio, dando priorità a valori diversi dall’“efficienza” guidata dal profitto.

Sarà ancora così nell’utopia dell’intelligenza artificiale generale? O “aggiustare” le nostre istituzioni significherà metterle nelle mani di consulenti senza scrupoli? Anche loro, del resto, offrono “soluzioni” basate sui dati per massimizzare l’efficienza. Il problema è che queste soluzioni spesso non afferrano la complicata interazione tra valori, missioni e tradizioni che è alla base delle istituzioni, un’interazione difficilmente visibile se ci si limita a osservare la superficie dei dati.

In realtà, i risultati impressionanti di tecnologie come ChatGpt sono, quasi per definizione, un rifiuto di leggere la realtà a un livello più profondo, sotto la superficie dei dati. Mentre i primi sistemi di ia si affidavano a regole esplicite e avevano bisogno di un Newton che teorizzasse la gravità – ponendosi il problema di come e perché le mele cadono – i nuovi sistemi come l’iag semplicemente imparano a prevedere gli effetti della gravità osservando milioni di mele cadere a terra. Se l’iag vede solo istituzioni a corto di fondi che lottano per sopravvivere, non riuscirà mai a capire il loro vero ethos. È difficile cogliere il significato del giuramento di Ippocrate osservando un ospedale ridotto a una fonte di profitto.

L’altra famosa massima neoliberista di Thatcher è che “la società non esiste”. La lobby dell’iag condivide inconsapevolmente questa tetra visione del mondo: il tipo di intelligenza che vale la pena di replicare è una funzione di ciò che succede nella testa dell’individuo anziché nella società in generale. Ma l’intelligenza umana è il prodotto di politiche e istituzioni, non solo di geni e attitudini individuali. È più facile essere intelligenti con una borsa di studio alla Library of congress piuttosto che saltando da un lavoro all’altro in un posto sperduto dove non c’è una libreria o una connessione wifi decente.

Sembra scontato dire che più borse di studio e biblioteche pubbliche sarebbero un forte stimolo per l’intelligenza umana. Per i soluzionisti della Silicon valley, tuttavia, potenziare l’intelligenza è principalmente un problema tecnologico: ecco spiegato l’entusiasmo per l’iag. Ma se lo iagismo non è altro che il neoliberismo con altri mezzi, allora dobbiamo prepararci a vedere meno istituzioni che favoriscono l’intelligenza, non di più. Queste istituzioni, in fondo, sono un residuo di quell’odiata “società” che secondo i neoliberisti in realtà non esiste. Il grande progetto dell’iag di amplificare l’intelligenza potrebbe finire per restringerla.

A causa di questo bias soluzionista, anche proposte apparentemente innovative legate all’iag non entusiasmano. Prendiamo la recente proposta di un “progetto Manhattan per la sicurezza dell’ia”. La premessa di fondo è l’idea – sbagliata – che non ci siano alternative all’iag. I nostri sforzi di potenziare l’intelligenza non sarebbero molto più efficaci se il governo, invece, finanziasse un progetto Manhattan per la cultura, l’istruzione e le istituzioni che le promuovono? Senza sforzi di questo tipo, le vaste risorse culturali delle nostre istituzioni pubbliche rischiano di ridursi a banche dati per addestrare i modelli dell’intelligenza artificiale generale, rafforzando la bugia che la società non esiste.

A seconda di quale forma prenderà la ribellione dei robot (ammesso che ci sarà), l’iag potrebbe rivelarsi o meno una minaccia esistenziale. Ma lo iagismo, con le sue tendenze antisociali e i suoi pregiudizi liberisti, lo è già: non serve aspettare che gli aspirapolveri robot mettano in discussione i suoi princìpi. ◆ fas

Evgeny Morozov è un sociologo e giornalista bielorusso. Il suo ultimo libro pubblicato in Italia è Silicon valley: i signori del silicio (Codice 2018). Sarà al festival di Internazionale a Ferrara venerdì 29 settembre per parlare di intelligenza artificiale. Questo articolo è uscito sul New York Times con il titolo The true threat of artificial intelligence.