Di Andrea Inglese

A partire dal novembre 2022, una curiosità dilagante ha portato milioni di persone in tutto il mondo a realizzare sul web un dialogo tête‑à‑tête con una di quelle entità che da almeno mezzo secolo popolano romanzi e film di fantascienza, ossia una macchina che esibisce lo stesso agio di Hal 9000, quando conversa pacificamente con gli astronauti del Discovery, in 2001. Odissea nello spazio di Kubrick. Prima che questa esperienza si traducesse in uno schietto entusiasmo per le sorti della collettività – in procinto di essere sollevate grazie agli indubitabili vantaggi dell’intelligenza artificiale – o che, al contrario, destasse svariate paure – riguardo alle enormi minacce che quest’ultima farebbe pesare sulle nostre vite –, il contatto diretto con ChatGPT ha prodotto qualcosa che ha a che fare innanzitutto con le emozioni e con la meraviglia in particolare. E se Aristotele aveva ragione, concependo quest’ultima come lo sprone originario della riflessione filosofica, allora tutti noi, dopo il nostro personale appuntamento con ChatGPT, abbiamo assunto, consapevolmente o meno, un’attitudine più meditativa nei confronti dell’intelligenza artificiale. Attitudine, però – come evidenzia sempre Aristotele nella Metafisica – che è costituita non solo da stupore, ma anche da dubbio, ossia dal riconoscimento “di non sapere”.

È solo uno degli svariati paradossi a cui ci confronta l’attuale macchina intelligente. Nel momento in cui esce dal laboratorio per prendere la parola davanti a noi, esibendo competenze enciclopediche e poliglotte, lascia emergere non solo gli abbaglianti raggi del progresso scientifico, ma anche una vasta e perturbante zona d’ombra. In genere gli esperti – che ci parlano da un luogo ambiguo, alla frontiera tra l’istituzione pubblica e l’azienda privata – non hanno naturalmente dubbi o sorprese, non filosofeggiano. Cercano soprattutto di persuaderci delle loro pragmatiche certezze: le nuove forme di IA sono disponibili sul mercato, e hanno un’indubitabile utilità ed efficacia, malgrado gli sconvolgimenti che finiranno per creare nel mondo del lavoro, delle istituzioni educative, della tutela del diritto d’autore o della privacy dei comuni cittadini. Nonostante la fiducia nelle tempeste distruttive di Schumpeter, le disinvolte risposte di ChatGPT suscitano tuttavia inquietudini e fantasie, tra cui quella del robot come nostro “doppio”, in grado forse di fagocitarci o soppiantarci una volta per tutte. Insomma, abbiamo ancora qualche remora prima di accogliere con schietto entusiasmo le conseguenze che questo livello inatteso di automazione introdurrà nelle nostre vite.

Uno specialista che non ha paura d’indugiare sul terreno della riflessione filosofica e di far fronte agli equivoci che popolano il nostro immaginario intorno alle macchine, è Nello Cristianini, professore di IA all’Università di Bath, nel Regno Unito, e autore di La scorciatoia, uscito per il Mulino nel 2023. Il libro di Cristianini ha grandi pregi, e nonostante la valanga di cose che si scrivono con giornalistico eccitamento sull’intelligenza artificiale, si qualifica come uno strumento di rara pertinenza e chiarezza, per cominciare a determinare i confini estremamente mossi di questa entità tecnologica. Uno dei tratti distintivi del suo stile è una certa pacatezza, che lo mette al riparo sia dal messianismo tecnologico oggi tornato in voga, sia dal catastrofismo aprioristico. Malgrado ciò l’autore non elude nessuna delle difficoltà e dei rischi rilevanti che l’IA produce nei vari ambiti dell’attività sociale, in cui è o potrebbe essere adoperata (marketing, banche e assicurazioni, istituzioni giuridiche, ecc.).

Su questi aspetti critici, del resto, vale la pena di ricordare almeno altri due studi recenti. Il primo, apparso dapprima in Francia (Seuil 2019) e poi in Italia (Feltrinelli 2020), è di Antonio A. Casilli, sociologo che insegna presso il dipartimento di ingegneria delle telecomunicazioni del Politecnico di Parigi. In Schiavi del clic. Perché lavoriamo tutti per il nuovo capitalismo, Casilli indaga quelle forme di lavoro in gran parte “invisibili” o “inconsapevoli”, che permettono l’esistenza e lo sviluppo delle macchine intelligenti, sfatando il mito di una progressiva obsolescenza dell’attività umana, soprattutto quella meno qualificata. La crescente automazione non rima con crescente disoccupazione, ma con sfruttamento e precarietà ancora più diffusi su scala planetaria. I grandi gruppi industriali digitali statunitensi, ma anche russi e cinesi, hanno bisogno di subappaltare, spesso nel Sud del mondo, un micro-lavoro sottopagato, ma indispensabile per moderare i contenuti delle piattaforme e addestrare gli algoritmi.

Uscito nel 2021 per il Mulino, Né intelligente né artificiale. Il lato oscuro dell’IA è un’inchiesta firmata dalla scrittrice australiana Kate Crawford, studiosa dell’impatto sociale dell’IA. Inutile dire che una tale disciplina non esiste, in quanto – come illustra il lavoro della Crawford – mobilita una serie di competenze pluridisciplinari e di ricerche pionieristiche che spaziano dalle enorme risorse energetiche necessarie per il funzionamento dei “data center” ai pregiudizi umani attraverso cui si costruiscono le griglie di classificazione dei dati. Crawford insiste su di un fatto tanto evidente, quanto tenacemente ignorato: al di là dei suoi costi sociali e ambientali, l’IA “acuisce asimmetrie di potere esistenti”, in quanto è uno strumento di sfruttamento, controllo e condizionamento sempre più presente nelle nostre vite, ma sul quale, come singoli cittadini, abbiamo pochissima presa. Se questa inedita condizione storica è di continuo occultata da un ideologico ottimismo, non saranno comunque condanne generiche a portare maggiori strumenti di consapevolezza e azione.

Quanto a Cristianini, per sfuggire agli effetti stordenti del “miracolo”, introduce un po’ di storia e chiarezza concettuale a monte, fornendo alcune necessarie nozioni di epistemologia, connesse con quel campo di esplorazione che, a partire dalla metà degli anni Cinquanta, è stato definito “intelligenza artificiale”. Prima di tutto, però, si premura di dissolvere la fantasia metafisica che tanto ci assilla: l’indubitabile comportamento intelligente delle macchine attuali non presuppone che “l’agente abbia un cervello, un linguaggio o una coscienza”. Inutile, quindi, prestargli buone o cattive intenzioni, o ingaggiare competizioni con esso. Indebolendo ulteriormente il nostro già precario antropocentrismo, Cristianini ci ricorda che l’intelligenza – adeguare strumenti e azioni a degli obiettivi in contesti in parte mutevoli – non è una prerogativa dei soli esseri umani: animali e piante già la possiedono. Dobbiamo allora riconoscere che gli agenti che ci raccomandano video o libri sulle nostre piattaforme, o i filtri anti-spam della nostra posta elettronica, manifestano sì un’intelligenza, ma non simile alla nostra; si tratta di un’intelligenza aliena, come quella che mettono in atto un formicaio o una lumaca, quando perseguono i loro obiettivi in modo efficace. Il punto non è solo che GPT-3 ha immagazzinato una quantità di testi “che richiederebbe oltre 600 anni per essere letta dal più veloce lettore umano”, ma che noi non abbiamo la capacità di comprendere e tracciare i suoi ragionamenti, le “rappresentazioni” che si fa del nostro mondo. Possiamo constatarne gli effetti, ed eventualmente correggerli. Conosciamo i risultati, ma non il modo attraverso cui sono stati ottenuti. Questa opacità è uno dei principali aspetti, che determina la nostra difficoltà “a trovare la giusta narrazione per questa ‘intelligenza aliena’, ormai parte delle nostre vite”.

Cristianini, in realtà, sceglie un filo narrativo principale, ed è quello che dà il titolo al libro. La scorciatoia di cui si parla, riguarda un cambio di paradigma, nel senso assegnatogli dal filosofo della scienza Thomas Kuhn. Nel corso di circa un trentennio si sperimentarono due modelli principali di ricerca nell’ambito dell’IA, quello riconducibile ai cosiddetti “Sistemi esperti”, sostenuti da Ed Feigenbaum, uno dei fondatori del dipartimento d’informatica dell’università di Stanford, e quello sviluppato da Frederick Jelinek, in seno al Continuous Speech Recognition Group di IBM, all’inizio degli anni Settanta. La supremazia tra i due modelli fu sancita nel primo decennio del nostro secolo dalle aziende operanti in rete, che ottennero più efficacia commerciale grazie all’utilizzo del modello di Jelinek. Tra di esse c’erano Amazon e Google. Il campo di prova era stato il rapporto dell’agente digitale con il linguaggio umano: riconoscimento del parlato e traduzione automatica. Il modello perdente, “basato sulle conoscenze”, scommetteva sulla possibilità d’implementare nella macchina il massimo numero di norme grammaticali e d’inferenza logica. Molto più efficace si dimostrò la “scorciatoia” operata da Jelinek: all’utilizzo di regole esplicite aveva sostituito l’identificazione di regolarità statistiche, attraverso il trattamento di un numero sempre più ampio di dati.

Amazon tra i primi sperimentò i vantaggi di un tale sistema. L’obiettivo estremo di Bezos era la realizzazione di una vetrina personalizzata per ogni cliente. Per fare questo, avrebbe dovuto disporre di una teoria che non esiste, quella relativa ai gusti dei suoi clienti. In principio, l’unico modo per avvicinarsi ad essa fu il coinvolgimento degli stessi utenti attraverso il riempimento di un questionario, sulla base del quale un gruppo di redattori di Amazon avrebbero proposto recensioni e raccomandazioni per futuri acquisti. Grazie alla “scorciatoia” fu poi creato “Amabot”, l’agente autonomo che coniugava algoritmi di personalizzazione e apprendimento automatico. Non importava farsi un’idea di cosa i clienti volevano o desideravano, bastava osservare quello che facevano, e compararlo con quanto avevano fatto altri clienti. “Amabot non era animato da regole esplicite, né da alcuna comprensione dei clienti o dei contenuti: il suo comportamento dipendeva da relazioni statistiche scoperte nel database delle transazioni passate.”

Tale principio sta alla base non solo di tutti i sistemi di raccomandazione, ma anche di quelli di predizione del comportamento umano o delle risposte fornite da ChatGPT alle domande indirizzategli dagli utenti. Nessuno di questi agenti intelligenti pretende di fornire una risposta certa o vera, in quanto si basa su previsioni che avranno nel migliore dei casi solo una buona probabilità di essere corrette. Ma il problema non riguarda solo i margini di errore presenti nelle prestazioni di tali agenti, ma anche la nostra possibilità di prevenirli e identificarli. Qui si apre il discorso non più esclusivamente epistemologico o tecnico di Cristianini, ma propriamente etico e politico. Oggi ci troviamo in una situazione per certi versi assurda: come se alcuni giganti dell’industria automobilistica e delle infrastrutture stradali avessero rivoluzionato di punto in bianco la mobilità umana su larga scala, senza che ancora sia mai stato elaborato e applicato un codice della strada. Noi siamo perpetuamente in rete, e a contatto con agenti intelligenti che si nutrono delle nostre interazioni quotidiane con loro, senza che si sappia: 1) come essi funzionino e forniscano le loro prestazioni e 2) quale influenza essi possano avere sulle nostre decisioni autonome e sulla nostra salute mentale. Il primo problema esige che gli agenti intelligenti messi a diposizione dalle imprese siano “ispezionabili” (auditable), ossia controllabili da organismi terzi, nella loro costruzione. Il secondo, ancora più del primo, richiede la mobilitazione delle scienze sociali e naturali oltre che di quelle informatiche, per valutare l’impatto che l’esposizione a questi agenti produce sulla psicologia individuale e sulla società nel suo insieme. Tutto questo è un lavoro che in larga parte va ancora fatto, e bisognerà farlo in corso d’opera, elaborando norme di sicurezza stradale, mentre le vetture già ci portano in giro a tutta velocità. D’altra parte, non saranno né le potenti vetture, né le strade ben asfaltate, a produrre di per sé l’indispensabile normativa della sicurezza stradale.

.

Sono sempre parecchio scettico non nei confronti di chi addita l’estrema gravità di situazioni presenti o a venire – il male umano e sociale è un pozzo senza fondo – ma riguardo a chi vanta le grandi virtù di epoche passate. La prevalenza di uno sguardo “discontinuista”, l’accelerazione effettiva degli eventi portati dai mutamenti tecnologici, e un rimodellamento “in rosa” del passato da parte della nostra immaginazione, fa sì che sia difficile accedere a una prospettiva sufficientemente obiettiva rispetto alla nostra condizione storica. Per questo, mai come oggi, mentre il futuro incombe su di noi in modo prepotente, con un volto che, a seconda dei giorni, o dei minuti, muta da minaccioso a salvifico, è sacrosanto ristabilire un minimo di “proporzioni storiche”, ossia fare l’esercizio di guardarci non solo dal futuro, ma anche da quello che sappiamo del nostro passato. Ci esorta a farlo Robert Darnton in un libro del 2009, The Case for Books. Past, Present, and Future. (In Italia è apparso nel 2011 per Adelphi, con il titolo Il futuro del libro). Darnton studioso di storia delle idee e del libro, specializzato nell’inquieto XVIII secolo francese, direttore della biblioteca universitaria di Harvard dal 2007 al 2016, fa parte di quegli studiosi reticenti a forzare la moltitudine disordinata dei fatti in schemi anelastici ma puliti. Anche se poi proprio i fatti sono così difficili, per uno storico, da stabilire. Ma questo è già un tema interno alla ricerca di Darnton. In ogni caso, m’interessa fissare l’attenzione su un preciso passaggio del suo libro del 2009.

“L’informazione non è mai stata stabile. Può sembrare una banalità, ma merita riflessione. Questo potrebbe fungere da correttivo alla credenza che l’accelerazione delle mutazioni tecnologiche ci ha proiettato in un’età nuova dove l’informazione sfugge a ogni controllo. Suggerirei piuttosto che le nuove tecniche di comunicazione dovrebbero costringerci a riconsiderare la nozione stessa d’informazione. Non bisogna comprenderla come se essa avesse la forma di fatti duri o di pepite di realtà pronti e essere estratti dai giornali, dagli archivi, e dalle biblioteche, ma piuttosto come messaggi rimaneggiati di continuo nel corso del processo di trasmissione. Noi abbiamo a che fare con testi molteplici e mutevoli, piuttosto che con documenti solidamente stabiliti. Studiandoli con sguardo scettico sugli schermi dei nostri computer, noi possiamo apprendere a leggere i giornali quotidiani nella maniera più efficace – e anche imparare ad amare i vecchi libri”.

Al di là dell’amore dei vecchi libri, possiamo trarre una lezione da Darnton. Sì, è indubitabile, la nostra società della comunicazione globalizzata (istantanea e diffusa) ha reso immensamente più accessibile l’informazione alle persone, ma non le ha strappato, né potrà mai farlo, il suo carattere di “costrutto sociale”, esposto alle più varie diffrazioni ideologiche, culturali, politiche. Solo un’assoluta ingenuità nei confronti di un accesso diretto e trasparente ai “fatti puri” e “oggettivi” – mito ampiamente decostruito dal pensiero novecentesco –, può a un tratto trasformarci in disgustati e offesi sostenitori della falsificazione totale, a cui l’era di internet ci avrebbe sottoposto. Siamo costretti ad essere ancora una volta “post-moderni”, anche perché – come ci ha ricordato Bruno Latour – non siamo mai stati moderni. Ma il nostro post-moderno non è quello di una “società trasparente” – per riprendere il titolo di un celebre libro del 1989 di Gianni Vattimo. Si è in qualche modo creduto che la velocità dell’informazione costituisse un fattore di traslucidità: più un’informazione scorre velocemente nel suo canale, meno “tempo” sarà concesso ai fattori di diffrazione, mediazione e intorbidamento, per intervenire su di essa. Ma così non è. Questa è anche la lezione che ci viene oggi dal funzionamento degli algoritmi e dell’intelligenza artificiale: il dato, che entra in un processo di “pulita” automazione, è già stato ampiamente “costruito socialmente,” e quindi inevitabilmente intorbidato dalle ideologie. Questo processo d’intorbidamento del “fatto” o del “dato”, è ciò che rende l’informazione instabile – sia nella sua circolazione sia nel suo calcolo. Nell’ambito dell’intelligenza artificiale si parla di bias, di un vizio a monte del funzionamento di un algoritmo, che riproduce un pregiudizio – ossia non un fatto statistico, ma una proiezione ideologica sui fatti.

Per costituire un parallelo tra l’instabilità dell’informazione, intesa come notizia, e di quella intesa come dato, faccio riferimento a un passaggio di La scorciatoia (il Mulino, 2023) di Nello Cristianini, professore d’Intelligenza Artificiale all’Università di Bath (Regno Unito).

“Il 23 maggio 2016 il giornale investigativo ‘ProPublica’ descrisse un sotware usato in alcuni tribunali americani per stimare la probabilità che un imputato diventi un recidivo. Il sotfware si chiama COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) ed è usato in diversi Stati, inclusi New York, Winsconsin, California e Florida, per assistere alcune decisioni giudiziarie. Ricevere un punteggio alto può avere conseguenze pratiche per la libertà di un imputato, per esempio influenzando la sua possibilità di essere rilasciato ‘sulla parola’ in attesa di processo. L’articolo affermava che quei punteggi avevano un bias contro imputati afroamericani, dopo aver comparato i tassi di ‘falsi positivi’ e ‘falsi negativi’ in diversi gruppi etnici. La sua conclusione era: ‘gli imputati neri hanno probabilità quasi due volte superiore a quelli bianchi di essere etichettati ad alto rischio senza poi rioffendere in realtà’ e ‘quelli bianchi […] hanno una probabilità più alta di quelli neri di essere classificati a basso rischio e poi di commettere altri crimini’.”

Un acuto esperto (e dileggiatore) di intelligenza umana, ossia Kurt Vonnegut, tra i massimi scrittori satirici statunitensi dello scorso secolo, aveva già nel 1990 capito l’inghippo. Nel suo romanzo Hocus pocus, immagina un gioco elettronico – GRIOT – costantemente aggiornato “con notizie d’attualità riguardanti idraulici, podologhi, falegnami, riguardanti i profughi vietnamiti e gli immigrati clandestini messicani, gli spacciatori di droga, i paraplegici, insomma riguardanti ogni sorta di gente pensabile e immaginabile entro i confini di Stati Uniti e Canada”. Il giocatore deve fornire a GRIOT tutta una serie di dati sulla sua età, mestiere, città di provenienza, razza, famiglia d’origine, ecc., e l’oracolo elettronico gli restituisce una biografia completa, ossia la storia della sua vita così come potrebbe andare a finire. Se un giocatore riprova più volte, ottiene delle biografie diverse, ma globalmente sottoposte a uno stesso impietoso determinismo. Quando i detenuti – in maggioranza neri – del carcere dove lavora il protagonista, scoprono l’esistenza di GRIOT, si precipitano a presentargli tutti i dati che li riguardano, e ripetono la stessa azione svariate volte alla ricerca di un biografia minimamente decente. “A uno a uno gli fornirono i dati relativi alla loro razza e età, ai loro genitori, se li conoscevano, alle scuole frequentate e alle droghe prese e così via, e GRIOT li mandò tutti in galera, a scontare lunghe condanne”.

Anche il funzionamento di GRIOT era probabilmente viziato da qualche bias.

All’epoca del suo apprendistato di giornalista, il giovane Darnton lavorava al quartiere generale della polizia di Newark (1959). Non c’erano testate in rete, non c’era la rete, non c’era l’IA a orientare gli utilizzatori di piattaforme digitali. Darnton doveva reperire, tra i resoconti in continuo arrivo alla centrale, quelle notizie suscettibili d’interessare i redattori di cronaca esperti, i quali avrebbero poi trasformato il rapporto giunto alla centrale di polizia in trafiletto “gustoso” per il quotidiano del giorno seguente. E, ovviamente, anche Darnton apprese presto che interessa più l’uomo che morde un cane, piuttosto che il solito cane che morde un uomo. Un giorno gli capita sotto gli occhi un fatto ben raro: uno stupro seguito da omicidio. Si prepara quindi a trasmetterla ai redattori di nera, quando il luogotenente di polizia gli indica disgustato una B posta tra parentesi dopo il nome della vittima e del sospettato. Così conclude l’episodio Darnton: “Solo allora mi sono reso conto che tutti i nomi erano seguiti da una B per Black, o da una W per White. Ignoravo che i crimini riguardanti i Neri non avessero valore d’informazione”.

Ricordare che oggi, come per le gazzette del XVIII secolo, l’informazione ha una natura instabile, di “costrutto sociale”, non significa sostenere che l’informazione è finzione, ma che è parte di un processo continuo di negoziazione-interpretazione-elaborazione, in cui è coinvolta la società nel suo insieme, con tutte le tensioni e i conflitti che l’attraversano.  E nonostante l’informazione circoli a grandissima velocità e attraverso passaggi automatizzati – che non implicano l’intervento umano –, essa non per questo si rende più trasparente e univoca. L’Achille della tecnologia è sempre più veloce per acchiappare il “fatto puro”, ma la tartaruga della mediazione sociale l’ha già da sempre inevitabilmente alterato. E questo non è un fatto nuovo.