Medium Hot: la temperatura del dibattito sulle IA ai tempi del riscaldamento globale

di Hito Steyerl

È in uscita per Timeo il saggio Medium hot. Intelligenza artificiale e immagini ai tempi del riscaldamento globale di Hito Steyerl.

Ospito qui un estratto dall’introduzione al libro.

***

Questa raccolta di saggi documenta alcuni episodi avvenuti durante la rapida espansione della cosiddetta intelligenza artificiale in ogni sorta di professione creativa, inclusa la mia – ovvero la cinematografia. Questi testi non devono essere confusi con la scrittura o gli articoli accademici – uno stile che si presta facilmente a essere mimato dai large language model per via delle sue norme facilmente riproducibili e il suo conformismo strutturale. A scanso di equivoci: nessuno stile è immune all’automazione/automatizzazione. Alla fin fine, il cosiddetto general intellect è già stato in larga parte ingerito dai modelli di IA su larga scala, che l’hanno così reso un modello di loro proprietà. La frontiera oggi si è spostata verso tipi di informazione più multidimensionali, specialmente quelli che concernono l’orientamento e il movimento, e che in qualche modo imitano l’esistenza incarnata con l’intento di bucare lo schermo e dare inizio alla colonizzazione su larga scala dello spazio tridimensionale.

Molti dei testi presenti in questo volume sono reportage di prima mano, derivanti dal mio lavoro e dalla conseguente pratica, con la produzione di immagini nel periodo che va dal 2017 al 2024, quando la cosiddetta IA generativa e le tecnologie blockchain sono esplose. La maggior parte è stata scritta mentre aspettavo che finisse il rendering di qualche immagine o che un modello completasse l’addestramento, o mentre arrancavo tra infiniti messaggi di errore e consigli sul forum di Stack Overflow, cercando di comprendere dall’interno il mondo polveroso e pedante della produzione statistica di immagini. Alcuni sono vestigia di tentativi artistici cancellati dalla pandemia di Covid-19. I saggi documentano i dibattiti svoltisi in concomitanza con i primi passi da gigante dell’apprendimento automatico nel secondo decennio del XXI secolo: dalle allucinazioni goffe e onestamente sorprendenti di Google DeepDream (2014) alla simultanea e subdola diffusione della stupidità artificiale sotto forma di eserciti di bot, braccialetti Amazon per monitorare le prestazioni dei lavoratori nei centri di distribuzione, o sistemi di previdenza sociale progettati per fallire di proposito.

Le svolte decisive nell’ambito delle immagini generate dall’IA, in questo periodo, non sono né lo sviluppo delle reti generative avversarie (GAN) nel 2014, né l’invenzione – d’impatto significativo – dell’architettura «transformer» nel 2017, che avrebbe dimostrato appieno il proprio potenziale solo qualche anno dopo. Le tappe fondamentali dell’apprendimento automatico in questi anni sono state, invece, di natura ben più prosaica. Nel 2019, il governo olandese ha impiegato un algoritmo di apprendimento automatico per individuare presunte frodi nei sussidi per l’infanzia, che ha finito per colpire in modo razzista e discriminatorio molte famiglie completamente innocenti, spingendole a indebitarsi e a ritrovarsi sulla soglia della povertà. Alcune persone sono arrivate al suicidio. Un’altra tappa significativa sono state le tante proteste scatenate dagli strumenti di GenAI dopo il 2022, di cui si parla più avanti nel capitolo «Medium Hot» (scritto in larga parte nell’estate del 2023).

Nessun’altra tecnologia recente ha causato così tanti scioperi, cause legali o campagne online – che, va detto, se non altro hanno contribuito a rendere l’automazione delle tecnologie creative molto meno attraente. Intanto, l’enorme impatto ambientale dell’industria dell’IA (così come di molte blockchain) è diventato sempre più evidente, come si approfondisce in «Immagini che bruciano» (2023–24), «Non siamo stati noi ad appiccare il fuoco» (2021, scritto insieme a Gago Gagoshidze e Miloš Trakilović) e «La frattura digitale» (2024). Altri testi presenti in questo volume si concentrano sulla continuità tra la GenAI e le precedenti pratiche di estrazione e sorveglianza, dalla frenologia alla statistica («Mean Images», 2022), fino al colonialismo delle criptovalute («A chi appartiene il mondo?», 2023). «Knuckleporn o focomelia» (2024) esamina alcuni modelli specifici di IA, mentre «Percorrere la via» (2021) riflette sulle presunte promesse della blockchain per gli artisti, che sono implose giusto pochi mesi dopo.

Un altro dei saggi guarda al fenomeno dei creepypasta comparsi dopo le elezioni trumpiane del 2016: una storia chiamata «Il basilisco di Roko» che continua a ispirare il lore lovecraftiano sull’IA, come il cosiddetto «lungotermismo» e i miti sul «rischio esistenziale». C’è perfino un testo scritto in collaborazione con il large language model GPT-3, «Ventuno mondi dell’arte» (2021, con il Department of Decentralization), fatto quando questa attività poteva essere ancora in qualche modo divertente – un tempo in cui gli LLM prodotti dalle multinazionali erano ancora capaci di produrre un certo grado di «stranezza» al posto dell’attuale conformismo ottimizzato. Lungo il corso di queste indagini ho avuto modo di incontrare professionisti brillanti – tra cui ingegneri preoccupati per le conseguenze del proprio operato – e persone di ogni sorta, colpite dalle tumultuose instabilità e discontinuità tecnologiche e sociali. I saggi puntano i riflettori su alcuni aspetti della rapida proliferazione delle tecnologie basate sull’apprendimento automatico e il loro impatto sulla società, sull’arte e su diversi tipi di lavoro.

Forse sono destinati a diventare delle capsule del tempo, per gli storici del futuro, che a un certo punto si troveranno a chiedersi: che cosa pensava la gente quando tutto questo ha avuto inizio? Come hanno affrontato la minaccia della propria zombificazione: essere resi obsoleti o trasformati in non-morti da strumenti che promulgano il conformismo statistico? In quale momento si è iniziato a modellare le persone come fossero rumore, o particelle sociali sospese, bombardate da forze browniane caotiche e impietosamente strattonate di qua e di là? Qual era la temperatura del dibattito in quel momento?

Forse qualcuno vorrà ricostruire in retrospettiva il periodo di un’ennesima rivoluzione tecnologica alla cuspide del XXI secolo, in un periodo di instabilità, cambiamento climatico, precarietà e, più di ogni altra cosa, la sensazione che quello che Hannah Arendt ha chiamato «senso del mondo» stia iniziando a sfaldarsi. Dal suo punto di vista il senso del mondo prende forma da un sensus communis condiviso. Quest’ultimo implica la facoltà di cogliere il senso basilare della realtà e di orientarvisi – qualcosa che oggi le industrie dell’IA cercano strenuamente di integrare nei propri modelli. Nel frattempo, il senso del mondo di Arendt è già stato messo a repentaglio dalle infodemie del Web 2.0 – un multiverso di fake news animato da mobbing e self-branding. Il senso del mondo è stato inoltre eroso dalla progressiva sovrapposizione di zone di internet a nuove sfere politiche multipolari, mantenute rigidamente separate le une dalle altre. L’idea di Marshall McLuhan di un villaggio globale è stata copiata e incollata nello spazio tridimensionale: una collezione di villaggi sparsi per il mondo, sempre più insulari e parrocchiali; caratterizzati da pettegolezzi anonimi e meschini, censura e repressione, e dall’esclusione e la cancellazione degli altri, e sempre più ostili tra loro. L’idea stessa di «mondo» ne risulta deprecata, nel bene e nel male. È anche possibile che, nel futuro, persino la storiografia sarà ridefinita dall’apprendimento automatico, fino a diventare qualcosa di completamente diverso.

Si tratta di una serie di eventi ancora agli albori, e dunque molte domande fondamentali rimangono aperte; altre non possono neppure essere formulate. Le cose si muovono a una velocità tale che l’immediata obsolescenza di qualsiasi nostra idea su quanto sta accadendo è inevitabile, indipendentemente da quanto ci si sforzi di rimanere al passo. Ciò significa anche che molte delle domande che ci poniamo oggi, presto potrebbero sembrare domande di un tempo remoto. O forse lo saranno già al momento della pubblicazione del libro. Che cosa accade alle nozioni di autonomia nell’epoca dell’autonomizzazione? L’arte autonoma si trasformerà in arte autonoma di macchine per macchine? Che cos’è una funzione «fire, find and forget» applicata a un’opera d’arte, e quale potrebbe essere il pubblico di simili performance?

Una volta che il cosiddetto senso comune viene catturato da sistemi stocastici e dalla politica populista, che ne è delle sue ripercussioni estetiche e sociali? E cosa può dirci una tale situazione rispetto alle limitazioni intrinseche a una simile concezione dell’estetica? E che ne è del significato del «significato» una volta ceduto a sistemi proprietari e opachi? Come può essere fermato il danno sociale e ambientale creato dai sistemi termodinamici della produzione di immagini? Come si può interrompere la corsa agli armamenti e l’attuale sviluppo e impiego di strumenti balistici basati sull’IA? E cosa succede ai sistemi umani, e agli umani stessi, quando il pensiero e le sensibilità umane risultano sacrificabili a causa della sempre maggiore autonomia dei sistemi macchinici?