Non abbiamo mai prodotto così tanti testi e, contemporaneamente, potremmo essere all'inizio di un'epoca nella quale scrivere e leggere diventeranno attività sempre meno necessarie.
La contraddizione è soltanto apparente. Ogni giorno affidiamo all'intelligenza artificiale una quantità crescente di piccoli atti linguistici, le chiediamo di rispondere a una mail, rendere più elegante un pensiero, trasformare pochi appunti in un documento, tradurre una conversazione, preparare una relazione, correggere una lettera. Dall'altra parte dello stesso processo sta accadendo qualcosa di perfettamente speculare: chiediamo all'intelligenza artificiale di riassumere le mail che riceviamo, estrarre i punti importanti da un documento, raccontarci un articolo che non abbiamo tempo di leggere, trasformare cinquanta pagine in cinque minuti di audio.
La macchina algoritmica sta entrando contemporaneamente nei due estremi della comunicazione.
È questa condizione che propongo di chiamare AI Mirror Loop: un circuito nel quale un essere umano affida a un'intelligenza artificiale la formulazione di ciò che vuole comunicare mentre, dall'altra parte, un altro essere umano affida a un'altra intelligenza artificiale il compito di leggere, interpretare e sintetizzare quello stesso messaggio.
Lo schema è molto semplice: umano → AI → testo → AI → umano
Il testo continua a esistere, ma assume una funzione curiosamente nuova. Non è più necessariamente qualcosa che un essere umano ha scritto affinché un altro essere umano lo legga. Può diventare una sorta di territorio intermedio, prodotto da una macchina principalmente perché un'altra macchina possa attraversarlo, una sorta di formato di interscambio.
Immaginiamo una situazione assolutamente ordinaria. Devo comunicare che una mostra prevista per sabato dovrà essere rimandata perché un'opera non sarà pronta. Potrei scrivere semplicemente questo, ma chiedo a un sistema generativo di trasformare il pensiero in una comunicazione professionale, elegante e sufficientemente diplomatica da non irritare nessuno. Da una frase nascono quattrocento parole. Il destinatario riceve il messaggio, vede che è lungo e chiede al proprio assistente di sintetizzarlo. Dopo qualche secondo legge: la mostra di sabato è rimandata perché l'opera non sarà pronta.
Siamo tornati esattamente al punto di partenza.
Nel mezzo abbiamo prodotto centinaia di parole che nessuno aveva realmente bisogno di scrivere e che nessuno aveva realmente intenzione di leggere.
È difficile non vedere qualcosa di comico in questa gigantesca macchina per l'espansione e la successiva compressione del linguaggio che ricorda molto il procedimento di compressione e successiva decompressione dei software trasferiti su internet, i cosiddetti file zippati. Un'intelligenza artificiale prende venti parole e ne produce quattrocento; una seconda prende quelle quattrocento parole e le riporta a venti. Se questo comportamento diventasse sistematico, potremmo assistere a un fenomeno apparentemente paradossale: la più grande inflazione testuale della storia coinciderebbe con la progressiva scomparsa delle due attività che storicamente giustificavano l'esistenza dei testi.
Il paradosso diventa ancora più evidente se immaginiamo di spostarci soltanto qualche anno in avanti in un ipotetico e probabile futuro.
La mattina troviamo centocinquanta messaggi nella casella di posta, ma non abbiamo alcuna ragione di leggerli. Il nostro assistente li ha già esaminati durante la notte e ci comunica che soltanto quattro richiedono una decisione. Alla prima possiamo rispondere positivamente, la seconda proposta è troppo costosa, la terza non ci interessa, alla quarta possiamo suggerire giovedì pomeriggio.
Non scriviamo nulla. Diamo quattro indicazioni, magari per voce.
Il nostro assistente produce quattro messaggi perfettamente formulati che vengono inviati ad altrettante persone. È possibile però che anche quelle persone non li leggano. I loro assistenti li analizzano e riferiscono semplicemente: Claudio accetta; Claudio ritiene il prezzo troppo alto; Claudio non è interessato; Claudio propone giovedì.
Tra le due parti potrebbero essere state generate migliaia di parole.
Nessun essere umano ne ha letta una.
A questo punto sorge inevitabilmente una domanda: perché continuare a produrle?
Se l'intelligenza artificiale del mittente conosce l'intenzione originaria e quella del destinatario deve soltanto ricostruire la stessa intenzione, il testo diventa un intermediario ridondante. I due sistemi potrebbero scambiarsi direttamente informazioni strutturate, negoziare un appuntamento, confrontare condizioni, verificare disponibilità e coinvolgere i rispettivi proprietari soltanto quando fosse realmente necessaria una decisione.
Il primo elemento a scomparire dall'AI Mirror Loop potrebbe quindi essere proprio ciò che per millenni abbiamo considerato indispensabile alla comunicazione a distanza: il testo.
umano → AI ⇄ AI → umano
Il punto interessante, però, non riguarda soltanto ciò che accade tra due persone. Tutto il materiale prodotto nel frattempo rimane nel mondo. Le mail vengono archiviate. Gli articoli pubblicati. Le recensioni indicizzate. I comunicati stampa copiati. Le descrizioni delle opere finiscono nei cataloghi e nei siti dei musei. I post vengono ripresi da altri post. I testi vengono tradotti, sintetizzati, citati e ricombinati.
Il materiale generato dall'intelligenza artificiale comincia così a depositarsi lentamente e sedimentare dentro quella stessa cultura dalla quale l'intelligenza artificiale aveva originariamente imparato.
Ed è qui che il Mirror Loop smette di essere soltanto un circuito comunicativo e comincia ad assomigliare a un circuito culturale.
La cultura umana ha fornito il materiale con cui abbiamo addestrato le macchine. Le macchine producono nuovi materiali che rientrano nella cultura umana. Quei materiali vengono letti dagli uomini, elaborati da altre macchine e contribuiscono, direttamente o indirettamente, alla produzione di altri testi, altre immagini, altre interpretazioni.
La cultura insegna alla macchina, la macchina restituisce post-cultura e quella post-cultura diventa il paesaggio nel quale uomini e macchine imparano nuovamente.
È a questo punto che un fenomeno studiato nell'ambito dell'intelligenza artificiale, il model collapse, assume un significato che supera la questione puramente tecnica per come è stata studiata e teorizzata fino ad oggi.
Il termine indica un problema preciso che può manifestarsi quando generazioni successive di modelli vengono alimentate in misura crescente con dati sintetici prodotti dalle generazioni precedenti. Nel corso di questo processo la distribuzione originaria può deformarsi e alcune delle prime informazioni a essere sacrificate sono quelle contenute nelle sue estremità, le cosiddette tails: i casi rari, scarsamente rappresentati, improbabili.
Trasportata dalla statistica alla cultura, l'immagine è formidabile.
Perché il rischio non è necessariamente che una cultura sempre più mediata dall'intelligenza artificiale diventi improvvisamente stupida o mediocre. Potrebbe accadere qualcosa di assai più sottile. Potrebbe diventare abbastanza bella, abbastanza intelligente, abbastanza originale, abbastanza elegante.
Una quantità sterminata di differenze locali all'interno di una crescente somiglianza generale.
Il centro statistico della cultura potrebbe diventare immensamente popolato mentre le sue periferie diventano progressivamente più difficili da raggiungere. A scomparire non sarebbe necessariamente ciò che è sbagliato. Potrebbe scomparire ciò che è improbabile: una costruzione linguistica assurda, un gusto incomprensibile, un'idiosincrasia, una parola privata, un errore mantenuto ostinatamente, una soluzione che nessun manuale consiglierebbe, un'opera che inizialmente non assomiglia a ciò che siamo abituati a riconoscere come opera.
Potremmo chiamare questa possibile conseguenza dell'AI Mirror Loop collasso dell'eccezione.
Una parte considerevole della storia della cultura è stata prodotta proprio nelle code della distribuzione. L'avanguardia è quasi per definizione statisticamente minoritaria nel momento in cui appare. Ciò che vent'anni dopo sarà riconosciuto, imitato e insegnato, all'inizio è spesso un errore, una provocazione, un'idiosincrasia o semplicemente qualcosa che pochissime persone ritengono interessante.
Una macchina può oggi imitare Van Gogh, Cage, Duchamp o Artaud. Può riconoscere perfettamente le anomalie che essi hanno introdotto nella cultura perché, una volta storicizzate, quelle anomalie sono diventate informazione. Sono entrate nel corpus.
Molto più interessante è l'anomalia che ancora non possiede un nome, quella che non è ancora diventata stile, quella che non possiamo chiedere con un prompt perché non sappiamo ancora che esiste, quella che, osservata dal centro della distribuzione, sembra semplicemente sbagliata.
Forse è anche da questa prospettiva, molto più quotidiana e meno spettacolare, che dovremmo tornare a considerare l'idea di post-umano, che da decenni attraversa filosofia, arte e cultura contemporanea.
Quando pensiamo al post-umano siamo portati a immaginare scenari piuttosto vistosi: corpi aumentati, protesi intelligenti, ibridazioni biologiche, coscienze trasferite nelle macchine. Ma il post-umano prodotto dall'AI Mirror Loop potrebbe essere decisamente meno cinematografico. Potrebbe non richiedere alcuna trasformazione del nostro corpo e neppure la comparsa di una fantomatica intelligenza artificiale onnipotente, potrebbe consistere semplicemente nella nostra progressiva marginalizzazione all'interno di processi che continuano formalmente a essere costruiti intorno a noi.
Continuiamo a essere il motivo per cui il sistema comunica, ma non formuliamo più necessariamente la comunicazione. Continuiamo a essere destinatari di informazioni che non leggiamo. Produciamo libri che altre macchine sintetizzano, immagini che altre macchine classificano, musica che algoritmi selezionano, documenti che agenti artificiali confrontano con altri documenti.
L'essere umano non scompare. Rimane alle estremità del processo, ai margini del loop.
Ed è forse una forma di post-umano più interessante proprio perché non richiede alcuna apocalisse tecnologica. Non è la macchina che sostituisce teatralmente l'uomo. È l'uomo che, un piccolo gesto di delega dopo l'altro, si ritira dal centro del proprio universo simbolico.
Ma insieme alla fatica, alla lentezza e all'inefficienza potremmo delegare anche qualcosa che non avevamo previsto: Il rumore.
Perché l'essere umano è una formidabile macchina per produrre rumore. Dimentica, fraintende, si contraddice, cambia idea, sviluppa ossessioni, interpreta male le istruzioni, utilizza una parola impropriamente, segue intuizioni senza motivo e qualche volta insiste proprio quando qualsiasi analisi razionale suggerirebbe di smettere.
Dal punto di vista dell'efficienza sono difetti, dal punto di vista della cultura non è affatto certo che lo siano.
Se questa ipotesi fosse corretta, il gesto radicale dell'artista del futuro potrebbe assumere una forma curiosamente semplice.
Non produrre di più, deviare.
Conservare un errore quando sarebbe semplicissimo correggerlo. Seguire un'ossessione quando nessun dato suggerisce che possa interessare qualcuno. Scegliere una soluzione inefficiente. Scrivere una frase che un modello suggerirebbe di riscrivere. Continuare a lavorare su qualcosa che non possiede ancora un pubblico, una categoria o una giustificazione.
Rivendicare, in definitiva, il diritto di essere statisticamente irrilevante.
Perché se l'AI Mirror Loop tende a riportare continuamente la cultura verso ciò che la cultura già conosce, il luogo nel quale cercare qualcosa di realmente nuovo potrebbe trovarsi esattamente dove è sempre stato.
Lontano dal centro. Nella coda.
Questo testo potrebbe esser stato scritto da una intelligenza artificiale… o forse no.
