Immagine di copertina di WoCinTech via Unsplash.

I lettori di lunga data di Novilunio sanno che possono aspettarsi recensioni di romanzi di autori italiani emergenti o piccole gemme passate inosservate nella tempesta editoriale moderna. Un tipo di articolo che non abbiamo mai sperimentato è la risposta a un articolo, e l’editoriale di David J. Gunkel sull’impatto degli LLM sulla morte dell’autore (che vi invitiamo a leggere per comprendere meglio il fenomeno) ci ha colpito al punto di volerne parlare per esteso, anche per coinvolgere voi lettori e scrittori su cosa significa interagire con un testo nel ventunesimo secolo.

L’Autore è morto, e noi l’abbiamo ucciso (?)

Iniziamo dal concetto di “morte dell’autore”, col quale ci siamo tutti scontrati in modo più o meno consapevole: quando leggiamo un testo o esperiamo un’opera (il tipo di forma artistica non è importante in questo senso) esiste un unico significato che l’autore intendeva trasmettere, oppure siamo liberi di formare la nostra interpretazione?

Tale dilemma è stato formalizzato per la prima volta dal critico letterario Roland Barthes in un saggio del 1967, contribuendo alla corrente di pensiero postmoderna che ha messo in discussione tanti capisaldi concettuali del Ventesimo Secolo. Tra questi, l’idea di Autore con la A maiuscola, che infondeva le proprie opere della sua insostituibile visione e all’autorialità del quale i posteri si riferivano in modo quasi obbligatorio.

La prima parte dell’articolo di Gunkel offre un’ottima panoramica di questo concetto e dell’evoluzione del concetto di “autore” durante i secoli, mettendo in luce vari esempi di opere e storie che si sono affermate nella cultura popolare pur senza avere un unico autore dietro di esse. Da qui, Gunkel avanza l’idea che i testi scritti da LLM, non avendo autori nel senso proprio del termine, possono aiutarci nel processo di separazione di opere e autori, eliminando per sempre la scomoda ambiguità con la quale siamo chiamati a confrontarci in quanto lettori.

Il colpo di grazia

Gunkel accelera e identifica gli LLM come liberatori: grazie a essi e all’ulteriore ambiguità che introducono nel discernere a chi appartiene tale idea o parola, l’autore si dissolve sullo sfondo e siamo liberi di interagire col testo in quanto tale, senza doverci preoccupare della sua origine o del “costrutto sociale” che chiamiamo autorialità. È una proposta indubbiamente attraente, ma non immune da assunzioni e fallacie logiche.

La prima e più notevole è l’asserzione che “gli scritti originati da LLM possono essere significativi” (inteso come trasportatori di significati interpretabili dal lettore). Eppure questo è un salto logico ingiustificato: a differenza di fiabe e racconti popolari, i cui significati sono stati aggiunti gradualmente da vari autori dei quali non conosciamo alcunché, il significato di un testo scritto da LLM non ha un’origine. Inoltre, se, come Gunkel sostiene, è il lettore a creare il significato, come può esso essere fornito dal LLM?

Non basta che un testo generato da LLM sia comprensibile; se il lettore lo comprende è perché, in quanto lettore, gli ha assegnato un significato arbitrario al momento della lettura, che prima non esisteva. Il significato è il contenuto di un messaggio che viene scritto da A e letto da B: è necessaria un’interazione. Il controesempio è cliccare la prima parola che l’autocorrect ci suggerisce: chi ha creato quel testo? Come possiamo dire con certezza che ha un significato?

Una frase in particolare ha colto la nostra attenzione:

They free both writers and readers from the authoritarian control and influence of this thing we call the “author.”

Essi liberano lettori e scrittori dal controllo e dall’influenza autoritaria di questa cosa che chiamiamo “autore”.

In questo passo Gunkel compie un sottile gioco di mano (che funziona in inglese ma che noi, grazie alla lingua italiana, possiamo svelare): sovrapporre il concetto di autorità e quello di autorialità, per contrabbandare l’idea che riferendoci alla persona che ha creato il testo sacrifichiamo parte della nostra libertà interpretativa e siamo pertanto oppressi. Questo processo di rimozione che Gunkel suggerisce ha però un costo molto alto: l’autorità non si limita a svanire, ma viene tacitamente trasferita a coloro che controllano i LLM (OpenAI, Google, Microsoft, Anthropic, Amazon, etc). Crediamo che sia lampante che il rischio di oppressione sia ordini di grandezza più elevato quando poche aziende controllano il modo in cui i testi vengono prodotti rispetto allo scenario in cui un autore può suggerire uno dei possibili significati del testo che ha prodotto (e che, generalmente, non può modificare a posteriori senza il consenso di altre figure della catena editoriale).

Il paragone con il concetto di dizionario è altrettanto fuorviante. Gunkel mette a confronto il dizionario, che è una collezione di testi le cui parole acquisiscono significato non dal riferimento a oggetti ma dal riferimento ad altre parole e concetti, con i LLM, che operano sulla base di associazioni tra parole. Ma anche questa è un’approssimazione superficiale: i LLM infatti non operano sulle parole e i loro significati ma su matrici e distribuzioni di probabilità; Gunkel confonde il meccanismo della tecnologia (complicate operazioni di correlazioni e miliardi di parametri numerici) con la sua interfaccia (le parole che noi umani leggiamo sullo schermo, alle quali possiamo attribuire significati, a differenza dei parametri). A livello operativo, i LLM ignorano i significati delle parole e li sostituiscono con triangolazioni parametriche che individuano la posizione semantica di un insieme di lettere solo in relazione ad altri insiemi di lettere, a differenza di un dizionario, il quale è incentrato sui significati e senza i quali non sarebbe che un fermaporte.

L’ultima critica che rivolgiamo a Gunkel è la mancata considerazione di scenari alternativi. Dopotutto, in un mondo in cui l’origine dei testi in cui ci imbattiamo non può essere confermata, una risposta altrettanto naturale potrebbe essere quella diametralmente opposta: radicarsi ancora più saldamente nell’idea di autorialità, e accettare di leggere testi solo qualora l’autore ne certifichi la creazione indipendente. L’estremo di questo (forse non così desiderabile) è la richiesta diretta di testi, attraverso commissioni o incontri dal vivo. Se la presenza e possibile intervento dei LLM rende indistinguibili gli autori, è legittimo affidarsi solo ad autori dei cui testi è garantita l’origine.

Un paragone controverso

Come abbiamo esemplificato in questo articolo, un testo prodotto da un LLM è un insieme di parole statisticamente coerente e umanamente leggibile; il fatto che sia anche significativamente coerente sta a noi lettori. Per usare un’ulteriore analogia, il LLM fornisce dei pezzi in un certo ordine, ma è poi compito nostro verificare che sia possibile (ri)comporli in una figura di senso compiuto.

E se esistessero autori che già operano secondo un meccanismo del genere, senza fare uso di LLM nel loro processo creativo?
Tali autori esistono, e un esempio notevole è Haruki Murakami, che chiamiamo in causa data la sua popolarità (sicuramente avrete già letto qualcosa di suo). L’autore giapponese ha infatti dichiarato in diverse interviste che il suo processo creativo consiste nel visualizzare immagini e simboli e trasmetterle al lettore, senza però avere un significato per alcuno di essi. Significanti senza significato.

Ciò che accade è che il lavoro di “sense-making”, ovvero di creare o trovare il significato di tali simboli e immagini, viene interamente trasferito dall’autore al lettore, e il lettore è disposto a farsi carico di questo lavoro solo se riconosce l’origine autoriale del testo. Dopotutto, è realistico aspettarsi che lo stesso testo scritto da Murakami o da noi andrà incontro a reazioni assai diverse: nel primo caso il lettore si impegnerà ad approfondire e collegare i simboli offerti, mentre nel secondo è improbabile che vi sia lo stesso beneficio del dubbio.

E infatti ciò che accade, specialmente tra i lettori delle generazioni più giovani, è che i testi generati da LLM non ricevono maggiore beneficio del dubbio e interpretazioni più genuine, come Gunkel pontifica, ma anzi vengono scartati a priori.

Conclusione

Gunkel non è un techbro; sembra essere ben consapevole dei rischi associati all’uso (e abuso) di LLM nel contesto delle produzioni artistiche e comprende che dal punto di vista filosofico ci costringono a riflettere su cosa significa scrivere, infondere un significato in un testo ed estrarlo da testi altrui. Nonostante questo, la sua argomentazione è fragile e non convincente. Ne sottolineiamo le inconsistenze generali rifacendoci a due autori che avete conosciuto in questo stesso articolo: Barthes e Gunkel.

La maggior parte delle opere preferite da Barthes erano i classici della letteratura francese del Diciannovesimo Secolo e le bibliografie delle sue lezioni sono piene di grandi capolavori. Il suo scopo era mostrare che l’«io» esiste come parte del progetto di lettura o scrittura; un testo è come una macchina per la produzione di nuovi «io» in perenne dialogo tra loro attraverso i testi. Ciò significa che, anche se la concezione che Gunkel ha del pubblico di lettori si applica ai testi generati dall’intelligenza artificiale, lo fa solo in modo tragico. Che tipo di identità potrebbe essere generata dall’interazione con quei testi? Semmai sono modi per limitare il pensiero, limitare il significato. Sono progettati per essere facili, universalmente accessibili e privi di attrito. In una parola: aziendali.

Chi ha scritto quell’articolo si è concentrato eccessivamente sul concetto di “Dio autore” e sulla richiesta di eliminarlo, come se questo fosse la missione sacra di Barthes e Gunkel si fosse autoincaricato di portarla a compimento. Ma nella sua missione omicida, Gunkel si è dimenticato che esiste anche il lettore.

Se questo articolo ti è piaciuto, dai un’occhiata al resto del sito di Edizioni Novilunio: abbiamo una varietà di articoli, recensioni, racconti, e una rivista completamente gratuita!