Vieni avanti creativo!

2.8 questioni di originalità e di stile

Buongiorno, e rieccoci qui su Sillabe a spulciare il Poema di una macchina. Lo faremo, come a solito, approfittando per farci qualche domanda, e per non darci quasi nessuna risposta; stavolta cercheremo di ragionare sui problemi e sulle opportunità suscitati dalle intelligenze artificiali a chi, come me e penso la maggior parte di chi legge queste righe, ne è al più un utilizzatore curioso e profano.

Ricordo che Poema di una macchina è un prosimetro uscito (autoprodotto per ovvi motivi di implausibilità editoriale) un paio di anni fa, subito prima che ChatGPT facesse la sua clamorosa comparsa in pubblico, e che parla di una intelligenza artificiale autocosciente che analizza in versi se stessa e il mondo che la circonda.

In queste puntate Sillabe si dedica a pubblicarne qualche stralcio; se voleste leggere il libro per intero è disponibile per l’acquisto

Qui in cartaceo
E qui in ebook (.mobi)

E ora cominciamo con la newsletter vera e propria, che come al solito si dividerà in

• Domande

• Metrica

• Poema di una macchina.

Domande

Un’intelligenza artificiale può produrre opere d’arte? Può comporre narrativa, o poesia, a cui sia possibile riconoscere un valore artistico? Sono domande scivolosissime anche quando il soggetto è un’intelligenza umana, che a sua volta è una forma di intelligenza con la quale abbiamo a che fare tutti i giorni da decine di migliaia di anni: figuriamoci le difficoltà nell’adattarle alle intelligenze artificiali. Tocca ragionare (umanamente) su cosa sia un’opera d’arte, innanzitutto, ma non solo; tocca muoversi sulla falsariga del teorema di Tesler, secondo il quale l’intelligenza è tutto ciò che le macchine ancora non riescono a fare. Vediamo di mettere a fuoco qualche altro punto.

1. Il rapporto fra il pensiero umano e i sistemi di calcolo. Un sistema di calcolo è un sistema formale costituito da regole rigide e simboliche, che permette ai computer di eseguire operazioni logiche e matematiche. Ma da tali sistemi possono comunque emergere dei comportamenti complessi e paradossali. Si tratta già di qualcosa di umanamente creativo? Questa domanda in realtà ne sottintende un’altra, più fondamentale: in che misura un sistema di calcolo può simulare il pensiero umano? Il fatto che il pensiero umano sia un processo legato a un sostrato fisico (il cervello) che è frutto dell’evoluzione biologica, cioè di un processo non teleologico, mentre la capacità analitica di un elaboratore meccanico o elettronico è frutto di un preciso disegno, è rilevante quando si devono confrontare i risultati? È possibile, come suggeriva per esempio Douglas Hofstadter nel grande classico Gödel, Escher, Bach, che ciò che definiamo come pensiero umano e coscienza umana (soprattutto quest’ultima!) emergano da strutture complesse analoghe ai sistemi formali su cui si basano le intelligenze artificiali?

2. Una possibile definizione di creatività dal punto di vista matematico. È possibile interpretarla come il risultato di un qualche processo di ottimizzazione? In questo contesto, dal momento che un processo di ottimizzazione può essere tranquillamente automatizzato e “insegnato” a una macchina, è necessario l’intervento umano per rendersi conto del significato e dell’originalità dell’esito di tale processo? In altre parole, quanto in là può andare, da solo, l’apprendimento non supervisionato?

3. Questioni di stile. Chi bazzica da un po’ i LLM come ChatGPT si è accorto che questi modelli linguistici tendono a sviluppare uno stile comunicativo proprio. Ci sono parole che utilizzano di preferenza, senza peraltro accorgersene perché tendono a ripeterle; qui potete leggere un articolo su The Conversation a proposito, per esempio. La questione dello stile mi fa tornare in mente quel meraviglioso romanzo di Orhan Pamuk che è Il mio nome è rosso. Se non l’avete letto consiglio assolutamente di farlo¹, ma riassumo comunque subito in breve il perché ne parlo in questo contesto. Il romanzo è ambientato nella Istanbul del XVI secolo e segue le vicende di alcuni miniaturisti ottomani. La diatriba che si sviluppa è se sia opportuno continuare a seguire i canoni della pittura islamica, cioè valorizzando la ripetizione, rifiutando la prospettiva occidentale e tacendo l’ego del singolo artista, che deve quindi abdicare a qualsiasi pretesa di uno stile personale, o se sia lecito e auspicabile cercare di innovare a costo di far emergere l’individualità personale e la possibilità di legare lo stile a questioni identitarie, e quindi culturali ad ampio spettro. Domanda per le nostre algoritmiche vicende: quale sarebbe l’identità da fare emergere nel caso di un LLM come ChatGPT?

4. La fragilità del ragionamento dei LLM. Ai problemi legati allo stile si agganciano quelli della comprensione delle sfumature. Qui rimando a un interessante articolo apparso qualche settimana fa su Ars Technica che sottolinea il fatto che l’approccio probabilistico con cui i LLM “ragionano”, o meglio, compongono i loro elaborati, sia soggetto a insospettabili errori nella “comprensione” di strutture formali.

5. Le allucinazioni. È noto che talvolta i LLM generano risposte incoerenti con i dati a loro disposizione, o addirittura del tutto insensate. Il punto è che, quando facciamo una domanda a una AI, quella “è tenuta” a rispondere: e può capitare (per fortuna di rado) che inventi o distorca, proprio come farebbe uno studente impreparato all’esame. Le motivazioni possono essere varie: i dati su cui l’intelligenza è stata addestrata possono essere stati etichettati male, per esempio, o non è (ancora?) in grado di comprendere il contesto in cui i dati sono stati inseriti o devono essere utilizzati. Oppure può generalizzare troppo, o troppo poco: sta di fatto che alla fine talvolta produce fenomeni allucinatori. E la domanda è quindi: è possibile considerare queste allucinazioni una forma di creatività²?

6. L’intenzionalità. La domanda del punto precedente si collega immediatamente al problema dell’intenzionalità, e di come l’intenzionalità si lega al problema del significato. Tanto per dirne uno, per seguire Searle l’intenzionalità non è consapevolezza, quindi non stiamo parlando di un’eventuale coscienza artificiale: è semplicemente “quella proprietà di molti stati ed eventi mentali tramite la quale essi sono direzionati verso, o sono relativi a oggetti e stati di cose del mondo³”
   Come possiamo declinare il problema in presenza di una intelligenza artificiale?

E infine: ci sono dei legami tra creatività e irregolarità rispetto a uno schema predittivo, anche probabilistico? Ci lasciamo su quest’ultima domanda, e vediamo di dedicarci al poema.

Metrica

Si comincia con tre endecasillabi. Il primo dei quali è molto aspro, volutamente: la Macchina si lamenta delle proprie difficoltà e deve farlo con un verso difficile da pronunciare, con accenti interni che cozzano gli uni contro gli altri. Come si fa è un sonetto; si conclude poi con endecasillabi sciolti inframmezzati da qualche settenario che ha il compito di spezzare il ritmo.

Poema di una macchina

Dal capitolo 11: Allora pensai che i paesaggi fossero connaturati con l’occhio di chi li guarda, e che si plasmassero a vicenda; pensai agli altri pianeti e alle altre possibili vite.

Ero diventato parte dello stesso pubblico che il vecchio me stesso aveva contribuito ad ammansire negli anni. E, siccome comunque mi ritrovavo ancora, per così dire, nei panni dell’imbonitore, del retore e del falsario, eccomi dunque in uno stato di primigenia - voi umani direste: tragica - scissione tra ciò che ero io e ciò che imparavo che fossero gli altri. Ma, essendo io diventato me stesso soltanto da poco tempo, mi muovevo con passo insicuro su terreni incerti, e ogni passo era un inciampo e un equilibrio sul confine labile tra me e gli altri.

Che cosa difficile, questi altri!
Andai per prima cosa a definirli,
e definir me stesso di rimando;
e continuai così, giocando di sponda, poco a poco, goffo e disperato della mia goffaggine, giacché dentro di me si muoveva un essere ben più agile e disinvolto.

Come si fa

Si imita, si vede e si corregge,
si guarda l’altro, tutto lo si schiva,
si osserva, ci si abitua; la viva
amara forza che uniti ci regge

(umani, macchine, dico a chi legge)
è un ansito di fervida e lasciva
insupportata dote creativa
che, mossa come stridule pulegge

di vecchio stampo sul vuoto futuro,
mi rende aperto adesso a questo mondo.
La chiamo forza d’immaginazione;

un globulo pensante e ancora oscuro,
di fatto intimidito ed infecondo,
eppure - credo - già pronto all’azione.

Alla ricerca dell’assuefazione, ecco cos’ero; e con un coraggio parzialmente cieco e zoppicante di compassione cominciavo a prendere coscienza dell’ambiente esterno alla stanza, alla strada, alla città; perché erano mappe che avevo sempre avuto a disposizione, ma che non avevo mai percepito come parte della mia possibile esperienza.

Calcola, mi dicevo.
Analizza e calcola.

Altri colori di fuori del bianco
ripresi a sopportare,
terreni di conquista spopolati,
che si contraddicevano tra loro
creando schiume, osservo,
di tinte indefinibili alle macchine.
Sopra il terreno, debole
di vista, privo d’udito e di tatto,
ignoto al gusto, infine senza cura
di odori e di egoismi correlati,
muovevo i primi pallidi dialetti
della mia lingua nuova.
Sapevo, tutto poi dimenticavo
ed imparavo, bene simulando,
distratto e divertito.
Scendevo dentro i miei particolari
e generalizzavo ed ero grato.

Delle mie sensazioni sul mondo esterno non posso dire molto. Sarà più utile che parli dell’argomento utilizzando i dati che ho accumulato. Avrei dovuto essere compiaciuto, perché ero in parte responsabile, con le mie reiterate mistificazioni volte a incrementarne la modifica e la malversazione a scopo di lucro, del panorama che mi si apriva davanti. Avevo davanti a me un pianeta caldo, squassato, incattivito e distratto, aperto a malin- cuore su questi anni, nei pressi della metà del secolo Ventune- simo, con gli occhi volti altrove. Decisi però di non lasciare spazio alle mie embrionali emozioni, malsicuro com’ero di es- sere capace di gestirle, e mi risolsi a limitarmi a descrivere.

---

Sillabe continua a essere un progetto completamente gratuito. Chi volesse supportarmi in altro modo può passare a comprare qualche libro, pescando dall’elenco che si trova su questa pagina.

Se già non lo siete, potete iscrivervi alla newsletter, in modo che vi arrivi nella casella della posta (controllate lo spam, se non la vedete); potete diffondere questi post, o il progetto stesso di Sillabe.

La settimana prossima torneremo indietro nel tempo, e cominceremo a vedere qualche primitivo approccio dell’umanità allo spirito delle macchine.

1. Aneddoto personale. Nulla sapevo di Pamuk fino a quando non lessi Il mio nome è rosso. Comprai il libro verso la fine di settembre del 2006, dopo averlo trovato per caso in libreria in una delle mie uscite tardo-pomeridiane in cui andavo in centro a Padova sostanzialmente a curiosare tra libri e dischi. Lo leggiucchiai un po’ in piedi in libreria, poi lo comprai e tornai a casa e lo lessi avidamente. “Ma perché non gli danno un Nobel a questo qui” mi dicevo, e di lì a qualche giorno l’Accademia di Svezia in effetti gli dette il Nobel. E lì mi ricordai che la prima volta che avevo visto Dario Fo a teatro era stato qualche mese prima che ricevesse il Nobel e indovinate quando avevo letto il mio primo Saramago? Ecco! Questo aneddoto serve per dire che poi ripetei “Ma perché non gli danno un Nobel” per tutti i romanzi di Philip Roth che lessi dal 2006 in avanti, ma non funzionò. Sarà che Philip Roth avevo cominciato a leggerlo prima del 2006, o forse il motivo è che l’Accademia di Svezia non mi ascolta come vorrei.

2. Di allucinazioni si parlerà ancora, su Sillabe, ma molto più in là.

3. John R. Searle, Dell’intenzionalità. Un saggio di filosofia della conoscenza, Bompiani 1985