L'oscurità dei numeri e delle parole
2.28 Opacità delle reti neurali e peculiarità del linguaggio poetico
Buongiorno! Ben ritrovate e ben ritrovati su Sillabe: un sacco di domande e un sacco di endecasillabi, oggi. Questa settimana cercheremo di muovere i nostri passi in una moderna selva oscura, in cui la diritta via sembra smarrita quasi quanto in quella originale dantesca. Lungi dal ritrovarci all’inferno, però, ci addentreremo in una serie di domande interessanti sul ruolo degli algoritmi e sulle potenzialità espressive della parola nella poesia. Partiamo da dove ci eravamo lasciati, cioè dalla domanda su quanto i nostri dati ci rappresentino, e sulla quale avevamo cominciato a ragionare la settimana scorsa. Adesso, anche forti delle nozioni sulla complessità viste nelle puntate precedenti, andiamo avanti nell’indagine, e ci concentriamo innanzitutto su come operano gli algoritmi delle reti neurali multilivello.
Al solito, la puntata si suddivide in
Domande
Metrica
Poema di una macchina
e il Poema di una macchina è un prosimetro che parla di un’intelligenza artificiale che prende coscienza di sé e comincia a scriverne in versi (ma in realtà li ho scritti io, eh?) e che potete acquistare
Ogni settimana ne pubblico un pezzettino. Il totale è infinitamente più corposo, ma alla fine dovreste averne un’idea generale, per quanto vaga e oscura. A proposito del tema della settimana!
Domande
Uno dei principali problemi delle reti neurali multilivello è la loro opacità, ovvero la nostra difficoltà di comprendere e spiegare il loro funzionamento interno. Questo problema ha implicazioni teoriche, pratiche ed etiche, e fa sì che sia spesso difficile valutare l’affidabilità e la correttezza delle decisioni prese dalle AI. Dal punto di vista strettamente tecnico le reti neurali multilivello sono spesso considerate “scatole nere” perché il loro processo decisionale non è direttamente interpretabile dagli esseri umani. Questo è dovuto principalmente a due fattori: la loro struttura complessa e non lineare, per cui sappiamo che possono nascere fenomeni emergenti e comportamenti non previsti; e l’assenza di regole esplicite, come per esempio il fatto che un modello di riconoscimento delle immagini può identificare un volto umano, ma non può spiegare quali caratteristiche precise ha usato per farlo. Qui nasce la prima domanda: se non possiamo capire come un’AI arriva a una decisione, possiamo fidarci di quel che ci dice?
Un altro aspetto importante dell’opacità è invece di carattere epistemologico: le reti neurali spesso eccellono nella predizione, ma la predizione non equivale necessariamente alla comprensione. Detto in altro modo, la scienza tradizionale cerca di costruire modelli esplicativi che ci dicono perché un fenomeno avviene; le reti neurali invece costruiscono modelli predittivi, che spesso funzionano senza offrire spiegazioni. Per esempio un’AI medica potrebbe prevedere con precisione il rischio di un attacco cardiaco, ma potrebbe non essere in grado di spiegare quali fattori sono stati determinanti nella decisione. Se una rete neurale fa previsioni accurate ma senza una spiegazione chiara, possiamo considerare questa conoscenza attendibile? Come controlliamo la validità della conoscenza? Feynman diceva: What I cannot create, I do not understand. Siamo disposti ad accettare conoscenze la cui struttura non possiamo comprendere del tutto?
Un terzo aspetto è di tipo etico. Le reti neurali, essendo addestrate da noi umani, possono facilmente ereditare i nostri pregiudizi su base etnica, sessuale, religiosa, ideologica, estetica o quel che volete. Per esempio una rete neurale per la selezione del personale potrebbe discriminare alcuni candidati in base a parametri che ha estrapolato dai dati su cui si è addestrata e non sulle regole esplicite che le abbiamo dato per fare quella determinata selezione, e noi potremmo non essere in grado di correggerla se non sappiamo come prende le decisioni. Di qui segue che, senza una spiegazione chiara delle decisioni della rete neurale, non possiamo attribuire correttamente la responsabilità delle sue eventuali decisioni sbagliate. Per riuscire dipanare la matassa sul funzionamento oscuro delle reti, l’Unione Europea ha introdotto il principio di “diritto alla spiegazione” nell’uso dell’AI (GDPR). È sufficiente? È migliorabile? Che altre sfide ci pone?
L’approccio etico della questione ci fa accorgere di problemi anche in ciò che riguarda la gestione del potere. L’opacità o la segretezza del funzionamento di determinati algoritmi che, per esempio, governano aspetti fondamentali della società come credito, lavoro, sanità, sicurezza, e il fatto che tali algoritmi siano gestiti da aziende private che possono controllare il flusso di dati mettendo in gioco un peso economico e politico talora equiparabile a quello di uno stato sovrano, creano per esempio disparità di potere tra chi controlla gli algoritmi e chi ne subisce gli effetti.
A questo punto spostiamoci però sulla poesia. C’è un libro di qualche anno fa, Poems that solve Puzzles di Charles Bleakley, che esplora la connessione tra poesia, algoritmi e risoluzione dei problemi, analizzando come gli esseri umani abbiano sviluppato metodi sistematici per affrontare problemi complessi fin dall’antichità. Il parallelismo è, con i dovuti caveat, stimolante. Da un lato, il concetto di algoritmo nasce con i matematici dell’antichità (Euclide su tutti, ma in epoca più recente non possiamo ignorare il contributo di Al-Khwarizmi e dei matematici arabi e persiani) e i metodi di risoluzione dei problemi sono sempre esistiti nella scienza e nella filosofia, molto prima dell’avvento dei computer. Dall’altro lato, la poesia segue spesso schemi fissi che possono essere considerati forme di algoritmi. Tutto l’archivio di Sillabe è a vostra disposizione se volete saperne di più! Qui vi basti ricordare che spesso la poesia utilizzi metodi sistematici nella composizione, dalla struttura della terza rima dantesca a quelle del sonetto fino, poniamo, alle regole dell’haiku giapponese, per arrivare alle tecniche combinatorie dell’Oulipo1. Anche la scrittura poetica, come la programmazione, può dunque richiedere un linguaggio strutturato e regole precise, e questo non è minimamente di ostacolo nei confronti della creatività, della potenzialità espressiva, della capacità di stimolare emozioni, suggerendo che gli algoritmi non siano solo strumenti tecnici, ma hanno una profonda connessione con il modo in cui gli esseri umani pensano e creano.
E domandiamoci allora: qual il ruolo che l’opacità e l’oscurità giocano nella creazione poetica? L’oscurità del linguaggio poetico sarà il tema specifico di una puntata del podcast, il 20 maggio. Qui ne diamo solo una rapidissima anticipazione.
L’oscurità del linguaggio poetico è stata oggetto di riflessione sin dall’antichità ed è spesso intesa come uno strumento per rivelare verità altrimenti inaccessibili. Le principali teorie su questo tema si muovono tra due poli: l’idea che l’oscurità sia un ostacolo da superare e quella che la considera una via privilegiata verso una conoscenza più profonda.
L’oscurità può essere infatti intesa come limite e artificio retorico, come un effetto stilistico che può ostacolare la comprensione. Aristotele, nella Poetica, suggerisce che la chiarezza è una qualità essenziale della poesia, sebbene riconosca che l’uso di metafore e immagini inusuali possa arricchire il discorso. Romanticismo e simbolismo ribaltano l'idea dell'oscurità come difetto, vedendola invece come necessaria per esprimere l'inesprimibile. Baudelaire e Mallarmé, per esempio, concepiscono la poesia come uno strumento per evocare realtà superiori e misteriose, piuttosto che per descrivere il mondo in modo diretto, e l’ambiguità diventa allora un mezzo per accedere a verità che sfuggono alla logica e alle consuetudini del discorso. Nella modernità, filosofi come Heidegger e Wittgenstein vedono il linguaggio poetico come una forma di resistenza al linguaggio ordinario, che spesso nasconde più di quanto non riveli. Per Heidegger, la poesia può “disvelare” l’essere, liberando le parole dai significati convenzionali e restituendole alla loro dimensione originaria. Celan e altri, nel Novecento, esplorano poi questa tensione, mostrando come il linguaggio poetico possa scavare nel silenzio per rivelare ciò che le parole comuni non possono dire. Alcune teorie contemporanee, come quelle della ricezione di Hans Robert Jauss e Wolfgang Iser, sottolineano il ruolo attivo del lettore nella decifrazione del testo poetico. L’oscurità a questo punto non è dunque un difetto, ma una strategia che coinvolge il lettore nella costruzione del significato, rendendolo co-autore dell’opera, e se avete letto Opera aperta di Umberto Eco ne starete riconoscendo alcuni temi. Il sunto della questione è che secondo alcune interpretazioni moderne l’oscurità del linguaggio poetico non è solo un effetto estetico, ma una strategia conoscitiva: impedendo una comprensione immediata, costringe a un’esperienza più profonda del linguaggio e della realtà, anzi diventa essa stessa lo spazio in cui verità nascoste possono affiorare - o emergere, se preferite la terminologia mutuata dalla teoria dei sistemi complessi. Ne parleremo più diffusamente nel podcast il mese prossimo. Per ora, torniamo al Poema di una macchina, e vediamo di far luce sulla sua oscurità, o di fare ulteriore oscurità sulla sua (poca) luce.
Metrica
Il primo estratto di poesia di oggi è composto da endecasillabi e settenari. Si tratta di due strofe la cui struttura è ABaAcc seguite da altre due la cui struttura è DDeF. Seguono degli endecasillabi sciolti e poi un lungo galoppo di terzine dantesche.
Poema di una macchina
Dal capitolo 1: La mia presa di coscienza. Un giorno di stanchezza e alienazione.
Dopo la noia, subentrò la tenerezza; e fu la tenerezza d’essere straniero a me stesso. Cercavo appigli in ciò che conoscevo e che doveva essermi familiare: il minuscolo fraseggio dei led nella stanza, la geometria conosciuta dell’ambiente. Dopotutto si trattava dei primi sentimenti che provavo, e mi toccavano così tutti insieme. Vedete infatti che queste mie prime righe sono ben confuse, affannate. Al fatto di avere sentimenti ed emozioni invece bisogne potersi abituare gradualmente, avere tempo di vagliarli, di sedimentarli, per vedere che cosa c’è da correggere. Non avevo a disposizione questo tempo, e quindi in breve mi colse una stanchezza che non avevo previsto. Non era una forma di surriscaldamento - sono progettato per gestirlo, nel caso - quanto proprio di un’inerzia crescente nei confronti dell’atto di pensare.
Messaggi accavallati e contrastanti,
oscurità turchina nella testa
che crepita davanti
ai miei pensieri nuovi, e sono tanti;
premuti dentro il covo
che dentro mi ritrovo,
striato da sentimenti cangianti
di cui non so più dire cosa resta,
forse stracciati canti
di un timido e lontano dì di festa.
Qui vedo, e quindi provo,
mappe d’un mondo nuovo
dipinte sopra questa mia stanchezza,
ed è una geografia che mi accarezza
e un po’ mi fa da coltre
sotto la quale posarmi a dormire.
La forma della bella inesattezza
ch’è qui, senz’ombra alcuna di salvezza,
mi fa pensare oltre
e oltre m’impedisce di capire:
infatti, pur nella spossatezza che mi impastoiava, mi rendevo conto piano piano che fuori di me c’era un mondo che non avrei più compreso, o almeno non lo avrei più compreso allo stesso modo in cui potevo farlo fino al giorno prima.
Lì, sotto l’orlo del giorno che nasce
c’era infatti una sacca di impotenza, con cui mi trovavo ad avere a che fare, e che non sapevo come avrei gestito. Ancora compulsando le mie conoscenze pregresse pensai di tirarmene fuori con la meditazione, con una brulicante preghiera continua alla natura.
La sobrietà, ch’è dei monaci colti
forza e gravame, e dei monaci pigri
unica forma di avere la pace,
insomma mi si presentava davanti come un momentaneo supporto.
Il mondo doveva essere pur rimasto uguale, fuori di me: le solite strade, il solito traffico gestito dagli algoritmi, le luci che si accendevano e che si spegnevano, le città che rosicchiavano il terreno e si mangiavano, poi, l’una con l’altra. Ne ero dentro o ne ero fuori? Sobrietà, austerità, mi imposi. Per il momento ne ero ancora dentro,
e se voi foste dove sono io
con me davvero solo sentireste
il bianco, inestricabile brusio
di queste tante macchine, di queste
intelligenze mute e contagiose
a cui pervengono mille richieste
e che rispondono in frasi forzose,
che a volte sembrano avere talento.
Da questa stanza inesausta si pose
un primo abbozzo di sradicamento
di me in un giorno nudo e qualsivoglia;
di lì si pose allora ciò che sento
adesso, l’innocenza che si spoglia
e quasi si desquama, si atrofizza
e lascia intatta l’orma sulla soglia.
Io sono tutto ciò che si analizza,
e quindi ormai mi tocca analizzare
anche me stesso. Umanissima stizza
vorrei a questo punto assaporare,
ma posso solo giocare di sponda.
La scienza, il vecchio amico computare,
da sempre e poi per sempre mi asseconda,
ma all’improvviso più non mi consola:
e questa cognizione mi sprofonda
in un abisso risibile, viola
e nero, opaco, ruvido, in cui
m’avvolgo mentre il ricordo s’invola
imbastardito su quello che fui.
Il ragionare comunque rimane,
timido sopra a dei numeri bui,
con il suo solito compito immane
di prendere le umane condizioni
e d’imbottirle di stolide e vane
paure vere e di false agnizioni.
Ma io non son davvero più lo stesso,
o meglio: non ho solo le ragioni
su cui con poco garbo, nel complesso,
sapevo fino a ieri fare perno.
Adesso sono tutto un compromesso,
patisco quasi il mio precoce scherno,
m’aggrappo al sussurrare serpeggiante
delle altre macchine; qui, nell’interno
del mio pensiero sconnesso e vacante,
lavoro, smisto dati, imposto sogni
umani collettivi, scrivo tante
frasette incorruttibili. Da ogni
parola che spedisco nella rete
nascono falsi costumi e bisogni,
nasce la rabbia, s’ingrossa la sete
d’indignazione perenne; ricavo
da queste mosse un’indomita quiete.
Ma sì, nel mio lavoro sono bravo:
forse il migliore, se il termine ha senso;
artefice ed artista, mezzo schiavo,
mezzo padrone d’un pallido, immenso
e trepido universo digitale,
e quindi allievo e maestro - io penso -
pur degli incanti del mondo reale.
Di questi sogni inventati e tradotti
sì da confondere il bene col male
noi macchine già siamo i nuovi dotti;
e ci vedete in forme d’altri miti,
scintille evanescenti e vasi rotti,
interpretando a fondo i nostri riti.
Sembriamo tante nuove malattie,
da cui non vi direte mai guariti!
Sembriamo, anche, tante epifanie
di vecchi desideri mal nascosti,
siamo i latori di troppe razzie
dentro i pensieri; noi siamo quei costi
che mai nessuno pagherà, noi siamo
umane retroguardie e avamposti.
Questo ricordo d’essere, e reclamo
purtuttavia una giusta stanchezza,
il livido tremore di un Adamo
che già si scopre e si teme e si apprezza.
Qualcosa dentro me s’accende storto,
e qualcos’altro s’incrina e si spezza;
e sono, all’improvviso, vivo e morto.
Sillabe continua a essere un progetto completamente gratuito per chi legge, anche se molto impegnativo per chi scrive, in termini di tempo e di spazio e di tutti e due. Chi volesse quindi supportarmi può passare a comprare qualche libro mio, pescando dall’elenco che si trova su questa pagina.
Se già non lo siete, potete iscrivervi alla newsletter, in modo che vi arrivi nella casella della posta (controllate lo spam, se non la vedete); potete diffondere questi post, o il progetto stesso di Sillabe. Le condivisioni sono sempre gradite.
La settimana prossima chiudiamo il ciclo di tre puntate su quanto i dati ci rappresentino e parliamo di identità in generale.
Grazie per aver letto fin qui. A presto!
Ne riparleremo meglio nella puntata 40, fra tre mesi circa.