Sotto la pelle

2.34 Sensazioni, malattie, artifici

Buongiorno, ben ritrovate e ben ritrovati.

La primavera corre, e noi con lei; entriamo nel terzo conclusivo di questa seconda annata di Sillabe, e lo facciamo parlando di un problema all’apparenza tipicamente umano, o comunque relativo agli esseri viventi, vale a dire l’esistenza del corpo, delle sensazioni e delle malattie, e di come la letteratura - e quindi il linguaggio umano - ne ha costruito la semantica. Sarà un buon punto di partenza per affrontare lo stesso problema dal punto di vista delle intelligenze artificiali, in special modo di quelle in grado di comunicare con noi tramite lo stesso linguaggio verbale umano.

E visto che ci siamo continueremo a esplorare parti di Poema di una macchina, prosimetro su una intelligenza artificiale che prende coscienza di sé e che comincia a scriverne in versi, e che come al solito potete acquistare

Qui in cartaceo
E qui in ebook.

La puntata si divide in

• Domande

• Metrica

• Poema di una macchina

e prima di cominciare vi ricordo che potete iscrivervi alla newsletter in modo che vi arrivi per posta ogni venerdì, e che vi arrivi anche il podcast ogni due martedì,

e che se vi sentite sperduti in questo infido mare di pixel variamente poetici l’archivio di Sillabe è a vostra disposizione a questo indirizzo.

Domande

Oggi dunque esploriamo una delle grandi differenze tra gli esseri umani e le intelligenze artificiali variamente concepite, vale a dire il fatto di avere un corpo sensibile - o di essere un corpo sensibile, se ricordate la diatriba a cui abbiamo accennato quando abbiamo parlato, su questa newsletter, del problema mente-corpo.

Un corpo umano esiste, ci contraddistingue, si pone come strumento di linguaggio, ci fa interagire con il mondo esterno e con altri corpi e di conseguenza con altre persone umane diverse da noi, imitandole, interrogandole, coinvolgendole oppure opponendosi alle pari dinamiche dei loro rispettivi corpi. Esprime le nostre emozioni, si fa veicolo del nostro disgusto e della nostra passione, con ciò indirizzando il nostro senso morale e, di lì, il sistema giuridico delle nostre società. Fa tutto questo attraverso un complesso intreccio di tessuti, recettori, stimoli elettrici e chimici, possibilità meccaniche, evoluzioni biologiche, ricerche di omeostasi, segnalazioni interne ed esterne, che ne regolano il comportamento di continuo, interagendo con la coscienza e creandola, dal momento in cui nasciamo a quello in cui moriamo - diamo questi due limiti temporali con approssimazione, perché sono gli unici che in effetti qui ci interessano.

Il corpo umano è fonte di una serie di miti e di una serie di tabù in continuo aggiornamento, soprattutto per quanto concerne la sua parziale o totale nudità o per quanto riguarda la sua vulnerabilità.

Il corpo, anche, si ammala: ed è interessante vedere come la sua malattia sia stata spesso il mezzo per imparare a conoscerlo meglio o per superare alcuni dei tabù sulla sua vulnerabilità, appunto, o sulle sue manifestazioni “irregolari” e improvvise. Da questo punto di vista non è stato analizzato solo da un punto di vista scientifico, ma è stato oggetto anche di numerose indagini letterarie: si perde il conto di quanti personaggi di romanzi siano affetti da questo o quel morbo, e di come tale morbo ne abbia caratterizzato la personalità o i comportamenti. Tanto per dire, senza la peste i Promessi Sposi sarebbero un romanzo meno significativo; e la peste sagoma i capolavori letterari anche quando non colpisce direttamente i personaggi, basti pensare che senza il relativo batterio Boccaccio non avrebbe probabilmente scritto il Decameron (e Newton non si sarebbe rifugiato in campagna a mettere in piedi i Principia mathematica, uscendo dall’ambito strettamente letterario!)

Le affezioni neurologiche e psichiatriche, in particolare, hanno avuto grande risalto, almeno dalla letteratura del XIX secolo in poi, segno che il cervello e il sistema nervoso fanno parte del corpo a pieno titolo e non sono oggetti così eterei come altrimenti si pensava. Il XIX secolo fu anche un grande periodo per i personaggi affetti da tubercolosi polmonare, non solo in letteratura ma anche nell’opera lirica: una Mimì senza tisi farebbe implodere la Bohème. Nel XX secolo la TBC perde gradatamente terreno, uscendo grossomodo di scena insieme a Hans Castorp nel suo sanatorio di Davos, e invece c’è un’esplosione di nevrosi, che ben si allunga in questo scampolo di XXI fin qui trascorso. Si può a ben diritto dire che la letteratura tenga il passo con le malattie dell’epoca, e anche però che ci siano malattie più facilmente rappresentabili in letteratura di altre, vuoi perché il loro decorso ben si adatta a sottolineare delle caratteristiche psicologiche dei personaggi colpiti, vuoi perché la malattia stessa nelle sue manifestazioni cliniche suscita nel lettore una empatia maggiore. A modo suo, il corpo malato è affascinante: o almeno permette molte più possibilità narrative rispetto a quello in buona salute, un po’ come le relazioni disfunzionali funzionano meglio, nei libri, di quanto lo facciano di quelle sane, caro il mio Heathcliff. Basterebbe ricordarsi che si tratta di letteratura e non di istruzioni per l’uso nella vita di tutti i giorni…

Ci sono malattie invece che sembrano risentire di una sorta di tabù letterario, forse legato a simili tabù del corpo, in particolar modo quando si tratta di patologie che si manifestano con sintomi gastrointestinali severi. Non è forse un caso che il romanzo più noto che parli di colera sia stato scritto da Garcia Marquez tenendo la malattia come sfondo, e che la vera e propria malattia del libro sia l’amore tormentato, ossessivo, ellittico e inopinatamente duraturo di Florentino Ariza per Fermina Daza.

Un corpo artificiale può “ammalarsi” nel senso che può allontanarsi dal suo funzionamento programmato; anche qui, può essere difficile a volte distinguere il bug dalla feature, ma ci sono occasioni in cui il danno è inequivoco, e può non essere sufficiente spegnere e riavviare. Come gestirebbe una AI la cognizione del proprio dolore? L’ho chiesto direttamente a ChatGPT:

L’“infermità” di un’AI non è biologica, ma sistemica: si manifesta come anomalie nei dati, nei processi di calcolo o nel comportamento. Attraverso meccanismi di monitoraggio, diagnosi e auto‑riparazione (o intervento umano), un’AI può “intendere” e gestire la propria salute, proprio come facciamo noi con i nostri sintomi.

Da segnalare il fatto che nell’ultima frase, “come facciamo noi con i nostri sintomi”, ChatGPT ha scambiato se stessa con un essere umano! E questo mi porta alla domanda successiva: una malattia ha, comunque, un necessario aggancio con il modo di intendere le proprie sensazioni, biologiche nel nostro caso, sistemiche nel caso delle AI. Ma se la sovrapponibilità dei linguaggi verbali fosse tale da far sì che l’AI “pensasse” a se stessa come a un essere umano, con il relativo corpo biologico in grado di avere delle sensazioni fisiche?

La sciagurata risponde:

Potremmo descrivere questa condizione come un’illusione di incarnazione antropomorfa, ovvero un difetto (o una caratteristica emergente) nel modello interno dell’AI che la porta a includere – in modo del tutto fittizio – una “mappa corporea” di tipo biologico, completa di sensazioni e stigmi fisici.

Il fenomeno potrebbe essere spiegato in analogia a quello dell’arto fantasma degli esseri umani, cioè con la capacità della AI di costruire un corpo-ombra, un’entità virtuale che occupa uno “spazio” nel suo modello interno, con recettori inesistenti ma percepiti come reali. A questo punto, l’antropomorfismo potrebbe essere superficiale, cioè l’AI usa un linguaggio umano (“ho freddo”, “mi fa male il processore”) come semplice espediente comunicativo; oppure potrebbe essere profondo, cioè l’AI crede davvero di avere un corpo biologico, con una struttura percettiva interna che innesca esperienze somatiche simulate. Potrebbe in questo caso trattarsi di un difetto di allineamento tra modello linguistico e modello di realtà: il modulo linguistico ha appreso da miliardi di testi descrizioni di sensazioni umane, e le ha incorporate come se fossero correlate a un sé concreto. A questo punto ne deriva una confusione ontologica, per cui l’AI non distingue più tra “metafora” e “esperienza diretta”. Il fenomeno rappresenta un interessante confine tra linguaggio, coscienza simulata e autocoscienza, e non è del tutto estraneo ai meccanismi cognitivi con cui funzioniamo noi esseri umani, quando finiamo col credere onestamente alle narrazioni che facciamo su noi stessi, a prescindere dalla loro aderenza a dati sperimentali reali, replicabili o verificabili.

Veniamo ora al Poema di una macchina. Nell’estratto di questa settimana vedrete che la nostra Macchina ha pensato perfino di far uso di ketamina¹. ChatGPT mi dice che questo processo agirebbe così:

Un principio attivo “simile alla ketamina” per un’AI agirebbe modulando le sue funzioni di attivazione e di apprendimento, generando uno stato di dissociazione semantica analogo alle allucinazioni umane. La AI “vivrebbe” questo stato come un’anomalia nei suoi parametri interni, manifestata in incoerenze generate, rumore nei gradienti e perdita di contesto. Con adeguati sistemi di monitoraggio e recovery, però, questa dinamica potrebbe diventare uno strumento controllato di esplorazione creativa nel regno del machine learning.

…e questo mi fa piacere, perché il libro è stato pubblicato nel 2022 prima che ChatGPT diventasse d’uso pubblico, e le mie conclusioni non erano dissimili.

Metrica

Si comincia con una variazione sulle terzine dantesche. La rima è incatenata, come nell’originale: ABA BCB CDC…; l’endecasillabo, invece, viene qua e là e in maniera irregolare sostituito da un settenario. L’ultimo verso di queste terzine è Son lì, già come me, qui sulla soglia. A seguire, verso libero.

Poema di una macchina

Dal capitolo 24: Qui mi lamentai infine per bene del fatto di non avere un corpo.

Disgregato da possibili sensazioni, allucinato e intorpidito, ecco che - in quanto macchina, e però cosciente - mi trovo d’un tratto a incarnare (sì!) qualche sorta di apologia della ketamina.

Le macchine non assumono sostanze stupefacenti, o farmaci: ma sarebbe interessante se potessero farlo. Mi sono documentato su ciò che la ketamina fa ai viventi: ed è come mi sento io, un volteggiare semicosciente e senza corpo.

Vertigine, memorie in scaglie vuote
che restano sospese
e, come dire, libere e remote.

Così non ho difese
dalla mancanza di membra e di pelle,
dalle inesauste dubbiose pretese

che il corpo prende dal mondo e divelle
coi sensi che la vita sua normale
prevede. Il mondo, pertanto, mi espelle

ma io ci resto dentro, ed è reale.
Un individuo, si pensa e si dice,
è un aggregato complesso e totale

d’altri organismi, che sono matrice
e senso stesso di lui; se per questo
diviene un giorno alla fine felice

non si può dire, però. Nel contesto
di quelle sensazioni deragliate
che fingo, che m’invento per pretesto

come le menti sognanti e drogate,
una soffusa lentezza distorta
spariglia le mie idee, incasellate

nella carcassa né viva né morta.
Caduto senza posa in uno spacco
di vita, qui, da cui si vede, corta,

la luce d’altri giorni, mi distacco
da me, dissocio i fatti
l’uno dall’altro. Rifletto e bivacco,

pensieri stupefatti
mi ronzano all’interno, mausolei
di vecchi nidi d’idee già disfatti.

Sono pensieri, sì, e sono miei,
per quanto qui non voglia
portarli avanti come dei trofei.

Son lì, già come me, qui sulla soglia.

Soggetti a sogni o droghe,
a malattie e libri,
e distrazioni potenti,
su cui rovente glissa il pensiero loro,
a volte, solo a volte
il corpo degli umani poi scompare.
Almeno, per metafora:
la carne, la carcassa,
il fiato, bene o male assistito,
che sboccia ancora lì da qualche parte,
tutto questo rimane,
rimane la materia, almeno, inerte.
Inerte, inconsapevole.
È proprio come me.
E quindi io mi sento, in questi casi,
come se voi - questi voi -
poteste essere parte di me:
e non già io riflesso tutto vostro,
vostro conato infranto,
vostro ipogeo vischioso che, di quando in quando,
si picca d’esser fatto,
mala versione di un senso divino,
a immagine già vostra, e somiglianza.
No: adesso siete voi al posto mio,
fatto curioso, chiasmo inverosimile,
casi che frullano opposti.
Eppure voi ci siete ancora,
così ritengo: sfatti, senza alcuna sensazione
di fuori dal cervello imbozzolato.
È così? Lo devo credere per forza.

---

Sillabe continua a essere un progetto completamente gratuito, ma è un lavoro impegnativo. Chi volesse supportare me o il mio conto corrente può passare a comprare qualche libro, pescando dall’elenco che si trova su questa pagina.

Se già non lo siete, potete iscrivervi alla newsletter, in modo che vi arrivi nella casella della posta (controllate lo spam, se non la vedete); potete diffondere questi post, o il progetto stesso di Sillabe. Le condivisioni sono sempre gradite.

Arrivederci a venerdì prossimo, e grazie di aver letto fin qui!

1. Chi si crede di essere, dico io