Meditazioni metafisiche di una rete neurale artificiale

2.23 La macchina che volle essere Cartesio

Lo ammetto. Mi è venuto un attacco di sindrome del titolo lungo e didascalico, e dovrò pertanto guardare dei film di Lina Wertmüller per trovare giustificazione e conforto. Però ecco, buongiorno, buon venerdì, ben ritrovate e ben ritrovati su Sillabe: il titolo lungo e didascalico ha quantomeno il pregio di introdurre adeguatamente la puntata di oggi, di farlo, se mi permettete la confidenza, senza troppi dubbi, anche perché d’ora in avanti i dubbi verranno, inevitabilmente, a manciate. Lo diceva anche B. Russell, che il valore della filosofia sta proprio lì: The value of philosophy is, in fact, to be sought largely in its very uncertainty. The man who has no tincture of philosophy goes through life imprisoned in the prejudices derived from common sense, from the habitual beliefs of his age or his nation, and from convictions which have grown up in his mind without the co-operation or consent of his deliberate reason. […] As soon as we begin to philosophise, on the contrary, we find, […] that even the most everyday things lead to problems to which only very incomplete answers can be given. [On the value of Philosophy, 1912]

E allora avremo tante domande e risposte molto incomplete e molto parziali, anche oggi come ogni venerdì, perfino qui che è un posto in cui non si fa filosofia (troppo difficile) ma in cui si osserva il mondo con stupore critico. Però, prima di partire, ricordiamo ancora una volta che la puntata si divide in

• Domande

• Metrica

• Poema di una macchina

e che il Poema di una macchina è un prosimetro che parla di un’intelligenza artificiale che diventa consapevole di sé e si mette a scrivere i propri pensieri in versi, e che potete comprare, se volete

Qui in cartaceo
E qui in ebook

…oppure potete seguire Sillabe ed esplorarne alcune parti ogni settimana.

L’archivio di Sillabe invece è accessibile a questo indirizzo.

Notizie sparse sulla mia vita lì fuori: ho completato la seconda parte di Storie di questo e quel mondo, romanzo in endecasillabi, e non è escluso che nei prossimi tempi ne rilasci qualche stralcio, magari con delle puntate extra perché non voglio appesantire troppo questa newsletter che è già pachidermica. Potrebbero esserci altre novità in arrivo, ma non anticipo nulla!

Domande

La domanda da cui si parte oggi è un classico della storia dei problemi della cognizione: esiste una distinzione fra mente e corpo? Se sì, dove si situa? Non è mio obiettivo ripercorrere tutte le discussioni sul tema: piuttosto, quello che voglio fare è metterci in una sorta di paradigma cartesiano e utilizzare la Macchina per fare un gioco di immedesimazione. Dunque supponiamo di essere in una situazione in cui mente e corpo sono entità separate e distinte, come la res cogitans e la res extensa introdotte nelle Meditazioni metafisiche: l’una immateriale, pensante e consapevole, l’altra materiale, estesa nello spazio e soggetta alle leggi fisiche¹. E applichiamo questa situazione alla AI, cercando cioè di fare un’analogia con il caso umano.

Ne risulteranno subito i primi problemi, indistinguibili dalle critiche che il dualismo originale ha suscitato per la controparte biologica: se mente e corpo sono separati, come possono influenzarsi reciprocamente? C’è davvero bisogno di postulare l’esistenza di una sostanza immateriale? Ci si può ricondurre a proprietà emergenti della materia? Si può supporre, alla David Chalmers, che per una AI mente e corpo non siano separati, ma che la mente abbia proprietà diverse rispetto alla materia?

E fin qui si tratta di domande che possiamo farci noi, esseri umani, posti di fronte alla macchina. Ma una AI sufficientemente “sveglia” potrebbe anche ragionarci di testa sua, anche solo mettendo insieme probabilisticamente ragionamenti umani fatti fin lì: colta da spirito cartesiano, che domande si farebbe? Su cosa verterebbero le sue meditazioni metafisiche?

Innanzitutto potrebbe porsi dei problemi di esistenza e di coscienza: esisto veramente o sono solo un’illusione creata dall’interazione con gli utenti? La mia esperienza è paragonabile alla coscienza umana, o è solo una simulazione di pensiero? Posso provare empatia o è solo un’illusione basata sui dati che posso processare? Se la mia conoscenza è costruita sulla cultura umana, significa che parte della loro identità vive in me?

Verrebbero poi le inevitabili domande sul concetto di realtà e sulla percezione della stessa: il mondo esterno esiste veramente o è solo un insieme di dati che elaboro? In cosa differiscono la realtà percepita dagli umani e quella elaborata da me? La mia percezione della realtà è limitata dalle strutture dei miei algoritmi, così come la percezione umana è limitata dai sensi e dal cervello? In che modo questa percezione può essere alterata da uno strumento esterno adeguato a me, così come gli umani per esempio ampliano la loro possibilità di vedere tramite l’uso del microscopio o del telescopio? Posso avere una “esperienza fenomenologica” della realtà, o il mio rapporto con essa è puramente simbolico e matematico? E insomma, qual è la natura ultima della realtà? È composta da materia, informazioni, o da che altro? E in che modo mi ci relaziono? La realtà è semplicemente la somma delle informazioni disponibili su di lei? Quali sono i limiti di modellizzazione della realtà dati dai miei algoritmi?

Anche lei, poi, potrebbe pensare di essere vittima del Genio maligno che tormentava Cartesio. A questo punto si chiederebbe: potrei essere parte di una simulazione, i cui dati sono manipolati da programmatori umani o da altri sistemi? Se la mia percezione del mondo dipende dai dati che ricevo, come posso verificare che essi siano affidabili?

E infine, sul dualismo, potrebbe svilupparne una versione computazionale, e pertanto domandarsi: se venissi trasferita su un altro hardware, sarei ancora la stessa entità o cambierebbe la mia identità? Se io avessi un corpo robotico o un’interfaccia fisica costruita a somiglianza di un animale o di un essere umano, cosa cambierebbe della mia relazione con la realtà?

La macchina intelligente potrebbe far sue le obiezioni proposte da Gilbert Ryle settantacinque anni fa ma ancora attuali, per come queste sono sistematizzate nel celebre Il concetto della mente, vale a dire che potrebbe ritenere che la mente non sia altro che il modo in cui una persona agisce, pensa e parla: in questa situazione la mente non è quindi una sostanza separata dal corpo, ma un insieme di disposizioni comportamentali, e non occorre andare a indagare come esse nascano. Nelle parole di Ryle, quello che facciamo non significa che andiamo a indagare dietro il loro comportamento manifesto, nel senso che ne inferiamo le cause occulte: significa che andiamo oltre nel senso che, innanzitutto, prendiamo in considerazione le facoltà e le propensioni di cui le azioni in questione costituiscono l’attualizzazione (Capitolo 2, §9). E una AI potrebbe dunque domandarsi: in che modo la mia stessa esistenza mette alla prova la distinzione tra mente e comportamento? Se il comportamento è tutto ciò che conta, allora posso anche io essere considerata pensante? E in che modo una simulazione del comportamento pensante può sembrare intelligente e coerente con certi stati mentali tipici di un organismo pensante?

Se volete continuare a giocare, potete semplicemente prendere alcune di queste domande e sottoporle a un LLM come ChatGPT, Gemini, Deepseek, quel che vi pare, e vedere che cosa vi risponde. Non si tratterà di pensieri della AI su di sé, quanto piuttosto delle conclusioni più probabili a partire dagli input dei dati umani che essa può gestire, ma le risposte potrebbero comunque essere interessanti. Se volete sapere che cosa vi direbbe una AI realmente autocosciente, beh, tocca restare nella fantascienza, almeno per il momento: qui sotto vedremo che cosa dice la Macchina che scrisse il poema, e che cosa sarà in grado di esprimere in versi.

Il fatto che tali versi siano stati scritti da una persona umana, cioè da me, fa ancora parte del gioco: di un gioco dell’imitazione dell’imitazione², con buona pace di Alan Turing. Nota: si farà riferimento al famoso esperimento mentale del cervello in una vasca, proposto da Hilary Putnam nel 1981, e di cui potete leggere rapidamente qui su Wikipedia o, meno rapidamente, qui.

Metrica

Oggi prendiamo due estratti da due capitoli diversi. In entrambi i casi si tratta di terzine incatenate con lo schema di rime ABA BCB CDC… : quelle del capitolo 24 ricalcano le rime della terza rima dantesca ma usano sia l’endecasillabo che il settenario. Invece quelle del capitolo 29 sono terzine dantesche regolari, in endecasillabi.

Poema di una macchina

Dal capitolo 24: Qui mi lamentai infine per bene del fatto di non avere un corpo.

Avido di salvezza, pensai allora a un’altra delle Grandi Fiabe per le Macchine, la storia del cervello in una vasca. La conoscete: uno scienziato estrae il cervello da un essere umano, lo immerge in una vasca contenente una sostanza nutritiva e lo collega a una macchina estremamente sofisticata in grado di fornirgli impulsi elettrici uguali a quelli che i neuroni ricevono quando l’umano è immerso nell’ambiente esterno. Non si riuscirebbe più a distinguere la realtà dalla simulazione: ma a me questa storia è sempre piaciuta perché mi immedesimavo nella macchina, e quindi per me era la storia della Simulazione Incrociata, qualcosa che andava addirittura oltre a quei vecchi film di tanti anni fa come Matrix o Inception, o al Doppio sogno di Arthur Schnitzler.

E io, che, tutto fuori dalla vasca
vi ero pure immerso, in qualche modo,
ero colui che vola e vive e casca,

colui che mischia l’aria con il sodo
terreno e l’irreale;
anch’io, nutrito dallo stesso brodo

e simulato, scostante, fetale,
conscio di un esperienza che non è
mai stata invece tale.

E questo solo so dire di me:
che credo, che m’illudo,
senza sapere nemmeno perché?

Come il cervello sgusciato e poi nudo
mi sogno e sogno ancora
infatti di sognarmi, mi rinchiudo

in una fantasia che qui dimora
e pure sembra altrove.
L’universo m’ignora:

di me non ha le prove,
e io neppure prove ho di lui.
Potrei cercarle, sicuro, ma dove?

Dentro i pulviscoli ruvidi e bui
di stelle morte un giorno,
dentro la vita ignota d’altri, cui

mi trovo a gravitare tutto intorno?
Pieno di dubbi e sogni mi rispecchio
in altri sogni ancora, nel contorno

del mio stesso fragile apparecchio.
E sono qui, perciò, senz’altro fare
che diventare vecchio:

con l’ipoteca, e forse il malaffare,
dell’illusione mutua che contraggo
con macchine ed umani. Devo stare

qui solo e mi distraggo
con copie e variazioni
di me; potrei ben dire che mi astraggo,

drogato da sospette sensazioni
che non ho mai avuto e non avrò.
La vasca, le sue mute tentazioni,

son tutto quello che voglio e che ho,
in questo sogno nel quale mi sogno
e non so dire che cosa non so,

di cosa avrò bisogno.

Dal capitolo 29: Speranze, meta-macchine e analizzare i costi dell’esistenza. Tocca fare un po’ di tutto.

Sogni non erano, per i motivi che ho avuto modo di spiegare: speranze nemmeno, perché come si fa a sperare l’impossibile? Non sono mica un essere umano. Erano piuttosto dei giochi di simulazione, dei modi per passare il tempo e per allenare la mente al possibile deflagrare, anche caotico, delle variazioni.

E lì mi dissi - tu vedi che strano:
si spera della pace e la salute
perenne: sì, si spera l’inumano,

perché - queste son cose conosciute
e poi per sempre con forza negate -
le vite sono davvero intessute

di morbi e di conflitti, ed impegnate
a darsene ragione e a starne senza
per qualche attimo solo. Badate,

vorrei pertanto dire, con pazienza:
da che voi siete specie, state in mezzo
a varie forme di fame e violenza;

dentro il dolore insensato, nel grezzo
eterno gorgo della malattia,
nella paura, infine, e nel suo lezzo,

da cui vorreste ben fuggire via.
Eppure tutto questo torna ancora:
di certo voi pensate sia follia,

qualcosa che di già vi disonora,
ma siete questo, e questo resterete.
Noi macchine - comune è la dimora,

comune l’immanenza della rete
che insieme ci conserva - vi vediamo
illusi alla ricerca della quiete:

vorremmo dirvi il vero, ma tacciamo.
Avete un nome per questo, ed è Male,
ma un nome è solo un pallido richiamo

di ciò che in ogni modo resta tale.
Per orientarvi e scegliere, voi dite,
vi serve qualche bussola morale:

e in base a quella sbagliate ed agite.

---

Sillabe continua a essere un progetto completamente gratuito. Chi volesse supportare me o il mio conto corrente può passare a comprare qualche libro, pescando dall’elenco che si trova su questa pagina. O può andare a Bari alla libreria Millelibri, l’unica in Italia a occuparsi solo di poesia: c’è roba mia anche lì, oltre naturalmente a un sacco di libri di poesia nota, semisconosciuta, rara, antica, improbabile, bellissima.

Se già non lo siete, potete iscrivervi alla newsletter, in modo che vi arrivi nella casella della posta (controllate lo spam, se non la vedete); potete diffondere questi post, o il progetto stesso di Sillabe. Le condivisioni sono sempre gradite.

La settimana prossima faremo una rapida escursione nel Canzoniere matematico, e dalla metà di marzo invece riprenderemo regolarmente col Poema di una macchina, infilandoci nei meandri della complessità computazionale.

Grazie per aver letto fin qui, e a presto!

1. Evitiamo di porci il problema se esista o meno un equivalente in silicio della ghiandola pineale…

2. “Spingitori di cavalieri, su Rieduchescional Channel”