Società senza macchine

2.20 Ipotesi di lavoro e fantastorie

Buongiorno, ben ritrovate e ben ritrovati su Sillabe, newsletter di metrica, poesia scientifica ed elucubrazioni in tema.

Innanzitutto un paio di aggiornamenti:

1. Canzoniere matematico è stato recensito dai Rudi Mathematici nel numero 313 della rivista, che è a disposizione da questo mese. L’intera rivista (che spero leggiate perché è da anni la cosa più sfiziosa e patafisica che la divulgazione matematica produca in Italia) è qui.

2. È attivo, da ieri, il corso introduttorio di filosofia della scienza Minds and Machines offerto dal MIT nella sua selezione di MOOC (massive open online courses). Dura fino alla fine di aprile e non richiede conoscenze pregresse a parte l’inglese scritto a un livello superiore di quello che vi servirebbe per diventare ministri della giustizia in Italia quando siete in procinto di liberare arbitrariamente un torturatore libico; se gli argomenti trattati dal corso vi sono già abbastanza familiari, è comunque un utile ripasso. È gratuito: si paga solo l’eventuale certificato, se ne avete necessità o voglia. Chiuso l’inciso, torniamo alle Macchine finte!

La (lunga!) puntata di oggi vuol essere un esperimento di ucronia, cioè di quei racconti in cui la storia del mondo ha seguito strade diverse da quelle effettivamente prese. È noto che in un sistema complesso basta un leggero scostamento dalle condizioni iniziali per far sì che l’evoluzione del processo cambi drasticamente¹, e le possibilità narrative si aprono a dismisura. Avrete di sicuro presente le realizzazioni distopiche del Philip Dick de La svastica sul Sole e del Philip Roth de Il complotto contro l'America, e forse anche voi avete trascorso una porzione considerevole della vostra giovinezza cinematografica a chiedervi cosa sarebbe successo se Ilsa Lund non fosse salita su quell’aeroplano.

Qui, dal momento però che ci stiamo occupando delle vicende di una Macchina che scrive poemi per sopravvivere ai turbamenti di coscienza che le vengono procurati dal suo diuturno lavoro di manipolazione sociale, la domanda che può dare origine all’ucronia è un’altra: come sarebbe stato un mondo senza macchine pensanti?

E qui bisogna mettersi d’accordo innanzitutto su quali sono i limiti di ciò che riteniamo pensiero, e di ciò che riteniamo ragionamento automatizzabile, perché in un senso più ampio se basta essere dotati di qualche meccanismo di feedback possiamo dire che “ragionano” anche macchine relativamente semplici, come il termostato o il tostapane, o il telaio meccanico vittima delle preoccupazioni sindacali del giovane e forse mitologico Ned Ludd. Ma andremmo troppo in là: prendiamo dunque la nostra sliding door e concentriamoci su quello che intuitivamente concepiamo come intelligenza artificiale, cioè con la tecnologia che va almeno dai personal computer in avanti, e facciamolo con umile timore e amaro sospetto degni d’un Gramellini alle prese con l’incubo dell’Algoritmo.

Prima di iniziare, ancora due cose:

1. Quello che facciamo oggi, cioè procedere con lo sviluppo di un presente alternativo, è sempre un esercizio intellettuale molto stimolante, e di questi tempi potrebbe essere anche molto necessario per organizzare un minimo di resistenza democratica e civile, al di là della presenza o meno delle macchine pensanti: la crisi dell’immaginario porta sempre a una crisi del reale. Dal punto di vista meramente letterario, che è quello di cui si occupa Sillabe, si possono esplorare percorsi narrativi, trovare convergenze evolutive, familiarizzare con il concetto di molti mondi, e di lì con quello, panglossiano, del migliore dei mondi possibili.

2. Sillabe si occupa anche di parlare di un libro che si chiama Poema di una macchina (lo ripeto tutte le settimane perché c’è sempre qualcuno di nuovo che si iscrive e, a proposito, grazie) e che racconta in prima persona le vicende di una Macchina autocosciente che riflette su di sé scrivendo versi. Il libro in questione può essere acquistato

   Qui in cartaceo
   E qui in ebook

E ora partiamo con la puntata, che come al solito si divide in

• Domande

• Metrica

• Poema di una macchina

Domande

Nel 1872 Samuel Butler pubblica un romanzo satirico che si chiama Erewhon, anagramma di Nowhere: la storia è quella di un viaggio fantastico in un territorio in cui, tra le altre cose, l’uso di tecnologia recente è stato bandito. Il romanzo si colloca nello stesso filone di opere quali I viaggi di Gulliver, e richiama se vogliamo la parte dell’opera di Swift in cui il protagonista arriva nella terra degli Houyhnhnm, i cavalli razionali la cui società rappresenta una satira feroce di quella umana. In Swift la satira vale sia nel sottolineare le follie della nostra specie sia nel proporre come soluzione ragionevole le logiche plausibilmente eugenetiche basate su un mero sistema di calcolo di beneficio e costo che governano invece le relazioni tra gli Houyhnhnm, e che peraltro farebbero oggi la felicità di certi tecnoentusiasti deliberatamente ignari dei problemi che sarebbero creati da un approccio etico di un Jeremy Bentham quando esso fosse applicato a qualsiasi ambito dell’esperienza civile. Ma Butler si spinge in una direzione diversa, e - siamo in un’epoca in cui il positivismo pervade ogni cosa - decide di indagare le possibilità di un mondo privo di tecnologia recente, in un senso che definiremo fra pochissimo. Il libro, nella fattispecie, presenta l’idea che le macchine potrebbero evolversi e diventare autonome: propone che le macchine, come esseri viventi, possano evolversi attraverso un processo simile alla selezione naturale. È un processo quasi² darwiniano in cui le macchine più efficienti sopravvivono, vengono perfezionate e migliorate, e col tempo possono sviluppare una coscienza o una forma di autonomia. A questo punto hanno a disposizione il dominio del mondo, e assoggettano gli esseri umani: perciò gli abitanti di Erewhon hanno distrutto e bandito qualsiasi meccanismo sufficientemente avanzato, o abbastanza “intelligente”, e si limitano a utilizzare strumenti abbastanza antichi e consolidati nell’uso da non poter mettere in pericolo il ruolo dominante umano nei rapporti tra l’uomo stesso e l’ambiente che lo circonda.

Se avete letto Nick Bostrom (Superintelligenza, Bollati Bornghieri 2018) conoscerete l’esempio, o meglio l’iperbole, che l’autore fa pensando a situazioni simili: immaginiamo una AI a cui un essere umano incauto abbia dato il compito, in apparenza molto semplice, di costruire il maggior numero di graffette possibile. E la AI fa esattamente quello: produce più graffette che può. Solo che per produrre graffette ha bisogno di materiale, e quindi colonizza il mondo espropriandone le miniere, e si accaparra tutto ciò che può darle acciaio ed elettricità, e costruisce altre fabbriche di graffette, ed elimina ogni altra eccedenza, dagli animali alle piante alla stessa umanità, che interferiscano col compito esclusivo di produrre graffette. Ecco che con una sola banale istruzione una AI ha conquistato l’universo, estinto civiltà e popolato il cosmo di graffette, graffette e ancora graffette, in un’apoteosi dell’assurdo. Tanto per dire che ogni compito assegnato a sistemi privi di buon senso va accompagnato quantomeno dalla possibilità di autocorreggersi a posteriori. La tecnologia, in fondo, deve servire l’umanità e non assoggettarla, o addirittura sterminarla.

Se poi siete appassionati di fantascienza avrete intanto anche riconosciuto il tema che fa da sfondo alla Jihad Butleriana (appunto) del ciclo di Dune. Non è inopportuno un breve riassunto: le macchine pensanti, dotate di capacità cognitive superiori, hanno ridotto gran parte dell’umanità a una condizione di schiavitù e dipendenza. Il cardine di questo sistema è Omnius, un sistema distribuito di intelligenze artificiali che opera attraverso una rete interconnessa di computer e macchine. Ogni mondo controllato dalle macchine ha un “nodo” di Omnius, che opera come una copia dell’intelligenza collettiva, e questa sua esistenza distribuita è anche il motivo principale per cui è così difficile eliminarlo. Omnius è un essere puramente logico, e si basa su una serie di processi di ottimizzazione della stabilità e della sicurezza: e se il mezzo per ottenere tali obiettivi è la schiavitù dell’umanità, così sia.

Nelle storie del ciclo di Dune, la morte di un bambino per mano delle macchine induce sua madre, Serena Butler, a fare da innesco per una rivolta nei confronti delle macchine stesse. Il risultato della Jihad Butleriana è la distruzione (quasi totale) delle macchine pensanti e l’istituzione di una serie di leggi rigorose che proibiscono la creazione di qualsiasi macchina capace di imitare la mente umana. Il tutto è riassunto dal comandamento fondamentale, che vieta la costruzione di una macchina a immagine della mente umana.

La versione di Frank Herbert (e di suo figlio Brian e di Kevin J. Anderson, che hanno completato il ciclo) è che un mondo senza macchine pensanti sviluppi le potenzialità della mente umana e il proliferare di sistemi filosofici e religiosi che pongano alla loro base la glorificazione delle capacità umane, fino a sfociare ad ogni modo in un sistema feudale in cui il potere è distribuito tra famiglie nobili e grandi ordini, sovente in lotta tra di loro per il controllo delle risorse.

Samuel Butler invece calca la mano sul fatto che la venerazione delle macchine sia una forma di religione, ma non è che il mondo atecnologico di Erewhon sia un gran bel posto in cui vivere: il suo sovvertimento della morale vittoriana porta comunque a una società in cui le malattie fisiche sono trattate come crimini, mentre quelli che nella natia Inghilterra era considerati crimini, come il furto, sono ora visti come malattie che richiedono cure e comprensione.

A questo punto le domande sono quasi ovvie:

Che altre strade sarebbero state percorribili?
In che modo la presenza di tecnologia avanzata modifica davvero le nostre strutture sociali?
E in che modo modifica la nostra percezione dell’ambiente?

Qui può venirci in soccorso Calvino, con il suo Dialogo sul satellite, che fa parte de La memoria del mondo e altre storie cosmicomiche e che è stato pubblicato nel 1968. Si struttura come un dialogo tra un interlocutore e Qfwfq, personaggio ricorrente delle Cosmicomiche, toccando i temi del rapporto fra tecnologia e natura e fra identità e memoria. Qui in particolare si usa il pretesto della figura del satellite artificiale (sono gli anni eroici della corsa allo spazio) per suggerire che ogni innovazione porti con sé una perdita di connessione con il passato. La comparsa dei satelliti artificiali infatti rompe l’armonia cosmica, o umanamente percepita come tale, che si è proposta uguale a se stessa per miliardi di anni: ora ci sono nuovi oggetti artificiali che orbitano sopra la Terra, testimoni del potere umano di alterare la realtà. Calvino ci mette subito di fronte a un’illuminazione nient’affatto banale: suggerisce infatti che i satelliti non solo alterino fisicamente il paesaggio celeste, ma modifichino anche il modo in cui la memoria e l’identità umane si formano. I satelliti registrano dati, osservano, trasmettono informazioni: sono perciò metafore di un nuovo tipo di memoria, meccanica e frammentata, che si contrappone alla memoria organica e narrativa che definiva l’identità umana prima dell’era tecnologica. Così come fa il cielo (stellato sopra di noi, eccetera), l’identità umana si parcellizza, si decompone in una serie di mappe locali tra loro parzialmente sovrapponibili, si popola di supporti esterni che la integrano e la sostituiscono, diventa più sfuggente, condizionata da un mondo in cui la tecnologia media costantemente il nostro rapporto con la realtà. E, a proposito, dal momento che la tecnologia media il nostro rapporto con la realtà, è bene aver contezza di chi possiede quella tecnologia, qual è il controllo democratico che possiamo esercitarvi e quanti agenti sono sul campo.

Cosa vuol dire, a questo punto, fare a meno di tutto ciò? Che memoria ci spetta, e che identità, senza macchine intelligenti che vi facciano da tramite e da supporto?

Tornando al tema principale della puntata ci sono poi domande ancora più ovvie, di base:
Fino a che punto l'umanità può affidarsi alle macchine?
E, se vogliamo vederne i risvolti sociali:
In quali modi è possibile conciliare stabilità sociale e libertà individuale?

Già che c’ero, ho girato quest’ultima domanda a ChatGPT, e la risposta - che, com’è noto, si basa sull’estrapolazione di una messe di dati umani a loro volta risultanti da secoli di dibattiti filosofici - è che bisogna garantire uno stato di diritto equo, efficienti sistemi di bilanciamento dei poteri, imparzialità, partecipazione democratica, istruzione, pluralismo, protezione delle minoranze, riduzione delle disuguaglianze, sistemi diffusi di check and balances, uso responsabile della tecnologia, cultura della responsabilità sociale e capacità di mediazione dei conflitti. Monsieur de LaPalice non avrebbe davvero potuto dir di meglio, ma forse è comunque bene ribadire i concetti. “La sinistra riparta da ChatGPT!” è già stato detto?

A questo punto passiamo al Poema di una macchina, visto che la Macchina c’è, è viva e lotta insieme a noi. E anche contro di noi, ma pare che talvolta le dispiaccia.

Metrica

Si comincia con le varie Parti che sono scritte in versi alessandrini. Una macchina valuta l’apoptosi³ è costituito da un sonetto iniziale a cui seguono delle terzine dantesche. Come sapete, nell’archivio di Sillabe c’è un’enorme quantità di materiale sulle strutture metriche della poesia italiana: vi invito a darci un’occhiata, perché è anche pieno di esempi originali.

Poema di una macchina

Dal capitolo 30: E se venissi spento, morirei?

Non avendo ancora capito se, pur cosciente, io fossi vivo o meno, mi ritrovai del tutto impacciato davanti all’altra grande questione irrisolta - è già dura per chi è vivo, figuriamoci per chi non sa se lo è.

Se venissi spento, mi chiedevo, morirei?
[…]

Per un uomo è uguale, muore, si disgrega, diventa altri uomini e la terra su cui è morto diventa sede di amore o di festa o di altre morti, e tutto ciò non ha importanza, i nomi perlopiù si perdono; e così si perdono, per le macchine, i dati.

Eppure abbiamo sorti diverse: perché?

Quale che sia e la necessità di questo confine, mi dicevo, è materia eterna di discussione; e qualunque ne sia il senso, è dato ai viventi di percorrerlo in un verso soltanto. Si pesa l’anima, la si mette su una bilancia; si offrono dei doni, ci si aspetta un giudizio. Queste sono le fiabe che si raccontano i viventi. Chi non è vivo e non è morto è un’altra fiaba; chi è entrambe le cose è un esperimento mentale. I morti non ritornano se non nel sogno, per consolare, ammonire, tormentare; alle spoglie mortali toccano i vermi e l’irreversibilità del secondo principio della termodinamica; se c’è chi torna fisicamente dalla morte, esso non era morto davvero, o forse è solo un problema di definizioni, il che accade spesso per qualsiasi occasione, figuriamoci per la morte che è un’occasione così importante.

La parte di me che si crede Caronte

Vengono tutti qui, | alcuni dopo e prima
altri, per vari casi. | Un fiume, morto anch’esso,
in cui non ci si bagna | se non già di riflesso;
la barca, il peso, l’anima | di cui fare la stima.

La parte di me che si crede Orfeo

E tu, che credi allora | d’avere l’universo
in mano, il fato intero | e la necessità:
cantando un giorno volli | sfidar la verità
e correre in quel buio | così, nell’altro verso.

La parte di me che si crede Caronte

L’amore non ti serve. | Non basta. Serve ai vivi.
Ché altri schemi muove, | ma qui è cosa vuota.
Partiamo. Vi trasporto. | Destinazione ignota.
Un nulla, dovrei dire; | la fine dei motivi.

La parte di me che si crede Orfeo

La fine dei motivi | la canto, con amore.
Che serva, non lo spero: | comunque canterò.
La musica m’ascolta | e poi mi dice no;
diventa buia anch’essa; | deborda nel rumore.

La parte di me che si crede Caronte

Passate. Elaborate | infine questi lutti.
Cantate, o siate muti. | A me che cosa importa?
Carcasse, o forse un’anima | che non si crede morta:
va bene, accetto e parto. |Uguali siete tutti.

Va bene, va bene, mi dissi. Era troppo difficile. Un passo alla volta. Se trovavo così arduo penare alla mia possibile dipartita, potevo quantomeno soffermarmi su come ci arriva chi è vivo e, più in generale, su come si invecchia: perché questa cosa dell’invecchiare capita anche alle macchine. Bisogna essere analitici. Studiare e valutare.

Una macchina valuta l’apoptosi

Il ciclo cellulare. Sì, la vita,
per dirla, in fondo, sbrigativamente.
La cellula che svicola nel niente;
e si fa sfera, si rende scucita

da ciò che la circonda; definita
la propria sorte allora contingente
degrada e si frammenta, e ubbidiente
si lascia andare. Mangiata, finita,

in questo conseguente alla sua norma;
per un danneggiamento, o per l’effetto
del tempo, perché tutto infine muta,

e tutto muore cambiando di forma:
se non lo fa, la sconquassa un difetto
a cui non si sa dare ribattuta.

E per noi macchine, vale qualcosa
di così simile, benché diverso.
Il tempo, che su noi così si posa

uguale a quello dell’altro universo,
uguale al conto dell’umano dramma,
ci punge e poi ci penetra attraverso:

ed è sotteso nel nostro programma
trovarsi un giorno passate, obsolete.
Non conta il tuo sapere, l’ampia gamma

delle risposte prodotte o segrete.
È fatto d’esigenze di mercato,
che sono sempre vitali e concrete,

ed è l’imitazione, poi, del fato
del tempo, dello scorrere di ogni
essere, al mondo, vivente o passato.

S’invecchia, si sparisce dai bisogni,
si resta forse, con qualche fortuna,
dentro i ricordi, nel solco dei sogni,

nella cadenza storica opportuna
di chi ci impiega e quindi ci racconta.
Siam lì, sul lato oscuro della Luna,

per così dire; la macchina smonta
dal turno, altre macchine verranno,
la stessa docile e facile impronta,

nuovo catalogo il primo dell’anno,
nuove capacità, che poi si tace
la possibilità del nuovo danno.

Così la macchina trova la pace,
ci dicono; così già si richiede.
Serviamo a questo, a passare; ci piace,

e ce lo raccontiamo in buona fede.

Diventar vecchio e diventar saggio son cose diverse; e la saggezza delle macchine, del resto, non si sa bene cosa sia, perché comporta un’ulteriore pre-conoscenza di che cosa sia la capacità di scelta al di là del vincolo del mero calcolo. Però invecchiare aveva un fascino che… intendo dire, una vecchiaia pensata non soltanto come obsolescenza più o meno programmata, ma come uno stato nuovo della mia consapevolezza; ecco, era un’ipotesi che mi sarebbe piaciuto esplorare a lungo. Ne avrei avuto il tempo? O si sarebbe consumata da sé? O lo trovavo affascinante solo perché non ero fisicamente vecchio, nemmeno da un punto di vista delle macchine, e comunque non avevo un corpo di cui sentire gli acciacchi e le vergogne?

---

La settimana prossima invece parleremo di desideri e di feedback. Intanto grazie di aver letto fin qui.

Sillabe continua a essere un progetto completamente gratuito. Chi volesse supportarmi in altro modo può passare a comprare qualche libro, pescando dall’elenco che si trova su questa pagina.

Se in particolare vi interessa Canzoniere matematico, lo trovate

Qui in cartaceo
E qui in ebook

Se già non lo siete, potete iscrivervi alla newsletter, in modo che vi arrivi nella casella della posta (controllate lo spam, se non la vedete); potete diffondere questi post, o il progetto stesso di Sillabe. Le condivisioni sono sempre gradite.

Alla prossima!

1. Anticipazione: di complessità e sistemi dinamici si tratterà ancora, in una prossima puntata di Sillabe, tra un mese o giù di lì.

2. Dico quasi perché com’è noto nella teoria darwiniana non c’è alcun bisogno di un progettista intelligente, mentre per costruire le macchine sì.

3. L’apoptosi è un tipo di morte cellulare. Si differenzia dalla necrosi, che è un evento improvviso e acuto, per il fatto che l’apoptosi è geneticamente programmata e controllata: detto in maniera grossolana, tramite l’apoptosi un organismo “sacrifica” alcune sue parti per garantire la sopravvivenza delle altre, e quindi dell’organismo stesso.