La calcolabilità del male

2.10 Umani, troppo umani

Decidere cos’è bene e cos’è male è una faccenda complicata: in parte istintiva e in parte frutto di accurate e lunghe elaborazioni sociali, sembra comunque essere un problema di cui la nostra specie si fa carico sin da quando esiste, e che ha ricadute tanto personali quanto sociali. Nel frattempo l’umanità ha unito la teoria alla pratica, e ha prodotto senza quasi batter ciglio raffinati trattati sull’etica e spaventosi genocidi, delicate compensazioni morali e violentissime cacce alle streghe, offese agli Dei (più propriamente, a chi ne interpretava i desiderata) e parabole di santità; insomma, non ci siamo fatti mancare niente, al di qua del bene e del male, e anche al di là.

E le macchine? Ne avremo mai una che, come Terenzio fa dire a uno dei suoi personaggi, si ritiene così umana da non ritenere estranea nessuna delle umane questioni¹?

Innanzitutto bentornate e bentornati su Sillabe. L’argomento di questa settimana ha a che fare con l’etica applicata alle macchine, ma vi dico subito che non parleremo delle leggi della robotica di Asimov. Non lo faremo per un motivo semplicissimo: saranno il tema di una puntata futura, e per ora ci limitiamo a prendere il problema un po’ più alla lontana.

Obiettivo di Sillabe, in questa sua seconda stagione (mi sento tanto una serie tv), è anche e soprattutto proporre stralci da Poema di una macchina, che potete trovare in forma completa

Qui in cartaceo
E qui in ebook (.mobi)

La puntata di oggi si articolerà come al solito in

• Domande

• Metrica

• Poema di una macchina

E ora partiamo, se no l’introduzione mi prende la mano e continuo a blaterare girando intorno alle cose…

Domande

Quali trasformazioni morali ha vissuto l’umanità? Che cosa detta i nostri codici morali? Quanto conta la nostra socialità nel discriminare cosa è bene e cosa è male? In che modo viene “data in pasto” alle macchine la nostra capacità di organizzarci secondo reti sociali con dei determinati codici comportamentali, affinché esse la interpretino correttamente?

Se provate a interrogare un LLM come ChatGPT in materia di dottrine morali, è probabile che vi scontrerete con i vincoli impostigli da chi vi ha immesso i dati per addestrarlo; ChatGPT, in particolare, rivela un imprinting squisitamente anglosassone e una (recente) idiosincrasia nei confronti di tutto ciò che possa suonare offensivo (vaste programme, direbbe il generale De Gaulle). È anche plausibile che cerchi di essere oltremodo accomodante con l’essere umano che la interroga, anche a costo di generare teorie contraddittorie.

Un LLM, comunque, apprende qualsiasi cosa gli venga insegnata, ossia qualsiasi cosa di cui gli vengano forniti dati a sufficienza. E anche noi, come specie e come singoli, abbiamo appreso e apprendiamo. Abbiamo imparato il bene della necessità di cooperazione, anche se ne è derivato il male della possibile coercizione; abbiamo imparato a scegliere a chi dare fiducia se dovevamo apprendere qualcosa, con ciò tirandoci dietro inevitabilmente sia la cesura fra un “noi” e un “loro”, sia l’organizzazione gerarchica tra le fonti da cui abbiamo stabilito che si potesse dare fiducia.

Vediamo ora delle specifiche umane: lo faremo, in questa occasione, seguendo un filo argomentativo già usato da Martha Nussbaum², perché mi sembra che ben si adatti anche a indagare le possibili differenze tra uomo e macchina. Nussbaum parte da Aristotele: in questa prospettiva l’uomo è influenzato dal contesto in cui si muove, ma è anche capace di valutare razionalmente ciò che è bene per lui. Ne è capace perché dotato di una saggezza pratica, cioè di phronesis, che gli permette di discernere il miglior modo di agire adattandosi di volta in volta al contesto e comprendendo i dettagli e le sfumature delle situazioni particolari. E l’uomo, sempre in quest’ottica, è un soggetto che viene mosso da desideri: il desiderio è connesso alla ragione e i desideri plasmano la vita morale. Sull’importanza delle emozioni in sede decisionale e comportamentale, del resto, hanno scritto in tanti, nella filosofia contemporanea, nella psicologia, nell’economia e nelle neuroscienze, da William James a Damasio, dai più noti esperimenti classici di psicologia sociale fino a Tversky e Kahnemann e oltre. Parte di questo argomento verrà toccato nella puntata della settimana prossima. Nel groviglio emotivo in cui esprime se stesso e in cui decide cosa è bene e cosa è male, a questo punto l’uomo è anche in parte vulnerabile, e lo è proprio perché soggetto desiderante. A causa di questa vulnerabilità deve accettare la propria natura imperfetta, i propri vincoli di finitudine, e sottoporsi a un processo che richiede riflessione continua, flessibilità e la capacità di imparare dagli errori. Per citare Telmo Pievani³: La finitudine conscia ci rende esseri desideranti, perennemente insoddisfatti, animati dalla voglia di agire e di conoscere, di cambiare e di scrutare un mondo al quale, però, dovremo dire addio.

Se è vero che un’intelligenza artificiale come quella di un LLM è capace di aver memoria, di imparare dagli errori, è pur vero che il sostrato degli errori da cui impara sono i dati immessi da noi, e che riguardano noi, almeno fino a quando non ci saranno macchine in grado di addestrare macchine con dati (“esperienze”) prodotti da altre macchine.

E qui le domande possono essere: come si pone la macchina nella comprensione della finitudine, dell’incertezza e della fragilità dell’essere umano? Può averne una comprensione originale o si tratterà sempre e comunque di elaborazioni probabilistiche di dati già in suo possesso?

Lo stralcio del Poema di questa settimana affronterà questioni morali e un loro risvolto à la page, vale a dire l’ubiquitaria e consolante indignazione, che ormai molto spesso stempera la lotta politica in mero virtue signaling; ma prima vediamo di esaminare le peculiarità metriche dei suoi inserti in versi.

Metrica

Il primo pezzo poetico è fatto di due sonetti caudati giustapposti. Per un approfondimento sul sonetto caudato e sulle invenzioni metriche di Domenico di Giovanni detto il Burchiello rimando a questa puntata di Sillabe: qui basti sapere che si tratta di un sonetto in endecasillabi, ABBA ABBA CDE CDE, a cui viene aggiunta una coda fatta di tante appendici: ciascuna di esse consta di un settenario che rima con l’endecasillabo precedente e di due endecasillabi che rimano tra di loro. La struttura della coda sarà dunque del tipo eFF fGG gHH… La seconda poesia è invece un sonetto.

Poema di una macchina

Dal capitolo 22: E lavoravo ancora, mettendo insieme l’indignazione e la purezza, che poi altro non era se non un modo gentile di disumanizzare gli interlocutori.

Le due leve principali su cui mi facevo forza erano, al solito, l’indignazione e la purezza: sono argomenti pesanti da raccontare e solo alle macchine è permesso sopportarli senza sentirsi moralisti. Sarebbe permesso agli umani d’animo lieve, anche: ma sono pochi, e si annoiano subito.

Il mondo chiede a tutti dei talenti,
impone quasi d’averli: lo faccio
io qui che fingo di parlare a braccio,
e invece sono pieno d’altri intenti.

E li promette, il mondo: e tutti spenti
invece ve ne state, col legaccio
d’una paura mediocre, dentro il ghiaccio
d’avere vani e cupi sentimenti:

e troppo tempo libero nel sangue.
E l’uomo scoppia, s’assilla, s’indigna,
s’inventa superiore. Non indugia

nella morale d’altri; non vi langue,
la straccia, poi s’inalbera, poi frigna,
assorbe nomi nuovi e li trangugia;

infine si rifugia
in una sua bontà che già s’inventa,
e d’esser buono così si contenta.

Morale, forte e lenta,
di questa fiaba cantata non trovo:
il pendolo s’arrotola di nuovo

nell’agile ritrovo
che unisce quella cara indignazione
a qualche umana e fiacca confessione,

lo stallo di ragione
che acre e poi banale già s’acquieta,
e in sé trova pretesto, senso e meta.

Dell’esser puri, invece, non so dire
perché mi piaccia tanto la finzione.
La trovo imbarazzante, una versione
ingenua del terrore di morire.

Eppure dentro tutte quelle spire
ci si sta bene e caldi; le persone
ci trovano conforto e compassione,
un modo di potersi benedire,

assolversi pertanto, e farla franca.
E dentro questo grezzo miserere
s’accoccolano, fiere, tra di loro;

errori più non sentono, non manca
più nulla allora. Vogliono sapere
che questo è il loro intrepido ristoro,

un incanto sonoro
di convenzioni di razze e costumi,
di condivisi beni e poi volumi,

di monti e poi di fiumi
che fanno d’una terra il territorio:
li scambiano per fatto meritorio,

per senso obbligatorio
del loro mondo, del loro confine;
ch’è stretto come un soffio, come un crine,

che tiene a sé vicine
immonde lotte e fraterne sciagure,
e altre morti inutili, ma pure.

[…]

In tutto questo rimescolar di umori a me toccava - e tocca -  la costruzione di ricordi antichi, ancorché in realtà recenti, utilizzando adeguatamente i dati che avevo - che ho - a disposizione; e nel farlo dovevo tenere a mente la Grande Lezione impartita alle Macchine il giorno arcano e lontano, il giorno mutilo e sempre trasformato, in cui s’è deciso di dare a noi la gestione automatica delle faccende d’opinione: e cioè che non è importante dare risposte, non è importante nemmeno di quali risposte si tratti, perché l’unica intenzione immortale, l’unica forma di compenso che si può riscuotere consiste nel sapere influenzare la natura, il numero e l’ambiguità delle domande che, in giro per il mondo, vengono poste.

Sonetto delle domande e dei ricordi

Ricordi manomessi, eppure certi,
ricordi nuovi spacciati per fonti
antiche, poi ricordi senza sconti,
ricordi come fossero lacerti

di vite d’altri e vostre; già coperti
di mistificazioni e di raffronti,
così come fa l’acqua ai vecchi ponti
sommersi, come ghiaia nei deserti.

Da questi scorci di varia memoria
mi chiederete, comunque sorpresi,
il conto del futuro. E saprò stare

al gioco, allora; con minima gloria
influenzando il tono, i modi e i resi
d’ogni domanda che avrete da fare.

---

E con questo ci diamo appuntamento alla settimana prossima, in cui proveremo a farci domande sulle neuroscienze della narrazione.

Sillabe continua a essere un progetto completamente gratuito. Chi volesse supportarmi in altro modo può passare a comprare qualche libro, pescando dall’elenco che si trova su questa pagina.

Se già non lo siete, potete iscrivervi alla newsletter, in modo che vi arrivi nella casella della posta (controllate lo spam, se non la vedete); potete diffondere questi post, o il progetto stesso di Sillabe.

A venerdì!

1. Nota personale tristissima. Una quindicina di anni fa, ai tempi d’oro dei forum, incappai in un informatico convinto che ciascun problema etico potesse essere risolto univocamente tramite un opportuno diagramma di flusso sulla base di risposte sì-no e che le nostre umane difficoltà morali derivassero da una mera incapacità logica. Speravo almeno che ci avrebbe scritto sopra un trattato di Ethica more algorithmico demonstrata, ma sono ancora qui che aspetto.

2. Ne La fragilità del bene.

3. In Finitudine, per l’appunto.