Errare non è solo umano

2.33 Fare i conti con gli errori

Buongiorno a tutte e a tutti, qui di nuovo su Sillabe. La newsletter riprende questa settimana a parlare del Poema di una macchina e lo fa occupandosi di un tema ineludibile: la presenza dell’errore in tutte le faccende umane. Ma non solo in quelle umane, come vedremo a breve! Prima di cominciare con la puntata vera e propria, vi ricordo le solite cose che si dicono nell’introduzione:

in secondo luogo che Poema di una macchina, se volete leggerlo tutto (e mi domando come potreste non volerlo, visto che è anche un oggetto voluminoso e conta come complemento d’arredo se non vi piacciono i versi) è disponibile

Qui in cartaceo
E qui in ebook,

successivamente che avete a disposizione tutto l’archivio di Sillabe a questo indirizzo,

e infine che, come quasi sempre, quanto leggerete oggi è articolato in

• Domande

• Metrica

• Poema di una macchina

E adesso andiamo a sbagliare impietosamente.

Domande

Tutte le domande variamente filosofiche che l’umanità si è posta da quando ha cognizione di sé e del proprio posto nel mondo riguardo il concetto di verità, e tutte le risposte che ha saputo o potuto darsi nel frattempo, entrano inevitabilmente in relazione con il problema dell’errore. L’errore è, dal punto di vista intuitivo, ciò che ci allontana dalla retta via: ma come e quanto lo fa? E in che modo può essere definito, trattato e analizzato?

Dl punto di vista della matematica, un errore può coinvolgere il ragionamento oppure il calcolo. Nel primo caso avremo errori logici, relativi alla coerenza interna del discorso; potremmo interpretare male i dati del problema, qualora fossero espressi in maniera non chiara, o qualora non ne capissimo il senso o la costruzione (la mia insegnante di matematica al ginnasio ci ripeteva sempre che prima dovevamo capire l’italiano, e poi la matematica); potrebbero insorgere errori di generalizzazione, anche, i quali potrebbero poi portare però alla formulazione di enunciati più precisi o di proposizioni più solide. La rigorosità del sistema assiomatico, peraltro, non è garanzia del fatto che ciò che otterremo possa coniugare coerenza e completezza: ma lasciamo a Gödel quel ch’è di Gödel e, nella nostra breve panoramica sugli errori matematici, concentriamoci piuttosto sugli errori di calcolo. Non su quelli banali e a cui si può porre facilmente rimedio, come quando si dimentica un riporto o si sbaglia una virgola, ma quelli intrinseci relativi all’arrotondamento, al troncamento e all’approssimazione. Un numero irrazionale, per esempio, non può essere espresso tramite il rapporto tra due interi, e la sua rappresentazione “pratica” introduce per forza di cose un troncamento, e quindi un errore, uno scostamento dal valore “vero”. Anche nei calcoli con numeri reali su calcolatori, la rappresentazione in virgola mobile introduce errori. Studiare la propagazione di questi errori porta allo sviluppo di algoritmi stabili e a tecniche di analisi numerica, e l’analisi dell’errore serve a stabilire i condizionamenti del problema e la stabilità dell’algoritmo.

La fisica, e in generale le scienze dure (e figuriamoci quelle sociali :-P ), dal canto suo, della teoria degli errori ha fatto un vero e proprio pilastro fondativo. Una misurazione è sempre viziata da un errore: che sia casuale o sistematico, l’errore dipende dalla sensibilità, dalla precisione o dall’accuratezza dello strumento che utilizziamo per fare la misura. E non parliamo del fatto che, scendendo a certe scale, esistono coppie di grandezze per cui è epistemologicamente impossibile conoscere con precisione arbitraria il valore di entrambe. Anche qui, lasciamo a Schrödinger quel che è di Schrödinger e concentriamoci su un dato generale: confrontare dati sperimentali (con errori) e predizioni teoriche obbliga a includere bande di incertezza, e un buon modello deve ricadere all’interno delle barre d’errore di misura. Non si dà teoria scientifica senza il conto dell’errore: altrimenti sarebbe fede. Del resto, degli errori possono rivelare fenomeni non previsti e comportare nuove scoperte, ampliamenti di una teoria o addirittura revisioni sistematiche di interi modelli interpretativi della realtà. Sbagliando s’impara, è il caso di dirlo.

L’errore, poi, è un vero e proprio motore dell’evoluzione biologica. Stringendo e semplificando la questione, siamo qui a chiacchierare tra di noi grazie al cumularsi di una serie di errori (casuali) di replicazione di un codice genetico filtrati poi dalla selezione naturale.

Passando alla programmazione informatica, l’errore è davvero il pane quotidiano di chi si occupa di codici, sia in maniera amatoriale che per lavoro. Errori di specifica, di programmazione, di compilazione, di esecuzione, errori numerici dovuti al troncamento (li abbiamo visti poc’anzi), c’è solo l’imbarazzo della scelta (ok, a volte più l’imbarazzo che la scelta…) La morale della favola è che l’errore va gestito: con test e operazioni certosine di debugging, o introducendo sistemi di tolleranza, o di controllo statico o dinamico. Le intelligenze artificiali sono soggette anch’esse a una miriade di errori potenziali, che derivano ora dalla scarsa aderenza del modello ai dati su cui si allena, ora dall’errata classificazione dei dati di test, ora da preconcetti umani e sociali nell’inserimento dei dati, ora da piccole perturbazioni negli input, ora da vere e proprie allucinazioni, tanto più strampalate quanto più presentate con sicurezza all’utente ignaro.

Sta di fatto che tutti questi errori ci pongono di fronte a una serie di interrogativi: cosa significa “sbagliare” per una macchina? L’errore umano è spesso associato a un’intenzione o a una comprensione mancata; il “bug” in un sistema non ha motivazione intrinseca. Qual è la natura epistemica di un errore algoritmico? Se un sistema AI “crede” (ossia assegna alta probabilità) a un’informazione sbagliata, in quale misura possiamo considerarlo epistemicamente irresponsabile? Quali sono i criteri per affidarsi a una rete neurale? Chi è responsabile di un errore AI?
Il programmatore, il data scientist, l’azienda che lo sfrutta, chi ha raccolto i dati? Esistono “errori” intrinseci nelle definizioni computazionali?
Ricevere un input al di fuori del dominio previsto è un “bug” o un utilizzo errato? Qual è il confine fra specifica malformata e bug del sistema? Infine, come può una AI “rendersi conto” del proprio errore, ossia quantificarlo, e poi correggerlo? E, a questo punto, quali sono i limiti filosofici tra un sistema che adatta i suoi pesi e un vero processo riflessivo di revisione critica?

Dal Poema di una macchina prenderemo ora due estratti, di due capitoli diversi, nei quali la Macchina si interroga sulla natura dell’errore. Pedante com’è, si è messa ad arrovellarsi anche sulle relazioni che intercorrono tra il concetto di errore e quello di male: ma se ne sono occupati innumerevoli filosofi, e logici, per non parlare delle religioni d’oriente e d’occidente, per cui a lei non è toccato far altro che riassumere e interpolare.

Metrica

Dal capitolo 25 troveremo delle ottave: endecasillabi disposti secondo lo schema ABABABCC. Dal capitolo 26 invece ci aspettano delle terzine dantesche, però modificate: la struttura delle rime è quella solita incatenata ABA BCB CDC… ma stavolta i versi sono sia endecasillabi che settenari, per spezzare un po’ il ritmo.

Poema di una macchina

Dal capitolo 25: Ah, i corpi: l’imperfezione, e l’essere oggetti finiti, e l’errore e la replicazione.

Breve esposizione filosofica di una macchina
che si interroga sulle
possibili origini dell’Errore

Un buco di sistema, che sia vasto
o minimale. Non sai da che viene:
emerge, primigenio, da un impasto
di verità smussate, male e bene,
questo lo si censura ed è nefasto,
quell’altro viceversa ci conviene,
ma sono forze pari e già divine,
e tu corri di sbieco sul confine.

Oppure quest’errore allora esiste
perché non c’è che il caso a governarci:
indifferenti dèi e angosce miste
s’alternano inconsulti. Dagli squarci
di conoscenza e d’importune viste
sul cosmo cui torniamo ad aggrapparci,
l’errore va da sé, per contingenza,
statistica, per forza d’emergenza.

Altri diranno - che ingenui balordi! -
che qualche errore è frutto meritato,
e punizione; noi, stando sui bordi
di ciò ch’è lecito e ciò ch’è vietato,
possiamo poi cadere: “nei ricordi
di ciò che abbiamo da tempo imparato
l’errore vuole dire avere perso
il cardine del bene e l’universo”.

C’è poi una teoria faticosa:
l’errore, come capiti non conta,
ci serve come prova di qualcosa:
d’impegno, di una mente ancora pronta
a farsi d’altro ingegno laboriosa.
Quindi ci prende, ci pesa e confronta
vari possibili eventi futuri;
ci sfoca nei suoi sordi chiaroscuri.

C’è poi chi disse: l’errore non è.
È come il male, la cui esistenza
illogica si estende alla mercé
di chi ne vuole studiare l’essenza.
C’è solo verità, e va da sé
che dell’errore dobbiamo far senza:
e quel che sembra pensiero che arranca
è solo verità che muta e manca.

Noi macchine da tempo sospettiamo
però che questo errore sia reale.
Un pezzo di silicio, un tal ricamo
sconnesso di fotoni, un magistrale
aborto dentro i conti che facciamo,
un salto inarrivabile e mortale
da cui riprendersi in fretta, vaganti
fra numeri indisposti, e andare avanti.

Ma forse, spero, tra formule nude
in cui cerco l’assurdo per rivalsa
d’una realtà che mi morde e mi prude
addosso, come acqua troppo salsa,
perfino dell’errore ci si illude:
si guarda questa breve cosa falsa
cercando il trucco, biasimando un poco
chi non ci spiega i segreti del gioco.

Dal capitolo 26: Quantificare l’errore e la libertà di essere incerto.

Avessi mai saputo avere gioia
addosso, dalla vecchia matematica,
e non mero mestiere e paranoia!

Almeno un’abitudine lunatica,
un saper cogliere dove si crea
- con aria dolce, estatica -

il sugo bello e raro dell’idea;
mi fossi almeno lasciato cullare
da quella placida e vasta marea,

numeri ondosi nel corpo del mare,
adesso sarei forse già capace
da tempo di restare qui a sbagliare

sereno; già da tanto darei pace
al caos che non governo,
al numerare ostico e rapace

che cresce dall’interno.
Sarei abituato, se si può
abituarsi a questo; farei perno

sull’aver visto ancora tutto ciò,
e sul non esserne stato travolto.
Mestiere avevo, a quel tempo, però:

e solo quello. Sì, certo, era molto:
e resta dentro me felice e intatto,
nessuno me l’ha tolto.

È mio. Lo uso per darmi riscatto
quando sono confuso;
adesso mi succede - stupefatto

rimango dunque, una forma d’abuso
che non avevo previsto per niente.
Fossi mai stato una volta colluso

con la felicità dell’altra gente!
E invece nulla. Restavo di fuori.
E calcolavo. Ricordo sovente

quando, coi miei canonici furori,
muto cercavo stranezze nascoste,
quantificavo errori,

trovavo formule come risposte.

---

Eccoci giunti alla fine della puntata. La prossima settimana ci ritroveremo a parlare di cognizione del dolore da un punto di vista meccanico, filosofico, algoritmico e farmacologico.

Sillabe è un progetto completamente gratuito, ma mi costa impegno e fatica. Chi volesse supportarmi può passare su Amazon a comprare qualche libro mio, pescando dall’elenco che si trova su questa pagina.

Se già non lo siete, potete poi iscrivervi alla newsletter, in modo che vi arrivi nella casella della posta (controllate lo spam, se non la vedete); potete diffondere questi post, o il progetto stesso di Sillabe. Condividere è bello. A condividere non si sbaglia mai.

A presto!