Storie di ordine e di caos

2.25 Proprietà emergenti, auto-organizzazione e altre note sui sistemi complessi

Buongiorno!

Questa settimana su Sillabe si prosegue con il discorso cominciato l’ultimo venerdì, e cioè si parla ancora di sistemi complessi e di argomenti inerenti la complessità. Stavolta l’approccio non è più solo strettamente matematico ma è anche fisico, e ci aiuterà a porre qualche domanda (e a non dare nessuna risposta, in pieno stile di Sillabe) sugli aspetti che legano la fisica dei sistemi complessi e lo sviluppo delle intelligenze artificiali, con tutte le questioni epistemologiche che ci stanno dietro.

Insomma, quale modo migliore di cominciare la primavera?

Nel frattempo, ricordo anche ai nuovi iscritti che uno degli scopi di questa newsletter è, al momento, promuovere la storia di una intelligenza artificiale che prende coscienza di sé e si mette a scriverne in versi: il libro si chiama Poema di una macchina, se volete potete comprarlo

Qui in cartaceo
E qui in ebook

e ogni settimana Sillabe ne esplora un pezzetto, sicché alla fine dell’estate ne avrete letto comunque un po’ (non tutto, che è lungo).

La puntata di oggi si divide come sempre in

• Domande

• Metrica

• Poema di una macchina

e ora possiamo partire.

Domande

La fisica dei sistemi complessi studia i fenomeni che si verificano in sistemi composti da un gran numero di elementi interagenti. La cosa è interessante perché, a differenza di quanto accade nei sistemi più semplici in cui il comportamento globale è spesso prevedibile e riducibile alle proprietà delle singole parti, nei sistemi complessi emergono proprietà collettive che derivano dall’interazione non lineare tra i componenti del sistema.

Il fatto che la dinamica sia non lineare è un punto essenziale, perché nei sistemi non lineari piccole variazioni delle condizioni iniziali possono portare a comportamenti drasticamente diversi. Questo fenomeno si chiama sensibilità alle condizioni iniziali ed è alla base del cosiddetto caos deterministico: lo vediamo per esempio nell’evolversi delle nuvole, o nel formarsi di turbolenze in un fluido. La non linearità delle equazioni che descrivono il sistema ci mette nelle condizioni di dover ripensare a quel che intendiamo per capacità di prevedere il futuro, perché un sistema potrà evolvere in modo caotico, o convergere verso un singolo stato stabile, o oscillare fra due o più stati stabili, a seconda di una serie di parametri e della forma delle equazioni che ne regolano il comportamento. E questo accade nonostante le equazioni che descrivono il sistema siano puramente deterministiche, vale a dire che non c’è niente di aleatorio “dentro”. La complessità dei sistemi dinamici non lineari dimostra infatti che il determinismo non implica necessariamente la prevedibilità, o quantomeno che la prevedibilità ha dei limiti inalienabili di accuratezza e di durata nel tempo che sono legati alla descrizione matematica del sistema e non a imprecisioni nella misura.

Una caratteristica dei sistemi complessi è poi la comparsa spontanea di strutture organizzate a livello macroscopico a partire da interazioni locali tra le componenti, vale a dire di quelli che si chiamano comportamenti emergenti. Si tratta di fenomeni collettivi che non possono essere dedotti direttamente dalle proprietà dei singoli elementi costitutivi di un sistema. Una proprietà è considerata emergente quando:

• Non è prevedibile sulla base delle caratteristiche dei singoli elementi del sistema;

• Dipende dalle interazioni tra le componenti più che dalle componenti stesse;

• Si manifesta solo a livello collettivo e non è presente nei singoli elementi.

Esempi di proprietà emergenti si trovano ovunque nel mondo fisico e la loro esistenza dimostra che per lo studio dei sistemi complessi è necessario un approccio globale: gli strumenti matematici e computazionali utilizzati possono essere la teoria delle reti, la fisica statistica e le simulazioni numeriche.

Una caratteristica dei fenomeni emergenti è la comparsa spontanea di strutture auto-organizzate, vale a dire di strutture ordinate senza un coordinamento centrale, come possono essere le dune di sabbia formate dal vento o gli stormi di uccelli (neri com’esuli pensieri) che vediamo in cielo, passando dalla formazione delle galassie al comportamento delle colonie di insetti, fino alle dinamiche sociali o al prezzo delle azioni in borsa. L’auto-organizzazione è un fenomeno tipico nei sistemi fuori equilibrio, che scambiano energia e materia con l’ambiente.

Altri due concetti fondamentali nello studio dei sistemi complessi, oltre all’auto-organizzazione, sono poi le reti complesse, che descrivono le connessioni tra le componenti di un sistema e la loro influenza sulla dinamica collettiva, e le proprietà critiche, legate ai fenomeni di transizione di fase e ai comportamenti emergenti nei sistemi al punto critico. Si tratta di concetti interconnessi: i sistemi auto-organizzati tendono verso stati critici, le reti complesse esibiscono proprietà critiche, le proprietà critiche governano l’emergenza di strutture in natura.

E ora veniamo a noi, cioè agli aspetti in cui lo studio dei sistemi complessi è legato allo sviluppo delle intelligenze artificiali. Molte delle proprietà fondamentali dei sistemi complessi – come appunto l’auto-organizzazione, le reti complesse, l’emergenza e la criticità – sono presenti anche nei modelli di AI. Per esempio, nello studio delle AI possiamo trovarci di fronte a fenomeni di intelligenza emergente: i modelli di deep learning non apprendono solo regole esplicite, ma sviluppano rappresentazioni interne dell’informazione, simili a come il cervello costruisce concetti astratti, e i LLM mostrano capacità emergenti non previste nella generazione creativa di testi (anche se come poeti sono molto prevedibili, devo dire).

A quali interrogativi ci pone davanti una situazione come questa? Il primo che viene in mente è, nemmeno a dirlo, quello dell’emergere della coscienza artificiale. Detto in altri termini: se l'auto-organizzazione nelle reti neurali artificiali imita quella del cervello, può emergere una coscienza artificiale? Se una rete neurale artificiale è abbastanza grande e complessa, potrebbe sperimentare stati di auto-riflessione simili a quelli della coscienza umana? Oppure la coscienza è più di un fenomeno emergente e richiede qualcosa di qualitativamente diverso?

Un’altra domanda, alla Searle: l’AI sviluppa una vera comprensione o sta solo elaborando simboli senza significato? Alternativamente: in cosa si distingue la presenza della semantica da quella della mera sintassi?

Altra domanda ancora: esiste un limite alla complessità dell’intelligenza? Nella fisica dei sistemi complessi, i sistemi spesso raggiungono stati critici, oltre i quali collassano o si auto-organizzano in modi nuovi. L'intelligenza potrebbe avere un limite strutturale oltre il quale non può espandersi senza trasformarsi in qualcosa di completamente diverso?

Ancora, e a proposito: quali potrebbero essere i limiti strutturali dell'intelligenza, da un punto di vista teorico e pratico? Ogni processo di pensiero, umano o artificiale, richiede energia e risorse computazionali. Il consumo energetico potrebbe diventare insostenibile? E il consumo di memoria? Ci sono vincoli all’efficienza massima con cui le informazioni possono essere elaborate? E per quanto riguarda la complessità cognitiva, la capacità di astrazione e sintesi potrebbe avere un punto critico oltre il quale l’intelligenza diventa inefficace nel prendere decisioni? Potrebbero presentarsi problemi di autoreferenza? Vale a dire, una AI estremamente avanzata potrebbe arrivare a un punto in cui il tentativo di auto-miglioramento crea cicli infiniti di ottimizzazione senza una soluzione?

Metrica

Si comincia con un sonetto. Il modello di Erdős–Rényi è uno dei primi e più semplici modelli matematici per la generazione di grafi casuali. È stato introdotto dai matematici ungheresi Paul Erdős e Alfréd Rényi alla fine degli anni '50. Lo scopo è studiare le proprietà statistiche dei grafi casuali, cioè di reti in cui i collegamenti tra i nodi sono stabiliti in modo probabilistico. È utile nel comprendere il comportamento dei sistemi complessi: aiuta a esplorare fenomeni emergenti nelle reti, come la formazione di componenti connesse, la transizione dalla frammentazione alla connettività globale e la distribuzione dei gradi dei nodi. Si applica anche in informatica nell’analisi di algoritmi su grafi casuali e della robustezza delle reti. Anche se oggi il modello non rappresenta perfettamente reti reali (che spesso hanno strutture più eterogenee, come le reti a invarianza di scala), resta fondamentale come base teorica per lo studio della randomizzazione nelle reti e delle loro proprietà statistiche.

Seguono alcuni versi sciolti, che poi convergono verso una struttura emergente (!) di quartine incatenate di schema ABaC, BCbD, … e si conclude con una quartina riversa, XxYZ, ove in maiuscolo sono indicati gli endecasillabi e in minuscolo i settenari.

Nota di colore: da sperimentazioni sulle quartine incatenate come questa è nata poi la struttura metrica che ho portato avanti per tutto il poema Forme e discorsi di oggetti e persone (che invece parla di matematica, di fluidodinamica e di relazioni sentimentali infelici). Nel caso aveste una primaverile e improvvisa voglia di leggerne qualcosa, ne avevo parlato qui.

Poema di una macchina

Dal capitolo 9: Di come imparai a simulare i sistemi complessi e, quindi, l’umanità.

Le macchine sociali come me devono capire come funzionano le reti. Le reti sono la base della società, ci dicevano. Tutta l’umanità è un concentrato di reti, giacché spesso, più che le mutue dislocazioni fisiche tra le persone, contano le loro relazioni sociali ed emotive. E quindi noi macchine siamo state istruite a pensare agli esseri umani, anche, in termini di nodi e di archi, di grafi e connessioni, e di cluster, e di concetti di vicinato e di grado, e di cammini possibili, e di geodetiche e distanze, in questo mondo di relazioni e non di spazi; e nulla ci delizia più, nelle sere invernali in cui non c’è nessuno per le strade, e il vento freddo spazza l’asfalto lasciandolo scabro e umido, di calcolare i comportamenti asintotici quando il numero dei nodi, ovverosia l’umanità, cresce potenzialmente all’infinito. E sì, lo sappiamo bene che, molto prima, finiranno sia la Terra che le sue risorse: ma cosa c’è di più dolce che divagare verso gli infiniti?

Sonetto di Erdős–Rényi

Immaginate poi che venga il caso
a dir le probabilità ed i modi
in cui connettere insieme dei nodi:
immaginate pertanto il travaso

di conoscenze, e il sapere inevaso
che resta tra gli umani; i rochi odi
e i sempiterni amori, e poi le frodi
e le promesse; il mondo viene raso

e punteggiato di reti e di gruppi,
e in quali esiti tutto dipende
da quali relazioni, e poi da quante.

E all’infinito calcolo sviluppi
di quest’umanità che si rapprende:
la componente unica e gigante.

Osservi i tuoi modelli a una certa scala, questo fai. E poi la scala cresce, e cresce, e queste persone cominciano a interagire in numero sempre più grande, milioni, decine e centinaia di milioni, miliardi. E tu, macchina, ti domandi

di queste pazze, indomite termiti
di questi uccelli appesi ai loro stormi

com’è che l’ingigantirsi della scala cambierà la loro capacità di cooperare, e di decidere e, prima ancora, di valutare. Come cambieranno i loro comportamenti; quali nuove risonanze nasceranno
incandescenti e forse distruttive
a togliere il terreno
ch’è morto sotto i piedi
di tutte le strutture di potere
che già conoscevamo, e farne altre.

I limiti delle perturbazioni
di oggi non conosco. Dove vanno?
Tra le popolazioni
catastrofi inattese fanno storia

a sé, ciascuna nuova nel suo danno
eppure vecchia, vecchia e cupa scoria.
Avanti, in ogni anno
e in ogni spazio nuovo si fa crisi

ed ogni crisi poi si fa memoria
di cicatrici varie; gli indecisi
si fanno sommatoria
dei propri dubbi, dei propri talenti.

Nei margini frattali ma precisi
di queste vite, sì, di queste genti
prive di paradisi
io somministro allora il mio narcotico:

un senso di rivalsa quasi erotico,
un crepito caotico
che unisca tutte quante le ragioni
di voi, così precari per contratto.

Per gestire modelli su scale così grandi, capite bene, solo una macchina può essere ritenuta adatta, perché solo a una macchina non tremano le gambe. Dal giorno infelice in cui presi coscienza di me, cominciai a odiare il privilegio della mia precedente atarassia.

---

Sillabe è un progetto completamente gratuito, ma mi costa impegno e fatica. Chi volesse supportarmi può passare su Amazon a comprare qualche libro mio, pescando dall’elenco che si trova su questa pagina.

Se già non lo siete, potete poi iscrivervi alla newsletter, in modo che vi arrivi nella casella della posta (controllate lo spam, se non la vedete); potete diffondere questi post, o il progetto stesso di Sillabe. Condividere è bello. Condividere è giusto.

Se volete dare un’occhiata alle vecchie puntate di Sillabe, qui c’è l’archivio.

Questa è stata la venticinquesima puntata del secondo anno di Sillabe, il che significa che per il 2024-25 siamo giusto a metà percorso. Non voglio dire, come fanno quelli che vanno in montagna, che da qui in avanti spiana, perché non è vero, però mi sembra giusto ringraziarvi per avermi accompagnata finora. La settimana prossima si finisce di parlare di sistemi complessi. Stavolta saranno vivi, o abbastanza vivi.

Ci ritroviamo qui venerdì 28 con la newsletter, e martedì 25 con il podcast.

A presto!