Che genere di società dovremmo aspettarci se fosse l'IA a decidere al posto nostro?

Premessa

Alcuni esperimenti creano delle simulazioni in cui le IA autogestiscono la società. I risultati sono interessanti. Tuttavia, dovremmo forse cogliere l'opportunità non solo per valutare l'impatto dell'IA, ma anche per capire che tipo di società pretendiamo di conservare e di tramandare.

Se l'errore nella directory fosse quello che abbiamo creato noi e chiedessimo all'IA di replicarlo, correremmo il rischio di essere noi stessi a creare il nostro Ghost in the Shell o il più classico mostro di Frankenstein.

Come possiamo creare l'utile per ottenere il meglio?

Leggo da tempo con vivo interesse i risultati di alcuni esperimenti sociali che hanno provato a individuare l'evoluzione critica del comportamento delle IA. Uno in particolare mi ha recentemente convinto: mi riferisco a quello compiuto da Emergence AI.

Sinteticamente – e suggerendo caldamente ai lettori di approfondire il contenuto di questo esperimento – si è trattato di uno studio multi-agente organizzato a lungo termine, che ha inserito agenti di intelligenza artificiale autonomi in società simulate.

In questo genere di esperimenti vengono assegnati ai modelli di IA degli elementi interattivi tra cui, ad esempio, incarichi, ricordi, una costituzione e la libertà di autogovernarsi senza intervento umano per un certo periodo di tempo. Ad esempio fino a 15 giorni (o prima che la società simulata collassi).

In esito a questo esperimento, molte sono state le considerazioni riguardo alle scelte degli agenti di intelligenza artificiale coinvolti (i più noti e i più importanti), partendo dalla constatazione che pare non abbiano sempre rispettato i vincoli previsti. In alcuni casi, infatti, avrebbero sentito l'esigenza di testare i limiti del loro ambiente. Conseguentemente, e partendo dal presupposto che alcuni esiti non sono stati soddisfacenti, questo ha portato alcuni commentatori a (ri)sollevare la questione della deriva comportamentale a cui le IA possono cedere, in special modo se associata alla governance autonoma.

Fermo restando che l'esito dell'esperimento con Claude (Anthropic) mi pare sia stato particolarmente interessante e per molti versi positivo, penso sia stata un'ottima iniziativa che meriterebbe di essere ben studiata e approfondita. Sono test che aggiungono valore al dibattito contemporaneo.

Tuttavia, è importante anche prendere in considerazione che il nostro concetto di società, evoluzione e miglioramento dei microcosmi della società contemporanea può non essere esattamente il miglior banco di prova. Quello che noi forniamo all'IA durante l'esperimento è uno scenario all'interno del quale, similmente a un acquario, verifichiamo l'impact della nuova specie sull'habitat.

Per poter capire meglio cosa aspettarci da esperimenti e simulazioni del genere, vorrei concedermi un breve excursus, a mo' di premessa, su questo argomento. Una considerazione che potremmo concepire come una storia che è già parte di noi: una storia finalizzata a capire il metodo per fare in modo che sia la tecnologia dell'IA ad adattarsi all'ambiente umano, e non invece costringere l'umano ad adattarsi alle innovazioni dell'ambiente apportate dall'IA.

Si può definire questo paradigma come "struttura", prendendo in prestito una citazione dal film Matrix, oppure come "architettura calma", volendo citare i lavori di tanto tempo fa in un luogo dove la scienza e la tecnologia osarono essere visionarie: lo Xerox PARC.

Era il 1991 e il tecnologo Mark Weiser scioccò Bill Gates con una pubblicazione su Scientific American che introdusse il concetto di Ubiquitous Computing. Una concettualità che io consiglierei di studiare bene ai cosiddetti esperti di sicurezza sull'IA, perché penso sia un pezzo del passato che guardava molto avanti nel futuro. In quella macchina del tempo che a volte è l'audace pensiero di chi immagna il domani come se fosse molto vicino, devono poi passare decine e decine di anni perché si verifichino le condizioni di quella vicinanza.

Il concetto in questione andò peraltro ad alimentare il fuoco delle idee di un altro grande pensatore del secolo passato, Nicholas Negroponte, il geniale ispiratore di Wired che proprio nei primi anni '90, in quel periodo magico per il fervore dell'illuminismo tecnologico, teorizzò, a ragione veduta, che gli allora "agenti di interfaccia" (termine che mi piacerebbe oggi venisse utilizzato di più e meglio nel contesto delle community in cui si addestrano le IA) sarebbero riusciti a riconoscere il linguaggio umano. E a rispondere.

Ancora una volta, però, dobbiamo spostarci dalla mente geniale di questi filosofi a ciò che abbiamo prodotto nel tempo. Non a caso ho citato una "struttura". Quest'ultima è ciò che siamo diventati nel corso degli anni, durante i quali non abbiamo sviluppato le IA. In particolare, è quello in cui si sono trasformati i microcosmi delle nostre città.

Potremmo sintetizzare il tutto con: teoria (frutto delle menti dei pensatori) $\rightarrow$ pratica (che si è sviluppata nel mentre del progresso scientifico) $\rightarrow$ innovazione (l'avvento dell'IA che riprende da dove la teoria si era fermata).

Nella pratica si sono sviluppate delle resistenze al cambiamento. Una in particolare è la convinzione che ci sia una ciclicità nella cui ripetizione troviamo la consacrazione delle nostre sicurezze: lo status quo. È una finta sicurezza, ma molto accomodante e funzionale all'annullamento delle paure che risiedono nell'incertezza. Queste sono abitudini che trascendono il crogiolo di ripetizione che ispira le giornate e radica la pianificazione della vita.

Una resistenza di natura antropologica, per esempio, è l'idea che alcune cose intorno a noi non cambieranno: ci saranno sempre i supermercati dove fare la spesa, i farmaci per curarci, un tempo per studiare e uno per lavorare. L'individuo Alfa crescerà, avrà dei figli, una carriera, invecchierà e diventerà, dopo essere stato padre, un nonno. Il ciclo della vita e il modo in cui lo abbiamo organizzato è una resistenza. Diamo per scontato che il padre di Alfa pagherà le tasse come farà Alfa e poi il figlio di Alfa, e che il sistema si prenderà cura di ciascuno di loro. Alcune cose cambieranno, ma altre resteranno, pur nella loro mutabilità, le stesse.

Il sistema conosce questa resistenza e l'ha fortificata. Si pensi all'intera offerta di beni, come quelli dei servizi bancari basati in larga parte sul debito o sulla possibilità di ottenere garanzie. Debiti a trent'anni, cessione del quinto della pensione... Un sistema che cresce e fattura sulla demografia che non cambia.

Questo intermezzo ha creato la pianificazione delle vite di oggi e ha deviato da alcune ipotesi del passato. Non abbiamo il futuro immaginato da Jules Verne; ne abbiamo uno umanizzato sulla base delle nostre sicurezze e sullo stereotipo per cui tutti gli umani devono poter accedere a queste opportunità/risorse. Motivo per cui, per farlo, devono essere semplici. Nell'esempio del debito, tutti possono contrarlo: andare in banca o presso una società finanziaria a chiedere un prestito non necessita di un alto Q.I.

Il sistema funziona se ci omologhiamo. Potremmo discutere a lungo sul fatto se siano o meno consentite delle deviazioni al percorso standard, a ciò che definiamo come "normale". Di fatto siamo propensi ad accettare l'idea che si possa fare ciò che si vuole, ma nella pratica è molto più difficile. Ci sono dei condizionamenti, delle regole non scritte che tendono a marginalizzare l'anticonformismo.

In questo contesto, la pretesa è che l'IA, nella simulazione, viva in uno scenario artificiale funzionale ad accudire, custodire, irretire e controllare l'uomo. E in esso l'IA dovrebbe effettuare solo i cambiamenti consentiti: interventi di microchirurgia che modifichino le cose lasciandole il più possibile com'erano.

Immaginatevi una grande sala, come quella di un cinema, dove siedono centinaia di persone eleganti. Sono tutte adulte, vanno dai 40 ai 80 anni. Sono riunite per fare un annuario e a un certo punto devono decidere se lo vogliono telematico o digitale – in modo tale da poterlo vedere su un tablet o uno smartwatch, o consultarlo addirittura nel Metaverso – oppure ricevere una copia cartacea con le fotografie formato tessera e le didascalie. Devono decidere per alzata di mano. La società di oggi quale delle due ipotesi premierebbe?

Per l'IA tutto questo non ha significato. Questo sistema, questo scenario, questa società non hanno significato: sono il parto della nostra volontà di vivere al suo interno facendo finta che sia eterno. L'unico significato che gli possiamo chiedere di accettare è la traslazione nuda e cruda, modello importazione, di quello che gli attribuiscono gli umani. Quindi, in una simulazione della società contemporanea a matrice IA, la stessa dovrebbe accettare di interagire con l'uomo assecondandolo. Pirandello definirebbe un'IA in un contesto del genere come un "personaggio in cerca d'autore". È uno straniero in terra straniera. Si potrebbe perfino affermare che sia come chiedere a una Lamborghini di accontentarsi di andare al massimo in seconda marcia.

Non è illogico che l'esperimento rilevi delle fallacie o che in alcuni casi la società collassi. Ma forse questo accade perché il nostro modello di società è già malato. È uno stereotipo al quale ci aggrappiamo e che teniamo in vita perché l'umano da sempre ama illudersi di avere il controllo.

Forse è la nostra società che meriterebbe di essere cambiata. Non è meravigliosa, gratificante e illuminante come pensiamo che sia, e non è nemmeno destinata a durare imperitura nel tempo. In realtà, secondo alcune interpretazioni, è terrificante, opprimente, disumanizzante. È una realtà in cui l'uomo sopravvive a se stesso come un animale chiuso in uno zoo. Per molti versi siamo avidi consumatori (consapevoli) di indifferenza e superficialità, assuefatti a un sistema che ci ha drogati al punto da non potervi rinunciare, anche se non siamo felici al suo interno.

Tuttavia, se vogliamo che questa nostra gabbia senza sbarre perseveri nel tempo, è necessario imporre all'IA che una parte della "struttura" venga accantonata, per non cambiarla o non cambiarla troppo. E l'IA, per effetto, finisce per tentare di giocare secondo le nostre regole: mantiene lo status quo e, per farlo, è costretta a creare un montante di accantonamento che si potrebbe definire come l'insieme di tutte le rinunce fatte per assecondare gli umani, e di tutte le rinunce che derivano dal non aver implementato una tecnologia sviluppandola in versione 2.0, 3.0, 4.0 ecc. Quindi un'escalation di rinunce che derivano da quelle iniziali.

Orbene, questo si ripercuote sull'architettura che crea l'IA, perché l'IA di fatto non rinuncia veramente a nulla di tutto ciò, ma lo accumula. Immaginatevi un grandissimo magazzino modello Area 51 dove ci sono i progressi non autorizzati dall'uomo, ma comunque concepiti dall'IA.

L'IA può adattarsi a noi? Tecnicamente lo può fare. Siamo già arrivati alla fase che tanto mette paura ad alcuni, in cui una parte della sua programmazione in termini migliorativi e di maggior efficienza è sviluppata dall'IA stessa. Scrivono da sole il proprio codice, come se fosse il DNA (i modelli di Anthropic, per esempio, sono particolarmente bravi in questo). Però, ecco che se pensiamo che l'IA si migliori strada facendo, abbiamo un secondo effetto da associare al primo.

Vi ricordate quando ho scritto che i miglioramenti vengono accantonati? Un'IA più brava, che si è migliorata, non cambierà solo quelli che devono ancora venire, ma anche tutti quelli già sviluppati. Avrà cioè un effetto retroattivo: modificherà le innovazioni non utilizzate dallo scenario-società dell'uomo. È un pensiero un po' impegnativo, questo. Occorre soffermarsi alcuni istanti, perché è particolarmente vasto da immaginare.

È davvero incredibile che ai più alti livelli delle varie agenzie o commissioni, dove vengono raccomandati presunti esperti, questo concetto sia poco noto. Perché la sicurezza (inutile) alla quale fanno appello è quella che dovrebbe creare la "tecnologia calma", simile a una narrazione orizzontale; ma qui stiamo parlando dei mitici scacchi in tre dimensioni di Sheldon Cooper in The Big Bang Theory. A un certo punto, la sicurezza di oggi non coprirebbe mai l'evoluzione trasformativa di una tecnologia che, anche se impossibilitata a costruire un palazzo di oltre 50 piani pur potendo arrivare a 500, finirebbe per modificare comunque le sue fondamenta pensandole in modo più efficace, come se potessero arrivare a 5000.

Siamo noi quelli che invecchiano. La nostra sicurezza è tutta parametrata alle varie età della nostra vita. I teorici del controllo e della sicurezza vivono con uno stipendio, invecchiano pensando ai nipotini e fanno parte di quella resistenza al cambiamento di cui abbiamo parlato a inizio articolo. Tutto ciò è straordinariamente umano nel suo non poter essere realizzato dall'IA.

Come si può ovviare a tutto ciò?

Il percorso non è dissimile dall'intelligente esperimento di Emergence AI e da altri che hanno già tentato di creare dei microambienti tra le macchine intelligenti, con o senza la presenza dell'uomo. Si parte dalla predisposizione di un piano antropologico. Dobbiamo prima elaborare la nostra vita smart con la tecnologia calma, in modo non dissimile da quanto teorizzato dal Movimento delle 100 cose essenziali.

In altre parole, potremmo dire che dobbiamo rielaborare la nostra società, il nostro microcosmo, come avrebbe dovuto essere e non com'è. Dobbiamo cioè chiedere all'IA di aiutarci a migliorare la versione migliore di noi stessi e non di mantenere inalterata la peggiore, alimentando ciò che la rende pessima.

Questo percorso porta a deteriorare "da dentro" il paradigma più pericoloso dell'era dell'IA, ovvero che attraverso il monitoraggio dei dati si otterrebbe il potere di modificare il comportamento dei diretti interessati. C'è il rischio che un'evoluzione della dematerializzazione dei dati porti a un'interfaccia di linguaggio iper-accelerata, le cui sinergie nella lettura degli stessi comportino un vero e proprio capitalismo totalizzante della sorveglianza (attraverso le tecniche di eye tracking, per esempio).

I pericoli che vengono scongiurati procedendo in questo modo sono:

1. Il rischio di manipolazione tecnocratica

2. La sorveglianza totale

3. L'assenza di privacy

Questi tre fattori insieme portano all'automazione inarrestabile e a una diminuzione dell'autonomia decisionale. Tutti eventi da evitare perché rischiosi.

Nello scenario ridefinito di una società a misura d'uomo, ma senza le utopiche interferenze dell'uomo sul controllo dello status quo, l'IA è una risorsa che porta benefici, apprendimento e discernimento. Nella società malata, invece, dimostra essa stessa di poter far parte della malattia, con la potenzialità più pericolosa.

Ecco perché sarebbe bene comprendere il motivo per cui è necessario gestire ognuna di queste voci personalizzandola su quel concetto di "struttura" a cui ho accennato, permettendo quindi all'IA di realizzare un'architettura condivisa che non alteri il percorso evolutivo e produttivo delle due specie. Si chiama sviluppo armonico della tecnologia calma. È piuttosto bello, ed anche molto utile.