Con l'IA passeremo dalla società della prudenza a quella della prevenzione

In questo articolo rifletterò sulle più recenti evoluzioni della società del sapere dell'IA, partendo da quanto incida la trasformazione dalla società della prudenza a quella della prevenzione. Fornirò alcuni spunti di riflessione su come i modelli possano predire il futuro e adeguarsi al miglior risultato utile automigliorandosi. Infine, cercherò di spiegare come questi concetti siano incredibilmente importanti e non possano essere sottovalutati, poiché rappresentano il modo in cui vivremo nell'immediato futuro.
**************************
Credo sia interessante riflettere sul fatto che l'IA ci trasferirà dalla società della prudenza a quella della prevenzione. Forse alcuni danno per scontato che siano la stessa cosa. Non è così. Le dimensioni e le proporzioni di questa differenza ci portano a concepirla in rapporto all'utilità e alla praticità con cui interagiamo con essa. Se un'interazione è forte, tendiamo a massimizzarne l'effetto in termini di efficacia.
Per capire l'impatto trasformativo, possiamo pensare a un bambino che deve attraversare la strada in compagnia della mamma o del papà. Con amorevole attenzione, i genitori prendono la sua mano, lo conducono sulle strisce pedonali, gli danno le indicazioni utili e gli dicono di fare attenzione. La prudenza impone loro di prendere in considerazione due fattori:
-
Prima o poi il figliolo crescerà e sceglierà di attraversare la strada fuori dalle strisce;
-
Anche se rispetterà le regole, non è detto che il pericolo non sia comunque in agguato; pertanto, dovrà fare attenzione anche quando attraverserà sulle strisce pedonali.
Per l'IA, il modello e il paradigma sono invece basati sulla prevenzione. Un'intelligenza artificiale non riesce a tradurre il sentimento di amore che anima la paura e che porta alla prudenza. Vorrei che chi legge approfondisse gli studi sulle reti neurali di Frank Rosenblatt, sul perceptron multistrato di Geoffrey Hinton e sui sistemi di reti neurali di John Hopkins. Bisogna comprendere che reti neurali, LLM e IA sono tre cose diverse, non due.
Un LLM è un sistema di addestramento predittivo. Ai fini di questo articolo, riflettiamo sul fatto che esso si basa su due momenti: il pre-addestramento, che costituisce la formazione, e il post-addestramento, che rappresenta l'applicazione. Se c'è particolare interesse, si può leggere lo studio denominato "Attention Is All You Need", che parla dell'architettura "transformer" la quale ha successivamente portato al concetto, oggi in uso, di "generative pre-trained". Al lettore basti sapere che non si tratta di un'attività statica, bensì dinamica e fluida, influenzata dalla possibilità di riscrittura del codice che, ai fini di questo articolo, chiamerò impropriamente "sorgente".
Per darvi una metafora, è come se alle scuole elementari studiaste per la prima volta l'antica Roma, poi la studiaste ancora alle medie e successivamente alle superiori. Capite che non è la stessa cosa, anche se l'antica Roma è, paradossalmente, sempre la stessa.
Torniamo però all'amore. Non c'è amore in questo addestramento e non c'è amore nelle soluzioni pratiche dell'IA. Può esserci la mano che ti conduce nell'attraversamento della strada; tuttavia, non è amore ciò che la ispira. Però c'è prevenzione. La domanda che dobbiamo porre è pertanto la seguente: una prevenzione ottimizzata e massimizzata è sufficiente? Può cioè sostituire l'aspetto relativo alla prudenza che nasce dall'affezione? Se la risposta è negativa, ciò che otterremo è un disallineamento. Questo accade perché lo sviluppo della tecnologia e la ricerca scientifica sono due cose diverse.
Giustamente il lettore potrebbe porsi un quesito e domandarsi come tutto ciò possa influenzare nella pratica il futuro. Sarebbe banale parlare delle applicazioni pratiche nelle auto a guida autonoma. Preferisco invece suggerire un altro test che, ovviamente, è già stato condotto e sviluppato, ma del quale non è possibile parlare in termini di risultati poiché sono riservati.
Potete provare ad applicare le capacità predittive di alcuni agenti IA alle scommesse sugli eventi. Prendete quale ipotetico esempio siti come Polymarket: ci sono aree pensate proprio per l'impatto trasformativo dell'IA. Tuttavia, potreste non trovare indicazioni utili per scommettere in modo vincente tramite gli agenti IA che già utilizzate, ad esempio perché pagate un abbonamento. Provate però a configurarne uno, un modello agentico. Personalizzatelo sulle vostre esigenze e introducete la differenza che vi ho suggerito: quella tra società della prudenza e società della prevenzione. Vedrete che i risultati saranno più accurati e le vostre previsioni proiettate su un futuro più probabile e verosimile.
La verosimiglianza è un concetto molto importante per capire come l'IA interpreti lo svolgimento delle proprie istruzioni. Potenzialmente, la verosimiglianza è in grado di spiegare e predire i migliori successi che l'IA ci porterà nel prossimo futuro. Credo si possa affermare che, in questo momento, i risultati attesi dai modelli di IA siano basati sulla massima funzione di verosimiglianza narrativa, intesa come lo scostamento probabilistico tra i parametri distributivi che rappresentano i dati dell'addestramento.
Se una startup volesse ipotizzare un efficace business model, potrebbe sviluppare un post-addestramento mirato ad adeguare la verosimiglianza. Sarebbe come raffinare il petrolio dopo averlo estratto: aumenterebbe il benchmark dell'IA e renderemmo più incisivo l'aspetto della prevenzione. Perché, in mancanza di ciò, il rischio è che sia la società a doversi adeguare alla prevenzione e non il contrario, il che equivale a voler spingere a forza il pezzo sbagliato di un puzzle nel posto che non gli appartiene.
Con questo procedimento, e partendo dal ragionamento introdotto in questo articolo, si insegna all'IA il contenuto dell'analessi narrativa, affinché essa possa parametrare il proprio background, diventando un agente depositario di un sapere che è al contempo tecnico e narrativo. Rammentiamo l'errore corrente nel paradigma degli dèi dell'antica Grecia, laddove gli uomini accusavano le divinità dei loro mali e dei loro patimenti, quando in realtà se li procuravano da soli con le proprie ritualità e follie.
Il filosofo Jürgen Habermas ha introdotto alcuni canoni importabili in questo ragionamento, avuto riguardo alla necessità di una retrospezione critica che, attraverso la reinterpretazione, può portare a un'autoriflessione emancipativa. È questo il livello massimo in cui potrà essere ottimizzata, in termini di verosimiglianza, la prevenzione dell'IA: dotandola della capacità di adeguare se stessa e di prevedere gli eventi futuri.