testata ADUC
I cervelli hackerati votano
Scarica e stampa il PDF
Articolo di Redazione
6 gennaio 2019 17:29
 
 La democrazia liberale affronta una doppia crisi. Ciò che maggiormente focalizza l'attenzione è il noto problema dei regimi autoritari. Ma le nuove scoperte scientifiche e gli sviluppi tecnologici rappresentano una sfida molto più profonda all'ideale liberale di base: la libertà umana.
Il liberalismo è riuscito a sopravvivere, per secoli, a molti demagoghi e autocrati che hanno cercato di strangolare la libertà dall'esterno. Ma ha avuto poca esperienza, fino ad ora, con tecnologie in grado di corrodere la libertà umana dall'interno.
Per assimilare questa nuova sfida, iniziamo col capire cosa significa liberalismo. Nel discorso politico occidentale, il termine "liberale" è spesso usato in senso strettamente partigiano, al contrario di "conservatore". Ma molti dei cosiddetti conservatori adottano la visione liberale del mondo in generale. Il tipico elettore di Trump sarebbe stato considerato un liberale radicale un secolo fa. Fai tu stesso la prova. Pensi che le persone dovrebbero eleggere il loro governo invece di obbedire ciecamente ad un monarca? Pensi che una persona dovrebbe scegliere la sua professione invece di appartenere per nascita ad una casta? Pensi che una persona dovrebbe scegliere il proprio coniuge invece di sposare chi hanno deciso i loro genitori? Se rispondi sì alle tre domande, congratulazioni, sei liberale.
Il liberalismo difende la libertà umana perché presuppone che le persone siano entità uniche, diverse da tutti gli altri animali. A differenza dei ratti e delle scimmie, l'Homo sapiens, in teoria, ha il libero arbitrio. Questo è ciò che rende i sentimenti e le decisioni umane la massima autorità morale e politica del mondo. Sfortunatamente, il libero arbitrio non è una realtà scientifica. È un mito che il liberalismo ha ereditato dalla teologia cristiana. I teologi hanno elaborato l'idea del libero arbitrio per spiegare perché Dio fa bene quando punisce i peccatori per le loro decisioni sbagliate e premia i santi per le giuste decisioni.
Se non prendiamo le nostre decisioni liberamente, perché Dio ci punirà o ci ricompenserà? Secondo i teologi, è ragionevole che lo facciano perché le nostre decisioni sono il riflesso del libero arbitrio delle nostre anime eterne, che sono completamente indipendenti da qualsiasi limite fisico e biologico.
Questo mito ha poche relazioni con ciò che la scienza ci dice sull'Homo sapiens e su altri animali. Gli esseri umani, senza dubbio, hanno una volontà, ma non è libera. Non riesco a decidere quali desideri ho. Non decido di essere introverso o estroverso, calmo o irrequieto, gay o etero. Gli esseri umani prendono decisioni, ma non sono mai decisioni indipendenti. Ognuno di loro dipende da condizioni biologiche e sociali che sfuggono al mio controllo. Posso decidere cosa mangiare, chi sposare e chi votare, ma quelle decisioni dipendono dai miei geni, dalla mia biochimica, dal mio sesso, dalla mia famiglia, dalla mia cultura nazionale, eccetera; tutti elementi che non ho scelto.
Questa non è una teoria astratta, ma è facile da osservare. Pensa alla prossima idea che ti viene in mente. Da dove viene? Ti è venuta in mente liberamente? Certo che no. Se osservi attentamente la tua mente, ti renderai conto di avere un controllo limitato su ciò che accade in essa e che non decidi liberamente su cosa pensare, cosa sentire o cosa vuoi. Ti è mai successo che, la sera prima di un evento importante, tu provi a dormire, ma sei tenuto sveglio da una serie costante di pensieri e preoccupazioni più irritanti? Se possiamo scegliere liberamente, perché non possiamo fermare quel flusso di pensieri e rilassarci?
Animali piratabili
Sebbene il libero arbitrio sia sempre stato un mito, nei secoli precedenti era utile. Ha dato coraggio a coloro che hanno combattuto contro l'Inquisizione, il diritto divino dei re, il KGB e il Ku Klux Klan. Ed era un mito che aveva pochi costi. Nel 1776 e nel 1939 non fu molto serio credere che le nostre convinzioni e decisioni fossero il prodotto del libero arbitrio, e non della biochimica e della neurologia. Perché nel 1776 e nel 1939 nessuno capì molto bene la biochimica, né la neurologia. Ora, tuttavia, avere fiducia nel libero arbitrio è pericoloso. Se i governi e le aziende riescono a hackerare o piratare il sistema operativo umano, le persone più facili da manipolare saranno quelle che credono nel libero arbitrio.

Per far raggiungere gli esseri umani dai pirati, sono necessarie tre cose: una solida conoscenza della biologia, molti dati e una grande capacità di calcolo. L'Inquisizione e il KGB non riuscirono mai a penetrare negli esseri umani perché mancavano di quella conoscenza della biologia, dell'arsenale di dati e della capacità di calcolo. Ora, tuttavia, è possibile che sia le aziende che i governi abbiano presto tutto questo e, quando riescono a piratare, non solo possono prevedere le nostre decisioni, ma anche manipolare i nostri sentimenti.
Chiunque creda nella tradizionale storia liberale sarà tentato di minimizzare questo problema. "No, non succederà mai. Nessuno potrà mai piratare lo spirito umano perché contiene qualcosa che va oltre i geni, i neuroni e gli algoritmi. Nessuno può prevedere o manipolare le mie decisioni perché esse sono il riflesso del mio libero arbitrio". Sfortunatamente, ignorare il problema non lo farà andare via. Serve solo a renderci più vulnerabili.
Una fede ingenua nel libero arbitrio ci acceca. Quando una persona sceglie qualcosa - un prodotto, una carriera, un partner, un politico - si dice che lo scelga grazie al suo libero arbitrio. E non c'è più niente da aggiungere. Non c'è motivo di essere curiosi per sapere cosa succede dentro, a causa delle forze che lo hanno portato a prendere quella decisione.
Tutto inizia con dettagli semplici. Mentre qualcuno sta navigando su Internet, un titolo attira la sua attenzione: "Una banda di immigrati violenta le donne locali". Fare clic su di esso. Nello stesso tempo, anche la sua vicina sta navigando sul web e vede un titolo diverso: "Trump prepara un attacco nucleare contro l'Iran". Farà clic su di esso. In realtà, i due titoli sono notizie false, forse generate da troll russi, o da un sito web desideroso di attirare più traffico per migliorare i propri introiti pubblicitari. Sia la prima persona che il suo vicino credono di essersi indirizzati su quei titoli per il proprio libero arbitrio. Ma, in realtà, sono stati hackerati.
Propaganda e manipolazione non sono nuove, ovviamente. In passato agivano con massicci bombardamenti; oggi sono, sempre più, munizioni di alta precisione contro obiettivi precisamente scelti. Quando Hitler pronunciò un suo discorso alla radio, indicò un minimo comune denominatore perché non poteva costruire un messaggio su misura per ciascuna delle specifiche debolezze di ciascun cervello. Ora è possibile farlo. Un algoritmo può dire se qualcuno è già predisposto contro gli immigrati e se il suo vicino detesta già Trump, in modo che il primo veda un titolo e il secondo, invece, un altro completamente diverso. Alcune delle menti più brillanti del mondo hanno passato anni a studiare come hackerare il cervello umano per farci fare clic su determinati annunci pubblicitari e vendergli qualcosa. Il metodo migliore è premere i pulsanti di paura, odio o avidità che portiamo dentro. E questo metodo ha iniziato ad essere usato per venderci oggi politici e ideologie.
E questo è solo l'inizio. Per ora, i pirati si limitano ad analizzare i segnali esterni: i prodotti che acquistiamo, i luoghi che visitiamo, le parole che cerchiamo su Internet. Ma, tra qualche anno, i sensori biometrici potrebbero fornire un accesso diretto alla nostra realtà interiore e sapere cosa succede nei nostri cuori. Non il tanto amato cuore metaforico delle fantasie liberali, ma il muscolo che pompa e regola la pressione del sangue e gran parte della nostra attività cerebrale. Quindi, i pirati potrebbero correlare la frequenza cardiaca con i dati della carta di credito e la pressione sanguigna con la cronologia delle ricerche. Cosa avrebbero potuto fare l'Inquisizione e il KGB con braccialetti biometrici per monitorare costantemente il nostro umore e i nostri affetti? Sfortunatamente, ho l'impressione che conosceremo presto la risposta.
Il liberalismo ha sviluppato un impressionante arsenale di argomenti e istituzioni per la difesa delle libertà individuali contro gli attacchi esterni da parte di governi repressivi e religioni intolleranti, ma non è preparato per una situazione in cui la libertà individuale è minata dall'interno e dove, di fatto, i concetti di "libertà" e "individuo" non hanno più molto senso. Per sopravvivere e prosperare nel ventunesimo secolo, abbiamo bisogno di lasciarci alle spalle la visione ingenua degli esseri umani come individui liberi – una concezione ereditata della teologia cristiana e illuministica - e accettare ciò che in realtà sono gli esseri umani: animali piratabili. Abbiamo bisogno di conoscerci meglio.
Codici difettosi
Questo consiglio non è nuovo, ovviamente. Sin dall'antichità, i saggi e i santi non hanno smesso di dire "conosci te stesso". Ma ai tempi di Socrate, Buddha e Confucio, uno non aveva alcuna competizione in questa ricerca. Se non ti conoscevi, era ancora una scatola nera per il resto dell'umanità. Ora, invece, c'è competizione. Mentre leggi queste righe, i governi e le aziende stanno lavorando per violarti. Se ti conoscono meglio di quanto tu sappia, possono venderti tutto ciò che vuoi, sia esso un prodotto o un politico.
È particolarmente importante conoscere i nostri punti deboli perché sono gli strumenti principali per coloro che tentano di piratarci. I computer sono hackerati attraverso linee di codici difettose preesistenti. Gli esseri umani attraverso paure preesistenti, odi, pregiudizi e desideri. I pirati non possono creare paura o odio dal nulla. Ma, quando scoprono ciò che una persona già teme e odia, hanno gioco facile nello stringere i dati emotivi corrispondenti e provocare una furia ancora maggiore.
Se non riusciamo a conoscerci attraverso i nostri sforzi, forse la stessa tecnologia che usano i pirati può servire a proteggere le persone. Proprio come il computer ha un antivirus che lo protegge dal software dannoso, forse abbiamo bisogno di un antivirus per il cervello. Questo aiutante artificiale imparerà dall'esperienza quale sia la particolare debolezza di una persona - i video dei gatti o le notizie irritanti su Trump - e sarà in grado di bloccarli per difenderci.
Tuttavia, tutto ciò è solo un aspetto marginale. Se gli esseri umani sono animali da guerra e se le nostre decisioni e opinioni non sono il riflesso del nostro libero arbitrio, a che serve la politica? Per 300 anni, gli ideali liberali hanno ispirato un progetto politico che mirava a dare al maggior numero possibile di persone la capacità di perseguire i propri sogni e realizzare i propri desideri. Ci stiamo avvicinando sempre di più a raggiungere quell'obiettivo, ma ci rendiamo anche conto che, in realtà, è una bufala. Le stesse tecnologie che abbiamo inventato per aiutare le persone a perseguire i loro sogni ci permettono di ridisegnarle. Quindi, come posso fidarmi di qualcuno dei miei sogni?
È possibile che questa scoperta dia agli esseri umani un tipo di libertà completamente nuova. Fino ad ora, ci siamo identificati fermamente con i nostri desideri e cercato la libertà necessaria per soddisfarli. Quando ci è venuta in mente un'idea, avremmo fretta di obbedirle. Abbiamo trascorso il tempo correndo come pazzi, spronati, arrampicati su una furiosa montagna russa di pensieri, sentimenti e desideri, che abbiamo erroneamente creduto rappresentasse il nostro libero arbitrio. Cosa succederà se smettiamo di identificarci con le montagne russe? Cosa succederà quando osserveremo attentamente la prossima idea che emerge nella nostra mente e ci chiederemo da dove viene?
A volte la gente pensa che, se rinunciamo al libero arbitrio, diventeremo completamente apatici, ci rannicchieremo in un angolo e ci lasceremo morire di fame. La verità è che rinunciare a questo inganno può suscitare una profonda curiosità. Finché ci identifichiamo fermamente con qualsiasi pensiero e desiderio che sorge nella nostra mente, non abbiamo bisogno di fare grandi sforzi per conoscere noi stessi. Pensiamo di sapere già molto bene chi siamo. Tuttavia, quando ci si rende conto che "questi pensieri non sono miei, sono solo determinate vibrazioni biochimiche", capisci anche che non hai idea di chi o cosa sia. E questo potrebbe essere l'inizio della più eccitante avventura esplorativa che si possa intraprendere.
Filosofia pratica
Interrogare il libero arbitrio ed esplorare la vera natura dell'umanità non è nuovo. Gli umani hanno fatto questo dibattito migliaia di volte. Tranne che prima non avevamo la tecnologia. E la tecnologia cambia tutto. Gli antichi problemi filosofici si trasformano ora in problemi pratici di ingegneria e politica. E, mentre i filosofi sono persone molto pazienti - possono discutere un argomento per 3000 anni senza arrivare a nessuna conclusione - gli ingegneri non lo sono. E i politici sono i meno pazienti di tutti.
Come funziona la democrazia liberale in un'era in cui i governi e le aziende possono hackerare gli umani? Dove sono affermazioni come "l'elettore sa cosa è conveniente" e "il cliente ha sempre ragione"? Come vivere quando comprendiamo che siamo animali piratabili, che il nostro cuore può essere un agente del governo, che il nostro amigdala potrebbe funzionare per Putin e la prossima idea che ci viene in mente alla perfezione potrebbe non essere il risultato del libero arbitrio, ma di un algoritmo che ci conosce meglio di noi stessi? Queste sono le domande più interessanti che l'umanità deve affrontare.
Sfortunatamente, queste non sono domande che la maggior parte delle persone tende a porsi. Invece di indagare su ciò che ci attende oltre l'illusione del libero arbitrio, le persone si stanno ritirando in tutto il mondo per rifugiarsi in illusioni ancora più remote. Invece di affrontare la sfida dell'intelligenza artificiale e della bioingegneria, le persone ricorrono a fantasie religiose e nazionalistiche ancora più lontane del liberalismo delle realtà scientifiche del nostro tempo. Ciò che ci viene offerto, invece di nuovi modelli politici, sono i resti reimballati del XX secolo o anche del Medioevo.
Quando cerchi di indulgere in queste fantasie nostalgiche, finisci per discutere la verità della Bibbia e la sacralità della nazione (specialmente se, come me, vivi in un Paese come Israele). Per uno studioso, questo è deludente. Discutere della Bibbia era molto moderno ai tempi di Voltaire, e discutere dei meriti del nazionalismo era una filosofia d'avanguardia un secolo fa, ma oggi sembra una terribile perdita di tempo. L'intelligenza artificiale e la bioingegneria stanno per cambiare il corso dell'evoluzione, niente di meno, e abbiamo solo pochi decenni per decidere cosa fare. Non so da dove verranno le risposte, ma sicuramente non sarà nelle storie di 2000 anni fa, quando si sapeva poco della genetica e meno dei computer.
Cosa fare? Suppongo che dobbiamo combattere su due fronti contemporaneamente. Dobbiamo difendere la democrazia liberale non solo perché ha dimostrato che è una forma di governo più benigna di qualsiasi altra alternativa, ma anche perché è ciò che meno limita il dibattito sul futuro dell'umanità. Ma, allo stesso tempo, dobbiamo mettere in discussione le ipotesi tradizionali del liberalismo e sviluppare un nuovo progetto politico più in linea con le realtà scientifiche e le capacità tecnologiche del XXI secolo.

(articolo di Yuval Noah Harari *, pubblicato sul quotidiano El Pais del 06/01/2019)

* professore all'Università ebraica di Gerusalemme. Autore del libro "Sapiens: A Brief History of Humankind" (2011)
Pubblicato in:
 
 
ARTICOLI IN EVIDENZA
 
ADUC - Associazione Utenti e Consumatori APS