Sempre lui, Sant'Harari...
Da Dio, all’uomo, all’algoritmo
Scordatevi
di ascoltare voi stessi. Nell’era dei dati sono gli algoritmi a darvi le
risposte che cercate. Per migliaia di anni l’umanità ha creduto che
l’autorità venisse dagli dei, poi, durante l’età moderna, l’umanesimo
l’ha gradualmente spostata dalle divinità alle persone. Jaean-Jacques
Rousseau ha riassunto questa rivoluzione nell’Emilio (1762), il suo
famoso trattato sull’educazione, in cui spiega di aver trovato le regole
di comportamento da adottare nella vita “in fondo al mio cuore, scritte
dalla natura a caratteri indelebili. Io non ho che da consultare me
stesso su quel che voglio fare: tutto ciò che sento essere bene è bene,
tutto ciò che sento essere male è male”.
I pensatori
umanisti come Rousseau ci hanno convinto che i nostri sentimenti e
desideri fossero una fonte suprema di significato e che il nostro libero
arbitrio fosse dunque la più alta delle autorità.
Ora
si sta verificando un nuovo cambiamento. Così come l’autorità divina era
stata giustificata dalle religioni e l’autorità umana era stata
legittimata da ideologie umaniste, allo stesso modo i guru
dell’high-tech e i profeti della Silicon Valley stanno dando vita a una
nuova narrativa universale che legittima d’autorità degli algoritmi e
dei Big Data, un nuovo credo che potremmo chiamare “Dataismo”. I
sostenitori più estremisti del dataismo percepiscono l’intero universo
come un flusso di dati, vedono gli organismi come poco più di algoritmi
biochimici e sono convinti che la vocazione cosmica dell’umanità sia di
creare un sistema onnicomprensivo di elaborazione di tali dati per poi
fondersi con esso.
I dati: la mano invisibile
Stiamo
già diventando piccoli componenti di un sistema immenso che nessuno
capisce realmente, io stesso ricevo ogni giorno innumerevoli frammenti
di dati, fra email, telefonate e articoli, li elaboro e in seguito li
ritrasmetto con altre email, telefonate e articoli. Non sono realmente
consapevole di quale sia il mio posto all’interno del grande schema
delle cose, né di come i miei dati si colleghino con quelli prodotti da
milioni di altri esseri umani e computer e non ho il tempo di scoprirlo,
perché sono troppo impegnato a rispondere alle email. Sta di fatto che
questo flusso incessante da luogo a invenzioni e punti di rottura che
nessuno riesce a pianificare, controllare o comprendere.
In
realtà nessuno è tenuto a capire, l’unica cosa che bisogna fare è
rispondere più velocemente possibile alle email. Così come i capitalisti
liberisti credono nella mano invisibile del mercato, i dataisti credono
nella mano invisibile del flusso di dati. Man mano che il sistema
globale di elaborazione diventa onnisciente e onnipotente, il
collegamento ad esso diventa l’origine di ogni significato. Il nuovo
motto è: “Se fai qualcosa, registralo. Se registri qualcosa, caricalo.
Se carichi qualcosa, condividilo”.
I dataisti credono
inoltre che sulla base dei dati biometrici e del potere informatico tale
sistema onnicomprensivo possa arrivare a capirci molto meglio di quanto
non capiamo noi stessi. Quando questo succederà, gli esseri umani
perderanno la loro autorità e pratiche umaniste come le elezioni
democratiche diventeranno obsolete quanto la danza della pioggia i
coltelli di selce.
Vai dove ti porta il cuore
Quando
Michael Gove ha annunciato la sua breve candidatura alla carica di
Primo Ministro britannico, subito dopo il referendum di giugno per la
Brexit, ha spiegato: “In ogni fase della mia carriera politica mi sono
posto una domanda, ‘Qual è la cosa giusta da fare? Cosa ti dice il tuo
cuore?’”. Per questo motivo, a sua detta, si è battuto tanto
strenuamente affinché la Gran Bretagna uscisse dall’Unione Europea, si è
sentito in dovere di pugnalare alle spalle il suo ex alleato Boris
Johnson e di competere in prima persona per il ruolo di leader, perché
il suo cuore gli diceva di farlo.
Gove non è certo il
solo ad ascoltare il suo cuore nei momenti critici. Negli ultimi secoli
l’umanesimo ha considerato il cuore umano come la fonte suprema
dell’autorità non solo in politica, ma in qualsiasi campo d’azione. Fin
dall’infanzia siamo bombardati da slogan che ci danno consigli del tipo:
“Ascolta te stesso, sii sincero con te stesso, fidati di te stesso,
segui il tuo cuore, fa ciò che ti fa stare bene”.
In
politica si crede che l’autorità dipenda dalla libera scelta degli
elettori, l’economia di mercato parte dal presupposto che il cliente ha
sempre ragione, nell’arte umanista la bellezza sta negli occhi di chi
guarda, l’educazione umanista ci insegna a pensare a noi stessi e
l’etica umanista ci insegna che se una cosa ci fa stare bene dobbiamo
andare avanti e farla.
Emozione: un algoritmo biologico
Emozione: un algoritmo biologico
Certo, l’etica umanista
si trova spesso in difficoltà nelle situazioni in cui ciò che fa bene a
me fa male a te. Per esempio, ogni anno, da dieci anni, la comunità gay
israeliana indice un Gay Pride nelle strade di Gerusalemme. È l’unico
giorno di armonia per una città spaccata in due dal conflitto, perché
solo in questa occasione gli ebrei, i musulmani e i cristiani si
uniscono finalmente in una causa comune, scagliandosi in blocco contro
il Gay Pride. La cosa più interessante, però, è l’argomentazione dei
fanatici religiosi, che non dicono “Non dovreste fare il Gay Pride
perché Dio proibisce l’omosessualità”, ma dichiarano davanti ai
microfoni e alle telecamere “Veder passare un Gay Pride per le strade
della città santa di Gerusalemme ferisce i nostri sentimenti. Così come i
gli omosessuali ci chiedono rispetto, noi lo chiediamo a loro”. Non
importa come la pensiate su queste affermazioni paradossali, è molto più
importante capire che in una società umanista i dibattiti etici e
politici sono condotti in nome di sentimenti umani contrastanti, non in
nome dei comandamenti divini.
Eppure oggi l’umanesimo
sta affrontando una sfida esistenziale e il concetto di “libero
arbitrio” è messo a repentaglio. Ricerche scientifiche sul funzionamento
del cervello e del corpo suggeriscono che i sentimenti non siano
qualità spirituali prettamente umane, bensì meccanismi biochimici
utilizzati da tutti i mammiferi e gli uccelli per prendere decisioni
calcolando velocemente le loro probabilità di sopravvivenza e di
riproduzione.
Contrariamente all’opinione popolare, le
emozioni non sono il contrario della ragione, anzi, sono la
manifestazione di una razionalità evoluzionistica. Quando un babbuino,
una giraffa o un essere umano vedono un leone hanno paura perché un
algoritmo biochimico calcola i dati attinenti concludendo che la
probabilità di morte è alta. Allo stesso modo, l’attrazione sessuale si
manifesta quando altri algoritmi biochimici calcolano che un individuo
vicino a noi offre un’alta probabilità di accoppiamento fecondo. Questi
algoritmi si sono sviluppati in milioni di anni di evoluzione: se le
emozioni di qualche vecchio antenato si sbagliavano i geni che la
determinavano non passavano alla generazione successiva.
La convergenza della biologia e del software
Sebbene
gli umanisti sbagliassero a pensare che i sentimenti riflettano un
misterioso “libero arbitrio”, il loro ottimo senso pratico ci è tornato
molto utile, perché anche se le nostre emozioni non avevano niente di
magico, erano comunque il miglior metodo esistente per prendere
decisioni e nessun sistema esterno poteva sperare di capirle meglio di
noi. Anche se la Chiesa Cattolica o il KGB avessero spiato ogni minuto
della mia giornata gli sarebbero mancate le conoscenze biologiche e il
potere informatico necessari per calcolare i processi biochimici che
determinano le mie scelte e i miei desideri. Quindi gli umanisti
facevano bene a dire alla gente di seguire il cuore, dovendo scegliere
fra ascoltare la Bibbia e i propri sentimenti era molto meglio la
seconda opzione. In fondo la Bibbia rappresentava le opinioni e gli
interessi dei pochi sacerdoti dell’antica Gerusalemme, mentre le
emozioni nascono da una saggezza frutto di milioni di anni di
evoluzione, sottoposta ai rigidi test qualitativi della selezione
naturale.
Ciò nonostante, dato che Google e Facebook
hanno preso il posto della Chiesa e del KGB, l’umanesimo ha perso i suoi
vantaggi pratici, perché adesso ci troviamo a un punto di confluenza di
due tsunami scientifici. Da una parte i biologi stanno decifrando i
misteri del corpo umano, in particolare del cervello e delle emozioni, e
allo stesso tempo gli informatici hanno acquisito un potere senza
precedenti nell’elaborazione dei dati. Mettendo insieme le due cose si
ottengono sistemi esterni in grado di monitorare e comprendere i nostri
sentimenti meglio di noi, a questo punto l’autorità passerebbe dagli
umani agli algoritmi e i Big Data potrebbero gettare la basi per il Big
Brother.
È già successo in campo medico, un settore in
cui le decisioni più importanti sono basate sempre meno sul senso di
benessere o malessere o sul parere di un dottore e molto di più sui
calcoli di computer che ci conoscono meglio di noi stessi. Un esempio
recente è quello di Angelina Jolie, che nel 2013 si è sottoposta a un
test genetico da cui è risultata essere portatrice di una pericolosa
mutazione del gene BRCA1. Secondo i database statistici, le donne che
presentano tale mutazione hanno una probabilità dell’87% di sviluppare
un tumore al seno. Pur non essendo malata, la Jolie ha deciso di
prevenire il cancro con una doppia mastectomia. Non si è ammalata, ma ha
saggiamente dato ascolto ad algoritmi software che dicevano “Forse ti
sembra di stare bene, ma il tuo DNA nasconde una bomba a orologeria. Fa’
qualcosa, subito!”.
L’algoritmo A9 di Amazon
È
probabile che ciò che sta già succedendo in campo medico possa
estendersi in altri ambiti. Si comincia con le cose più semplici, come i
libri da comprare o da leggere. Come fanno gli umanisti a scegliere un
libro? Vanno in libreria, cominciano a curiosare in giro, sfogliano qua e
là, leggono le prime righe, finché l’istinto non li connette a un libro
in particolare. I dataisti, invece, si affidano ad Amazon: appena entro
nel negozio virtuale compare un messaggio che mi dice: “So quali libri
ti sono piaciuti. Le persone con gusti simili ai tuoi tendono ad
apprezzare questo o quel nuovo libro”.
Questo è solo
l’inizio. I dispositivi come Kindle sono in grado di raccogliere
costantemente dati sugli utenti nel momento stesso in cui stanno
leggendo. Possono monitorare quali parti leggi più velocemente e quali
più lentamente, su quali ti soffermi e l’ultima frase che hai letto
prima di abbandonare il libro senza finirlo. Se Kindle dovesse essere
aggiornato con software per il riconoscimento facciale e sensori
biometrici saprebbe come ogni frase influenza il battito cardiaco e la
pressione sanguigna del lettore. Saprebbe cosa ci fa ridere, cosa ci
rende tristi o ci fa arrabbiare. Presto i libri vi leggeranno mentre li
leggete e anche se voi potete dimenticare velocemente ciò che avete
letto state certi che i computer non lo faranno. Tutti questi dati
avrebbero lo scopo di permettere ad Amazon di selezionare i vostri libri
con precisione sconcertante, oltre che di sapere esattamente chi siete e
come fare leva sulle vostre emozioni.
Se Google ci conosce meglio di noi
Saltando
a conclusioni logiche, le persone potrebbero affidare agli algoritmi le
decisioni più importanti della loro vita, ad esempio con chi sposarsi.
Nell’Europa medievale erano i preti e i genitori a deciderlo, mentre
nelle società umaniste si ascoltano i sentimenti. Nella società dataista
chiederò a Google di scegliere al posto mio: “Senti, Google”, gli dirò,
“John e Paul mi stanno corteggiando. Mi piacciono tutti e due, ma in
modo diverso e non riesco proprio a decidermi. Considerato tutto quello
che sai, cosa mi consigli?” e lui risponderà “Beh, ti conosco da quando
sei nato. Ho letto tutte le tue email, ho registrato tutte le tue
telefonate e conosco i tuoi film preferiti, il tuo DNA e l’intera storia
biometrica del tuo cuore. Ho i dati esatti di ogni tuo appuntamento e
posso mostrarti i grafici del tuo battito cardiaco, che ho tracciato
secondo per secondo, la tua pressione e i livelli di zucchero nel sangue
a ogni incontro con John e con Paul e, come è naturale che sia, li
conosco entrambi come conosco te. Basandomi su tutte queste
informazioni, sui miei superbi algoritmi e su decenni di statistiche su
milioni di relazioni, ti consiglio di andare con John, con l’87% di
probabilità che tu sia più soddisfatto con lui a lungo termine.
In
effetti ti conosco così bene da sapere che questa risposta non ti
piace. Paul è molto più attraente e visto che tu dai troppo peso
all’aspetto esteriore desideravi segretamente che ti dicessi ‘Paul’.
L’apparenza è importante, certo, ma non quanto credi. I tuoi algoritmi
biochimici, che si sono sviluppati decine di migliaia di anni fa nella
savana africana, attribuiscono alla bellezza un peso del 35% nella
classificazione dei potenziali accoppiamenti, mentre i miei, che sono
basati sugli studi e sulle statistiche più recenti, dicono che l’impatto
dell’aspetto fisico sul successo a lungo termine delle relazioni
amorose è del 14%. Quindi, anche tenendo conto della bellezza di Paul,
continuo a dirti che staresti meglio con John”.
Google
non sarà perfetto, non bisognerà nemmeno correggerlo in continuazione,
sarà solo mediamente più bravo di me, il che non è difficile, dato che
molte persone non conoscono bene se stesse e la maggior parte commette
gravi errori nelle scelte più importanti.
La prospettiva dataista e il suo rimedio
La
prospettiva dataista piace molto ai politici, agli imprenditori e ai
consumatori perché offre tecnologie rivoluzionarie, oltre che poteri
nuovi e immensi. Dopotutto, pur temendo di compromettere la loro privacy
e libertà di scelta, al momento di scegliere fra la riservatezza e
l’accesso a una sanità superiore la maggior parte dei consumatori
metterebbe al primo posto la salute.
Per gli accademici e
agli intellettuali, invece, il dataismo rappresenta la promessa di un
Santo Graal scientifico che ci è sfuggito per secoli: una singola teoria
che unificherebbe tutte le discipline, dalla musicologia, all’economia,
alla biologia. Secondo il dataismo, la Quinta Sinfonia di Beethoven,
una bolla finanziaria e il virus dell’influenza non sono altro che tre
flussi di dati che possono essere analizzati attraverso gli stessi
concetti e strumenti. L’idea è estremamente allettante, in quanto offre
alla scienza un linguaggio comune, erige ponti sulle fratture
accademiche ed esporta facilmente la ricerca al di là dei confini di
settore.
Di certo, come i precedenti dogmi
onnicomprensivi, anche il dataismo potrebbe basarsi su un
fraintendimento della vita, in particolare non risolve famigerato
“problema della coscienza”. Al momento siamo molto lontani dalla
possibilità di spiegare la coscienza in termini di elaborazione dei
dati. Per quale motivo miliardi di neuroni si scambiano messaggi dando
origine a sentimenti soggettivi di amore, paura o rabbia? Non ne abbiamo
la più pallida idea.
In ogni caso, il dataismo
conquisterebbe il mondo anche se si sbagliasse. Molte ideologie hanno
ottenuto consenso e potere pur presentando incongruenze concrete. Se ce
l’hanno fatta il Cristianesimo e il comunismo, perché non dovrebbe
farcela il dataismo? Le sue prospettive sono particolarmente buone,
perché attualmente si sta diffondendo in diversi ambiti scientifici e un
paradigma unificato potrebbe facilmente diventare un dogma
inattaccabile.
Se tutto questo non vi piace e volete
rimanere fuori dalla portata degli algoritmi, forse c’è solo un
consiglio che posso darvi, un vecchio trucco: conosci te stesso.
Dopotutto è un dato di fatto: finché vi conoscerete meglio di quanto non
vi conoscano gli algoritmi le vostre scelte saranno ancora superiori
alle loro e continuerete ad avere una certa autorità, ma se gli
algoritmi sembrano sul punto di prendere il sopravvento, il motivo
principale è che molti esseri umani non si conoscono per niente