dio algoritmo

Sempre lui, Sant'Harari...

Da Dio, all’uomo, all’algoritmo

Scordatevi di ascoltare voi stessi. Nell’era dei dati sono gli algoritmi a darvi le risposte che cercate. Per migliaia di anni l’umanità ha creduto che l’autorità venisse dagli dei, poi, durante l’età moderna, l’umanesimo l’ha gradualmente spostata dalle divinità alle persone. Jaean-Jacques Rousseau ha riassunto questa rivoluzione nell’Emilio (1762), il suo famoso trattato sull’educazione, in cui spiega di aver trovato le regole di comportamento da adottare nella vita “in fondo al mio cuore, scritte dalla natura a caratteri indelebili. Io non ho che da consultare me stesso su quel che voglio fare: tutto ciò che sento essere bene è bene, tutto ciò che sento essere male è male”.

I pensatori umanisti come Rousseau ci hanno convinto che i nostri sentimenti e desideri fossero una fonte suprema di significato e che il nostro libero arbitrio fosse dunque la più alta delle autorità.

Ora si sta verificando un nuovo cambiamento. Così come l’autorità divina era stata giustificata dalle religioni e l’autorità umana era stata legittimata da ideologie umaniste, allo stesso modo i guru dell’high-tech e i profeti della Silicon Valley stanno dando vita a una nuova narrativa universale che legittima d’autorità degli algoritmi e dei Big Data, un nuovo credo che potremmo chiamare “Dataismo”. I sostenitori più estremisti del dataismo percepiscono l’intero universo come un flusso di dati, vedono gli organismi come poco più di algoritmi biochimici e sono convinti che la vocazione cosmica dell’umanità sia di creare un sistema onnicomprensivo di elaborazione di tali dati per poi fondersi con esso.

I dati: la mano invisibile

Stiamo già diventando piccoli componenti di un sistema immenso che nessuno capisce realmente, io stesso ricevo ogni giorno innumerevoli frammenti di dati, fra email, telefonate e articoli, li elaboro e in seguito li ritrasmetto con altre email, telefonate e articoli. Non sono realmente consapevole di quale sia il mio posto all’interno del grande schema delle cose, né di come i miei dati si colleghino con quelli prodotti da milioni di altri esseri umani e computer e non ho il tempo di scoprirlo, perché sono troppo impegnato a rispondere alle email. Sta di fatto che questo flusso incessante da luogo a invenzioni e punti di rottura che nessuno riesce a pianificare, controllare o comprendere.

In realtà nessuno è tenuto a capire, l’unica cosa che bisogna fare è rispondere più velocemente possibile alle email. Così come i capitalisti liberisti credono nella mano invisibile del mercato, i dataisti credono nella mano invisibile del flusso di dati. Man mano che il sistema globale di elaborazione diventa onnisciente e onnipotente, il collegamento ad esso diventa l’origine di ogni significato. Il nuovo motto è: “Se fai qualcosa, registralo. Se registri qualcosa, caricalo. Se carichi qualcosa, condividilo”.

I dataisti credono inoltre che sulla base dei dati biometrici e del potere informatico tale sistema onnicomprensivo possa arrivare a capirci molto meglio di quanto non capiamo noi stessi. Quando questo succederà, gli esseri umani perderanno la loro autorità e pratiche umaniste come le elezioni democratiche diventeranno obsolete quanto la danza della pioggia i coltelli di selce.

Vai dove ti porta il cuore

Quando Michael Gove ha annunciato la sua breve candidatura alla carica di Primo Ministro britannico, subito dopo il referendum di giugno per la Brexit, ha spiegato: “In ogni fase della mia carriera politica mi sono posto una domanda, ‘Qual è la cosa giusta da fare? Cosa ti dice il tuo cuore?’”. Per questo motivo, a sua detta, si è battuto tanto strenuamente affinché la Gran Bretagna uscisse dall’Unione Europea, si è sentito in dovere di pugnalare alle spalle il suo ex alleato Boris Johnson e di competere in prima persona per il ruolo di leader, perché il suo cuore gli diceva di farlo.

Gove non è certo il solo ad ascoltare il suo cuore nei momenti critici. Negli ultimi secoli l’umanesimo ha considerato il cuore umano come la fonte suprema dell’autorità non solo in politica, ma in qualsiasi campo d’azione. Fin dall’infanzia siamo bombardati da slogan che ci danno consigli del tipo: “Ascolta te stesso, sii sincero con te stesso, fidati di te stesso, segui il tuo cuore, fa ciò che ti fa stare bene”.

In politica si crede che l’autorità dipenda dalla libera scelta degli elettori, l’economia di mercato parte dal presupposto che il cliente ha sempre ragione, nell’arte umanista la bellezza sta negli occhi di chi guarda, l’educazione umanista ci insegna a pensare a noi stessi e l’etica umanista ci insegna che se una cosa ci fa stare bene dobbiamo andare avanti e farla.
Emozione: un algoritmo biologico

Certo, l’etica umanista si trova spesso in difficoltà nelle situazioni in cui ciò che fa bene a me fa male a te. Per esempio, ogni anno, da dieci anni, la comunità gay israeliana indice un Gay Pride nelle strade di Gerusalemme. È l’unico giorno di armonia per una città spaccata in due dal conflitto, perché solo in questa occasione gli ebrei, i musulmani e i cristiani si uniscono finalmente in una causa comune, scagliandosi in blocco contro il Gay Pride. La cosa più interessante, però, è l’argomentazione dei fanatici religiosi, che non dicono “Non dovreste fare il Gay Pride perché Dio proibisce l’omosessualità”, ma dichiarano davanti ai microfoni e alle telecamere “Veder passare un Gay Pride per le strade della città santa di Gerusalemme ferisce i nostri sentimenti. Così come i gli omosessuali ci chiedono rispetto, noi lo chiediamo a loro”. Non importa come la pensiate su queste affermazioni paradossali, è molto più importante capire che in una società umanista i dibattiti etici e politici sono condotti in nome di sentimenti umani contrastanti, non in nome dei comandamenti divini.

Eppure oggi l’umanesimo sta affrontando una sfida esistenziale e il concetto di “libero arbitrio” è messo a repentaglio. Ricerche scientifiche sul funzionamento del cervello e del corpo suggeriscono che i sentimenti non siano qualità spirituali prettamente umane, bensì meccanismi biochimici utilizzati da tutti i mammiferi e gli uccelli per prendere decisioni calcolando velocemente le loro probabilità di sopravvivenza e di riproduzione.

Contrariamente all’opinione popolare, le emozioni non sono il contrario della ragione, anzi, sono la manifestazione di una razionalità evoluzionistica. Quando un babbuino, una giraffa o un essere umano vedono un leone hanno paura perché un algoritmo biochimico calcola i dati attinenti concludendo che la probabilità di morte è alta. Allo stesso modo, l’attrazione sessuale si manifesta quando altri algoritmi biochimici calcolano che un individuo vicino a noi offre un’alta probabilità di accoppiamento fecondo. Questi algoritmi si sono sviluppati in milioni di anni di evoluzione: se le emozioni di qualche vecchio antenato si sbagliavano i geni che la determinavano non passavano alla generazione successiva.

La convergenza della biologia e del software

Sebbene gli umanisti sbagliassero a pensare che i sentimenti riflettano un misterioso “libero arbitrio”, il loro ottimo senso pratico ci è tornato molto utile, perché anche se le nostre emozioni non avevano niente di magico, erano comunque il miglior metodo esistente per prendere decisioni e nessun sistema esterno poteva sperare di capirle meglio di noi. Anche se la Chiesa Cattolica o il KGB avessero spiato ogni minuto della mia giornata gli sarebbero mancate le conoscenze biologiche e il potere informatico necessari per calcolare i processi biochimici che determinano le mie scelte e i miei desideri. Quindi gli umanisti facevano bene a dire alla gente di seguire il cuore, dovendo scegliere fra ascoltare la Bibbia e i propri sentimenti era molto meglio la seconda opzione. In fondo la Bibbia rappresentava le opinioni e gli interessi dei pochi sacerdoti dell’antica Gerusalemme, mentre le emozioni nascono da una saggezza frutto di milioni di anni di evoluzione, sottoposta ai rigidi test qualitativi della selezione naturale.

Ciò nonostante, dato che Google e Facebook hanno preso il posto della Chiesa e del KGB, l’umanesimo ha perso i suoi vantaggi pratici, perché adesso ci troviamo a un punto di confluenza di due tsunami scientifici. Da una parte i biologi stanno decifrando i misteri del corpo umano, in particolare del cervello e delle emozioni, e allo stesso tempo gli informatici hanno acquisito un potere senza precedenti nell’elaborazione dei dati. Mettendo insieme le due cose si ottengono sistemi esterni in grado di monitorare e comprendere i nostri sentimenti meglio di noi, a questo punto l’autorità passerebbe dagli umani agli algoritmi e i Big Data potrebbero gettare la basi per il Big Brother.

È già successo in campo medico, un settore in cui le decisioni più importanti sono basate sempre meno sul senso di benessere o malessere o sul parere di un dottore e molto di più sui calcoli di computer che ci conoscono meglio di noi stessi. Un esempio recente è quello di Angelina Jolie, che nel 2013 si è sottoposta a un test genetico da cui è risultata essere portatrice di una pericolosa mutazione del gene BRCA1. Secondo i database statistici, le donne che presentano tale mutazione hanno una probabilità dell’87% di sviluppare un tumore al seno. Pur non essendo malata, la Jolie ha deciso di prevenire il cancro con una doppia mastectomia. Non si è ammalata, ma ha saggiamente dato ascolto ad algoritmi software che dicevano “Forse ti sembra di stare bene, ma il tuo DNA nasconde una bomba a orologeria. Fa’ qualcosa, subito!”.

L’algoritmo A9 di Amazon

È probabile che ciò che sta già succedendo in campo medico possa estendersi in altri ambiti. Si comincia con le cose più semplici, come i libri da comprare o da leggere. Come fanno gli umanisti a scegliere un libro? Vanno in libreria, cominciano a curiosare in giro, sfogliano qua e là, leggono le prime righe, finché l’istinto non li connette a un libro in particolare. I dataisti, invece, si affidano ad Amazon: appena entro nel negozio virtuale compare un messaggio che mi dice: “So quali libri ti sono piaciuti. Le persone con gusti simili ai tuoi tendono ad apprezzare questo o quel nuovo libro”.

Questo è solo l’inizio. I dispositivi come Kindle sono in grado di raccogliere costantemente dati sugli utenti nel momento stesso in cui stanno leggendo. Possono monitorare quali parti leggi più velocemente e quali più lentamente, su quali ti soffermi e l’ultima frase che hai letto prima di abbandonare il libro senza finirlo. Se Kindle dovesse essere aggiornato con software per il riconoscimento facciale e sensori biometrici saprebbe come ogni frase influenza il battito cardiaco e la pressione sanguigna del lettore. Saprebbe cosa ci fa ridere, cosa ci rende tristi o ci fa arrabbiare. Presto i libri vi leggeranno mentre li leggete e anche se voi potete dimenticare velocemente ciò che avete letto state certi che i computer non lo faranno. Tutti questi dati avrebbero lo scopo di permettere ad Amazon di selezionare i vostri libri con precisione sconcertante, oltre che di sapere esattamente chi siete e come fare leva sulle vostre emozioni.

Se Google ci conosce meglio di noi

Saltando a conclusioni logiche, le persone potrebbero affidare agli algoritmi le decisioni più importanti della loro vita, ad esempio con chi sposarsi. Nell’Europa medievale erano i preti e i genitori a deciderlo, mentre nelle società umaniste si ascoltano i sentimenti. Nella società dataista chiederò a Google di scegliere al posto mio: “Senti, Google”, gli dirò, “John e Paul mi stanno corteggiando. Mi piacciono tutti e due, ma in modo diverso e non riesco proprio a decidermi. Considerato tutto quello che sai, cosa mi consigli?” e lui risponderà “Beh, ti conosco da quando sei nato. Ho letto tutte le tue email, ho registrato tutte le tue telefonate e conosco i tuoi film preferiti, il tuo DNA e l’intera storia biometrica del tuo cuore. Ho i dati esatti di ogni tuo appuntamento e posso mostrarti i grafici del tuo battito cardiaco, che ho tracciato secondo per secondo, la tua pressione e i livelli di zucchero nel sangue a ogni incontro con John e con Paul e, come è naturale che sia, li conosco entrambi come conosco te. Basandomi su tutte queste informazioni, sui miei superbi algoritmi e su decenni di statistiche su milioni di relazioni, ti consiglio di andare con John, con l’87% di probabilità che tu sia più soddisfatto con lui a lungo termine.

In effetti ti conosco così bene da sapere che questa risposta non ti piace. Paul è molto più attraente e visto che tu dai troppo peso all’aspetto esteriore desideravi segretamente che ti dicessi ‘Paul’. L’apparenza è importante, certo, ma non quanto credi. I tuoi algoritmi biochimici, che si sono sviluppati decine di migliaia di anni fa nella savana africana, attribuiscono alla bellezza un peso del 35% nella classificazione dei potenziali accoppiamenti, mentre i miei, che sono basati sugli studi e sulle statistiche più recenti, dicono che l’impatto dell’aspetto fisico sul successo a lungo termine delle relazioni amorose è del 14%. Quindi, anche tenendo conto della bellezza di Paul, continuo a dirti che staresti meglio con John”.

Google non sarà perfetto, non bisognerà nemmeno correggerlo in continuazione, sarà solo mediamente più bravo di me, il che non è difficile, dato che molte persone non conoscono bene se stesse e la maggior parte commette gravi errori nelle scelte più importanti.

La prospettiva dataista e il suo rimedio

La prospettiva dataista piace molto ai politici, agli imprenditori e ai consumatori perché offre tecnologie rivoluzionarie, oltre che poteri nuovi e immensi. Dopotutto, pur temendo di compromettere la loro privacy e libertà di scelta, al momento di scegliere fra la riservatezza e l’accesso a una sanità superiore la maggior parte dei consumatori metterebbe al primo posto la salute.

Per gli accademici e agli intellettuali, invece, il dataismo rappresenta la promessa di un Santo Graal scientifico che ci è sfuggito per secoli: una singola teoria che unificherebbe tutte le discipline, dalla musicologia, all’economia, alla biologia. Secondo il dataismo, la Quinta Sinfonia di Beethoven, una bolla finanziaria e il virus dell’influenza non sono altro che tre flussi di dati che possono essere analizzati attraverso gli stessi concetti e strumenti. L’idea è estremamente allettante, in quanto offre alla scienza un linguaggio comune, erige ponti sulle fratture accademiche ed esporta facilmente la ricerca al di là dei confini di settore.

Di certo, come i precedenti dogmi onnicomprensivi, anche il dataismo potrebbe basarsi su un fraintendimento della vita, in particolare non risolve famigerato “problema della coscienza”. Al momento siamo molto lontani dalla possibilità di spiegare la coscienza in termini di elaborazione dei dati. Per quale motivo miliardi di neuroni si scambiano messaggi dando origine a sentimenti soggettivi di amore, paura o rabbia? Non ne abbiamo la più pallida idea.

In ogni caso, il dataismo conquisterebbe il mondo anche se si sbagliasse. Molte ideologie hanno ottenuto consenso e potere pur presentando incongruenze concrete. Se ce l’hanno fatta il Cristianesimo e il comunismo, perché non dovrebbe farcela il dataismo? Le sue prospettive sono particolarmente buone, perché attualmente si sta diffondendo in diversi ambiti scientifici e un paradigma unificato potrebbe facilmente diventare un dogma inattaccabile.

Se tutto questo non vi piace e volete rimanere fuori dalla portata degli algoritmi, forse c’è solo un consiglio che posso darvi, un vecchio trucco: conosci te stesso. Dopotutto è un dato di fatto: finché vi conoscerete meglio di quanto non vi conoscano gli algoritmi le vostre scelte saranno ancora superiori alle loro e continuerete ad avere una certa autorità, ma se gli algoritmi sembrano sul punto di prendere il sopravvento, il motivo principale è che molti esseri umani non si conoscono per niente