Ventuno lezioni per comprendere il futuro

Dopo qualche articolo dedicato all’osservazione della  realtà,  ispirato ad eventi in atto o in corso  di realizzazione,   proviamo oggi  a volare alto, molto in alto. Per farlo ci lasciamo ispirare da uno dei massimi pensatori del nostro tempo: Yuval Noah Harari, professore di storia all’università di Tel Aviv, e autore di una trilogia di saggi che ha davvero cambiato la percezione di molti milioni di persone della realtà quotidiana  post rivoluzione digitale. Il percorso di studio  iniziato dal professore israeliano nel suo primo libro: Da animali a dei, e proseguito con il successivo Homo deus, che abbiamo raccontato anche qui sulle nostre pagine in due diversi articoli, giunge al capolinea con questo ultimo testo che si intitola: 21 lezioni per il XXI esimo secolo. Un libro, a nostro avviso, profondamente diverso dai primi due, un testo ugualmente molto  ricco di spunti e ragionamenti illuminati e illuminanti, ma molto più filosofico, aperto a scenari di ogni tipo, e dove Harari sospende qualunque tipo di giudizio per lasciare a noi lettori la facoltà di tirare le conclusioni accompagnandoci passo passo verso la definizione dei 21 temi presi in considerazione. Le lezioni suggerite dal titolo sono in effetti 21 argomenti diversi in cui è diviso il libro.  Si inizia con il concetto de La disillusione,  si prosegue poi con il Lavoro, la Libertà e L’Uguaglianza; quattro temi che Harari sviluppa per provare a spiegarci in cosa consista a suo modo di vedere la Sfida Tecnologica. Nella seconda parte del saggio lo storico israeliano spiega la Sfida Politica usando temi come: la Comunità, la Civiltà, il Nazionalismo, la Religione. Nel terzo capitolo del libro che si intitola Disperazione e Speranza, sono le parole  Terrorismo, Guerra, Umiltà, Dio e Laicismo a fungere da bussole per orientarci nel racconto. Il saggio prosegue e si conclude con gli ultimi due capitoli;  il primo si intitola Verità e viene raccontato da Harari attraverso le definizioni di Ignoranza, Giustizia, Post-verità e Fantascienza; mentre a conclusione del volume troviamo il capitolo dedicato alla Resilienza che l’autore racconta attraverso le ultime tre lezioni che si intitolano:  Istruzione, Senso e Meditazione. Come sempre facciamo quando proviamo a leggere e poi a raccontarvi un testo di studio, estraiamo da esso alcuni passi, quelli che ci sono apparsi particolarmente significativi e  ve li riproponiamo qui di seguito. Grazie per l’attenzione e buona lettura.

 

 

La convergenza delle tecnologie informatiche e di quelle biologiche potrebbe presto espellere dal mercato del lavoro miliardi di soggetti e mettere a rischio sia la libertà che l’uguaglianza.

Gli algoritmi che elaborano i big data potrebbero instaurare dittature digitali in cui tutto il potere è concentrato nelle mani di una minuscola elite mentre la maggior parte delle persone soffre non tanto per lo sfruttamento, bensì per qualcosa di peggiore: l’irrilevanza.

 

Con l’espressione big data si fa riferimento all’insieme di tecnologie e metodologie di analisi di enormi quantitativi di dati (dai dati strutturati, numerici, contenuti nei tradizionali database ai documenti di testo non strutturati : e-mail, video, audio, informazioni delle borse e transazioni finanziarie). La dimensione dei dati raccolti e conservati è in costante aumento, così come lo è la velocità delle macchine che consentono la produzione e l’analisi di dati. In virtù dell’ampiezza del bacino di dati raccolti (da cui spesso si fa discendere un’elevata affidabilità statistica, che invece andrebbe sempre problematizzata), i big data sono utilizzati nel nostro mondo globalizzato e interconnesso per estrapolare, gestire ed elaborare informazioni entro tempi ragionevoli , o addirittura quasi in tempo reale, in vari campi. Con le informazioni ottenute si stabiliscono legami tra fenomeni diversi e si prevedono quelli futuri. Connessioni e previsioni rappresentano informazioni dal rilevante valore economico, che può essere sfruttato per fini commerciali, economici, finanziari, comportamentali o politici da agenti privati o governativi.

 

1. Disillusione

 

Dall’uccidere le zanzare all’uccidere i pensieri

 

Avete mai votato a proposito di internet?

Il sistema democratico sta ancora cercando di capire che cosa lo ha colpito, e riesce a malapena ad affrontare i colpi successivi, come l’avvento dell’intelligenza artificiale e la rivoluzione delle blockchain.

 

La tecnologia blockchain (in inglese catena di blocchi) è un registro di transazioni digitali di solito pubblico, che garantisce tracciabilità, trasparenza e sicurezza. Infatti ogni unità del registro (detto blocco) è collegata alle altre in rigorosa sequenza cronologica e, grazie all’uso della crittografia, i blocchi non sono modificabili (se non con il consenso della rete, ovvero con l’approvazione di tutti i cambiamenti dai nodi della rete che utilizza la blockchain) ; inoltre , ogni unità conserva una copia completa delle transazioni avvenute. Date queste caratteristiche , il protocollo rende inutile, in una transazione, le terze parti, perchè è possibile gestire lo scambio esattamente nel modo in cui lo si desidera, senza l’intervento di intermediatori. Le applicazioni della blockchain sono potenzialmente molteplici, anche se finora sono state esplorate soprattutto alcune possibilità in campo finanziario con le criptovalute (i bitcoin). Al momento la blockchain è considerata una tecnologia ad alto potenziale, ma non mancano dubbi e critiche sulla reale consistenza dei vantaggi ad essa connessi.

 

Già oggi i computer hanno reso il sistema finanziario così complesso che pochi esseri umani sono in grado di comprenderlo. Quando le abilità dell’intelligenza artificiale saranno perfezionate, potremmo presto arrivare ad un punto in cui nessun essere umano sarà più in grado di capire nulla di finanza. Quali ripercussioni avrà una situazione del genere sul processo politico? Riuscite a immaginare un governo attendere umilmente che un algoritmo approvi il suo budget o una nuova riforma sulle tasse? Nel frattempo reti peer-to-peer di blockchain e criptovalute come il bitcoin potrebbero riforndare dalle basi il sistema monetario, per cui sarebbero inevitabili riforme radicali dei sistemi fiscali. Per esempio potrebbe diventare impossibile o irrilevante tassare i dollari poichè i flussi principali delle transazioni non riguarderanno un vero e proprio scambio tra valute nazionali , e neppure una valuta vera e propria. Inoltre i governi potrebbero aver bisogno di inventare tasse del tutto nuove – forse una tassa sull’informazione (che sarà il bene più prezioso in economia, sia l’unica cosa effettivamente scambiata in numerose transazioni).

 

2.Lavoro

 

Grazie agli algoritmi ad apprendimento automatico e ai sensori biometrici, una povera abitante di un villaggio di un paese sottosviluppato, potrebbe beneficiare, tramite il suo smartphone, di un’assistenza sanitaria molto più completa ed efficace di quella che la persona più ricca del pianeta può ricevere oggi dal più avanzato ospedale metropolitano. In maniera analoga le auto a guida autonoma potrebbero fornire alle persone servizi di trasporto di gran lunga più efficienti, e in particolare potrebbero ridurre il tasso di mortalità da incidenti automobilistici. Oggi quasi 1,25 milioni di individui all’anno sono vittime di incidenti automobilistici (due volte il numero di quelle morte in guerra, a causa di un crimine o di un’azione terroristica messe insieme). Oltre il 90% di questi incidenti sono addebitabili a errori umani: uno guida in stato di ebbrezza, un altro scrive un sms mentre è al volante, qualcuno si addormenta per la stanchezza, e c’è chi ha la testa altrove invece di fare attenzione alla strada. I veicoli a guida autonoma non faranno mai questo tipo di errori. Sebbene anch’essi possano avere qualche limite o riscontrare un problema specifico, e benchè alcuni incidenti siano inevitabili, ci si attende che la sostituzione di tutti i guidatori con i computer riduca i morti e i feriti sulle strade di circa il 90%

 

Mozart nella macchina

 

Di tutte le forme artistiche , la musica è verosimilmente  la più idonea all’analisi dei big data, perchè sia le informazioni in entrata sia quelle in uscita possono essere espresse in precisi termini matematici. Le informazioni in entrata sono modelli matematici di onde sonore e quelle in uscita sono configurazioni elettrochimiche di tempeste neurali. Entro qualche decennio, un algoritmo capace di gestire milioni e milioni di esperienze musicali potrebbe imparare a predire come da determinate informazioni in entrata derivino determinate informazioni in uscita. Supponete di aver avuto un litigio con il vostro ragazzo. L’algoritmo che gestisce il vostro impianto audio comprenderà immediatamente il vostro tumulto emotivo interiore e, basandosi su ciò che sa della vostra personalità e della psicologia umana in generale, riprodurrà canzoni selezionate accuratamente per entrare in risonanza con la vostra tristezza e riecheggiare la vostra angoscia. Queste canzoni potrebbero non funzionare bene con altri soggetti, ma sono perfette per la vostra personalità. Dopo avervi aiutato a esplorare la profondità della vostra tristezza, l’algoritmo riprodurrà la sola canzone al mondo capace di risollevarvi il morale – forse perchè il vostro subconscio la ricollega a una memoria infantile felice di cui non siete consapevoli. Potreste obiettare che l’IA in tal modo ucciderebbe la serendipità e che ci avvolgeremmo in un soffocante bozzolo musicale, intessuto con la trama dei nostri precedenti gradimenti e idiosincrasie. Che cosa ne sarebbe della ricerca di nuovi gusti e stili musicali? Non c’è problema, potreste facilmente correggere l’algoritmo impostando di fargli fare il 5% delle sue scelte  del tutto a caso.

Nuovi lavori

 

Il 7 dicembre 2017 è stata raggiunta una pietra miliare decisiva, non perchè un computer ha sconfitto un umano a scacchi –  notizia vecchia – ma perchè il programma AlphaZero di google ha sconfitto Stockfish8, il programma di scacchi campione del mondo nel 2016. Quest’ultimo aveva accesso a secoli di esperienza umana accumulata negli scacchi, così come a decenni di esperienza nel campo dei computer. Era capace di calcolare 70 miliardi di posizioni al secondo. Al contrario AlphaZero riusciva a calcolare solo 80 mila posizioni al secondo, e i suoi creatori umani non gli avevano mai insegnato alcuna strategia scacchistica. Ma AlphaZero usava i principi dell’apprendimento automatico per imparare da solo il gioco degli scacchi, giocando contro se stesso. Su 100 partite giocate A0 contro Stockfish ha vinto 28 volte e pareggiato le altre, non ha mai perso. Poichè A0 non aveva imparato alcunchè da nessun essere umano, molte delle sue mosse e strategie vincenti apparivano non convenzionali agli occhi umani e potevano essere considerate creativa, se non addirittura geniali. Per imparare a giocare a scacchi partendo da zero A0 ha impiegato 4 ore.

 

Dallo sfruttamento alla irrilevanza

 

I governi dovranno intervenire, sia promuovendo un settore dedicato alla formazione permanente, sia organizzando una rete di sicurezza per gli inevitabili periodi di transizione. Se un pilota di droni quarantenne ha bisogno di tre anni per reinventarsi come progettista di mondi virtuali, avrà anche bisogno di un sostanzioso aiuto governativo per mantenere sè e la sua famiglia durante quel periodo di tempo (uno schema del genere è attualmente in corso di sperimentazione in Scandinavia, dove i governi seguono il principio di proteggere i lavoratori non i posti di lavoro). Tuttavia, anche se fossero disponibili sufficienti aiuti governativi, resta il problema di miliardi di individui che dovranno continuare a reinventare se stessi senza perdere il loro equilibrio mentale. Pertanto, se nonostante tutti i nostri sforzi una percentuale significativa della popolazione attiva sarà espulsa dal mercato del lavoro, dovremo esplorare nuovi modelli per le società post-lavoro. Il primo passo è ammettere con onestà che i modelli sociali, economici e politici che abbiamo ereditato dal passato sono inadeguati ad affrontare questa sfida.

 

In effetti, già oggi i computer e gli algoritmi cominciano a funzionare come clienti oltre che come produttori. Nel settore pubblicitario, il cliente più importante di tutti è un algoritmo: l’algoritmo di ricerca di google. Quando i designer progettano le pagine web, spesso le elaborano secondo il gusto dell’algoritmo di ricerca di google invece che secondo il gusto soggettivo del loro cliente.

 

Lo so per esperienza personale. Quando pubblico un libro, gli editori mi chiedono di scrivere una breve sinossi che sarà utilizzata per la pubblicità online e si avvalgono di un esperto che compone ciò che io scrivo secondo il gusto dell’algoritmo di google.

 

Dunque se gli individui non sono necessari nè come produttori nè come consumatori, che cosa salvaguarderà la loro sopravvivenza fisica e il loro benessere psicologico?

 

Un nuovo modello che sta guadagnando una crescente attenzione è il reddito minimo universale. Secondo questa idea i governi dovrebbero tassare i miliardari e le aziende che controllano gli algoritmi e i robot, e usare il denaro per fornire a tutti un generoso stipendio sufficiente per vivere. Questa misura risolverà la situazione dei poveri conseguente alla scomparsa dei posti di lavoro e alla delocalizzazione delle attività produttive e proteggerà i ricchi dalle rivendicazioni populiste.

Un’idea analoga è quella di ampliare lo spettro delle attività umane da considerarsi lavori. Oggi miliardi di genitori si prendono cura dei bambini, vicini di casa si aiutano a vicenda e cittadini organizzano gruppi di vario tipo, senza che nessuna di queste lodevoli attività sia riconosciuta come lavoro.

 

In alternativa i governi potrebbero provvedere a garantire servizi universali di base anzichè a distribuire redditi. Invece di elargire denaro alle persone il governo potrebbe fornire gratuitamente istruzione, servizi sanitari, trasporti e così via.

 

E’ oggetto di dibattito se sia meglio fornire un reddito minimo universale (il paradiso capitalista) o servizi minimi universali ( il paradiso comunista).

 

Che cos’è universale?

 

Quando si parla di un salario minimo universale – sia come reddito sia come fornitura di servizi – di solito si intende un reddito minimo nazionale. Finora, tutte le iniziative di reddito minimo universale sono state su scala strettamente nazionale o municipale. Nel gennaio 2017, la Finlandia ha avviato una sperimentazione biennale in base alla quale paga un assegno di 560 euro al mese a 2000 disoccupati finlandesi, assegno non vincolato dal fatto che cerchino lavoro oppure no. Esperimenti analoghi sono in corso nella provincia canadese dell’Ontario, nella città italiana di Livorno e in numerose città olandesi. (nel 2016 in Svizzera si è tenuto un referendum sull’istituzione di una forma di reddito minimo nazionale, ma gli elettori hanno respinto la proposta). Il problema di queste soluzioni nazionali e municipali consiste nel fatto che non è necessariamente vero che le principali vittime dell’automazione vivano in Finlandia, nell’Ontario, a Livorno o ad Amsterdam.

 

 

 

Cosa significa minimo

 

Se l’introduzione di un sostegno economico minimo universale mira al miglioramento delle condizioni oggettive dell’individuo medio nel 2050, questa misura ha buone possibilità di successo. Ma se ambisce a rendere le persone soggettivamente più soddisfatte della loro sorte e a prevenire lo scontento sociale, è probabile che fallisca. Per raggiungere davvero questi obiettivi, il sostegno minimo universale dovrà essere integrato da qualche significativo complemento, che può andare dallo sport alla religione. Forse l’esperimento di maggior successo di come si può vivere una vita appagante in un mondo post-lavoro è stato condotto in Israele. Qui circa il 50% degli uomini ebrei ultra-ortodossi non lavora mai: dedica la vita a studiare le sacre scritture e a praticare rituali religiosi. Essi e le loro famiglie non muoiono di fame in parte perchè le mogli spesso lavorano, e in parte perchè il governo li assiste con generosi sussidi e servizi gratuiti, in modo che non manchino loro i beni essenziali. In pratica un supporto minimo universale ante litteram. Benchè siano poveri e disoccupati, da numerose ricerche emerge che questi uomini ebrei ultra-ortodossi godono dei livelli più elevati di soddisfazione esistenziale rispetto ad ogni altro gruppo sociale israeliano. Ciò è dovuto alla forza dei loro legami comunitari e alla profonda gratificazione che trovano nello studio delle sacre scritture e nella pratica dei rituali.

 

Gli israeliani laici si lamentano molto del fatto che gli ultra-ortodossi non contribuiscano abbastanza alla società e vivano sulle spalle degli altri. Gli israeliani laici sottolineano anche che lo stile di vita  degli ultra-ortodossi è insostenibile , specialmente perchè le famiglie ultra-ortodosse hanno in media sette bambini. Prima o poi, lo stato non sarà in grado di mantenere tutti questi disoccupati e gli ultra-ortodossi dovranno andare a lavorare. Potrebbe però essere vero anche il contrario. Quando i robot e l’IA escluderanno i lavoratori dal mercato del lavoro, gli ebrei ultra-ortodossi potrebbero essere visti come il modello del futuro anzichè un fossile del passato.

 

Nella vita di tutti la ricerca di un senso e di una comunità potrebbe diventare più importante della ricerca di un lavoro. Se riusciamo a combinare una rete di sicurezza economica universale insieme a comunità forti e intense aspirazioni semantiche, la perdita dei nostri lavori a favore degli algoritmi potrebbe in effetti rivelarsi una benedizione. Perdere il controllo sulle nostre vite, comunque, è uno scenario che incute terrore. Malgrado il rischio di una disoccupazione di massa, ciò di cui dovremmo preoccuparci ancora di più è il trasferimento di autorità dagli individui agli algoritmi, che potrebbero distruggere ogni residuale fede nella narrazione liberale e aprire la strada al potere delle dittature digitali.

 

3.Libertà

 

Ascolta l’algoritmo

 

Siamo prossimi alla confluenza di due grandi rivoluzioni. Da un lato i biologi stanno decifrando i misteri del corpo umano, in particolare del cervello e dei sentimenti, mentre gli informatici ci forniscono un potere di elaborare dati mai conosciuto prima. Quando la rivoluzione delle tecnologie biologiche si unirà alla rivoluzione delle tecnologie informatiche, produrrà algoritmi che potranno capire e controllare i miei sentimenti meglio di me, e l’autorità si sposterà dagli esseri umani ai computer. Crollerà la mia illusione di avere una libera volontà e ogni giorno troverò istituzioni, aziende e agenzie governative che comprenderanno e manipoleranno quello che finora è stato il mio inaccessibile regno interiore.

 

Nel 2050 grazie ai sensori biometrici e agli algoritmi dei big data, le malattie potranno essere diagnosticate e trattate molto prima che portino al dolore o alla disabilità. Di conseguenza si soffrirà sempre di qualche disturbo e si seguirà questa o quella raccomandazione algoritmica. Se rifiuti di curarti la tua assicurazione sanitaria non sarà più valida o il capo ti licenzierà: perchè dovrebbero pagare il costo della tua ostinazione? Una cosa è continuare a fumare nonostante le statistiche mettano in relazione il fumo con il cancro ai polmoni. Diverso è se si continua a fumare nonostante un concreto avvertimento che proviene da un sensore biometrico che ha già individuato diciassette cellule cancerose nella parte superiore del tuo polmone sinistro. Chi avrà il tempo e l’energia di gestire tutte queste malattie? Con ogni probabilità, potremo solo istruire il nostro algoritmo della salute perchè risolva la parte più consistente di questi problemi nel modo che ritiene opportuno.

 

Il dramma di prendere decisioni

 

E’ nota l’affermazione di Winston Churchill secondo cui la democrazia è il sistema politico peggiore del mondo, a parte tutti gli altri. Giusto o sbagliato, si possono raggiungere le stesse conclusioni riguardo agli algoritmi dei big data: hanno un sacco di difetti, ma non abbiamo un’alternativa migliore.  Con la sempre più profonda comprensione del modo in cui prendiamo le nostre decisioni permessa dalla scienza, è probabile che la tentazione di affidarsi agli algoritmi cresca. Scoprire i processi di decisione del nostro cervello non renderà solo più affidabili gli algoritmi dei big data, renderà anche meno attendibili i sentimenti umani. Quando i governi e le aziende riusciranno a interferire con il nostro sistema decisionale, saremo esposti a una raffica mirata di manipolazioni, pubblicità e propaganda. Diventerà così facile manipolare le nostre opinioni ed emozioni che saremo obbligati a delegarle agli algoritmi, proprio come un pilota colpito da un attacco di vertigini deve ignorare ciò che gli dicono i propri sensi e affidarsi totalmente agli strumenti. In certi paesi e in certe situazioni non verrà consentita alcuna scelta alle persone, che saranno costrette a obbedire alle decisioni degli algoritmi dei big data. Però, anche nelle cosiddette società libere, gli algoritmi potrebbero acquisire autorità perchè impareremo dall’esperienza a fidarci di loro per un ventaglio sempre più ampio di problemi e perderemo gradualmente la capacità di decidere in autonomia. Pensate soltanto al modo in cui in appena due decenni miliardi di individui hanno iniziato a fidarsi dell’algoritmo di ricerca di google per uno dei compiti più importanti di tutti: la ricerca delle informazioni. Già oggi la verità è definita dal primo risultato di ricerca di google.

 

Se l’autorità passa dagli esseri umani agli algoritmi, non possiamo più vedere il mondo come un luogo dove individui autonomi lottano per fare le scelte giuste. Invece potremo percepire l’intero universo come un flusso di dati, vedere gli organismi come poco più che algoritmi biochimici e credere che la vocazione cosmica dell’umanità sia creare un sistema globale di elaborazione dei dati omnicomprensivo – e poi fondersi con esso. Già oggi stiamo diventando piccoli chip dentro un sistema gigantesco di elaborazione dei dati, che peraltro nessuno comprende appieno. Ogni giorno assorbo innumerevoli bit di informazione attraverso e-mail, tweet e articoli. Non so veramente dove mi colloco nel grande schema delle cose, e come i miei bit di informazione si colleghino ai bit prodotti da milioni di altri esseri umani e computer. E non ho tempo di scoprirlo, perchè sono impegnato a rispondere a tutte quelle e-mail.

 

L’auto filosofica

 

Già oggi, mentre apparecchi come gli smartphone o i veicoli a guida autonoma prendono decisioni che un tempo erano monopolio dell’uomo, altri simili apparecchi iniziano ad affrontare problemi etici analoghi a quelli che tormentano gli uomini da millenni. Per esempio immaginate che due bambini mentre rincorrono una palla, saltino davanti a un’auto a guida autonoma. Basandosi sui suoi calcoli fulminei, l’algoritmo che guida la macchina conclude che l’unico modo per evitare di investire i due bambini è sterzare nella corsia opposta e rischiare una collisione con un camion che procede in direzione contraria. L’algoritmo calcola che in questo caso c’è il 70% delle probabilità che il proprietario dell’auto – addormentato sul sedile posteriore – rimanga ucciso. Cosa dovrebbe fare l’algoritmo? I filosofi discutono sui dilemmi del carrello da millenni ( del carrello perchè relativi a un carrello ferroviario impazzito).

 

Ci si chiede se la Tesla debba risolvere questi complessi problemi per produrre un’auto. Forse la Tesla lascerà fare al mercato. Produrrà due modelli di veicoli a guida autonoma: la Tesla Altruista e la Tesla Egoista. In caso di emergenza, l’auto altruista sacrifica il proprietario per salvare i bambini, mentre quella egoista farà tutto il possibile per salvare il proprietario anche se questo vuol dire uccidere i bambini. I consumatori potranno comprare la macchina che meglio si adatta alla loro posizione etica. Se saranno più gli individui che compreranno l’auto egoista, la Tesla non sarà responsabile. Dopotutto, il cliente ha sempre ragione.

 

Abbiamo visto che l’ascesa della IA può provocare la perdita di molti posti di lavoro, compresi autisti e polizia stradale (la polizia stradale sarà ridondante quando gli autisti indisciplinati saranno sostituiti da obbedienti algoritmi). In cambio ci saranno nuove opportunità per i filosofi, perchè la loro competenza – finora priva di un grande valore di mercato – sarà all’improvviso molto richiesta. Quindi, se volete studiate qualcosa che vi garantisca un lavoro in futuro, forse la filosofia non è una scelta tanto malvagia.

 

Dittatura digitale

 

L’IA spesso ci spaventa perchè ci fidiamo troppo del fatto che sia sempre obbediente. Abbiamo visto troppi film di fantascienza su robot che si ribellano contro i loro padroni, che scorrazzano fuori controllo per le strade e uccidono tutti. In realtà, il vero problema con i robot è esattamente il contrario: dovremo temerli perchè obbediranno sempre ai loro padroni e non si ribelleranno mai. Non c’è nulla di male nella cieca obbedienza, finchè i robot sono al servizio di padroni benevoli. Persino durante un conflitto, l’impiego di robot combattenti potrebbe assicurare per la prima volta nella storia che le leggi di guerra vengano effettivamente rispettate sul campo di battaglia.

 

Però prima di affrettarci a sviluppare e a schierare robot combattenti, ci dobbiamo ricordare che i robot rispecchiano e amplificano le istruzioni del loro codice. Se il codice è misurato e benevolo, i robot saranno probabilmente un grande passo avanti rispetto ai combattenti umani. Se invece il codice è spietato e crudele, i risultati saranno catastrofici. Il vero problema con i robot non è la loro intelligenza artificiale, piuttosto la naturale stupidità e crudeltà dei loro programmatori.

 

Intelligenza artificiale e stupidità naturale

 

La fantascienza tende a confondere l’intelligenza con la coscienza e presume che per eguagliare o superare la nostra intelligenza i computer debbano diventare coscienti.

 

In realtà non c’è ragione di temere che l’IA possa diventare cosciente, perchè l’intelligenza e la coscienza sono fenomeni ben distinti. L’intelligenza è la capacità di risolvere i problemi. La coscienza è la capacità di provare cose come la paura, la gioia, l’amore e la rabbia. Tendiamo a confonderle perchè negli esseri umani e negli altri mammiferi intelligenza e coscienza sono associate.

 

Proprio come gli aerei volano più veloci degli uccelli senza aver sviluppato le piume, i computer possono arrivare a risolvere problemi molto meglio dei mammiferi senza sviluppare sentimenti. E’ vero l’IA dovrà analizzare i sentimenti umani con gran scrupolo per curare malattie umane, individuare terroristi umani, consigliare partner umani e percorrere una strada piena di pedoni umani. Ma lo può fare senza provare essa stessa sentimenti. Un algoritmo non ha bisogno di provare gioia, rabbia o paura per riconoscere i diversi modelli biochimici di scimmie gioiose, arrabbiate o spaventate.

 

Ci sono tre possibilità che dobbiamo considerare:

 

1. La coscienza è una facoltà determinata esclusivamente dalla biochimica organica, per cui non sarà mai possibile creare una coscienza in sistemi non organici;
2. La coscienza non è legata alla biochimica organica, bensì all’intelligenza, per cui i computer potrebbero sviluppare una coscienza, e dovranno svilupparla se si vuole che superino una certa soglia di intelligenza;
3. Non ci sono legami essenziali tra coscienza e biochimica organica o elevata intelligenza: quindi i computer potrebbero sviluppare una coscienza, ma non necessariamente. Potrebbero diventare super-intelligenti rimanendo del tutto inconsapevoli.

 

Sulla base delle nostre attuali conoscenze non possiamo escludere nessuna di queste opzioni. tuttavia , proprio perchè sappiamo così poco della coscienza, sembra inverosimile la programmazione di computer consapevoli in un futuro prossimo. Di conseguenza nonostante l’immenso potere dell’IA, nell’immediato futuro il suo utilizzo continuerà a dipendere dalla coscienza umana.

 

 

4.Uguaglianza

 

Chi possiede i dati?

 

La gara per ottenere i dati è già iniziata e vede in testa giganti come Google, Facebook, Baidu e Tencent. Finora queste aziende sembrano aver adottato il modello di business dei mercanti dell’attenzione. Catturano la nostra attenzione fornendoci informazioni gratuite, servizi e intrattenimento, e rivendono poi la nostra attenzione alle aziende inserzioniste. E’ però probabile che i giganti dei dati coltivino obiettivi assai più ambiziosi di ogni precedente mercante dell’attenzione. Il loro vero business non è affatto vendere spazi pubblicitari. In realtà, catturando la nostra attenzione, sono in grado di accumulare una immensa quantità di dati su di noi, un fatto che vale molto più di qualunque incasso pubblicitario. Non siamo i loro clienti – siamo i loro prodotti.

 

Per la gente comune sarà molto difficile contrastare questo processo. Al momento, la gente è felice di elargire la propria risorsa più preziosa – i dati personali – in cambio di servizi di posta elettronica gratuita e simpatici video di gattini. E’ un po’ come è accaduto agli africani e agli indiani d’America, che hanno sconsideratamente venduto grandi territori agli imperialisti europei in cambio di perline colorate e paccottiglia. Se in futuro la gente comune cercherà di bloccare il flusso di dati, scoprirà che nel frattempo l’impresa è diventata molto più difficile, soprattutto perchè tutti dipendono dalla rete per qualsiasi decisione, persino per la salute e la sopravvivenza fisica. Esseri umani e macchine saranno così strettamente associati che gli esseri umani non potranno sopravvivere se non connessi alla rete. Saranno in rete sin dalla nascita, e se nel corso della loro esistenza decidessero di uscirne, le compagnie assicurative potrebbero rifiutarsi di assicurarli, i datori di lavoro potrebbero rifiutarsi di assumerli e i servizi sanitari potrebbero rifiutarsi di curarli. Nella grande battaglia tra salute e privacy, è molto probabile che la salute vincerà a mani basse.

 

Così sarebbe bene chiedere ai nostri avvocati, politici, filosofi e persino ai nostri poeti di considerare questo problema: come si controlla la proprietà dei dati? Questa può essere davvero la questione politica essenziale della nostra era. Se non saremo in grado di risolvere rapidamente questo problema, il nostro sistema sociopolitico potrebbe collassare. La gente avverte già nell’aria l’imminente catastrofe. Forse è per questo che in tutto il mondo tanti stanno perdendo fiducia nella narrazione liberale, che solo un decennio fa sembrava invincibile. E allora come ne usciamo? Come affrontiamo la grande sfida delle due rivoluzioni, biotecnologica e informatica? Forse gli stessi scienziati e imprenditori che stanno sconvolgendo il mondo potrebbero trovare qualche soluzione tecnologica? Per esempio con un rete di algoritmi si potrebbe creare la struttura per una comunità umana globale che potrebbe possedere in modo collettivo tutti i dati e prevedere lo sviluppo futuro della vita? Con l’insorgere della disuguaglianza globale e l’aumentare delle tensioni sociali nel mondo, forse Mark Zuckerberg potrebbe fare appello ai suoi due miliardi di amici e unire le forze per fare qualcosa insieme?

 

5.Umiltà

 

La madre di Freud

 

I bambini israeliani di solito terminano un percorso scolastico della durata di dodici anni senza ricevere alcuna visione sintetica dei processi storici globali. Non viene insegnato loro quasi nulla sulla Cina, l’India o l’Africa, imparano qualcosa sull’impero romano, sulla Rivoluzione francese e sulla seconda guerra mondiale, ma queste nozioni rimangono tessere isolate del mosaico, insufficienti a fornire una visione del quadro storico complessivo. Invece l’unica storia coerente offerta dal sistema educativo israeliano comincia con l’Antico Testamento ebraico, continua fino all’epoca del Secondo Tempio, salta qua e là fra le varie comunità ebraiche disperse nella diaspora, e culmina con l’affermarsi del sionismo, l’Olocausto e la fondazione dello stato di Israele. La maggior parte degli studenti esce dalla scuola convinta che questo sia il principale filone narrativo dell’intera storia della nostra specie. E anche quando gli studenti sentono parlare dell’impero romano o della Rivoluzione francese, la discussione in classe si concentra unicamente su come i romani trattavano gli ebrei o sullo status legale e politico degli ebrei nella Francia repubblicana. Individui cresciuti con questa minestra storica trovano poi molto difficile concepire l’idea che il giudaismo nella realtà dei fatti abbia avuto un impatto relativamente modesto sul mondo nel suo complesso.

 

La nascita del fanatismo

 

Da un punto di vista etico, il monoteismo è stato forse una delle idee più nefaste della storia. Il monoteismo ha fatto poco per migliorare le qualità morali della nostra specie – pensate davvero che i musulmani siano intrinsecamente più etici degli indù, solo perchè credono in un unico dio mentre gli indù credono in molti dei? I conquistadores spagnoli erano moralmente migliori delle tribù pagane Inca e Azteche del Centro America? Quello che il monoteismo ha fatto di sicuro è stato rendere molti popoli più intolleranti, contribuendo a legittimare e a promuovere le persecuzioni religiose e le guerre sante. I politeisti trovavano perfettamente accettabile che popoli diversi adorassero dei diversi e celebrassero riti e liturgie diverse. Di rado, se mai l’avevano fatto, avevano combattuto, perseguitato o ucciso qualcuno in nome delle sue credenze religiose. I monoteisti invece credevano che il loro dio fosse l’unico dio, e che esigesse un’obbedienza universale. Per questo motivo, quando il cristianesimo e l’islam si diffusero in tutto il mondo, vennero organizzate le Crociate, il jihad, l’Inquisizione e le discriminazione religiosa.

Confrontate per esempio l’atteggiamento dell’imperatore indiano Asoka nel terzo secolo a.C. con quello degli imperatori cristiani del tardo impero romano. Asoka governava un impero caratterizzato da una miriade di culti, sette e guru. Si assegnò i titoli ufficiali di re caro agli dei e padre di tutti gli uomini. Nel 250 a.C., promulgò un editto imperiale di tolleranza con il quale proclamava:

Il re caro agli dei rende onore a tutte le religioni, così a quelle di asceti come a quelle di laici(…) egli pensa al reale progresso che può compiersi in tutte le religioni. Il progresso reale ha forme diverse, ma sua radice è la moderazione nell’esaltare la propria religione come nel criticare l’altrui religione; e il parlarne sia ben meditato e vi sia rispetto (…). Chi dunque esalta la propria religione e denigra totalmente le altre per devozione alla propria religione e per glorificarla, agendo con tale eccesso fa danno alla propria religione. E’ bene che vi sia dominio di sè, che gli uni diano ascolto e rispettino la fede religiosa degli altri. E questo è il desiderio del re caro agli dei: che di tutte le religioni si diffonda la conoscenza ed esse diano buoni insegnamenti.