Il gatto e la distruzione di Atlantide

Abbiamo costruito un mondo sempre più complesso. Ma siamo ancora capaci di governarlo?

Un dialogo perduto di Socrate

«Dimmi, Critone, credi che le grandi catastrofi debbano necessariamente avere grandi cause?»

«Certamente, Socrate. Una guerra può distruggere una città, un terremoto abbatterla, il mare sommergerla. Ma una cosa insignificante non può provocare una grande sciagura.»

«Ne sei proprio sicuro?»

«Assolutamente.»

«Allora ti racconterò come scomparve Atlantide.»

«Ma tutti sanno che Atlantide fu distrutta dagli dèi!»

«Tutti sanno molte cose, Critone. È per questo che così pochi sentono il bisogno di conoscerle.»

«E tu conosci una storia diversa?»

«Conosco la storia di un gatto.»

«Un gatto?»

«Un piccolo gatto nero. Non sappiamo come si chiamasse, né a chi appartenesse. Sappiamo soltanto che una mattina attraversò una strada.»

«E questo che cosa c’entra con Atlantide?»

«Se avrai pazienza, lo scoprirai.»

Era una bella mattina di primavera. Atlantide si preparava alla grande festa di Poseidone. Le strade erano affollate di mercanti, contadini, soldati, sacerdoti e marinai arrivati dalle isole vicine.

Un gatto nero dormiva sul davanzale della bottega di un fornaio. Non era particolarmente bello. Aveva un orecchio segnato da un vecchio morso e la coda un po’ spelacchiata. Il suo principale interesse nella vita consisteva nel procurarsi da mangiare senza lavorare troppo.

Quella mattina vide una lucertola attraversare la strada.

Decise di seguirla.

Saltò dal davanzale proprio mentre sopraggiungeva un carro carico di anfore d’olio.

Il cavallo si spaventò, si impennò e trascinò il carro contro il banco di un fruttivendolo.

Le anfore caddero e si ruppero. L’olio si sparse sui lastroni della strada.

Il fruttivendolo, cercando di salvare le proprie mele, scivolò e precipitò addosso a una vecchia che portava un cesto di uova.

Le uova si ruppero.

Un ragazzo, incaricato di consegnare un messaggio al comandante della guarnigione, mise un piede sulle uova, scivolò e finì contro un banco di pesce.

Il pescivendolo, furibondo, afferrò un grosso cefalo e lo scagliò contro il ragazzo.

Il pesce mancò il bersaglio e colpì in pieno volto un soldato.

Il soldato estrasse la spada.

Il pescivendolo gridò.

La vecchia gridò più forte.

Qualcuno, vedendo il soldato con la spada sguainata, gridò che era scoppiata una rivolta.

Nel giro di pochi minuti il mercato si trasformò in una confusione indescrivibile.

Un ufficiale della guardia cittadina, convinto che si trattasse dell’inizio di un’insurrezione, ordinò di suonare le trombe per richiamare i soldati.

Le trombe risuonarono proprio mentre, nella piazza del tempio, si preparava il sacrificio di cento tori in onore di Poseidone.

Il primo toro si spaventò e si liberò dalle corde.

Il secondo, vedendo fuggire il primo, lo seguì.

Il terzo trascinò con sé il quarto.

In pochi istanti cento tori correvano imbizzarriti attraverso Atlantide.

«Cento tori?» domandò Critone.

«Cento, secondo il racconto. Ma forse erano novantanove. Non credo che qualcuno abbia avuto il tempo di contarli.»

«E che cosa accadde?»

«Uno di loro entrò nel palazzo reale.»

Il toro più grosso attraversò il grande portone, travolse due guardie e si precipitò nella sala del trono.

Il re, che stava discutendo con il ministro delle finanze dell’aumento delle imposte sul commercio del pesce, si rifugiò dietro una colonna.

Il ministro, meno agile, cercò riparo dietro una gigantesca statua di Poseidone.

Il toro caricò.

Il ministro riuscì a spostarsi appena in tempo.

La statua oscillò sul piedistallo e precipitò a terra, spezzandosi in tre pezzi.

Il toro, soddisfatto del risultato, abbandonò il palazzo.

Il re uscì dal suo nascondiglio.

Vide la statua distrutta e convocò immediatamente il sommo sacerdote.

«Poseidone è stato offeso» dichiarò il sacerdote.

«Dobbiamo riparare immediatamente il sacrilegio» rispose il sovrano.

«Occorre una nuova statua.»

«La voglio più grande della precedente» ordinò il re. «Tre volte più grande. Che tutti sappiano quanto Atlantide onori il suo dio.»

Gli scultori furono convocati. Gli architetti prepararono i disegni. I funzionari calcolarono le spese.

Il sovrano pretese che la nuova statua fosse pronta prima della luna piena.

Per procurarsi una quantità tanto grande di marmo, gli operai ricevettero l’ordine di riaprire le antiche cave della montagna.

Erano cave abbandonate da generazioni. Per secoli gli Atlantidei avevano scavato nel cuore dell’isola per estrarre pietre e metalli preziosi, lasciando una rete di gallerie che nessuno conosceva più completamente.

Il capomastro avvertì che alcune volte erano pericolanti.

Il ministro delle opere pubbliche rispose che non c’era tempo per le verifiche.

Il re aveva fretta.

Si cominciò a scavare.

Gli operai abbatterono un vecchio muro per raggiungere un filone di marmo particolarmente pregiato.

Il muro sosteneva una galleria superiore, ma nessuno lo sapeva.

La volta cedette.

Il crollo trascinò con sé alcune travi che sostenevano un’altra galleria.

Anche quella crollò.

Le vibrazioni raggiunsero le cavità più profonde, dove da secoli le infiltrazioni d’acqua avevano indebolito la roccia.

Il terreno cominciò a tremare.

«Un terremoto!» esclamò Critone.

«Non proprio. Per il momento era soltanto una montagna che cominciava a cedere sotto il peso delle proprie ferite.»

«E gli Atlantidei non si fermarono?»

«Certamente. Si fermarono per discutere.»

Il re convocò gli ingegneri.

Gli ingegneri suggerirono di sospendere i lavori e consolidare le gallerie.

Il ministro delle finanze osservò che il consolidamento sarebbe costato troppo.

Il sommo sacerdote ricordò che la statua doveva essere completata prima della luna piena.

Il ministro delle opere pubbliche propose di scavare più in profondità, dove la roccia sembrava ancora compatta.

Il re approvò.

Gli operai ripresero il lavoro.

Una nuova galleria raggiunse una grande cavità naturale che si estendeva sotto il fianco della montagna. Per secoli quella cavità era rimasta isolata dalle altre.

Il crollo di un pilastro roccioso provocò un boato.

Poi un altro.

Poi un terzo.

La montagna cominciò lentamente a scivolare verso il mare.

Gli abitanti fuggirono dalle case. Le mura si spezzarono. Il palazzo reale si inclinò e una delle torri precipitò nel porto.

Infine un intero versante dell’isola cedette e sprofondò nell’oceano.

L’enorme massa di roccia sollevò un’onda che investì le coste, travolse il porto e penetrò nella città.

Altri crolli seguirono.

Il mare occupò le grandi cavità aperte sotto l’isola, mentre ciò che restava delle costruzioni scompariva tra le acque.

All’alba, di Atlantide non rimanevano che pochi scogli.

Socrate tacque.

Critone rimase a lungo pensieroso.

«Dunque, Socrate, vuoi farmi credere che Atlantide fu distrutta da un gatto?»

«Ti ho soltanto raccontato una storia.»

«Ma senza il gatto il cavallo non si sarebbe spaventato.»

«È vero.»

«E senza il cavallo non ci sarebbero state le uova, il pescivendolo, il soldato e i tori.»

«Certamente.»

«E senza il toro la statua non sarebbe caduta.»

«Proprio così.»

«E senza la statua il re non avrebbe ordinato di scavare la montagna.»

«Mi sembra che tu abbia compreso.»

«Allora la colpa fu del gatto!»

Socrate sorrise.

«Dimmi, Critone, credi che il gatto volesse distruggere Atlantide?»

«Naturalmente no.»

«E il cavallo?»

«Neppure.»

«E il pescivendolo?»

«Voleva soltanto colpire il ragazzo.»

«E il soldato?»

«Voleva difendersi.»

«E il re?»

«Voleva onorare Poseidone.»

«Dunque nessuno voleva distruggere la città. E tuttavia la città fu distrutta.»

Critone rimase in silenzio.

«Vedi, Critone, gli Atlantidei avevano costruito palazzi magnifici, scavato montagne, aperto porti e inventato macchine straordinarie. Ma non avevano compreso come tutte quelle cose dipendessero le une dalle altre. E quando qualcosa andò storto, ciascuno cercò di risolvere il proprio problema, senza preoccuparsi delle conseguenze per gli altri.»

«E quale insegnamento dovremmo trarne?»

«Che gli uomini sono molto abili nel costruire ciò che non sanno più governare.»

Proprio in quel momento un gatto nero attraversò la strada davanti a loro.

Critone balzò in piedi.

«Socrate! Un gatto nero! Dobbiamo fare qualcosa!»

Socrate lo trattenne per il mantello.

«Per gli dèi, Critone, non fare nulla. È proprio quando gli uomini cominciano a fare qualcosa senza sapere che cosa stanno facendo che nascono i guai.»

Il nostro mondo non è Atlantide. Oppure sì?

Il dialogo è naturalmente inventato. E anche la distruzione dell’isola appartiene alla fantasia, con qualche libertà geologica che spero Socrate mi perdonerebbe.

Ma il meccanismo della storia è meno fantasioso di quanto possa sembrare.

Nei giorni scorsi una successione di incidenti tecnologici ha messo in difficoltà alcune delle infrastrutture dalle quali dipende il funzionamento della nostra società.

Il 12 e 13 novembre Microsoft ha subito un grave disservizio che ha coinvolto Exchange Online e diverse funzionalità di Microsoft 365. Per quasi ventiquattro ore imprese, professionisti e organizzazioni hanno incontrato difficoltà nell’utilizzo di strumenti ormai indispensabili.

La ricostruzione pubblicata il 20 novembre è interessante. All’origine c’era un difetto software latente, introdotto mesi prima. Il problema si è manifestato quando determinate condizioni di carico hanno provocato il blocco di numerosi server.

I sistemi di gestione del traffico hanno cercato di distribuire le richieste verso altre risorse disponibili. Ma queste, ricevendo un carico crescente, sono entrate a loro volta in difficoltà.

I tecnici hanno dovuto intervenire anche sui meccanismi automatici di distribuzione, oltre che correggere il difetto originario.

Un sistema progettato per mantenere disponibile il servizio aveva contribuito, in quelle particolari circostanze, ad amplificare il problema.

Il nostro re di Atlantide, che per rimediare alla caduta della statua ordinava di scavare la montagna, non era poi così lontano.

Il 13 novembre è accaduto qualcosa di ancora più impressionante.

Negli Stati Uniti la Federal Aviation Administration, l’agenzia che sovrintende al traffico aereo, ha disposto il blocco delle partenze su scala nazionale.

Per quattro ore e quarantacinque minuti gli aerei in partenza sono rimasti a terra. Circa 3.500 velivoli già in volo hanno potuto proseguire e atterrare in sicurezza, mentre le operazioni essenziali hanno continuato a essere garantite.

Il 13 novembre sono stati cancellati circa 12.462 voli, anche se non tutte le cancellazioni sono direttamente attribuibili al blocco. Le conseguenze si sono trascinate nei giorni successivi, con migliaia di ulteriori cancellazioni e difficoltà nel riposizionamento degli aerei e degli equipaggi.

La causa non è stata un attacco terroristico, né un sabotaggio accertato e neppure un’intelligenza artificiale impazzita.

Secondo la ricostruzione iniziale della FAA, durante lavori sulla rete di telecomunicazioni si è verificato un flusso anomalo di dati, con circa mille tentativi di connessione ogni quattro o cinque secondi.

Apparati tradizionali non sono riusciti a gestire quella sollecitazione. L’instabilità ha interessato diciassette dei ventidue centri di controllo del traffico aereo e alcune strutture radar.

L’indagine tecnica non aveva ancora chiarito definitivamente l’origine del problema, ma il caso ha riportato al centro dell’attenzione la difficoltà di modernizzare infrastrutture nelle quali tecnologie recentissime devono convivere con apparati progettati molti anni prima.

La FAA ha isolato le possibili sorgenti del traffico anomalo e disabilitato precauzionalmente una funzionalità su numerosi router.

Le procedure di sicurezza hanno funzionato.

È un particolare che non dobbiamo trascurare. Il sistema non è collassato completamente e gli aerei già in volo sono stati condotti a destinazione. Ma per garantire la sicurezza è stato necessario interrompere una parte fondamentale del traffico aereo americano.

La sicurezza ha funzionato. La continuità del servizio, invece, è venuta meno.

Sono due cose diverse.

Il 16 novembre anche United Airlines ha dovuto sospendere temporaneamente alcune partenze per un problema ai propri sistemi informatici operativi.

Tre episodi differenti, con cause distinte. Non abbiamo elementi per sostenere che fossero collegati.

Eppure la loro concentrazione temporale suggerisce una domanda.

Che cosa sarebbe successo se quei problemi, invece di rimanere indipendenti, avessero cominciato a interagire?

Se il guasto di una rete avesse impedito di intervenire su un’altra? Se i sistemi di emergenza avessero utilizzato infrastrutture a loro volta compromesse? Se le decisioni prese per limitare i danni avessero finito per ampliarli?

La tempesta perfetta, fortunatamente, non si è verificata.

Ma siamo davvero preparati ad affrontarla?

Quando anche un frigorifero diventa vulnerabile

C’è un altro episodio, forse ancora più inquietante, che merita di essere ricordato.

Tra ottobre e novembre, in diversi Paesi europei, alcuni hacker sono riusciti a intervenire sui sistemi di controllo dei frigoriferi dei supermercati.

Nella notte tra l’11 e il 12 ottobre una prima ondata ha interessato circa settecento punti vendita in Francia. All’inizio di novembre altri attacchi hanno coinvolto strutture commerciali in diversi Paesi europei.

Gli aggressori hanno modificato da remoto le impostazioni degli impianti di refrigerazione, attivando in alcuni casi modalità di sbrinamento e provocando il deterioramento degli alimenti.

Le perdite economiche sono state considerevoli.

Nello stesso periodo un attacco informatico ha colpito anche tre siti dell’Établissement français du sang, il servizio trasfusionale francese.

Questa volta il bersaglio non erano prodotti alimentari, ma apparecchiature destinate alla conservazione del plasma.

Secondo le ricostruzioni pubblicate, gli aggressori sono intervenuti sui sistemi di controllo della refrigerazione, alterando le temperature impostate e le soglie di sbrinamento fino a valori estremi.

Non significa che le celle abbiano effettivamente raggiunto quelle temperature.

Fortunatamente i sistemi di allarme hanno funzionato. Il personale è intervenuto tempestivamente, mettendo in sicurezza o trasferendo il materiale conservato. Non risultano perdite di prodotti sanguigni né conseguenze sanitarie.

Le autorità hanno avviato accertamenti sulle vulnerabilità dei sistemi interessati.

Non è stato dimostrato che tutti gli attacchi ai supermercati e alle strutture sanitarie facessero parte di un’unica operazione. Ma la somiglianza delle modalità e la natura dei bersagli rendono questi episodi particolarmente significativi.

Proviamo a riflettere.

Un frigorifero è forse uno degli oggetti più banali della nostra vita quotidiana. Da quando è diventato un dispositivo connesso, tuttavia, può essere raggiunto da qualcuno che si trova a migliaia di chilometri di distanza.

E se quel frigorifero conserva plasma destinato a impieghi terapeutici, un’incursione informatica può trasformarsi in un rischio per la vita delle persone.

Non occorre distruggere un ospedale per metterne in difficoltà il funzionamento. Può essere sufficiente compromettere un servizio esterno dal quale dipende.

Anche qui, tuttavia, c’è un elemento rassicurante.

L’intervento umano ha impedito che l’attacco producesse conseguenze sanitarie.

Le apparecchiature di allarme, le procedure di emergenza e la presenza di personale preparato hanno consentito di isolare il problema.

È un insegnamento che merita di essere conservato quando discuteremo del ruolo dell’intelligenza artificiale.

Il gatto di Atlantide comincia ad assumere una fisionomia sorprendentemente moderna.

La fragilità nascosta nella complessità

Abbiamo costruito un mondo nel quale tutto è collegato.

Una banca dipende dalle comunicazioni, dall’energia, dalle reti di pagamento e dai sistemi informatici di altre organizzazioni.

Un ospedale utilizza apparecchiature sofisticate, ma ha bisogno di energia elettrica, collegamenti digitali, farmaci, trasporti e servizi esterni.

Un aeroporto è una città nella città, nella quale devono funzionare contemporaneamente comunicazioni, controlli, sistemi informatici, rifornimenti, sicurezza e organizzazione del personale.

Ciascuno di questi sistemi può essere progettato con grande attenzione. Ma l’affidabilità dei singoli componenti non garantisce automaticamente quella dell’insieme.

È qui che si nasconde il problema.

Le infrastrutture moderne sono il risultato di decenni di innovazioni successive. Tecnologie recentissime convivono con apparati progettati molti anni fa. Programmi continuamente aggiornati devono dialogare con sistemi che nessuno osa modificare troppo, per il timore di compromettere ciò che ancora funziona.

La modernizzazione diventa essa stessa un rischio, quando non viene accompagnata da una comprensione adeguata delle interdipendenze.

Non basta sostituire una macchina vecchia con una nuova.

Bisogna sapere che cosa accadrà a tutte le altre macchine quando quella nuova comincerà a funzionare.

E soprattutto quando smetterà di funzionare.

Il caso americano è particolarmente istruttivo. Il blocco dei voli non fu il risultato di un collasso totale della sicurezza aeronautica. Al contrario, le procedure di emergenza permisero di proteggere gli aerei e i passeggeri.

Ma proprio la necessità di fermare un sistema tanto grande dimostra quanto possa essere esteso l’effetto di un problema relativamente circoscritto.

Abbiamo costruito un mondo nel quale il funzionamento di ogni componente dipende da quello di molti altri.

E non sempre sappiamo come queste dipendenze reagiranno quando qualcosa andrà storto.

L’intelligenza artificiale: chi governa chi?

Su questo mondo già complesso sta arrivando una trasformazione di dimensioni difficili da valutare: l’intelligenza artificiale.

Non è soltanto una nuova tecnologia. È uno strumento destinato a entrare progressivamente nei processi attraverso i quali le altre tecnologie vengono utilizzate, controllate e governate.

Può riconoscere anomalie, anticipare guasti, elaborare enormi quantità di informazioni e suggerire decisioni in tempi infinitamente più brevi di quelli necessari a un essere umano.

Potrebbe dunque aiutarci a impedire la tempesta perfetta.

Ma potrebbe anche contribuire a crearla.

Immaginiamo sistemi differenti che utilizzino algoritmi simili per rispondere a una situazione di emergenza.

Ciascuno prende una decisione ragionevole rispetto alle informazioni di cui dispone. Un sistema devia il traffico verso una rete alternativa. Un altro, rilevando il sovraccarico, lo sposta nuovamente. Un terzo interpreta le anomalie come un attacco e interrompe alcune comunicazioni.

Nessuna decisione è necessariamente assurda.

Ma il risultato complessivo può diventarlo.

Non occorre immaginare macchine dotate di una volontà propria. Basta che sistemi automatici interconnessi reagiscano più rapidamente di quanto gli esseri umani riescano a comprendere.

Gli incidenti di novembre non dimostrano che l’intelligenza artificiale abbia provocato questi guasti. Sarebbe un errore attribuirle responsabilità che non risultano documentate.

Ma mostrano la vulnerabilità di sistemi già fortemente automatizzati, nei quali l’introduzione di ulteriori capacità decisionali potrebbe modificare profondamente le dinamiche di funzionamento.

La questione non è se l’intelligenza artificiale sia buona o cattiva. È una domanda che non ha molto senso.

La questione è chi stabilisce gli obiettivi, chi controlla le decisioni, chi può interrompere un processo e chi si assume la responsabilità delle conseguenze.

E soprattutto se chi dovrebbe esercitare questo controllo possieda ancora gli strumenti per farlo.

L’intelligenza artificiale può diventare una straordinaria alleata nel governo della complessità. Ma per esserlo deve essere inserita in sistemi dei quali conosciamo i limiti, le dipendenze e le possibilità di intervento.

Delegare non significa necessariamente governare.

E un sistema che funziona perfettamente finché tutto procede secondo le previsioni potrebbe rivelarsi inadeguato proprio quando si verificano le condizioni eccezionali per le quali avremmo più bisogno del suo aiuto.

Governare senza comprendere

Qui la riflessione tecnologica diventa inevitabilmente politica.

Le nostre istituzioni sono nate e si sono sviluppate in un mondo nel quale i problemi potevano essere affrontati, almeno in parte, separatamente.

L’energia, i trasporti, la sanità, la finanza, le comunicazioni.

Oggi questa separazione è sempre meno possibile.

Una crisi energetica diventa una crisi industriale. Un problema informatico può trasformarsi in un’emergenza sanitaria. Una difficoltà nelle comunicazioni può compromettere la gestione dei trasporti. Una decisione economica può produrre conseguenze politiche in Paesi lontanissimi.

Eppure continuiamo spesso a governare con strutture organizzate per competenze separate, procedure lente e responsabilità frammentate.

Non si tratta soltanto di denunciare l’incompetenza di questo o quel governante, anche se la qualità delle decisioni pubbliche rimane una questione essenziale.

Il problema è più profondo.

La complessità richiede competenze che nessun individuo può possedere interamente. Richiede istituzioni capaci di coordinare conoscenze differenti, di apprendere dagli errori e di modificare rapidamente le proprie decisioni.

Richiede anche la capacità di riconoscere ciò che non sappiamo.

Una qualità poco apprezzata in politica, dove l’ammissione di un dubbio viene spesso interpretata come una debolezza e la promessa di una soluzione immediata come una dimostrazione di leadership.

Siamo arrivati al paradosso di pretendere che problemi sempre più complessi siano risolti da persone che vengono premiate soprattutto per la capacità di presentarli come semplici.

Non è una questione che riguarda soltanto i governi.

Riguarda le amministrazioni pubbliche, le grandi imprese, le organizzazioni internazionali e tutte le strutture nelle quali le decisioni vengono prese da soggetti che spesso non conoscono direttamente il funzionamento dei sistemi sui quali intervengono.

Il re di Atlantide aveva un ministro delle finanze, un ministro delle opere pubbliche, un sommo sacerdote e persino degli ingegneri.

Non gli mancavano i consulenti.

Gli mancava la capacità di ascoltarli, di mettere in relazione le loro conoscenze e di comprendere che il problema della statua non poteva essere affrontato separatamente da quello della montagna.

Il complotto è una risposta comoda

C’è poi un altro protagonista della nostra possibile tempesta: l’opinione pubblica.

Di fronte a una successione di incidenti difficili da comprendere, molti cercano immediatamente una spiegazione unica.

Qualcuno deve averli provocati.

Qualcuno deve averli organizzati.

Qualcuno deve avere un piano.

È il fascino delle teorie del complotto.

Offrono una risposta comprensibile a problemi che richiederebbero conoscenze, verifiche e pazienza. Individuano un responsabile e attribuiscono una volontà precisa a eventi che potrebbero essere il risultato di errori, coincidenze e interdipendenze.

Naturalmente i complotti esistono. Esistono i sabotaggi, gli attacchi informatici e le operazioni clandestine. Sarebbe ingenuo negarli.

Ma proprio per questo occorre distinguere le prove dalle supposizioni.

Il fatto che due incidenti avvengano nello stesso giorno non dimostra che abbiano la stessa causa.

Il fatto che una spiegazione sia difficile da comprendere non significa che sia falsa.

E il fatto che una teoria sia semplice, suggestiva e facilmente condivisibile non la rende vera.

Le piattaforme digitali hanno amplificato enormemente questo fenomeno.

Una spiegazione complessa richiede tempo. Una teoria del complotto può essere raccontata in trenta secondi.

La prima contiene spesso dubbi, condizioni e distinzioni. La seconda offre certezze.

Indoviniamo quale delle due abbia maggiori possibilità di circolare.

Il problema non riguarda soltanto la qualità dell’informazione. Riguarda la capacità stessa di una società di prendere decisioni collettive quando si trova davanti a un pericolo.

Perché una società che non riesce più a distinguere una spiegazione verificata da una suggestione rischia di perdere anche la capacità di riconoscere chi possiede le competenze necessarie per affrontare una crisi.

La tempesta della conoscenza

Ecco allora un rischio forse più grave di quello tecnologico.

Immaginiamo che una grande crisi investa contemporaneamente più infrastrutture.

Le comunicazioni funzionano a intermittenza. Alcuni servizi essenziali sono sospesi. Le informazioni ufficiali arrivano in ritardo o risultano contraddittorie.

I cittadini cercano spiegazioni.

Le reti sociali si riempiono di notizie non verificate. Qualcuno parla di un attacco straniero, altri di un complotto dei governi, altri ancora di un’intelligenza artificiale sfuggita al controllo.

Le autorità devono prendere decisioni difficili, ma una parte dell’opinione pubblica non si fida più di loro.

Gli esperti propongono interventi che richiedono tempo e sacrifici. I demagoghi promettono soluzioni immediate.

In una situazione del genere, la crisi tecnologica rischia di diventare una crisi della conoscenza e, successivamente, una crisi della capacità di governo.

Proprio nel momento in cui avremmo più bisogno di competenza, fiducia e collaborazione, potremmo scoprire di aver consumato buona parte di queste risorse.

E sarebbe forse questa la vera tempesta perfetta.

Non un computer che si spegne, una rete che si interrompe o un aereo che rimane a terra.

Ma una società che, di fronte a una situazione complessa, non riesce più a distinguere i fatti dalle interpretazioni, le competenze dalle opinioni, le soluzioni possibili dalle promesse impossibili.

I problemi complessi richiedono una comprensione complessa. Non necessariamente risposte complicate: talvolta la soluzione migliore è sorprendentemente semplice. Ma la semplicità che nasce dalla conoscenza è cosa ben diversa dal semplicismo che nasce dall’ignoranza.

Sopravvivremo alla prossima tempesta?

Non credo che siamo destinati inevitabilmente a una catastrofe tecnologica.

Abbiamo strumenti straordinari per prevenirla. Possediamo conoscenze scientifiche, capacità di calcolo, sistemi di sicurezza e possibilità di cooperazione che nessuna generazione precedente avrebbe potuto immaginare.

Ma possedere gli strumenti non significa necessariamente saperli utilizzare.

E soprattutto non significa essere preparati a utilizzarli quando le circostanze diventano eccezionali.

La questione non è soltanto costruire reti più moderne, algoritmi più intelligenti o infrastrutture più resistenti.

È costruire istituzioni capaci di governarli, formare persone capaci di comprenderli e conservare una cultura pubblica nella quale il dubbio, la verifica e la competenza abbiano ancora un valore.

Perché la prossima tempesta potrebbe arrivare senza preavviso.

E potrebbe cominciare da qualcosa di insignificante.

Un aggiornamento software.

Un collegamento difettoso.

Un apparato obsoleto.

Un ordine interpretato male.

Un gatto nero che attraversa una strada.

Forse dovremmo tornare al nostro Socrate immaginario.

«Dimmi, Socrate» domanda Critone, «come possiamo impedire che un gatto distrugga un’altra città?»

«Non possiamo impedire a tutti i gatti di attraversare tutte le strade.»

«E allora che cosa dobbiamo fare?»

«Costruire città capaci di sopravvivere ai gatti.»

Ma oggi la domanda è forse ancora più difficile.

Se arrivasse davvero la tempesta perfetta, saremmo capaci di riconoscerla, comprenderla e prendere insieme le decisioni necessarie per sopravvivere?

O continueremmo a discutere su chi abbia lasciato attraversare la strada al gatto?