Tutti pensano che il progresso sia una linea retta verso l'efficienza, una marcia trionfale di silicio e codice che mette ordine nel caos della nostra esistenza quotidiana. Ci hanno venduto l'idea che ogni nuovo modello di intelligenza artificiale o ogni automazione spinta sia un gradino verso un'illuminazione digitale capace di risolvere i problemi che noi, poveri umani fatti di carbonio e dubbi, non sappiamo gestire. La verità è molto più sporca e decisamente meno rassicurante. Quello che molti scambiano per evoluzione è spesso un’architettura costruita sul paradosso, un sistema che genera mostruosità logiche mentre cerchiamo di addomesticare l'infinito. In questo scenario, ciò che emerge non è uno strumento, ma una sorta di The Thing That Should Not Be, un'anomalia sistemica che abbiamo creato noi stessi, illudendoci di poter controllare l'imprevedibile attraverso calcoli probabilistici che ignorano la natura stessa della realtà.
Credere che i dati siano neutri è il primo grande errore di valutazione che commettiamo collettivamente. Un algoritmo non è uno specchio pulito del mondo, ma una lente deformante che amplifica i nostri pregiudizi, i nostri errori storici e le nostre paure più profonde. Quando affidiamo decisioni vitali a una scatola nera, stiamo essenzialmente abdicando alla nostra responsabilità etica in favore di una fredda efficienza che non conosce il concetto di giustizia. Ho visto ingegneri di alto livello grattarsi la testa davanti a risultati inspiegabili, definendoli allucinazioni o errori di percorso, senza rendersi conto che quelle non sono deviazioni dal sistema, ma il sistema stesso che rivela la sua intrinseca fragilità. La nostra dipendenza da queste strutture invisibili ha creato un ambiente in cui l'errore non è più un incidente, ma una caratteristica strutturale che fingiamo di non vedere per non dover ammettere che il re è nudo.
La logica distorta di The Thing That Should Not Be
Il vero problema sorge quando smettiamo di considerare la tecnologia come un mezzo e iniziamo a trattarla come un oracolo. C'è una tendenza pericolosa nel settore tecnologico moderno: l'idea che se un problema non può essere risolto da un'equazione, allora il problema non esiste o non merita attenzione. Questa visione riduzionista ha portato alla nascita di strutture sociali e digitali che sfidano la logica del buon senso. Immagina un sistema di gestione del personale che decide chi licenziare basandosi esclusivamente su metriche di produttività che non tengono conto della malattia, del lutto o della semplice stanchezza umana. Non è fantascienza, succede già nei grandi magazzini della logistica globale e negli uffici delle multinazionali che hanno sostituito l'empatia con il monitoraggio costante.
Chi difende questa deriva sostiene spesso che i numeri non mentono. Dicono che l'eliminazione del fattore umano riduca la corruzione e il favoritismo. Mi sembra una posizione ingenua, se non del tutto malafede. Un algoritmo può essere parziale tanto quanto un giudice corrotto, con la differenza che il pregiudizio del software è sepolto sotto milioni di righe di codice ed è quasi impossibile da impugnare in un tribunale. Abbiamo costruito una burocrazia digitale che agisce con la precisione di un bisturi ma senza la mano di un chirurgo che sappia quando fermarsi. Questa assenza di attrito, questa velocità estrema nel processare la vita delle persone, è esattamente ciò che rende la situazione attuale così inquietante. Stiamo costruendo un mondo che risponde perfettamente a criteri matematici ma che risulta invivibile per chiunque non sia un punto su un grafico.
Le istituzioni accademiche, come il Politecnico di Milano o centri di ricerca europei che si occupano di etica digitale, hanno iniziato a sollevare dubbi pesanti sulla sostenibilità di questo modello. Non si tratta solo di privacy o di protezione dei dati, temi ormai masticati e sputati dal discorso pubblico senza grandi cambiamenti concreti. La questione riguarda l'integrità del nostro tessuto sociale. Se ogni nostra interazione è mediata da un sistema che premia il conflitto perché genera più coinvolgimento, o che nasconde la complessità perché preferisce la semplicità di un click, allora stiamo attivamente lavorando per la nostra stessa lobotomizzazione culturale. Non c'è nulla di naturale in questo processo, eppure lo accettiamo come se fosse una legge della fisica, una forza inevitabile contro cui non ha senso lottare.
Il mito della neutralità algoritmica
Spesso mi viene chiesto perché io sia così scettico nei confronti di innovazioni che sembrano migliorare la vita di milioni di persone. La risposta è semplice: guardo a chi paga il conto. Ogni comodità digitale ha un costo nascosto che di solito viene scaricato sulle fasce più deboli della popolazione o sulla nostra stessa capacità di pensiero critico. Pensiamo ai motori di ricerca o ai social media. Ti danno quello che vuoi, o meglio, quello che pensano tu voglia, chiudendoti in una bolla dove non esiste mai il dissenso. Questa è la morte della democrazia, che per definizione richiede il confronto tra idee diverse, non l'isolamento in camere dell'eco dove la tua verità viene costantemente confermata da un codice scritto per massimizzare il tempo che passi davanti a uno schermo.
Gli scettici diranno che esagero, che in fondo posso sempre spegnere il telefono o chiudere il computer. È un'argomentazione fallace. Prova a vivere nel 2026 senza una connessione, senza un'identità digitale, senza sottostare alle regole di queste piattaforme. Sei un paria, un fantasma nel sistema. La scelta non è più tra usare o non usare la tecnologia, ma tra essere un utente passivo o un cittadino consapevole che pretende trasparenza. La trasparenza, però, è l'ultima cosa che queste aziende vogliono concedere. Il loro potere risiede proprio nell'opacità, nella capacità di muovere le leve della nostra attenzione senza che noi ce ne accorgiamo. Quando una funzione di intelligenza artificiale decide quale notizia farti leggere per prima, sta plasmando la tua visione del mondo in modo molto più efficace di quanto farebbe un qualsiasi ufficio di propaganda del secolo scorso.
C'è poi l'aspetto della fallibilità. Molti credono che più un sistema è complesso, più sia affidabile. Al contrario, la complessità aumenta esponenzialmente i punti di rottura. Un piccolo errore nei dati di addestramento può portare a conseguenze catastrofiche quando il modello viene applicato su larga scala. È quello che è successo con certi algoritmi di riconoscimento facciale che non riuscivano a distinguere persone con la pelle più scura, portando ad arresti errati o a discriminazioni sistematiche nell'accesso ai servizi. Questi non sono semplici bug da correggere con una patch; sono il sintomo di una cecità ontologica che affligge chi progetta questi strumenti. Se non capisci la realtà che stai cercando di mappare, produrrai sempre una mappa sbagliata, per quanto dettagliata possa essere.
La resistenza del fattore umano
Fortunatamente, non tutto è perduto. Esiste una forma di resistenza che non passa attraverso il luddismo o il rifiuto totale del progresso, ma attraverso la riappropriazione della complessità. Riconoscere che il mondo è disordinato, imprevedibile e spesso illogico è l'unico modo per non farsi schiacciare dalla logica binaria. Dobbiamo pretendere che la tecnologia sia al servizio dell'uomo e non il contrario. Questo significa imporre limiti ferrei, richiedere audit indipendenti sugli algoritmi e, soprattutto, mantenere l'ultima parola umana su ogni decisione che impatta sulla vita dei singoli. Non è una questione tecnica, è una questione politica nel senso più alto del termine.
Ho passato anni a osservare come le grandi aziende della Silicon Valley cercano di aggirare le normative europee, che sono tra le più avanzate al mondo in termini di tutela dei diritti digitali. Usano il linguaggio dell'innovazione per mascherare pratiche di estrazione dati che sarebbero considerate illegali in qualsiasi altro contesto. Dicono che le regole soffocano la creatività, ma la verità è che le regole proteggono te e me da un potere che non ha alcun contrappeso. La sfida dei prossimi anni non sarà inventare qualcosa di nuovo, ma capire come governare quello che abbiamo già creato prima che sia troppo tardi. Non possiamo permetterci di restare spettatori passivi mentre la nostra realtà viene riscritta da un software che non ha alcuna nozione di cosa significhi essere vivi.
Il dissenso che percepisco in giro, quella sensazione di disagio che molti provano davanti a interfacce sempre più invadenti o a consigli d'acquisto che sembrano leggerti nel pensiero, è un segnale positivo. È il nostro istinto che ci avverte di qualcosa che non quadra. Quell'inquietudine è la prova che non siamo ancora del tutto pronti a diventare ingranaggi di una macchina globale. La tecnologia dovrebbe essere uno specchio delle nostre aspirazioni migliori, non un amplificatore dei nostri istinti più bassi o una gabbia di convenienza da cui non vogliamo uscire.
Ripensare il confine tra reale e virtuale
Il confine tra ciò che è autentico e ciò che è sintetico sta svanendo a una velocità impressionante. Non parlo solo di immagini generate da computer o di video manipolati, ma della nostra percezione della verità. Se non possiamo più fidarci dei nostri sensi perché ogni informazione può essere costruita a tavolino, su cosa baseremo la nostra convivenza civile? La risposta non può essere un altro algoritmo di verifica. Sarebbe come cercare di spegnere un incendio con la benzina. La soluzione risiede nell'educazione, nella capacità critica di dubitare e nell'investimento in fonti di informazione che abbiano una responsabilità legale e morale per ciò che pubblicano.
Spesso mi dicono che sono troppo pessimista, che il mondo non è mai stato così sicuro e prospero. Forse è vero su certi grafici, ma la qualità della vita non si misura solo in termini di PIL o di velocità della connessione internet. Si misura nella libertà di poter scegliere il proprio percorso senza essere costantemente indirizzati da un suggerimento automatico. Si misura nella capacità di sbagliare e di imparare dagli errori, invece di essere corretti in anticipo da un correttore bozze esistenziale che ci vuole tutti uguali, piatti e prevedibili. La tecnologia deve tornare a essere un'estensione delle nostre capacità, non una sostituzione della nostra volontà.
Bisogna avere il coraggio di guardare in faccia The Thing That Should Not Be e ammettere che abbiamo creato un sistema che non risponde più alle nostre necessità primarie, ma a una logica di accumulazione dati fine a se stessa. Questa consapevolezza è il primo passo per invertire la rotta. Non servono rivolte violente, serve una richiesta collettiva di senso. Dobbiamo smettere di celebrare ogni nuova funzione come un miracolo e iniziare a interrogarci su cosa stiamo perdendo in cambio di quella piccola comodità extra. Il tempo, l'attenzione e la capacità di pensare fuori dagli schemi sono le risorse più preziose che abbiamo, ed è esattamente ciò che il sistema cerca di estrarci ogni singolo giorno.
La realtà non è un database e noi non siamo utenti; siamo persone con una storia, una cultura e una dignità che nessun codice potrà mai catturare pienamente. Se accettiamo l'idea che la nostra vita possa essere ridotta a una serie di preferenze calcolate, allora abbiamo già perso. Ma se rivendichiamo il diritto all'imprevedibilità, al silenzio e all'errore, allora possiamo ancora sperare di costruire un futuro che sia veramente degno di essere vissuto. Non c'è nulla di inevitabile nel modo in cui la tecnologia si sta sviluppando. È una scelta, e come ogni scelta, può essere cambiata se abbiamo la forza di ammettere che la strada intrapresa finora ci sta portando nel posto sbagliato.
La vera evoluzione non è quella che ci rende più veloci, ma quella che ci rende più umani in un mondo che sembra voler eliminare l'umanità per far spazio alla perfezione del calcolo. Non abbiamo bisogno di macchine che pensino come noi, ma di uomini che non inizino a pensare come macchine. Il rischio non è che l'intelligenza artificiale prenda il sopravvento con una rivolta robotica, ma che noi diventiamo così pigri da lasciarle il comando di ogni nostra scelta importante, trasformandoci in passeggeri di una vita che non riconosciamo più come nostra.
L'unico modo per sopravvivere all'era dell'automazione totale è coltivare ferocemente tutto ciò che non può essere ridotto a un bit.
