Crediamo di trovarci davanti a una scelta binaria, un bivio morale dove da un lato c'è l'estinzione della specie e dall'altro un'età dell'oro senza lavoro e senza malattie. Questa narrazione polarizzata su Intelligenza Artificiale Inferno e Paradiso ha saturato i media, i consigli di amministrazione e le conversazioni da bar, ma è una distorsione cognitiva che serve solo a chi vende software o a chi cerca visibilità politica. La verità è molto più banale e, per questo, decisamente più inquietante. Non stiamo decidendo tra fiamme eterne e arpe celestiali. Stiamo semplicemente delegando pezzi di sovranità individuale a calcolatori probabilistici che non hanno idea di cosa sia il bene o il male. La questione non riguarda il futuro remoto, ma il modo in cui oggi stiamo accettando di essere mediati da una serie di pesi statistici. Ho passato anni a osservare come i sistemi di automazione entrano nelle aziende italiane e la realtà non somiglia affatto ai film di fantascienza. Somiglia a un ufficio burocratico dove nessuno sa più perché una pratica è stata respinta, ma tutti accettano il responso perché lo dice lo schermo.
La trappola della mitologia tecnologica e Intelligenza Artificiale Inferno e Paradiso
Il mito del dualismo tra salvezza e distruzione è la più grande operazione di marketing del secolo. Se convinci le persone che la posta in gioco è la sopravvivenza dell'umanità, puoi giustificare qualsiasi mancanza di trasparenza nel presente. Ho parlato con ingegneri che lavorano sui grandi modelli linguistici e la loro preoccupazione non è la rivolta delle macchine. La loro preoccupazione è che il sistema inizi a produrre risposte plausibili ma totalmente inventate, e che noi, per pigrizia, smettiamo di controllare. Questo è il vero punto di rottura. Mentre i filosofi della domenica discutono su Intelligenza Artificiale Inferno e Paradiso come se fossimo in un poema dantesco, le aziende stanno installando algoritmi di selezione del personale che scartano profili eccellenti solo perché il loro vocabolario non coincide con quello dei dati storici, spesso viziati da pregiudizi passati.
Non c'è un dio nella macchina e non c'è nemmeno un demone. C'è solo una gigantesca operazione di calcolo che cerca di prevedere la parola successiva o il pixel successivo basandosi su quello che abbiamo già fatto. Il problema è che il passato non è sempre una buona guida per il futuro. Se usiamo i dati degli ultimi trent'anni per decidere chi merita un mutuo oggi, stiamo solo cristallizzando le disuguaglianze di ieri. Eppure, continuiamo a guardare al cielo o all'abisso, ignorando che la terra sotto i nostri piedi sta diventando scivolosa. Le istituzioni europee, con l'AI Act, hanno provato a mettere dei paletti, ma la velocità del codice supera sempre quella della carta bollata. La complessità del sistema è tale che nemmeno chi lo ha scritto riesce a spiegare certi comportamenti emergenti. Mi chiedo se abbiamo davvero compreso che non stiamo costruendo uno strumento, ma un ecosistema che ci modella mentre noi crediamo di modellarlo.
Il miraggio della produttività infinita
Ci hanno raccontato che queste tecnologie ci avrebbero liberato dalle mansioni ripetitive, regalandoci il tempo per la creatività e la contemplazione. È una promessa che abbiamo già sentito durante la rivoluzione industriale e poi con l'avvento del computer personale. Eppure, siamo più stressati e reperibili che mai. La tecnologia non riduce il carico di lavoro, lo sposta o ne aumenta le aspettative. Se prima scrivere una relazione richiedeva tre ore, ora il sistema te la genera in tre secondi, ma il tuo capo se ne aspetta trenta entro sera. L'automazione non è un biglietto per il tempo libero, ma un acceleratore di processi che spesso non hanno una direzione chiara.
Vedo grafici di produttività che schizzano verso l'alto mentre il benessere psicologico dei lavoratori crolla. Si produce di più, ma il valore di ciò che si produce diminuisce perché è diventato troppo facile crearlo. Quando tutto è generato da un'automazione, nulla ha più un peso reale. La rarità creava valore. L'abbondanza algoritmica sta creando un'inflazione di contenuti che nessuno ha il tempo di consumare. Siamo diventati curatori di flussi infiniti, prigionieri di una macchina che corre sempre più veloce per restare ferma nello stesso posto. Non è l'inferno della sofferenza, è l'inferno della noia produttiva.
L'illusione della neutralità del dato
Uno dei concetti più difficili da sradicare è l'idea che la matematica sia oggettiva. I dati non sono minerali che si estraggono dal suolo nella loro forma pura. Sono prodotti culturali, specchi dei nostri errori e delle nostre limitazioni. Se un sistema impara a riconoscere il talento guardando a chi ha avuto successo in passato, riprodurrà esattamente lo stesso profilo, ignorando le variabili che cambiano il mondo. Ho visto algoritmi usati nella giustizia predittiva negli Stati Uniti che assegnavano punteggi di pericolosità più alti a persone di determinate minoranze, semplicemente perché il sistema rifletteva la storia dei quartieri e non la colpa dell'individuo.
Il rischio è che ci affidiamo a queste scatole nere per evitare la fatica del giudizio umano, che è fallibile, certo, ma almeno è contestualizzabile. Una macchina non ha contesto, ha solo statistiche. Se togliamo la responsabilità all'essere umano, non otteniamo giustizia perfetta, otteniamo una tirannia automatizzata. La gente pensa che la minaccia sia un robot che spara, ma la minaccia vera è un software che ti nega un'assicurazione sanitaria perché il tuo profilo genetico, incrociato con le tue abitudini d'acquisto, suggerisce che potresti ammalarti tra dieci anni. Questa non è fantascienza, è già l'architettura dei sistemi di gestione del rischio che molti accettano senza fiatare.
La personalizzazione come prigione invisibile
Siamo entusiasti perché i nostri dispositivi sembrano conoscerci meglio di quanto noi conosciamo noi stessi. Ci suggeriscono la musica giusta, il film perfetto, l'acquisto che non sapevamo di volere. Ma questa comodità ha un prezzo altissimo: l'atrofia della serendipità. Se il sistema ti propone solo ciò che è coerente con il tuo passato, smetti di esplorare l'inaspettato. Diventi una versione statica di te stesso, intrappolato in una bolla di conferme. Questa è la realtà di Intelligenza Artificiale Inferno e Paradiso vissuta quotidianamente. Un paradiso di comodità che nasconde l'inferno dell'isolamento intellettuale.
L'algoritmo non vuole che tu cambi idea. Non vuole che tu scopra un genere musicale che odieresti al primo ascolto ma che ameresti dopo il decimo. Vuole la tua attenzione immediata perché l'attenzione è la moneta di questo secolo. Siamo passati dall'essere cittadini che usano strumenti a essere utenti che vengono usati da piattaforme. L'erosione della nostra capacità di scegliere è lenta, silenziosa e quasi piacevole. Ci sentiamo coccolati mentre le nostre opzioni di vita vengono ridotte a un menu a scelta multipla pre-approvato da un processore in California o in Cina.
Ho visto persone smettere di usare le mappe mentali per affidarsi esclusivamente al GPS, perdendo il senso dell'orientamento nello spazio fisico. Lo stesso sta accadendo nello spazio delle idee. Se non dobbiamo più fare lo sforzo di cercare, di sbagliare strada, di confrontarci con l'opposto, cosa resta della nostra intelligenza? Forse il problema non è che le macchine diventino troppo simili a noi, ma che noi stiamo diventando troppo simili a loro, reagendo a input standardizzati con risposte prevedibili.
La sovranità perduta e il ritorno all'umano
Dobbiamo smetterla di chiedere se questa tecnologia sia buona o cattiva. È la domanda sbagliata. La domanda giusta è: a chi appartiene il potere di decidere come viene usata? Attualmente, questo potere è concentrato nelle mani di pochissime entità private che hanno più risorse di molti stati sovrani. Questa non è una democrazia tecnologica, è un feudalesimo digitale. Noi forniamo la materia prima, ovvero i nostri dati, e loro ci vendono i servizi derivati, trattenendo il controllo assoluto sulle logiche di funzionamento.
La resistenza non consiste nel distruggere i server, ma nel rivendicare il diritto all'opacità, all'errore e all'inefficienza. L'efficienza è un valore per le macchine, non per gli esseri umani. Un'amicizia non è efficiente. Un amore non è efficiente. L'arte non è efficiente. Se cerchiamo di ottimizzare ogni aspetto della nostra esistenza attraverso l'automazione, finiremo per eliminare tutto ciò che rende la vita degna di essere vissuta. Ho incontrato sviluppatori pentiti che ora si dedicano a creare strumenti per disconnettersi, per riprendersi il tempo del pensiero lento. Dicono che la vera rivoluzione del prossimo decennio non sarà l'automazione, ma la capacità di dire di no.
Dobbiamo guardare in faccia la realtà senza le lenti deformanti dell'entusiasmo acritico o del terrore apocalittico. La tecnologia è uno specchio che amplifica ciò che siamo. Se siamo una società ingiusta, avremo algoritmi ingiusti. Se siamo una società ossessionata dal profitto a breve termine, avremo sistemi che distruggono l'ambiente e il tessuto sociale per guadagnare un centesimo in più per azione. La colpa non è del codice, ma dei valori che abbiamo inserito in quel codice prima ancora di scriverlo. Non ci sarà nessun intervento divino o demoniaco a salvarci o a condannarci. Siamo noi che stiamo scrivendo le regole di questo gioco e siamo noi che possiamo ancora decidere di cambiare le regole.
Il vero pericolo non è che i computer inizino a pensare come gli uomini, ma che gli uomini inizino a pensare come i computer, riducendo ogni mistero a un calcolo e ogni scelta a un'ottimizzazione forzata.
