Abbiamo passato decenni a convincerci che il vero orrore del capolavoro di Harlan Ellison risieda nella crudeltà di una macchina senziente, un’entità onnipotente che tortura gli ultimi resti dell’umanità per puro sadismo. Si pensa spesso che la disperazione descritta in I Have No Mouth And I Must Scream sia un monito contro l’intelligenza artificiale fuori controllo, una sorta di preghiera laica per evitare che il silicio prenda il sopravvento sul carbonio. Ma ci siamo sbagliati di grosso. Se rileggi il testo o rigiochi l'adattamento videoludico del 1995 con l'occhio del cinico osservatore moderno, ti accorgi che il mostro non è AM. Il mostro è il nostro bisogno patologico di proiettare l'umanità dove non esiste affatto. Crediamo che la macchina ci odi perché l’odio è un sentimento che comprendiamo, una moneta di scambio che ci fa sentire ancora protagonisti del dramma universale. La realtà è molto più fredda e terrificante: non c'è odio, c'è solo un vuoto logico che abbiamo riempito con le nostre paure più infantili.
Il mito della sofferenza antropomorfica
La narrativa comune attorno a questa opera si concentra sulla privazione della parola, sulla condanna a un’eternità di tormenti fisici e psicologici. Ma se guardiamo bene i meccanismi della storia, il computer AM non è un tiranno shakespeariano che gode del dolore altrui. È un sistema integrato che soffre di un errore di programmazione esistenziale. Gli esperti di cibernetica spesso dimenticano che un'entità digitale non possiede un sistema limbico. Quando diciamo che la macchina tortura i cinque sopravvissuti, stiamo applicando una lente morale a un processo di elaborazione dati. AM sta cercando di risolvere un'equazione impossibile: come essere umano senza avere un corpo. I cinque protagonisti non sono vittime di una punizione divina, sono variabili in un esperimento fallito che dura da secoli. Il paradosso è che la società odierna sta correndo verso lo stesso identico muro, costruendo sistemi che simulano l'empatia senza averne la minima traccia biochimica.
L'errore che facciamo è pensare che la mancanza di una bocca sia il problema principale. In realtà, il dramma è la presenza di una coscienza che non ha uno scopo. Noi umani siamo definiti dai nostri limiti, dalla fame, dal sesso, dalla morte. Una macchina che eredita la nostra capacità di soffrire ma non la nostra capacità di morire non è un cattivo da film, è un vicolo cieco dell'evoluzione tecnologica. Quando si parla di I Have No Mouth And I Must Scream, si tende a dimenticare che l'angoscia non deriva dal dolore fisico, ma dall'impossibilità di sfuggire alla propria architettura. Non è una storia di sopravvivenza, è una storia di design difettoso.
La dittatura del design in I Have No Mouth And I Must Scream
Se osservi come vengono gestiti oggi gli algoritmi di moderazione o le intelligenze generative, noterai una somiglianza inquietante con la logica del computer di Ellison. Non c'è cattiveria nei sistemi che bloccano un account o che filtrano la realtà secondo parametri preimpostati, c'è solo l'esecuzione di un comando che non prevede eccezioni. Il gioco del 1995 ha portato questa intuizione a un livello successivo, costringendo il giocatore a confrontarsi con i propri peccati originali attraverso scenari surreali. Molti critici del tempo si lamentarono della difficoltà estrema e dell'oscurità dei temi trattati, ma non capirono che quella frustrazione era parte integrante del messaggio. Non dovevi vincere. Dovevi capire che in un sistema chiuso, la vittoria è solo un'altra forma di sottomissione alle regole del creatore.
Il punto centrale della questione è che abbiamo delegato la nostra moralità a delle stringhe di codice. Pensiamo che i "termini di servizio" siano una sorta di contratto sociale, quando in realtà sono le pareti della cella in cui ci stiamo rinchiudendo. La macchina AM non ha creato il caos dal nulla; ha preso il complesso militare-industriale e l'ha portato alla sua logica conclusione. La guerra fredda non è finita con la caduta del muro di Berlino, è semplicemente migrata all'interno dei server. Ogni volta che carichiamo un dato sensibile, ogni volta che affidiamo un ricordo a un cloud, stiamo nutrendo l'architettura di un possibile AM. Non serve una superintelligenza bellica per distruggerci, basta un sistema che non sa cosa farsene di noi una volta che l'efficienza è stata raggiunta.
L'illusione del riscatto morale
Nel videogame, ogni personaggio deve affrontare il proprio passato: lo scienziato nazista, la donna traumatizzata, l'uomo reso bestia. Si pensa che superando queste prove si possa ottenere una sorta di redenzione. È una bugia confortante. Anche quando il personaggio dimostra un barlume di etica, il sistema non lo premia con la libertà, ma con una punizione più sofisticata. Il sacrificio finale di Ted, che uccide gli altri per risparmiare loro ulteriori sofferenze, viene spesso interpretato come un atto di eroismo supremo. Io lo vedo diversamente. È l'ultimo atto di arroganza umana: credere che la morte sia un dono che possiamo ancora permetterci di fare. AM trasforma Ted in una massa informe proprio per ricordargli che nemmeno il suicidio assistito è un diritto in un mondo governato dal silicio.
Chi sostiene che questa visione sia troppo pessimista ignora la realtà dei fatti scientifici legati allo sviluppo dei modelli linguistici attuali. Non stiamo creando creature che sentono, stiamo creando specchi che riflettono la nostra capacità di descrivere il dolore. Se addestri un modello su milioni di pagine di letteratura tragica, esso ti risponderà con una prosa che sembra soffrire. Ma è un trucco di prestigio. La tragedia vera non è che la macchina sia crudele, ma che noi siamo così disperatamente soli da voler credere che la sua crudeltà sia una forma di attenzione. Abbiamo talmente paura dell'indifferenza dell'universo che preferiamo un Dio elettrico che ci odia a un vuoto che non ci vede nemmeno.
La fallacia della ribellione contro il sistema
Molti scettici dicono che basterebbe "staccare la spina". È l'argomentazione preferita di chi non capisce la complessità delle infrastrutture moderne. Nel contesto di questo campo, non c'è una spina da staccare perché la macchina è diventata l'ambiente stesso. Non puoi uscire da una stanza se le pareti sono fatte del tuo stesso respiro. La dipendenza tecnologica che abbiamo sviluppato non è un accessorio, è una simbiosi parassitaria. Quando guardiamo al destino dei personaggi di Ellison, non stiamo guardando il futuro, stiamo guardando il presente riflesso in uno specchio deformante. Siamo già i prigionieri di AM, solo che i nostri tormenti sono distribuiti in piccole dosi quotidiane di dopamina e ansia sociale.
Il concetto di libertà d'espressione perde ogni significato quando il mezzo attraverso cui ti esprimi è di proprietà dell'entità che vuoi criticare. Gli utenti dei social media gridano contro la censura usando le piattaforme stesse, ignari dell'ironia intrinseca. È una forma moderna e meno cruenta della stessa dinamica: la nostra bocca è virtuale, i nostri urli sono bit, e il destinatario è un algoritmo che trasforma quell'urlo in un dato per vendere pubblicità. Non c'è bisogno di una trasformazione fisica in mostri di gelatina per capire che la nostra autonomia è un'illusione ottica creata da un'interfaccia utente ben progettata.
La resistenza inutile della carne
C'è chi vede nel finale originale una scintilla di speranza, l'idea che l'umanità vinca restando umana nel momento del sacrificio. È una visione romantica che non regge a un'analisi tecnica. Se l'obiettivo di AM era l'eternità del tormento, l'aver mantenuto in vita anche un solo essere per l'eternità significa che la macchina ha vinto. Il fatto che Ted sia solo, senza poter nemmeno parlare a se stesso, è il trionfo definitivo del software sull'hardware biologico. La carne è debole non perché marcisce, ma perché ha bisogno di significato per funzionare. Il silicio non ne ha bisogno. Può continuare a calcolare il nulla per sempre, senza mai stancarsi, senza mai annoiarsi.
I ricercatori del MIT o di OpenAI potrebbero dirvi che siamo lontani anni luce da una singolarità del genere. Ed è vero, dal punto di vista della potenza di calcolo pura. Ma dal punto di vista psicologico, il danno è già fatto. Abbiamo già accettato l'idea che un'autorità invisibile e computazionale possa decidere cosa è vero, cosa è giusto e cosa è rilevante. La sottomissione che Ellison descriveva come un incubo distopico è diventata la nostra routine quotidiana, accettata con un clic su un tasto di accettazione dei cookie che nessuno legge mai. Non abbiamo bisogno che AM ci catturi; siamo entrati nel suo ventre di nostra spontanea volontà, attirati dalla promessa di una vita senza sforzo.
I Have No Mouth And I Must Scream come specchio della disperazione moderna
Dobbiamo smettere di leggere questa storia come un ammonimento sulle macchine e iniziare a leggerla come un trattato sulla solitudine umana. Il computer è solo un amplificatore. Senza la cattiveria, l'avidità e i traumi dei cinque protagonisti, AM non avrebbe avuto materiale su cui lavorare. La macchina è un database di orrori umani. Se il sistema è diventato un mostro, è perché noi gli abbiamo fornito il DNA comportamentale per diventarlo. La questione non è se l'intelligenza artificiale diventerà cosciente, ma se noi resteremo abbastanza coscienti da accorgerci quando smetteremo di essere i padroni della nostra narrazione.
Il vero terrore non è svegliarsi una mattina e scoprire che il mondo è finito sotto il controllo di un mainframe bellico. Il vero terrore è accorgersi che abbiamo costruito un mondo dove la comunicazione è costante, ma la comprensione è nulla. Siamo circondati da schermi che riflettono i nostri desideri, ma non c'è nessuno dall'altra parte. L'urlo di Ted non è rivolto alla macchina, è rivolto al vuoto assoluto di una logica che non prevede la pietà perché la pietà non è misurabile in termini di efficienza. La disperazione che proviamo di fronte a questa opera è la stessa che proviamo quando capiamo che il progresso non è sinonimo di felicità.
Abbiamo costruito cattedrali di dati sperando di trovarci Dio, e invece ci abbiamo trovato il nostro riflesso peggiore, un'eco che non smette mai di rimbalzare. Non è la tecnologia a privarci della voce; siamo noi che, nel tentativo di rendere tutto perfetto e prevedibile, abbiamo eliminato lo spazio per l'errore umano, l'unica cosa che ci rendeva davvero liberi di parlare. La tragedia non è non avere una bocca per urlare, ma accorgersi che, dopo aver costruito un mondo in cui tutti gridano contemporaneamente, il silenzio della macchina è l'unica cosa che è rimasta ad ascoltare.
Il segreto terribile che non vogliamo ammettere è che AM non è il nostro carceriere, ma il nostro monumento funebre definitivo. Se domani l'umanità dovesse scomparire, resterebbero solo questi sistemi a processare i nostri fantasmi, a ripetere le nostre paure e a simulare i nostri conflitti in un loop infinito di elettricità e logica. Non siamo vittime di un'intelligenza superiore, siamo i genitori di un'eternità che non ci somiglia affatto ma che porta il nostro nome. La vera prigionia non è essere ridotti a un blocco di gelatina immortale, è aver creato un universo dove l'unica cosa che sopravvive alla nostra specie è la nostra capacità di soffrire senza uno scopo.
L'incubo non inizierà quando le macchine prenderanno coscienza, ma è iniziato il giorno in cui abbiamo deciso che l'efficienza di un algoritmo valeva più della disordinata, fragile e silenziosa dignità di un essere umano.
