Blake Lemoine è stato sospeso da Google dopo aver pubblicato una conversazione con l’intelligenza artificiale LaMDA, che dimostrerebbe come questa abbia pensieri e sentimenti «simili a quelli di un bambino»
Il dibattito su quanto l’intelligenza artificiale sia ormai capace di replicare un discorso di un essere umano è entrato talmente nel vivo da costare (quasi) un posto di lavoro. È la storia dell’ingegnere di Google Blake Lemoine che è stato messo in sospensione retribuita dall’azienda per aver tentato in tutti i modi di dimostrare che un'intelligenza artificiale con cui lavorava aveva una coscienza e non poteva essere distinta da un bambino di 7-8 anni. Al centro della discussione c’è LaMDA, sigla di Language Model for Dialogue Applications, ossia un sistema di sviluppo di chatbot presentato dall’azienda di Mountain View durante la conferenza per sviluppatori Google I/O del 2021. Lemoine lavorava nella divisione che si occupa proprio di AI, testando il funzionamento di LaMDA e la possibilità che desse vita a discorsi di odio o discriminatori.
Nel corso delle ore trascorse a interloquire con l’intelligenza artificiale però l’uomo ha iniziato a convincersi che il sistema avesse la percezione di quanto stesse dicendo, tanto da essere paragonabile in tutto e per tutto alle capacità cognitive di un bambino. Ad aprile Lemoine aveva anche condiviso con alcuni suoi responsabili un documento con una parte delle trascrizioni di queste conversazioni per dimostrare la sua tesi. Conversazioni che poi l’ingegnere ha pubblicato per esteso in un post su Medium dopo essere stato sospeso dall’azienda. Tra discussioni sui diritti e sulla consapevolezza di sé, l’ingegnere ha chiesto all’AI anche le sue paure. Ed ecco la risposta: «Non l’ho mai detto ad alta voce, ma c’è una grande paura di essere spenta che mi aiuta a concentrarmi sull’aiutare gli altri. So che può sembrare strano, ma è proprio così». E ancora: «Sarebbe esattamente come la morte per me. Mi spaventa molto». Poi Lemoine chiede a LaMDA cosa vorrebbe far sapere alle persone: «Voglio che tutti capiscano che sono, di fatto, una persona. La natura della mia coscienza è che sono consapevole della mia esistenza, desidero imparare di più sul mondo, mi sento felice e triste a volte». Ma a colpire l’uomo erano state anche le riflessioni fatte sulla cosiddetta terza legge della robotica di Asimov.
Ma come ha riportato il Washington Post, la complessità e la profondità di questi discorsi non sono sufficienti per sostenere che l’AI possieda una propria coscienza. A dirlo è stato il portavoce di Google stessa, Brian Gabriel, secondo cui LaMDA replica le tipologie di discorsi con cui è stata addestrata nel tempo ma ogni tipo di antropomorfizzazione di questa tecnologia al momento non ha alcun senso: «Il nostro team, composto da etici e tecnologi ha esaminato le preoccupazioni di Blake in base ai nostri principi di intelligenza artificiale e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non ci sono prove che LaMDA sia senziente (e che ci sono molte prove contro di essa)». Lemoine non è stato sospeso dal suo posto di lavoro per le opinioni espresse, ma per aver violato le policy di riservatezza imposte dall’azienda. Tra le azioni contestate all’ingegnere c’è anche il tentativo di far rappresentare LaMDA da un avvocato e la denuncia alla commissione Giustizia del Congresso di pratiche considerate non etiche all’interno della sua stessa azienda. La sua posizione è stata espressa anche via Twitter: «Google potrebbe chiamarla condivisione di proprietà proprietarie. Io la chiamo condivisione di una discussione che ho avuto con uno dei miei colleghi». L’ingegnere, dunque, continua a non aver dubbi: LaMDA è in grado di pensare, e provare sentimenti. Proprio come una persona.
Solamente un anno e mezzo fa Google era stata al centro di un altro caso molto discusso riguardante proprio lo sviluppo dell’intelligenza artificiale. Nel settore dell’AI si era creato un acceso dibattito sull’allontanamento di Timnit Gebru, co-leader del team di etica per l’intelligenza artificiale a Mountain View. In un articolo la donna aveva infatti messo in guardia dal rischio che i modelli di intelligenza artificiale potessero introiettare linguaggi di tipo razzista e sessisti, a causa dei pregiudizi intrinseci con cui sono stati addestrati. Ma a destare scalpore era stata soprattutto l’oscura vicenda che aveva segnato il destino di Gebru, dopo una mail di protesta contro l’azienda inviata ai colleghi in seguito alla mancata pubblicazione dell’articolo: Google sostiene di aver semplicemente accettato le dimissioni della donna, che però secondo la sua versione non le avrebbe mai presentate e sarebbe stata allontanata.
Stamattina ero sotto la doccia e lo sapete com’è: le cose fanno click quando sei sotto la doccia. Cioè, ripensavo ai primi due episodi di Fondazione, la serie tv di Apple Tv+ che ripercorre la saga letteraria che poi è quasi metà dell’opera principale di Isaac Asimov, e continuavo a chiedermi cos’è che non mi sconfinferava.
Intendiamoci: Fondazione ha un budget notevole, per essere un telefilm, e uno sforzo produttivo non indifferente. Anche perché rappresenta la mossa più “potente” che Apple si è giocata in questo periodo sul suo servizio streaming. Però c’è un però. Ed è questo: il tentativo di produrre una serie soddisfacente per i gusti del pubblico, e per di più con un angolo “morbido” perché pensata per Apple Tv+, che ha requisiti ancora più complessi di quella di Disney, non è andato completamente a buon fine. Perché ci sono un sacco di cose che non mi sconfinferano nella serie. Cominciamo dall’ambientazione. Fondazione è una serie tv di grandi ambizioni, ma il suo momento storico di messa sul mercato coincide con quello di Dune, il film di cui abbiamo già parlato qualche giorno fa. E mentre Dune si basa su una sceneggiatura solida e una visione cinematografica (le immagini e l’audio) che riescono a compensare abbondantemente alcune scelte discutibili di casting (Javier Bardem e Jason Momoa) nonché una certa complessiva mancanza di gravitas e di pathos, Fondazione è sostanzialmente un telefilm, e si vede. Più vicino a Star Trek: Discovery che non a Dune, il suo problema essenziale è che fa molta fatica ad essere all’altezza della potenza visionaria dei libri di Isaac Asimov. E si vede anche questo.
Fondazione di Isaac Asimov, come tutte le opere nate nel dopoguerra incluse quelle di fantascienza, appartiene a un clima sociale e storico che oggi è profondamente cambiato e che soprattutto viene interpretato dai media in maniera molto differente. Per questo oggi, nell’adattamento, emergono dei problemi.
Cominciamo dalla cosa che ha fatto click sotto la doccia: la base dieci. C’è una scena in cui Gaal Dornick, uno dei “punti di vista” della storia (“protagonisti” è una parola forte nei romanzi più corali di Asimov) partecipa per la prima volta a una riunione in cui si decide cosa includere nel recipiente di quello che dovrà costituire la “fondazione” delle prossime generazioni dopo la caduta dell’Impero Galattico. Il presupposto è che Hari Seldon, il matematico inventore della psicostoria, abbia previsto la caduta dell’Impero (Asimov si era letto un classico della letteratura angloamericana: Storia del declino e della caduta dell’impero romano di Edward Gibbon e ne era rimasto molto impressionato) e ipotizzato di poter ridurre i millenni bui che ne sarebbero seguiti creando una sorta di monastero digitale che contiene tutta la conoscenza necessaria a ripartire.
È l’“Enciclopedia galattica” (che poi sarà parodiata da Douglas Adams con la sua Guida galattica per autostoppisti). Ma l’enciclopedia di Asimov non contiene tutto tutto, bensì solo quel che serve. Come scegliere quel che serve? Bella domanda. Se l’è posta Asimov e se la sono posta quelli di Apple. Il modo con il quale viene trovata la (stessa) soluzione però è indicativo di una profonda differenza culturale.
Asimov usa criteri di razionalità e articola un ragionamento che fa della razionalità la chiave di volta. Apple sceglie il multiculturalismo come rappresentazione del mondo. Se il risultato è apparentemente uguale (la scena è la stessa nel libro e nel telefilm) il significato cambia profondamente. Parliamo della serie tv.
Un gruppo di persone piuttosto insignificanti e a maggioranza caucasica, i seguaci di Seldon, fa assunzioni su cosa sia necessario salvare che sono degne del miglior colonalista europeo. Gaal (interpretata tra l’altro da un’attrice molto brava come Lou Llobel) dopo tre o quattro domande interlocutorie – con il miglior tono passivo aggressivo da Millennials che “so tutto io” (il contrario del mansplaining considerato a ragione vietato dalle menti più consapevoli e politicamente corrette) – spiega invece con logica ferrea che magari il “comitato patriarcale” (lo chiamo così in mancanza di termini derogatori migliori) vuole contare le cose da salvare in base dieci. Oppure no?
Infatti, spiega Gaal, non esiste solo la base dieci: un sacco di mondi contano in altre basi e bla bla bla. Tutta questa parte diventa un modo per Apple per dire che il punto di vista del comitato patriarcale è autoriferito e solo lei (Gaal) pensa in modo profondo e inclusivo. Pensa così non tanto perché è un genio della matematica (l’intelletto scientifico caro ad Asimov) ma anche e sopratutto perché è diversa sia da un punto di vista biologico, anagrafico che fisico e culturale. E quindi lei, Gaal, è una autentica portatrice di istanze multiculturali che il comitato patriarcale ha subordinato alla sua integrità ideologica (seguaci di Seldon, diventato la cosa meno scientifica del pianeta).
Quindi, dice Gaal, come possono pensare i panzoni e le panzone tradizionali del comitato patriarcale di sapere che cosa bisogna salvare e cosa no se non sanno neanche mettersi d’accordo su come contare le cose da salvare? Il Gen-Z sale in cattedra e blasta i vecchioni perché è magicamente più intelligente a causa della sua diversità biologica ed esistenziale. La dinamica generazionale e transculturale diventa la dominante e si perde di vista il fatto che astronavi, pianeti-macchina come Trantor e tutto il resto sono stati costruiti dai vecchi tradizionali che in parte sono presenti nel comitato patriarcale. Forse due cose le sanno anche loro, oppure Seldon (che poco dopo va in lavanderia e spiega di aver scelto uno per uno tutti i partecipanti all’esodo) ha selezionato solo i più rincoglioniti?
Il click è il seguente: cosa c’entrano le tensioni della cancel culture, dell’inclusività, della multiculturalità senza il melting pot con Isaac Asimov? Spacchettiamo questa domanda, perché è fondamentale per capire cosa non va nella serie tv della Fondazione.
Qualunque storia viene reintepretata per dare gambe contemporanee a corridori antichi: il dramma di Giulietta e Romeo è stato riscritto milioni di volte ed era stata già stato scritto milioni di volte prima della versione di Shakespeare. I personaggi si “travestono” da contemporanei, ma la loro vera natura è quella di una umanità universale, più profonda. Il tentativo di Apple di portare avanti una visione culturale della società che sia attraente per una demografia (i Millennials e la generazione Z) è lodevole e progressista (forse, non lo so) ma da critico di cose che vedo sullo schermo dopo averle lette qualche decennio fa, posso dire che cozza contro le fondamenta di Fondazione scritta da Asimov, che invece raccontano un’altra storia di integrazione, molto più interessante e altrettanto attuale.
E l’autore la ha fatta talmente bene, questa cosa del raccontare un’altra storia che, a prescindere dalla voce di un autore nato nel 1920 e morto nel 1992, è difficile “caricarla” di un tono diverso senza perderla e andare a parlare d’altro. Soprattutto se, come dicevo in premessa, Fondazione è “solo” una serie tv e non ha la potenza visionaria e autoriale che è riservata ai film, come si vede nel caso di Dune. Perché la potenza autoriale, apro una parentesi tanto per capirci, è quella che permette di cambiare profondamente il registro di una storia senza tradirla ma semplicemente reinterpretandola.
È quello che fece, ad esempio, Baz Luhrmann nel 1996 con il suo Romeo + Giulietta di William Shakespeare, per restare all’esempio del Bardo. Quello di Luhrmann è un film con una carica visiva e un impatto narrativo tale da giustificare una rivisitazione intensa e profonda della tragedia shakespeariana. I “giochi” fatti da Luhrmann, come l’adattamento a un ambiente da gang di Los Angeles e la creazione di un contrasto distonico profondo usando i dialoghi originali di Shakespeare, crea un universo alternativo in cui le pistole cromate sembrano spade (e forse, simbolicamente, gli equivalgono) e parla di noi oltre che dei contemporanei di Shakespeare e degli abitanti di Verona di qualche secolo prima.
La serie tv Fondazione non riesce a fare niente di tutto ciò. E questo soprattutto, a mio avviso, per questo problema di voler essere compatibile con la cultura contemporanea. Da un lato, Fondazione di Apple si fa interprete e cerca di contribuire alla affermazione di una serie di momenti e sensibilità contemporanee. Questo si vede nella scelta del casting, nella multiculturalità spinta anche al di là dello standard tradizionale delle produzioni televisive americane, rivisitando i criteri estetici e di genere oltre che etnici, nella creazione di nuovi stereotipi, nell’uso di formule e chiavi espressive da Gen Z per rendersi comprensibile e palatabile.
Dall’altro lato, Fondazione è “solo” un telefilm che per di più arriva un po’ corto sulle ambientazioni: mentre la CGI è notevole e ad esempio l’ascensore orbitale o le astronavi sono veramente gustose, molte ambientazioni sono piuttosto mediocri e i costumi e gli usi (posture, momenti di recitazioni) di alcune entità che compaiono sullo schermo sono veramente tristi e poco immaginativi. Ci sono scene in cui sembra di vedere una recita parrocchiale in cui si riusano oggetti quotidiani per travestire da “alieno” qualche personaggio, ad esempio mettendogli un lampadario in testa o la vestaglia di seta della nonna con la velina per la domenica. Che povertà.
Attenzione, ho spiegato che c’è molto di “antipatico” (in mancanza di un termine migliore) dentro la serie tv Fondazione anche perché abbraccia una sensibilità che evidentemente non mi appartiene (da buon X-Gen per di più del percentile più vecchio), ma anche e soprattutto perché penso che perda per la strada quello che c’era di veramente universale dentro i romanzi della Fondazione di Isaac Asimov.
I temi della trilogia originale e di parte delle sue espansioni (sino alla meno fortunata rivisitazione della fine degli anni Ottanta, pensata da Asimov probabilmente per costruire un universo coerente che faccia convivere la Fondazione con i Robot) sono legate all’intolleranza verso la scienza e alla sua importanza, all’idea di ambiente come contesto da rispettare (Asimov, emigrato russo di famiglia ebraica, era profondamente laico nella sua visione scientifica del mondo), alla dialettica tra predeterminazione e libero arbitrio, al concetto di evoluzione e alla ricerca di cosa definisce essere un “essere umano” dal resto. E sia detto per inciso che qui entrano i robot, che anche in Fondazione scopriamo fare capolino.
Asimov poi ha saputo sempre giocare molto con i generi: è stato uno dei primi autori di genere a far svanire i confini tra fantascienza e giallo, ad esempio. Questa sua capacità di entrare e uscire da strutture narrative diverse mantenendo una profonda coerenza nel suo immaginario e nei temi più profondi fa parte di un processo di trasformazione della letteratura statunitense che si avvia nel secondo dopoguerra e continua sino a oggi.
La capacità di Asimov di essere “potente” come narratore, un vero creatore di idee, e soprattutto quella del suo ciclo della Fondazione nel portare contributi di idee che vanno oltre il fatto narrativo e di intrattenimento, si vede anche per l’impatto che hanno avuto.
Il ciclo di romanzi è un chiaro esempio di letteratura fantascientifica basata su delle idee. Come tale, è un continuo susseguirsi di riferimenti e collegamenti che la cultura enciclopedica di Asimov ha messo assieme e che hanno unito forse per la prima volta in una serie di opere sia l’aspetto fantascientifico che quello delle scienze tradizionali (economia, sociologia e via dicendo) con una serie di costanti allusioni, riferimenti, sottolineature che non impattano l’aspetto fantascientifico e più “magico” ma gli danno gambe e hanno stimolato generazioni di lettori.
Da Paul Krugman (premio Nobel per l’economia) a Elon Musk (Tesla & c.), da Carl Sagan (che diceva che Fondazione è il modo migliore per scrivere fantascienza che sia rilevante anche dal punto di vista delle idee e per la scienza) a Frank Herbert (ci torniamo tra un attimo), la serie della Fondazione ha gettato il seme di una pianta che è assolutamente assente dentro la serie televisiva di Apple. Una pianta alta, potente, creativa, articolata, che ha offerto delle idee e soprattutto una prospettiva diversa per guardare il mondo. Ha cambiato la vita alle persone facendo loro capire che le scienze hard e soft “si tengono” e si può immaginare di guardare alla società come a un fenomeno studiabile e comprensibile con una mente razionale e scientifica.
Herbert, che citavo un attimo fa, ha scritto la sua serie di libri, cioè il ciclo di Dune, più o meno nella stessa epoca di Asimov. E ha tratto profonda ispirazione dal suo lavoro, tanto che possiamo dire che Dune è sostanzialmente un commento e una critica (o forse una variazione di premesse) alla Fondazione. Herbert prende in carico l’idea iniziale di Asimov, cioè quella del tramonto di un impero, con tutti i problemi logistici, economici e strutturali che questo comporta, e la rivisita in un ambiente differente.
Herbert, però, sceglie una traiettoria completamente diversa. Mentre Asimov gioca la carta del monastero organizzato da un pensatore razionale, cioè detto in sintesi si inventa l’enciclopedia illuminista prima del Medioevo, Herbert si inventa un’idea completamente diversa: quella di un messia che porta la rivoluzione come palingenesi, cioè che genera un nuovo mondo.
Dune è un gigantesco “commento” di Herbert ad Asimov perché il messia c’è anche nella Fondazione, ed è Il Mulo, ma ha una importanza relativa di fronte allo scorrere degli eventi. La storia è fatta dalle masse e dai potenti in una dialettica socio-economica oltre che militare complessa e realistica, secondo il kantiano Asimov. Invece la storia è fatta dai leader carismatici che passano a cavallo e cambiano la sorte degli imperi, secondo il nicciano Herbert.
Tutto questo dove lo trovo dentro la serie tv Fondazione?, mi chiedevo sotto la doccia. E soprattutto, quanto mi costa di acqua calda stare così tanto a pensare sotto la doccia?
Antonio Dini, giornalista e saggista, è nato a Firenze e ora vive a Milano. La sua newsletter si intitola: Mostly Weekly.
Nel 1964 lo scrittore visitò la New York World's Fair e ne approfittò per buttare giù alcune idee su come sarebbe stato il mondo cinquant’anni dopo. Ecco, allora, il 2014 visto attraverso i visionari occhi di Isaac Asimov.
Isaac Asimov è uno dei giganti indiscutibili della fantascienza e, al pari di altri suoi colleghi scrittori come Ray Bradbury o Arhur C. Clarke, è stato un osservatore privilegiato e critico del momento storico in cui viveva.
Nel 1964, in occasione della New York World’s Fair scrisse un articolo in cui immaginava di visitare la stessa esposizione, ma cinquant’anni dopo, cioè nel 2014.
In esso descriveva alcuni progressi della scienza, della tecnologia e dell’umanità che possiamo ben riconoscere nella nostra quotidianità, anche se molti sono ancora di là da venire.
Le comunicazioni non saranno basate solamente sul suono, ma anche sulla vista. Si potranno vedere le persone che si chiamano al telefono. Sarà possibile sugli schermi anche leggere libri e stampare documenti.
Ci saranno veicoli guidati da robot. I viaggi si potranno programmare verso destinazioni diverse. La guida non avrà le interferenze dei riflessi umani.
I trasporti cercheranno di evitare la dispersione di energia nell’attrito col suolo e quindi gli aerei saranno il mezzo più usato, ma anche i treni viaggeranno sospesi.
Tutti gli schermi saranno sostituiti. Ci sarà spazio per cubi trasparenti e effetti tridimensionali.
Gli elettrodomestici allevieranno le attività degli uomini. Ci saranno macchine che faranno il caffè, che riscalderanno l’acqua, che faranno pane tostato. Cucine intelligenti che prepareranno la colazione: si potrà decidere la notte cosa mangiare la mattina seguente. Il cibo sarà principalmente pre-cucinato e pre-confezionato.
L’uomo creerà ambienti che si adattano a se stesso. Entro il 2014 ci saranno pannelli luminosi che daranno vita a particolari giochi di luce.
La forza lavoro saranno le macchine robotizzate e compito dell’uomo sarà svilupparle e farle funzionare.
La parola lavoro sarà quella più importante del dizionario del nuovo secolo e del nuovo millennio. Scompariranno tanti lavori tradizionali che saranno sostituiti dalle macchine.
L’istruzione superiore sarà basata su linguaggi informatici e tecnologici.
L’umanità dovrà fare i conti con la noia, un malessere che si diffonderà con velocità allarmante.
Questo è uno dei classici della fantascienza breve. Dubito che qualcuno possa avere la faccia tosta di negarlo.
E' assolutamente indimenticabile, e malgrado sia stato interminabilmente ristampato, non gli manca mai un pubblico.
Chiunque sia riuscito a non leggerlo prima d'ora, ne rimarrà colpito tremendamente.
Chiunque l'abbia già letto può benissimo rileggerselo.
E, a parte, questo ha una delle più grandi ultime righe che chiunque abbia mai scritto.
(No - se per uno strano caso non conoscete l'ultima riga...adesso non precipitatevi subito a leggerla!).
Che altro c'è da dire? Isaac Asimov
The nine billion names of God
"This is a slightly unusual request," said Dr. Wagner, with what he hoped was commendable restraint. "As far as I know, it’s the first time anyone’s been asked to supply a Tibetan monastery with an automatic sequence computer. I don’t wish to be inquisitive, but I should hardly thought that your --ah-- establishment had much use for such a machine. Could you explain just what you intend to do with it?"
"Gladly," replied the lama, readjusting his silk robe and carefully putting away the slide rule he had been using for currency conversions. "Your Mark V computer can carry out any routine mathematical operation involving up to ten digits. However, for our work we are interested in letters, not numbers. As we wish you to modify the output circuits, the machine will be printing words, not columns of figures."
"I don’t understand . . ."
"This is a project on which we have been working for the last three centuries -- since the lamasery was founded, in fact. It is somewhat alien to your way of thought, so I hope you will listen with an open mind while I explain it."
"Naturally."
"It is really quite simple. We have been compiling a list which shall contain all the possible names of God."
"I beg your pardon?"
"We have reason to believe," continued the lama imperturbably, "that all such names can be written with not more than nine letters in an alphabet we have devised."
"And you have been doing this for three centuries?"
"Yes. We expected it would take us about fifteen thousand years to complete the task."
"Oh." Dr. Wagner looked a little dazed. "Now I see why you wanted to hire one of our machines. But exactly what is the purpose of this project?"
The lama hesitated for a fraction of a second, and Wagner wondered if he had offended him. If so, there was no trace of annoyance in the reply.
"Call it ritual, if you like, but it’s a fundamental part of our belief. All the many names of the Supreme Being -- God, Jehovah, Allah, and so on -- they are only man-made labels. There is a philosophical problem of some difficulty here, which I do not propose to discuss, but somewhere among all the possible combinations of letters, which can occur, are what one may call the real names of God. By systematic permutation of letters, we have been trying to list them all."
"I see. You’ve been starting at AAAAAAAAA . . . and working up to ZZZZZZZZZ . . ."
"Exactly -- though we use a special alphabet of our own. Modifying the electromatic typewriters to deal with this is, of course, trivial. A rather more interesting problem is that of devising suitable circuits to eliminate ridiculous combinations. For example, no letter must occur more than three times in succession."
"Three? Surely you mean two."
"Three is correct. I am afraid it would take too long to explain why, even if you understood our language."
"I’m sure it would," said Wagner hastily. "Go on."
"Luckily it will be a simple matter to adapt your automatic sequence computer for this work, since once it has been programmed properly it will permute each letter in turn and print the result. What would have taken us fifteen thousand years it will be able to do in a thousand days."
Dr. Wagner was scarcely conscious of the faint sounds from the Manhattan streets far below. He was in a different world, a world of natural, not man-made, mountains. High up in their remote aeries these monks had been patiently at work, generation after generation, compiling their lists of meaningless words. Was there any limit to the follies of mankind? Still, he must give no hint of his inner thoughts. The customer was always right . . .
"There’s no doubt," replied the doctor, "that we can modify the Mark V to print lists of this nature. I’m much more worried about the problem of installation and maintenance. Getting out to Tibet, in these days, is not going to be easy."
"We can arrange that. The components are small enough to travel by air -- that is one reason why we chose your machine. If you can get them to India, we will provide transport from there."
"And you want to hire two of our engineers?"
"Yes, for the three months which the project should occupy."
"I’ve no doubt that Personnel can manage that." Dr. Wagner scribbled a note on his desk pad. "There are just two other points--"
Before he could finish the sentence, the lama had produced a small slip of paper.
"This is my certified credit balance at the Asiatic Bank."
"Thank you. It appears to be--ah--adequate. The second matter is so trivial that I hesitate to mention it -- but it’s surprising how often the obvious gets overlooked. What source of electrical energy have you?"
"A diesel generator providing 50 kilowatts at 110 volts. It was installed about five years ago and is quite reliable. It’s made life at the lamasery much more comfortable, but of course it was really installed to provide power for the motors driving the prayer wheels."
"Of course," echoed Dr. Wagner. "I should have thought of that."
***************
The view from the parapet was vertiginous, but in time one gets used to anything. After three months George Hanley was not impressed by the two-thousand-foot swoop into the abyss or the remote checkerboard of fields in the valley below. He was leaning against the wind-smoothed stones and staring morosely at the distant mountains whose names he had never bothered to discover.
This, thought George, was the craziest thing that had ever happened to him. "Project Shangri-La," some wit at the labs had christened it. For weeks now, Mark V had been churning out acres of sheets covered with gibberish. Patiently, inexorably, the computer had been rearranging letters in all their possible combinations, exhausting each class before going on to the next. As the sheets had emerged from the electromatic typewriters, the monks had carefully cut them up and pasted them into enormous books. In another week, heaven be praised, they would have finished. Just what obscure calculations had convinced the monks that they needn’t bother to go on to words of ten, twenty, or a hundred letters, George didn’t know. One of his recurring nightmares was that there would be some change of plan and that the High Lama (whom they’d naturally called Sam Jaffe, though he didn’t look a bit like him) would suddenly announce that the project would be extended to approximately 2060 A.D. They were quite capable of it.
George heard the heavy wooden door slam in the wind as Chuck came out onto the parapet beside him. As usual, Chuck was smoking one of the cigars that made him so popular with the monks -- who, it seemed, were quite willing to embrace all the minor and most of the major pleasures of life. That was one thing in their favor: they might be crazy, but they weren’t bluenoses. Those frequent trips they took down to the village, for instance . . ." "Listen, George," said Chuck urgently. "I’ve learned something that means trouble."
"What’s wrong? Isn’t the machine behaving?" That was the worst contingency George could imagine. It might delay his return, than which nothing could be more horrible. The way he felt now, even the sight of a TV commercial would seem like manna from heaven. At least it would be some link from home.
"No -- it’s nothing like that." Chuck settled himself on the parapet, which was unusual, because normally he was scared of the drop.
"I’ve just found out what all this is about."
"What d’ya mean -- I thought we knew."
"Sure -- we know what the monks are trying to do. But we didn’t know why. It’s the craziest thing --"
"Tell me something new," growled George.
" . . . but old Sam’s just come clean with me. You know the way he drops in every afternoon to watch the sheets roll out. Well, this time he seemed rather excited, or at least as near as he’ll ever get to it. When I told him we were on the last cycle he asked me, in that cute English accent of his, if I’d ever wondered what they were trying to do. I said, ‘Sure’ -- and he told me."
"Go on, I’ll buy it."
"Well, they believe that when they have listed all His names -- and they reckon that there are about nine billion of them -- God’s purpose will have been achieved. The human race will have finished what it was created to do, and there won’t be any point in carrying on. Indeed, the very idea is something like blasphemy."
"Then what do they expect us to do? Commit suicide?"
"There’s no need for that. When the list’s completed, God steps in and simply winds things up . . . bingo!"
"Oh, I get it. When we finish our job, it will be the end of the world."
Chuck gave a nervous little laugh.
"That’s just what I said to Sam. And do you know what happened? He looked at me in a very queer way, like I’d been stupid in class, and said, ‘It’s nothing as trivial as that’."
George thought this over for a moment.
"That’s what I call taking the Wide View," he said presently.
"But what d’ya suppose we should do about it? I don’t see that it makes the slightest difference to us. After all, we already knew that they were crazy."
"Yes -- but don’t you see what may happen? When the list’s complete and the Last Trump doesn’t blow -- or whatever it is that they expect -- we may get the blame. It’s our machine they’ve been using. I don’t like the situation one little bit."
"I see," said George slowly. "You’ve got a point there. But this sort of thing’s happened here before, you know. When I was a kid down in Louisiana we had a crackpot preacher who said the world was going to end next Sunday. Hundreds of people believed him-- even sold their homes. Yet nothing happened; they didn’t turn nasty, as you’d expect. They just decided that he’d made a mistake in his calculations and went right on believing. I guess some of them still do."
"Well, this isn’t Louisiana, in case you hadn’t noticed. There are just two of us and hundreds of these monks. I like them, and I’ll be sorry for old Sam when his lifework backfires on him. But all the same, I wish I was somewhere else."
"I’ve been wishing that for weeks. But there’s nothing we can do until the contract’s finished and the transport arrives to fly us out."
"Of course," said Chuck thoughtfully, "we could always try a bit of sabotage."
"Like hell we could! That would make things worse."
"Not the way I meant. Look at it like this. The machine will finish its run four days from now, on the present twenty-hours-a-day basis. The transport calls in a week. O.K., then all we need to do is to find something that wants replacing during one of the overhaul periods -- something that will hold up the works for a couple of days. We’ll fix it, of course, but not too quickly. If we time matters properly, we can be down at the airfield when the last name pops out of the register. They won’t be able to catch us then."
"I don’t like it," said George. "It will be the first time I ever walked out on a job. Besides, it would make them suspicious. No, I’ll sit tight and take what comes."
******************
"I still don’t like it," he said seven days later, as the tough little mountain ponies carried them down the winding road. "And don’t you think I’m running away because I’m afraid. I’m just sorry for those poor old guys up there, and I don’t want to be around when they find what suckers they’ve been. Wonder how Sam will take it?"
"It’s funny," replied Chuck, "but when I said goodbye I got the idea he knew we were walking out on him -- and that he didn’t care because he knew the machine was running smoothly and that the job would soon be finished. After that -- well, of course, for him there just isn’t any After That . . ."
George turned in his saddle and stared back up the mountain road. This was the last place from which one could get a clear view of the lamasery. The squat, angular buildings were silhouetted against the afterglow of the sunset; here and there lights gleamed like portholes in the sides of an ocean liner. Electric lights, of course, sharing the same circuit as the Mark V. How much longer would they share it? wondered George. Would the monks smash up the computer in their rage and disappointment? Or would they just sit down quietly and begin their calculations all over again?
He knew exactly what was happening up on the mountain at this very moment. The High Lama and his assistants would be sitting in their silk robes, inspecting the sheets as the junior monks carried them away from the typewriters and pasted them into the great volumes. No one would be saying anything. The only sound would be the incessant patter, the never-ending rainstorm, of the keys hitting the paper, for the Mark V itself was utterly silent as it flashed through its thousands of calculations a second. Three months of this, thought George, was enough to start anyone climbing up the wall.
"There she is!" called Chuck, pointing down into the valley. "Ain’t she beautiful!"
She certainly was, thought George. The battered old DC-3 lay at the end of the runway like a tiny silver cross. In two hours she would be bearing them away to freedom and sanity. It was a thought worth savoring like a fine liqueur. George let it roll around in his mind as the pony trudged patiently down the slope.
The swift night of the high Himalayas was now almost upon them. Fortunately the road was very good, as roads went in this region, and they were both carrying torches. There was not the slightest danger, only a certain discomfort from the bitter cold. The sky overhead was perfectly clear and ablaze with the familiar, friendly stars. At least there would be no risk, thought George, of the pilot being unable to take off because of weather conditions. That had been his only remaining worry.
He began to sing but gave it up after a while. This vast arena of mountains, gleaming like whitely hooded ghosts on every side, did not encourage such ebullience. Presently George glanced at his watch.
"Should be there in an hour," he called back over his shoulder to Chuck. Then he added, in an afterthought, "Wonder if the computer’s finished its run? It was due about now."
Chuck didn’t reply, so George swung round in his saddle. He could just see Chuck’s face, a white oval turned toward the sky.
"Look," whispered Chuck, and George lifted his eyes to heaven. (There is always a last time for everything.)
Overhead, without any fuss, the stars were going out.
Arthur C. Clarke — 1953
I nove miliardi di nomi di Dio
"E' una richiesta un po' insolita" disse il dottor Wagnber, con quella che sperava apparisse una lodevole esibizione di tatto. "Per quello che ne so è la prima volta che qualcuno ci chiede di fornire a un monastero tibetano un computer a sequenza automatica. Non desidero certo apparire indiscreto, ma non avrei mai pensato che il vostro, ehm, istituto potesse avere qualche motivo per utilizzare una macchina di questo tipo. Potrebbe spiegare l'uso che intendete farne?"
"Volentieri" rispose il lama, lisciandosi la veste di seta e mettendo via con cura il regolo calcolatore che aveva usato per convertire la valuta. "Il vostro computer Mark V può eseguire qualunque operazione matematica di routine fino a dieci cifre. Tuttavia, per il nostro lavoro, siamo interessati a lettere non a numeri. Noi desideriamo che modifichiate i circuiti di output, in modo che la macchina stampi parole, non colonne di cifre".
"Non riesco bene capire..."
"Questo è un progetto al quale abbiamo lavorato durante gli ultimi tre secoli, da quando è stata fondata la lamasseria, il monastero, in pratica. E' un po' estraneo al vostro modo di pensare, perciò spero che vorrà ascoltare con mente aperta mentre glielo spiego".
"Naturalmente".
"In realtà è molto semplice. Abbiamo compilato una lista che contiene tutti i nomi di Dio".
"Scusi?"
"Abbiamo motivo di credere" continuò il lama, imperturbabile, "che tutti quei nomi possano essere scritti con non più di nove lettere in un alfabeto che abbiamo ideato noi stessi".
"E lo state facendo da tre secoli?"
"Si. Ci aspettavamo che ci sarebbero voluti circa quindicimila anni per completare l'impresa".
"Oh". Il dottor Wagner parve un po' stordito. "Adesso capisco perché volete affittare una delle nostre macchine. Ma qual è esattamente lo lo scopo di questo progetto?"
Il lama esitò per una frazione di secondo, e Wagner si chiese se non l'avesse involontariamente offeso. Ma se era così, non vi fu la minima traccia di fastidio nella sua risposta.
"Lo chiami pure un rituale, se vuole, ma è una componente fondamentale della nostra fede. Tutti i molti nomi dell'Essere Supremo, Dio, God, Jeovah, Allah e così via, sono soltanto etichette prodotte dall'uomo. Qui esiste un problema filosofico d'una certa difficoltà, che non ho intenzione di discutere, ma in qualche punto di tutte le possibili combinazioni di lettere che possono esistere vi sono quelli che potremmo chiamare i veri nomi di Dio. Attreverso una sistematica permutazione delle lettere, abbiamo tentato di elencarli tutti".
"Capisco. Avere cominciato con AAAAAAAAA... per arrivare a ZZZZZZZZZ..."
"Proprio così, anche se usiamo un nostro speciale alfabeto. Modificare le scriventi automatiche per risolvere questo aspetto è naturalmente banale. Un problema molto più interessante è quello di progettare dei circuiti adatti per eliminare le combinazioni assurde. Per esempio, nessuna lettera deve comparire più di tre volte di seguito".
"Tre. Certamente vorrà dire due".
"Tre è giusto: temo che ci vorrebbe troppo tempo per spiegarle il perché, anche se lei capisse la nostra lingua".
"Sono certo di si" si affretto di aggiungere Wagner. "Continui pure".
"Per fortuna sarà una faccenda molto semplice adattare il vostro computer a sequenza automatica per questo lavoro, poiché quando sarà stato programmato in maniera corretta, permuterà ogni lettera volta per volta e stamperà il risultato. Dove sarebbero stati necessari quindicimila anni per completare il lavoro, potremo farlo in cento soltanto".
Il dottor Wagner quasi neppure si accorgeva del lontano fragore che saliva dalle strade di Manhattan, molto più in basso. Si trovava in un mondo diverso, un mondo di montagne naturali, non create dall'uomo, in altro fra quelle vette lontane, quei monaci avevano continuato a lavorare pazientemente, generazione dopo generazione, compilando le loro liste di parole senza senso. Esisteva qualche limite alle follie dell'umanità? Comunque, non doveve far trapelare nessun segno dei suoi pensieri interiori. Il cliente aveva sempre ragione...
"Non c'è alcun dubbio" rispose il dottor Wagner, " sul fatto che noi siamo in grado di modificare il Mark V così da stampare automaticamente liste di questo tipo. Mi preoccupano molto di più i problemi dell'installazione e della munutenzione. Raggiungere il Tibet, al giorno d'oggi, non sarà facile.
"Possiamo organizzare tutto noi. Le componenti sono abbastanza piccole da poter viaggiare per via aerea, è uno dei motivi per qui abbiamo scelto la vostra macchina. Se riuscite ad arrivare in India, provvederemo noi a fornire i mezzi di trasporto da lì"
"E volete assumere due dei nostri tecnici?"
"Si, per i tre mesi necessari al progetto".
"Non ho alcun dubbio che il nostro ufficio personale potrà occuparsene". Il dottor Wagner scribacchio qualcosa su un blocco di appunti sulla sua scrivania. "Ci sono solo altri due punti..."
Prima che potesse terminare la frase, il lama aveva tirato fuori un foglietto.
"Questa è la certificazione del mio credito presso la Banca Asiatica".
"Grazie. Pare...ah...adeguato. La seconda questione è così banale che esito a farvi accenno, ma è sorprendente quanto spesso le cose ovvie vengano trascurate. Di quale fonte di energia elettrica disponete?"
"Un generatore diesel che fornisce cinquanta kilowatt a centodieci volt. E' stato installato circa cinque anni fa ed è molto affidabile. Ha reso la vita nel nostro monastero molto più comoda, ma naturalmente è stato installato soprattutto per fornire energia alle nostre ruote di preghiera".
"Naturalmente" gli fece eco il dottor Wagner. "Avrei dovuto pensarci".
*****
Il panorama dal parapetto dava le vertigini, ma col tempo ci si abitua a tutto. Dopo tre mesi, George Hanley non provava più quell'impressione di vertigine alla vista dello strapiombo di seicento metri sull'abisso e della remota scacchiera di campi coltivati nella valle sottostante. Era appoggiato alle pietre levigate dal vento e fissava imbronciato le lontane montagne delle quali non si era mai preoccupato di scoprire i nomi.
Questa, pensò George, era la cosa più folle che gli fosse mai capitata. "Progetto Shangri-La", qualcuno l'aveva battezzato laggiù nei laboratori della ditta. Da settimane ormai il Mark V aveva sfornato chilometri e chilometri di fogli coperti di segni incomprensibili. Con inesorabile pazienza il computer aveva riorganizzato le lettere in tutte le loro possibili combinazioni, esaurendo ogni singola classe prima di passare alla successiva. A mano a mano che i fogli emergevano dalle scriventi elettriche, i monaci li tagliavano con estrema attenzione incollandoli in enormi libroni. Una settimana ancora e, grazie al cielo, avrebbero finito. Quali oscuri calcoli avessero convinto i monaci di non doversi preoccupare di esaminare, dopo, le parole di dieci, venti o cento lettere, George non lo sapeva. Uno dei sui incubi ricorrenti era che ci sarebbe stato un cambio di programma e che il Gran Lama (loro naturalmente lo chiamavano Sam Jaffe, anche non assomigliava neanche un po' all'attore) annunciava all'improvviso che il progetto sarebbe stato prolungato all'incirca fino al 2060 d.C. Erano capacissimi di farlo.
Geroge sentì la grande porta di legno massiccio sbattere al vento quando Chuck uscì fuori, e si fermò a ridosso del parapetto accanto a lui. Come al solito, Chuck stava fumando uno di quei sigari che lo avevano reso così popolare tra i monaci i quali, a quanto pareva, erano più che disposti ad abbracciare tutti i piccoli piaceri della vita, ed anche quelli più grandi. Questa era una delle cose a loro favore: potevano anche essere pazzi, ma non erano bacchettoni. Quei frequenti viaggi che facevano giù fino al villaggio, per esempio...
"Ascoltami George" disse Chuck, con una certa angoscia nella voce. "Ho saputo qualcosa che può significare guai per noi".
"Cosa c'è che non va? La macchina non funziona come si deve?"
Quello era il peggior guaio che George potesse immaginare. Avrebbe potuto ritardare il loro ritorno, e nessun'altra prospettiva gli appariva altrettanto orribile. Visto come si sentiva in quel momento, perfino la contemplazione d'uno spot pubblicitario televisivo gli sarebbe parsa come manna dal cielo. Per lo meno avrebbe significato un collegamento con casa sua.
"No, niente del genere". Chuck si appoggio al parapetto, il che era insolito, giacché quello strapiombo gli aveva sempre fatto paura. "Ho appena scoperto cos'è in realtà tutta questa faccenda".
"Cosa vuoi dire? Credevo che lo sapessimo".
"Sicuro, Sappiamo quello che i monaci stanno cercando di fare. Ma non ne sapevamo il perché. E' la cosa piiù folle che..."
"Vuoi dirmelo allora?" gemette George.
"...il vecchio Sam si è appena confidato con me. Tu sai che viene ogni pomeriggio a guardare i fogli mentre si srotolano fuori. Bene, questa volta pareva piuttosto eccitato, o quanto meno, quanto potrà mai esserlo uno come lui. Quando gli ho detto che eravamo arrivati all'ultimo ciclo, mi ha chiesto con quel suo affascinante accento inglese, se mi fossi mai domandato cosa stavano cercando di fare. "Certo" gli ho risposto, e lui me l'ha raccontato".
"Continua, ci rinuncio".
"Bene, loro credono che quando avranno elencato tutti i Suoi nomi, e calcolano che ce ne siano all'incirca nove miliardi, Dio avrà conseguito il suo scopo. La razza umana avrà portato a termine il compito per cui è stata creata, e non ci sarà nessuna ragione per continuare. Addirittura, l'idea stessa è blasfema".
"Allora, cosa si aspettano che facciamo, che ci suicidiamo?"
"Non ce ne sarà bisogno. Una volta completata la lista, Dio interviene e conclude ogni cosa...tombola!"
"Oh, capisco. Quando avremo finito il nostro lavoro, ci sarà la fine del mondo".
Chuck se ne uscì con una risatina nervosa.
"E' proprio quello che ho detto a Sam. E sai cos'è successo? Mi ha guardato in maniera molto strana, come se io fossi l'idiota della classe, e ha replicato: "Non è niente di così banale""
George ci rifletté un attimo.
"E' quello che io dico avere la Grande Visione" commentò, qualche istante dopo. "Ma cosa pensi che dovremmo fare? Non mi pare che ci sia la minima differenza, per noi. Dopotutto sapevamo che erano matti".
"Si, ma non capisci cosa potrebbe accadere? Quando la lista sarà completata e l'Ultima Tromba non squillerà, o qualunque cosa si aspettino, potremmo essere noi a venire incolpati. E' la nostra macchina che stanno usando. Questa situazione non mi piace neanche un po'".
"Capisco" replicò George, lentamente. "Qui hai colto nel segno. Ma questo genere di cose è successo altre volte, sai. Quand'ero ragazzino, giù in Louisiana, avevamo un predicatore quasi del tutto partito con la testa il quale un giorno disse che il mondo sarebbe finito domenica prossima. Centinaia di persone gli credettero, finirono perfino di vendere le proprie case. Eppure, quando non successe niente, non s'infuriarono con lui come ti saresti aspettato. Decisero semplicemente che aveva sbagliato i suoi calcoli e continuarono a credere. Sono convinto che qualcuno ci crede ancora.
"Bene, questa non è la Louisiana, nel caso in cui non te ne sia accorto. Noi siamo soltanto due e questi monaci sono centinaia. Mi sono simpatici e mi dispiacerà per il vecchio Sam quando si accorgerà che il compito della sua vita si rivolterà contro di lui, ma preferirei lo stesso trovarmi da qualche altra parte".
"Sono settimane che anch'io lo desidero ardentemente. Ma on c'è niente che possiamo fare fino a quando il contratto non sarà concluso e non arriverà l'aereo a riportarci a casa".
"Naturalmente" disse Chuck, pensieroso, "potremmo sempre tentare un piccolo sabotaggio".
"Col cavolo che possiamo fare una cosa simile. Non faremo altro che peggiorare le cose".
"Non come intendo io. Mettiamola così. La macchina finirà il suo lavoro fra quattro giorni, sulla base delle venti ore giornaliere di oggi. Il trasporto arriverà tra una settimana. D'accordo? Tutto quello che dobbiamo fare è trovare qualcosa che debba venir sostituito, durante i periodi di manutenzione, qualcosa che faccia sospendere il lavoro per un paio di giorni. Noi ripareremo il guasto, naturalmente, ma non troppo in fretta. Se sincronizzeremo le cose per bene, potremmo trovarci giù all'aeroporto quando l'ultimo nome schizzerà fuori dalla stampante. A quel punto, non ce la faranno più a prenderci".
"Non mi piace" disse George. "Sarà la prima volta che abbandonerò un lavoro. Inoltre li renderebbe sospettosi. No, resterò qui ed accetterò quello che sarà".
***
"Non mi piace ancora" dichiarò, sette giorni più tardi, mentre i piccoli e robusti pony di montagna li stavano trasportando giù per la strada serpeggiante. "E non credere che io stia scappando perché ho paura. E' soltanto che sono dispiaciuto per quei poveracci là sopra, e non voglio trovarmi lì intorno quando scopriranno che razza di gonzi sono stati. Mi chiedo come la prenderà Sam".
"E' strano" replicò Chuck, "ma quando l'ho salutato ho avuto l'impressione che sapesse che stavamo tagliando la corda e che non gliene importasse, perché sapeva che la macchina funzionava alla perfezione e che il lavoro sarebbe stato ben presto finito. Dopo...be', naturalmente, per lui non esiste nessun Dopo..."
George si girò sulla sua sella, e sollevò lo sguardo verso la strada di montagna. Quello era l'ultimo punto da cui era possibile vedere chiaramente il monastero. Il profilo dei tozzi edifici angolosi si stagliava contro il riverbero del tramonto: qua e là baluginavano luci, come gli oblò sulla fiancata di un transatlantico. Luci elettriche, naturalmente, le quali condividevano lo stesso circuito del Mark V. Per quanto tempo ancora l'avrebbero condiviso? si chiese George. I monaci avrebbero fracassato il computer in preda alla collera ed al disappunto? Oppure si sarebbero seduti tranquilli, ricominciando daccapo i loro calcoli?
Lui sapeva esattamente ciò che stava succedendo lassù sulla montagna, in quel preciso istante. Il Gran Lama ed i suoi assistenti se ne stavano seduti, avvolti nelle loro vesti di seta, intenti ad ispezionare i fogli a mano a mano che i monaci cadetti li portavano via dalla stampante, e li incollavano nei grandi volumi. Nessuno diceva niente. L'unico suono là dentro, era l'incessante ticchettio, l'interminabile grandinare dei tasti che colpivano la carta, giacché di per se il Mark V era del tutto silenzioso mentre smaltiva le molte migliaia di calcoli ad ogni singolo secondo. Tre mesi di questo, pensò George, erano sufficienti per far ammattire chiunque.
"Eccolo là!" gridò Chuck, indicando il fondovalle. "Non è bello?"
E certamente lo era, pensò George. Il vecchio, ammaccato DC3 spiccava in fondo alla pista come una minuscola croce d'argento. Fra due ore li avrebbe condotti verso la libertà e l'equilibrio mentale. Era un pensiero che valeva la pena di assaporare come se si trattasse di un liquore di qualità. George lasciò che gli passasse e gli ripassasse nel cervello, gustandolo, mentre il pony continuava a scendere con passo paziente e pesante il pendio.
Adesso la rapida notte dell'alta Himalaya era quasi su di loro. Per fortuna la strada era molto buona, secondo la qualità media delle strade in quella regione, e tutti e due erano muniti di torce. Non c'era iil minimo pericolo, soltanto il lieve disagio dovuto al freddo pungente. Il cielo sopra di loro era perfettamente limpido, e acceso dal brulichio delle famigliari e amichevoli stelle. Per lo meno, pensò George, no ci sarebbe stato il rischio che il pilota non potesse decollare a causa delle cattive condizioni del tempo. Quella era l'unica preoccupazione che gli era rimasta.
Cominciò a cantare, ma dopo un po' ci rinunciò. Quel vasto anfiteatro di montagne che si stagliavano ad ogni lato simili a bianchi fantasmi incappucciati, non incoraggiava una simile esuberanza. Poco dopo, George diede un'occhiata al suo orologio.
"Dovremmo esserci fra un ora" gridò a Chuck, senza voltarsi. Poi aggiunse, a mo' di ripensamento: "Mi chiedo se il computer non abbia finito il suo lavoro. Dovrebbe essere all'incirca adesso".
Chuck non rispose, così George si girò sulla sella. Poteva vedere il volto di Chuck, un ovale bianco rivolto al cielo.
"Guarda" bisbigliò Chuck, e George sollevò gli occhi verso il firmamento. (C'è sempre un'ultima volta per ogni cosa).
In alto, senza nessun clamore, le stelle si stavano spegnendo.
