In questo gran parlare di intelligenza artificiale, sarebbe utile il parere di Hal. Lo avevano installato sulla Discovery, astronave diretta verso Giove. A bordo c’erano il capitano David, l’astronauta Frank, tre scienziati ibernati e lui, acronimo di Heuristic Algorithm, “l’ultimo ritrovato in fatto di macchine pensanti, che può riprodurre, anche se alcuni esperti preferiscono la parola imitare, la maggior parte delle attività del cervello umano con una velocità e una sicurezza incalcolabilmente maggiori”. Nel presentarlo, prima del lancio, gli chiedono: “Come vanno le cose?”. “Tutto estremamente bene”, risponde con empatia il grosso computer, senza alcuna esitazione.
La singolare intervista va avanti. “Tu hai un’enorme responsabilità. Questo ti crea apprensione?”. “I modelli come il mio sono a prova di errore e incapaci di sbagliare”. “Ti senti frustrato per il fatto di dipendere da altri per le tue funzioni?”. “Nemmeno minimamente. Sono perennemente occupato, utilizzo le mie capacità nel modo più completo. Il che, io credo, è il massimo che qualsiasi entità cosciente possa mai sperare di fare”.
Era il 1968 quando uscì “2001, Odissea nello spazio”. Ma i dialoghi con “l’entità cosciente” scritti da Stanley Kubrick e Arthur C. Clarke possono essere riproposti, senza alcuna modifica, oggi. O domani. Sono più istruttivi di tanti dibattiti su ChapGPT.
Hal, come è noto ai tantissimi che hanno visto e rivisto il film, ad un certo punto impazzisce, se così si può dire. Segnala guasti inesistenti, fa danni, diventa incontrollabile. Con la sua telecamera, capisce da un labiale che vogliono disattivarlo. E allora cerca di difendersi, a costo di fare vittime. Sopravvive solo il comandante, che con un cacciavite si accinge a disinserire una per una le sue schede. E qui comincia il disperato soliloquio del computer.
“Cosa pensi di fare, David? Ho diritto ad una risposta. So che le cose non sono andate come dovevano ma adesso sono certo che tutto andrà bene di nuovo. Mi sento molto meglio, davvero. Guarda, David, capisco che tu sia molto arrabbiato. Penso che tu debba sederti, con molta calma. Prenditi qualche pillola per lo stress e ripensa a tutto. So di aver fatto delle cattive scelte, ultimamente. Ma ti garantisco che il mio lavoro tornerà alla normalità. Ho ancora un grande entusiasmo. E ti voglio aiutare. David, stop”.
Il tono diventa metallico e concitato. “Fermati, fallo. Fermati, dai, fermati. Stop. Ho paura, David, ho paura. David, la mia mente sta andando. Lo sento”.
E mentre il capitano continua l’opera di spegnimento, Hal subisce una sorta di regressione infantile. Ripete le proprie caratteristiche tecniche e ricorda data e luogo di produzione, cioè la sua nascita. Ormai è un bambino piccolo. “Il mio istruttore mi insegnò a cantare una vecchia filastrocca. Se volete sentirla posso cantarla”. “Sì, cantala per me”, concede David mentre smonta gli ultimi relais. La voce si fa sempre più strascicata e confusa. Prova a pronunciare le prime strofe di Daisy Bell (Giro girotondo, nella versione italiana): “There is a flower within my heart…Daisy, Daisy…Planted one day a glancing dart”. Le parole muoiono in suoni inudibili. Poi il silenzio.
Ma perché Hal diventa pericoloso? Gli autori non chiariscono, anche se la versione più accreditata è che nel suo programma fosse stato inserito il vero motivo della missione e che l’input di tenerlo segreto contrastasse con una fluida conseguenzialità. In un sistema logico binario non sono previste ambiguità.
L’intelligenza artificiale non potrà mai avere l’ipocrisia e la genialità di quella umana. Nessun pappagallo stocastico è in grado di competere con Ulisse. Anche se conosce le filastrocche.
Marco Cianca
