I.A. Intelligenza Artificiale, ma basta essere intelligenti per essere “umani”? cioè, la domanda che ci si pone alla fine è: può una macchina possedere un cuore? dei sentimenti? un’etica morale?
Perchè è questo che ci spaventa, il non sapere se una volta raggiunta l’autocoscienza, una mente artificiale, pur di tutelare la propria esistenza, esiterebbe o meno a commettere un genocidio. Nella fattispecie, il nostro genocidio.
Le premesse
Partiamo dal presupposto che una I.A. è una macchina. Come tale, composta da circuiti e componenti elettronici inerti se non attraversati da una fonte di energia esterna, che attivi le loro funzioni specifiche. Non basta, per poter svolgere il loro lavoro hanno bisogno di sapere cosa devono fare, e qui interviene l’essere umano che sviluppa programmi per ciascun compito richiesto dalla macchina di cui questi componenti elettronici costituiscono il “cervello”. Questo cervello però non pensa, potremmo paragonarlo al nostro sistema nervoso autonomo che, per esempio, fa funzionare i polmoni senza che noi si debba “pensare” ogni volta di espirare e inspirare.
Il sogno di tutti i programmatori è creare un software, cioè un programma, che apprenda e sia in grado di automigliorarsi, sviluppando in autonomia nuove istruzioni.
Il risultato sarebbe una I.A., una Intelligenza Artificiale. Ma questa intelliogenza svilupperebbe una sua etica morale o sarebbe solo una macchina molto brava ma senz’anima?
La risposta a questa domanda è più che mai attuale. Oggi si parla tanto dei rischi di affidarsi alle nascenti I.A.
A coloro che oggi affollano i Talk Show e ci bombardano con le loro profezie, vorrei ricordare che la Fantascienza lo ha fatto prima di loro, e lo fa da almeno 60 anni…
La profezia di James White
James White, irlandese di nascita (Belfast 1928 – Portstewart 1999), è stato uno scrittore di fantascienza che si è distinto per le sue tematiche pacifiste, probabilmente conseguenza del momento storico in cui è vissuto. Autore prolifico, di cui tornerò sicuramente a parlare in un prossimo articolo, nel 1961 scrisse il suo romanzo Second Ending che verrà pubblicato in Italia da Mondadori per la prima volta con il titolo “Vita con gli Automi” nel 1963 (Urania al nº309), ristampato nel 1974 (Urania 651) e infine riproposto su Millemondi Estate, Urania collezione nº101 nel 2001.
Si tratta della storia di Ross, che viene risvegliato dai Robot dopo una catastrofe globale (causata dall’uomo, non dalle macchine) e si ritrova ad essere l’unico superstite, ma anche l’unico scopo di vita delle macchine stesse. Chi le aveva programmate all’inizio, dando poi loro la capacità di automigliorarsi, aveva infatti gettato le basi delle leggi della robotica, quelle che Asimov svilupperà meglio in seguito (vedi il mio articolo sul nº 7/2024 di www.arcipelagocanarie.eu): la macchina è nata per servire l’uomo. Punto.
Il romanzo in prima lettura, sembrerebbe la narrazione delle vicessitudini del protagonista umano per uscire dal suo stato di sopravvisuto. In realtà, ad una lettura più accurata, scopriamo che la vera protagonista della storia è l’I.A. e la sua evoluzione nel tempo in una forma di vita inimmaginabile.
1 a 0 per l’I.A.
La profezia di Harris Moore
Harris Moore, pseudonimo degli scrittori Alfred Harris e Arthur Moore, nel 1971 ci raccontano una storia differente. In Slater’s Planet, ovvero “Direttiva Primaria” come verrà pubblicato in Italia in Urania nº 583 nel 1972, degli esploratori umani si imbatto in un pianeta molto simile alla Terra. Dopo varie peripezie, il personaggio principale, o almeno quello che anche in questo caso crediamo lo sia, Slater, aiuta la I.A. di quel pianeta a portare a termine la sua direttiva primaria: salvare gli abitanti di quel mondo condannati dall’arrivo di una cometa che li annienterà.
Ma per far questo, l’I.A. Alfa dovrà fare i conti con l’I.A. Beta che vorrebbe smantellare l’astronave dei terrestri per apprendere i segreti dei viaggi interstellari e mettere se stessa in salvo.
Anche tra le I.A. possono nascere incomprensioni… Ecco allora che il romanzo abbandona la sua connotazione di space opera per divenire una vera e propria indagine sulla iche delle I.A.
Conclusioni
Avevo già affrontato il tema nel nº 18/2023 e anche oggi, come allora, non esprimerò un giudizio definitivo sul tema. Sono troppe le variabili in gioco e solo il futuro saprà dirci come abbiamo segnato il nostro destino sviluppando l’Intelligenza Artificiale.
Perciò mi limiterò ad autocitarmi. Quando all’inizio dell’anno tenevo la mia prima lezione di informatica, ricordavo ai miei studenti che:
“i computer sono estremamente stupidi: se non siete voi a dirgli cosa devono fare, non lo faranno mai”.
Per la mia salvezza, spero di non venir mai contraddetto.
Lunga vita e prosperitá
Giampiero Sorce
Foto di copertina generata dalla I.A. Dall-e di Bing. Foto e libri della mia collezione personale