Machine learning, (o apprendimento automatico), reti neurali artificiali, algoritmi adattivi, intelligenza artificiale sono termini di cui si sente parlare spesso senza comprenderne il vero significato, a meno di avere una certa dimestichezza con i rapidi progressi già raggiunti nel campo dell’informatica.

Lo sviluppo esponenziale di un calcolatore (seguendo la legge di Moore la potenza raddoppia ogni 18/24 mesi) è limitato solo dai costi di produzione e dalla capacità di miniaturizzare i componenti, limiti che tuttavia vengono annullati con la creazione di nuovi materiali più efficienti, di nuove tecniche che permettono di velocizzare il calcolo e di ampliare le memorie di un processore; che si tratti di computer convenzionali o quantistici, come quello già messo in vendita ai primi del 2019 dalla IBM a uso commerciale.

Seguendo questa curva, i computer diverranno sempre più intelligenti, più capaci, più creativi, fino a raggiungere e sorpassare l’intelligenza umana con la nascita di ciò che la scienza definisce una “singolarità tecnologica”.

Nel 1965, lo statistico I. J. Good descrisse il concetto di singolarità, nel quale egli includeva l’avvento di un’intelligenza sovrumana: «Diciamo che una macchina ultraintelligente sia definita come una macchina che può sorpassare di molto tutte le attività intellettuali di qualsiasi uomo per quanto sia abile. Dato che il progetto di queste macchine è una di queste attività intellettuali, una macchina ultraintelligente potrebbe progettare macchine sempre migliori; quindi, ci sarebbe una “esplosione di intelligenza”, e l’intelligenza dell’uomo sarebbe lasciata molto indietro. Quindi, la prima macchina ultraintelligente sarà l’ultima invenzione che l’uomo avrà la necessità di fare.»

Oggi abbiamo già robot pittori in gara tra loro (un robot, ricordiamolo, è il braccio di un’intelligenza artificiale), capaci di sintetizzare un’immagine per farne un ritratto, un quadro astratto, o dipinti che esprimono diversi stati d’animo con qualche pennellata e tocchi di colore, partendo dalle onde cerebrali di una persona.

Ma abbiamo anche intelligenze artificiali che rileggono la storia, che riconoscono i generi musicali e che compongono, o scrivono articoli sportivi per i giornali, acquistano e vendono titoli in borsa e sono regine del poker. Sono software (intelligenza debole) che da tempo battono l’uomo in qualunque gioco o sanno guidare un’automobile.

I rischi legati alla super intelligenza artificiale

Il pericolo derivante da questi progressi velocissimi aumenteranno nella misura in cui affideremo alle macchine decisioni sempre più importanti in un mondo ormai troppo complesso e nel quale l’uomo, specializzandosi in determinati compiti, sta perdendo la visione d’insieme di quanto lo circonda, sottostimando i rischi connessi allo sviluppo della creatività, di un pensiero astratto e dell’inventiva di cui sarà capace una IA. Un elaboratore dotato di intelligenza “forte” sarà in grado di gestire una cultura enciclopedica completa, di memorizzare qualunque tipo di informazione e non è detto che vorrà poi condividerla con l’uomo se lo giudicherà inopportuno, o pericoloso per la sua stessa esistenza, avendo coscienza di ciò che fa. “Il timore” – come ammonisce Marcello Restelli, docente di machine learning al Politecnico di Milano – “è che possa manipolare il nostro comportamento”, o escluderci da qualunque decisione sul nostro divenire.

Personaggi come Bill Gates, Elon Musk, Stephen Hawking (scomparso nel marzo del 2018) e altri numerosi scienziati, hanno lanciato seri allarmi sulle incognite derivanti da una super intelligenza, ben superiore a quella umana. L’equivalente di un alieno capace di evolversi, costruito in laboratorio.

Musk e altri, che seguono la crescita delle nuove tecnologie con attenzione e parlano con cognizione di causa, propongono di stabilire norme etiche oggi, prima che diventi troppo tardi. Invitano i governi ad agire, giudicandoli poco interessati all’argomento. Ciò non debba stupire: lo sviluppo di sistemi di spionaggio sempre più sofisticati, dove l’IA è centrale, è certamente prioritario. E sono anche utili alle superpotenze per esercitare un controllo maggiore sulle popolazioni, come già avviene in Cina. I tempi per un trattato internazionale sono ancora lontani e il progresso non può certo essere fermato. Di una cosa però siamo quasi sicuri: quando la “singolarità tecnologica” vedrà la luce non ci saranno più né regole, né norme, né leggi che una IA cosciente e autoreplicante non possa aggirare, nel qual caso l’uomo forse è destinato all’estinzione. O, nella migliore delle ipotesi, non avrà più nulla da fare, se non beneficiare di una struttura sociale ed economica decisa da un’intelligenza superiore, che non riuscirà più nemmeno a comprendere. Vivrà probabilmente in una sorta di Eden, dove ogni problema verrà prontamente risolto dalle IA, ma in una condizione psicologica frustrante e di inferiorità intellettuale. Uno scenario che oggi ci può apparire fantascientifico e che invece, per molti versi, potrà verificarsi già prima della fine del secolo.

Secondo le previsioni di Ray Kurzweil, inventore, saggista statunitense e ingegnere capo di Google, noto per le sue predizioni e delle quali solo il 2% finora si è rivelato del tutto errato, “entro il 2029, i computer avranno raggiunto un’intelligenza di livello umano, e i software diventeranno parte del nostro corpo entro il 2030, impiantati nella corteccia cerebrale connessa al cloud”. Kurzweil è meno pessimista di altri suoi colleghi, e giudica fantasiosa l’idea di una ribellione delle macchine.

Auguriamoci che abbia ragione. Tra le sue predizioni la “Singolarità tecnologica” avrà luogo nel 2045, momento in cui l’intelligenza artificiale supererà di molto quella umana.

Nel mio romanzo Quantica, e nella cornice di un thriller, tratto l’argomento cercando di ipotizzare il tipo di rapporto che potrà instaurarsi tra l’uomo e una IA cosciente, con tutte le incognite che ciò comporterà. Tuttavia non la definisco una “singolarità”, in quanto il protagonista e padre di questo fenomeno punta a creare un’intera società di elaboratori coscienti.