L’IA e il futuro dell’umanità

Due recenti notizie sul mondo dell’IA sollecitano una riflessione sui rischi legati allo sviluppo di sistemi sempre più potenti e autonomi. A rendere il problema ancora più difficile è il fatto che gli esseri umani sono divisi e non si fidano gli uni degli altri.

Due notizie relative al mondo dell’IA sollecitano una più ampia riflessione sulle difficoltà che l’umanità del XXI secolo sta affrontando. La prima riguarda l’annuncio fatto da OpenAI della soluzione da parte di un loro sistema interno di IA delle cosiddette equazioni di Navier-Stokes che gli umani non sono riusciti a risolvere per 90 anni. Non importa quale sia la natura di queste equazioni. Quel che rileva ai nostri fini è che, se la notizia fosse confermata (la primogenitura della dimostrazione da parte dell’AI è ancora oggetto di disputa), sarebbe la prima volta che l’IA risolve un fondamentale problema matematico che noi umani non siamo riusciti a risolvere per primi. La seconda notizia è che un ricercatore di Anthropic si è dimesso perché ritiene che lo sviluppo dell’AI abbia raggiunto livelli che possono minacciare il futuro dell’umanità. Infatti, spinti dalla brama di avere modelli di IA sempre più potenti, abbiamo insegnato all’AI ad automigliorarsi, ossia a scrivere i propri codici. Il che, almeno in via di principio, potrebbe portare le macchine a prendere decisioni autonome seguendo proprie priorità, comprese decisioni che potrebbero portare, al limite, all’estinzione dell’umanità.

Insomma, mettendo le due notizie insieme, stiamo dando autonomia di pensiero e azione a macchine che già ora sono più intelligenti non solo della maggior parte degli umani (già questo si sapeva), ma anche dei più intelligenti rappresentanti della nostra specie.

Perché non ci fermiamo? Perché, visto il pericolo (un altro ricercatore di Anthropic ritiene che la probabilità che nel prossimo decennio l’AI possa distruggere l’umanità sia superiore al 10%), non vietiamo per esempio le varie forme di automiglioramento dei modelli AI?

Un’azione in questo senso richiede di superare un problema che attanaglia l’umanità da sempre: gli umani sono divisi e non si fidano gli uni degli altri. Per essere concreti, se, per esempio, gli Stati Uniti proibissero l’automiglioramento dell’IA alle proprie imprese, si esporrebbero al rischio di rimanere indietro, rispetto a quelle cinesi, nella corsa tecnologica.  

Problemi di questo genere non sono certo nuovi. Negli anni ’40 e ’50 diversi scienziati nucleari rinunciarono alla propria attività di ricerca nella consapevolezza che questa stava portando alla creazione di armamenti troppo potenti. Ma questo non evitò il passaggio dalle bombe atomiche a quelle termonucleari, migliaia di volte più distruttive, perché “se non lo facciamo noi, lo faranno i sovietici”. In qualche modo, la nostra divisione in nazioni e interessi sovrani rende anche difficile la soluzione del problema del riscaldamento globale: se l’Europa conta solo per l’8% delle emissioni di CO2, perché dovremmo affrontare gli investimenti necessari per decarbonizzarci, se gli altri non lo fanno?

Questo nostro frazionamento e mancanza di fiducia può essere superato solo attraverso la creazione di un ordine internazionale basato su regole comuni. Ci eravamo avviati in quella direzione dopo la Prima guerra mondiale (Società delle Nazioni) e la seconda (Nazioni Unite), ma il multilateralismo sta declinando. Ci penseranno forse le macchine a creare un mondo di pace e collaborazione internazionale. Ma noi non ci saremo. Come scrisse un tempo Francesco Guccini.

P.S. Orsù, non deprimetevi troppo. Forse c’è ancora tempo… Forse…