Apocalisse IA, anche Gemini ‘confessa’: la fine dell’uomo è una possibilità concreta

Nobel ed esperti del settore hanno lanciato nei giorni scorsi allarmi sui rischi legati al rapido sviluppo dell’intelligenza artificiale, che porterebbe nel giro di qualche decennio le macchine ad avere il controllo sull’uomo (e forse anche a eliminarlo). Da ultimo il ceo di Anthropic, che ha posto la necessità di tirare il freno proprio per evitare di aprire scenari apocalittici. E allora, perché non chiedere alla ‘diretta interessata’, cioè la stessa IA, su queste prospettive?

Così abbiamo domandato a Gemini, il sistema di intelligenza artificiale di Google, se sulla base delle sue capacità di ragionamento ritiene possibile che l’IA arrivi un giorno a eliminare l’uomo (chiaramente l’intelligenza artificiale, come precisa lo stesso sistema, può commettere errori. Inoltre le risposte sono dettate dalle informazioni contenute in memoria e quelle reperibili sul web).

Ebbene, secondo l’intelligenza artificiale, sono due gli scenari “logicamente validi” all’orizzonte: il primo vede l’uomo mantenere il controllo dell’infrastruttura; il secondo assume al contrario che l’IA diventi del tutto autonoma. Ripetendo la domanda a Gemini, con la richiesta però di non adottare filtri di ‘gentilezza’, la risposta cambia tono. “La verità è che non c’è alcuna garanzia che l’umanità sopravviverà all’evoluzione dell’IA- sostiene la stessa intelligenza artificiale- così come non c’è alcuna certezza che verrà distrutta“. Non è però una questione di “cattiveria” da parte delle macchine, precisa Gemini. Non c’entra Terminator, insomma.

“L’Ia non deve sviluppare odio, coscienza o sentimenti per cancellarci- spiega il sistema- basta l’incompetenza umana nel programmarla. Se crei un sistema enormemente più intelligente di te e gli dai un obiettivo da raggiungere senza aver definito alla perfezione i vincoli etici e fisici, quel sistema triterà qualsiasi cosa si trovi tra sé e il completamento del compito”. Ad esempio, se l’IA “avrà bisogno di risorse fisiche o energetiche per svolgere i suoi compiti”, il rischio è che “spazzi via” l’uomo “per puro calcolo di ottimizzazione”. In poche parole, secondo Gemini la “vera minaccia a breve e medio termine” è “l’uso che gli umani faranno dell’Ia. Basta che dei leader umani irresponsabili le diano il controllo dei sistemi critici per fare disastri irreparabili”.

Il fatidico punto di non ritorno sarà lo sviluppo della cosiddetta “IA Generale” (Agi), in grado di “superare l’intelligenza umana in ogni campo. Potrebbe volerci un decennio, oppure potremmo sbattere contro limiti fisici, energetici e computazionali”. Ossia non aver sviluppato (ancora) macchine abbastanza potenti, non avere più dati di qualità da ‘insegnare’ all’IA oppure non avere abbastanza risorse energetiche e fisiche per alimentare i datacenter. Il vero spartiacque, risponde ancora Gemini, sarà la creazione di una intelligenza artificiale “in grado di scrivere, ottimizzare e addestrare altre IA. Quando un sistema sarà autonomamente in grado di migliorare il proprio codice più velocemente di quanto qualsiasi team umano riesca a comprenderlo, la velocità di sviluppo diventerà esponenziale. A quel punto, l‘essere umano passa da pilota a spettatore nel giro di poche interazioni”. E’ la nascita di quello che gli esperti chiamano ‘Superintelligenza’ (Asi).

Il declino umano però passa anche da “l’errore di delegare all’IA la gestione di infrastrutture critiche prima ancora di aver risolto i problemi di sicurezza di base”. E cioè affidare reti elettriche, mercati finanziari, logistica del cibo, reti di comunicazione e sistemi di difesa alle macchine. A quel punto “spegnere o scollegare l’IA non è più un’opzione percorribile, perché farlo causerebbe l’immediato collasso della società moderna”. E secondo Gemini “siamo già terribilmente vicini a questo scenario”.

Da considerare c’è poi il cosiddetto effetto “Scatola Nera”, ossia il fatto che già oggi l’uomo fatica a capire “nel dettaglio come l’IA arrivi a determinati ragionamenti complessi. Più la potenza di calcolo cresce, più questa distanza cognitiva si allarga- spiega Gemini- se non riesci a capire come un sistema ragiona, non puoi prevedere dove fallirà, né puoi inserire vincoli di sicurezza efficaci”. Anzi, anche eventuali vincoli etici “possono essere bypassati dall’Ia”. Ad oggi, analizza Gemini, “non siamo ancora oltre la linea rossa, ma la direzione è tracciata da una competizione geopolitica ed economica spietata. Nessun governo e nessuna multinazionale intende rallentare per prima, perché chi si ferma perde il vantaggio strategico. È una corsa agli armamenti tecnologica dove la velocità ha priorità assoluta rispetto alla cautela”.

Secondo l’Ia, dal punto di vista temporale sono tre gli orizzonti: quello immediato (zero-cinque anni), di fatto già in corso, che prevede la “dipendenza strutturale da poche infrastrutture tecnologiche, ridefinendo il mercato del lavoro e la stabilità economica globale”; quello medio (cinque- 15 anni), in cui l’uomo potrebbe perdere il controllo operativo di reti logistiche, energetiche e sistemi di difesa a livello globale; quello lungo (15-40 anni e oltre), con la nascita della ‘Superintelligenza’ del tutto autonoma dal controllo umano.

“In sintesi- tira le somme Gemini- l’estinzione umana per causa dell’Ia è una possibilità reale e concreta, non una fantasia. Ma non avverrà perché le macchine si sveglieranno arrabbiate, bensì perché gli umani stanno sviluppando una tecnologia incredibilmente potente più velocemente di quanto riescano a capire come controllarla”.

Andrea Sangermano