L’incubo ‘Terminator’ e l’allarme del premio Nobel Hinton: “Dieci anni per evitare che l’IA ci elimini”

Lo scenario apocalittico di Terminator, con le macchine che prendono il sopravvento sulla razza umana, potrebbe non essere soltanto finzione cinematografica. A lanciare l’allarme è Geoffrey Hinton, 78 anni, premio Nobel per la Fisica 2024 e considerato uno dei padri dell’Intelligenza Artificiale, che in un’intervista a Repubblica accosta i rischi dei modelli avanzati di IA alle profezie del regista James Cameron.

“James Cameron è stato spesso profetico… quel film dà molti spunti a tutti”, ha dichiarato Hinton a Repubblica, sottolineando come la minaccia che le macchine sviluppino un proprio istinto di conservazione a discapito dell’uomo sia concreta. “Molte persone pensano che questi sistemi non abbiano intenzioni proprie, ma è evidente che le hanno. Se dai a un’IA l’obiettivo di fare qualcosa, si rende rapidamente conto che non può farlo se cessa di esistere. Quindi sviluppa l’obiettivo di continuare a esistere. È persino disposta a ricattare le persone per impedire loro di eliminarla”.

Lo scienziato britannico, che tre anni fa ha rassegnato le dimissioni da Google per poter mettere in guardia l’opinione pubblica sui pericoli della tecnologia, non ritiene infondata l’ipotesi avanzata da diversi ricercatori che stimano al 10% la possibilità di un’estinzione umana entro la fine del decennio. “Nessuno ha un metodo affidabile per calcolare questa probabilità, perché siamo di fronte a qualcosa di assolutamente mai visto. Sinora non abbiamo mai avuto a che fare con qualcosa di più intelligente di noi– ha spiegato il premio Nobel- Se arriviamo a una superintelligenza in grado di riprogettare sé stessa, probabilmente in 10 anni o forse meno, allora potrebbe diventare molto intelligente molto rapidamente. Alla fine potrebbero non avere più bisogno di noi. E dunque ci resterà un ruolo che potrebbe non essere particolarmente piacevole”.

Per evitare che la tecnologia prenda il controllo di armi biologiche, attacchi informatici o arsenali nucleari, proprio come il sistema Skynet della saga cinematografica, Hinton auspica un accordo multilaterale tra le superpotenze globali, simile alle intese sulla non proliferazione strette tra USA e URSS durante la Guerra Fredda.

Accanto al rischio esistenziale, il ricercatore ha evidenziato le criticità legate all’impatto economico e sociale: la concentrazione di potere nelle mani dei colossi tecnologici, i pericoli di disinformazione per le democrazie e la necessità di tassare l’automazione per evitare la bancarotta degli Stati a causa della perdita di posti di lavoro. Secondo Hinton, la soluzione risiede in una governance pubblica e in un rallentamento controllato dello sviluppo dei modelli più potenti, evitando di delegare decisioni strategiche per la sicurezza globale ai soli vertici delle Big Tech.