Nobel ed esperti del settore hanno lanciato nei giorni scorsi allarmi sui rischi legati al rapido sviluppo dell\u2019intelligenza artificiale, che porterebbe nel giro di qualche decennio le macchine ad avere il controllo sull\u2019uomo (e forse anche a eliminarlo). Da ultimo il ceo di Anthropic, che ha posto la necessit\u00e0 di tirare il freno proprio per evitare di aprire scenari apocalittici. E allora, perch\u00e9 non chiedere alla \u2018diretta interessata\u2019, cio\u00e8 la stessa IA, su queste prospettive?<\/p>\n\n\n\n
Cos\u00ec abbiamo domandato a Gemini, il sistema di intelligenza artificiale di Google, se sulla base delle sue capacit\u00e0 di ragionamento ritiene possibile che l\u2019IA arrivi un giorno a eliminare l\u2019uomo (chiaramente l\u2019intelligenza artificiale, come precisa lo stesso sistema, pu\u00f2 commettere errori. Inoltre le risposte sono dettate dalle informazioni contenute in memoria e quelle reperibili sul web).<\/p>\n\n\n\n
Ebbene, secondo l\u2019intelligenza artificiale, sono due gli scenari \u201clogicamente validi\u201d all\u2019orizzonte: il primo vede l\u2019uomo mantenere il controllo dell\u2019infrastruttura; il secondo assume al contrario che l\u2019IA diventi del tutto autonoma. Ripetendo la domanda a Gemini, con la richiesta per\u00f2 di non adottare filtri di \u2018gentilezza\u2019, la risposta cambia tono. \u201cLa verit\u00e0 \u00e8 che non c\u2019\u00e8 alcuna garanzia che l\u2019umanit\u00e0 sopravviver\u00e0 all\u2019evoluzione dell\u2019IA- sostiene la stessa intelligenza artificiale- cos\u00ec come non c\u2019\u00e8 alcuna certezza che verr\u00e0 distrutta\u201c. Non \u00e8 per\u00f2 una questione di \u201ccattiveria\u201d da parte delle macchine, precisa Gemini. Non c\u2019entra Terminator, insomma.<\/p>\n\n\n\n
\u201cL\u2019Ia non deve sviluppare odio, coscienza o sentimenti per cancellarci- spiega il sistema- basta l\u2019incompetenza umana nel programmarla. Se crei un sistema enormemente pi\u00f9 intelligente di te e gli dai un obiettivo da raggiungere senza aver definito alla perfezione i vincoli etici e fisici, quel sistema triter\u00e0 qualsiasi cosa si trovi tra s\u00e9 e il completamento del compito\u201d. Ad esempio, se l\u2019IA \u201cavr\u00e0 bisogno di risorse fisiche o energetiche per svolgere i suoi compiti\u201d, il rischio \u00e8 che \u201cspazzi via\u201d l\u2019uomo \u201cper puro calcolo di ottimizzazione\u201d. In poche parole, secondo Gemini la \u201cvera minaccia a breve e medio termine\u201d \u00e8 \u201cl\u2019uso che gli umani faranno dell\u2019Ia. Basta che dei leader umani irresponsabili le diano il controllo dei sistemi critici per fare disastri irreparabili\u201d.<\/p>\n\n\n\n
Il fatidico punto di non ritorno sar\u00e0 lo sviluppo della cosiddetta \u201cIA Generale\u201d (Agi), in grado di \u201csuperare l\u2019intelligenza umana in ogni campo. Potrebbe volerci un decennio, oppure potremmo sbattere contro limiti fisici, energetici e computazionali\u201d. Ossia non aver sviluppato (ancora) macchine abbastanza potenti, non avere pi\u00f9 dati di qualit\u00e0 da \u2018insegnare\u2019 all\u2019IA oppure non avere abbastanza risorse energetiche e fisiche per alimentare i datacenter. Il vero spartiacque, risponde ancora Gemini, sar\u00e0 la creazione di una intelligenza artificiale \u201cin grado di scrivere, ottimizzare e addestrare altre IA. Quando un sistema sar\u00e0 autonomamente in grado di migliorare il proprio codice pi\u00f9 velocemente di quanto qualsiasi team umano riesca a comprenderlo, la velocit\u00e0 di sviluppo diventer\u00e0 esponenziale. A quel punto, l\u2018essere umano passa da pilota a spettatore nel giro di poche interazioni\u201d. E\u2019 la nascita di quello che gli esperti chiamano \u2018Superintelligenza\u2019 (Asi).<\/p>\n\n\n\n
Il declino umano per\u00f2 passa anche da \u201cl\u2019errore di delegare all\u2019IA la gestione di infrastrutture critiche prima ancora di aver risolto i problemi di sicurezza di base\u201d. E cio\u00e8 affidare reti elettriche, mercati finanziari, logistica del cibo, reti di comunicazione e sistemi di difesa alle macchine. A quel punto \u201cspegnere o scollegare l\u2019IA non \u00e8 pi\u00f9 un\u2019opzione percorribile, perch\u00e9 farlo causerebbe l\u2019immediato collasso della societ\u00e0 moderna\u201d. E secondo Gemini \u201csiamo gi\u00e0 terribilmente vicini a questo scenario\u201d.<\/p>\n\n\n\n
Da considerare c\u2019\u00e8 poi il cosiddetto effetto \u201cScatola Nera\u201d, ossia il fatto che gi\u00e0 oggi l\u2019uomo fatica a capire \u201cnel dettaglio come l\u2019IA arrivi a determinati ragionamenti complessi. Pi\u00f9 la potenza di calcolo cresce, pi\u00f9 questa distanza cognitiva si allarga- spiega Gemini- se non riesci a capire come un sistema ragiona, non puoi prevedere dove fallir\u00e0, n\u00e9 puoi inserire vincoli di sicurezza efficaci\u201d. Anzi, anche eventuali vincoli etici \u201cpossono essere bypassati dall\u2019Ia\u201d. Ad oggi, analizza Gemini, \u201cnon siamo ancora oltre la linea rossa, ma la direzione \u00e8 tracciata da una competizione geopolitica ed economica spietata. Nessun governo e nessuna multinazionale intende rallentare per prima, perch\u00e9 chi si ferma perde il vantaggio strategico. \u00c8 una corsa agli armamenti tecnologica dove la velocit\u00e0 ha priorit\u00e0 assoluta rispetto alla cautela\u201d.<\/p>\n\n\n\n
Secondo l\u2019Ia, dal punto di vista temporale sono tre gli orizzonti: quello immediato (zero-cinque anni), di fatto gi\u00e0 in corso, che prevede la \u201cdipendenza strutturale da poche infrastrutture tecnologiche, ridefinendo il mercato del lavoro e la stabilit\u00e0 economica globale\u201d; quello medio (cinque- 15 anni), in cui l\u2019uomo potrebbe perdere il controllo operativo di reti logistiche, energetiche e sistemi di difesa a livello globale; quello lungo (15-40 anni e oltre), con la nascita della \u2018Superintelligenza\u2019 del tutto autonoma dal controllo umano.<\/p>\n\n\n\n
\u201cIn sintesi- tira le somme Gemini- l\u2019estinzione umana per causa dell\u2019Ia \u00e8 una possibilit\u00e0 reale e concreta, non una fantasia. Ma non avverr\u00e0 perch\u00e9 le macchine si sveglieranno arrabbiate, bens\u00ec perch\u00e9 gli umani stanno sviluppando una tecnologia incredibilmente potente pi\u00f9 velocemente di quanto riescano a capire come controllarla\u201d.<\/p>\n\n\n\n
Andrea Sangermano<\/p>\n","protected":false},"excerpt":{"rendered":"
Nobel ed esperti del settore hanno lanciato nei giorni scorsi allarmi sui rischi legati al rapido sviluppo dell\u2019intelligenza artificiale, che porterebbe nel giro di qualche decennio le macchine ad avere il controllo sull\u2019uomo (e forse anche a eliminarlo). Da ultimo il ceo di Anthropic, che ha posto la necessit\u00e0 di tirare il freno proprio per […]<\/p>\n","protected":false},"author":1,"featured_media":1000034758,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"content-type":"","advanced_seo_description":"","jetpack_seo_html_title":"","jetpack_seo_noindex":false,"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[272],"tags":[273],"class_list":["post-1000034757","post","type-post","status-publish","format-standard","has-post-thumbnail","category-tecnologia","tag-tecnologia"],"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/gazzettinoitalianopatagonico.com\/wp-content\/uploads\/2026\/09\/ztrre.jpg?fit=1024%2C582&ssl=1","jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"jetpack-related-posts":[],"_links":{"self":[{"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=\/wp\/v2\/posts\/1000034757","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1000034757"}],"version-history":[{"count":1,"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=\/wp\/v2\/posts\/1000034757\/revisions"}],"predecessor-version":[{"id":1000034759,"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=\/wp\/v2\/posts\/1000034757\/revisions\/1000034759"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=\/wp\/v2\/media\/1000034758"}],"wp:attachment":[{"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1000034757"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1000034757"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/gazzettinoitalianopatagonico.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1000034757"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}