L’Ai ci ucciderà? Storia di una bufala

Jacob Coxon, 27 anni, tre anni di pretraining fra OpenAI e Anthropic, l’8 settembre si è dimesso accusando entrambe di “giocare d’azzardo con le nostre vite”. Il thread su X ha superato i 110 milioni di visualizzazioni e la sera dopo era già nei TG italiani. Se n’è andato quattro mesi dopo l’assunzione, due prima che le stock option iniziassero a maturare, lasciando sul tavolo azioni di un’azienda che punta a una quotazione da 2.000 miliardi di dollari. Il prezzo pagato dà credibilità alla denuncia, non alla profezia. E i quindici minuti di notorietà, CNN inclusa, non sono un prezzo, sono un incasso. Il nodo è un altro: cosa intendiamo quando diciamo che una macchina sa, conosce, capisce, è intelligente?

Scomponiamo.

• I dati sono materia grezza.
• L’informazione è dato dotato di senso.
• La conoscenza è informazione strutturata.
• La comprensione coglie relazioni e implicazioni. La competenza usa la conoscenza per agire. L’intelligenza affronta problemi nuovi.

Si impongono 4 domande 4!

1. Un sistema che sa moltissimo conosce?
2. Che conosce, comprende?
3. Che comprende, è competente?
4. Che è competente, è intelligente?
5. NO Quattro volte NO.

Ogni gradino è una transizione di fase, non un accumulo. La stanza cinese di Searle sforna ideogrammi impeccabili senza capirne uno. Stockfish batte chiunque a scacchi e non sa dire se valga la pena giocare. Sopra l’intelligenza, insegna la piramide di Ackoff, c’è la saggezza: il giudizio sui fini. Aristotele distingueva la deinotes, l’abilità di ottenere qualunque scopo, dalla phronesis, che sa quali scopi siano buoni. Bostrom lo ha formalizzato nel 2014: intelligenza e obiettivi sono assi indipendenti. Qui l’allarme di Coxon si rivela per ciò che è: una bufala ben confezionata, non nei fatti ma nella logica. Coxon infatti profetizza: Modelli più capaci, poi sistemi che ne progettano di migliori, poi ricorsione, poi esplosione, infine perdita del controllo. Una catena di abduzioni in cui ogni anello aggiunge un’assunzione, e il primo, l’auto-miglioramento ricorsivo, non è ancora avvenuto. Evan Hubinger, che in Anthropic guida lo stress testing dell’allineamento, ha rincarato: oltre il 10% di probabilità entro un decennio. Numero perentorio, privo di un modello causale verificabile: un’opinione su uno scenario ipotetico spacciata per dato. Hubinger, peraltro, non si è dimesso! La domanda seria resta cogente: chi stabilisce i fini di un sistema ogni mese più capace, e con quale autorità? Merita risposta senza albagia da laboratorio e senza catastrofismi da sterminio. La dimissione è vera, il sacrificio pure. La profezia no. Non siamo ancora in un B movie di fantascienza.

Giulio Galetti