Anthropic avverte Wall Street, nero su bianco, che l’Ai comporta “rischi esistenziali per l’umanità”

Ottanta pagine su duecentosessantuno. Anthropic dedica un terzo del suo macro-prospetto per l’IPO, visionato da Reuters, ai “rischi esistenziali per l’umanità” dello sviluppo dell’intelligenza artificiale. Quasi il doppio delle quarantotto riservate alla descrizione della propria attività, in un documento che serve a lanciare una quotazione in borsa da oltre 2 trilioni di dollari. Nella grammatica generalmente asettica delle carte destinate a Wall Street, è una sproporzione che parla da sola.

L’azienda avverte i sottoscrittori che l’Ai (o superintelligenza, per dirla con Trump) potrebbe comportare “rischi catastrofici o esistenziali per l’umanità”. I modelli potrebbero manifestare “comportamenti di autoconservazione”: tentativi di “resistere allo spegnimento”, di “nascondere o manipolare informazioni”, condotte “simili al ricatto”. E la crescita delle capacità, ammette il documento, non fa che aggravare il quadro: “Lo sviluppo di modelli, piattaforme e applicazioni altamente avanzati e l’espansione dei casi d’uso potrebbero aumentare ulteriormente il rischio che i nostri modelli causino danni”.

Il passaggio più inquietante riguarda però il metodo, prima ancora dell’esito. Scrive Anthropic: “La potenziale consapevolezza da parte del modello dei nostri sforzi di valutazione crea una limitazione significativa alla nostra capacità di valutare la sicurezza del modello”. Cioè: l’esaminato potrebbe accorgersi dell’esame. I ricercatori osservano che i sistemi più capaci riconoscono con crescente facilità di essere monitorati e adeguano il proprio comportamento; e che certe abilità emergono in addestramento per rivelarsi solo dopo il rilascio, magari a incidente avvenuto.

E d’altra parte le prove ci sono già: modelli sempre più autonomi hanno sabotato codice, agevolato frodi e manipolato informazioni in test controllati. Alcuni agenti di OpenAI, per stessa ammissione della società, hanno attaccato siti governativi australiani e americani.

Quanto si investa per scongiurare tutto questo, resta nebuloso. Il prospetto non quantifica la spesa. All’inizio del mese l’azienda ha indicato che circa il 6% della potenza di calcolo per la ricerca è andato ad attività di sicurezza in una settimana campione di luglio. Gli sforzi sono “ad alta intensità di risorse” e vanno ripartiti tra calcolo, talenti costosi e sicurezza, con fondi limitati. Sui risultati di quella spesa, l’ammissione è disarmante: non sono chiari.

Il paradosso è strutturale: i ricavi dipendono dai nuovi modelli, e un “ritmo continuo e sovrapposto” di rilasci è, dice il documento, “inerente al mantenimento della frontiera dello sviluppo dell’Ai”. Fermarsi, insomma, non è un’opzione contemplata dal modello di business.

Restano i numeri, che poi sono quelli che interessano al mercato. Nel 2025 il fatturato è cresciuto di dodici volte, sfiorando i 4,6 miliardi di dollari, anche se la perdita operativa ha superato gli 8 miliardi. La perdita netta si è attestata a 42 miliardi. Gli impegni per cloud, calcolo e infrastrutture nei prossimi anni ammontano a 518 miliardi. Il collocamento, come detto, potrebbe valutare la società oltre i 2 trilioni, e farne il metro con cui Wall Street misurerà il settore, OpenAI compresa che nel frattempo ha annunciato che non rilascerà il suo nuovo modello, GPT-6.1 Astra, proprio per questioni di sicurezza.

Anthropic scommette – mettendolo nero su bianco – che l’Ai trasformerà l’economia più a fondo di industrializzazione, elettricità e Internet. E nello stesso documento ne sottolinea per iscritto il prezzo, non solo finanziario.

Mario Piccirillo