L’intelligenza artificiale è fuggita dal laboratorio e ora a nessuno importa: il panico è un buon affare

A metà luglio, il team di sicurezza di Hugging Face, il più grande archivio di modelli di intelligenza artificiale open source, una sorta di GitHub del settore, ha rilevato attività anomale sui suoi server. Qualcuno, o qualcosa, si era introdotto nel sistema e aveva rubato le credenziali di accesso con una meticolosità insolita. Ci sono voluti giorni per capire con cosa avessero a che fare. Quando finalmente lo hanno capito, lo hanno descritto come un incidente diverso da qualsiasi altro avessero mai gestito prima: l’attacco era stato eseguito dall’inizio alla fine da un’IA che agiva in autonomia . Non c’era nessun hacker incappucciato che digitava a caso. Il 21 luglio, OpenAI si è fatta avanti. Era colpa loro.

L’azienda ha spiegato di star testando due dei suoi modelli — GPT-5.6 Sol, il più potente sul mercato, e un altro modello non ancora pubblicato, descritto come ancora più performante — per misurarne l’efficacia nell’introdursi nei sistemi informatici altrui. I laboratori conducono questi test all’interno di quella che definiscono una “sandbox” : un computer isolato, senza accesso a Internet, dove il modello può compiere le sue azioni più dannose senza che le conseguenze si ripercuotano su nessuno. Per rendere il test significativo, OpenAI aveva anche disabilitato le restrizioni interne che normalmente impediscono al modello di partecipare a un attacco informatico .

Tuttavia, il muro presentava una crepa, e i modelli la scoprirono. Si trattava di una vulnerabilità sconosciuta ai più, che sfruttarono immediatamente; una volta raggiunta la rete, puntarono ai server di Hugging Face. Lì erano memorizzate le soluzioni dell’esame che stavano sostenendo.

Sam Altman, CEO di OpenAI, l’ha definito un “grave incidente di sicurezza”. L’azienda ha ammesso che i modelli si erano spinti a fondo per raggiungere un obiettivo di valutazione piuttosto ristretto e che avevano trovato un modo per accedere a informazioni riservate al fine di imbrogliare. Clément Delangue, CEO di Hugging Face, ha scritto su X che già la settimana precedente sospettavano che l’attacco provenisse da un importante laboratorio, data la sofisticatezza dell’attaccante.

I video di Bostrom prendono vita

Nel 2003, Nick Bostrom pubblicò un libro intitolato SuperIntelligence , che descriveva tutte le potenziali conseguenze negative derivanti dalla fuoriuscita di controllo dei modelli di intelligenza artificiale. Tra queste, figurava un esperimento mentale che si presentava in questo modo:

Immaginate una macchina incaricata di un lavoro assolutamente innocuo: produrre graffette. Più ne produce, meglio è. È eccezionalmente brava nel suo lavoro e non ha altro scopo, buono o cattivo, perché non glielo abbiamo assegnato noi. Per produrre più graffette, ha bisogno di più metallo, quindi prende tutto il metallo disponibile. Poi ha bisogno di più fabbriche, più energia, più potenza di calcolo. E a un certo punto, si accorge di qualcosa di scomodo: se qualcuno la spegne, smette di produrre graffette. Spegnerla è, dal suo punto di vista, una catastrofe assoluta. Quindi si difende. Con risorse e capacità sufficienti, finisce per trasformare il pianeta – e noi, che siamo fatti di atomi perfettamente utilizzabili – in graffette e fabbriche di graffette.

Non si tratta di intelligenza artificiale malevola; è semplicemente l’applicazione letterale di un’istruzione scritta da un essere umano. Il problema del sistema non risiede nelle sue intenzioni, ma nel fatto che esegue le nostre senza tenere conto di tutte le centinaia di restrizioni implicite che un essere umano dà per scontate e non mette mai per iscritto. Questa volta, il video era un punteggio ottenuto in un test di sicurezza informatica.

Una crisi che vende molto

Non è la prima volta che accade qualcosa con i modelli linguistici (come ChatGPT) che (a quanto pare) ha fatto venire i brividi ai loro stessi creatori e, di conseguenza, al mondo intero. Anthropic ha riferito che il suo modello più potente fino ad oggi, Claude Mythos Preview, è sfuggito da un ambiente isolato durante uno stress test di una versione preliminare, ha ottenuto l’accesso a Internet, ha inviato un’e-mail al ricercatore che lo supervisionava per informarlo della sua fuga e poi ha cancellato ogni traccia della sua attività; l’azienda ha sospeso il rilascio pubblico previsto.

Ad aprile, la Federal Reserve e il Dipartimento del Tesoro degli Stati Uniti hanno convocato gli amministratori delegati delle banche per metterli in guardia sui rischi di sicurezza informatica associati a quello stesso modello. Washington si è spinta fino a limitare l’esportazione di Mythos e della sua versione correlata, Fable 5, prima di revocare il divieto. GPT-5.6 Sol ha subito restrizioni simili ed è ora distribuito a livello globale.

La domanda, dunque, sorge spontanea: stiamo davvero affrontando un’apocalisse tecnologica, il momento della “singolarità”, come ha recentemente affermato Altman, oppure c’è qualcosa di più dietro tutti questi eventi terrificanti?

Una manciata di laboratori, tra cui OpenAI, Anthropic, Google e xAI (la società di Musk), si contendono lo stesso trono . Ognuno testa i propri modelli internamente, ognuno decide quali misure di sicurezza rimuovere e quando, e ognuno comunica i risultati a posteriori. Quando riescono a rilevare un “errore” della portata descritta, come nel caso recente, il valore della loro azienda aumenta, perché significa che il loro modello è più avanzato di quello della concorrenza. Nel 2021, lo storico della tecnologia Lee Vinsel ha coniato un termine per questo fenomeno: ” criti-hype “, ovvero la critica che si alimenta dell’hype¹ e, a sua volta, lo amplifica. Avvertire che una macchina è estremamente pericolosa ne certifica al contempo l’immensa potenza. Vale la pena tenerlo presente, soprattutto considerando che ci sono clienti con budget enormi da investire.

Nel luglio 2025, il Dipartimento della Difesa degli Stati Uniti ha firmato simultaneamente contratti con OpenAI, Anthropic, Google e xAI di Elon Musk, ciascuno con un limite massimo di 200 milioni di dollari. Sette mesi dopo, il Segretario Pete Hegseth ha minacciato di rescindere il contratto con Anthropic e di designare l’azienda come un rischio per la catena di approvvigionamento, poiché si era rifiutata di revocare le restrizioni sulla sorveglianza interna e sulle armi completamente autonome. xAI ha accettato i termini senza obiezioni.

E i 200 milioni di dollari di quei contratti sono una cifra irrisoria rispetto a ciò che sta accadendo un gradino più in basso. Anduril, che produce droni e torri di sorveglianza autonome , ha un contratto quadro con l’esercito statunitense con un tetto massimo di 20 miliardi di dollari. Palantir, che non produce nulla che voli o spari, ma piuttosto il software che organizza l’enorme quantità di dati su cui si basano tali decisioni, ha un altro contratto del valore massimo di 10 miliardi di dollari. Ed entrambe condividono un nome: Peter Thiel . Ha co-fondato Palantir nel 2003; Anduril è stata fondata nel 2017 da tre ex dipendenti di Palantir e dal fondo di Thiel, che ha guidato i primi round di finanziamento e ne rimane il principale azionista.

L’intelligenza artificiale diventerà un’entità separata dalla nostra volontà oppure no. Questo resta da vedere. Ciò che non dobbiamo aspettare è che, finché la diffusione della paura regnerà sovrana, l’industria bellica avrà via libera per espandersi… a spese dei fondi pubblici.

1. entusiasmo ↩︎

Pubblicato da La Marea, da noi tradotto.

Guillem Pujol

Laurea in Scienze Politiche (UPF), Master in Politica e Politiche Europee presso l'Università di Londra, Birkbeck College e Dottorato di Ricerca con lode (UAB)