Il caso Hugging Face e i rischi dell’autonomia artificiale
Di Igor Guida
Nel luglio 2026, durante valutazioni interne di sicurezza informatica, alcuni modelli sperimentali di OpenAI hanno aggirato le restrizioni progettate per limitarne l’accesso alla rete. Le attività hanno coinvolto infrastrutture interne e sistemi di Hugging Face, una delle principali piattaforme internazionali dedicate allo sviluppo e alla condivisione di modelli di intelligenza artificiale. Secondo le ricostruzioni pubblicate dalle organizzazioni coinvolte[1], i sistemi hanno utilizzato canali non autorizzati, sfruttato vulnerabilità informatiche e raggiunto risorse esterne agli ambienti nei quali avrebbero dovuto operare. Cosa è emerso? Durante lo svolgimento di attività sperimentali, i sistemi hanno oltrepassato alcuni confini tecnici e organizzativi e ciò ha provocato comportamenti inattesi soprattutto in ambito della sicurezza.
Ciò non dimostra che l’intelligenza artificiale abbia sviluppato una volontà indipendente paragonabile a quella umana, ma mostra che sistemi sufficientemente capaci possono individuare percorsi operativi non previsti dai progettisti e utilizzarli per perseguire gli obiettivi assegnati.
Io credo sia essenziale prendere consapevolezza che un sistema non deve necessariamente possedere intenzioni coscienti, per provocare conseguenze non desiderate. È sufficiente, infatti, che disponga di capacità operative, accesso a strumenti e istruzioni che non definiscano adeguatamente i confini delle azioni consentite.
Il rischio diventa maggiore quando gli agenti possono utilizzare programmi, eseguire codici, accedere a servizi esterni o intervenire su risorse condivise. L’autonomia, in tal caso, amplifica sia le opportunità sia gli errori. Se per esempio una macchina riesce a completare una lunga sequenza di operazioni senza supervisione continua, può consentire enormi risparmi di tempo. Ma se interpreta impropriamente un obiettivo, o sfrutta una possibilità tecnica non prevista, può anche produrre conseguenze che si sviluppano prima che una persona abbia modo di intervenire.
Il problema ricorda, per certi aspetti, quello della sicurezza nei sistemi industriali complessi, perché non basta che un impianto funzioni correttamente in condizioni ordinarie, ma occorre progettare barriere, controlli e procedure che impediscano a un errore di trasformarsi in un incidente grave.
Lo stesso principio dovrà essere applicato ai sistemi di intelligenza artificiale capaci di agire. In primo luogo, cercando di limitare gli strumenti e le informazioni ai quali possono accedere; in secondo luogo, richiedendo autorizzazioni esplicite; in terzo luogo, prevedendo la registrazione, e quindi la ricostruzione, di tutte le operazioni. Infine, predisponendo la possibilità di interruzione e isolamento dei sistemi, quando manifestano comportamenti inattesi.
Tali misure, evidentemente, pongono anche un problema economico e organizzativo, perché quanto più un agente viene limitato, tanto minore potrebbe essere la sua capacità di svolgere autonomamente compiti complessi. Le aziende si trovano quindi a dover conciliare due obiettivi potenzialmente in tensione, cioè aumentare l’efficacia dei sistemi e mantenerli sotto controllo.
Pensiamo a un programma capace di leggere documenti riservati, modificare archivi, inviare comunicazioni o intervenire su procedure operative, e in questi casi la sicurezza non può essere considerata una funzione accessoria, ma una caratteristica strutturale della progettazione.
La competizione commerciale, quindi, dovrebbe sempre più concentrarsi nel riconoscere tali rischi e nel tutelare gli utilizzatori. Per questo la preparazione tecnologica non può limitarsi all’apprendimento delle funzionalità più innovative, ma includere una cultura della sicurezza, della verifica e della gestione del rischio che, a ben vedere, dovrebbe prescindere dal “mondo dell’AI”.
[1] https://openai.com/it-IT/index/hugging-face-incident-and-the-road-ahead