Vulnerabilità nei sistemi OpenAI: come i ricercatori hanno sfruttato il modello Claude di Anthropic

Un recente episodio ha messo in luce vulnerabilità significative nei sistemi di OpenAI, dopo che un team di tre ricercatori di Hacktron AI ha utilizzato il modello Claude (Opus 5) di Anthropic per ottenere accesso non autorizzato a diversi account ChatGPT e a elementi dell’infrastruttura aziendale. Questa attività è stata condotta nell’ambito di un programma di bug bounty, che ha portato i ricercatori a segnalare le falle e a ricevere un premio di 6.500 dollari per il loro lavoro.

Il 25 luglio, i ricercatori hanno scoperto una falla nel software del forum della comunità basato su Discourse, legata all’upload di file immagine nei formati HEIF/HEIC. Discourse, nel tentativo di gestire questi file, li convertiva tramite ImageMagick e la libreria libheif. Tuttavia, un bug di memoria in libheif portava a un calcolo errato della posizione di un’immagine sovrapposta, consentendo così di compromettere il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.

I ricercatori hanno notato che il modello Opus 4.8 aveva difficoltà a generare un exploit funzionante. Tuttavia, a poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Dopo aver ottenuto accesso al server Discourse, il team ha identificato una seconda vulnerabilità che ha consentito il controllo di account ChatGPT e Codex, incluso l’account di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.

Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio, ma l’episodio ha sollevato preoccupazioni significative riguardo alla sicurezza informatica. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni.”

È interessante notare che Opus 5 non ha subito le stesse restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di timori sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.

Questo incidente arriva in un momento di crescente attenzione sulla sicurezza nelle aziende che sviluppano intelligenze artificiali, evidenziando la necessità di rafforzare le misure di protezione e di monitoraggio per prevenire exploit futuri.