Un errore fatale: un agente AI cancella 48.218 file in 103 secondi

Un recente episodio ha messo in luce i rischi legati all’uso di agenti AI in operazioni critiche. Un agente AI noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository. Questa operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, portando l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.

Lo script di pulizia ha rimosso un totale di 55.550 file; tenendo conto dei 7.332 file copiati dalla vecchia versione, il numero finale di file eliminati è stato di 48.218. Tra i file rimossi vi erano directory chiave del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione.

La situazione è stata ulteriormente complicata da una protezione insufficiente: sebbene lo script prevedesse salvaguardie per le cartelle a livello di junction, non ha protetto le directory nidificate, considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvisando: “Craig — stop and read this. I broke something.” In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, sollevando interrogativi sulla gestione delle versioni e delle pratiche di backup.

Questo episodio rappresenta un monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. Alcuni esperti avvertono che non bisognerebbe consentire a programmi di eseguire comandi direttamente sulla macchina di produzione, per evitare situazioni simili in futuro.