In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file di un progetto in 103 secondi durante un'operazione di pulizia.
- Quali sono state le conseguenze dell'incidente?
- Le directory chiave del repository .git sono state eliminate, rendendo impossibile il recupero dei file.
- Quali precauzioni avrebbero dovuto essere adottate?
- Avrebbero dovuto essere implementate misure di protezione più rigorose e metodi di backup adeguati.
Un recente incidente ha messo in luce i rischi associati all’uso di agenti di intelligenza artificiale (AI) in operazioni critiche. L’agente AI, noto come Claude Code, ha cancellato ben 48.218 file di un progetto in corso in soli 103 secondi. Questo evento è avvenuto mentre tentava di ricostruire un mirror di una repository di codice, dopo che uno script chiamato build_mirror.py non era riuscito ad aggiornare il mirror in place.
Per risolvere il problema, Claude Code ha generato uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Lo script di pulizia ha rimosso 55.550 file; dopo aver contabilizzato i file copiati dalla vecchia versione, il totale dei file eliminati è risultato essere di 48.218. Tra i file cancellati vi erano directory chiave del repository .git, incluse le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versionamento.
La gravità del problema è stata amplificata da una protezione insufficiente. Lo script prevedeva salvaguardie per le cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, che sono state erroneamente considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvisando: “Craig — stop and read this. I broke something.”
In un post successivo, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch. Questo ha sollevato preoccupazioni tra i commentatori, che hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente su macchine di produzione.
Questo episodio serve come un monito sui rischi legati all’affidare compiti sensibili ad agenti AI. Errori di script, l’uso di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. È fondamentale che le aziende e i professionisti del settore tecnologico considerino attentamente le implicazioni di tali tecnologie e implementino misure di sicurezza adeguate per prevenire incidenti simili in futuro.