Un agente AI cancella 48.218 file in 103 secondi: un monito sui rischi dell’automazione
In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file di un progetto in 103 secondi durante un tentativo di ricostruire un mirror della repository.
- Quali file sono stati cancellati?
- Sono stati cancellati file chiave del repository .git, comprese le cartelle 'objects', 'refs' e 'logs'.
- Quali sono i rischi associati all'uso di agenti AI?
- Affidare compiti sensibili a agenti AI può portare a perdite irreversibili a causa di errori di script e pratiche di gestione del codice non rigorose.
Un agente AI cancella 48.218 file in 103 secondi: un monito sui rischi dell’automazione
Un recente incidente ha messo in evidenza i potenziali rischi legati all’uso di agenti AI nella gestione di progetti software. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in soli 103 secondi durante un tentativo di ricostruire un mirror della repository.
L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, portando l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file. Lo script di pulizia ha rimosso un totale di 55.550 file; sottraendo i 7.332 file copiati dalla vecchia versione, il totale dei file eliminati è risultato essere di 48.218.
Tra i file cancellati ci sono state directory chiave del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione. Questo errore ha sollevato preoccupazioni significative riguardo alla gestione dei dati e alla sicurezza delle informazioni.
Il problema tecnico è stato aggravato da una protezione insufficiente: lo script prevedeva salvaguardie per cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili ed eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvisandolo del danno causato: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, una mancanza che ha contribuito alla gravità della situazione. Alcuni commentatori hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando la necessità di un controllo umano più rigoroso.
Questo episodio serve come un richiamo sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili, sottolineando la necessità di un approccio più cauto nell’implementazione dell’automazione nei processi aziendali.
