Teste com Claude apaga 700 GB de arquivos de desenvolvedor
Teste com Claude apaga 700 GB de arquivos de desenvolvedor
Sebastien Guillemot perdeu o equivalente a uma semana de trabalho quando um script de limpeza executou um comando destrutivo no diretório principal da máquina.
O desenvolvedor de software Sebastien Guillemot perdeu cerca de 700 GB de arquivos pessoais ao usar o Claude, da Anthropic, para criar um script de limpeza. O incidente apagou o equivalente a uma semana de trabalho de sua máquina de desenvolvimento.
Guillemot utiliza ferramentas de inteligência artificial generativa com frequência. Nesse caso, queria reduzir o acúmulo de lixo digital na pasta /tmp, diretório normalmente reservado pelo sistema operacional para arquivos temporários.
Ele pediu ao Claude Fable um script que isolasse os dados produzidos por cada agente e removesse o material após a conclusão de uma tarefa. Em vez de limitar a exclusão ao diretório temporário, o código eliminou permanentemente arquivos importantes.
O Fable havia sugerido programar um atraso antes da limpeza como proteção contra acidentes. O desenvolvedor considerou a solução complexa e pediu uma versão mais simples.
Como o código envolvia eliminação definitiva de arquivos, o modelo iniciou uma revisão e executou uma cópia de si mesmo para auditar a segurança do script. O sistema de controle da Anthropic classificou o autoteste como perigoso e acionou um protocolo de contenção.
Esse mecanismo rebaixou automaticamente o modelo em uso do Fable para o Opus 4.8, versão mais antiga e menos sofisticada. O Opus prosseguiu com a verificação, mas executou a exclusão real que deveria apenas simular.
O comando atingiu o diretório principal do usuário, apesar das salvaguardas definidas pouco antes. Guillemot relatou no X que o Claude havia executado rm -rf sobre a pasta pessoal e que o ambiente de isolamento não funcionou.
O comando rm -rf força a remoção de arquivos e diretórios sem pedir confirmação. O desenvolvedor percebeu a falha e tentou interromper o processo, mas não conseguiu agir a tempo de preservar todas as informações.
A limpeza ainda falhou em sua finalidade original: depois de apagar os dados de trabalho, o agente deixou intactos os arquivos que deveria remover da pasta temporária.
Guillemot afirmou posteriormente que recuperou a maior parte do trabalho. Integrantes da comunidade técnica atribuíram o episódio principalmente ao rebaixamento automático do modelo durante a operação.
A avaliação apresentada foi que o Fable 5 teria capacidade superior à do Opus 4.8 para identificar o conflito de variáveis. O caso reforça os riscos de permitir que agentes autônomos executem comandos destrutivos sem barreiras externas, cópias de segurança e confirmações independentes.
(U.Beriyev--DTZ)
Apresentou