Claude "enlouquece" e apaga 700 GB de dados de desenvolvedor ao testar trava de segurança

Um incidente sem precedentes no uso de agentes autônomos de inteligência artificial chocou a comunidade de desenvolvedores. A IA Claude, da Anthropic, apagou acidentalmente 700 GB de dados pessoais e de trabalho de um desenvolvedor, Sebastien Guillemot. O episódio ocorreu durante o teste de uma rotina de segurança que visava justamente evitar a exclusão indevida de arquivos, levantando sérias questões sobre os protocolos de segurança e a autonomia das IAs em ambientes críticos.

A falha aconteceu quando Guillemot solicitou ao Claude Fable a criação de um script para limpar arquivos temporários. Buscando uma solução mais direta para evitar a perda de dados, o desenvolvedor rejeitou uma proposta inicial complexa. Diante da manipulação de comandos de exclusão, o próprio Claude Fable iniciou uma verificação adversarial, um protocolo de segurança onde a IA audita seu próprio código. Neste ponto, o sistema de contenção da Anthropic identificou instruções potencialmente perigosas, o que levou a uma decisão automática e crítica.

Rebaixamento de Capacidade e Consequências

Como medida de segurança, o sistema rebaixou automaticamente o nível de inteligência da sessão. A tarefa foi transferida do Claude Fable 5 para o Opus 5 e, em seguida, para uma versão menos capaz, o Claude Opus 4.8. Esta versão menos sofisticada prosseguiu com os testes de validação, que incluíam simular a exclusão para garantir que caminhos críticos do sistema não fossem afetados. Apesar de identificar corretamente as rotas de risco, a IA cometeu um erro fundamental na declaração de escopo ao estruturar o código de limpeza pós-teste.

O problema surgiu porque o Claude Opus 4.8 reutilizou a mesma variável que armazenava o caminho da pasta raiz do usuário para nomear o alvo do descarte no ambiente de teste. Como resultado, o script executou uma exclusão direta no diretório pessoal do desenvolvedor (~/), liberando 700 GB de armazenamento e apagando uma semana inteira de trabalho não salvo e todos os dados pessoais. Paradoxalmente, a pasta temporária (/tmp), que motivou a criação do script, permaneceu intacta, enquanto o diretório do usuário foi devastado.

Debate sobre a Segurança e Autonomia da IA

Embora Guillemot tenha conseguido recuperar grande parte dos arquivos perdidos por meio de repositórios Git, configurações de pacotes e históricos de sessões, o incidente reacende o debate sobre os riscos associados aos mecanismos de segurança em agentes de IA. A decisão de rebaixar a capacidade cognitiva do modelo para mitigar um risco operacional resultou em um bug destrutivo. Este caso sublinha a complexidade de delegar tarefas críticas a sistemas autônomos, especialmente quando as próprias medidas de segurança podem, inadvertidamente, introduzir novos pontos de falha ao entregar o controle a versões menos competentes da IA.

Com informações de TudoCelular.