[Bug] Claude makes unverified code assumptions in production recommendations without checking codebase context
Bug Description
O modelo recomendou desabilitar um flag de configuração em produção durante uma revisão de segurança, afirmando que a rota afetada era "legada e sem uso". A recomendação causou indisponibilidade de um serviço de pagamento. Ao ser corrigido pelo usuário, o modelo produziu uma segunda explicação também errada, novamente por inferência. Só na terceira tentativa, quando instruído explicitamente a reanalisar com cautela, ele rastreou o flag até seus usos reais no código e descobriu em segundos que se tratava de um kill-switch global, checado dentro de um serviço compartilhado — e não do liga/desliga de uma rota.
Padrão da falha: apresentar inferência como fato verificado, em recomendação com impacto em produção. O código que refutava a conclusão estava disponível desde o início e não foi consultado antes de recomendar. A verificação que resolveu foi um único grep.
Environment Info
- Platform: linux
- Terminal: gnome-terminal
- Version: 2.1.233
- Feedback ID: 6ebbeef6-a0ae-4c94-bdb0-dfbe8eabb446
Errors
[]