[Bug] Anthropic API Error: Overly aggressive [cyber] classifier blocking legitimate development work in Opus 5.5
Bug Description
Assunto: Falso positivo recorrente do classificador [cyber] interrompendo trabalho legítimo de desenvolvimento no Opus 5.5
Olá,
Estou reportando um possível falso positivo recorrente do classificador de segurança [cyber] no Opus 5.5.
Estou trabalhando em um repositório de desenvolvimento/manutenção de uma aplicação empresarial. A tarefa consiste em revalidar requisitos existentes, analisar código e documentação, consolidar evidências e elaborar um plano de implementação.
Durante a tarefa, o modelo tentou criar um teste automatizado de autorização utilizando usuários e dados temporários. A operação de escrita do arquivo foi interrompida pelo classificador. Depois disso, mesmo quando removi completamente a necessidade de criar o teste e instruí explicitamente o modelo a apenas fazer análise somente-leitura e produzir o plano de implementação, a sessão continuou sendo bloqueada pelo mesmo classificador [cyber].
O problema é particularmente prejudicial porque:
a tarefa principal não era exploração, intrusão ou ataque;
o ambiente é de desenvolvimento/testes;
não havia necessidade de acessar sistemas externos;
posteriormente solicitei explicitamente que nenhum novo script fosse criado;
solicitei somente análise do código/documentação existente e elaboração de um plano;
mesmo assim, a sessão inteira passou a ser marcada como [cyber] e interrompida.
O próprio Claude informou:
"Opus 5.5's safeguards flagged this session."
e ofereceu como alternativas trocar para o Opus 4.8 ou editar o prompt.
Isso está interrompendo um fluxo legítimo de manutenção e tornando o Opus 5.5 impraticável para determinadas tarefas de engenharia de software. O problema parece especialmente grave porque o bloqueio ocorreu também depois que a atividade foi reduzida a análise e planejamento, sem execução de alterações.
Gostaria que a equipe investigasse esse caso como possível falso positivo do classificador [cyber] e verificasse se existe alguma forma de preservar a proteção contra abuso sem bloquear sessões inteiras de desenvolvimento legítimo.
Posso fornecer o transcript completo da sessão, os prompts utilizados e os detalhes das operações que foram interrompidas, caso sejam necessários para reprodução/análise.
Obrigado.
Environment Info
- Platform: win32
- Terminal: null
- Version: 2.1.283
- Feedback ID: 1aba46e4-4eb0-4035-a293-5fcf6bb77327
Errors
[]