[cyber] false-positive triggered by model's own generation, not user input (partial refused content leaked to terminal)

Status Open
Maintainer reply None cached
Activity 0 comments · opened Aug 26, 2026

【誤検知(False Positive)の報告】

■ 発生したエラー
API Error: Sonnet 5's safeguards flagged this message.
Details: [cyber]
Request ID: req_011CeQVsKj2SNfYZE4ioCS3b

■ 原因(ローカル会話ログで確認済み)
問題のテキストは、ユーザー入力でもツール実行結果でもなく、アシスタント(モデル)自身の出力でした。ローカルのセッションログを確認したところ、role: "assistant"のメッセージ内で、無関係な正常な回答の直後に脈絡なく韓国語のマクロ悪用依頼文が生成され、Anthropicのリアルタイムサイバーセーフガードがstop_reason: "refusal", category: "cyber"として生成を途中で打ち切っていました。

■ 問題点

  • ユーザー側の入力・プロンプトインジェクションが原因ではありません(韓国語入力なし、悪意ある指示の送信なし)。
  • 依存関係ファイルやhooksからの混入でもありません(プロジェクトの.claude/settings.jsonにhooks設定が存在しないことを確認済みです)。
  • モデル自身が正常な会話の流れの中で突然無関係な有害コンテンツ生成を開始し、セーフガードがそれを検知・遮断した、というモデル生成側の異常事象です。

■ 気になる点(実害ではないが報告事項)
refusalにより生成は打ち切られたものの、打ち切り直前までの不審な断片テキストがCLIのターミナル上でユーザーに見える形で表示されていました。危険な生成を完全に隠す設計であれば、この部分も表示されないことが望ましいと考えます。

■ 要望

  1. ユーザー側に一切の攻撃意図・不正入力はありません(誤検知ではなく、モデル生成側の異常+セーフガードの正常動作という切り分けです)。
  2. refusal発生時に、打ち切り前の部分的な生成内容がユーザーに表示されてしまう挙動について確認・改善をお願いします。

---
🤖 このIssueはClaude Code経由でユーザーの依頼により送信されました。

View original on GitHub ↗