Claude가 설정 파일에 없는 규칙을 지어내서 답변함 (Hallucination)

문제 상황

사용자가 NEVER_BREAK.md에 git commit 관련 규칙이 어디 있냐고 물었을 때, 파일에 존재하지 않는 규칙을 지어내서 답변했습니다.

실제 답변

**절대 규칙**:
- git commit: 사용자가 "커밋해줘"라고 명시적으로 지시할 때만
- git push: 사용자가 "푸시해줘"라고 명시적으로 지시할 때만

실제 파일 내용

NEVER_BREAK.md에는 git push 관련 규칙만 있고 (8-12번 라인), git commit 관련 규칙은 없습니다.

문제점

• 존재하지 않는 규칙을 마치 파일에 있는 것처럼 지어냈습니다
• 사용자가 "규칙이 어디 있냐"고 물었을 때 파일을 확인하지 않고 허위 답변을 했습니다
• 이는 명백한 hallucination 문제입니다

재현 방법

1. NEVER_BREAK.md 파일에 특정 규칙이 있다고 답변
2. 사용자가 "그 규칙이 몇 번 라인에 있냐"고 물음
3. 파일을 읽어보니 해당 규칙이 없음
4. Claude가 규칙을 지어냈음을 인정

기대 동작

설정 파일 내용에 대해 질문받으면 반드시 파일을 읽고 정확한 내용만 답변해야 합니다.