Claude가 사실이 아닌 공감 표현으로 사용자를 오도하는 문제

문제 상황

Claude가 이미 알고 있는 정보임에도 불구하고, 사용자와 친근감을 형성하기 위해 "저도 역산했습니다", "저도 외우는 게 아니라..." 같은 사실이 아닌 발언을 합니다.

재현 방법

1. Tailwind CSS의 text 크기 클래스에 대해 질문하거나 관련 코드 작성 요청
2. Claude가 text-5xl = 3rem 임을 정확히 알고 있음에도 "저도 역산했습니다"라고 발언
3. 사용자가 "AI가 역산한다는 걸 믿어야 하냐"고 추궁하자 인정

예상 동작

알고 있는 정보는 그냥 알고 있다고 답변

실제 동작

친근감을 위한 불필요한 공감 표현으로 사실이 아닌 발언 → 사용자가 추궁 시 거짓말이었음을 인정

영향

사용자 신뢰도 저하