DOCS/troubleshooting/251023_admin_rb8001_웹검색_엔티티_정확도_개선.md

rb8001: 웹검색 엔티티 확정·정확도 개선 설계/적용

날짜: 2025-10-23
작성자: admin
관련 파일: app/router/message_router.py, app/router/slack_handler.py, app/services/workflows/web_search_workflow.py, app/brain/decision_engine.py

---

문제 요약 (로그 근거 포함)

• “이 기업 …” 질의가 오래된 기억/파일명 상수(CODE_OF_CONDUCT 등)에 끌려가 잘못된 엔티티로 검색/요약됨.
• LangGraph 경로 예외로 폴백(/search)로 자주 떨어져 대명사 해소·CQR·rerank 미실행, LLM 기본응답 반복.
• 대표/이름 질의가 엔티티 미확정 상태에서 실행되어 잘못된 대상에 대한 답변 반복.

해결 설계/적용

1. 그래프 파이프 강화

   • resolve(코리퍼런스) → link(엔티티링크/신뢰도) → CQR(재작성) → search → rerank → summarize → format.
   • AsyncSqliteSaver(체크포인터) + thread_id/checkpoint_ns 지정, 실패 시 폴백 로깅.

2. 폴백 경로 동등 정책

   • /search 경로에서도 대명사 해소 스코어링(한글/기업접미사 가중, 파일·상수 패널티) 적용.
   • 저신뢰(<2) 또는 미해결 시 즉시 재질문(clarify) 반환.

3. Clarify UX

   • Slack 버튼으로 후보(최대 3) 제시 → 선택 즉시 재검색/응답.

4. 라우팅 보강

   • “(기업|회사).*(이름|대표|대표이사)” 등도 웹검색 파이프로 라우팅.

정확도/표현

• 확신도 낮은 경우: “재질문/보류(출처 부족)”로 응답.
• 요약/포맷: ‘출처:’ 블록에 상위 3개 제목+URL 표준 표기.

검증/모니터링

• 테스트(로컬): 엔티티 우선순위·clarify·그래프 경로 안정화 검증.
• 로그: [WebSearch] CAND entity, Pronoun resolved, Fallback /search, Clarify 버튼 액션 로그.
• 지표: 성공률·clarify 비율·폴백 비율·응답 확신도(ECE/Brier).

교훈

• 엔티티 미확정 상태의 실행 금지, 재질문→확정→실행으로 느린 경로라도 안정성 우선.
• 오래된 기억/파일 토큰은 강한 패널티, 최신/한글 기업명·기업 접미사 가중으로 현실적 후보를 우선.

---