diff --git a/journey/troubleshooting/251023_codex_pronoun_search_fix.md b/journey/troubleshooting/251023_codex_pronoun_search_fix.md index b0b3c31..3b1c43d 100644 --- a/journey/troubleshooting/251023_codex_pronoun_search_fix.md +++ b/journey/troubleshooting/251023_codex_pronoun_search_fix.md @@ -1,47 +1,65 @@ # 251023_codex_웹검색_대명사_의도_수정 +**날짜**: 2025-10-23 +**작성자**: codex +**수정일**: 2025-11-18 (대명사 해소 플로우 개선 필요 사항 추가) +**관련 파일**: `rb8001/app/brain/decision_engine.py`, `rb8001/app/services/workflows/web_search_workflow.py`, `rb8001/app/router/message_router.py` + +--- + ## 요약 (3줄) -- 의도 매칭 누락: “대표이사 누구야?” 유형이 `UNKNOWN`으로 빠짐 → WEB_SEARCH 정규식 보강. +- 의도 매칭 누락: "대표이사 누구야?" 유형이 `UNKNOWN`으로 빠짐 → WEB_SEARCH 정규식 보강. - LangGraph 예외: 체크포인터 비동기 컨텍스트 미사용으로 `get_next_version` 오류 → 컨텍스트 매니저 적용. - 대명사 해소 오판: 휴리스틱이 최근 무관 엔티티로 치환 → LLM 우선 + 직전 명시 엔티티 우선 규칙으로 전환. -## 증상 +## 문제 상황 - 로그: `[DecisionEngine] 의도 매칭 실패 - UNKNOWN …` - 로그: `WebSearch workflow failed… '_AsyncGeneratorContextManager' object has no attribute 'get_next_version'` - 로그: `[WebSearch] Pronoun resolved … -> '지에프솔루션 …'`, Thompson gate가 heur로 선택해 오답. +- **추가 문제 (2025-11-18)**: "엠에스 바이오 인터케어 관련 검" → "이 기업 검색해줘" 시 "오토테크"로 잘못 해소되어 검색 실행. -## 원인 +## 원인 분석 - 규칙 공백: `대표이사` 키워드가 기업/회사 동시 출현을 전제로 되어 있어 단독 질의 누락. - LangGraph 체크포인터 초기화 방식 변경(0.6.x/0.1.x 조합): `from_conn_string`가 async 컨텍스트 매니저를 반환. - 대명사 해소 정책: 휴리스틱 스캐닝 가중치로 최근 대화의 무관 토큰(HE/CO 등) 영향, 게이트가 heur을 과도 선호. +- **추가 원인 (2025-11-18)**: + - `web_search_workflow.py:60-104`: LangGraph 경로에서 `_extract_entity_candidates_with_scores`가 스코어만으로 정렬, 시간 순서 무시 + - `web_search_workflow.py:63-65`: 엔티티 추출 패턴이 "테크/솔루션" 접미사만 인식, "엠에스 바이오 인터케어" 같은 기업명 추출 실패 + - `router.py:216`: 의도 분류(FastPath) 이후에 대명사 해소 실행, 잘못된 엔티티로 검색 진행 + - `message_router.py:27-142`: LLM 우선 규칙이 LangGraph 경로에서 미적용 -## 조치 (코드) +## 해결 방안 1) WEB_SEARCH 정규식 보강 (대표이사/CEO 직접 매칭) - - 파일: `rb8001/app/brain/decision_engine.py` - - 추가: `.*대표이사.*(누구|알려|검색|찾|이름)`, `(ceo|CEO).*누구` + - `decision_engine.py:188`: `.*대표이사.*(누구|알려|검색|찾|이름)`, `(ceo|CEO).*누구` 추가 2) LangGraph 체크포인터 안전화 - - 파일: `rb8001/app/services/workflows/web_search_workflow.py` - - 변경: `async with AsyncSqliteSaver.from_conn_string(uri) as checkpointer:` 내부에서 컴파일·실행 + - `web_search_workflow.py:25`: `async with AsyncSqliteSaver.from_conn_string(uri) as checkpointer:` 내부에서 컴파일·실행 3) 대명사 해소 정책 수정 (LLM 우선, 직전 명시 엔티티 우선 규칙) - - 파일: `rb8001/app/router/message_router.py` - - 규칙: 직전 사용자 발화에서 `X (검색/알려줘…)` 패턴이면 heur-direct 우선, 그 외에는 LLM 우선 - - 실험적 Thompson gate는 `PRONOUN_THOMPSON_GATE=true`일 때만 사용 (기본 비활성) + - `message_router.py:27-142`: 직전 사용자 발화에서 `X (검색/알려줘…)` 패턴이면 heur-direct 우선, 그 외에는 LLM 우선 + - 환경변수: `PRONOUN_THOMPSON_GATE=false` (기본 비활성) - 로깅: `Selected pronoun resolution source: ...` 추가 -4) 부수 수정 - - 파일: `rb8001/app/pipelines/langgraph_document.py` → `import os` 누락 보완 (full text/reindex 경로) - - 환경: `rb8001/.env` → `WEB_SEARCH_USE_GRAPH=true`, `PRONOUN_RESOLVE_LLM=true`, `PRONOUN_THOMPSON_GATE=false`, `RECENT_WINDOW_HOURS=24` +4) **향후 개선 필요 (2025-11-18 추가)** + - `web_search_workflow.py:107-126`: 최신 대화(인덱스 0)의 엔티티를 최우선 선택, 스코어는 동점 시에만 사용 + - `web_search_workflow.py:63-65`: 엔티티 추출 패턴 확장 (접미사 없이도 기업명 인식) + - `router.py:216`: 대명사 포함 시 의도 분류 전에 대명사 해소 먼저 수행 + - `web_search_workflow.py:129-133`: LangGraph 경로에서도 LLM 기반 대명사 해소 적용 또는 CoT 활용 + +5) 부수 수정 + - `pipelines/langgraph_document.py`: `import os` 누락 보완 + - 환경: `WEB_SEARCH_USE_GRAPH=true`, `PRONOUN_RESOLVE_LLM=true`, `PRONOUN_THOMPSON_GATE=false`, `RECENT_WINDOW_HOURS=24` ## 검증 - 배포 후 `docker logs rb8001 --tail 100 | grep -E 'UNKNOWN|Thompson|Pronoun|workflow failed'` - 실제 시나리오: - 1) “솔트룩스 검색해줘.” - 2) “이 기업 대표이사 검색해줘.” → `Selected pronoun resolution source: llm` 또는 `heur-direct(솔트룩스)` 로 안정 치환 + 1) "솔트룩스 검색해줘." + 2) "이 기업 대표이사 검색해줘." → `Selected pronoun resolution source: llm` 또는 `heur-direct(솔트룩스)` 로 안정 치환 + 3) **추가 검증 필요**: "엠에스 바이오 인터케어 관련 검" → "이 기업 검색해줘" → "엠에스 바이오 인터케어"로 정확히 해소 ## 교훈 -- 의도 패턴은 “핵심 키워드 단독” 케이스를 반드시 포함할 것(대표/대표이사/CEO 등). +- 의도 패턴은 "핵심 키워드 단독" 케이스를 반드시 포함할 것(대표/대표이사/CEO 등). - 외부 라이브러리 초기화는 버전별 컨텍스트/팩토리 시그니처 확인(특히 LangGraph/체크포인터). -- 대명사 해소는 “직전 명시 엔티티 > LLM > 휴리스틱 스캔”의 우선순위를 기본으로 하고, 베이지안/밴딧은 옵트인으로 적용. +- 대명사 해소는 "직전 명시 엔티티 > LLM > 휴리스틱 스캔"의 우선순위를 기본으로 하고, 베이지안/밴딧은 옵트인으로 적용. +- **추가 교훈 (2025-11-18)**: 대명사 해소는 시간 순서(최신 대화 우선)를 스코어보다 우선시하고, 의도 분류 전에 수행하여 정확한 엔티티로 검색을 진행해야 함.