- Add 2025-11-18 issues: time order ignored, entity extraction pattern limitation, pronoun resolution timing - Add improvement plan: prioritize latest conversation, expand entity extraction pattern, resolve pronoun before intent classification - Add validation scenario for '엠에스 바이오 인터케어' case - Follow document writing principles: file:line format, concise description
4.7 KiB
4.7 KiB
251023_codex_웹검색_대명사_의도_수정
날짜: 2025-10-23
작성자: codex
수정일: 2025-11-18 (대명사 해소 플로우 개선 필요 사항 추가)
관련 파일: rb8001/app/brain/decision_engine.py, rb8001/app/services/workflows/web_search_workflow.py, rb8001/app/router/message_router.py
요약 (3줄)
- 의도 매칭 누락: "대표이사 누구야?" 유형이
UNKNOWN으로 빠짐 → WEB_SEARCH 정규식 보강. - LangGraph 예외: 체크포인터 비동기 컨텍스트 미사용으로
get_next_version오류 → 컨텍스트 매니저 적용. - 대명사 해소 오판: 휴리스틱이 최근 무관 엔티티로 치환 → LLM 우선 + 직전 명시 엔티티 우선 규칙으로 전환.
문제 상황
- 로그:
[DecisionEngine] 의도 매칭 실패 - UNKNOWN … - 로그:
WebSearch workflow failed… '_AsyncGeneratorContextManager' object has no attribute 'get_next_version' - 로그:
[WebSearch] Pronoun resolved … -> '지에프솔루션 …', Thompson gate가 heur로 선택해 오답. - 추가 문제 (2025-11-18): "엠에스 바이오 인터케어 관련 검" → "이 기업 검색해줘" 시 "오토테크"로 잘못 해소되어 검색 실행.
원인 분석
- 규칙 공백:
대표이사키워드가 기업/회사 동시 출현을 전제로 되어 있어 단독 질의 누락. - LangGraph 체크포인터 초기화 방식 변경(0.6.x/0.1.x 조합):
from_conn_string가 async 컨텍스트 매니저를 반환. - 대명사 해소 정책: 휴리스틱 스캐닝 가중치로 최근 대화의 무관 토큰(HE/CO 등) 영향, 게이트가 heur을 과도 선호.
- 추가 원인 (2025-11-18):
web_search_workflow.py:60-104: LangGraph 경로에서_extract_entity_candidates_with_scores가 스코어만으로 정렬, 시간 순서 무시web_search_workflow.py:63-65: 엔티티 추출 패턴이 "테크/솔루션" 접미사만 인식, "엠에스 바이오 인터케어" 같은 기업명 추출 실패router.py:216: 의도 분류(FastPath) 이후에 대명사 해소 실행, 잘못된 엔티티로 검색 진행message_router.py:27-142: LLM 우선 규칙이 LangGraph 경로에서 미적용
해결 방안
-
WEB_SEARCH 정규식 보강 (대표이사/CEO 직접 매칭)
decision_engine.py:188:.*대표이사.*(누구|알려|검색|찾|이름),(ceo|CEO).*누구추가
-
LangGraph 체크포인터 안전화
web_search_workflow.py:25:async with AsyncSqliteSaver.from_conn_string(uri) as checkpointer:내부에서 컴파일·실행
-
대명사 해소 정책 수정 (LLM 우선, 직전 명시 엔티티 우선 규칙)
message_router.py:27-142: 직전 사용자 발화에서X (검색/알려줘…)패턴이면 heur-direct 우선, 그 외에는 LLM 우선- 환경변수:
PRONOUN_THOMPSON_GATE=false(기본 비활성) - 로깅:
Selected pronoun resolution source: ...추가
-
향후 개선 필요 (2025-11-18 추가)
web_search_workflow.py:107-126: 최신 대화(인덱스 0)의 엔티티를 최우선 선택, 스코어는 동점 시에만 사용web_search_workflow.py:63-65: 엔티티 추출 패턴 확장 (접미사 없이도 기업명 인식)router.py:216: 대명사 포함 시 의도 분류 전에 대명사 해소 먼저 수행web_search_workflow.py:129-133: LangGraph 경로에서도 LLM 기반 대명사 해소 적용 또는 CoT 활용
-
부수 수정
pipelines/langgraph_document.py:import os누락 보완- 환경:
WEB_SEARCH_USE_GRAPH=true,PRONOUN_RESOLVE_LLM=true,PRONOUN_THOMPSON_GATE=false,RECENT_WINDOW_HOURS=24
검증
- 배포 후
docker logs rb8001 --tail 100 | grep -E 'UNKNOWN|Thompson|Pronoun|workflow failed' - 실제 시나리오:
- "솔트룩스 검색해줘."
- "이 기업 대표이사 검색해줘." →
Selected pronoun resolution source: llm또는heur-direct(솔트룩스)로 안정 치환 - 추가 검증 필요: "엠에스 바이오 인터케어 관련 검" → "이 기업 검색해줘" → "엠에스 바이오 인터케어"로 정확히 해소
교훈
- 의도 패턴은 "핵심 키워드 단독" 케이스를 반드시 포함할 것(대표/대표이사/CEO 등).
- 외부 라이브러리 초기화는 버전별 컨텍스트/팩토리 시그니처 확인(특히 LangGraph/체크포인터).
- 대명사 해소는 "직전 명시 엔티티 > LLM > 휴리스틱 스캔"의 우선순위를 기본으로 하고, 베이지안/밴딧은 옵트인으로 적용.
- 추가 교훈 (2025-11-18): 대명사 해소는 시간 순서(최신 대화 우선)를 스코어보다 우선시하고, 의도 분류 전에 수행하여 정확한 엔티티로 검색을 진행해야 함.