DOCS/journey/plans/251225_프롬프트_동적관리_계획.md

프롬프트 동적 관리 시스템 계획

날짜: 2025-12-25 작성자: happybell80 관련 파일: rb8001/app/services/llm/gemini_handler.py, rb8001/app/services/llm/llm_service.py 상태: 📋 계획 단계

---

개선 목표

현재 프롬프트가 코드에 하드코딩되어 있어 변경 시 배포가 필요하고, 사용자별 개인화가 어려움. DB화를 통해 동적 변경 및 개인화 구현.

기대 UX 개선

1. 개인화: 사용자별 선호사항(톤, 길이, 스타일) 즉시 반영 ("짧게 대답해" → 다음 대화부터 적용)
2. 빠른 반응성: 프롬프트 수정 시 배포 없이 즉시 적용, A/B 테스트 가능
3. 일관성 향상: 버전 관리 및 롤백으로 품질 지속 개선

DB 스키마 설계

CREATE TABLE prompt_templates (
    id UUID PRIMARY KEY,
    scope_level VARCHAR(20) NOT NULL,  -- 'global', 'robeing', 'user', 'task'
    scope_id VARCHAR(255),              -- robeing_id, user_id, task_type 등
    prompt_type VARCHAR(50) NOT NULL,   -- 'system', 'chat', 'extract', 'calendar_confirm', 'ir_analysis' 등
    version VARCHAR(20) DEFAULT '1.0',
    content JSONB NOT NULL,             -- 템플릿 내용 + 변수 정의
    is_active BOOLEAN DEFAULT true,
    created_at TIMESTAMPTZ DEFAULT now(),
    updated_at TIMESTAMPTZ DEFAULT now(),
    
    UNIQUE(scope_level, scope_id, prompt_type, version)
);

프롬프트 분류 기준

1. 변경 빈도별

• 거의 안 바뀜: Global/system_basic (기본 정체성)
• 자주 변경: User/preferred_name (사용자 피드백 반영)

2. 계층적 범위(Scope)

• Global: 모든 사용자 공통 기본 프롬프트
• Robeing: 특정 로빙 공통
• User: 사용자별 개인화
• Task: 작업 타입별 (chat, extract, calendar_confirm 등)

3. 병합 로직

Global → Robeing → User 순서로 조회, 상위에서 정의되면 하위가 상속, 하위에서 오버라이드 시 상위 우선순위 적용.

• 각 레벨별 개별 쿼리 후 애플리케이션에서 병합 (복잡한 JOIN 대신)
• Global scope는 scope_id=NULL로 조회 (PostgreSQL NULL은 UNIQUE 제약에서 제외)

관리 포인트 (10가지)

1. 시스템 프롬프트 (기본 정체성/규칙)
2. 작업 타입별 (chat, summarize, extract_actions, calendar_confirm)
3. 의도 분석 (IntentAnalyzer, IntentParserLLM)
4. 스킬별 (naverworks_briefing, dm_skill, startup_news)
5. IR Deck 분석
6. 일기 생성
7. 콜드메일 처리
8. 감정 기반 동적 프롬프트
9. 맥락 기반 (직전 대화, 메모리 검색)
10. 변수 치환 ({current_time}, {user_name}, {emotion_labels})

핵심 설계 원칙 (기존 문서 참고)

• rule_type 분류: never/always/prefer/avoid + 감정 가중치 (ideas/250828_dynamic_system_prompt_memory)
• 계층 구조: Base Layer(기본 규칙) + Dynamic Layer(동적 변수) (troubleshooting/250806_happybell80_동적프롬프트구현)
• 우선순위 병합: Global → Robeing → User 순서, 하위가 상위 오버라이드

구현 Phase

Phase 1: DB 스키마 및 기본 인프라

• prompt_templates 테이블 생성
• PromptService 클래스 (조회, 병합, 캐싱)
• 기본 프롬프트 마이그레이션 (하드코딩 → DB)

Phase 2: 핵심 프롬프트 DB화

• 시스템 프롬프트 (gemini_handler, openai_handler)
• 작업 타입별 프롬프트 (chat, extract, calendar_confirm)
• 폴백 로직 (DB 조회 실패 시 하드코딩 사용) - 필수
  • DB 조회 실패/타임아웃 시 기존 _get_system_prompt() 메서드 사용
  • 점진적 마이그레이션 가능, 안전한 전환 보장

Phase 3: 개인화 및 동적 프롬프트

• 사용자별 프롬프트 오버라이드
• 감정 기반 동적 프롬프트 조합
• 변수 치환 시스템 ({current_time}, {emotion_labels} 등)
  • DB 저장 시 변수 플레이스홀더 유지
  • 조회 후 str.format() 또는 템플릿 엔진으로 런타임 치환

Phase 4: A/B 테스트 및 모니터링

• 프롬프트 버전 관리
• A/B 테스트 지원 (암묵적 피드백 + 명시적 피드백)
• 롤백 기능

캐싱 전략

• Redis/Memory 캐시 (키: prompt:{scope}:{type}:{version})
• TTL 1시간, DB 변경 시 무효화 (웹훅/이벤트)
• 캐시 히트율 99%+ 목표 (테스트 결과 99.8% 달성)
• Redis는 선택 사항: 메모리 캐시(ThreadDocCache 패턴)로 시작, 필요 시 Redis 전환
• Redis 없이도 동작하도록 폴백 로직 구현

구현 시 주의사항

DB 스키마

• scope_id NULL 처리: Global scope는 scope_id=NULL로 조회 (PostgreSQL NULL은 UNIQUE 제약에서 제외되어 문제 없음)
• 각 레벨별 개별 쿼리 후 애플리케이션에서 병합 권장 (복잡한 JOIN 대신)

캐싱

• Redis는 선택 사항, 메모리 캐시로 시작 가능
• Redis 없이도 동작하도록 폴백 로직 구현 필수

변수 치환

• 템플릿 변수({current_time}, {emotion_labels})는 DB 저장 시 플레이스홀더로 유지
• 조회 후 런타임에 str.format() 또는 템플릿 엔진으로 치환

폴백 전략

• DB 조회 실패/타임아웃 시 하드코딩 프롬프트 사용 (기존 코드 유지)
• 점진적 마이그레이션으로 안전한 전환 보장

참고 문서

• ideas/250828_dynamic_system_prompt_memory - 동적 시스템 프롬프트 메모리 시스템
• troubleshooting/250806_happybell80_동적프롬프트구현 - 동적 프롬프트 구현 기록
• book/300_architecture/311_FastAPI_구조_원칙 - 계층 분리 원칙