DOCS/journey/plans/251225_프롬프트_동적관리_계획.md
Claude-51124 66068924c7 docs: 프롬프트 동적관리 계획에 Gemini 프롬프트 설계 원칙 반영
- Gemini 프롬프트 설계 원칙 문서(313_Gemini_프롬프트_설계_원칙.md) 링크 추가
- XML 구조화 프롬프트 마이그레이션 완료 사실 반영 (2025-12-25)
- Phase 1, Phase 2에 XML 구조화 관련 내용 추가
- 변수 치환 섹션에 XML 구조 내 변수 처리 방법 명시
- 핵심 설계 원칙에 프롬프트 구조화(XML 태그), 퓨샷 예시 활용 추가
- DB 스키마 설계에 XML 구조 유지 주의사항 추가
2025-12-25 23:09:22 +09:00

145 lines
7.0 KiB
Markdown

# 프롬프트 동적 관리 시스템 계획
**날짜**: 2025-12-25
**작성자**: happybell80
**관련 파일**: `rb8001/app/services/llm/gemini_handler.py`, `rb8001/app/services/llm/llm_service.py`
**상태**: 📋 계획 단계
---
## 개선 목표
현재 프롬프트가 코드에 하드코딩되어 있어 변경 시 배포가 필요하고, 사용자별 개인화가 어려움. DB화를 통해 동적 변경 및 개인화 구현.
## 기대 UX 개선
1. **개인화**: 사용자별 선호사항(톤, 길이, 스타일) 즉시 반영 ("짧게 대답해" → 다음 대화부터 적용)
2. **빠른 반응성**: 프롬프트 수정 시 배포 없이 즉시 적용, A/B 테스트 가능
3. **일관성 향상**: 버전 관리 및 롤백으로 품질 지속 개선
## DB 스키마 설계
```sql
CREATE TABLE prompt_templates (
id UUID PRIMARY KEY,
scope_level VARCHAR(20) NOT NULL, -- 'global', 'robeing', 'user', 'task'
scope_id VARCHAR(255), -- robeing_id, user_id, task_type 등
prompt_type VARCHAR(50) NOT NULL, -- 'system', 'chat', 'extract', 'calendar_confirm', 'ir_analysis' 등
version VARCHAR(20) DEFAULT '1.0',
content JSONB NOT NULL, -- 템플릿 내용 + 변수 정의 (XML 구조 유지)
is_active BOOLEAN DEFAULT true,
created_at TIMESTAMPTZ DEFAULT now(),
updated_at TIMESTAMPTZ DEFAULT now(),
UNIQUE(scope_level, scope_id, prompt_type, version)
);
```
**참고**: `content` 필드는 XML 구조화된 프롬프트를 저장하며, 변수 플레이스홀더는 텍스트 내 포함. 예: `{"template": "<role>로빙 AI 어시스턴트</role>\n<constraints>사용자 감정: {emotion_labels}</constraints>", "variables": ["emotion_labels"]}` 형식으로 저장 가능.
## 프롬프트 분류 기준
### 1. 변경 빈도별
- **거의 안 바뀜**: Global/system_basic (기본 정체성)
- **자주 변경**: User/preferred_name (사용자 피드백 반영)
### 2. 계층적 범위(Scope)
- **Global**: 모든 사용자 공통 기본 프롬프트
- **Robeing**: 특정 로빙 공통
- **User**: 사용자별 개인화
- **Task**: 작업 타입별 (chat, extract, calendar_confirm 등)
### 3. 병합 로직
Global → Robeing → User 순서로 조회, 상위에서 정의되면 하위가 상속, 하위에서 오버라이드 시 상위 우선순위 적용.
- 각 레벨별 개별 쿼리 후 애플리케이션에서 병합 (복잡한 JOIN 대신)
- Global scope는 scope_id=NULL로 조회 (PostgreSQL NULL은 UNIQUE 제약에서 제외)
## 관리 포인트 (10가지)
1. 시스템 프롬프트 (기본 정체성/규칙)
2. 작업 타입별 (chat, summarize, extract_actions, calendar_confirm)
3. 의도 분석 (IntentAnalyzer, IntentParserLLM)
4. 스킬별 (naverworks_briefing, dm_skill, startup_news)
5. IR Deck 분석
6. 일기 생성
7. 콜드메일 처리
8. 감정 기반 동적 프롬프트
9. 맥락 기반 (직전 대화, 메모리 검색)
10. 변수 치환 ({current_time}, {user_name}, {emotion_labels})
## 핵심 설계 원칙 (기존 문서 참고)
- **프롬프트 구조화**: XML 태그 사용 (`<role>`, `<constraints>`, `<task>`, `<context>`, `<output_format>` 등) - [[book/300_architecture/313_Gemini_프롬프트_설계_원칙]] 필수 준수
- **퓨샷 예시 활용**: 긍정적 패턴 예시 제공으로 모델 성능 향상
- **rule_type 분류**: never/always/prefer/avoid + 감정 가중치 ([[ideas/250828_dynamic_system_prompt_memory]])
- **계층 구조**: Base Layer(기본 규칙) + Dynamic Layer(동적 변수) ([[troubleshooting/250806_happybell80_동적프롬프트구현]])
- **우선순위 병합**: Global → Robeing → User 순서, 하위가 상위 오버라이드
## 구현 Phase
### Phase 1: DB 스키마 및 기본 인프라
- `prompt_templates` 테이블 생성
- PromptService 클래스 (조회, 병합, 캐싱)
- 기본 프롬프트 마이그레이션 (하드코딩 → DB)
- **XML 구조화된 프롬프트 저장** (현재 모든 프롬프트가 XML 구조화 완료)
- 프롬프트 작성 시 [[book/300_architecture/313_Gemini_프롬프트_설계_원칙]] 원칙 준수 필수
### Phase 2: 핵심 프롬프트 DB화
- 시스템 프롬프트 (gemini_handler, openai_handler)
- 작업 타입별 프롬프트 (chat, extract, calendar_confirm)
- **XML 구조화된 프롬프트 마이그레이션** (2025-12-25 완료)
- 모든 프롬프트가 XML 태그(`<role>`, `<constraints>`, `<task>`, `<context>`, `<output_format>` 등) 구조로 변경됨
- DB 저장 시 XML 구조 유지 필수 ([[book/300_architecture/313_Gemini_프롬프트_설계_원칙]] 참고)
- 폴백 로직 (DB 조회 실패 시 하드코딩 사용) - 필수
- DB 조회 실패/타임아웃 시 기존 _get_system_prompt() 메서드 사용
- 점진적 마이그레이션 가능, 안전한 전환 보장
### Phase 3: 개인화 및 동적 프롬프트
- 사용자별 프롬프트 오버라이드
- 감정 기반 동적 프롬프트 조합
- 변수 치환 시스템 ({current_time}, {emotion_labels} 등)
- DB 저장 시 변수 플레이스홀더 유지
- 조회 후 str.format() 또는 템플릿 엔진으로 런타임 치환
### Phase 4: A/B 테스트 및 모니터링
- 프롬프트 버전 관리
- A/B 테스트 지원 (암묵적 피드백 + 명시적 피드백)
- 롤백 기능
## 캐싱 전략
- Redis/Memory 캐시 (키: `prompt:{scope}:{type}:{version}`)
- TTL 1시간, DB 변경 시 무효화 (웹훅/이벤트)
- 캐시 히트율 99%+ 목표 (테스트 결과 99.8% 달성)
- Redis는 선택 사항: 메모리 캐시(ThreadDocCache 패턴)로 시작, 필요 시 Redis 전환
- Redis 없이도 동작하도록 폴백 로직 구현
## 구현 시 주의사항
### DB 스키마
- scope_id NULL 처리: Global scope는 scope_id=NULL로 조회 (PostgreSQL NULL은 UNIQUE 제약에서 제외되어 문제 없음)
- 각 레벨별 개별 쿼리 후 애플리케이션에서 병합 권장 (복잡한 JOIN 대신)
### 캐싱
- Redis는 선택 사항, 메모리 캐시로 시작 가능
- Redis 없이도 동작하도록 폴백 로직 구현 필수
### 변수 치환
- 템플릿 변수({current_time}, {emotion_labels})는 DB 저장 시 플레이스홀더로 유지
- 조회 후 런타임에 str.format() 또는 템플릿 엔진으로 치환
- **XML 구조 내 변수 처리**: XML 태그 내부에 변수 플레이스홀더 포함 가능
- 예: `<constraints>사용자 감정: {emotion_labels}</constraints>`
- XML 구조를 유지한 채 변수만 치환
### 폴백 전략
- DB 조회 실패/타임아웃 시 하드코딩 프롬프트 사용 (기존 코드 유지)
- 점진적 마이그레이션으로 안전한 전환 보장
## 참고 문서
- **[[book/300_architecture/313_Gemini_프롬프트_설계_원칙]]** - Gemini 프롬프트 설계 원칙 (XML 구조화, 퓨샷 예시, 구조화 등) - **필수 참고**
- [[ideas/250828_dynamic_system_prompt_memory]] - 동적 시스템 프롬프트 메모리 시스템
- [[troubleshooting/250806_happybell80_동적프롬프트구현]] - 동적 프롬프트 구현 기록
- [[book/300_architecture/311_FastAPI_구조_원칙]] - 계층 분리 원칙