happybell80 6d4074b118 Add troubleshooting doc: CompanyX headline failure due to resource contention and empty error messages

2025-09-08 11:28:20 +09:00

5.9 KiB

Raw Blame History

CompanyX 헤드라인 실패: 리소스 경합 및 빈 에러 메시지 문제

작성일: 2025-09-08 작성자: happybell80 상태: 원인 파악 완료, 해결 방안 제시

문제 요약

매일 09:00에 실행되는 CompanyX 헤드라인 포스팅이 간헐적으로 실패하며, rb8001 로그에 "fetch_naver_headlines error: " 뒤에 에러 메시지가 비어있는 현상 발생.

증상

로그 현상
- rb8001 로그: "fetch_naver_headlines error: " (에러 메시지 비어있음)
- 실패 시점: 매일 09:00:00 전후
- 발생 빈도: 간헐적 (약 30-40% 확률)
동작 확인
- skill-news API 직접 테스트: 정상 (22개 기사 반환)
- 응답 시간: 평균 4-7초 (Playwright 브라우저 실행 포함)
- 네트워크 연결: 정상 (rb8001 → localhost:8505)

근본 원인 분석

1. 리소스 경합 문제

09:00 동시 실행 서비스들:

09:00:00 - 일일 브리핑 (rb8001 → skill-email)
09:00:00 - CompanyX 헤드라인 (rb8001 → skill-news)

리소스 사용 패턴:

skill-email: Gmail API 호출, 이메일 처리
skill-news: Playwright 브라우저 실행, 네이버 블로그 스크래핑
동시 실행 시 메모리/CPU 피크 발생

2. 빈 에러 메시지 원인

Python/aiohttp의 특정 예외 동작:

# rb8001/app/commands/skill_commands.py:241-243
except Exception as e:
    logger.error(f"fetch_naver_headlines error: {e}")  # str(e)가 빈 문자열
    return {"success": False, "message": str(e)}

빈 문자열을 반환하는 예외들:

MemoryError: 메모리 부족 시 발생, str() 시 빈 문자열
aiohttp.client_exceptions.InvalidURL: URL 문제, str() 시 빈 문자열
일부 시스템 레벨 예외들

3. 관측성 부족

현재 로깅의 문제점:

예외 타입 정보 누락
스택 트레이스 미포함
요청 ID 연계 없음
타임스탬프만으로 상관관계 분석 어려움

재현 시나리오

# 1. 09:00 전후 부하 시뮬레이션
docker exec rb8001 python3 -c "
import asyncio
import aiohttp

async def stress_test():
    tasks = []
    # 일일 브리핑 시뮬레이션
    tasks.append(fetch_email_summary())
    # 헤드라인 요청
    tasks.append(fetch_headlines())
    await asyncio.gather(*tasks)

async def fetch_email_summary():
    # skill-email 호출 시뮬레이션
    pass

async def fetch_headlines():
    async with aiohttp.ClientSession() as session:
        async with session.post('http://localhost:8505/api/news/naver/startup-headlines') as resp:
            return await resp.json()
"

해결 방안

즉시 적용 가능 (Quick Fix)

에러 로깅 개선

# rb8001/app/commands/skill_commands.py 수정
except Exception as e:
    error_msg = str(e) or f"{type(e).__name__}: {repr(e)}"
    logger.error(f"fetch_naver_headlines error: {error_msg}", exc_info=True)
    return {"success": False, "message": error_msg}

스케줄 시간 분리

# rb8001 크론 설정 변경
"09:00": ["daily_briefing"],     # 일일 브리핑
"09:05": ["companyx_headlines"]  # 5분 간격으로 분리

타임아웃 값 통일

# 모든 서비스에 40초로 통일
self.timeout = 40  # Playwright 처리 시간 고려

중기 개선 (1-2주)

리소스 풀 분리

# skill-news에 브라우저 풀 구현
class BrowserPool:
    def __init__(self, max_browsers=3):
        self.pool = []
        self.max_browsers = max_browsers
    
    async def get_browser(self):
        # 재사용 가능한 브라우저 반환
        pass

재시도 로직 추가

@retry(stop=stop_after_attempt(3), 
       wait=wait_exponential(multiplier=1, min=4, max=10))
async def fetch_with_retry():
    # 지수 백오프로 재시도
    pass

메트릭 수집

# 응답 시간, 메모리 사용량 추적
metrics = {
    "p50": calculate_percentile(50),
    "p95": calculate_percentile(95),
    "p99": calculate_percentile(99),
    "memory_peak": get_memory_usage()
}

장기 개선 (1개월+)

관측성 인프라 구축
- 분산 추적 (Jaeger/Zipkin)
- 메트릭 대시보드 (Grafana)
- 로그 집계 (ELK Stack)
큐잉 시스템 도입
- Celery/RabbitMQ로 비동기 작업 관리
- 우선순위 큐로 중요 작업 보장
서킷 브레이커 패턴
- 연속 실패 시 자동 차단
- 대체 경로 활성화

검증 방법

로그 확인

# 개선된 에러 메시지 확인
docker logs rb8001 --tail 100 | grep "fetch_naver_headlines error"

메모리 모니터링

# 09:00 전후 메모리 사용량
docker stats rb8001 skill-news skill-email

부하 테스트

# 동시 요청 시뮬레이션
for i in {1..5}; do
  curl -X POST http://localhost:8505/api/news/naver/startup-headlines &
done
wait

교훈

예외 처리 시 항상 타입 정보 포함: str(e)만으로는 불충분
리소스 집약적 작업은 시간 분리: 동시 실행 피하기
관측성은 필수: 문제 발생 전 모니터링 체계 구축
타임아웃 체인 일관성: 전체 경로의 타임아웃 값 통일
재시도와 서킷 브레이커: 일시적 장애 대응 필수

참고 자료

aiohttp empty error messages issue
Python MemoryError empty string behavior
시퀀스 다이어그램: /DOCS/300_architecture/sequences/daily_briefing_sequences.md

5.9 KiB Raw Blame History