docs: Fluent Bit 최종 해결 과정 업데이트

- 멀티 서버 로그 수집 환경변수 분기
- debug 로그 무한루프 해결 (Log_Level info)
- Actions Git 충돌 해결 과정
- 현재 상태: 양쪽 서버 정상 수집 중
This commit is contained in:
happybell80 2025-09-30 03:21:20 +09:00
parent 0bee50de1a
commit 56f0360844

View File

@ -59,15 +59,36 @@
4. **인덱스명 확인 중요**: 기본값이 logstash-*라 dataprepper-*로 검색하면 안 보임 4. **인덱스명 확인 중요**: 기본값이 logstash-*라 dataprepper-*로 검색하면 안 보임
5. **Data Prepper는 JSON 배열만 수락**: HTTP output 대신 es/opensearch 직접 연결 권장 5. **Data Prepper는 JSON 배열만 수락**: HTTP output 대신 es/opensearch 직접 연결 권장
## 현재 상태 ## 현재 상태 (2025-09-30 03:16)
- 로그 정상 수집 중 - 양쪽 서버 로그 정상 수집 중
- 51123: fluent-bit, opensearch, auth-server, robeing-gateway
- 51124: rb8001, robeing-skill-news, skill-email, skill-embedding, skill-publish, skill-rag-file, robeing_monitor
- 로그 증가 속도: 분당 23개 (정상)
- OpenSearch 총 용량: 640MB
## 멀티 서버 로그 수집 (2025-09-30) ## 최종 해결 과정
### 문제
- 51124 서버의 Fluent Bit이 127.0.0.1로 보내서 51123 OpenSearch에 도달 못함
### 해결 ### 1. 멀티 서버 로그 수집
- fluent-bit.conf: Host를 ${OPENSEARCH_HOST} 환경변수로 변경 **문제**: 51124 서버의 Fluent Bit이 127.0.0.1로 보내서 51123 OpenSearch에 도달 못함
- 51123 서버 .env: OPENSEARCH_HOST=127.0.0.1
- 51124 서버 .env: OPENSEARCH_HOST=192.168.219.45 **해결**: 환경변수로 Host 분기
- 결과: 양쪽 서버 로그 모두 51123 OpenSearch에 수집됨 - fluent-bit.conf: `Host ${OPENSEARCH_HOST}`
- docker-compose.yaml: `OPENSEARCH_HOST=${OPENSEARCH_HOST:-127.0.0.1}`
- 51123 서버 .env: `OPENSEARCH_HOST=127.0.0.1`
- 51124 서버 .env: `OPENSEARCH_HOST=192.168.219.45`
### 2. debug 로그 무한루프 문제
**문제**: Log_Level debug로 Fluent Bit 자기 자신 로그를 수집하는 무한루프
- 5초마다 5MB 버퍼 초과로 멈춤
- 하루 수십만개 debug 로그 생성
**해결**: `Log_Level debug → info` 변경
- 메모리 버퍼도 5MB → 50MB 증가
- Docker 완전 재빌드 필수 (restart로는 적용 안 됨)
### 3. Actions 배포 충돌
**문제**: 51124 서버 .env 파일 Git 충돌 (`<<<<<<< HEAD` 마커)
**해결**: Git Actions에서 강제 reset으로 충돌 해결
- `git reset --hard origin/main`으로 로컬 변경사항 무시
- Actions 배포 성공 확인