DOCS/journey/worklog/260318_51123_opensearch_샤드한도_로그적재복구.md

2.0 KiB

tags
tags
infra
51123
opensearch
fluent-bit
logging
worklog

260318 51123 OpenSearch 샤드한도 로그적재 복구

관련 문서

작업

  • OpenSearch 연결 경로를 현재 운영 주소 192.168.0.100:9200 기준으로 다시 확인했습니다.
  • 실제 적재 실패 원인이 dataprepper-static 샤드 문서 수 한도(2147483519) 도달임을 Fluent Bit와 OpenSearch 응답으로 확인했습니다.
  • /home/admin/robeing/fluent-bit/fluent-bit.conf에서 출력 인덱스를 dataprepper-static 대신 dataprepper-2026.03.18로 바꾸고, 부팅을 막던 multiline 필터를 제거했습니다.
  • docker compose up -d --build --force-recreate fluent-bit로 새 설정을 런타임에 반영했습니다.

확인된 사실

  • Data Prepper 경유 http -> 127.0.0.1:2021 경로는 Fluent Bit 로그 기준 HTTP 200 응답은 있었지만, OpenSearch에 새 일자 인덱스가 생성되지 않았습니다.
  • 직접 es 출력으로 전환한 뒤에는 새 인덱스가 실제로 생성됐고 문서 수가 증가했습니다.

검증

  • docker logs fluent-bit 기준 output:es:es.0 worker 시작을 확인했습니다.
  • curl -s http://192.168.0.100:9200/_cat/indices/dataprepper-2026.03.18?v 결과 새 인덱스가 생성됐습니다.
  • curl -s http://192.168.0.100:9200/dataprepper-2026.03.18/_count 결과 count=22를 확인했습니다.
  • 기존 dataprepper-static는 여전히 docs.count=2147483519 상태로 남아 있어, 원인 인덱스 해소가 아니라 새 인덱스로 적재를 복구한 상태임을 분리해서 기록합니다.

한 줄 결론

  • 51123 로그 적재 중단의 직접 원인은 dataprepper-static 샤드 포화였고, 현재는 새 일자 인덱스 dataprepper-2026.03.18로 적재가 다시 살아났습니다.