DidimIO
2026.03. - 진행 중DidimNow System 모니터링 데이터를 활용한 메트릭 예측·분석 서비스입니다. 약 1,000만 건/일 규모 관제 데이터를 TimescaleDB에 수집·동기화하고, Airflow·MLflow 기반 학습/예측 파이프라인과 LightGBM·TimesFM 실시간 예측 API를 개발했습니다. 실시간 추론 응답 30~80ms 수준을 확보하고, Helm·ArgoCD 기반 GitOps로 개발/운영 자동 배포 환경을 구성했습니다.
- Go
- Echo
- Python
- FastAPI
- Airflow
- MLflow
- PostgreSQL
- TimescaleDB
- Kubernetes
- GitLab Runner
- ArgoCD
- Helm
- Istio
핵심 성과
- 약 1,000만 건/일 규모의 관제 시계열 데이터를 TimescaleDB에 수집·동기화하는 배치 오케스트레이터 개발
- Airflow·MLflow 기반 모델 학습/예측 자동화 파이프라인 구축
- LightGBM·TimesFM 모델 실시간 예측 API 개발 및 30~80ms 수준 응답 확보
- Helm·ArgoCD 기반 GitOps 배포 체계 구축으로 dev/prod 자동 배포 환경 구성
담당업무
모니터링 관제 시스템에서 클라우드 리소스 메트릭과 메타데이터를 수집하는 배치 오케스트레이터를 개발했습니다. 세마포어 기반 동시성 제어(최대 100개 Observer 병렬 수집)와 단위 배치 처리로 일 단위 약 1,000만 건의 시계열 데이터를 TimescaleDB에 수집·동기화하고, 시계열 조회 인덱스 설계와 부분 실패 허용·자동 복구 메커니즘으로 조회 성능과 안정성을 확보했습니다.
메트릭 추출 / 모델 학습 / 예측 / 스케일링 추천을 Apache Airflow로 오케스트레이션하는 파이프라인을 구축했습니다. lag·rolling 등 시계열 피처를 엔지니어링하고, 다중 Horizon LightGBM 모델을 매주 자동 재학습·무중단 배포하도록 자동화했습니다.
LightGBM·TimesFM 2종 모델의 실시간 다중 horizon 예측과 TimescaleDB 시계열 조회, 예측한 데이터를 기반으로 OpenAI API를 통해 자연어 형태의 요약 보고서를 서빙하는 REST API를 개발했습니다. 실시간 추론 응답시간 30~80ms를 달성하고, 모델 부분 실패 격리·무중단 재로드와 IP Allowlist·Rate Limit·구조화 로깅 등 운영 미들웨어로 서빙 안정성을 확보했습니다.
플랫폼 전체를 Helm 차트로 패키징하고, GitLab CI를 이용한 Helm 차트 검증 파이프라인과 values 변경 시 1~2분 내 자동 동기화를 통해 개발/운영 2개 클러스터에 ArgoCD GitOps로 자동 배포하는 인프라를 설계 및 체계를 구축했습니다.
