모니터링 | Geo-MLOps 매뉴얼

운영 중인 모델이 잘 돌고 있는지 보는 화면입니다. 위쪽은 테넌트 전체 추론 지표(Prometheus), 가운데는 학습 대기열과 GPU 사용 추세, 아래쪽은 특정 모델을 골랐을 때의 성능·입력 분포입니다. 모든 멤버가 볼 수 있고 읽기 전용입니다.

모니터링: ① 모델·엣지·기간 필터 ② 운영 지표 4종 ③ 학습 큐 추세 ④ GPU 슬롯 추세 ⑤ 모델별 카드 자리

번호	영역	설명
①	필터	모델(모델 전체 또는 모델 하나), 엣지(엣지 전체 또는 장비 하나), 기간(1h · 24h · 7d · 30d). 필터는 주소에 남아 링크로 공유할 수 있습니다.
②	운영 지표	RPS(초당 요청 수) · 에러율(%) · p95 지연(ms) · 데이터 지연(ms). 아래 한 줄은 값이 비어 있는 이유입니다.
③	학습 큐	실행 중·대기 학습 수의 추세.
④	GPU 슬롯	배선된 슬롯과 점유 슬롯의 추세.
⑤	모델별 카드 자리	모델을 고르면 모델 성능·입력 분포 카드가 나타납니다.

경보 기능이 켜져 있고 KPI 경보가 울리고 있으면 ② 위에 발생 중인 KPI 알림 줄이 붙어 해당 경보로 바로 갑니다.

모델을 골랐을 때

모델을 고르면 나타나는 카드: ① 모델 성능 ② 입력 분포·드리프트

번호	카드	설명
①	모델 성능	정확도·검출율·평균 신뢰도·저신뢰 비율의 추이. 현장 정답(GT) 피드백이 집계되면 채워집니다. 기간 필터와 상관없이 전체 기간을 봅니다.
②	입력 분포 / 드리프트	입력 피처별 분포와 PSI·KS 값(분포가 얼마나 달라졌는지 나타내는 지표, 기준 7일). 피처가 많으면 4개까지만 보입니다. 드리프트 판정과 정책은 드리프트 화면에서 다룹니다.

주요 작업

① 에서 모델을 고르고 기간을 정합니다.
② 의 값이 나빠졌으면 경보에 관련 경보가 있는지 봅니다.
입력 분포가 흔들리면 드리프트에서 모델을 열어 PSI 추이와 정책을 확인합니다.

값이 비어 있을 때

보이는 안내	뜻
메트릭 소스(Prometheus)가 비활성화되어 값이 비어 있습니다	모니터링 스택이 연결되지 않았습니다. 시스템 관리자에게 문의합니다.
이 테넌트로 들어온 추론 요청이 아직 없습니다	연결은 정상이고, 요청이 들어오면 채워집니다.
선택한 모델·엣지로 들어온 추론 요청이 이 기간에 없습니다	필터 조건에 맞는 요청이 없습니다. 기간을 늘려 봅니다.
기록된 추세 없음	추세 지표가 아직 쌓이지 않았습니다.