모니터링
테넌트의 추론 지표(RPS·에러율·p95 지연·데이터 지연), 학습 큐·GPU 추세, 모델별 성능과 입력 분포 확인
필요 권한: 조회
운영 중인 모델의 상태 확인. 위쪽은 테넌트 전체 추론 지표(Prometheus), 가운데는 학습 대기열과 GPU 사용 추세, 아래쪽은 선택한 모델의 성능·입력 분포. 모든 멤버 조회 가능, 읽기 전용.
| 번호 | 영역 | 설명 |
|---|---|---|
| ① | 필터 | 모델(모델 전체 또는 모델 하나), 엣지(엣지 전체 또는 장비 하나. Edge 기능이 활성화된 테넌트만), 기간(1h · 24h · 7d · 30d, 기본 24h). 모델 목록은 최근 모델 한 페이지만 포함, 나머지가 있으면 그 수 표시. 필터는 주소에 남아 링크로 공유 가능. |
| ② | 운영 지표 | RPS(초당 요청 수) · 에러율(%) · p95 지연(ms) · 데이터 지연(ms). 플랫폼을 거친 추론 요청으로 계산, 30초마다 갱신. 아래 한 줄은 값이 비어 있는 이유. 데이터 지연은 현재 이 값을 기록하는 구성 요소가 없어 항상 —. |
| ③ | 학습 큐 | 이 테넌트의 실행 중·대기 학습 수 추세. 모델·엣지 필터와 무관. 대기는 서버 전체 동시 학습 한도(기본 1개, 모든 테넌트가 공유)를 기다리는 학습. GPU 슬롯은 대기 사유가 아니며 제출 시 검사. |
| ④ | GPU 슬롯 | 배선된 슬롯과 점유 슬롯의 추세. 테넌트 전체 값. 플랫폼이 기록을 시작한 뒤부터 누적. |
| ⑤ | 모델별 카드 영역 | 모델 선택 시 모델 성능·입력 분포 카드 표시. |
경보 기능이 활성화되어 있고 KPI 경보가 발생하면 ② 위에 발생 중인 KPI 알림 줄 표시. 누르면 해당 경보로 이동.
모델을 선택한 경우
| 번호 | 카드 | 설명 |
|---|---|---|
| ① | 모델 성능 | 정확도·검출율·평균 신뢰도·저신뢰 비율의 추이. 점에 마우스를 올리면 그 점의 표본 수 표시. 기간 필터와 무관하게 전체 기간(카드에 "기간 선택 미적용" 표시). |
| ② | 입력 분포 / 드리프트 | 입력 피처별 분포와 PSI·KS 값(분포의 변화 정도를 나타내는 지표, 기준 7일 고정). 피처가 많으면 4개까지만 표시. 드리프트 판정과 정책은 드리프트 화면 참고. |
두 카드는 플랫폼 DB 의 모델별 집계 조회. 현재는 이 집계를 채우는 작업이 없어(화면 안내: "집계 작업은 아직 준비 중입니다") 데모 데이터를 입력한 테넌트가 아니면 비어 있음. 드리프트 측정값(PSI·KS)과 판정은 별도로 기록, 드리프트 화면에서 확인.
주요 작업
값이 비어 있는 경우
| 표시되는 안내 | 뜻 |
|---|---|
| "메트릭 소스(Prometheus)가 비활성화되어 값이 비어 있습니다" | 모니터링 스택 미연결. 시스템 관리자에게 문의. |
| "이 테넌트로 들어온 추론 요청이 아직 없습니다" | 연결은 정상. 요청이 수신되면 값이 채워짐. |
| "선택한 모델·엣지로 들어온 추론 요청이 이 기간에 없습니다" | 필터 조건에 맞는 요청 없음. 기간 확대. |
| 기록된 추세 없음 | 추세 지표가 아직 누적되지 않음. |
| 성능 데이터 없음 · 분포 데이터 없음 | 선택한 모델의 집계 없음(위 설명 참고). |