핵심 개념
테넌트, 데이터셋, 실험과 Run, 모델 버전, 승인, 런타임 이미지, 서빙, 엣지, 경보, 드리프트
매뉴얼 전체에서 되풀이되는 말들입니다. 처음 읽을 때 한 번 훑어 두면 나머지 장이 쉬워집니다.
테넌트와 역할
테넌트
플랫폼을 나눠 쓰는 단위(팀·사업부·고객사)입니다. 데이터셋, 실험, 모델, 이미지, 장비, 경보가 모두 테넌트에 속합니다. 다른 테넌트의 것은 보이지 않습니다. 테넌트는 화면 오른쪽 위 테넌트 선택기로 바꿉니다. 테넌트마다 쓸 수 있는 기능(학습, 서빙, 엣지 등)을 켜고 끌 수 있습니다.
멤버와 역할
사용자는 테넌트의 멤버가 되면서 역할(VIEWER·DEVELOPER·OPERATOR·APPROVER·ADMIN) 하나를 받습니다. 역할이 권한을 정합니다. 자세한 내용은 역할과 권한에 있습니다.
전역 관리자
테넌트와 상관없이 플랫폼 전체를 관리하는 계정입니다. 테넌트를 만들고 GPU 를 배선하며 시스템 콘솔을 씁니다.
데이터와 학습
데이터셋
학습에 쓰는 파일 묶음입니다. 만들 때 바로 확정되고, 그 뒤에도 파일을 더하거나 뺄 수 있습니다. 파일이 바뀔 때마다 파일 목록(manifest)을 다시 기록합니다. 그래서 학습 때 어떤 파일이 쓰였는지 남습니다. 직접 올리거나 외부 DataOps 시스템에서 동기화합니다.
학습 실행
마법사로 제출한 한 번의 학습입니다. 서버가 대기 → 런타임 준비 → 데이터 준비 → 학습 → 등록 → 마무리 여섯 단계로 진행 상황을 보여 줍니다. Kubernetes Job 으로 돌며, 중지하거나 같은 설정으로 다시 제출할 수 있습니다. 중지한 학습을 그대로 이어 가는 기능은 없고, 체크포인트를 시작 가중치로 올려 새 학습을 시작합니다.
학습 런타임
학습 코드가 들어 있는 컨테이너 이미지입니다. YOLO·RF-DETR·Pointcept 같은 내장 런타임이 있고, 협력사가 만든 이미지를 외부 이미지로 등록해 쓸 수도 있습니다. 모든 테넌트가 함께 쓰는 공유 런타임이 있고, 테넌트가 자기 것을 따로 둘 수도 있습니다.
실험과 Run
학습 실행 하나가 MLflow 의 Run 하나가 됩니다. Run 에는 파라미터·지표(에폭별 곡선)·산출물(모델 파일 등)이 남고, 같은 목적의 Run 들이 하나의 실험으로 묶입니다.
모델과 내보내기
모델 버전과 스테이지
등록된 모델은 버전 번호를 받고, 스테이지로 쓰임새를 나타냅니다: Staging(검증 중) → Production(운영) → Archived(보관). 학습이 성공하면 모델이 자동으로 등록되고 Staging 으로 올라갑니다.
승인
Production 승격은 곧바로 되지 않고 언제나 승인 요청으로 시작합니다. 요청은 승격 권한이 있는 사람(APPROVER·ADMIN)이 만들고, 승인 권한을 가진 사람이 승인해야 반영됩니다. 안전이 중요한 모델(geo.safety_critical 태그)은 승인이 두 번 필요합니다.
서빙 이미지와 API 서비스
모델 버전을 추론 서버 컨테이너로 빌드한 것이 서빙 이미지입니다. 이 이미지를 클러스터에 띄워 REST 로 부르는 것이 API 서비스입니다. 화면의 추론 콘솔에서 바로 시험해 볼 수 있습니다.
배포
모델을 대상(API 서비스 또는 현장 장비들)에 반영한 기록입니다. 이전 버전으로 롤백할 수 있습니다.
현장과 감시
Edge 디바이스
현장의 추론 장비입니다. geo-mlops-sdk 에이전트가 하트비트(장비가 살아 있다고 주기적으로 보내는 신호)를 보내고, 센서·PLC 데이터와 추론 결과를 올리며, 중앙이 보낸 명령·정책·모델을 받습니다. 네트워크가 끊겨도 로컬에 쌓아 두었다가 다시 연결되면 보냅니다.
경보와 알림
경보는 시스템이 감지한 문제(장비 끊김, API 지연, 드리프트 등)로, 확인·해결·음소거를 합니다. 알림은 나에게 온 소식(승인 요청, 학습 결과 등)으로, 종 아이콘의 알림함에 쌓입니다. 둘은 다른 것입니다.
드리프트
운영 중 들어오는 입력의 분포가 학습 때와 달라지는 현상입니다. 플랫폼은 두 분포가 얼마나 다른지를 PSI·KS 지표로 잽니다. 기준을 넘으면 경보를 내고, 그 화면에서 재학습을 바로 시작할 수 있습니다.
GPU 배선
클러스터의 GPU 를 테넌트에 할당하는 일입니다. 여러 테넌트가 함께 쓰는 공유 풀과 한 테넌트만 쓰는 전용이 있고, 배선되지 않은 테넌트는 GPU 로 학습·서빙할 수 없습니다(CPU 로만 실행).