핵심 개념
테넌트, 데이터셋, 실험과 Run, 모델 버전, 승인, 런타임 이미지, 서빙, 엣지, 경보, 드리프트
매뉴얼 전체에서 사용하는 용어.
테넌트와 역할
테넌트
플랫폼을 나누어 사용하는 단위(팀·사업부·고객사). 데이터셋, 실험, 모델, 이미지, 장비, 경보가 모두 테넌트에 소속. 다른 테넌트의 항목은 표시되지 않음. 테넌트는 화면 오른쪽 위 테넌트 선택기로 전환. 기능(학습, 서빙, 엣지 등)은 테넌트마다 활성화·비활성화.
멤버와 역할
사용자는 테넌트의 멤버가 되면서 역할(VIEWER·DEVELOPER·OPERATOR·APPROVER·ADMIN) 하나를 부여받음. 역할에 따라 권한 결정. 자세한 내용은 역할과 권한 참고.
전역 관리자
테넌트와 무관하게 플랫폼 전체를 관리하는 계정. 테넌트 생성, GPU 배선, 시스템 콘솔 사용.
데이터와 학습
데이터셋
학습용 파일 묶음. 생성 즉시 확정, 이후에도 파일 추가·제거 가능. 파일 변경 시마다 파일 목록(manifest)을 다시 기록해 학습에 사용된 목록 보존. 직접 업로드 또는 외부 DataOps 시스템에서 동기화.
학습 실행
마법사로 제출한 한 번의 학습. 서버가 실행 대기 → 학습 환경 준비 → 데이터셋 준비 → 학습 → 모델 레지스트리 등록 → 결과 정리 여섯 단계로 진행 상황 표시. Kubernetes Job 으로 실행, 중지 또는 같은 설정으로 다시 제출 가능. 중지한 학습은 이어서 실행 불가, 체크포인트를 시작 가중치로 업로드해 새 학습 시작.
학습 런타임
학습 코드가 들어 있는 컨테이너 이미지. YOLO·RF-DETR·Pointcept 같은 내장 런타임 제공, 협력사가 만든 이미지는 외부 이미지로 등록해 사용. 런타임은 모든 테넌트가 함께 사용하는 공유 런타임과 테넌트별 전용 런타임으로 구분.
실험과 Run
학습 실행 하나가 MLflow 의 Run 하나에 대응. Run 에 파라미터·지표(에폭별 곡선)·산출물(모델 파일 등) 기록, 같은 목적의 Run 들은 하나의 실험으로 묶임.
모델과 내보내기
모델 버전과 스테이지
등록된 모델에 버전 번호 부여, 스테이지로 용도 표시: Staging(검증 중) → Production(운영) → Archived(보관). 학습 마법사에서 모델 레지스트리 등록을 활성화하면 학습 성공 후 모델 버전 자동 등록. 비활성화 시 실험에서 Run 을 모델로 등록. 새 버전은 Staging 으로 등록.
승인
Production 승격은 항상 승인 요청으로 시작. 요청은 승격 권한이 있는 사람(APPROVER·ADMIN)이 생성, 승인 권한을 가진 사람이 승인해야 반영. 안전이 중요한 모델(geo.safety_critical 태그)은 두 번의 승인 필요.
서빙 이미지와 API 서비스
서빙 이미지는 모델 버전을 추론 서버 컨테이너로 빌드한 이미지. API 서비스는 이 이미지를 클러스터에 배포해 REST 로 호출하는 서비스. 화면의 추론 콘솔에서 시험 가능.
배포
모델 버전을 현장 장비에 배포한 기록. 장비는 Edge Fleet 에서 전송한 모델 내려받기 명령에 따라 모델을 실제로 내려받음. 롤백은 배포 기록을 롤백 상태로 변경. 장비에 이전 버전을 적용하려면 Edge Fleet 에서 이전 버전의 모델 내려받기 명령 전송.
현장과 감시
Edge 디바이스
현장의 추론 장비. geo-mlops-sdk 에이전트가 하트비트(장비가 동작 중임을 알리려고 주기적으로 전송하는 신호) 전송, 센서·PLC 데이터와 추론 결과 업로드, 중앙이 전송한 명령·정책·모델 수신. 네트워크 단절 시 데이터를 로컬에 저장, 연결 복구 시 전송.
경보와 알림
경보는 시스템이 감지한 문제(장비 연결 끊김, API 지연, 드리프트 등)로, 확인·해결 대상. Alertmanager 에서 수신한 경보는 음소거 가능. 알림은 사용자에게 전달되는 소식(승인 요청, 학습 결과 등)으로, 종 아이콘의 알림함에 저장.
드리프트
운영 중 들어오는 입력의 분포가 학습 때와 달라지는 현상. 플랫폼은 두 분포의 차이를 PSI·KS 지표로 측정. 기준 초과 시 경보 발생, 그 화면의 이 모델 다시 학습하기로 새 학습 마법사 시작.
GPU 배선
클러스터의 GPU 를 테넌트에 할당하는 작업. 여러 테넌트가 함께 사용하는 공유 풀과 한 테넌트만 사용하는 전용으로 구분, 배선되지 않은 테넌트는 GPU 로 학습·서빙 불가(CPU 로만 실행).