MLOps
IT 위키
더 많은 작업
MLOps(Machine Learning Operations, 기계 학습 운영화)는 기계 학습 모델의 개발과 운영을 하나의 자동화된 흐름으로 묶어, 모델을 안정적으로 배포하고 운영 중에도 지속적으로 감시·재학습할 수 있게 하는 방법론과 실천 체계다.
모델을 만드는 것보다 운영 환경에서 계속 잘 돌아가게 하는 것이 더 어렵다. 2015년 구글 연구진은 실제 ML 시스템에서 모델 코드는 작은 일부이고 데이터 수집·검증, 특성 추출, 서빙, 모니터링 같은 주변 인프라가 대부분이며, 이것이 쌓여 숨은 기술 부채가 된다고 지적했다.[1] MLOps 는 데브옵스의 지속적 통합·배포를 기계 학습에 적용하되, 코드뿐 아니라 데이터와 모델까지 버전 관리·검증·자동화 대상으로 넓힌 것이다.
기계 학습 시스템은 코드가 바뀌지 않아도 입력 데이터의 분포가 바뀌면 성능이 떨어진다. 그래서 MLOps 에는 데브옵스에 없는 지속적 학습(CT, Continuous Training)과 드리프트 모니터링이 들어간다.
데이터 과학과 기계 학습을 결합한 DSML(Data Science and Machine Learning) 프로젝트는 CRISP-DM 을 바탕으로 한 다음 수명주기를 반복한다.
| 단계 | 활동 | 산출물 |
|---|---|---|
| 비즈니스 이해 | 문제 정의, 성공 지표(업무 KPI 와 모델 지표) 설정, 타당성 검토 | 프로젝트 정의서 |
| 데이터 수집·이해 | 데이터 원천 확보, 탐색적 분석(EDA), 품질 점검 | 데이터 명세, 품질 보고서 |
| 데이터 준비 | 정제, 레이블링, 특성 공학, 학습·검증·평가 데이터 분할 | 학습용 데이터셋(버전 관리) |
| 모델 개발 | 알고리즘 선택, 학습, 하이퍼파라미터 튜닝, 실험 추적 | 후보 모델, 실험 기록 |
| 평가·검증 | 성능·공정성·설명 가능성 검증, 업무 지표로 평가 | 검증 보고서, 승인 |
| 배포 | 모델 패키징, 서빙(배치·실시간 API·엣지), A/B·카나리 배포 | 운영 모델 |
| 모니터링·개선 | 성능·드리프트 감시, 피드백 수집, 재학습 | 모니터링 지표, 새 모델 버전 |
마지막 단계의 결과가 다시 데이터 준비·모델 개발로 돌아가는 순환 구조이며, 이 순환을 자동화하는 것이 MLOps 의 목표다.
| 구성 요소 | 역할 |
|---|---|
| 데이터·특성 관리 | 데이터 버전 관리, 데이터 검증(스키마·분포), 학습과 서빙에서 같은 특성을 쓰도록 하는 특성 저장소(Feature Store) |
| 실험 추적 | 코드·데이터·하이퍼파라미터·결과를 함께 기록해 재현 가능하게 함 |
| ML 파이프라인 | 데이터 추출부터 학습·평가까지를 자동화한 파이프라인 |
| 모델 레지스트리 | 모델 버전, 메타데이터, 승인 상태(스테이징·운영) 관리 |
| CI / CD / CT | 코드·파이프라인의 지속적 통합과 배포(CI/CD), 새 데이터나 성능 저하 시 지속적 학습 |
| 모델 서빙 | 배치 예측, 온라인 API, 엣지 배포, 자원 자동 확장 |
| 모니터링 | 예측 성능, 데이터 드리프트(입력 분포 변화), 개념 드리프트(입력과 정답의 관계 변화), 지연 시간·자원 사용량 |
| 거버넌스 | 접근 통제, 감사 추적, 설명 가능성, 규제 준수 |
구글은 MLOps 자동화 수준을 세 단계로 설명한다.[2]
- 레벨 0 — 수동 프로세스 — 데이터 과학자가 노트북에서 수동으로 학습하고 모델 파일을 넘겨 배포한다. 배포가 드물고 모니터링이 없다.
- 레벨 1 — ML 파이프라인 자동화 — 학습 파이프라인을 자동화해 새 데이터가 오면 지속적 학습이 일어난다. 데이터·모델 검증, 특성 저장소, 메타데이터 관리가 들어간다.
- 레벨 2 — CI/CD 파이프라인 자동화 — 파이프라인 자체의 코드 변경까지 자동으로 빌드·테스트·배포한다. 새 아이디어를 빠르게 실험하고 운영에 반영한다.
| 구분 | 데브옵스 | MLOps |
|---|---|---|
| 대상 | 애플리케이션 코드 | 코드 + 데이터 + 모델 |
| 버전 관리 | 소스 코드 | 코드, 데이터셋, 특성, 모델, 하이퍼파라미터 |
| 결과의 결정성 | 같은 코드면 같은 동작 | 같은 코드라도 데이터·난수에 따라 결과가 다름. 실험 추적 필요 |
| 테스트 | 단위·통합 테스트 | 여기에 데이터 검증, 모델 성능·공정성 검증 추가 |
| 지속적 활동 | CI, CD | CI, CD + CT(지속적 학습) |
| 성능 저하 원인 | 코드 결함, 인프라 장애 | 여기에 데이터·개념 드리프트 추가 — 코드가 그대로여도 성능이 떨어진다 |
| 모니터링 | 가용성, 응답 시간, 오류율 | 여기에 예측 품질, 입력 분포 변화 추가 |
| 팀 구성 | 개발자, 운영자 | 데이터 과학자, 데이터 엔지니어, ML 엔지니어, 운영자 |
| 공통점 | 자동화, 협업 문화, 빠르고 잦은 배포, 피드백 루프 | |