[MLOps] MLflow 시작 & 개념 정리

 

 

 

mlflow 로고

 

 

 

 

최근 MLOps란 단어가 많이 등장했다.

 

 

MLOps : 프로덕션 환경에서 기계학습을 안정적으로 수행하기 위한 일련의 과정

MLOps = DevOps + Machine Learning

 

 

데이터 전처리, 분석, 모델링을 주로 공부해왔지만, 최근 들어 이런 시스템의 필요성을 느꼈다.

매 분석 순간마다 전처리-EDA-FE-Modeling-검증 과정을 거치면 시간이 많이 든다.

모델을 저장하고, 다시 서빙하는 과정도 간편화될 필요가 있다.

그런 생각의 흐름에서 MLflow를 공부하게 되었으며, 공부한 것들을 블로그로 정리해보고자 한다.

 

 

 

 

[참고자료]

 

https://github.com/mlflow/mlflow/

GitHub - mlflow/mlflow: Open source platform for the machine learning lifecycle

 

https://mlflow.org/docs/latest/quickstart.html

Quickstart — MLflow 1.25.1 documentation

 

---

 

 

 

 

1. MLflow 개념

---

A Machine Learning Lifecycle Platform

머신러닝을 실험하고, 배포하는 것을 쉽게 관리할 수 있는 오픈소스

* GUI, CLI를 지원

 

 

 

MLflow Main Function

 

1) Tracking (트래킹)

실험 후, 파라미터와 결과를 비교하기 위해 실험 결과를 저장한다.

 

2) Projects

머신러닝 코드를 재사용 가능하고 재현 가능한 형태로 만든다.

 

3) Models

모델을 관리하고, 배포, Serving, 추론합니다.

 

4) Model Registry

MLflow 모델의 전체 라이프사이클을 관리하기 위한 Centralized model store, UI.

MLflow의 전 과정을 쉽게 컨트롤 할 수 있는 방법을 남겼다.

 

 

 

REST API, CLI를 통해 모든 기능에 접근할 수 있다. API는 Python, R, Java 존재한다.

대게 머신러닝을 돌려본 사람이라면 알 것이다. 아무리 파이프라인을 잘 구축해놓고 실험을 해도, 모델과 파라미더 수가 많아지면 번거로워진다. 게다가 모델은 예측한 후, 버려지다시피 한다. 모델을 일일이 save 해서 모아놓는 것도 골치 아프다. 이런 일을 MLflow가 수월하게 해 준다고 보면 된다.

 

 

그럼 시작해보자.

 

 

 

 

 

2. MLflow 시작 & 클론

---

 

 

먼저 mlflow를 다운로드하자.

 

pip install mlflow

 

 

실습을 위해, MLflow github를 clone 하자.

 

git clone https://github.com/mlflow/mlflow
cd mlflow/examples/quickstart

 

 

mlflow_tracking.py를 보면 다음과 같다.

 

import os
from random import random, randint

from mlflow import log_metric, log_param, log_artifacts

if __name__ == "__main__":
    print("Running mlflow_tracking.py")

    log_param("param1", randint(0, 100))

    log_metric("foo", random())
    log_metric("foo", random() + 1)
    log_metric("foo", random() + 2)

    if not os.path.exists("outputs"):
        os.makedirs("outputs")
    with open("outputs/test.txt", "w") as f:
        f.write("hello world!")

    log_artifacts("outputs")

 

여기서 확인할 것은 어떻게 MLflow와 소통하는 가이다.

 

1) log_param() 

파라미터 로그를 MLflow db로 저장하는 함수다.

 

2) log_metric()

모델 평가 Score를 MLflow db로 저장하는 함수다.

 

3) log_artifacts()

모델 등 머신러닝 결과물을 MLflow db로 저장하는 함수다.

 

 

 

 

mlflow_tracking.py를 실행시켜보자.

 

python mlflow_tracking.py
> Running mlflow_tracking.py

 

목록을 보면 다음과 같이 뜬다.

 

 

1) mlruns : 기본적으로 mlflow의 실험들을 저장하는 폴더이다.

2) 숫자 0 : Default experiment. mlflow는 사용자가 실험 안에서 원하는 실험을 할 수 있도록 한다. 따라서 사용자는 원하는 실험 폴더를 만들어, 그 안에서 특정 실험을 진행할 수 있는다. 실험 폴더 만드는 방법은 후에 설명하겠다.

3) 일련번호 : 실험을 함으로써 저장된 모델 기록이다. 하나하나가 다른 실험 모델이다.

 

 

 

실험을 한 후, params, artifacts, metrics 폴더에 각각의 데이터가 저장된다.

 

 

 

 

웹 대시보드

 

웹을 통해 MLflow의 전체적인 상황을 직관할 수 있다.

 

mlflow ui

 

 

 

특정 실험을 누르면 파라미터와 메트릭스, artifacts를 자세히 확인할 수 있다.

 

 

 

 

 

 

 

이번 포스팅은 여기까지. 쉽시다.