1.1. Kubeflow 대시보드 내에 MLFlow 임베딩하기

2024. 3. 1. 20:17·MLOps

참고한 블로그 - https://medium.com/dkatalis/kubeflow-with-mlflow-702cf2ebf3bf

앞선 포스팅에서 Kubeflow를 설치했다. 그리고 MLflow도 설치했다.
이번 포스팅의 목적은 Kubeflow 대시보드에 MLFlow가 하나의 탭으로 추가하는 것이다.

Kubeflow의 Central Dashboard에서 하나의 탭을 클릭할 때 다양한 엔드포인트로 라우팅 하기 위해 VirtualService를 사용한다. (주피터, Katib, pipeline 등)
우리의 목적은 mlflow 버튼을 클릭하면 mlflow tracker UI로 라우팅 해야 하므로 추가로 virtual service를 생성해야 한다.

아래 yaml을 배포하자.

kubectl apply -f mlflow_virtual_service.yaml
apiVersion: networking.istio.io/v1beta1
kind: VirtualService
metadata:
  name: mlflow
  namespace: kubeflow
spec:
  gateways:
  - kubeflow/kubeflow-gateway
  hosts:
  - '*'
  http:
  - match:
    - uri:
        prefix: /mlflow/
    rewrite:
      uri: /
    route:
    - destination:
        host: mlflow-tracking.mlflow.svc.cluster.local
        port:
          number: 80

이제 /mlflow/ 라는 라우터에 접근 시 mlflow-tracking.mlflow.svc.cluster.local:80 로부터 요청을 받아온다.

그리고 Central Dashboard에 버튼을 추가해줘야 하는데, 이건 configmap으로 정의되어 있다. 이걸 수정해 주자.

kubectl edit cm centraldashboard-config -n kubeflow

추가한 내용

{
  "type": "item",
  "link": "/mlflow/",
  "text": "mlflow",
  "icon": "device:access-alarm"
}

아래와 같이 추가하면 된다.

Configmap에 MLflow 탭 추가

이제 마지막으로 Central Dashboard를 재시작해주자.

kubectl rollout restart deploy centraldashboard -n kubeflow

이제 다시 대시보드에 접근해 보자.

성공했다!

Kubeflow 대시보드에 MLflow 탭이 추가되었다.

'MLOps' 카테고리의 다른 글
  • BentoML로 패키징하여 배포하고 Prometheus로 모니터링
  • BigQueryML 튜토리얼 따라하기
  • 1. 로컬환경의 K8s에 Kubeflow와 MLflow 설치 - Kubeflow와 MLflow
  • 0. 개요 - Kubeflow와 MLflow
ssuwani
ssuwani
  • ssuwani
    Oops!!
    ssuwani
  • 전체
    오늘
    어제
    • 분류 전체보기 (69)
      • MLOps (19)
      • 데이터 엔지니어링 (4)
      • Kubernetes (5)
      • Kafka (10)
      • 📚책 (3)
      • 라즈베리파이 (1)
      • ETC (8)
      • Python (6)
      • 언어모델 (5)
  • 블로그 메뉴

    • 홈
    • 태그
    • 방명록
  • 링크

  • 공지사항

  • 인기 글

  • 태그

    Kubernetes
    LangChain
    Prometheus
    Python
    auto tagging
    Github Actions
    Confluent Cloud
    mlflow
    RDD
    producer
    fluentbit
    Airflow
    asyncronous
    LLM
    Schema Registry
    FastAPI
    redis
    BentoML
    gcp
    Docker
    consumer
    태그1
    태그2
    Spark
    topic
    Kafka
    datadrift
    Kubeflow
    evidently ai
    MLOps
  • 최근 댓글

  • 최근 글

  • hELLO· Designed By정상우.v4.10.1
ssuwani
1.1. Kubeflow 대시보드 내에 MLFlow 임베딩하기
상단으로

티스토리툴바