MLops

패스트캠퍼스 챌린지 1일차

Laftel 2022. 1. 24. 17:55
반응형

프로그래머 유튜버들이 도커에 대해 많은 영상을 올렸다.  도커가 도대체 뭐지? 도커에 대한 영상을 봐도 완전히 이해를 하지 못 했다. 도커를 검색하다보니 쿠버네티스가 튀어나왔다. "이건 또 뭐야?" 이 강의를 들으면서 나의 궁금증은 풀렸다.

도커와 쿠버네티스

앤드류 응 교수가 중요시 여기는 MLops를 환경 구축을 위해서는 3가지의 작업,조건이 필요하다. 

1. 실행 환경의 일관성, 독립성 유지-Reproducibility

2. 머신러닝 트레이닝,학습의 스케줄 관리, 병렬 작업 관리, 유후 작업 관리-Job Scheduling

3.학습용 서버나 배포용 서버에 장애 모니터링/대응 , 트래픽 대응 최대한 자동화 시키기-Auto-healing & Auto-scaling

도커와 쿠버네티스를 이용하면 3가지 작업을 쉽게 할 수 있다.

왜?

도커는 컨테이너ization 기술이다. 

쿠버네티스는 컨테이너 오케스트래이션 기술이다.

컨터에너ization기술은 컨테이너화 하는 기술 인데, 컨테이너가 뭐냐?

컨테이너는 격리된 공간에서 프로세스를 실행시킬 수 있는 기술이다. 더 쉽게 말하자면 OS,python,텐서플로우,pythoch,pip 패키지를 모두 담은 실행 환경을 하나의 패키지로 만든 컨테이너ization기술

쿠버네티스의 컨테이너 오케스트래이션 기술은 말 그래도 여러 개의 컨테이너를 오케스트라 = 지휘하는 기술

예를 들어, 수 많은 도커 컨테이너를, 어떤 역할의 컨테이너를 어떤 서버에 배치할 것인가.

메모리가 많이 필요한 컨테이너는 메모리가 많이 남아있는 서버에 배치 시켜야 한다.

 GPU가 많이 필요한 컨테이너는 GPU가 많이 남아 있는 서버에 배치 시키고

저장 용량이 많이 필요한 컨테이너는 저장 용량이 많이 남아 있는 서버에 배치시킨다.

한 컨테이너의 장애가 나면 동일한 컨테이너를 다른 곳에 복제해서 생성시킨다.

서버를 추가시키면 기존 서버에 있던 load를 잘 분산 시켜야한다.

 

#패스트캠퍼스 #패캠챌린지 #직장인인강 #직장인자기계발 #패스트캠퍼스후기#온라인패키지:머신러닝서비스구축을위한실전MLOps#머신러닝서비스구축을위한실전MLOps온라인패키지Online.#MLops에서쿠버네티스가필요한이유

https://bit.ly/37BpXiC

 

패스트캠퍼스 [직장인 실무교육]

프로그래밍, 영상편집, UX/UI, 마케팅, 데이터 분석, 엑셀강의, The RED, 국비지원, 기업교육, 서비스 제공.

fastcampus.co.kr

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성되었습니다.

반응형