본문 바로가기

MLOps & DevOps/BentoML

(2)
[BentoML] Machine Learning Model Serving (2) - BentoML이란, 주요 특징 👋 Intro 안녕하세요, 유블린입니다. 이 시리즈에서는 BentoML의 기본 개념에 대해 공부해 보려고 합니다. 이번글에서는 BentoML이 무엇인지 그리고 주요 특징은 뭐가 있는지 간단히 살펴볼 예정입니다. 1. BentoML이란? 2. BentoML의 핵심 개념? 😝 BentoML BentoML은 머신러닝, 딥러닝 모델을 API 형태로 서빙할 수 있게 도와주는 라이브러리입니다. BentoML의 주요 컨셉은 Data Scientist 들이 모델을 더 쉽고 간편하게 테스트하고 배포할 수 있게 하기 위한 툴을 제공하자는 것입니다. 서버에 pickled model 파일이나 Protobuf 파일을 업로드하는 것 대신에 더 편안한 방법을 제시하자는 것이죠. 이러한 컨셉에 맞게 BentoML을 사용하면, 파이썬..
[BentoML] Machine Learning Model Serving (1) - Serving의 개념 Online vs Offline vs Edge 👋 Intro 안녕하세요, 유블린입니다. 이 시리즈에서는 BentoML의 기본 개념에 대해 공부해 보려고 합니다. 시리즈를 시작하기 앞서 BentoML은 BentoML은 머신러닝, 딥러닝 모델을 API 형태로 서빙할 수 있게 도와주는 라이브러리입니다. 그럼 BentoML을 공부하기 전에 Serving이 무엇인지 먼저 알아야 겠죠? 이번 글에서는 Serving이란 무엇이고 각 서빙의 방식의 특징은 무엇인가에 대해 다뤄보려고 합니다. 1. Serving이란? 2. 각 Serving 방식의 특성? 😎 Serving Machine Learning Model 개발 프로젝트의 성공적인 마지막 단계는 개발된 모델을 실제(production) 환경에 배포하는 것입니다. 아래 방법들은 일반적으로 MLOps 개발자들에게 ..