چگونه می توان به راحتی مدل های ML را برای تولید به کار گرفت

یکی از حقایق شناخته شده دنیای یادگیری ماشین (ML) این است که استفاده از مدل های ML برای تولید بسیار طولانی تر از توسعه آن است.

مشکل استقرار مدلهای ML در تولید کاملاً مشخص است. نرم افزار مدرن به خصوصیات حیاتی مختلف مانند مقیاس درخواستی و در دسترس بودن بالا نیاز دارد. در نتیجه ، ممکن است تلاش و زمان زیادی لازم باشد تا مدل ها به درستی در محصولات تولید شوند.

بیایید در مورد گزینه های مختلفی که هنگام استفاده از مدل های ML دارید ، بحث کنیم. انواع به ترتیب از عمومی ترین به ML خاص ارائه می شوند.

1. Hardwave / VM

بیشترین مستقیم راه کار برای نصب هر چیزی این است که یک ماشین مجازی اجاره کنید ، یک مدل را به نوعی از سرور بپیچید و آن را روشن بگذارید. در حالی که بسیار ساده و قابل تنظیم است ، این روش دارای اشکالات بی شماری از جمله ادغام سخت در خطوط لوله CI / CD و مشکلات انزوا است.

2. ظروف

استقرار مدلهای ML در ظروف داکر با استفاده از Kubernetes یا ابزارهای مشابه ارکستراسیون امکان پذیر است. این گزینه باعث بهبود کیفیت زندگی بیشتر می شود. مدل ها را می توان به راحتی در سرورهای خاص طراحی شده مانند NVIDIA Triton یا Tensorflow Runtime قرار داد (برای گزینه VM نیز کار می کند). در حال حاضر حتی راحت تر است که مدل های زنجیره ای …