نحوه اجرای LLM با استفاده از LM Studio در لینوکس (برای مبتدیان)

LM Studio یک برنامه رابط کاربری گرافیکی محبوب است که به کاربران با دانش اولیه رایانه اجازه می دهد تا به راحتی مدل های زبان بزرگ (LLM) را به صورت محلی بر روی دستگاه های لینوکس خود دانلود، نصب و اجرا کنند.

مدل‌های محبوب LLM مانند Llama 3، Phi3، Falcon، Mistral، StarCoder، Gemma و بسیاری دیگر را می‌توان به راحتی با استفاده از رابط‌های چت LM Studio نصب، راه‌اندازی و دسترسی داشت.

به این ترتیب، شما درگیر هوش مصنوعی مبتنی بر ابری مانند ChatGPT OpenAI نخواهید بود و به راحتی می توانید LLM خود را به صورت آفلاین و بدون پرداخت پول اضافی برای ویژگی های کامل اجرا کنید.

در این مقاله، نحوه نصب LM Studio بر روی لینوکس، راه اندازی و استفاده از مدل GPT-3 را به شما نشان خواهم داد.

سیستم مورد نیاز

اجرای مدل های LLM به صورت محلی بر روی رایانه شخصی مستلزم رعایت حداقل الزامات خاص برای اطمینان از تجربه مناسب است. مطمئن شوید که حداقل …

  • کارت گرافیک NVIDIA یا AMD با حداقل 8 گیگابایت VRAM.
  • 20 گیگابایت فضای ذخیره سازی رایگان (SSD گزینه بهتری خواهد بود).
  • 16 گیگابایت رم DDR4.

نصب LM Studio روی لینوکس

ابتدا از وب سایت رسمی LM Studio دیدن کنید و با کلیک بر روی “LM Studio AppImage” را دانلود کنید.LM Studio را برای لینوکس دانلود کنید.

پس از اتمام دانلود، ترمینال خود را باز کنید، به فهرست دانلودها بروید و مجوزهای اجرایی را به LM Studio AppImage اختصاص دهید.

$ cd ~/Downloads/
$ chmod u+x...

Source link