شما باید یک مدل LLM محلی را امتحان کنید: در اینجا نحوه شروع به کار آمده است

مقدمه

در سال‌های اخیر، مدل‌های زبان بزرگ (LLM) روش تولید متن و کمک به کارهایی مانند نوشتن، تحقیق و غیره را متحول کرده‌اند. یکی از LLM های محبوب، LLaMA (برنامه مدل زبان بزرگ) است که می تواند برای افزایش قابلیت های برنامه یادداشت برداری مورد علاقه شما، Obsidian، استفاده شود. در این مقاله، نحوه ادغام یک مدل LLM محلی مانند LLaMA را در Obsidian در مک بررسی خواهیم کرد.

چرا از مدل های محلی LLM استفاده کنیم؟

  1. حریم خصوصی: مدل‌های محلی داده‌های شما را به فضای ابری ارسال نمی‌کنند، بنابراین می‌توانید مطمئن باشید که داده‌های شما امن و مطمئن هستند.

  2. سرعت: مدل‌های محلی سریع‌تر از مدل‌های ابری هستند، بنابراین می‌توانید نتایج خود را سریع‌تر دریافت کنید.

  3. هزینه: مدل‌های محلی ارزان‌تر از مدل‌های ابری هستند، بنابراین می‌توانید در هزینه خود صرفه‌جویی کنید.

  4. کنترل: مدل‌های محلی بیشتر از مدل‌های ابری قابل شخصی‌سازی هستند، بنابراین می‌توانید آنها را مطابق با نیازهای خود تنظیم کنید.

بزرگمزیت g برای توسعه دهندگان:

  1. اگر در استقرار یا ساخت مدل‌های LLM مهارت دارید، قطعاً در رزومه شما یک نکته برجسته است.

  2. اکثر مردم با ChatGPT در مرورگر چت می کنند. چیز خاصی نیست Local LLM راه جالب تری است و شاید در آینده محبوبیت بیشتری پیدا کند.

نحوه استفاده از مدل های محلی LLM در مک

1. دانلود و نصب کنید

LM Studio ابزاری است که برای تعامل با مدل‌های زبان بزرگ محلی (LLM) طراحی شده است. این امکان را به کاربران می دهد که مستقیما با این مدل ها چت کنند…

Source link