جدول پیوندها
چکیده و 1. مقدمه
2 مدل اصلی GPT4All
2.1 گردآوری و مدیریت داده ها
2.2 آموزش مدل، 2.3 دسترسی به مدل و 2.4 ارزیابی مدل
3 از یک مدل به یک اکوسیستم
3.1 GPT4All-J: رشد مخزن و پیامدهای مجوز LLaMA
3.2 GPT4All-Snoozy: ظهور اکوسیستم GPT4All
3.3 وضعیت فعلی GPT4All
4 آینده GPT4All
محدودیت ها و مراجع
3.2 GPT4All-Snoozy: ظهور اکوسیستم GPT4All
GPT4All-Snoozy تقریباً با همان روشی که مدلهای قبلی GPT4All بود، اما با چند تغییر کلیدی توسعه یافت. ابتدا، GPT4All-Snoozy از مدل پایه LLaMA-13B به دلیل معیارهای پایه برتر آن در مقایسه با GPT-J استفاده کرد. در مرحله بعد، GPT4All-Snoozy داده های آموزشی دالی را در ترکیب قطار خود گنجاند. پس از پردازش داده ها و حذف مجدد داده ها با اطلس، این مجموعه آموزشی شامل 739259 جفت پاسخ سریع به دست آمد. ما مدلی را که از آموزش روی این مجموعه داده بهبودیافته GPT4All-Snoozy حاصل شد، دوبله کردیم. همانطور که در شکل 1 نشان داده شده است، GPT4All-Snoozy بهترین میانگین امتیاز را در معیار ارزیابی ما از هر مدلی در اکوسیستم در زمان انتشار داشت.
همزمان با توسعه GPT4All، چندین سازمان مانند LMSys، Stability AI، BAIR، و Databricks ساخته و استقرار باز…