در این وبلاگ قصد داریم چند تفاوت کلیدی بین آنها را بررسی کنیم مدل های تکمیل چت (مانند موارد ارائه شده از طریق نقطه پایانی Chat Completions) و پیشرفته تر OpenAI Assistance API. نحوه مدیریت این دو رویکرد با پیامها، تاریخچه مکالمه، اسناد بزرگ، وظایف کدگذاری، محدودیتهای پنجره زمینه و موارد دیگر را بررسی خواهیم کرد. همچنین بررسی خواهیم کرد که چگونه Assistance API ابزارهای اضافی مانند مفسر کد، بازیابی اسناد و فراخوانی عملکرد را فراهم می کند که بر بسیاری از محدودیت های تکمیل چت غلبه می کند.
درک مدل های تکمیل چت
مدل های تکمیل چت، مانند GPT-4 یا GPT‑4o، معمولاً دنباله ای از پیام ها را به عنوان ورودی انتظار می رود. روند معمول ساده است:
- شما لیستی از پیام ها را برای مدل ارسال می کنید.
- مدل یک پاسخ تولید می کند.
- شما پاسخ را به عنوان خروجی دریافت می کنید.
جریان نمونه از تکمیل چت
می پرسی: پایتخت ژاپن کجاست؟
- مدل پاسخ می دهد: “پایتخت ژاپن توکیو است.”
سپس میپرسید: «درباره شهر به من بگویید.»
- این مدل میگوید هیچ زمینهای ندارد و نمیداند منظور شما کدام شهر است، زیرا ذاتاً تاریخچه پیام را در همان حالت مکالمه پیگیری نمیکند.
محدودیت های مدل های تکمیل چت
1. بدون سابقه پیام دائمی
یکی از اشکالات این است عدم وجود تاریخچه پیام. در…