Anthropic اعلام کرد یک ویژگی جدید Prompt Caching با Claude را اعلام کرد که قابلیت های Claude را برای کارهای تکراری با مقادیر زیادی اطلاعات متنی دقیق افزایش می دهد. ویژگی جدید آن را سریعتر، ارزانتر و قدرتمندتر میکند و امروز در نسخه بتا از طریق Anthropic API در دسترس است.
ذخیره سازی سریع
این ویژگی جدید برای کاربرانی که به طور مداوم از دستورالعملهای بسیار دقیق استفاده میکنند که از پاسخهای مثالی استفاده میکنند و حاوی مقدار زیادی اطلاعات پسزمینه در اعلان هستند، تقویتکنندههای قدرتمندی را ارائه میدهد، و کلود را قادر میسازد تا از دادهها با حافظه پنهان استفاده مجدد کند. این امر ثبات خروجی را بهبود می بخشد، پاسخ های Claude را تا 50٪ سرعت می بخشد (تأخیر کمتر)، و همچنین استفاده از آن را تا 90٪ ارزان تر می کند.
Prompt Caching with Claude مخصوصاً برای پروژههای پیچیدهای که بر دادههای یکسانی تکیه میکنند مفید است و برای مشاغل در هر اندازه مفید است، نه فقط سازمانهای سطح سازمانی. این ویژگی در نسخه بتا عمومی از طریق Anthropic API برای استفاده با کلود 3.5 Sonnet و Claude 3 Haiku در دسترس است.
این اطلاعیه راههای زیر را فهرست میکند که حافظه پنهان سریع عملکرد را بهبود میبخشد:
- عوامل مکالمه: کاهش هزینه و تأخیر برای مکالمات طولانی، به ویژه آنهایی که دستورالعمل های طولانی یا اسناد بارگذاری شده دارند.
- پردازش اسناد بزرگ: بدون افزایش تأخیر پاسخ، مطالب کامل و طولانی را در درخواست خود بگنجانید.
- مجموعه دستورالعمل های دقیق: فهرست های گسترده ای از دستورالعمل ها، رویه ها و مثال ها را به اشتراک بگذارید تا پاسخ های کلود را بدون تحمیل هزینه های مکرر تنظیم کنید.
- دستیاران کدنویسی: با نگه داشتن یک نسخه خلاصه شده از پایگاه کد در اعلان، پرسش و پاسخ را تکمیل خودکار و پایگاه کد بهبود دهید.
- استفاده از ابزار عامل: بهبود عملکرد برای سناریوهایی که شامل چندین تماس ابزار و تغییرات کد تکراری است، که در آن هر مرحله معمولاً به یک فراخوانی API جدید نیاز دارد.
اطلاعات بیشتر در مورد Anthropic API در اینجا:
ساخت با کلود
کاوش جدیدترین مدل ها – قیمت
تصویر ویژه توسط Shutterstock/gguy