در این مقاله مثالی از یک چت بابات برای توضیح چگونگی ایمن شدن داده های تولید بازیابی (RAG) استفاده شده است.
افزایش استفاده از مدل های پایه
برنامه های مانند Chatbot برای مدت زمان طولانی مورد استفاده قرار گرفته اند. اینها نیاز به تلاش مهندسی زیادی برای ساخت دارند و این دیگر در مورد کالایی سازی مدل های بزرگ زبان (LLM) مانند OpenAi ، Anthropic و Llama موردی نیست. ایجاد مدل های جدید از ابتدا به علاوه بر تخصص طاقچه مورد نیاز برای ساخت چنین مدل هایی ، نیاز به زمان و سرمایه گذاری های پولی دارد. کالایی سازی مدل های بنیاد از پیش آموزش دیده ، برای هر یک از تجربه توسعه متوسط ، ساخت چت بابات در چند ساعت تا روز ، آسان شده است. مقیاس های بیش از حد مانند AWS ، Azure یا GCP خدمات کاملاً مدیریت شده را با ارائه انواع مدل های بنیادی ارائه می دهند. یک چت بابات را نمی توان در هیچ زمان با ادغام UI ساده با API های ارائه شده توسط Hyperscalers برای تماس با مدل های بنیاد ساخته شد. در حالی که این رویکرد برای ساختن چت های آزمایشی به خوبی کار می کند ، هنگامی که باید Chatbot در موارد استفاده در دنیای واقعی مانند پاسخ دادن به سؤالات مربوط به سیاست های شرکت استفاده شود ، محدودیت هایی ظاهر می شوند. شما متوجه خواهید شد که chatbot پاسخ هایی را تشکیل می دهد ، معروف به توهم ، زیرا بیشتر در داده های عمومی آموزش دیده است و نه شرکت شما …