Building Production-Ready Generative AI: پنج کاری که نباید انجام داد

مقدمه

ساختن هوش مصنوعی مولد نیازمند کار با انواع فناوری‌های در حال توسعه یادگیری ماشین و هوش مصنوعی است. همچنین نیاز به سطل صبر دارد. این دو الزام بی ارتباط نیستند.

از طریق کار در کنار متخصصان بسیار با استعداد یادگیری ماشین از شرکت‌های مختلف که برنامه‌های کاربردی هوش مصنوعی مولد را ایجاد می‌کنند، واضح است که تعدادی از جنبه‌های “Yike” برای توسعه ابزارهای هوش مصنوعی مولد کاملاً تحقق یافته وجود دارد. در این مقاله، به طور خلاصه پنج مشکلی را که باید هنگام توسعه یک برنامه هوش مصنوعی مولد اجتناب کنید، خلاصه می‌کنم.

فرض نکنید که خروجی های LLM دقیق خواهد بود

این ممکن است بدیهی به نظر برسد، اما من از اینکه خروجی LLM های تجاری چقدر غیرقابل اعتماد است شگفت زده شدم. هنگام آزمایش LLM های اصلی (به ویژه ChatGPT، Anthropic’s Claude AI و Amazon Bedrock) بر روی مجموعه داده های مالی پیچیده، به این نکته اشاره کردم که آنها می توانند خطا یا توهم را با نرخ یک در هر صفحه ایجاد کنند. LLM ها معمولاً در تولید اطلاعاتی مقصر هستند صداها قابل قبول است اما نادرست است

مثلاً وقتی آزمایش داده های مالی، متوجه شدم که LLM نسبت‌های مالی مانند «درآمد و هزینه غیر عملیاتی» تولید می‌کنند. اینها مشروع به نظر می رسند اما در سند وجود ندارند و اصطلاحات مالی کاملاً توخالی هستند.

هر چند مهندسی سریع موثر می تواند برخی از این موارد را کاهش دهد …