اینجا دوباره می رویم. قرار بود این چراغ درخشان تحقیقات دانشگاهی باشد، ابزاری که می‌تواند کوه‌هایی از داده‌ها را غربال کند، نقل‌قول‌های دقیق ارائه دهد و منابع معتبری برای ارتقای کار علمی ارائه دهد.
Scholar GPT، پیشرفت فرضی در کمک های تحصیلی مبتنی بر هوش مصنوعی، قرار بود انقلابی در نحوه جمع آوری اطلاعات ایجاد کند. قرار بود این منبع قابل اعتمادی باشد که قدرت فناوری پیشرفته را با تخصص سال ها تحقیق ترکیب کند، درست است؟
اشتباه است.
بار دیگر، ما با واقعیت تلخی مواجه می شویم که همه ما در مورد هوش مصنوعی از آن می ترسیم:
نمی توان به آن اعتماد کرد.
در یک مکاشفه تکان دهنده، Scholar GPT – این الگوی فرضی کمک تحصیلی. با این حال، زمانی که از آن استفاده می کردم متوجه شدم که اطلاعات و آمار نادرستی ارائه می دهد. همان چیزی که قرار بود در آن عالی باشد – دقت – به یک مسخره کامل تبدیل شده است.
این فقط یک ضربه کوچک نیست. این ضربه بزرگی به اعتبار هوش مصنوعی به عنوان منبع محتوای دانشگاهی قابل اعتماد است. Scholar GPT، که خود را به عنوان آموزش دیده بر روی معتبرترین و معتبرترین منابع تبلیغ می کند، داده هایی ارائه می کرد که با تحقیقات و آمارهای معتبر مطابقت نداشت.
و بیایید این واقعیت آشکار را نادیده نگیریم که این پلتفرم ادعا می کند به مقالات دانشگاهی “معتبر” ارجاع می دهد، اما …