چگونه هوش مصنوعی دیدگاه ما را نسبت به جهان باریک می کند

جدول پیوندها

چکیده و مقدمه

کار مرتبط

رسانه ، حباب ها و اتاق های اکو

اثرات شبکه و آبشارهای اطلاعاتی

سقوط مدل

تعصبات شناخته شده در LLMS

الگویی از فروپاشی دانش

نتایج

بحث و منابع

ضمیمه

مقایسه عرض دمها

تعیین فروپاشی دانش

بحث

ما یک چارچوب نظری برای تعریف “فروپاشی دانش” ارائه می دهیم ، به موجب آن وابستگی به هوش مصنوعی مولد مانند مدل های بزرگ زبان ممکن است منجر به کاهش در دمای طولانی دانش شود. مطالعه شبیه سازی ما نشان می دهد که چنین آسیبی را می توان کاهش داد تا حدی که (الف) ما از ارزش احتمالی طاقچه ها ، دیدگاههای تخصصی و غیر عادی که ممکن است توسط داده های تولید شده AI مورد غفلت واقع شود ، آگاه هستیم و همچنان به جستجوی آنها می پردازیم (( ب) سیستم های AI به صورت بازگشتی وابسته نیستند ، زیرا اگر از سایر محتوای تولید شده توسط AI به عنوان ورودی استفاده می کنند یا از سایر اثرات نسلی رنج می برند ، و (ج) محتوای تولید شده توسط AI تا حد امکان توزیع کامل دانش است.

هر یک از اینها پیامدهای عملی برای نحوه مدیریت تصویب هوش مصنوعی را نشان می دهد. اول ، در حالی که کار ما یک ممنوعیت آشکار را توجیه نمی کند ، باید اقدامات لازم برای اطمینان از ضمانت های مربوط به اعتماد به نفس گسترده یا کامل به مدل های AI انجام شود. برای هر صد نفری که یک …