هوش مصنوعی بهترین می داند – اما فقط در صورت موافقت با آن

جدول پیوندها

چکیده و مقدمه

کار مرتبط

رسانه ، حباب ها و اتاق های اکو

اثرات شبکه و آبشارهای اطلاعاتی

سقوط مدل

تعصبات شناخته شده در LLMS

الگویی از فروپاشی دانش

نتایج

بحث و منابع

ضمیمه

مقایسه عرض دمها

تعیین فروپاشی دانش

چکیده

در حالی که هوش مصنوعی پتانسیل پردازش مقادیر زیادی از داده ها ، تولید بینش جدید و باز کردن بازده بیشتر را دارد ، پذیرش گسترده آن ممکن است عواقب پیش بینی نشده ای را به دنبال داشته باشد. ما شرایطی را شناسایی می کنیم که تحت آن با کاهش هزینه دسترسی به حالتهای خاص دانش ، می تواند به طور متناقض به درک عمومی آسیب برساند. در حالی که مدل های بزرگ زبان بر روی مقادیر زیادی از داده های متنوع آموزش دیده اند ، آنها به طور طبیعی تولید را به سمت “مرکز” توزیع تولید می کنند. این به طور کلی مفید است ، اما اعتماد گسترده به سیستم های بازگشتی هوش مصنوعی می تواند منجر به فرایندی شود که ما به عنوان “فروپاشی دانش” تعریف می کنیم و استدلال می کنیم که این می تواند به نوآوری و غنای درک و فرهنگ انسان آسیب برساند. با این حال ، بر خلاف مدل های هوش مصنوعی که نمی توانند داده هایی را که در آن آموزش داده شده اند انتخاب کنند ، انسان ممکن است در صورت درک آنها به ارزش ، از نظر استراتژیک به دنبال اشکال متنوعی از دانش باشد. برای بررسی این موضوع ، ما یک مدل ساده را ارائه می دهیم که در آن جامعه ای از زبان آموزان یا …