تغییر از AI نمادین به یادگیری عمیق در پردازش زبان طبیعی

نویسندگان:

(1) Raphaël Millière ، گروه فلسفه ، دانشگاه Macquarie ([email protected]) ؛

(2) کامرون باکنر ، گروه فلسفه ، دانشگاه هیوستون ([email protected]).

چکیده و 1 مقدمه

2. آغازگر در LLMS

2.1 مبانی تاریخی

2.2 LLM های مبتنی بر ترانسفورماتور

3. رابط با موضوعات فلسفی کلاسیک

3.1 ترکیب

3.2 طبیعت گرایی و دستیابی به زبان

3.3 درک زبان و زمین

3.4 مدل های جهانی

3.5 انتقال دانش فرهنگی و داربست زبانی

4. نتیجه گیری ، واژه نامه و منابع

2.1 مبانی تاریخی

منشأ مدلهای بزرگ زبان را می توان به آغاز تحقیقات هوش مصنوعی بازگرداند. تاریخ اولیه پردازش زبان طبیعی (NLP) توسط یک شکاف بین دو الگوی رقیب مشخص شد: رویکردهای نمادین و تصادفی. تأثیر عمده در الگوی نمادین در NLP گرامر تحول گرا نوام چامسکی (چامسکی 1957) بود ، که اظهار داشت که نحو زبانهای طبیعی می تواند توسط مجموعه ای از قوانین رسمی که جملات خوب ایجاد شده ایجاد می کنند ، اسیر شود. کار چامسکی پایه و اساس توسعه تجزیه کنندگان نحوی مبتنی بر قانون را ایجاد کرد ، که از تئوری زبانی برای تجزیه جملات در قسمت های تشکیل دهنده خود استفاده می کنند.

Source link