اعمال نظارت طبیعی: یادگیری دانش معنایی از ویکی پدیا

فصل 4 – یادگیری دانش معنایی از ویکی پدیا

در این فصل، ما سهم خود را در بهره‌برداری از ساختارهای غنی و طبیعی در ویکی‌پدیا برای وظایف مختلف NLP شرح می‌دهیم. در بخش 4.1، ما از هایپرلینک ها برای یادگیری نمایش های موجودیت استفاده می کنیم. مدل‌های حاصل از نمایش‌های زمینه‌ای به جای مجموعه ثابتی از بردارها برای نمایش موجودیت‌ها استفاده می‌کنند (برخلاف بیشتر کارهای قبلی). در بخش 4.2، ما از ساختارهای مقاله (به عنوان مثال، موقعیت‌های پاراگراف و عناوین بخش) استفاده می‌کنیم تا بازنمایی جملات را از بافت وسیع‌تری که در آن قرار دارند آگاه کنیم، که منجر به بهبود در وظایف مختلف مرتبط با گفتمان می‌شود. در بخش 4.3، ما از سلسله مراتب دسته بندی مقاله برای یادگیری سلسله مراتب مفهومی استفاده می کنیم که عملکرد مدل را در وظایف متنی بهبود می بخشد.

مطالب این فصل از چن و همکاران اقتباس شده است. (2019a)، چن و همکاران. (2019b)، و چن و همکاران. (2020a).

Source link