تجزیه و تحلیل نقص های HIVE و مدل های نمونه اولیه: یک مطالعه تطبیقی

نویسندگان:

(1) امید داوودی، دانشگاه کارلتون، دانشکده علوم کامپیوتر;

(2) شایان محمدی زاده سماکوش، دانشگاه صنعتی شریف، گروه مهندسی کامپیوتر;

(3) مجید کمیلی، دانشگاه کارلتون، دانشکده علوم کامپیوتر.

چکیده و مقدمه

اطلاعات پس زمینه

روش شناسی

قابلیت تفسیر نمونه اولیه

شباهت نمونه اولیه-پرس و جو

تفسیرپذیری فرآیند تصمیم گیری

اثرات تعداد کم نمونه اولیه

بحث ها

اطلاعات پس زمینه

HIVE

HIVE[12] (Human Interpretability of Visual Explanations) چارچوبی برای ارزیابی انسانی از تفسیرپذیری در روش های هوش مصنوعی است که از توضیحات بصری استفاده می کند. HIVE از پرسشنامه‌ها استفاده می‌کند تا از انسان‌ها بخواهد جنبه‌های مختلف تفسیرپذیری روش‌های هوش مصنوعی را ارزیابی کنند. اینها شامل آزمون‌های شباهت، توافق و تمایز است.

با این حال، برخی مشکلات در طراحی سوال چارچوب HIVE وجود دارد که آن را برای ارزیابی قابلیت تفسیر برای روش‌های مبتنی بر نمونه اولیه ناقص می‌سازد. به طور خاص، آنها از شرکت کنندگان انسانی می خواهند که چندین معیار را به روشی دقیق رتبه بندی کنند. نشان داده شده است که این عمل غیرقابل اعتماد است زیرا نظرات انسان می تواند بسیار متفاوت باشد وقتی از آنها خواسته شود مفاهیم مبهم را کمی کنند.[13]. HIVE همچنین فرض می کند که هر بیت توضیحی به خودی خود قابل تفسیر است، …