درک انسانی از تصمیمات هوش مصنوعی

نویسندگان:

(1) امید داوودی، دانشگاه کارلتون، دانشکده علوم کامپیوتر;

(2) شایان محمدی زاده سماکوش، دانشگاه صنعتی شریف، گروه مهندسی کامپیوتر;

(3) مجید کمیلی، دانشگاه کارلتون، دانشکده علوم کامپیوتر.

چکیده و مقدمه

اطلاعات پس زمینه

روش شناسی

قابلیت تفسیر نمونه اولیه

شباهت نمونه اولیه-پرس و جو

تفسیرپذیری فرآیند تصمیم گیری

اثرات تعداد کم نمونه اولیه

بحث ها

تفسیرپذیری فرآیند تصمیم گیری

آزمایش نهایی ما برای ارزیابی تفسیرپذیری فرآیند تصمیم‌گیری طراحی شد. به طور کلی، روش‌های نمونه اولیه مجموعه‌ای از توضیحات را برای یک تصمیم ارائه می‌کنند و سپس از آن مفاهیم برای مرحله طبقه‌بندی نهایی استفاده می‌کنند که معمولاً یک لایه کاملاً متصل است. ما چارچوب خود را برای مواردی طراحی کردیم که تصمیم نهایی با استفاده از چنین لایه نهایی بر روی تمام فعال‌سازی‌های نمونه اولیه گرفته می‌شود و بنابراین سعی کردیم تا حد امکان به فرآیند تصمیم‌گیری واقعی وفادار بمانیم. این بدان معنی بود که ما باید مطمئن می شدیم که نمرات فعال سازی و رتبه بندی نمونه های اولیه را در طراحی آزمایش لحاظ می کنیم.

ACE یک روش طبقه بندی نیست و تصمیم نهایی برای گرفتن وجود ندارد. در نتیجه، ACE، در کنار ProtoTree، در این آزمایش گنجانده نشده است. در…