به تازگی یک سیستم هوش مصنوعی از دریافت وام مسکن محروم شده اید. هیچ انسانی پرونده شما را بررسی نکرده است، هیچ درخواست تجدیدنظری ممکن نیست، و جایزه تسلی شما یک توضیح بد است: “نسبت استفاده از اعتبار شما منجر به یک نتیجه منفی شد.” احساس اطمینان می کنید؟ اینطور فکر نمی کردم.
هرچه بیشتر به ماشینها بارگذاری کنیم، هوش مصنوعی قابل توضیح (XAI) بلندتر میخواهیم.-ابزارهایی که ربات ها را می شکنند و ما را از شبکه جعبه های سیاه بیرون می کشند. این کمال برنامه ای است! یک راه حل یک مرحله ای برای تسکین فن هراسی ما و کنترل کردن ماشین ها.
جز این نیست.
هوش مصنوعی قابل توضیح آشوب را ساده نمی کند. فقط آن را تغییر نام می دهد.
آنچه ما به دست می آوریم یک توهم طلاکاری شده است: میلیاردها دلار در سیستم های رمزگشایی ریخته می شوند در حالی که مشکلات واقعی – تعصب، سوء استفاده، بیش از حد – دست نخورده باقی می مانند.
قیمت؟ خیلی بیشتر از دلار
XAI 101: رمزگشایی نفوذ، نه قصد
هوش مصنوعی قابل توضیح فعلی (XAI) به روش هایی مانند SHAP (توضیحات افزودنی Shapley) و LIME (مدل قابل تفسیر محلی-توضیحات آگنوستیک) استنباط کردن همبستگی به جای علیت. SHAP برای تقسیم «سرزنش» به ورودیهای کلیدی-مانند سطح درآمد، سابقه اعتباری یا خوشههای پیکسل- بر نظریه بازیهای مشارکتی تکیه میکند، در حالی که LIME دادههای ورودی را تغییر میدهد تا ببیند چگونه پیشبینیها تغییر میکنند و یک مدل سادهشده ایجاد میکنند. …