چگونه توری ایمنی خود را بچسبانید: با هم پیوند دهید

در طول چند ماه گذشته، من این امتیاز را داشتم که “False Alarm” را ویرایش کنم، تحقیقات ظریف و تامل برانگیز تاد فیرز در مورد “الگوریتم ترک تحصیل” ویسکانسین که از نظر نژادی ناعادلانه است.

\ سیستم هشدار زودهنگام ترک تحصیل (DEWS) هر دانش آموز ورودی در ویسکانسین را ارزیابی می کند و یک نمره عددی و همچنین یک برچسب رنگی صادر می کند: سبز برای خطر کم، زرد برای خطر متوسط، یا قرمز برای خطر بالای ترک تحصیل. صرف نظر از نژاد، DEWS تقریباً در سه چهارم مواقع اشتباه می کند که پیش بینی می کند دانش آموز به موقع فارغ التحصیل نمی شود. اما این نیز بود طراحی شده برای استفاده از عواملی مانند نژاد، جنسیت، درآمد، و حضور و غیاب، شبکه گسترده‌ای را ایجاد کنید – شبکه‌ای که کودکان سیاه‌پوست و لاتین تبار را به مراتب بیشتر به دام می‌اندازد. (شما می توانید اطلاعات بیشتر و یافته های ما را در اینجا بخوانید.)

\ من در حال بررسی نظرات سخنگوی آموزش و پرورش ایالت، ابیگیل سوئتز بودم که از پاسخ دادن به سوالات دقیق خودداری کرد اما این ایمیل را برای ما ارسال کرد:

\ «آیا DEWS نژادپرست است؟ نه، تجزیه و تحلیل داده ها نژادپرستانه نیست. این ریاضی است که سیستم های ما را منعکس می کند. واقعیت این است که ما در یک جامعه برتری گرا سفیدپوست زندگی می کنیم و سیستم آموزشی به طور سیستمی نژادپرستانه است. به همین دلیل DPI به ابزارهایی مانند DEWS نیاز دارد و به همین دلیل است که ما به عدالت آموزشی متعهد هستیم.

\ این چیزی است که او در پاسخ به ما گفت …