محصولات و فناوریهای مرتبط با هوش مصنوعی در الف ساخته و به کار گرفته میشوند بافت اجتماعی: یعنی مجموعه ای پویا و پیچیده از شرایط اجتماعی، فرهنگی، تاریخی، سیاسی و اقتصادی. از آنجایی که بافتهای اجتماعی ذاتاً پویا، پیچیده، غیرخطی، بحثانگیز، ذهنی و بسیار کیفی هستند، تبدیل آنها به بازنماییهای کمی، روشها و شیوههایی که بر رویکردهای یادگیری ماشین استاندارد (ML) و شیوههای توسعه محصول هوش مصنوعی مسلط هستند، چالش برانگیز است.
مرحله اول توسعه محصول هوش مصنوعی است درک مشکلو این مرحله تأثیر فوقالعادهای بر نحوه فرمولبندی مشکلات (به عنوان مثال، افزایش در دسترس بودن و دقت غربالگری سرطان) برای سیستمهای ML دارد تا بسیاری از تصمیمات پایین دستی دیگر مانند مجموعه دادهها و انتخاب معماری ML را حل کند. هنگامی که زمینه اجتماعی که یک محصول در آن کار می کند به اندازه کافی به خوبی بیان نشده باشد که منجر به درک دقیق مشکل شود، راه حل های ML حاصل می توانند شکننده باشند و حتی تعصبات ناعادلانه را منتشر کنند.
وقتی توسعهدهندگان محصولات هوش مصنوعی به دانش و ابزارهای لازم برای درک مؤثر و در نظر گرفتن بافت اجتماعی در طول توسعه دسترسی ندارند، تمایل دارند آن را انتزاع کنند. این انتزاع آنها را با درک کمی و سطحی از مشکلاتی که به دنبال حل آن هستند میگذارد، در حالی که کاربران محصول و سهامداران جامعه – که نزدیک به این مشکلات هستند و در زمینههای اجتماعی مرتبط گنجانده شدهاند – تمایل دارند درک کیفی عمیقی از همان مشکلات داشته باشند. این واگرایی کمی-کیفی در راههای درک مشکلات پیچیده که کاربران محصول و جامعه را از توسعهدهندگان جدا میکند، همان چیزی است که ما به آن میگوییم. مشکل درک شکاف.
این شکاف عواقبی در دنیای واقعی دارد: به عنوان مثال، علت اصلی تعصب نژادی بود که توسط یک الگوریتم مراقبت بهداشتی به طور گسترده مورد استفاده برای حل مشکل انتخاب بیماران با پیچیده ترین نیازهای مراقبت های بهداشتی برای برنامه های خاص کشف شد. درک ناقص بافت اجتماعی که الگوریتم در آن عمل میکند، طراحان سیستم را به ایجاد نظریههای علی نادرست و بیش از حد سادهشده در مورد عوامل کلیدی مشکل سوق داد. عوامل مهم اجتماعی-ساختاری، از جمله عدم دسترسی به مراقبت های بهداشتی، عدم اعتماد به سیستم مراقبت های بهداشتی، و عدم تشخیص به دلیل سوگیری انسانی، در حالی که هزینه های مربوط به مراقبت های بهداشتی به عنوان یک پیش بینی کننده نیاز پیچیده بهداشتی برجسته شد، کنار گذاشته شدند.
برای پل زدن مسئولانه بر شکاف درک مشکل، توسعه دهندگان محصولات هوش مصنوعی به ابزارهایی نیاز دارند که دانش تایید شده و ساختار یافته جامعه از بافت اجتماعی در مورد مشکلات پیچیده اجتماعی را در دسترس آنها قرار دهد – که با درک مشکل شروع می شود، اما همچنین در طول چرخه عمر توسعه محصول. برای این منظور، ابزارها و راهحلهای درک زمینه اجتماعی (SCOUTS) – بخشی از تیم مسئولیتپذیر هوش مصنوعی و فناوری انسان محور (RAI-HCT) در Google Research – یک تیم تحقیقاتی اختصاصی است که بر مأموریت «توانمندسازی افراد با دانش اجتماعی قابلاعتماد و مقیاسپذیری است که برای درک پیچیدهترین و پیچیدهترین مشکلات زمینههای اجتماعی AI و حل مشکلات جهان نیاز است». SCOTS با چالش مهم بیان بافت اجتماعی انگیزه دارد و تحقیقات بنیادی و کاربردی مبتکرانه ای را برای تولید دانش بافت اجتماعی ساختاریافته و ادغام آن در تمام مراحل چرخه عمر توسعه محصول مرتبط با هوش مصنوعی انجام می دهد. سال گذشته اعلام کردیم که Jigsaw، انکوباتور Google برای ساخت فناوری که راهحلهایی را برای تهدیدات جوامع باز بررسی میکند، از رویکرد دانش بافت اجتماعی ساختاریافته ما در مراحل آمادهسازی و ارزیابی دادهها در توسعه مدل برای کاهش تعصب برای طبقهبندی کننده سمیت Perspective API به طور گسترده استفاده کرد. برنامه تحقیقاتی SCOUTS بر مرحله درک مشکل توسعه محصول مرتبط با هوش مصنوعی با هدف پر کردن شکاف درک مشکل متمرکز است.
پل زدن بر مشکل هوش مصنوعی درک شکاف
پل زدن بر شکاف درک مشکل هوش مصنوعی به دو عنصر کلیدی نیاز دارد: 1) یک چارچوب مرجع برای سازماندهی دانش بافت اجتماعی ساختاریافته و 2) روش های مشارکتی و غیر استخراجی برای استخراج تخصص جامعه در مورد مشکلات پیچیده و ارائه آن به عنوان دانش ساختاریافته. SCOTS تحقیقات نوآورانه ای را در هر دو زمینه منتشر کرده است.
| تصویری از مشکل درک شکاف. |
چارچوب مرجع بافت اجتماعی
یک عنصر ضروری برای تولید دانش ساختاریافته، یک طبقه بندی برای ایجاد ساختار برای سازماندهی آن است. SCOTS با سایر تیمهای RAI-HCT (TasC، Impact Lab)، Google DeepMind و متخصصان دینامیک سیستم خارجی همکاری کرد تا یک چارچوب مرجع طبقهبندی برای بافت اجتماعی ایجاد کند. برای مقابله با ماهیت پیچیده، پویا و انطباقی بافت اجتماعی، از نظریه سیستمهای انطباقی پیچیده (CAS) برای ارائه یک مدل طبقهبندی سطح بالا برای سازماندهی دانش بافت اجتماعی استفاده میکنیم. این مدل سه عنصر کلیدی بافت اجتماعی و حلقههای بازخورد پویا را مشخص میکند که آنها را به یکدیگر متصل میکند.: عوامل، احکام، و مصنوعات.
- عوامل: این افراد می توانند افراد یا مؤسسات باشند.
- احکام: پیش فرضها – از جمله باورها، ارزشها، کلیشهها و سوگیریها – که رفتار عوامل را محدود و هدایت میکنند. نمونه ای از یک دستور اولیه این است که “قد همه بسکتبالیست ها بیش از 6 فوت است.” این فرض محدود کننده می تواند منجر به شکست در شناسایی بازیکنان بسکتبال با قد کوچکتر شود.
- مصنوعات: رفتارهای عامل انواع مختلفی از مصنوعات از جمله زبان، داده ها، فناوری ها، مشکلات اجتماعی و محصولات را تولید می کند.
روابط بین این موجودات پویا و پیچیده است. فرضیه کار ما این است که احکام مهمترین عنصر بافت اجتماعی هستند و ما آن را برجسته میکنیم مشکلاتی که مردم درک می کنند و نظریه های علی که آنها در مورد چرایی وجود آن مشکلات دارند بهعنوان احکام بسیار تأثیرگذار که هسته اصلی درک بافت اجتماعی هستند. به عنوان مثال، در مورد سوگیری نژادی در الگوریتم پزشکی که قبلاً توضیح داده شد، حکم نظریه علی که توسط طراحان وجود داشت این بود که مشکلات پیچیده بهداشتی باعث می شود که هزینه های مراقبت های بهداشتی برای همه جمعیت ها افزایش یابد. این دستور نادرست مستقیماً منجر به انتخاب هزینههای مراقبتهای بهداشتی بهعنوان متغیر جایگزین برای مدل برای پیشبینی نیازهای پیچیده مراقبتهای بهداشتی شد، که به نوبه خود منجر به مغرضانه شدن مدل در برابر بیماران سیاه پوست شد که به دلیل عوامل اجتماعی مانند عدم دسترسی به مراقبتهای بهداشتی و تشخیص نادرست به دلیل تعصب به طور متوسط، همیشه زمانی که نیازهای پیچیدهای دارند، بیشتر برای مراقبتهای بهداشتی هزینه نمیکنند. یک سوال کلیدی باز این است که چگونه میتوانیم از نظر اخلاقی و عادلانه نظریههای علی را از مردم و جوامعی که بیشترین نزدیکی به مشکلات نابرابری دارند استخراج کنیم و آنها را به دانش ساختاریافته مفید تبدیل کنیم؟
 |
| نسخه گویا چارچوب مرجع بافت اجتماعی. |
 |
| نسخه تاکسونومیک چارچوب مرجع بافت اجتماعی. |
کار با جوامع برای تقویت کاربرد مسئولانه هوش مصنوعی در مراقبت های بهداشتی
SCOTS از زمان آغاز به کار خود برای ایجاد ظرفیت در جوامع به حاشیه رانده شده تاریخی تلاش کرده است تا با استفاده از روشی به نام پویایی سیستم مبتنی بر جامعه (CBSD) زمینه اجتماعی گستردهتر مشکلات پیچیدهای را که برای آنها مهم است، بیان کند. دینامیک سیستم (SD) روشی برای بیان نظریه های علی در مورد مسائل پیچیده است از نظر کیفی به عنوان حلقه علی و نمودارهای سهام و جریان (به ترتیب CLD و SFD) و کمی به عنوان مدل های شبیه سازی پشتیبانی ذاتی ابزارهای کیفی بصری، روشهای کمی، و ساخت مدل مشارکتی، آن را به یک عنصر ایدهآل برای پل زدن شکاف درک مشکل تبدیل میکند. CBSD یک نوع جامعه محور و مشارکتی از SD است که به طور خاص بر ایجاد ظرفیت در جوامع متمرکز شده است تا بطور مشترک مشکلاتی را که آنها با آن مواجه هستند به عنوان نظریه های علّی توصیف و مدل سازی کنند، مستقیماً بدون واسطه. با CBSD شاهد بودیم که گروههای اجتماعی اصول اولیه را آموختند و در عرض 2 ساعت شروع به ترسیم CLD کردند.
پتانسیل بسیار زیادی برای هوش مصنوعی برای بهبود تشخیص پزشکی وجود دارد. اما ایمنی، برابری و قابلیت اطمینان الگوریتمهای تشخیص سلامت مرتبط با هوش مصنوعی به مجموعه دادههای آموزشی متنوع و متعادل بستگی دارد. یک چالش باز در فضای تشخیص سلامت کمبود داده های نمونه آموزشی از گروه های به حاشیه رانده شده تاریخی است. SCOTS با جامعه Data 4 Black Lives و کارشناسان CBSD همکاری کرد تا نظریههای علّی کیفی و کمی را برای مشکل شکاف داده تولید کند. این تئوری ها شامل عوامل مهمی است که زمینه اجتماعی وسیع تری را در اطراف تشخیص سلامت، از جمله حافظه فرهنگی مرگ و اعتماد به مراقبت های پزشکی، تشکیل می دهد.
شکل زیر تئوری علی ایجاد شده در طول همکاری که در بالا به عنوان CLD توضیح داده شده را نشان می دهد. این فرضیه میدهد که اعتماد به مراقبتهای پزشکی بر تمام بخشهای این سیستم پیچیده تأثیر میگذارد و اهرم کلیدی برای افزایش غربالگری است، که به نوبه خود دادههایی را برای غلبه بر شکاف تنوع دادهها تولید میکند.
 |
 |
| نمودار حلقه علّی شکاف داده های تشخیص سلامت |
این نظریههای علّی منشأ جامعه اولین قدم برای پل زدن شکاف درک مشکل با دانش بافت اجتماعی قابل اعتماد است.
نتیجه
همانطور که در این وبلاگ بحث شد، درک مشکل شکاف یک چالش باز حیاتی در هوش مصنوعی مسئول است. SCOTS تحقیقات اکتشافی و کاربردی را با همکاری سایر تیمها در Google Research، جامعه خارجی و شرکای دانشگاهی در چندین رشته انجام میدهد تا در حل آن پیشرفت معنیداری داشته باشد. در ادامه کار ما بر روی سه عنصر کلیدی متمرکز خواهد شد که بر اساس اصول هوش مصنوعی ما هدایت می شود:
- افزایش آگاهی و درک مشکل درک شکاف و پیامدهای آن از طریق گفتگوها، انتشارات و آموزش.
- انجام تحقیقات بنیادی و کاربردی برای بازنمایی و ادغام دانش بافت اجتماعی در ابزارها و جریان های کاری توسعه محصول هوش مصنوعی، از تصور تا نظارت، ارزیابی و انطباق.
- از روشهای مدلسازی علّی مبتنی بر جامعه در حوزه عدالت سلامت هوش مصنوعی برای درک تأثیر و ایجاد توانایی جامعه و Google برای تولید و استفاده از دانش بافت اجتماعی در مقیاس جهانی برای تحقق هوش مصنوعی مسئول استفاده کنید.
 |
| Flywheel پیشاهنگی برای پل زدن مشکل درک شکاف. |
قدردانی ها
از John Guilyard برای توسعه گرافیک، همه افراد SCOTS و همه همکاران و حامیان ما سپاسگزاریم.