قانونگذار کالیفرنیا از لایحه شاخص هوش مصنوعی رونمایی کرد | دانش مرکز داده

(واشنگتن پست) – یک قانونگذار ایالتی کالیفرنیا روز پنجشنبه لایحه‌ای را ارائه کرد که هدف آن مجبور کردن شرکت‌ها به آزمایش قوی‌ترین مدل‌های هوش مصنوعی قبل از انتشار آن‌ها است – یک پیشنهاد مهم که می‌تواند الهام‌بخش مقررات در سراسر کشور باشد زیرا قانون‌گذاران ایالتی به طور فزاینده‌ای با این مدل‌های به سرعت در حال تحول مقابله می‌کنند. فن آوری.

لایحه جدید، که توسط سناتور ایالتی اسکات وینر، یک دموکرات که نماینده سانفرانسیسکو است، حمایت می‌شود، شرکت‌هایی را ملزم می‌کند که مدل‌های جدید هوش مصنوعی را آموزش دهند تا ابزارهای خود را برای رفتار «ناامن» آزمایش کنند، حفاظت از هک را ایجاد کنند، و این فناوری را به گونه‌ای توسعه دهند که طبق یک نسخه از صورتحساب می توان به طور کامل خاموش شد.

شرکت‌های هوش مصنوعی باید پروتکل‌های آزمایش و نرده‌های محافظی را که قرار داده‌اند را به وزارت فناوری کالیفرنیا فاش کنند. اگر این فناوری باعث “آسیب جدی” شود، دادستان کل ایالت می تواند از شرکت شکایت کند.

لایحه وینر در بحبوحه انفجار لوایح ایالتی در مورد هوش مصنوعی ارائه می شود، زیرا سیاست گذاران در سراسر کشور نگران هستند که سال ها انفعال در کنگره خلاء نظارتی ایجاد کرده است که به نفع صنعت فناوری است. اما کالیفرنیا، خانه بسیاری از بزرگ‌ترین شرکت‌های فناوری جهان، نقشی منحصر به فرد در ایجاد سابقه برای نرده‌های محافظ صنعت فناوری ایفا می‌کند.

لارنس نوردن، مدیر ارشد برنامه انتخابات و دولت مرکز برنان گفت: “شما نمی توانید در توسعه نرم افزار کار کنید و آنچه کالیفرنیا می گوید یا انجام می دهد را نادیده بگیرید.”

قانونگذاران فدرال جلسات متعددی در مورد هوش مصنوعی داشته اند و چندین لایحه را پیشنهاد کرده اند، اما هیچ کدام تصویب نشده است. طرفداران مقررات هوش مصنوعی اکنون نگران هستند که همان الگوی بحث بدون اقدامی که در مورد مسائل فنی قبلی مانند حریم خصوصی و رسانه های اجتماعی وجود داشت، تکرار شود.

وینر در مصاحبه ای گفت: «اگر کنگره در مقطعی بتواند یک قانون قوی حامی نوآوری و ایمنی هوش مصنوعی را تصویب کند، من اولین کسی هستم که آن را تشویق می کنم، اما نفسم را حبس نمی کنم. ما باید از این امر جلوتر باشیم تا اعتماد عمومی را به هوش مصنوعی حفظ کنیم.»

حزب وینر دارای اکثریت فوق العاده در مجلس قانونگذاری ایالتی است، اما شرکت های فناوری در گذشته در کالیفرنیا با مقررات سخت مبارزه کرده اند، و آنها متحدان قدرتمندی در ساکرامنتو دارند. با این حال، وینر می گوید که فکر می کند این لایحه می تواند تا پاییز تصویب شود.

او گفت: “ما توانسته ایم برخی از سیاست های بسیار بسیار سخت مرتبط با فناوری را تصویب کنیم.” بنابراین، بله، ما می توانیم این لایحه را تصویب کنیم.

کالیفرنیا تنها ایالتی نیست که قوانین هوش مصنوعی را تحت فشار قرار می دهد. بر اساس تجزیه و تحلیل BSA the Software Alliance، یک گروه صنعتی که شامل مایکروسافت و IBM است، 407 صورت حساب مرتبط با هوش مصنوعی در 44 ایالت ایالات متحده فعال است. این یک افزایش چشمگیر از آخرین تحلیل BSA در ماه سپتامبر است که نشان داد ایالت ها 191 قبض هوش مصنوعی را ارائه کرده اند.

چندین ایالت قبلاً لایحه‌هایی را امضا کرده‌اند که به خطرات حاد هوش مصنوعی، از جمله پتانسیل آن برای تشدید تبعیض استخدامی یا ایجاد دیپ‌فیک‌هایی که می‌تواند انتخابات را مختل کند، رسیدگی می‌کند. حدود دوازده ایالت قوانینی را تصویب کرده اند که دولت را ملزم به مطالعه تاثیر این فناوری بر اشتغال، حریم خصوصی و حقوق مدنی می کند.

اما کالیفرنیا به عنوان پرجمعیت ترین ایالت ایالات متحده، قدرت منحصر به فردی برای تعیین استانداردهایی دارد که در سراسر کشور تأثیرگذار است. برای چندین دهه، مقررات حمایت از مصرف کننده کالیفرنیا اساساً به عنوان استانداردهای ملی و حتی بین المللی برای همه چیز از مواد شیمیایی مضر گرفته تا خودروها عمل کرده است.

به عنوان مثال، در سال 2018، پس از سال ها بحث در کنگره، ایالت قانون حفظ حریم خصوصی مصرف کنندگان کالیفرنیا را تصویب کرد و قوانینی را برای نحوه جمع آوری و استفاده شرکت های فناوری اطلاعات شخصی افراد تعیین کرد. ایالات متحده هنوز قانون فدرال حفظ حریم خصوصی ندارد.

لایحه وینر عمدتاً بر اساس فرمان اجرایی اکتبر رئیس جمهور بایدن است که از اختیارات اضطراری استفاده می کند تا شرکت ها را ملزم به انجام تست های ایمنی بر روی سیستم های قدرتمند هوش مصنوعی و به اشتراک گذاشتن آن نتایج با دولت فدرال کند. اقدام کالیفرنیا فراتر از دستور اجرایی است و به طور صریح نیاز به حفاظت از هک، محافظت از افشاگران مرتبط با هوش مصنوعی و وادار کردن شرکت‌ها به انجام آزمایش است.

این لایحه احتمالاً با انتقاد بخش بزرگی از سیلیکون ولی مواجه خواهد شد که استدلال می‌کند تنظیم‌کننده‌ها بیش از حد تهاجمی حرکت می‌کنند و سیستم‌هایی را به خطر می‌اندازند که رقابت استارت‌آپ‌ها با شرکت‌های بزرگ را دشوار می‌کند. هم فرمان اجرایی و هم قانون کالیفرنیا مدل‌های بزرگ هوش مصنوعی را مشخص می‌کنند – چیزی که برخی استارت‌آپ‌ها و سرمایه‌گذاران خطرپذیر آن را به‌عنوان کوته‌نگری در مورد چگونگی توسعه فناوری مورد انتقاد قرار دادند.

ارتباط با ذینفعان

سال گذشته، بحثی در سیلیکون ولی در مورد خطرات هوش مصنوعی بالا گرفت. محققان برجسته و رهبران هوش مصنوعی از شرکت‌هایی از جمله گوگل و OpenAI نامه‌ای را امضا کردند که در آن بیان می‌کرد این فناوری از نظر پتانسیل آسیب رساندن به تمدن با سلاح‌های هسته‌ای و بیماری‌های همه‌گیر برابر است. گروهی که این بیانیه را سازماندهی کرد، مرکز ایمنی هوش مصنوعی، در تهیه پیش نویس قانون جدید مشارکت داشت.

وینر گفت که با کارکنان فناوری، مدیران عامل، فعالان و سایرین در مورد بهترین راه برای تنظیم مقررات هوش مصنوعی مشورت شد. ما در طول سال گذشته ارتباط گسترده‌ای با ذینفعان انجام داده‌ایم.»

جاش آلبرشت، یکی از بنیانگذاران استارت آپ Imbue، گفت: نکته مهم این است که یک گفتگوی واقعی در مورد خطرات و مزایای هوش مصنوعی وجود دارد. “خوب است که مردم اصلاً به این موضوع فکر می کنند.”

کارشناسان انتظار دارند با انتشار مدل‌های قدرتمندتر شرکت‌ها در سال جاری، سرعت قوانین هوش مصنوعی افزایش یابد. گسترش لوایح در سطح ایالت می تواند منجر به فشار بیشتر صنعت بر کنگره برای تصویب قوانین هوش مصنوعی شود، زیرا پیروی از یک قانون فدرال ممکن است آسان تر از پاسخگویی به مجموعه ای از قوانین ایالتی باشد.

کریگ آلبرایت، معاون ارشد BSA در روابط دولت ایالات متحده، گفت: “منفعت زیادی برای شفافیت در سراسر کشور در مورد قوانین حاکم بر هوش مصنوعی وجود دارد، و یک قانون ملی قوی بهترین راه برای ارائه این وضوح است.” سپس شرکت‌ها، مصرف‌کنندگان و همه مجریان می‌دانند چه چیزی مورد نیاز و مورد انتظار است.»

هر گونه قانون کالیفرنیا می تواند تأثیری کلیدی بر توسعه هوش مصنوعی به طور گسترده داشته باشد زیرا بسیاری از شرکت های توسعه دهنده این فناوری در ایالت مستقر هستند.

نوردن می‌گوید: «قانون‌گذار ایالت کالیفرنیا و حامیانی که در آن ایالت کار می‌کنند بسیار بیشتر با فناوری و تأثیر بالقوه آن هماهنگ هستند و به احتمال زیاد پیشرو خواهند بود».

ایالت ها سابقه طولانی در حرکت سریعتر از دولت فدرال در سیاست های فناوری دارند. بر اساس تجزیه و تحلیل انجمن بین المللی متخصصان حریم خصوصی، از زمانی که کالیفرنیا قانون حفظ حریم خصوصی خود را در سال 2018 تصویب کرد، نزدیک به دوازده ایالت دیگر قوانین خود را وضع کرده اند.

ایالت ها همچنین به دنبال تنظیم رسانه های اجتماعی و ایمنی کودکان بوده اند، اما صنعت فناوری بسیاری از این قوانین را در دادگاه به چالش کشیده است. در اواخر این ماه، دادگاه عالی قرار است به بحث های شفاهی در پرونده های مهم رسانه های اجتماعی در مورد قوانین رسانه های اجتماعی در تگزاس و فلوریدا رسیدگی کند.

در سطح فدرال، نبردهای حزبی توجه قانونگذاران را از تدوین قوانین دو حزبی منحرف کرده است. رهبر اکثریت سنا، چارلز ای. شومر (DN.Y.) یک گروه دو حزبی از سناتورها را تشکیل داده است که بر سیاست های هوش مصنوعی تمرکز دارند و انتظار می رود به زودی چارچوب هوش مصنوعی را معرفی کنند. اما تلاش های مجلس بسیار کمتر پیشرفت کرده است. در یک رویداد Post Live در روز سه‌شنبه، مارکوس جی. مولینارو (RN.Y.) نماینده مجلس نمایندگان آمریکا گفت که مایک جانسون (R-La.) رئیس مجلس نمایندگان آمریکا خواستار تشکیل یک گروه کاری در زمینه هوش مصنوعی برای کمک به تصویب قانون شد.

مولینارو گفت: «اغلب ما خیلی عقب هستیم. “این سال گذشته واقعا باعث شد که ما حتی بیشتر از این عقب باشیم.”