OpenAI تشکیل یک تیم آمادگی جدید را اعلام کرد که وظیفه آن ارزیابی مدل‌های پایه بسیار پیشرفته برای خطرات فاجعه‌بار و ایجاد سیاستی برای توسعه ایمن این مدل‌ها است.
یک چالش آمادگی نیز اعلام شد که در آن از شرکت کنندگان خواسته می شود یک نظرسنجی را پر کنند و ده ارسالی برتر 25000 دلار اعتبار API دریافت خواهند کرد.
هوش مصنوعی مرزی
عبارتی که در داخل و خارج از دولت در رابطه با آسیب های آینده صحبت می شود، همان چیزی است که به عنوان هوش مصنوعی مرزی شناخته می شود.
هوش مصنوعی مرزی یک هوش مصنوعی پیشرفته است که امکان حل بزرگترین مشکلات نوع بشر را ارائه می دهد، اما همچنین خطرات زیادی را به همراه دارد.
OpenAI هوش مصنوعی Frontier را اینگونه تعریف می کند:
«…مدل‌های پایه بسیار توانمند که می‌توانند دارای قابلیت‌های خطرناکی باشند که برای ایجاد خطرات شدید برای امنیت عمومی کافی است.
مدل‌های هوش مصنوعی مرزی یک چالش نظارتی متمایز ایجاد می‌کنند: قابلیت‌های خطرناک می‌توانند به طور غیرمنتظره به وجود بیایند. جلوگیری از سوء استفاده از یک مدل مستقر شده دشوار است. و جلوگیری از گسترش گسترده قابلیت های یک مدل دشوار است.»
تیم آمادگی
OpenAI چالش‌های موجود در مدیریت مدل‌های مرزی را اینگونه توصیف کرد که می‌توان میزان آسیب را در صورت سوء استفاده از هوش مصنوعی تعیین کرد، این ایده را شکل داد که چارچوبی برای مدیریت ریسک‌ها چگونه به نظر می‌رسد و درک آسیب‌هایی که ممکن است در صورت جلوگیری از این نیت‌های مخرب وارد شود. از تکنولوژی
تیم آمادگی موظف است خطرات مدل‌های مرزی را به حداقل برساند و گزارشی به نام سیاست توسعه مبتنی بر ریسک تهیه کند که رویکرد OpenAI برای ارزیابی، نظارت و ایجاد نظارت بر فرآیند توسعه را تشریح می‌کند.
OpenAI مسئولیت های تیم را شرح می دهد:
«تیم آمادگی، ارزیابی قابلیت، ارزیابی‌ها و تیم‌سازی قرمز داخلی را برای مدل‌های مرزی، از مدل‌هایی که در آینده نزدیک توسعه می‌دهیم تا مدل‌هایی با قابلیت‌های سطح AGI، به‌طور محکمی به هم مرتبط خواهند کرد.
این تیم به ردیابی، ارزیابی، پیش‌بینی و محافظت در برابر خطرات فاجعه‌آمیز در چندین دسته کمک می‌کند…”
تیم آمادگی OpenAI
دولت‌ها در سرتاسر جهان در حال ارزیابی این هستند که چه پتانسیل فعلی برای آسیب‌ها و چه آسیب‌هایی در آینده ممکن است از طریق هوش مصنوعی Frontier ممکن باشد و چگونه می‌توان هوش مصنوعی را برای مدیریت توسعه تنظیم کرد.
تیم آمادگی OpenAI گامی برای پیشی گرفتن از آن بحث و یافتن پاسخ در حال حاضر است.
به عنوان بخشی از این ابتکار، OpenAI یک چالش آمادگی را اعلام کرد و 25000 دلار اعتبار API را به ده پیشنهاد برتر برای جلوگیری از سوء استفاده فاجعه آمیز ارائه کرد.
اطلاعیه OpenAI را بخوانید:
خطر و آمادگی مرزی