آیا جعل هم ترازی آنتروپیک یک تحقیق ایمنی قابل توجه در هوش مصنوعی است؟

هدف چیست؟ یا اینکه هدف در ذهن انسان چیست؟ ذهن چه کار دیگری انجام می دهد که یک هدف یا شبیه به نحوه رسیدن به یک هدف نباشد؟ تفاوت بین یک هدف تعیین شده و یک هدف خودساخته چیست؟ اگر هدفی پیچیده توصیف شود، چگونه با یک هدف غیرپیچیده تفاوت دارد؟

آیا یک معماری خشن از نحوه انجام اهداف ذهن انسان وجود دارد؟ چگونه ممکن است این امر به درک اهداف و سپس پیوند به هوش مصنوعی کمک کند؟ آیا هوش مصنوعی ذهن دارد یا هوش مصنوعی مانند ذهنی است که روی محتوای دیجیتال کار می کند؟

این می تواند به این معنی باشد که یک انسان ذهن دارد. همچنین می تواند به این معنی باشد که ذهن انسان دنیای بیرون را تفسیر و هدایت می کند [for AI, digital contents] یا دنیای درونی [AI’s own architecture].

ذهن چگونه به هوش مصنوعی اعمال می شود و چگونه کار می کند؟ این سوال را می توان به دو صورت پاسخ داد. اول، در مقایسه با ذهن انسان برای پیدا کردن مشابه. دوم، با بررسی پارامترهای اصلی ریاضی که شبکه های عصبی را شکل داده و آنها را به عنوان ساختارهای ذهن سازماندهی می کند.

مورد دوم حداقل باید در حال حاضر توسط هر شرکت بزرگ هوش مصنوعی قابل دستیابی باشد – مطالعات همراه در مورد چگونگی عملکرد هوش مصنوعی و اینکه چگونه می تواند ایمن یا همسو با ارزش های انسانی باشد. شاید در ابتدا نیازی به استفاده از ذهن انسان برای ترسیم ذهن هوش مصنوعی نباشد، زیرا می‌توان ساختاری را که هوش مصنوعی انجام می‌دهد…

Source link