مزیت و حماقت هوش مصنوعی در آموزش: پیمایش چالش های اخلاقی و توسعه شناختی

ربات‌های مکالمه‌ای که به‌طور خاص برای کودکان ساخته شده‌اند و برنامه‌های بازی یا آموزشی را ارائه می‌کنند، عواملی هستند که از مدل‌های زبانی و داده‌های آموزشی مشابه با آنچه برای بزرگسالان در نظر گرفته شده است، به دست می‌آیند. برخی از این برنامه‌های نرم‌افزاری که کاربران جوان‌تر را هدف قرار می‌دهند، از همان ابتدا می‌توانستند به جامعه‌ای از کاربران جوان تکیه کنند و به آن‌ها اجازه می‌دادند از طریق یادگیری عمیق، بر اساس داده‌های موارد استفاده، تنظیمات زمینه‌ای اولیه را از طریق یادگیری عمیق پیاده‌سازی کنند. با این حال، برنامه‌های هوش مصنوعی که خردسالان را هدف قرار می‌دهند، اساساً شامل ویژگی‌هایی هستند که هدف آنها شبیه‌سازی بازی‌های نقش‌آفرینی با شخصیت‌های از پیش تعریف‌شده یا برنامه‌ریزی‌شده توسط بازیکنان است. با این حال، یکی از تکنیک‌های اصلی هک برای عوامل هوش مصنوعی دقیقاً شامل تزریق یک زمینه ساختگی با سناریو و شخصیت‌ها است که مهندسان متخصص حتی آن را به‌عنوان «تشویق نقش‌آفرینی» تعیین می‌کنند. این بدان معنی است که کودکانی که با نرم افزار هوش مصنوعی بازی می کنند، می توانند به راحتی یاد بگیرند که از طریق این بازی ها به داده های سانسور شده یا فقط بزرگسالان دسترسی داشته باشند.

این مشاهدات نشان می‌دهد که سیاست‌های امنیتی تحمیل‌شده توسط توسعه‌دهندگان بر روی عوامل مکالمه عمدتاً برای کاربران بزرگسال تازه‌کار که تسلط کمی بر کار خود دارند مؤثر است. در مورد کودکان، بازی‌های نقش‌آفرینی با کمک مدل‌های زبانی احتمالاً محتوای نامناسبی را در اختیار آنها قرار می‌دهد.

Source link