نحوه تنظیم فیلتر محتوا با سرویس Azure OpenAI در استودیوی Azure OpenAI

Azure OpenAI Service از پروژه های هوش مصنوعی شما با فیلتر محتوای داخلی محافظت می کند. این راهنما نحوه پیکربندی این فیلترها را با استفاده از Azure OpenAI Studio (پیش نمایش) توضیح می دهد.

چگونه متوجه فیلترهای محتوای Azure شدم

همه چیز از زمانی شروع شد که متوجه چیز عجیبی در پاسخ های هوش مصنوعی در سایت خود شدم. ChatWithPDF.AI، آنها با آنچه من عادت داشتم از OpenAI ببینم مطابقت نداشتند. کنجکاو برای یافتن دلیل آن، تنظیمات Azure را بررسی کردم تا ببینم چه چیزی ممکن است باعث این تفاوت شود. آن موقع بود که به طور تصادفی با چیزی به نام فیلتر محتوا برخورد کردم. این فیلترها همه چیزهایی را که وارد و خارج از هوش مصنوعی می‌شد بررسی و رتبه‌بندی می‌کردند و سعی می‌کردند هر چیزی را که فکر می‌کردند بسیار خطرناک است مسدود کنند. کشف این فیلترها برای من یک لحظه نورانی بود. این اختلافات را توضیح داد و مرا تشویق کرد تا یاد بگیرم چگونه آنها را تغییر دهم تا به نتایج مورد نیازم برسم.

فیلترهای محتوا چیست؟

سرویس Azure OpenAI از فیلترهای محتوا برای شناسایی و به طور بالقوه جلوگیری از تولید محتوای مضر در چهار دسته استفاده می کند: خشونت، سخنان مشوق نفرت، محتوای جنسی، و خودآزاری. سیستم فیلترینگ هر دو درخواست کاربر و تکمیل مدل را تجزیه و تحلیل می کند و شدت محتوا را در مقیاس ایمن، کم، متوسط ​​و زیاد طبقه بندی می کند.

تنظیمات پیش فرض

به‌طور پیش‌فرض، فیلتر محتوا فعال است و روی شدت متوسط ​​تنظیم می‌شود…

Source link