گوگل توضیح می دهد که چگونه مرورهای هوش مصنوعی خود را بهبود می بخشد

گوگل در یک پست وبلاگ جدید توسط لیز رید، رئیس جدید جستجوی خود، به مطبوعات بد پیرامون بررسی های هوش مصنوعی که اخیراً منتشر شده بود، پاسخ داد. گوگل توضیح داد که چگونه AI Overviews کار می کند، بررسی های AI عجیب و غریب از کجا آمده است، پیشرفت هایی که گوگل در بررسی های AI خود ایجاد کرده و خواهد کرد.

با این حال، گوگل گفت که جستجوگران «رضایت بیشتری از نتایج جستجوی خود دارند، و سؤالات طولانی‌تر و پیچیده‌تری می‌پرسند که می‌دانند Google اکنون می‌تواند به آنها کمک کند» و اساساً این مرورهای هوش مصنوعی به جایی نمی‌رسند.

به خوبی قطعه های برجسته. گوگل اعلام کرد که مرورهای هوش مصنوعی «بسیار مؤثر» هستند و بر اساس آزمایش‌های داخلی آن، «نرخ دقت برای مرورهای هوش مصنوعی با تکه‌های برجسته برابر است». گوگل بارها گفته است که قطعات ویژه از هوش مصنوعی نیز استفاده می کنند.

بدون توهم لیز رید از گوگل نوشت: مرورهای هوش مصنوعی معمولاً توهم ندارند. او اضافه کرد که مرورهای هوش مصنوعی “چیزها را به روشی که سایر محصولات LLM ممکن است ایجاد کنند” نمی کند. او نوشت: مرورهای هوش مصنوعی معمولاً زمانی اشتباه می‌شوند که گوگل «پرس‌وجوها را اشتباه تفسیر می‌کند، تفاوت‌های ظریف زبان را در وب تفسیر می‌کند، یا اطلاعات زیادی در دسترس ندارد».

چرا “نتایج عجیب” گوگل توضیح داد که AI Overviews را “به طور گسترده” قبل از انتشار آزمایش کرده است و از انتشار آن راحت بوده است. اما گوگل گفت که مردم سعی کردند مرورهای هوش مصنوعی را برای بازگرداندن نتایج عجیب و غریب دریافت کنند. گوگل نوشت: «ما همچنین شاهد جستجوهای جدید بی‌معنی بوده‌ایم که ظاهراً با هدف تولید نتایج اشتباه انجام شده‌اند.

همچنین، گوگل نوشت که مردم بسیاری از نمونه‌ها را جعل کرده‌اند، اما اسکرین‌شات‌ها را دستکاری کرده‌اند که پاسخ‌های هوش مصنوعی جعلی را نشان می‌دهند. گوگل گفت: «آن مرورهای هوش مصنوعی هرگز ظاهر نشدند.

برخی از نمونه‌های عجیب و غریب ارائه شده‌اند، و گوگل در این نوع موارد بهبودهایی ایجاد خواهد کرد. Google به صورت دستی مرورهای هوش مصنوعی را تنظیم نمی‌کند، بلکه مدل‌ها را بهبود می‌بخشد تا در بسیاری از جستارهای بیشتر کار کنند. گوگل نوشت: “ما به سادگی پرس و جوها را یک به یک “رفع” نمی کنیم، بلکه روی به روز رسانی هایی کار می کنیم که می تواند به مجموعه گسترده ای از پرس و جوها کمک کند، از جمله موارد جدیدی که هنوز ندیده ایم.”

گوگل در مورد “حفره های داده” صحبت کرد که ما بارها در اینجا به آنها پرداختیم. مثال، “چند سنگ باید بخورم؟” پرس و جوی بود که هیچ کس قبلاً آن را جستجو نکرده بود و محتوای خوبی در آن وجود نداشت. گوگل توضیح داد: «با این حال، در این مورد، محتوای طنزی در مورد این موضوع وجود دارد … که اتفاقاً در وب‌سایت یک ارائه‌دهنده نرم‌افزار زمین‌شناسی نیز بازنشر شده است. بنابراین وقتی کسی این سوال را در جستجو مطرح کرد، یک نمای کلی هوش مصنوعی ظاهر شد که صادقانه به یکی از تنها وب‌سایت‌هایی که این سؤال را پاسخ می‌داد پیوند داشت.

بهبود مرورهای هوش مصنوعی. گوگل برخی از بهبودهایی را که در AI Overviews انجام داده است به اشتراک گذاشت و توضیح داد که در آینده به بهبودهای خود ادامه خواهد داد. این چیزی است که گوگل گفته است که تاکنون انجام داده است:

  • مکانیسم‌های تشخیص بهتری برای جستارهای بی‌معنی که نباید نمای کلی هوش مصنوعی را نشان دهند، ایجاد کرد و گنجاندن محتوای طنز و طنز را محدود کرد.
  • سیستم های خود را برای محدود کردن استفاده از محتوای تولید شده توسط کاربر در پاسخ هایی که می تواند توصیه های گمراه کننده ارائه دهد، به روز کرد.
  • محدودیت‌های راه‌اندازی برای پرسش‌هایی اضافه شد که در آن مرورهای هوش مصنوعی به آن اندازه مفید نبودند.
  • برای موضوعاتی مانند اخبار و سلامت، گوگل اعلام کرد که در حال حاضر نرده‌های محافظ قوی دارد. به عنوان مثال، گوگل گفته است که قصد دارد مرورهای هوش مصنوعی را برای موضوعات اخبار سخت نشان ندهد، جایی که تازگی و واقعیت مهم است. در مورد سلامت، گوگل گفت که اصلاحات محرک اضافی را برای افزایش حفاظت از کیفیت ما راه اندازی کرده است.

لیز رید در پایان گفت: «ما به بهبود زمان و نحوه نمایش اجمالی هوش مصنوعی و تقویت حفاظت‌های خود، از جمله برای موارد لبه، ادامه می‌دهیم و از بازخوردهای مداوم بسیار سپاسگزاریم».

چرا ما اهمیت می دهیم. به نظر می رسد مرورهای هوش مصنوعی به جایی نمی رسند و گوگل همچنان آنها را به جستجوگران نشان می دهد و در آینده به کشورها و کاربران بیشتری عرضه می کند. می‌توانید انتظار داشته باشید که آنها در طول زمان بهتر شوند، زیرا Google همچنان بازخورد می‌شنود و سیستم‌های خود را بهبود می‌بخشد.

تا آن زمان، مطمئن هستم که نمونه‌های بیشتری از مرورهای هوش مصنوعی نادرست و گاهی طنزآمیز را خواهیم یافت، مشابه آنچه که در ابتدای راه‌اندازی قطعه‌های برجسته دیدیم.

Source link