گوگل مرورهای هوش مصنوعی را دوچندان می کند

به‌روزرسانی ربات Google Dj Ray Aio

لیز رید، رئیس جستجوی گوگل، شب گذشته یک پست وبلاگی به نام «بررسی اجمالی هوش مصنوعی: درباره هفته گذشته» نوشت. او اساساً گفت که به طور کلی اکثریت قریب به اتفاق مرورهای هوش مصنوعی واقعاً خوب هستند و آنها نمونه هایی از جایی که می توانند پیشرفت کنند پیدا کردند. اما مرورهای هوش مصنوعی اینجا باقی مانده اند و گوگل همچنان آنها را در جستجوی گوگل نشان می دهد.

همانطور که به یاد دارید، گوگل چند هفته پیش AI Overviews را در ایالات متحده راه اندازی کرد. سپس با گذشت زمان، بسیاری شروع به دیدن و به اشتراک گذاری نمونه های عجیب و شرم آور (گاهی مضر) از مرورهای هوش مصنوعی کردند، که منجر به به روز رسانی اسناد کمکی توسط گوگل شد و مدیر عامل گوگل در حالت تدافعی قرار گرفت.

او گفت: «ما در کمتر از یک مورد از هر ۷ میلیون جستار منحصربه‌فرد که «نمایش‌های هوش مصنوعی» در آنها ظاهر می‌شد، یک نقض خط‌مشی محتوا پیدا کردیم. او افزود: «ما به بهبود زمان و نحوه نمایش اجمالی هوش مصنوعی و تقویت حفاظت‌های خود، از جمله برای موارد لبه، ادامه خواهیم داد و از بازخوردهای مداوم بسیار سپاسگزاریم.»

برخی به‌روزرسانی‌ها، به‌روزرسانی‌هایی که در این مرورهای هوش مصنوعی انجام شده است، به‌روزرسانی Ray می‌گویند. مایک کینگ این نام را روی X پیشنهاد کرد و گفت: “اولین به‌روزرسانی الگوریتم دوران AIO را نام‌گذاری می‌کنم. ما آن را “فیلتر پرتو” یا “به‌روزرسانی ری” به نام لیلی ری می‌نامیم. لیلی با به اشتراک گذاشتن نمونه‌های بی‌شماری از مواردی که اشتباه کرده‌اند، در تشویق گوگل به کار سخت‌تر روی این مرورهای کلی هوش مصنوعی مؤثر بود.

در اینجا چند گلوله در مورد آنچه لیز رید گفت، وجود دارد، من کمی بیشتر در زمین موتور جستجو می روم و پوشش بیشتری در Techmeme وجود دارد. باید توجه داشته باشم، این چیزی است که او گفته است، نه آنچه من می گویم:

  • جستجوگران مرورهای هوش مصنوعی را دوست دارند و با آنها و ناشرانی که در آنها ارجاع داده شده‌اند بیشتر درگیر هستند
  • AI Overviews بسیار متفاوت از چت بات ها و سایر محصولات LLM عمل می کند
  • مرورهای هوش مصنوعی در جستجوی اصلی ادغام می‌شوند و فقط اطلاعاتی را نشان می‌دهند که توسط نتایج برتر وب پشتیبان‌گیری می‌شوند
  • مرورهای هوش مصنوعی معمولاً “توهم” نمی کنند یا چیزها را به روشی که سایر محصولات LLM ممکن است ایجاد کنند، ایجاد نمی کنند.
  • هنگامی که مرورهای هوش مصنوعی اشتباه می کنند، معمولاً به دلایل دیگری است: تعبیر نادرست پرس و جوها، تفسیر نادرست زبان در وب، یا نداشتن اطلاعات بسیار عالی در دسترس.
  • میزان دقت AI Overviews به خوبی قطعه های برجسته است
  • گوگل گفت که آنها «جستجوهای جدید بی معنی را دیده اند که ظاهراً با هدف تولید نتایج اشتباه بوده است.
  • تعداد زیادی اسکرین شات جعلی به صورت گسترده به اشتراک گذاشته شده است
  • گوگل اعتراف کرد: «اما برخی از مرورهای کلی هوش مصنوعی عجیب، نادرست یا غیرمفید قطعاً ظاهر شدند.
  • ممکن است “خلأهای داده” و “شکاف اطلاعاتی” وجود داشته باشد که گوگل ممکن است به صفحاتی که نباید استناد کند، مانند اسناد طنز (مثلاً در مورد “چند سنگ باید بخورم؟”
  • در برخی موارد، گوگل گفته است که مرورهای هوش مصنوعی، زبان صفحات وب را اشتباه تعبیر می کند و اطلاعات نادرست ارائه می کند.

بنابراین اکنون گوگل برای بهبود اجمالی هوش مصنوعی چه خواهد کرد؟

  • گوگل هر یک از موارد بد را به‌طور جداگانه برطرف نمی‌کند، بلکه مدل‌های خود را به‌روزرسانی می‌کند تا اشتباه را بهبود بخشد تا برای سایر جستارها نیز کار کند.
  • Google مکانیسم‌های تشخیص بهتری برای جستارهای بی‌معنی ایجاد کرد که نباید نمای کلی هوش مصنوعی را نشان دهند و گنجاندن محتوای طنز و طنز را محدود کرد.
  • گوگل سیستم های خود را به روز کرد تا استفاده از محتوای تولید شده توسط کاربر را در پاسخ هایی که می تواند توصیه های گمراه کننده ارائه دهد محدود کند.
  • گوگل محدودیت‌های راه‌اندازی را برای پرسش‌هایی اضافه کرد که در آن مرورهای هوش مصنوعی به آن اندازه مفید نبودند.
  • برای موضوعاتی مانند اخبار و سلامت، گوگل اعلام کرد که در حال حاضر نرده‌های محافظ قوی دارد. به عنوان مثال، گوگل گفته است که قصد دارد مرورهای هوش مصنوعی را برای موضوعات اخبار سخت نشان ندهد، جایی که تازگی و واقعیت مهم است.
  • در مورد سلامت، گوگل گفت که اصلاحات محرک اضافی را برای افزایش حفاظت از کیفیت ما راه اندازی کرده است.

در اینجا چند پست در X در این مورد وجود دارد:

بحث در انجمن در WebmasterWorld.



Source link