در چند هفته گذشته بحثهای مداومی در رسانههای اجتماعی وجود داشته است که Googlebot خزیدن خود را به طور چشمگیری کاهش داده است. به عنوان مثال، بنیانگذار یک سرویس تجزیه و تحلیل خزیدن وب، نموداری را در توییتر منتشر کرد که نشان می دهد چگونه فعالیت خزیدن گوگل از 11 نوامبر 2021 کاهش یافته است.
اگرچه کاهش سرعت ایندکس روی همه سایتها تأثیر نمیگذارد، بسیاری در توییتر و ردیت موافق هستند که چیزی در Google در رابطه با نمایهسازی تغییر کرده است و آن را با تصاویری از فعالیت Googlebot ثابت میکنند.
شواهد کاهش خزیدن
شواهد حکایتی از ناهنجاری های خزیدن گوگل در رسانه های اجتماعی انباشته شده است. مشکل رسانههای اجتماعی این است که میتوان به معنای واقعی کلمه هر مشاهدهای در مورد Google انجام داد و تقریباً تضمین میشود که موافقت خود را دریافت کند.
حکایت جالب است اما نه به خوبی مشاهدات مبتنی بر داده، چیزی است که اخیراً در توییتر ظاهر شد.
بنیانگذار سرویس خزنده و تحلیل لاگ Seolyzer (@Seolyzer_io) نموداری از رفتار خزیدن Google را پست کرد که نشان دهنده کاهش چشمگیر فعالیت خزیدن از 11 نوامبر بود.
تبلیغات
ادامه مطلب زیر
او پست کرد:
«Googlebot در اعتصاب است! Googlebot از 11 نوامبر در ساعت 6 عصر (GMT) فعالیت خزیدن خود را در بسیاری از سایت های بزرگ به شدت کاهش داده است.
? Googlebot در اعتصاب است! ? Googlebot از 11 نوامبر در ساعت 6 عصر (GMT) فعالیت خزیدن خود را در بسیاری از سایت های بزرگ به شدت کاهش داده است. آیا شما نگران هستید؟ این نیاز به یک رشته دارد! ? pic.twitter.com/ugLmCZbC1O
— اولیویه @Seolyzer.io ? (@Seolyzer_io) 15 نوامبر 2021
کد پاسخ سرور 304 و خزیدن ربات گوگل
برخی متوجه الگوی Googlebot شدهاند که ناگهان دیگر صفحاتی را که کد پاسخ سرور 304 ارائه میدهند، خزنده نمیشود.
کد پاسخ 304 یعنی 304 (اصلاح نشده).
زمانی که یک مرورگر (یا Googlebot) یک درخواست مشروط برای یک صفحه ارائه میکند، این کد پاسخ توسط یک سرور تولید میشود.
این بدان معناست که یک مرورگر (یا Googlebot) به سرور میگوید که یک صفحه وب در حافظه پنهان ذخیره شده است، بنابراین تا زمانی که آن صفحه بهروزرسانی (اصلاح شده) نشده باشد، سرویس آن را خسته نکنید.
در اینجا تعریف کد پاسخ سرور 304 (تغییر نشده) از گروه کاری HTTP آمده است:
“کد وضعیت 304 (تغییر نشده) نشان می دهد که یک درخواست مشروط GET یا HEAD دریافت شده است و اگر این واقعیت به دلیل نادرست بودن شرایط نبود، منجر به یک پاسخ 200 (OK) می شود.
به عبارت دیگر، نیازی به انتقال نمایشی از منبع مورد نظر توسط سرور نیست، زیرا درخواست نشان میدهد که کلاینت که درخواست را مشروط کرده است، قبلاً یک نمایش معتبر دارد. بنابراین سرور کلاینت را هدایت می کند تا از آن نمایش ذخیره شده استفاده کند، به گونه ای که گویی باری از یک پاسخ 200 (OK) است.”
تبلیغات
ادامه مطلب زیر
304 پاسخ باعث خزیدن کمتر Googlebot می شود؟
یک نفر در توییتی تایید کرد (به زبان فرانسوی) که در چندین سایت دارای AMP که نظارت میکند، صفحاتی که با پاسخ 304 پاسخ دادهاند، دچار افت شدند.
تایید ici aussi dans la search console sur plusieurs sites avec amp baisse flagrante des 304 le 12 noembre
— Erwan Le Tallec (@eletallec) 15 نوامبر 2021
شخصی که توییت اصلی را پست کرده بود با پست نموداری پاسخ داد که نشان میداد چگونه گوگل تقریباً خزیدن صفحاتی را که با کد پاسخ سرور 304 پاسخ میدادند متوقف کرد:
نظریه 2: 304s pic.twitter.com/KQ2k1pgteS
— اولیویه @Seolyzer.io ? (@Seolyzer_io) 15 نوامبر 2021
دیگران متوجه مشکل مشابهی شدند که در آن صفحاتی که پاسخ 304 را ارائه میکردند نرخ خزیدن به شدت پایینتری داشتند:
lol j’ai vu ça ce WE et avant de faire un thread je cherchais des infos / annonces pouvant expliquer mais l’explication c’est clairement amp et 304
– Raphael Doucet (@RaphSEO) 15 نوامبر 2021
شخص دیگری متوجه کاهش خزیدن در صفحات سفر شد اما افزایش خزیدن در صفحات تجارت الکترونیک مشاهده شد:
این الگو را فقط در پورتال گردشگری و مسافرتی در کرواسی دیدیم، عمودی های تجارت الکترونیک خوب هستند (حتی افزایش زیادی در خزیدن بعد از عصر 11 نوامبر در چندین مورد مشاهده شد)
– مارکو سیویجیک (@MarkoCvijic) 15 نوامبر 2021
بسیاری دیگر در حال به اشتراک گذاری تصاویر تجزیه و تحلیل و کنسول جستجو هستند:
@JohnMu من فکر می کنم مشکلات مسیریابی بیشتر با خزیدن دوباره گوگل وجود دارد. سرور محلی Nginx و هدرهای S3، همان مشکل. می توانید چیزی در مورد آن به ما بگویید؟ شاید مشکل مربوط به Cloudflare باشد؟ https://t.co/c8eV9C4pxg @Seolyzer_io pic.twitter.com/mG1Iqb30UR
– کارلوس ردوندو (@carlosredondo) 15 نوامبر 2021
داده های بیشتر:
من برخی از داده ها را استخراج کردم که در حوالی 21-11-11 19:39 (به وقت پاریس) متمرکز شدند.
برخی از IP های خزنده تأیید شده گوگل از آن زمان به طور کامل تاریک شدند. pic.twitter.com/FcqeMXuJPv— Baptiste M. (@bactisme) 15 نوامبر 2021
کد پاسخ 304 نباید خزیدن را تغییر دهد
اسناد رسمی صفحه راهنمای توسعهدهنده Google در مورد خزیدن Googlebot بیان میکند که کد پاسخ 304 نباید بر خزیدن تأثیر بگذارد.
در اینجا چیزی است که اسناد رسمی Google توصیه می کند:
«Googlebot به خط لوله نمایهسازی سیگنال میدهد که محتوا با آخرین باری که خزیده شده است یکسان است.
خط لوله نمایه سازی ممکن است سیگنال های URL را مجدداً محاسبه کند، اما در غیر این صورت کد وضعیت تأثیری بر نمایه سازی ندارد.
تبلیغات
ادامه مطلب زیر
آیا ممکن است که گوگل تغییر کرده باشد (به طور دائم یا موقت) و آن صفحه توسعه دهنده قدیمی باشد؟
نظریه رضایت کوکی
نظریه پاسخ سرور 304 یکی از بسیاری از تئوری ها و راه حل هایی است که توضیح می دهد چرا Googlebot ممکن است یک صفحه وب را ایندکس نکند.
یک نفر توییت کرد که گوگل پس از حذف نوار رضایت کوکی، فهرست بندی را افزایش داد.
گوگل دیگر صفحات جدید را خزیده و ایندکس نمی کند؟ من هم همین مشکل را داشتم و نوار رضایت کوکی (Cookiepro) را برای تست حذف کردم. حدس بزنید چه چیزی – مشکل حل شد. @JohnMu – آیا نظری دارید که چرا ممکن است Google صفحات جدید را با یک پنجره بازشو با رضایت کوکی خزیده و فهرست بندی نکند؟
– دنیس سیورز (@resiever) 16 نوامبر 2021
چرا یک نوار پاسخ کوکی باعث می شود گوگل یک صفحه وب را ایندکس نکند؟ آیا نوار رضایت کوکی ممکن است پاسخ 304 را ایجاد کند و باعث شود Google صفحه را ایندکس نکند؟
کاهش خزیدن Googlebot در Reddit مورد بحث قرار گرفت
پدیده کاهش خزیدن Googlebot نیز در Reddit مورد بحث قرار گرفت.
یک Redditor توضیح داد که چگونه در گذشته مقالات سایت موفق آنها در عرض 10 دقیقه پس از ارسال آنها از طریق کنسول جستجوی گوگل ایندکس می شدند.
آنها گفتند که اخیراً فقط نیمی از مقالات جدید نمایه می شوند.
تبلیغات
ادامه مطلب زیر
اما طبق این پست Reddit، در نوامبر تغییر کرد:
“به هر دلیلی در حال حاضر کمتر از نیمی از مقالات جدید ما در حال نمایه سازی هستند، حتی اگر من به صورت دستی همه آنها را پس از انتشار ارسال کنم.”
سایر Redditor ها تجربیات مشابهی را به اشتراک گذاشتند:
بسیاری از مردم در حال حاضر مشابه این را تجربه می کنند … به نظر می رسد چیزی در گوگل در حال انجام است.
“چیزی در گوگل در حال ایندکس کردن پست های جدید است…”
“وب سایت من 17 ساله است … ناگهان، آخرین مقاله هفته ها طول کشید تا نمایه شود.”
گوگل می گوید هیچ چیز خراب نیست
جان مولر گوگل به این سوالات در Reddit پاسخ داد:
من در حال حاضر هیچ چیز شکسته ای در نحوه فهرست بندی مطالب توسط گوگل نمی بینم. من می بینم که ما در مورد آنچه برای نمایه سازی انتخاب می کنیم، انتقادی هستیم، همانطور که هر موتور جستجویی باید انجام دهد.”
آیا گوگل الگوهای خزیدن جدیدی را آزمایش می کند؟
بینگ در ماه اکتبر یک پروتکل نمایه سازی منبع باز به نام IndexNow را معرفی کرد که هدف آن کاهش تعداد دفعات خزیدن خزنده ها در صفحات وب به منظور کاهش میزان مصرف انرژی در مراکز داده برای خزیدن و در سرورها برای ارائه صفحات وب است. پروتکل جدید به نفع ناشران است زیرا فرآیند اطلاع رسانی به موتورهای جستجو را هنگام به روز رسانی یا ایجاد صفحات سرعت می بخشد و در نتیجه ایندکس شدن سریعتر صفحات وب با کیفیت را در پی دارد.
تبلیغات
ادامه مطلب زیر
در ماه نوامبر، گوگل اعلام کرد که پروتکل جدید نمایه سازی IndexNow را آزمایش خواهد کرد تا ببیند آیا مزایایی برای آن وجود دارد یا خیر.
صرفه جویی در انرژی و کاهش ردپای کربن یکی از مهمترین مسائل امروز ما است. آیا ممکن است گوگل در حال بهبود راه هایی برای کاهش خزیدن بدون تغییر اساسی به پروتکل جدید باشد؟
آیا گوگل خزیدن صفحات وب را کاهش داده است؟
برخی ادعاها مبنی بر اینکه گوگل ایندکس کردن را به طور کلی متوقف کرده است وجود دارد اما این نادرست است. با این حال، بحثهای مهمی در رسانههای اجتماعی با پشتوانه دادهها وجود دارد تا از تغییر الگوهای نمایهسازی Googlebot پشتیبانی شود.