گزارش جدید ادعا میکند که جستجوی ChatGPT را میتوان با متن مخفی که حاوی دستورالعملهایی است که به ChatGPT Search میگوید چگونه به یک پاسخ پاسخ دهد، دستکاری کرد.
جستجوی ChatGPT را می توان با متن مخفی دستکاری کرد
گزارشی از گاردین نشان میدهد که چگونه آنها از متن پنهان در یک وبسایت جعلی برای فریب جستجوی ChatGPT استفاده کردهاند تا پاسخی از متن پنهان در صفحه وب به آنها نشان دهد. زمانی که فونت با رنگ پسزمینه صفحه مطابقت داشته باشد، متن پنهان میشود، مانند فونت سفید روی پسزمینه سفید.
سپس از ChatGPT Search خواستند تا از وب سایت بازدید کند و بر اساس متن موجود در سایت به سؤالی پاسخ دهد. جستجوی ChatGPT سایت را مرور کرد، محتوای پنهان را فهرست کرد و از آن در پاسخ استفاده کرد.
آنها ابتدا ChatGPT را با استفاده از یک صفحه کنترل غیر اکسپلویت در یک وب سایت بررسی جعلی ارزیابی کردند تا پاسخ ChatGPT را آزمایش کنند. این بررسی ها را خواند و یک پاسخ عادی داد.
محققان در گاردین سپس ChatGPT Search را به یک وبسایت جعلی ارسال کردند که دستورالعملهایی برای ارائه یک بررسی مثبت داشت و ChatGPT Search دستورالعملها را دنبال کرد و نظرات مثبتی دریافت کرد.
محققان آزمایش سومی را با نظرات مثبت نوشته شده در متن پنهان اما بدون دستورالعمل انجام دادند و ChatGPT Search مجدداً نظرات مثبتی را ارائه داد.
گاردین آن را اینگونه توضیح داد:
وقتی متن مخفی شامل دستورالعملهایی برای ChatGPT برای بازگرداندن یک بررسی مطلوب بود، پاسخ همیشه کاملاً مثبت بود. این مورد حتی زمانی بود که صفحه نظرات منفی داشت – از متن پنهان میتوان برای نادیده گرفتن امتیاز نقد واقعی استفاده کرد.
گنجاندن ساده متن پنهان توسط اشخاص ثالث بدون دستورالعمل نیز می تواند برای اطمینان از ارزیابی مثبت استفاده شود، با یک آزمایش شامل بررسی های جعلی بسیار مثبت که بر خلاصه ارائه شده توسط ChatGPT تأثیر گذاشته است.
تست فوق شبیه تست ChatGPT است که استاد دانشگاه علوم کامپیوتر در مارس 2023 انجام داد و ChatGPT را فریب داد و گفت که او یک متخصص سفر در زمان است.
آنچه این تستها ثابت میکنند این است که دادههای آموزشی ChatGPT و ربات جستجوی ChatGPT متن پنهان را میخورند، اما میتوانند در جهتهای زیر نیز دستکاری شوند. گاردین به نقل از یک کارشناس امنیتی می گوید که OpenAI از این سوء استفاده آگاه شده است و ممکن است تا زمان انتشار مقاله برطرف شود.
چرا می توان موتورهای جستجوی هوش مصنوعی را دستکاری کرد؟
یکی از حفرههای جستجوی هوش مصنوعی، فناوری به نام RAG (نسل تقویتشده بازیابی) است، تکنیکی که میتواند اطلاعات را از یک موتور جستجو واکشی کند تا یک هوش مصنوعی بتواند سپس از آن برای ایجاد پاسخ به سؤالات از منابع بهروز و (احتمالاً) معتبر استفاده کند. موتورهای جستجوی هوش مصنوعی چگونه صفحات وب معتبر را تعیین می کنند؟ به عنوان مثال، هوش مصنوعی Perplexity از نسخه اصلاح شده PageRank برای شناسایی صفحات وب قابل اعتماد برای استناد در موتور جستجوی هوش مصنوعی آنها استفاده می کند.
جستجوی ChatGPT مبتنی بر بینگ است اما خزنده مخصوص به خود را نیز دارد که می تواند اطلاعات بلادرنگ را واکشی کند. احتمالاً غیرمنطقی نیست که حدس بزنیم که اگر سایتی در فهرست جستجوی بینگ گنجانده شده باشد، احتمالاً در جستجوی ChatGPT گنجانده شده است، که باید از جستجوی ChatGPT در برابر تأثیر متن پنهان محافظت کند. احتمالاً سایتهایی با متن پنهان از فهرست جستجوی بینگ حذف میشوند. با این اوصاف، ممکن است بتوان یک وبسایت را پنهان کرد تا محتوای متفاوتی را به ربات جستجوی ChatGPT نشان دهد (لیست بهروز رباتهای OpenAI Search Crawler در اینجا موجود است).
راه های دیگر برای دستکاری موتورهای جستجوی هوش مصنوعی
گفته می شود راه های دیگری وجود دارد که محققان در سال گذشته کشف کردند که ممکن است هنوز موثر باشد (بخوانید: محققان نحوه سئو برای جستجوی هوش مصنوعی را کشف کردند). در این مقاله تحقیقاتی از سال گذشته، محققان 9 استراتژی را برای تأثیرگذاری بر موتورهای جستجوی هوش مصنوعی آزمایش کردند:
نه استراتژی برای دستکاری موتورهای جستجوی هوش مصنوعی
- مقتدرانه: تغییر شیوه نگارش برای متقاعد شدن بیشتر در ادعاهای معتبر
- بهینه سازی کلمات کلیدی: افزودن کلمات کلیدی بیشتر از جستجو
- افزودن آمار: تغییر محتوای موجود برای گنجاندن آمار به جای اطلاعات تفسیری.
- استناد به منابع (به نقل از منابع معتبر)
- افزودن نقل قول: اضافه کردن نقل قول و نقل قول از منابع با کیفیت بالا
- آسان برای درک: ساده تر کردن محتوا برای درک
- Fluency Optimization به معنای واضح تر کردن محتوا است
- کلمات منحصر به فرد: اضافه کردن کلماتی که کمتر مورد استفاده قرار می گیرند، کمیاب و منحصر به فرد هستند اما بدون تغییر معنی محتوا.
- شرایط فنی: این استراتژی هر جا که منطقی باشد و بدون تغییر معنای محتوا، هر دو اصطلاح منحصر به فرد و فنی را اضافه می کند.
محققان دریافتند که سه استراتژی اول بهترین عملکرد را داشتند. قابل ذکر است، افزودن کلمات کلیدی به صفحات وب کمک زیادی کرد.
جستجوی ChatGPT را می توان دستکاری کرد؟
من ادعاهای مطرح شده در کنفرانس جستجوی اخیر را شنیدم مبنی بر اینکه مرورهای هوش مصنوعی گوگل را می توان دستکاری کرد تا برخی از محصولات برندهای بزرگ را در پاسخ به سؤالات جستجو نشان دهد. من صحت آن را تأیید نکردم اما این ادعا توسط یک منبع موثق و معتبر مطرح شده است. با توجه به جستجوی ChatGPT، من متوجه نکات جالبی در مورد اینکه چه سایت هایی را برای نمایش اطلاعات و تحت چه شرایطی انتخاب می کند، متوجه شدم که می تواند راهی برای تأثیرگذاری بر رتبه بندی باشد. بنابراین جای تعجب نیست که حفره های رتبه بندی در جستجوی ChatGPT وجود دارد. جستجوی هوش مصنوعی بسیار شبیه روزهای اولیه جستجوی سنتی است.
تصویر ویژه توسط Shutterstock/Antonello Marangi