گوگل یک پست وبلاگی منتشر کرد که در آن به اشتراک گذاشت که آنها سیستم های یادگیری ماشینی خود را به روز کرده اند تا بررسی های جعلی، لیست های جعلی کسب و کار و تصاویر و ویدیوهای تقلبی را دریافت و حذف کنند.
سیستم های خودکار و تیم های بازبینی انسانی بیش از 200 میلیون عکس، 7 میلیون ویدیو را حذف کردند و بیش از 115 میلیون مرور را مسدود یا حذف کردند که نشان دهنده افزایش 20 درصدی نسبت به سال قبل، 2021 است.
Google چگونه هرزنامه‌های مشارکت‌کننده کاربر را می‌گیرد
گوگل از مدل‌های جدید یادگیری ماشینی برای شناسایی و حذف محتوای جعلی و جعلی استفاده می‌کند.
این مدل‌های یادگیری ماشینی به دنبال الگوهای غیرعادی در محتوای ارائه‌شده توسط کاربر هستند، از جمله پرچم‌گذاری اشکال جدید سوءاستفاده که قبلاً دیده نشده بود.
گوگل به اشتراک گذاشت:
ما مدت‌هاست که از هوش ماشینی برای کمک به شناسایی الگوهای سوء استفاده احتمالی استفاده می‌کنیم و به تکامل فناوری خود ادامه می‌دهیم.
سال گذشته، به‌روزرسانی قابل‌توجهی را برای مدل‌های یادگیری ماشینی خود راه‌اندازی کردیم که به ما کمک کرد روند سوء استفاده جدید را چندین برابر سریع‌تر از سال‌های گذشته شناسایی کنیم.
برای مثال، سیستم‌های خودکار ما افزایش ناگهانی در نمایه‌های کسب‌وکار با وب‌سایت‌هایی که به .design یا .top ختم می‌شوند شناسایی کردند – چیزی که تشخیص دستی آن در میلیون‌ها نمایه دشوار است.
تیم تحلیلگران ما به سرعت جعلی بودن این وب سایت ها را تأیید کردند – و ما توانستیم آنها را حذف کنیم و حساب های مرتبط را به سرعت غیرفعال کنیم.
سیستم‌های Google محتوای جدید را قبل از پست بررسی می‌کنند تا محتوای جعلی یا تقلبی ارسال شده به سیستم Google Maps را مسدود کنند.
آنها همچنین یک مدل یادگیری ماشینی را برای اسکن محتوایی که قبلاً منتشر شده است، به کار می‌گیرند تا محتوای جعلی را که ممکن است در بررسی‌های اولیه از بین رفته باشد، پیدا کنند.
این سیستم‌های جدید هرزنامه‌ها را سریع‌تر از سال 2021 مسدود می‌کنند و تعداد بیشتری از آن را می‌گیرند.
گوگل توضیح داد:
«در برخی مکان‌ها، کلاهبرداران شروع به پوشاندن شماره‌های تلفن نادرست روی عکس‌های ارسالی کردند، به این امید که قربانیان ناآگاه را فریب دهند تا به جای تجارت واقعی، با کلاهبردار تماس بگیرند.
برای مبارزه با این مشکل، ما یک مدل یادگیری ماشین جدید را به کار بردیم که می‌توانست اعدادی را که روی تصاویر ارائه شده با تجزیه و تحلیل جزئیات بصری خاص و طرح‌بندی عکس‌ها پوشانده شده‌اند، تشخیص دهد.
با استفاده از این مدل، ما اکثریت قریب به اتفاق این تصاویر جعلی و ناقض سیاست را قبل از انتشار با موفقیت شناسایی و مسدود کردیم.
آمار مسدود کردن هرزنامه
اعلامیه گوگل به اشتراک گذاشت که در سال 2022:
- گوگل بیش از 115 میلیون بررسی را مسدود یا حذف کرد و گفت که اکثر آنها قبل از انتشار مسدود شده بودند.
- الگوریتم‌های جدید مبارزه با هرزنامه بیش از 200 میلیون عکس و بیش از 7 میلیون ویدیو را حذف کردند که خط‌مشی‌های محتوای Google را نقض می‌کردند.
- 20 میلیون تلاش برای ایجاد پروفایل های تجاری جعلی مسدود شد.
- حفاظت بیشتر برای بیش از 185000 کسب و کار که فعالیت های مشکوک را تجربه می کردند اضافه شد.
در ژانویه 2023، گوگل نظری را به FTC ارسال کرد (پی‌دی‌اف را اینجا بخوانید) که به اشتراک گذاشت که گوگل علاوه بر بررسی محتوا، از سیگنال‌هایی برای شناسایی حساب‌های جعلی استفاده می‌کند.
گوگل همچنین به اشتراک گذاشت که اکنون تصاویر را اسکن می کند تا محتوای پوشانده شده روی تصاویر را شناسایی کند که به منظور منحرف کردن تماس های تلفنی از یک کسب و کار و به سمت شماره تلفن کلاهبرداران است.
آنها ربات‌ها، محتوای تکراری، الگوهای کلمه‌ای را که شبیه به بررسی‌های جعلی شناخته شده هستند بررسی می‌کنند و همچنین از سیستمی استفاده می‌کنند که آن را «تطبیق متن هوشمند» می‌نامند که به شناسایی محتوای گمراه‌کننده کمک می‌کند.
معتبر، ایمن و قابل اعتماد
Google در تلاش‌های خود برای جلوگیری از فعالیت‌های غیراصولی در اکوسیستم Google Maps از بازبین‌های خودکار و انسانی استفاده می‌کند.
شناسایی فعالیت‌های کلاهبرداری در Google Maps هم برای افرادی که به بررسی‌های کسب‌وکار وابسته هستند و هم برای مشاغلی که کسب‌وکارهای فهرست‌شده در سیستم دارند مهم است.
تصویر برجسته توسط Shutterstock/ViDI Studio
منبع: گوگل