لینکدین یک چارچوب جدید تعدیل محتوا را ارائه کرد که پیشرفتی در بهینه سازی صف های تعدیل است و زمان رسیدگی به تخلفات خط مشی را تا 60% کاهش می دهد. این فناوری ممکن است آینده تعدیل محتوا باشد، زمانی که فناوری بیشتر در دسترس قرار گیرد.
چگونه لینکدین نقض محتوا را تعدیل می کند
لینکدین دارای تیم‌های تعدیل محتوا است که روی بررسی دستی محتوای احتمالی نقض کننده خط‌مشی کار می‌کنند.
آنها از ترکیبی از مدل‌های هوش مصنوعی، گزارش‌های اعضای لینکدین و بررسی‌های انسانی برای دریافت محتوای مضر و حذف آن استفاده می‌کنند.
اما مقیاس این مشکل بسیار زیاد است زیرا صدها هزار مورد در هر هفته نیاز به بررسی دارند.
آنچه در گذشته با استفاده از فرآیند اول ورود، اولین خروج (FIFO) اتفاق می‌افتاد، این است که هر موردی که نیاز به بازبینی دارد در یک صف منتظر می‌ماند و در نتیجه بازبینی و حذف محتوای توهین‌آمیز واقعی زمان زیادی می‌برد.
بنابراین، پیامد استفاده از FIFO این است که کاربران در معرض محتوای مضر قرار گرفتند.
لینکدین ایرادات سیستم FIFO را که قبلاً مورد استفاده قرار گرفته بود را شرح داد:
… این رویکرد دو اشکال قابل توجه دارد.
اولاً، همه محتوایی که توسط انسان بررسی می‌شود، خط‌مشی‌های ما را نقض نمی‌کند – بخش قابل‌توجهی به‌عنوان غیرقابل نقض ارزیابی می‌شود (یعنی پاک‌شده).
این امر پهنای باند ارزشمند مرورگر را از بررسی محتوایی که در واقع نقض کننده است دور می کند.
دوم، وقتی موارد بر اساس FIFO بررسی می‌شوند، تشخیص اینکه آیا محتوای نقض‌کننده بعد از محتوای غیر نقض‌کننده وارد شده است یا نه، بیشتر طول می‌کشد.
لینکدین یک چارچوب خودکار با استفاده از مدل یادگیری ماشینی ابداع کرد تا محتوایی را که احتمالاً خط‌مشی‌های محتوا را نقض می‌کند، اولویت‌بندی کند و آن موارد را به جلوی صف منتقل کند.
این روند جدید به سرعت بخشیدن به روند بررسی کمک کرد.
چارچوب جدید از XGBoost استفاده می کند
چارچوب جدید از یک مدل یادگیری ماشینی XGBoost برای پیش‌بینی اینکه کدام مورد محتوایی احتمالاً خط‌مشی را نقض می‌کند، استفاده می‌کند.
XGBoost مخفف Extreme Gradient Boosting است، یک کتابخانه یادگیری ماشینی منبع باز که به طبقه بندی و رتبه بندی موارد در یک مجموعه داده کمک می کند.
این نوع از مدل یادگیری ماشینی، XGBoost، از الگوریتم‌هایی برای آموزش مدل برای یافتن الگوهای خاص روی یک مجموعه داده برچسب‌گذاری شده (مجموعه مجموعه‌ای که برچسب گذاری می‌شود که کدام آیتم محتوا را نقض می‌کند) استفاده می‌کند.
لینکدین دقیقاً از این فرآیند برای آموزش چارچوب جدید خود استفاده کرد:
این مدل‌ها بر روی نمونه‌ای از داده‌های برچسب‌گذاری‌شده انسانی گذشته از صف بررسی محتوا آموزش داده می‌شوند و بر روی نمونه‌های خارج از زمان دیگری آزمایش می‌شوند.»
پس از آموزش، مدل می تواند محتوایی را شناسایی کند که در این کاربرد فناوری، احتمالاً نقض می شود و نیاز به بررسی انسانی دارد.
XGBoost یک فناوری پیشرفته است که در تست‌های بنچمارک برای این نوع استفاده بسیار موفق است، هم از نظر دقت و هم در مدت زمان پردازشی که طول می‌کشد و از دیگر انواع الگوریتم‌ها بهتر عمل می‌کند.
لینکدین این رویکرد جدید را توضیح داد:
«با این چارچوب، محتوایی که وارد صف‌های بازبینی می‌شود توسط مجموعه‌ای از مدل‌های هوش مصنوعی امتیازدهی می‌شود تا احتمال اینکه احتمالاً خط‌مشی‌های ما را نقض می‌کند محاسبه شود.
محتوایی با احتمال زیاد غیرقانونی بودن اولویت‌بندی نمی‌شود، صرفه‌جویی در پهنای باند بازبینی‌کننده انسانی و محتوایی که احتمال نقض خط‌مشی بالاتری دارد، در اولویت قرار دارد تا بتوان آن را سریع‌تر شناسایی و حذف کرد.»
تاثیر بر اعتدال
لینکدین گزارش داد که چارچوب جدید قادر است به طور خودکار در مورد 10 درصد از محتوایی که در صف بررسی قرار گرفته اند، با آنچه که لینکدین سطح دقت «بسیار بالا» می نامد، تصمیم بگیرد. آنقدر دقیق است که مدل هوش مصنوعی از عملکرد یک بازبین انسانی فراتر می رود.
شایان ذکر است، چارچوب جدید میانگین زمان دریافت محتوای نقض‌کننده خط‌مشی را حدود 60 درصد کاهش می‌دهد.
جایی که هوش مصنوعی جدید در حال استفاده است
سیستم جدید اولویت بندی بررسی محتوا در حال حاضر برای پست ها و نظرات فید استفاده می شود. لینکدین اعلام کرد که در حال کار برای اضافه کردن این فرآیند جدید در جای دیگری در لینکدین است.
تعدیل محتوای مضر بسیار مهم است زیرا می تواند با کاهش تعداد کاربرانی که در معرض محتوای مضر قرار می گیرند، به بهبود تجربه کاربر کمک کند.
همچنین برای تیم اعتدال مفید است زیرا به آنها کمک می‌کند تا حجم بالایی را افزایش دهند و حجم بالایی را مدیریت کنند.
ثابت شده است که این فناوری موفق است و با گذشت زمان ممکن است با در دسترس شدن بیشتر در همه جا فراگیر شود.
اطلاعیه لینکدین را بخوانید:
افزایش تلاش‌های تعدیل محتوا از طریق یادگیری ماشینی و اولویت‌بندی محتوای پویا
تصویر ویژه توسط Shutterstock/wichayada suwanachun