مشرف التعليقات: الوظيفة الأكثر أهمية في العالم في الوقت الحالي

ازدادت حدة الانتقادات التي طالت موقع يوتيوب فور اكتشاف شبكة يقودها الأشخاص الذين يستغلون الأطفال جنسياً بين صفحاته، حيث ينشط هؤلاء الأشخاص في الأقسام المخصصة للتعليقات وينشرون لقطات شاشة وصور للأطفال القصّر الذين يظهرون في مقاطع الفيديو من منظور جنسي. ودفعت هذه المخالفات إدارة الموقع الأمريكي إلى فعل شيء لم يسبق له مثيل خلال الأسبوع الماضي، حيث عطلت إمكانية التعليق على مقاطع الفيديو التي تضم القاصرين، كما ستسمح لعدد قليل من القنوات التي تبث المحتوى الذي يتضمن القصّر بتحقيق دخل مادي من هذا المحتوى، وذلك عن طريق إلزامها بمراقبة التعليقات بشكل دوري.

تجدر الإشارة إلى أن هذا القرار الذي اتخذته الشركة التي لطالما اعترفت بأهمية الخوارزميات في إدارة المحتوى، يبدو اعترافاً ضمنياً بأن إشراف العنصر البشري على مراقبة التعليقات يمثل الحل الأمثل للقطع مع المحتوى الضار الذي ينشره المستخدمون في التعليقات ومراقبته.

يعد الإشراف على تعليقات المستخدمين والمحتوى ذاته مسؤولية كبرى في عالم الإنترنت، ويرجع ذلك إلى كون العالم الرقمي يمثل مجالاً تتصادم فيه كل من حرية التعبير والمصالح المجتمعية والرقابة والتحرش والبريد المزعج والإجرام العلني. ويبدو أن الإنترنت مسؤول عن مجموعة واسعة ومتنوعة من المعايير الثقافية والسلوكيات المقبولة والمتطورة بشكل مستمر.

بصفتي شخصاً سبق له القيام بمثل هذا العمل، يمكنني القول إن مراقبة المحتوى تمثل مهمة مقلقة وغير واضحة المعالم. وعلى الرغم من ذلك، لا يبدو أن المنصات التكنولوجية الكبرى تستثمر الكثير من الموارد في هذا العمل، فأجر الموظفين المسؤولين عن المراقبة يكون زهيداً في أغلب الأحيان، كما أن الشركات تتعامل معهم وفق نظام التعاقد، ناهيك عن كون هذه المهام توصف دائماً بأنها مهام تبرع الآلات فقط في القيام بها.

على سبيل المثال، نشر موقع ذي فيرج الأمريكي خلال الأسبوع الماضي تقريراً كشف من خلاله خبايا العمليات التي تجري داخل أروقة شركة كوغنيزات، إحدى الشركات المتعاقدة مع فيسبوك، والتي تشرف على مراقبة محتوى موقع التواصل الاجتماعي العالمي.

بين طيات المقال الأمريكي، أطنب الموظفون في وصف الأزمات النفسية والعاطفية الناجمة عن قيامهم بهذه الوظائف، كما رفضوا الإدلاء بأسمائهم الحقيقية خوفاً من فقدان هذه الوظائف. ذكر بعض الموظفين أنهم لجأوا إلى تدخين الأعشاب المخدرة لتهدئة أعصابهم، في حين أفاد البعض الآخر بأن المستخدمين اتهموهم بالتطرف بسبب المحتوى الذي كلفوا بمراقبته ومنعه من الانتشار. وعلى الرغم من هذه المعاناة، لم يكن الدخل السنوي الفردي لهؤلاء الأشخاص يتجاوز 28 ألف دولار.

وفقاً لتقرير حديث صادر عن وكالة رويترز للأنباء، يلقى المشرفون على محتوى موقع فيسبوك في الدول النامية مثل الهند معاملة أسوأ بكثير. ويعمل الموظفون المتعاقدون مع شركة جين باكت، والذين يعملون في مكاتبها بمدينة حيدر آباد جنوب الهند، على معالجة حوالي 2000 منشور ضمن دوامهم اليومي ذي الثماني ساعات، لكن دخلهم السنوي لا يتجاوز 1400 دولار في السنة، أي 75 سنت في الساعة.

من الواضح أن المواقع الكبرى مثل فيسبوك ويوتيوب ترى أن مشرفي التعليقات البشريين قابلون للتحسين ويمكن تحقيق الفائدة القصوى منهم. وخلال الربيع الماضي، أشار المدير التنفيذي لموقع فيسبوك، مارك زوكربيرغ، إلى مشرفي التعليقات الآليين القائمين على خوارزميات الذكاء الاصطناعي لما يزيد عن 30 مرة خلال خطابه أمام الكونغرس. وفي غضون ذلك، يكافح المشرفون على التعليقات في فيسبوك ويوتيوب عن طريق تدخين المواد المخدرة ليمنعوا أخبار انتحارهم من تصدر عناوين أخبار الصحف. ويمكن القول إن هذه الشركات تواصل دعوتنا إلى تجاهل القمامة الملقاة في الشارع حتى تتمكن من اختراع شاحنات جمع القمامة ذاتية القيادة.

أظهرت هذه المنصات الإلكترونية العملاقة، التي حولت العالم إلى قسم عملاق مخصص للتعليقات، أنها لا تبدي اهتماماً كبيراً بتوظيف أشخاص حقيقيين وقادرين على القطع مع هذه المعضلة بشكل جدي. وفي كل أسبوع، تتناقل وسائل الإعلام أصداء فضائح جديدة، والتي تقابلها شركات مثل فيسبوك ويوتيوب وتويتر بالتحايل وتقديم وعود بأن مثل هذه الأمور لن تتكرر. وفي الأثناء، تتداعى تلك الطبقة الرقيقة التي تفصل منصات مثل فيسبوك ويوتيوب عن التحول إلى منتديات فوضوية مثل منتدى “فورتشان” للصور. وعندما يكون الغزاة المتوحشون على أعتاب بلدتك، لا يمكنك إخبار القرويين بأنه عليهم انتظار تطوير حل خوارزمي ما للتصدي لهم.

على الرغم من ذلك، يعتبر توظيف أشخاص يراقبون أقسام التعليقات وخلاصات الأخبار والمواقع التي تنشر خلالها مقاطع الفيديو الخاصة بك أمراً مكلفاً للغاية، كما أن الإشراف على المحتوى يتطلب إحساساً واقعياً بحجم المسؤولية. وتبدو هذه المسؤولية ضخمة نوعاً ما، لاسيما وأن هناك الكثير من التعليقات والمشاركات ومقاطع الفيديو التي يمكن لأي شخص مشاهدتها في يوم واحد، كما يتطلب هذا العمل مجموعة محددة من القواعد التي يمكن فرضها باستمرار.

في الوقت الحالي، يعجز المطورون في موقع فيسبوك عن تعريف المنشورات والمحتوى الذي يحرض على الكراهية، كما لا يمكن للمراقبين في موقع يوتيوب تحديد الأمور التي يمكنها تشكيل قوام نظرية المؤامرة أو تحديد كيفية التحقق من ذلك بشكل صحيح. ولن يذكر تويتر ما إذا كان سيحظر المستخدمين النافذين مثل الرئيس ترامب بسبب انتهاكه إرشادات الاستخدام.

سواء كان الأمر يتعلق بنشر الأخبار الزائفة أو استغلال الأطفال جنسياً أو عمليات التحيل التسويقية أو القومية البيضاء، فإن الأمر يمكن اختزاله في فشل المنصات الكبرى في مراقبة محتواها. وعلاوة على ذلك، تشهد الإنترنت فيضاً من المعضلات الأخرى من قبيل الحملات المناهضة للتلاقيح والسترات الصفراء في فرنسا والتحرش المنسق وانتشار المحتوى الذي يشير إلى احتمالية نشوب حرب نووية بين باكستان والهند، ويرجع ذلك إلى فشل مواقع مثل فيسبوك وتويتر ويوتيوب في دعم إرشادات مراقبة المحتوى طوال عدة سنوات، وذلك في الوقت الذي أصبحت منصاتها التفاعلية منبراً للمزيد من وظائفنا الاجتماعية الأساسية.

في المقابل، أثبتت مواقع التواصل الاجتماعي القديمة، مثل سلاش دوت وميتا فيلتر وفارك، أن الإشراف البشري على نوع المحتوى المنشور يمكن أن يقود إلى نتائج إيجابية عند دمجه مع مجموعة واضحة من إرشادات الاستخدام. وعلى الرغم من اختلاف حجم المحتوى الذي عالجته هذه المنصات وبين محتوى مواقع التواصل الاجتماعي الكبرى في الوقت الحالي، لا تزال هذه الطريقة فعالة نسبياً.

تجدر الإشارة إلى أننا لا نمتلك العدد الكافي من الأشخاص المكلفين بمراقبة المحتوى المنشور على الإنترنت، كما أن القلة التي تضطلع بهذه المهام لا تمتلك الموارد والدعم الكافيين لتأدية عملها بشكل جيد. وفور حدوث أمر سيء، على غرار حالة الاستنفار التي تلت أخبار رواج “تحدي مومو” ذي النزعة الانتحارية، يوافق موقع يوتيوب على التحرك للنظر في الأمر على مضض، ثم يقرر في النهاية محو جميع مقاطع الفيديو المتعلقة بهذا التحدي. والجدير بالذكر أن هذه التحركات الجدية من طرف يوتيوب بدأت بعد فترة طويلة من إثارة وكالات إنفاذ القانون وشخصيات مثل كيم كارداشيان لبعض الشكوك حول ذلك.

من المرجح أن يصبح الذكاء الاصطناعي قادراً على مراقبة المحتوى المنشور على الإنترنت بشكل فعال في يوم ما، لكننا محاصرون في الوقت الحالي بجحافل التعليقات على موقع ريديت، والتي تتخذ من تغريدات الرئيس الأمريكي دونالد ترامب موضوعاً لها. ويمكن القول إن المشرفين على المنتديات الإلكترونية والمحررين المسؤولين عن تطوير المحتوى يضطلعون بالدور المهم ذاته منذ بزوع فجر الإنترنت، حيث أن وظائفهم تتضمن مراقبة المحتوى المنشور وتحديد ما إذا كان يجدر بهم الإبقاء على المستخدم أو المحتوى في هذه المواقع أو لا، إن الأمر شبيه بدمج مهام الشريف وأمين المكتبة.

في شأن ذي صلة، كان “يوزنت” من رواد المجتمعات الحقيقية على الانترنت، حيث كان يضم أشخاصاً مكلفين بالإشراف على المحتوى الذي يقدمونه للمستخدمين. وبطريقة ما، لطالما وقع تعريف المجتمعات الرقمية بالاستناد إلى نشاط المشرفين عليها. وامتلك موقع “سمثنغ أوفل” الكوميدي لوائح تتضمن الأسباب التي دفعت مشرفيه إلى حظر المستخدمين، كما اتبع موقع ذي توست النسوي النهج ذاته، وهو ما تجلى في امتلاكه لأحد أفضل أقسام التعليقات على الإنترنت. ويمكن الإشادة بموقع نيوبيتس نظراً لامتلاكه نظام رسائل مراقب بشكل صارم للغاية.

لمدة تناهز تسعة أشهر، اضطلعت بمنصب المشرف على التعليقات في موقع بز فيد نيوز، وتضمنت هذه المهام مراقبة مساحة تعليقات المستخدمين بشكل مستمر، والتي كانت تضم 100 تعليق في كل مرة. وعندما سألني بعض الأشخاص حول عدد المرات التي أحذف فيها قوائم التعليقات، قلت بأنني أحذف 9 صفحات في اليوم.

كان نظام مراقبة التعليقات في موقع بز فيد سنة 2012 أكثر تطوراً من الأنظمة المماثلة في مواقع أخرى، فلقد كان لدي نافذة على يمين الشاشة تمكنني من حظر التعليقات أو المستخدمين بشكل فوري. ولطالما كنتُ أفضّل استخدام تقنية تدعى “المنع المظلل”، حيث لا يعلم المستخدم أنه هو الوحيد القادر على مشاهدة تعليقاته.

في أغلب الأحيان، اقتصرت مهامي على حذف الإعلانات المزعجة والتي تتضمن برامج قرصنة أو منح ملصقات مضحكة للمستخدمين الذين ينشرون تعليقات طريفة. ونظرا لكون موقع بز فيد صغيراً آنذاك، كانت وظيفتي سهلة نسبياً. ومع ذلك شهدتُ أياما سيئة كثيرة، لاسيما عندما كانت المجتمعات الرقمية الأخرى تشن هجمات تعليقات على موقعنا، ويطلق على هذا التمشي اسم “الدعاية الشعبية الزائفة”، وغالباً ما يقود مستخدمو مواقع مثل ريديت وفورتشان أو “ستورم فرونت” ذو التوجهات النازية إلى إغراق قسم التعليقات لدينا بصور إباحية وخطاب يحرض على الكراهية.

عندما كان الموقع يتعرض إلى مثل هذه الهجمات، والتي كانت تحدث بين عشية وضحاها، ينتهي بي المطاف بالعمل خلال استراحة الغداء لتنظيف الفوضى التي يخلفها المستخدمون الحانقون. وبعد مرور أيام على مثل هذه الهجمات، أقضي العديد من الليالي عاجزاً عن النوم وصامتاً، فلا يرجع ذلك إلى تعرضي لصدمة ما، بل إنه نابع عن تشبعي بالنقد والسموم التي بثها المستخدمون، مما جعل كل شيء بلا معنى بالنسبة لي. وفي حين كانت مثل هذه الهجمات تحدث بشكل نادر، باتت اليوم تندرج ضمن العادات اليومية لمواقع التواصل الاجتماعي.

على الرغم من كون هذا الأمر سيشكل مفاجئة بالنسبة للبعض، لكن موقع فورتشان يتضمن مشرفين على التعليقات، ويطلق عليهم اسم “عمال النظافة”. ويعرف الموقع بأنه غير قابل للمراقبة بشكل كامل، حيث أن المستخدمين لا يشاركون بحسابات حقيقية قابلة للتتبع، مما يجعل حظر عنوان بروتوكول الإنترنت لأجهزتهم الطريقة الوحيدة لحظرهم ومنعهم من مواصلة كتابة هذه التعليقات ونشر المحتوى الصادم. ويعمد بعض المستخدمين إلى السخرية من طريقة عمل المشرفين على التعليقات في الموقع، حيث أنهم ينتظرون حتى حلول منتصف الليل لإغراق الموقع بصور مسيئة وغريبة ويرفقونها بعبارات من قبيل “المشرفون يغطون في النوم”.

خلال العقد الأول من دورة حياة “فورتشان”، مثل الموقع المثير للجدل البديل الفوضوي لعالم رقمي يسوده المشرفون والمراقبون وتحده تعاليم استخدام داخل معظم المنتديات الرقمية. وساهم هذا التساهل في جذب اهتمام المستخدمين الذين وقع حظرهم من موقع “سمثنع آوفول” الكوميدي نظير نشرهم لمحتوى صادم. ويبدو أن الفرق الوحيد بين فورتشان وبين فيسبوك ويوتيوب هو أن المنصات الكبرى تتضمن فيلقاً من الموظفين المتعاقدين الذين يتقاضون أجوراً زهيدة لقاء تعاملهم مع خوارزمية تطيح بالمحتوى السيئ عندما يثير عدد كاف من الأشخاص ضجة حوله.

في سنة 2009، كتب أحد “عمال النظافة” في موقع فورتشان منشوراً في خانة “إسألني أي شيء” التابعة لموقع ريديت. ورداً على التساؤل الذي طرحه أحد المستخدمين حول ما إذا كان موقع فورتشان يمثل مجتمعاً رقمياً سيئاً، أجاب عامل النظافة بشكل سيبدو مألوفاً لأي شخص يستخدم يوتيوب وفيسبوك وتويتر منذ سنة 2015، وقال إنه: “يبدو أن كل شخص آخر يتصرف كإرهابي عنصري مريض نفسياً، وهو ما يدفع الأشخاص المحايدين إلى التصرف بشكل مماثل لأنهم ببساطة قادرون على فعل ذلك. فإذا ما أضرم جارك النار في منزله وأطلق جارك الثاني النار على عابر سبيل من نافذة منزله، لن تشعر بالقلق إزاء ذبول عشب حديقتك”.

هذه المقالة كتبها ريان برودريك، ونشرت في موقع بزنيوز، وترجمها فريق مدونة اسطرلاب للعربية.