خوارزميات التواصل الاجتماعي وخطاب الكراهية: كيف يتضخم المحتوى التحريضي؟

تتزايد وتيرة انتشار خطاب الكراهية والتحريض عبر منصات التواصل الاجتماعي، مستفيدة من خوارزميات تعمل على توسيع نطاق وصول المحتوى المثير للجدل، بالإضافة إلى أساليب تتبعها حسابات وهمية لتضخيم تأثير هذا المحتوى. وفي هذا السياق، يوضح أسامة حدبه، أخصائي تسويق الإعلام الرقمي في وزارة الإعلام، لموقع الإخبارية أسباب هذه الظاهرة وسبل الحد منها.

خوارزميات التوصية وطبيعة المحتوى

يشير حدبه إلى أن فهم أسباب الانتشار السريع لخطاب الكراهية يتطلب النظر إلى جانبين أساسيين: آلية عمل الخوارزميات التي تتحكم في توزيع المحتوى، وطبيعة المحتوى التحريضي وقدرته على إثارة الجدل. تعتمد خوارزميات منصات التواصل الاجتماعي على مؤشرات لتقييم المحتوى، أبرزها سرعة تفاعل المستخدمين معه وحجمه وطبيعته. المنشور الذي يحقق تفاعلاً مرتفعاً في فترة قصيرة قد يُفسّر على أنه مؤشر على اهتمام المستخدمين، مما يزيد احتمالية ظهوره لشرائح أوسع.

لكن العوامل التقنية لم تكن وحدها المفسرة للانتشار، فالجانب الآخر يتعلق بطبيعة خطاب الكراهية نفسه، الذي يثير ردود فعل عاطفية حادة ونقاشات واسعة. حتى التفاعل بهدف الاعتراض أو الإدانة قد يساهم في زيادة انتشاره إذا التقطت أنظمة التوصية مؤشرات التفاعل دون الحد من توزيع المحتوى المخالف.

على المستوى السوري، ربط حدبه انتشار خطاب الكراهية بالسياق السياسي والاجتماعي، لا سيما حالة الكبت السياسي وتقييد حرية التعبير في النظام السابق. ومع اتساع هامش حرية التعبير بعد الثورة، شهد الفضاء الرقمي انفتاحاً سمح بالتعبير عن آراء أوسع، لكن هذا التحول ترافق مع بروز خطابات حادة واستقطابات تجاوزت حدود التعبير المشروع إلى التحريض وخطاب الكراهية، نتيجة لتراكمات سنوات من القمع والصراع.

الحسابات الوهمية والشبكات المنسقة

استغلت بعض الحسابات الوهمية والشبكات المنسقة فهمها لسياسات منصات التواصل الاجتماعي، مثل منصات شركة ميتا (فيسبوك وإنستغرام)، لتطوير أساليب غير مباشرة في نشر الرسائل التحريضية والمعلومات المضللة، متجنبة بذلك المخالفات الصريحة التي تؤدي إلى إزالة المحتوى أو تقييد انتشاره.

تكمن إحدى الإشكاليات التقنية في عجز أنظمة الكشف الخوارزمية عن فهم السياق الكامل للمحتوى في بعض الحالات، خصوصاً مع الرسائل المبطنة أو الإيحاءات غير المباشرة. أما على مستوى الحملات المنسقة، فقد اعتمدت بعض الشبكات على نشر رسائل متشابهة عبر حسابات وصفحات عدة في أوقات متقاربة، مع تفاعلات وتعليقات متشابهة، بهدف تضخيم حضور قضية معينة وإعطاء انطباع بوجود اهتمام شعبي واسع.

في الحالة السورية، اتخذت هذه الممارسات أشكالاً متعددة، بعضها قد يكون جزءاً من حملات منظمة للتأثير السياسي، وإثارة الغضب تجاه قرارات حكومية أو قضايا اجتماعية حساسة. لجأت هذه الحملات أحياناً إلى اجتزاء تصريحات أو أحداث حقيقية من سياقها وتقديمها بطريقة مضللة أو مستفزة، خصوصاً عندما تناولت قضايا مرتبطة بالمكونات الاجتماعية أو الطائفية أو العرقية.

مؤشرات كشف الحملات المنسقة

تُستخدم أدوات الاستماع الاجتماعي “Social Listening” لرصد النقاشات والتوجهات العامة على منصات التواصل الاجتماعي. تساعد هذه الأدوات المختصين على تتبع تطور النقاش، وتحديد الحسابات التي نشرت المحتوى في مراحله الأولى، وتحليل سرعة انتشاره وطبيعة التفاعلات المرتبطة به، ورصد الأنماط غير الاعتيادية التي قد تشير إلى وجود نشاط منسق، مثل النشر المتزامن لمحتوى متشابه عبر عدد كبير من الحسابات.

يشمل التحليل أيضاً التحقق من صحة المعلومات المتداولة، وما إذا كانت تعكس حدثاً حقيقياً أو اعتمدت على معلومات مضللة. يربط المختصون هذه المؤشرات لفهم كيفية نشوء قضية معينة وتطورها وتحديد الحسابات التي ساهمت في تضخيمها. رصدت هذه الأدوات استغلال بعض الشبكات المنسقة لأحداث حقيقية حظيت باهتمام واسع، حيث تدخلت في النقاش القائم وأعادت توجيهه أو تضخيم جوانب معينة منه.

آليات الحد من تضخيم المحتوى التحريضي

اعتمدت منصات التواصل الاجتماعي سياسات ومعايير مجتمعية هدفت إلى الحد من انتشار المحتوى المخالف، مستخدمة منظومة متكاملة من تقنيات الذكاء الاصطناعي وأنظمة الكشف الآلي والمراجعة البشرية. تعمل هذه المنصات على تحسين قدراتها التقنية لفهم اللغات واللهجات المحلية وتحليل السياقات، مع وجود فرق متخصصة في السلامة والسياسات تمتلك خبرات لغوية وإقليمية.

رغم التطورات، يظل اكتشاف جميع المخالفات آلياً أمراً صعباً نظراً للحجم الهائل للمحتوى. هنا تبرز أهمية بلاغات المستخدمين كأداة مكملة لأنظمة الكشف الآلي. تخضع هذه البلاغات للمراجعة وقد تؤدي إلى إزالة المحتوى المخالف أو تقييد انتشاره، وفي الحالات المتكررة، قد تتخذ إجراءات إضافية بحق الحسابات.

على المستوى الحكومي، تبرز أهمية وجود قنوات تواصل رسمية ومباشرة بين المؤسسات الحكومية وشركات منصات التواصل الاجتماعي، للإبلاغ عن حالات التحريض وخطاب الكراهية. يساهم هذا التعاون في تسريع وصول البلاغات وتزويد المنصات بالمعلومات والسياقات المحلية اللازمة.

مسؤولية المنصات والحكومة والمستخدمين

تُقسم المسؤولية عن الحد من انتشار المحتوى التحريضي إلى ثلاثة أطراف رئيسة: شركات منصات التواصل الاجتماعي، والجهات الحكومية المختصة، والمستخدمون. تدعو الحاجة إلى استمرار شركات التواصل في تطوير خوارزمياتها وأنظمة الكشف الآلي، ومعالجة الثغرات التقنية. كما يجب تطوير آليات الاستجابة السريعة للبلاغات.

تتمثل مسؤولية الجهات الحكومية في توفير بيئة رقمية آمنة، وتعزيز التعاون مع شركات التكنولوجيا، وتزويدها بالمعلومات والسياقات المحلية الضرورية، مع ضمان حماية حرية التعبير وعدم الخلط بين النقد المشروع وخطاب الكراهية.

أما وعي المستخدمين، فيُعدّ أحد أهم عوامل الحد من انتشار المحتوى التحريضي. يجب على المستخدم التحقق من مصدر الخبر وتوقيت نشره وسياقه قبل مشاركته، وتجنب إعادة نشر المحتوى التحريضي أو التفاعل معه بطريقة قد تساهم في تضخيمه. في الحالة السورية، تكتسب هذه المسؤولية أهمية مضاعفة نظراً للتنوع الاجتماعي والديني والثقافي، وضرورة حماية هذا التنوع من محاولات إثارة الكراهية والانقسام. الهدف لا ينبغي أن يقتصر على إزالة المحتوى المخالف، بل يتجاوز ذلك إلى بناء ثقافة رقمية قائمة على احترام الاختلاف والمسؤولية في التعبير.