ما القصة وراء عطل “إنستغرام” الذي سرع نشر المحتوى العنيف؟

تعمل خوارزميات “إنستغرام” مثل بقية منصات التواصل الاجتماعي، إذ تخفي المحتوى السيئ أو ذا الطبيعة الحساسة وتسرع من نشر المحتوى الممتع والمفيد الذي يتجاوب معه المستخدمون، لكن ما حدث في الأيام الماضية كان دليلا حيا على أهمية عمل هذه الخوارزمية بشكل صحيح.

إذ استيقظ مستخدمو “إنستغرام” على مجموعة من مقاطع الفيديو القصيرة “ريلز” التي تضم محتوى عنيفا للغاية أشبه بمحتوى شبكة “الدارك ويب” (Dark Web) المعروفة بضمها محتوى إجراميا في المقام الأول، وذلك بدلا من مقاطع الفيديو من صناع المحتوى الذين يحبونهم أو نوعية المقاطع التي يفضلونها.

واعتذر مارك زوكربيرغ في بيان رسمي عما حدث، ولكنه لم يسع لتقديم إجابة واضحة عن سبب هذا العطل، مرجحا أن يكون عطلا في الخوارزمية، ولكن ما القصة وراء هذا العطل؟ وهل كان فعلا عطلا مفاجئا في الخوارزمية؟ ولماذا لم يحدث قبل الآن؟

كيف تعمل خوارزمية “إنستغرام”؟

تمثل خوارزميات منصات التواصل الاجتماعي المكون السريّ في خلطة كل منصة تواصل اجتماعي بشكل منفصل، فهي التي تحدد المحتوى الذي ينتشر أو يندثر، فضلا عن اختيار المحتوى المماثل الذي يتم اقتراحه على المستخدمين، وهذا لجميع أنواع المحتوى في أي منصة تواصل اجتماعي، سواء كانت للفيديو مثل “تيك توك” أو “يوتيوب” أو حتى للمحتوى النصي والصور مثل “إنستغرام”.

ورغم أن آلية عمل الخوارزميات سريّة للغاية ولا يمكن معرفتها بشكل واضح أو دقيق، فإن الخبراء تمكنوا من استنتاج بعض التفاصيل عن هذه الخوارزمية وآلية عملها، لذا تجد العديد من الخبراء يقدمون نصائح عن كيفية الوصول إلى النتائج المثالية وتحقيق النجاح في أي منصة تواصل اجتماعي.

وبعيدا عن آليات التسويق الرقمي وخبرائها، فإن جميع الخوارزميات تعمل بمفهوم واسع أوحد، وهو نشر المحتوى الذي يستطيع جذب المشاهدين وأسرهم داخل المقطع أو المنشور لأطول فترة ممكنة، فضلا عن التفاعل مع المنشور ومشاركته مع أصدقائهم.

وينطبق هذا الأمر على “إنستغرام” كما ينطبق على “تيك توك” و”يوتيوب” وغيرهم من منصات التواصل الاجتماعي، وتمثل جودة الخوارزمية وقوتها الفارق الأكبر بين المنصات، فكلما كانت الخوارزمية أكثر قدرة على ترجيح المحتوى الملائم للمشاهد والذي يعجبه، أصبح من المؤكد أن يظل المستخدم بداخلها ويستمر في المشاهدة، وهو السيناريو الذي ساهم في نجاح “يوتيوب” سابقا و”تيك توك” مؤخرا.

ومع تطور تقنيات التعلم الآلي والذكاء الاصطناعي، قامت كافة منصات التواصل الاجتماعي بدمج تقنيات الذكاء الاصطناعي في الخوارزميات لتصبح أكثر قدرة في التعرف على المحتوى وترشيحه للفئات المستهدفة والمناسبة.

الخوارزمية ليست وحدها الملامة

رغم أن خوارزميات منصات التواصل الاجتماعي هي المكون الرئيسي المسؤول عن نشر المحتوى وترويجه في المنصة، فإنها لا تتحمل اللوم بمفردها في ما حدث مع “إنستغرام”، إذ إن الخوارزمية لم تأت بمحتوى من منصة أخرى لتنشره داخل “إنستغرام”، وهذا يدفعنا للتساؤل، لماذا سمح “إنستغرام” لهذا المحتوى بالوجود داخله؟

في العادة، تضع المنصات شروطا صارمة فيما يتعلق بالمحتوى العنيف والمسيء بشكل عام، وإلى جانب الاختبارات الآلية لمراقبة هذا المحتوى على شكل الخوارزميات، كانت المنصة تستخدم فرقا بشرية لمراجعة بعض المقاطع التي تشك في أنها تحمل محتوى عنيفا أو مخالفا لشروطها.

ويشير وجود مثل هذه المقاطع في “إنستغرام” إلى خلل واضح في الآلية التي تعتمد عليها “ميتا” في نشر المحتوى والموافقة عليه، إذ كان يجب ألا يوجد مثل هذا المحتوى العنيف منذ البدء في المنصة، وذلك تجنبا لحدوث أخطاء الخوارزمية أو الذكاء الاصطناعي.

تبعات سيئة لقرارات سابقة

في مطلع هذا العام، خرج مارك زوكربيرغ المدير التنفيذي لشركة “ميتا” المالكة لمنصات “إنستغرام” و”واتساب” و”فيسبوك” في بيان يكشف عن آلية مراقبة المحتوى الجديدة في المنصة، وهذه الآلية تضمنت التخلص من فرق مراجعة المحتوى البشرية فضلا عن تخفيف قيود وضوابط نشر المحتوى في المنصة.

ورغم أن “ميتا” أكدت أن المحتوى العنيف المنشور في “إنستغرام” مخالف بشكل صريح لقوانين المحتوى الخاصة بها، فإنها لم تكشف عن سبب وجود هذا المحتوى داخل المنصة والسماح بوجوده في المنصة من الأساس.

ردة فعل سيئة للمستخدمين

انتعشت منتديات “ريديت” (Reddit) بالمستخدمين الذين شعروا بالاستياء من الوضع الجديد للمنصة والمقاطع التي تم نشرها داخل المنصة بشكل عام، إذ تفاجأ المستخدمون بمحتوى عنيف بشكل غير مسبوق في حساباتهم.

وتضمن المحتوى جرائم عنف متنوعة مثل حالات الاحتراق بالزيوت المشتعلة أو احتراق كامل لأشخاص، فضلا عن حالات فصل الأعضاء والدهس من قبل الفيلة والتحرش بالأطفال وغيرها من أنواع المحتوى التي ترفض المنصة نشرها.

وطالب بعض مستخدمي المنصة بمقاضاة “ميتا” بسبب الضرر النفسي الذي تعرضوا له من هذا المحتوى الذي خرج بشكل مفاجئ، كما أشار البعض إلى أنه بسبب قرارات الشركة الجديدة، وهناك قلّة من المستخدمين وضحوا أن “إنستغرام” بالفعل كان يملك مثل هذه المقاطع ولكنها لم تكن ظاهرة للعيان، وهي القصة الأقرب إلى الواقع.