دويتشه فيله: مهاجم كرايستشيرش نقل جريمته على الهواء مباشرة عبر فيسبوك من خلال كاميرا في خوذة. وبعد إشارة من الشرطة فقط اختفى الفيديو. فهل كان بإمكان فيسبوك منع البث الحي؟

فليكس فرايلينغ: السؤال هو كيف. في فيسبوك ومواقع أخرى تظهر في كل يوم آلاف نسخ البث الحي. فمن المستحيل تقييم هذا الكم يدويا. وحتى التعرف الأوتوماتيكي على الصور صعب. فالخوارزميات يجب أن تميز بين العنف الحقيقي مثل ما حصل في كرايستشرش والعنف الخيالي مثلما يقع في الأفلام التمثيلية. وحتى بالنسبة إلى الناس يكون أحيانا من الصعب معرفة ما إذا كانت الفيديوهات حقيقية أم زائفة. وتكون الخوارزميات فعَّالة بقدر البيانات التي توضع فيها، ولا يوجد لحسن الحظ صور كافية للعنف الحقيقي لتصنيفها بوضوح.

هل هناك طرق أخرى؟

من الوسائل الممكنة أن تلقي المواقع نظرة فاحصة على المستخدمين، الذين يقومون ببث المحتويات. وهذا يعني أنه يتم مسبقا التحقق ممن يقوم بالبث الحي. وعندما يتم نقل شيء جنائي، نعرف إلى من نتوجه.

وهذا لا يساعد أيضا في تفادي عمليات النقل هذه منذ البداية، لكن يمكن لاحقا بسرعة نسبية تبيان من المسؤول عن ذلك. كما أن لذلك مفعول ردعي ضد كل من ينوي نقل أعمال عنف مباشرة عبر الإنترنت. والجانب الثاني عندما نعرف من يريد الحصول على مدخل، فيمكن رفض ذلك منذ البداية. وهنا يتعلق الأمر بأناس ربما أصبحوا معروفين في الموقع نفسه أو لدى السلطات مثل الشرطة.

كيف يمكن أن يحصل التحقق مسبقاً؟

هذا النوع من التعرف يوجد مثلا في العمليات البنكية عبر الإنترنت. فهناك أساليب قوية وأخرى ضعيفة. فبعض البنوك تطالب مثلا بمحادثة حية مع مستشار الزبائن. ويجب على الزبون أن يضع جوازه أمام الكاميرا والجواب على بعض الأسئلة. وهذا واضح عند البنوك التي يجب عليها التعرف على الشخص. وهذا يتم بنجاح. فلماذا لا يصلح هذا لبعض المهام الخاصة مثل البث الحي على فيسبوك.

فيسبوك أعلنت قبل انعقاد قمة كرايستشيرش في باريس عن اعتماد قواعد جديدة: فالمستخدمون الذين يخرقون بعض القواعد يمكن حرمانهم من البث الحي لمدة زمنية. هل هذا يكفي؟

هنا وجب على فيسبوك أن تكون نشيطة أكثر. بالطبع هذه خطوة جيدة في إقصاء المستخدمين الذين يخرقون القواعد. ولكن هذا لا يمنع أيضا من أن يفعل الشخص الذي يريد بث العنف ما يريد. فالردع من خلال هذا الحظر لا ينفع. وهذا لم يكن من شأنه أن يوقف مهاجم كرايستشيرش. وهؤلاء المتطرفون يكونون معروفين لدى الشرطة. ووجب عدم السماح لهم باستخدام الموقع من البداية. لكن هذا يحتاج قبلها إلى تعريف بالشخص.

فيسبوك أعلنت أنها ستضخ الملايين في تعريف الصور وإغلاق حسابات مشبوهة "لوقت محدد". وهذا يبدو غير حازم.

إقصاء المستخدمين بشكل دائم لا يتناسب مع النموذج التجاري للشركات الكبرى. وهدفها هو بالطبع أن يبقى عدد كبير من الأشخاص لأطول فترة ممكنة على الصفحة. وليس سرا بأن المضامين المثيرة هي التي تجلب أكبر عدد من النقر. وفيسبوك والمواقع المشابهة تهتم إذن بالسماح بمرور الكثير من المستخدمين. والاستثمار في التعرف على الصور هو بالنسبة إلى فيسبوك استثمار في نموذج تجارتها. فالمستخدمون يجب أن يحصلوا على أكبر قسط من الحرية. والإجراءات الأكثر إقناعا هي تلك التي لا تتناسب مع النموذج التجاري لعمل فيسبوك. وهي إجراءات تؤلم أيضاً بفيسبوك. أمَّا ما أعلنته الشركة الآن فهو لا يؤلم حقا.

ما مدى احتمالية أن تنفذ فيسبوك أفكارا مثل التعرف المسبق على الشخصية؟

لا أرى سببا للجوء فيسبوك لفعل ذلك الآن، لأن ذلك لا يعود عليها بالربح. الأكثر فعالية هو ضبط الأمر من خلال السياسة. والعقوبات المالية يمكن أن تكون هنا مثلا مجدية كثيرا.

إلى أي مدى يمكن لهذا الضبط أن يمتد؟

التقنين هو دوما سلاح ذو حدين. لكن التقنين هو أيضا شيء يمكن من خلاله جمع التجارب. والتقنين الذي نعتمده قابل أيضا للمراجعة. ولدينا لحسن الحظ الجهات التي تفرض القانون وقادرة على تعديله. وأعتقد أنه يجب السير الآن أكثر في اتجاه التقنين. فقط من خلال هذه الاستراتيجية يمكن كبح هذه الأعمال الوحشية التي توجد في الإنترنت.

كيف يمكن وماذ يجب على كل مستخدم التعامل مع العنف في مواقع التواصل الاجتماعي؟

في المواقع يمكن لكل مستخدم بنقرات قليلة الإعلان عن مضامين مقززة وغير قانونية. وفي حالة الارتياب هناك أيضا ما يُسمى مراكز الشكاوي في الإنترنت فيمكن الإبلاغ فيها عن ذلك. ومزودو الانترنت يتعاونون لشطب المضامين المقززة بسرعة. وفي الأخير وجب إبلاغ الشرطة بذلك عندما نجد مثلا بثا حيا مثل ما فعله مهاجم كرايستشيرش

أجرى المقابلة باتريك غروسه