مبادئ سانتا كلارا

On Transparency and Accountability in Content Moderation


Top

مجموعة أدوات المدافعين

Download Advocates Toolkit

1. تاريخ مبادئ سانتا كلارا

في مايو 2018، اجتمع تحالف من المنظمات والمدافعين\ات والأكاديميين/ات معًا لإنشاء مبادئ سانتا كلارا للشفافية والمساءلة حول الإشراف على المحتوى استجابةً للمخاوف المتزايدة بشأن الافتقار إلى الشفافية والمساءلة في منصات الإنترنت حول كيفية إنشائها وإنفاذها سياسات الإشراف على المحتوى. تحدد المبادئ المعايير الدنيا التي يجب أن تلبيها المنصات التقنية من أجل توفير شفافية مساءلة الكافية حول جهودها لإزالة المحتوى الذي ينشئه المستخدمون أو تعليق الحسابات التي تنتهك قواعدهم.

تركز المجموعة الأصلية من المبادئ على ثلاثة مطالب رئيسية - أرقام شاملة توضح بالتفصيل جهود الإشراف على محتوى المنصات، وإشعار واضح للمستخدمين/ات المتأثرين/ات ، وعملية استئناف قوية. تتماشى المباديء مع عمل ديفيد كاي، المقرر الخاص السابق للأمم المتحدة المعني بتعزيز الحق في حرية التعبير والرأي، والذي دعا إلى “إطار عمل لضبط المحتوى عبر الإنترنت الذي ينشئه المستخدمون\ات ويضع حقوق الإنسان في الصدارة”. كما تعكس المبادئ أيضًا توصيات مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، والتي توضح مسؤوليات الشركات في مجال حقوق الإنسان.

عندما تم إصدار المبادئ لأول مرة، كان هناك القليل من الشفافية حول نطاق وحجم وتأثير جهود الإشراف على محتوى منصة الإنترنت. ونتيجة لذلك، دعا مؤلفو/ات المبادئ الشركات إلى الكشف عن المزيد من البيانات حول جهود الاشراف هذه من خلال تقارير الشفافية. ساعدت تقارير الشفافية هذه في تسليط الضوء على الرقابة الحكومية على المنصات، ومكنت المستخدمين\ات من اتخاذ قرارات أكثر استنارة حول المنتجات التي يجب استخدامها وتجنبها، وتمكين مجموعات الدفاع لدفع الشركات إلى اتباع الإجراءات القانونية المعمول بها عند الاستجابة والامتثال لمطالب الحكومة. بالإضافة إلى ذلك، لاحظ مؤلفو/ات المبادئ أن الإشراف على المحتوى يحدث غالبًا بطريقة تنازلية، مما يترك للمستخدمين\ات خيارات قليلة للانتصاف والتعويض. سعت مبادئ “الإشعار” و"الاستئناف" إلى إنشاء آليات قوية وشفافة وموثوقة للإجراءات القانونية الواجبة للمستخدمين/ات

منذ إطلاقها، أيدت العديد من منصات الإنترنت المبادئ والتزمت بها. تشمل هذه الأنظمة الأساسية أبل وفيسبوك وجيت هاب وجوجل وانستغرام ولينكد إن وميديوم وريديت وسناب وتمبلر وتويتر ويوتيوب. في حين أن بعض هذه المنصات قد خطت خطوات ملحوظة في توفير مزيد من الشفافية حول جهود الإشراف على المحتوى، إلا أن عددًا قليلاً جدًا من الشركات قد استوفت المطالب الموضحة في المبادئ. يجب أن تبذل المنصات مزيدًا من الجهد لتلبية هذه التوقعات الأساسية للشفافية والمساءلة.

أطلق ائتلاف مبادئ سانتا كلارا وهو مجموعة مؤلفة من __ منظمات، مجموعة محدثة من المبادئ من أجل تعزيز شفافية ومسائلة المنصات.

في حين أن مبادئ 2018 الأصلية حددت معايير أساسية قوية للغاية يجب على الشركات الامتثال لها، فإن المشاركة في إنشائها اقتصرت على عدد قليل من المجموعات والأفراد، وأثار الحلفاء - لا سيما من دول الجنوب العالمي - مخاوف واقتراحات مشروعة لمراجعتها. على وجه الخصوص، أكد أصحاب المصلحة من جميع أنحاء العالم أن المنصات تستثمر المزيد من الموارد في توفير الشفافية والإجراءات القانونية الواجبة للمستخدمين/ات في مجتمعات وأسواق معينة. يجب على الشركات معالجة هذا الظلم والتأكد من أن جميع مستخدميها - بغض النظر عن المكان الذي يعيشون فيه – يمكنهم/ن الحصول على الشفافية والمساءلة من هذه الشركات. وهو أمر مهم نظرًا لأن العديد من الأضرار التي تحدث نتيجة ممارسات الإشراف على محتوى النظام الأساسي تحدث في المجتمعات التي تتجاهلها المنصات.

لقد تغير مشهد تعديل المحتوى بشكل جذري خلال السنوات القليلة الماضية. لم تعد المنصات تتعامل مع المحتوى الضار والحسابات بمجرد إزالتها. اليوم، تعتمد العديد من الخدمات أيضًا على أدوات خوارزمية لتنظيم المحتوى من خلال تدخلات مثل خفض الترتيب. هناك نقص خطير في الشفافية والمساءلة حول كيفية قيام المنصات بنشر هذه التدخلات وما هي آثار ع ذلك على حرية التعبير. بالإضافة إلى ذلك، شدد الباحثون/ات والمدافعين/ات على النتيجة التمييزية والضارة التي يمكن أن تنجم عن المحتوى المدفوع عبر الإنترنت. يوجد حاليًا أيضًا نقص كبير في الشفافية حول كيفية تعديل هذا المحتوى وما هي التأثيرات. هذه مجالات إضافية يجب أن تلتزم المنصات بإلقاء الضوء عليها.

أخيرًا، أثناء جائحة كوفيد 19، أعلنت العديد من المنصات أنها ستزيد من اعتمادها على الأدوات الآلية لأغراض الإشراف على المحتوى. أعلنت بعض الخدمات أيضًا أنها ستعلق عمليات الاستئناف الخاصة بها، مما يعيق وصول المستخدمين إلى الإجراءات القانونية الواجبة. أعربت العديد من منظمات المجتمع المدني عن مخاوفها بشأن كيفية تأثير هذه القرارات على حرية التعبير عبر الإنترنت، مؤكدة أن المنصات يجب أن تكون قادرة على الحفاظ على مستوى أساسي من الشفافية والمساءلة في جميع الأوقات.

بسبب هذه المخاوف الثلاثة، أطلق تحالف مبادئ سانتا كلارا دعوة مفتوحة للتعليقات من مجموعة واسعة من أصحاب المصلحة العالميين/ات ، بهدف توسيع المبادئ في نهاية المطاف. شارك التحالف في توعية جماهيرية ومجتمعية كبيرة عبر فترة تعليق مفتوحة واستراتيجية توعية تكميلية مستهدفة، ثم راجع المدخلات خلال فترة محددة، وأخيراً، صاغ مجموعة جديدة من المبادئ. وعقدت سلسلة من المشاورات المفتوحة وورش العمل لإضافة مزيد من التفاصيل إلى مجموعة المبادئ الأصلية.

2. مجموعة أدوات المدافعين

تسعى مجموعة أدوات الحملة هذه إلى شرح أهمية المبادئ، والرسائل الأساسية، وتقديم نظرة ثاقبة حول كيفية نشاط المدافعين بشكل مستقل وكائتلاف لمساءلة الشركات - ليس فقط لتأييد المبادئ الجديدة ولكن لتطبيقها في سياساتهم وممارساتهم .

تتحكم شركات التكنولوجيا في تدفق المعلومات عبر الإنترنت على منصاتها من خلال قواعد الملكية وشروط الخدمة، مما يمنحها قوة كبيرة مع قدر ضئيل من المساءلة. المجتمعات التي تواجه التمييز بالفعل معرضة أيضًا لخطر إزالة محتواها عبر الإنترنت من خلال حملات الإبلاغ التمييزية أو عمليات التدخل المتحيزة، وبالتالي تواجه الإسكات المزدوج.

يمكن أن يكون للإجراء غير الصحيح الذي يتم اتخاذه بشأن المحتوى تأثير غير متناسب على الفئات السكانية المهمشة بالفعل، مثل أفراد الأقليات العرقية أو الدينية، وأفراد مجتمع الميم- عين والنساء. كما أنه يؤثر بشكل روتيني على الصحفيين/ات والنشطاء/الناشطات السياسيين/ات والمدافعين/ات عن حقوق الإنسان الذين يعملون في بيئات قمعية.

تبحث الحكومات حاليًا عن تنظيم منصات الإنترنت لضمان إزالة المحتوى الضار بسرعة واتخاذ خطوات لمنع مثل هذا المحتوى من الظهور في المقام الأول. ومع ذلك، كان هناك عدد من المقترحات التنظيمية التي فرضت ضغوطًا غير قانونية على شركات وسائل التواصل الاجتماعي لإزالة المحتوى بوتيرة سريعة أو السعي إلى تحميل المنصات المسؤولية عن خطاب الطرف الثالث - مما يضمن بشكل فعال احتفاظ المنصات الكبيرة باحتكاراتها. نظرًا لأن الشركات تواجه ضغوطًا تنظيمية، فمن المحتمل أن تزيد من سرعة تعديل المحتوى واستخدامهم للتقنيات الآلية لتجنب مواجهة غرامات باهظة. من المرجح أن ترتكب الشركات المزيد من أخطاء تعديل المحتوى عند العمل تحت ضغط زمني محدد. بالإضافة إلى ذلك، فإن الأدوات الآلية المستخدمة في الإشراف على المحتوى محدودة بعدة طرق، مما يؤدي غالبًا إلى إزالة القليل جدًا أو الكثير من الخطاب. وهذا يثير مخاوف كبيرة بشأن حرية التعبير.

نحن بحاجة إلى حل عاجل يضمن أن الإنترنت مساحة لجميع الناس للوصول إلى المعلومات والمشاركة في النقاش. يُعد وضع عمليات إشعار واستئناف واضحة خطوة أولى أساسية يمكن لمنصات التواصل الاجتماعي اتخاذها للتأكد من أنه يمكن سماع جميع المستخدمين ولحماية المجتمعات على الإنترنت.

3. الأهداف الرئيسية للمبادئ

i) الجهات الحكومية

يجب على الجهات الحكومية الامتناع عن إصدار تشريعات تعيق حرية التعبير على الإنترنت وتضمن حماية حقوق الإنسان على المنصات. تهدف المبادئ إلى أن يكون لدى الحكومات بعض سياق المعايير المتوسطة والممارسات الجيدة فيما يتعلق بإدارة المحتوى عبر الإنترنت.

لا يُقصد بالمبادئ أن تكون نموذجًا للتنظيم، ولكنها دليل حتى تعرف الحكومات نوع المعايير التي يجب أن تأخذها في الاعتبار عند مناقشة التنظيم أو السياسة. علاوة على ذلك، يجب على الجهات الحكومية إزالة العقبات التي تحول دون الحصول على الشفافية من الشركات والإبلاغ أيضًا عن مشاركتها في قرارات تعديل المحتوى. أخيرًا، يجب على الجهات الفاعلة الحكومية الاعتراف بالدور المهم للمجتمع المدني في تعزيز حرية التعبير عبر الإنترنت وتعزيز نهج أصحاب المصلحة المتعددين في مناقشات الإشراف على المحتوى.

ii) منصات التواصل الاجتماعي

أصبحت منصات وسائل التواصل الاجتماعي أساسية لكيفية تواصلنا. عندما ينضم المستخدمون إلى إحدى المنصات، فإنهم يوافقون على شروط خدمة تلك المنصة، والتي تلزم المستخدم عادةً بالالتزام بمجموعة من القواعد حول السلوك والخطاب المقبولين، وغالبًا ما يتم تضمينهما في مستند منفصل “معايير المجتمع”. قد يجد المستخدمون الذين يخالفون هذه المعايير إجراءً على المحتوى الخاص بهم*.

تخضع الشركات بشكل متزايد لمطالب الحكومات أو التشريعات التي تحملها المسؤولية عن تعبير المستخدم، مما يثير تساؤلات جدية حول مستقبل حرية التعبير على الإنترنت. أدت مخاوف المجتمع المدني العالمي بشأن الافتقار إلى الشفافية والمساءلة من المنصات إلى الخلق الأولي للمبادئ، في حين أن الطبيعة المتغيرة لتعديل المحتوى وتطبيقه غير المتكافئ على الصعيد العالمي أدت إلى مطالب جديدة وخلق قوة دافعة لتقييم المبادئ ومراجعتها. توفر مبادئ سانتا كلارا 2.0 مجموعة جديدة من معايير الشفافية والإجراءات القانونية الواجبة التي تعمل كدليل للشركات لسن تدابير للحفاظ على حقوق الإنسان في سياساتها وممارساتها.

نشجع أعضاء المجتمع المدني والشركات وأصحاب المصلحة الآخرين على العمل معًا لتطوير خطط التنفيذ بالتشاور مع مختلف أصحاب المصلحة من أجل تطوير خارطة طريق نحو الالتزام بالمبادئ المنقحة. كما نشجع المجتمع المدني على مساءلة الشركات في تنفيذ خرائط الطريق الخاصة بهم.

4. استخدام مبادئ سانتا كلارا 2.0 في مناصرتك

  1. تعزيز ظهور المبادئ من خلال عقد ندوة عبر الإنترنت أو مؤتمر صحفي لدعوة المتحدثين الرئيسيين والشركات والحكومة والنشطاء للتحدث عن حرية التعبير عبر الإنترنت والتوصيات الرئيسية من المبادئ.
  2. تنظيم اجتماعات وجهًا لوجه مع الشركات في بلدكم/ن. تأكدوا/ن من إحضار النشطاء الذين لديهم تجارب سلبية مع إزالة المحتوى. إن الضغط على الشركات من خلال المناصرة القائمة على الأدلة هو المفتاح! من المهم عند لقاء الشركات تحميلها مسؤولية ما تم الاتفاق عليه. قوموا/ن بتدوين ملاحظات حول النقاش ونقاط العمل خلال الاجتماع. قوموا/ن بإنهاء الاجتماع بطلب متابعة النقاش مع الشركات. لقاء واحد لا يكفي! محاسبة الشركات في اجتماع المتابعة للرد على نقاط العمل التي تمت مناقشتها سابقاً.
  3. تنظيم نقاش وجهاً لوجه مع الجهات الحكومية ذات الصلة في بلدك. تأكدوا/ن من وجود المجتمع المدني من مختلف المناطق، والأشخاص من الأوساط الأكاديمية والخلفيات التقنية في هذا النقاش. استخدموا/ن المبادئ لمنح المشرعين أو الجهات الفاعلة في الدولة سياقًا حول القضايا والممارسات الجيدة لتنظيم المحتوى.
  4. عقد مؤتمر صحفي لعرض أدلة جديدة على القضايا التي تمت مواجهتها على منصات وسائل التواصل الاجتماعي. اغتنموا/ن هذه الفرصة للإشارة إلى بعض الاتفاقيات التي أبرمتها الشركات في اجتماعاتك وجهًا لوجه (عندما رأيتم/ن أنها لم تفعل ما يجب). لا تحب الشركات التي تعمل في مجال التكنولوجيا وجود صورة سلبية عنها في وسائل الإعلام المحلية. قد يكونون حريصين على التصرف بسرعة في نقاط العمل، بعد مؤتمركم/ن الصحفي.
  5. تسهيل الإجراءات التي تستهدف مديري/ات الشركات: إذا كنتم/ن لا ترون تقدمًا إيجابيًا من قبل الشركات فيما يتعلق بطلباتكم/ن أو كانت ردودهم غامضة، فقوموا/ن بتنظيم حملة على وسائل التواصل الاجتماعي. تتيح لكم/ن الحملة على وسائل التواصل الاجتماعي الوصول إلى الجمهور الأوسع الذي يدعم دعوتكم/ن لإرسال رسائل مستهدفة إلى كبار المديرين على وسائل التواصل الاجتماعي. العديد منهم/ن متواجدون/ات على Twitter و Facebook و LinkedIn ويمكن العثور على ويمكن الوصول لطريقة الاتصال بهم/ن بسهولة على هذه المنصات. أرسلوا/ن رسائل موجهة إليهم/ن وشجعوا/ن الآخرين في شبكاتكم/ن على فعل الشيء نفسه. أو يمكنكم/ن تنظيم خطاب مفتوح، ودعوة المجتمع المدني والنشطاء للتوقيع عليه بالإجراءات الرئيسية التي تريد أن تتخذها الشركات في إطار زمني محدد.
  6. انضم إلى تحالف مبادئ سانتا كلارا لمناصرة الإجراءات. نخطط لجمع المزيد من التوقيعات وتنظيم اجتماعات عامة مع شركات التكنولوجيا. ستكون هذه فرصة لإظهار التضامن وإسماع صوتكم/ن. كلما كان الصوت أقوى، كان ذلك أفضل. تابعوا/ن التطورات الجديدة على https://santaclaraprinciples.org

* يشير المصطلحان “إجراء” و “تم اتخاذ إجراء” إلى أي شكل من أشكال الإجراءات التنفيذية التي تتخذها الشركة فيما يتعلق بمحتوى المستخدم أو الحساب بسبب عدم الامتثال لقواعدها وسياساتها، بما في ذلك (على سبيل المثال لا الحصر) إزالة المحتوى، وخفض الترتيب الحسابي للمحتوى، وتعليق الحسابات (سواء كان مؤقتًا أو دائمًا).