مبادئ سانتا كلارا

On Transparency and Accountability in Content Moderation


Top

مجموعة أدوات لشركات التواصل الاجتماعي

Download Companies Toolkit

1. تاريخ مبادئ سانتا كلارا

في مايو 2018، اجتمع تحالف من المنظمات والمدافعين\ات والأكاديميين/ات معًا لإنشاء مبادئ سانتا كلارا للشفافية والمساءلة حول الإشراف على المحتوى استجابةً للمخاوف المتزايدة بشأن الافتقار إلى الشفافية والمساءلة في منصات الإنترنت حول كيفية إنشائها وإنفاذها سياسات الإشراف على المحتوى. تحدد المبادئ المعايير الدنيا التي يجب أن تلبيها المنصات التقنية من أجل توفير شفافية مساءلة الكافية حول جهودها لإزالة المحتوى الذي ينشئه المستخدمون أو تعليق الحسابات التي تنتهك قواعدهم.

تركز المجموعة الأصلية من المبادئ على ثلاثة مطالب رئيسية - أرقام شاملة توضح بالتفصيل جهود الإشراف على محتوى المنصات، وإشعار واضح للمستخدمين/ات المتأثرين/ات ، وعملية استئناف قوية. تتماشى المباديء مع عمل ديفيد كاي، المقرر الخاص السابق للأمم المتحدة المعني بتعزيز الحق في حرية التعبير والرأي، والذي دعا إلى “إطار عمل لضبط المحتوى عبر الإنترنت الذي ينشئه المستخدمون\ات ويضع حقوق الإنسان في الصدارة”. كما تعكس المبادئ أيضًا توصيات مبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، والتي توضح مسؤوليات الشركات في مجال حقوق الإنسان.

عندما تم إصدار المبادئ لأول مرة، كان هناك القليل من الشفافية حول نطاق وحجم وتأثير جهود الإشراف على محتوى منصة الإنترنت. ونتيجة لذلك، دعا مؤلفو/ات المبادئ الشركات إلى الكشف عن المزيد من البيانات حول جهود الاشراف هذه من خلال تقارير الشفافية. ساعدت تقارير الشفافية هذه في تسليط الضوء على الرقابة الحكومية على المنصات، ومكنت المستخدمين\ات من اتخاذ قرارات أكثر استنارة حول المنتجات التي يجب استخدامها وتجنبها، وتمكين مجموعات الدفاع لدفع الشركات إلى اتباع الإجراءات القانونية المعمول بها عند الاستجابة والامتثال لمطالب الحكومة. بالإضافة إلى ذلك، لاحظ مؤلفو/ات المبادئ أن الإشراف على المحتوى يحدث غالبًا بطريقة تنازلية، مما يترك للمستخدمين\ات خيارات قليلة للانتصاف والتعويض. سعت مبادئ “الإشعار” و"الاستئناف" إلى إنشاء آليات قوية وشفافة وموثوقة للإجراءات القانونية الواجبة للمستخدمين/ات

منذ إطلاقها، أيدت العديد من منصات الإنترنت المبادئ والتزمت بها. تشمل هذه الأنظمة الأساسية أبل وفيسبوك وجيت هاب وجوجل وانستغرام ولينكد إن وميديوم وريديت وسناب وتمبلر وتويتر ويوتيوب. في حين أن بعض هذه المنصات قد خطت خطوات ملحوظة في توفير مزيد من الشفافية حول جهود الإشراف على المحتوى، إلا أن عددًا قليلاً جدًا من الشركات قد استوفت المطالب الموضحة في المبادئ. يجب أن تبذل المنصات مزيدًا من الجهد لتلبية هذه التوقعات الأساسية للشفافية والمساءلة.

أطلق ائتلاف مبادئ سانتا كلارا وهو مجموعة مؤلفة من __ منظمات، مجموعة محدثة من المبادئ من أجل تعزيز شفافية ومسائلة المنصات.

في حين أن مبادئ 2018 الأصلية حددت معايير أساسية قوية للغاية يجب على الشركات الامتثال لها، فإن المشاركة في إنشائها اقتصرت على عدد قليل من المجموعات والأفراد، وأثار الحلفاء - لا سيما من دول الجنوب العالمي - مخاوف واقتراحات مشروعة لمراجعتها. على وجه الخصوص، أكد أصحاب المصلحة من جميع أنحاء العالم أن المنصات تستثمر المزيد من الموارد في توفير الشفافية والإجراءات القانونية الواجبة للمستخدمين/ات في مجتمعات وأسواق معينة. يجب على الشركات معالجة هذا الظلم والتأكد من أن جميع مستخدميها - بغض النظر عن المكان الذي يعيشون فيه – يمكنهم/ن الحصول على الشفافية والمساءلة من هذه الشركات. وهو أمر مهم نظرًا لأن العديد من الأضرار التي تحدث نتيجة ممارسات الإشراف على محتوى النظام الأساسي تحدث في المجتمعات التي تتجاهلها المنصات.

لقد تغير مشهد تعديل المحتوى بشكل جذري خلال السنوات القليلة الماضية. لم تعد المنصات تتعامل مع المحتوى الضار والحسابات بمجرد إزالتها. اليوم، تعتمد العديد من الخدمات أيضًا على أدوات خوارزمية لتنظيم المحتوى من خلال تدخلات مثل خفض الترتيب. هناك نقص خطير في الشفافية والمساءلة حول كيفية قيام المنصات بنشر هذه التدخلات وما هي آثار ع ذلك على حرية التعبير. بالإضافة إلى ذلك، شدد الباحثون/ات والمدافعين/ات على النتيجة التمييزية والضارة التي يمكن أن تنجم عن المحتوى المدفوع عبر الإنترنت. يوجد حاليًا أيضًا نقص كبير في الشفافية حول كيفية تعديل هذا المحتوى وما هي التأثيرات. هذه مجالات إضافية يجب أن تلتزم المنصات بإلقاء الضوء عليها.

أخيرًا، أثناء جائحة كوفيد 19، أعلنت العديد من المنصات أنها ستزيد من اعتمادها على الأدوات الآلية لأغراض الإشراف على المحتوى. أعلنت بعض الخدمات أيضًا أنها ستعلق عمليات الاستئناف الخاصة بها، مما يعيق وصول المستخدمين إلى الإجراءات القانونية الواجبة. أعربت العديد من منظمات المجتمع المدني عن مخاوفها بشأن كيفية تأثير هذه القرارات على حرية التعبير عبر الإنترنت، مؤكدة أن المنصات يجب أن تكون قادرة على الحفاظ على مستوى أساسي من الشفافية والمساءلة في جميع الأوقات.

بسبب هذه المخاوف الثلاثة، أطلق تحالف مبادئ سانتا كلارا دعوة مفتوحة للتعليقات من مجموعة واسعة من أصحاب المصلحة العالميين/ات ، بهدف توسيع المبادئ في نهاية المطاف. شارك التحالف في توعية جماهيرية ومجتمعية كبيرة عبر فترة تعليق مفتوحة واستراتيجية توعية تكميلية مستهدفة، ثم راجع المدخلات خلال فترة محددة، وأخيراً، صاغ مجموعة جديدة من المبادئ. وعقدت سلسلة من المشاورات المفتوحة وورش العمل لإضافة مزيد من التفاصيل إلى مجموعة المبادئ الأصلية.

2. مجموعة أدوات للشركات

تسعى مجموعة الأدوات هذه إلى شرح أهمية المبادئ، والرسائل الأساسية، وتقديم نظرة ثاقبة حول كيفية قيام منصات الإنترنت بتنفيذ مبادئ سانتا كلارا في سياساتها وممارساتها.

تعكس مبادئ سانتا كلارا المنقحة رغبة المجتمع المدني في المزيد من الشفافية، والإجراءات الواجبة، والكفاءة الثقافية، واحترام حقوق الإنسان خلال عملية تعديل المحتوى. تم تصميمها للحصول على شفافية هادفة وواضحة للجمهور حول جميع المحتويات التي ينشئها المستخدمون، سواء كانت مدفوعة أو غير مدفوعة الأجر.

هذه الإعادة الثانية لمبادئ سانتا كلارا مقسمة إلى مبادئ أساسية وتشغيلية.

المبادئ التأسيسية هي قيم شاملة يجب مراعاتها لجميع المشرفين/ات على المحتوى، وتوجه جميع الشركات لدمج حقوق الإنسان والإجراءات الواجبة في سياساتها وإجراءاتها، ونشر قواعد واضحة ويمكن الوصول إليها، وضمان الكفاءة الثقافية عند اتخاذ قرارات الإشراف، وتوفير الشفافية عندما يتعلق الأمر بمشاركة الدولة في الإشراف على المحتوى. حددت المباديء كلا من المبدأ وإرشادات لتنفيذ هذا المبدأ.

تحدد المبادئ التشغيلية ممارسات محددة للشركات فيما يتعلق بمراحل وجوانب معينة من عملية تعديل المحتوى. بدلاً من الحد الأدنى من متطلبات المبادئ الأصلية، توضح المبادئ الجديدة المعايير العامة فيما يتعلق بالأرقام والإشعارات والنداءات وتتضمن أيضًا متطلبات أكثر قوة ليتم تبنيها مع نضوج منصات التكنولوجيا، مع الاعتراف بأن المنصات الأخرى قد لا تكون قادرة على تلبية كل المعايير. تشمل مقاييس النضج حجم قاعدة المستخدم، وطول العمر في السوق، والقدرات التقنية، والانتشار الجغرافي، ورأس المال. تم اقتراح مقاييس إضافية لمعالجة المخاوف الخاصة التي تثيرها المطالب والطلبات من الجهات الحكومية، والمخاوف من إساءة استخدام عمليات الإبلاغ، والدور المتزايد للعمليات الآلية في تحديد المحتوى وإجراءات الإشراف المتخذة.

كما ذكرنا سابقًا، أقرت العديد من المنصات أو التزمت بمبادئ سانتا كلارا الأصلية. ومع ذلك، اتبعت منصات قليلة جدًا هذه المباديء. في حين أن الموافقة على المبادئ المنقحة هي خطوة أولية مرحب بها، يجب على المنصات أيضًا أن تفي بالتزاماتها لتنفيذ المبادئ الأساسية ويجب أن تزيد بشكل استباقي من تنفيذ المبادئ التشغيلية المنقحة عند نضجها. وهذا يعني أن المنصات يجب أن تخطط لاعتماد المبادئ التشغيلية المنقحة لأنها تخطط لنموها من خلال تخصيص الخبرات والموارد المناسبة بشكل منصف عبر اللغة والبلد والمنطقة لتوسيع الوصول إلى الإجراءات الواجبة والشفافية. عند القيام بذلك، يجب أن تضمن المنصات دمج الاعتبارات المتعلقة بحقوق الإنسان والإجراءات القانونية الواجبة في جميع مراحل عملية تعديل المحتوى وأن تأخذ قواعدها وسياساتها، وإنفاذها، في الاعتبار تنوع الثقافات والسياقات التي تكون فيها منصاتها والخدمات المتاحة والمستخدمة.

لإثبات المساءلة وتمكين الإشراف على التزاماتها في المستقبل، يجب أن تنشر المنصات خرائط طريق تشغيلية مفصلة ومحددة لتنفيذ كل مبدأ من المبادئ المنقحة. يجب أن تتضمن خرائط الطريق هذه أهدافًا محددة ومقاييس نجاح وتواريخ مستهدفة. يجب أن تحدد خرائط الطريق أيضًا الموارد التي خصصتها الشركة للتنفيذ، مع مقاييس محددة عبر اللغة والبلد والمنطقة. إذا اعتقدت الشركة أنها غير قادرة على تنفيذ مبدأ محدد بسبب نقص النضج، فيجب عليها توضيح السبب وتقديم إطار زمني تقديري للوقت الذي تتوقع فيه امتلاك القدرة على تنفيذ هذا المبدأ.

يجب أن تقوم المنصات بتحديث معلومات الجمهور بشكل نصف سنوي بشأن التقدم الذي تحرزه وكذلك وصف المبادرات الرئيسية، ومناقشة أي تغييرات أو تعديلات على خريطة الطريق أو المواعيد النهائية المستهدفة، وتحديد كل من النجاحات والعقبات.

يجب أن تحدد المنصات مسؤول اتصال عن تنفيذ مبدأ سانتا كلارا، يكون مسؤولاً، من بين أمور أخرى، عن الاستجابة لطلبات المجتمع المدني للحصول على معلومات بشأن تنفيذ المبادئ المنقحة.

3. الرسائل والتوصيات الرئيسية

تضع مبادئ سانتا كلارا المنقحة معايير متوسطة وطموحة مصممة لاستحضار قدر أكبر من الشفافية والمساءلة حول كيفية تصميم الأنظمة الأساسية وتنفيذها لأنظمة تعديل المحتوى وتأثير هذه الأنظمة.

نحن ندرك أن المبادئ المنقحة تضيف التزامات إضافية تتجاوز تلك المنصوص عليها في المبادئ الأصلية وأن بعض المبادئ التشغيلية المنقحة قد لا تكون مجدية حاليًا للشركات الأصغر والجديدة. لا نعتزم تثبيط المنافسة أو ترسيخ المنصات الحالية الغنية بالموارد والمهيمنة على السوق، ولكن بدلاً من ذلك، نهدف إلى إنشاء إطار عمل قابل للتطوير يزيد من الشفافية والمساءلة لجميع المنصات. يجب أن تخطط المنصات الأحدث والأصغر للامتثال للمعايير أثناء توسيع نطاقها.

4. دعوة للعمل

يجب أن تدرك المنصات الطلب المتزايد على مزيد من الشفافية من مستخدميها ومن ناشطي المجتمع المدني. في حين أن العديد من المنصات تشارك بالفعل في المشاورات مع المجتمع المدني عند تطوير سياسات أو ميزات جديدة، فإن التعليقات التي تلقيناها خلال هذه العملية وما بعدها تؤكد على الحاجة إلى إجراء مشاورات أوسع مع مجموعة متنوعة من الجهات الفاعلة من جميع أنحاء العالم وكذلك تنفيذ منصات للتغذية الراجعة لها.

تعكس المبادئ المنقحة مدخلات أكثر من أربعين مجموعة وفردًا من ما يقرب من ثمانية عشر دولة والعديد من المشاورات الجماعية في الوقت الفعلي التي أجراها شركاء في إفريقيا وأمريكا اللاتينية والهند وأمريكا الشمالية. تعكس المباديء المنقحة مجموعة واسعة من وجهات النظر حول كيفية توسيع جهود الشفافية والمساءلة من قبل الشركات لإفادة مجموعة متنوعة من المستخدمين.

على وجه التحديد، نتوقع من الشركات إثبات التزامها بتنفيذ المبادئ المنقحة من خلال إجراءات ملموسة، وتخصيص الموارد المناسبة، وإعداد تقارير منتظمة ومفصلة عن جهود التنفيذ.