مبادئ سانتا كلارا

مرحبا

في العام 2018، جنبًا إلى جنب مع إدارة المحتوى في مؤتمرات سكال في الولايات المتحدة، قامت مجموعة من منظمات حقوق الإنسان والمدافعين/ات والخبراء الأكاديميين/ات بتطوير وإطلاق مجموعة من ثلاثة مبادئ حول أفضل السبل للحصول على شفافية ذات مغزى ومساءلة حول منصات الإنترنت التي يزداد إشرافها على المحتوى الذي تم إنشاؤه بواسطة المستخدم عدوانية. سميت هذه المبادئ على اسم مكان الاجتماع الأولي للمجموعة في سانتا كلارا، كاليفورنيا، تمثل توصيات للخطوات الأولية التي يجب على الشركات المشاركة في الإشراف على المحتوى اتخاذها لتوفير الإجراءات الواجبة للمتحدثين/ات المتأثرين/ات وضمان أن تطبيق إرشادات المحتوى الخاص بهم عادل، غير متحيز ومتناسب ويحترم حقوق المستخدمين/ات. كانت تلك النسخة الأولى من مبادئ سانتا كلارا.

منذ العام 2018، أقرت اثنتا عشرة شركة كبرى - بما في ذلك أبل و فيسبوك (ميتا) وجوجل وريدت وتويتر وجيت هاب - مبادئ سانتا كلارا وزاد العدد الإجمالي للشركات التي توفر الشفافية والضمانات الإجرائية، وكذلك مستوى الشفافية والضمانات الإجرائية التي توفرها العديد من أكبر الشركات.

في الوقت نفسه، يستمر ازدياد أهمية الدور الذي تلعبه هذه الشركات في المجتمع، وهذا يعني مسؤولية أكبر باستمرار لتوفير مستويات كافية من الشفافية حول القرارات التي تتخذها، من أجل تمكين المساءلة.

لهذه الأسباب، عمل تحالف واسع من المنظمات والمدافعين/ات والخبراء الأكاديميين/ات معًا في عامي 2020 و2021 لتطوير النسخة الثانية لمبادئ سانتا كلارا. تم تطويرها بعد عملية تشاور واسعة شملت أكثر من 50 منظمة وفرد، وعملية شاملة من الصياغة والمراجعة. من خلال الاعتماد على الخبرات من جميع أنحاء العالم، تعكس هذه النسخة الثانية من مبادئ سانتا كلارا توقعات واحتياجات المجتمع العالمي بشكل أفضل.

تقسم النسخة الثانية من مبادئ سانتا كلارا إلى مبادئ أساسية وتشغيلية. المبادئ الأساسية هي مبادئ شاملة وعرضية يجب أن تأخذها جميع الشركات في الاعتبار، بغض النظر عن نموذج العمل والعمر والحجم، عند الانخراط في الإشراف على المحتوى. لقد وُضع كل مبدأ وإرشادات حول كيفية تنفيذ هذا المبدأ. حددت المبادئ التشغيلية توقعات أكثر دقة للشركات الأكبر أو الأكثر نضجًا فيما يتعلق بمراحل وجوانب محددة من عملية تعديل المحتوى. قد ترغب الشركات الأصغر والأحدث وذات الموارد الأقل أيضًا في استخدام المبادئ التشغيلية للإرشاد والإبلاغ مستقبلا. على النقيض من المعايير المنخفضة المنصوص عليها في النسخة الأولى، توفر النسخة الثانية مزيدًا من الدقة فيما يتعلق تحديدًا بالمعلومات المطلوبة لضمان الشفافية والمساءلة ذات المغزى.

هذه النسخة الثانية من مبادئ سانتا كلارا توسع نطاق حيث تكون الشفافية مطلوبة فيما يتعلق بما يعتبر “محتوى” و"إجراء" تتخذه الشركة. يشير مصطلح “المحتوى” إلى جميع المحتويات التي ينشئها المستخدمون/ات، سواء كانت مدفوعة أو غير مدفوعة الأجر، في خدمة ما، بما في ذلك الإعلانات. يشير المصطلحان “إجراء” و “متخذ” إلى أي شكل من أشكال الإجراءات التنفيذية التي تتخذها شركة فيما يتعلق بمحتوى المستخدم/ة أو حسابه/ا بسبب عدم الامتثال لقواعدها وسياساتها، بما في ذلك (على سبيل المثال لا الحصر) إزالة المحتوى، وخفض الترتيب الحسابي للمحتوى، وتعليق الحسابات (سواء كان مؤقتًا أو دائمًا).

تم تطوير النسخة الثانية من مبادئ سانتا كلارا لدعم الشركات للامتثال لمسؤولياتها في احترام حقوق الإنسان وتعزيز المساءلة، ولمساعدة المدافعين عن حقوق الإنسان في عملهم. لم يتم تصميمها لتوفير نموذج للتشريع.

المؤلفون/ات:

• أكسس ناو

• مؤسسة ACLU في شمال كاليفورنيا

• مؤسسة ACLU في جنوب كاليفورنيا

• المادة 19

• مركز برينان للعدالة

• مركز الديمقراطية والتكنولوجيا

• مؤسسة الجبهة الإلكترونية

· الشركات العالميون الالكترونيون

• انترنت لاب

• الائتلاف الوطني ضد الرقابة

• معهد أمريكا الجديدة للتكنولوجيا المفتوحة

• رانكنغ للحقوق الرقمية

• شبكة الدفاع عن الحقوق الرقمية

• ويتنس

المبادئ التأسيسية

1. حقوق الإنسان والإجراءات الواجبة

المبدأ: يجب على الشركات التأكد من دمج اعتبارات حقوق الإنسان والإجراءات في جميع مراحل عملية تعديل المحتوى، ويجب أن تنشر المعلومات التي تحدد كيفية إجراء هذا التكامل. يجب على الشركات استخدام العمليات الآلية فقط لتحديد المحتوى أو إزالته أو تعليق الحسابات، سواء أكان ذلك مكملًا بمراجعة بشرية أم لا، عندما تكون هناك ثقة عالية بما فيه الكفاية في جودة ودقة هذه العمليات. يجب على الشركات أيضًا تزويد المستخدمين بأساليب واضحة ويمكن الوصول إليها للحصول على الدعم في حالة المحتوى وإجراءات الحساب.

التنفيذ: يجب أن يتأكد المستخدمون من أن حقوق الإنسان واعتبارات الإجراءات قد تم دمجها في جميع مراحل عملية تعديل المحتوى، بما في ذلك من خلال إبلاغهم بما يلي:

• كيف راعت الشركة حقوق الإنسان - لا سيما الحق في حرية التعبير وعدم التمييز - في تطوير قواعدها وسياساتها؛
• كيف راعت الشركة أهمية الإجراءات الواجبة عند تطبيق قواعدها وسياساتها، وعلى وجه الخصوص كيف تمتاز العملية بالنزاهة وإدارتها بشكل عادل؛ و
• مدى استخدام الشركة للعمليات الآلية في الإشراف على المحتوى وكيف راعت الشركة حقوق الإنسان في هذا الاستخدام.

2. قواعد وسياسات مفهومة

المبدأ: يجب على الشركات نشر قواعد وسياسات واضحة ودقيقة تتعلق بوقت اتخاذ الإجراء فيما يتعلق بمحتوى المستخدمين/ات أو حساباتهم/ن، في موقع مركزي يسهل الوصول إليه.

التنفيذ: يجب أن يكون المستخدمون/ات قادرين/ات على فهم ما يلي بسهولة:

• ما هي أنواع المحتويات المحظورة من قبل الشركة والتي ستتم إزالتها، مع إرشادات مفصلة وأمثلة على المحتوى المسموح به وغير المسموح به؛
• ما أنواع المحتوى التي ستتخذ الشركة إجراءات ضدها بخلاف الإزالة، مثل خفض الترتيب باستخدام الخوارزميات، مع إرشادات مفصلة وأمثلة عن كل نوع من أنواع المحتوى والإجراءات؛ و
• الظروف التي بموجبها ستعلق الشركة حساب المستخدم/ة، سواء بشكل دائم أو مؤقت.

3. التمكن الثقافي

المبدأ: يتطلب التمكن الثقافي، من بين أمور أخرى، أن يفهم أولئك الذين يتخذون قرارات المراقبة والطعن اللغة والثقافة والسياق السياسي والاجتماعي للمشاركات التي يشرفون عليها. يجب أن تضمن الشركات أن قواعدها وسياساتها، وإنفاذها، تأخذ في الاعتبار تنوع الثقافات والسياقات التي تتوفر فيها منصاتها وخدماتها وتستخدم، ويجب أن تنشر معلومات حول كيفية دمج هذه الاعتبارات فيما يتعلق بجميع مبادئ العمليات التشغيلية. يجب أن تتأكد الشركات من أن التقارير والإشعارات وعمليات الاستئناف متاحة باللغة التي يتفاعل بها المستخدم/ة مع الخدمة، وأن المستخدمين/ات ليسوا محرومين/ات أثناء عمليات الإشراف على المحتوى على أساس اللغة أو الدولة أو المنطقة.

التنفيذ: يجب أن يتمتع المستخدمون/ات بإمكانية الوصول إلى القواعد والسياسات وآليات الإشعار والاستئناف والإبلاغ باللغة أو اللهجة التي يتعاملون معها. يجب أن يثق المستخدمون/ات أيضًا بما يلي:

• يتخذ قرارات الإشراف من هم على دراية باللغة أو اللهجة ذات الصلة.
• يتخذ قرارات الإشراف على وعي كاف بأي سياق إقليمي أو ثقافي ذي صلة. و
• ستقوم الشركات بالإبلاغ عن البيانات التي توضح التمكن اللغوي والإقليمي والثقافي للمستخدمين/ات الذين تخدمهم/ن، مثل الأرقام التي توضح اللغة والتوزيع الجغرافي لمشرفي المحتوى.

4. مشاركة الدولة في الإشراف على المحتوى

المبدأ: يجب أن تدرك الشركات المخاطر الخاصة التي تتعرض لها حقوق المستخدمين/ات والتي تنتج عن مشاركة الدولة في عمليات الإشراف على المحتوى. وهذا يشمل مشاركة الدولة في تطوير وإنفاذ قواعد الشركة وسياساتها، إما للامتثال للقانون المحلي أو لخدمة مصالح الدولة الأخرى. تثار مخاوف خاصة من خلال الطلبات والمطالبات من الجهات الحكومية (بما في ذلك الهيئات الحكومية والسلطات التنظيمية ووكالات إنفاذ القانون والمحاكم) لإزالة المحتوى أو تعليق الحسابات.

التنفيذ: يجب أن يعرف المستخدمون/ات متى طلبت الدولة أو شاركت في أي إجراء بشأن المحتوى أو الحساب الخاص بهم/ن. يجب أن يعرف المستخدمون/ات أيضًا ما إذا كانت الشركة تعتقد أن الإجراء كان مطلوبًا بموجب القانون ذي الصلة. بينما تقوم بعض الشركات الآن بالإبلاغ عن مطالب الدولة لتقييد المحتوى بموجب القانون كجزء من تقارير الشفافية الخاصة بها، لا يتم الإبلاغ عن مشاركة دول أخرى سواء علنًا أو للمستخدمين/ات الذين/اللواتي تم اتخاذ إجراء بشأنهم/ن. ولكن يجب على الشركات إبلاغ المستخدمين/ات بوضوح عند وجود أي مشاركة حكومية في إنفاذ قواعد الشركة وسياساتها.

على وجه التحديد، يجب أن يكون المستخدمون/ات قادرين/ات على الوصول إلى:

• تفاصيل أي قواعد أو سياسات، سواء كانت مطبقة عالميًا أو في بعض الولايات القضائية، والتي تسعى إلى عكس متطلبات القوانين المحلية.
• تفاصيل أي علاقات عمل رسمية أو غير رسمية و / أو اتفاقات بين الشركة والجهات الحكومية عندما يتعلق الأمر بالإبلاغ عن محتوى أو حسابات أو أي إجراء آخر تتخذه الشركة.
• تفاصيل العملية التي يتم من خلالها تقييم المحتوى أو الحسابات التي تم الإبلاغ عنها من قبل الجهات الحكومية، سواء على أساس قواعد الشركة أو سياساتها أو القوانين المحلية.
• تفاصيل طلبات الدولة لاتخاذ إجراء ضد المشاركات والحسابات.

5. النزاهة وقابلية التفسير

المبدأ: يجب على الشركات التأكد من أن أنظمة تعديل المحتوى الخاصة بها، بما في ذلك المكونات المؤتمتة وغير المؤتمتة، تعمل بشكل موثوق وفعال. وهذا يشمل متابعة الدقة وعدم التمييز في طرق الكشف، والخضوع لعمليات التقييم المنتظمة، وتقديم آليات الإشعار والاستئناف بشكل عادل. يجب على الشركات أن تراقب بشكل فعال جودة اتخاذ قراراتها لضمان مستويات عالية من الثقة، ويتم تشجيعها على مشاركة البيانات علنًا حول دقة أنظمتها وفتح أنظمة العمليات والخوارزميات الخاصة بها للتدقيق الخارجي الدوري. يجب أن تعمل الشركات على التأكد من أن طلبات اتخاذ الإجراءات أصلية وليست نتيجة روبوتات أو هجمات منسقة.

هناك العديد من المحاذير فيما يتعلق بالأنظمة المؤتمتة، ويجب على الشركات توظيفها فقط عندما تثق بها وبطريقة شفافة وخاضعة للمساءلة.

التنفيذ: يجب أن يثق المستخدمون/ات في أن القرارات المتعلقة بمحتواهم/ن يتم اتخاذها بعناية كبيرة ومع احترام حقوق الإنسان. يجب أن يعرف المستخدمون/ات متى يتم اتخاذ قرارات الإشراف على المحتوى أو بمساعدة أدوات آلية، وأن يكون لديها مستوى عالٍ من الفهم لمنطق اتخاذ القرار المستخدم في العمليات الآلية المتعلقة بالمحتوى. يجب على الشركات أيضًا أن تحدد بوضوح عناصر التحكم التي يمكن للمستخدمين/ات الوصول إليها والتي تمكنهم من إدارة كيفية تنظيم المحتوى الخاص بهم/ن باستخدام أنظمة خوارزمية، وما هو تأثير هذه الضوابط على تجربة المستخدم/ة عبر الإنترنت.

مبادئ العمليات

1. أرقام

يعكس مبدأ الأرقام أهمية الشفافية في الإشراف على المحتوى، لكل من المستخدمين/ات الذين/اللواتي يسعون/ين إلى فهم القرارات المتعلقة بخطابهم/ن وللمجتمع ككل. يجب على الشركات الإبلاغ عن المعلومات التي تعكس المجموعة الكاملة من الإجراءات التي قد تتخذها الشركة ضد محتوى المستخدم/ة وحساباته/ا بسبب انتهاكات قواعد الشركة وسياساتها، بحيث يفهم المستخدمون/ات والباحثون/ات الأنظمة الموجودة ويثقون بها.

يجب أن تنشر الشركات معلومات حول أجزاء من المحتوى والحسابات التي تم اتخاذ إجراء بشأنها، مقسمة حسب البلد أو المنطقة، إذا كانت متوفرة، وفئة القواعد التي تم انتهاكها، على طول كل من هذه الأبعاد:

• إجمالي عدد أجزاء المحتوى التي تم اتخاذ إجراء بشأنها والحسابات المعلقة.

• عدد الطعون في قرارات الإجراء أو تعليق الحسابات.

• عدد (أو نسبة) الطعون الناجحة التي أدت إلى إعادة أجزاء من المحتوى أو الحسابات، وعدد (أو النسبة المئوية) للطعون غير الناجحة و؛

• عدد (أو النسبة المئوية) للطلبات الناجحة أو غير الناجحة للمحتوى الذي تم اخطارها مبدئيًا بواسطة الاكتشاف الآلي.

• عدد المنشورات أو الحسابات التي أعادتها الشركة بشكل استباقي، دون أي استئناف، بعد الاعتراف بأنها قد تم رفعها أو تعليقها عن طريق الخطأ.

• الأرقام التي تعكس إنفاذ سياسات خطاب الكراهية، من خلال المجموعة المستهدفة أو الخاصية، حيثما كان ذلك واضحًا، على الرغم من أنه لا ينبغي للشركات جمع البيانات عن المجموعات المستهدفة لهذا الغرض

• الأرقام المتعلقة بإزالة المحتوى والقيود المفروضة خلال فترات الأزمات، مثل أثناء جائحة COVID-19 وفترات الصراع العنيف.

• تنطبق متطلبات إعداد التقارير الخاصة على القرارات المتخذة بمشاركة الجهات الحكومية، والتي ينبغي تصنيفها حسب الدولة:

• عدد الطلبات أو المطالبات التي قدمتها الجهات الحكومية بخصوص المحتوى أو الحسابات المطلوب اتخاذ إجراء بشأنها

• هوية الجهة الحكومية لكل طلب

• ما إذا كان قد تم الإبلاغ عن المحتوى بأمر محكمة / قاضٍ أو أي نوع آخر من الجهات الحكومية•

• عدد الطلبات أو المطالبات التي قدمتها الجهات الحكومية التي تم اتخاذ إجراءات بشأنها وعدد الطلبات أو المطالبات التي لم تؤد إلى اتخاذ إجراء.

• ما إذا كان أساس كل إخطار يمثل انتهاكًا مزعومًا لقواعد الشركة وسياساتها (وإذا كان الأمر كذلك، ما هي القواعد أو السياسات) أو القانون المحلي (وإذا كان الأمر كذلك، فما هي أحكام القانون المحلي)، أو كليهما.

• ما إذا كانت الإجراءات المتخذة ضد المحتوى على أساس انتهاك قواعد الشركة وسياساتها أو انتهاك القانون المحلي.

نظرًا لوجود مخاوف خاصة من إساءة استخدام عمليات الإبلاغ، يجب على الشركات النظر في الإبلاغ عن البيانات التي ستسمح للمستخدمين/ات والباحثين/ات بتقييم مدى تكرار مثل هذه الإساءات والتدابير التي تتخذها الشركة لمنعها. يمكن وضع مقاييس محددة و / أو تقارير نوعية للمساعدة في تحديد الاتجاهات المتعلقة بإساءة الاستخدام في سياقات إقليمية معينة. يجب أن تفكر الشركات في جمع ما يلي والإبلاغ عنه، مقسمًا حسب البلد أو المنطقة إذا كان ذلك متاحًا:

• العدد الإجمالي للإخطارات المستلمة خلال فترة زمنية معينة.
• إجمالي عدد الاخطارات التي تم تتبعها عبر برامج الروبوت.
• عدد المنشورات والحسابات التي تم اخطارها، إجمالاً ، ومقسمة حسب
• o الانتهاك المزعوم للقواعد والسياسات

o مصدر الاخطار (الجهات الحكومية، والمُخبرون/ات الموثوق بهم/ن، والمستخدمون/ات، والأتمتة، وما إلى ذلك)

نظرًا للدور المتزايد الذي تلعبه العمليات الآلية في الإشراف على المحتوى، فإن الفهم الشامل لعمليات وأنظمة الشركات يتطلب الشفافية حول استخدام أدوات صنع القرار الآلية. بالإضافة إلى الأرقام المتعلقة باستخدام الأتمتة المذكورة أعلاه، يجب على الشركات نشر المعلومات المتعلقة بما يلي:

• متى وكيف يتم استخدام العمليات الآلية (سواء بمفردها أو تحت إشراف بشري) عند اتخاذ إجراء اتجاه محتوى.
• فئات وأنواع المحتوى حيث يتم استخدام العمليات الآلية.
• المعايير الرئيسية التي تستخدمها العمليات الآلية لاتخاذ القرارات.
• معدلات الثقة / الدقة / النجاح للعمليات الآلية، بما في ذلك التغييرات بمرور الوقت والاختلافات بين اللغات وفئات المحتوى؛
• مدى وجود إشراف بشري على أي عمليات مؤتمتة، بما في ذلك قدرة المستخدمين على السعي للحصول على مراجعة بشرية لأي قرارات مؤتمتة تتعلق بإدارة المحتوى؛
• عدد (أو النسبة المئوية) للطعون الناجحة وغير الناجحة عندما تم الإبلاغ عن المحتوى أو الحساب لأول مرة عن طريق الاكتشاف الآلي، مقسمًا حسب تنسيق المحتوى وفئة الانتهاك ؛
• المشاركة في قواعد بيانات بين الشركات التي تعمل في القطاع ذاته أو المبادرات الأخرى وكيفية استجابة الشركة للمحتوى الذي تم الإبلاغ عنه من خلال مثل هذه المبادرات.

يجب تقديم جميع البيانات في تقرير منتظم، يستحسن بشكل ربع سنوي، بشكل مرخص بشكل مفتوح وقابل للقراءة آليًا.

2. إشعار

يجب على الشركات تقديم إشعار لكل مستخدم/ة تمت إزالة المحتوى الخاص به/ا، أو تعليق حسابه/ا، أو عند اتخاذ إجراء آخر بسبب عدم الامتثال لقواعد وسياسات الخدمة، بخصوص سبب الإزالة أو التعليق أو اتخاذ إجراء. يجب تحديد أي استثناءات لهذه القاعدة، على سبيل المثال عندما يصل حجم المحتوى إلى محتوى غير مرغوب فيه أو على شكل تصيد احتيالي أو برامج ضارة، فأنه يجب أن يكون مذكورا بوضوح في قواعد وسياسات الشركة.

عند تقديم إشعار للمستخدم حول سبب اتخاذ إجراء بشأن منشوره/ا، يجب على الشركات التأكد من أن الإشعار يتضمن:

• عنوان URL و / أو مقتطفات من المحتوى و / أو معلومات أخرى كافية للسماح بتحديد المحتوى المتخذ إجراء ضده.
• البند المحدد من الإرشادات التي تبين أن المحتوى ينتهكها.
• كيف تم اكتشاف المحتوى وإزالته (تم وضع علامة عليه بواسطة مستخدمين/ات آخرين/ات، أو مُخبرون/ات موثوقون/ات ، أو اكتشاف آلي، أو شكاوى قانونية خارجية أو شكاوى أخرى).
• معلومات محددة حول مشاركة جهة فاعلة تابعة للدولة في الإبلاغ عن الإجراءات أو إصدار الأمر به. يجب تحديد المحتوى الذي تم إخطاره من قبل الجهات الحكومية على هذا النحو، وتحديد الجهة الحكومية المعينة، ما لم يحظر القانون ذلك. عندما يُزعم أن المحتوى ينتهك القانون المحلي، بخلاف قواعد الشركة أو سياساتها، يجب إبلاغ المستخدمين بالشرط ذي الصلة من القانون المحلي.

تشمل المعايير الأخرى للإشعار المناسب ما يلي:

• يجب أن تكون الإشعارات في الوقت المناسب ويجب أن تتضمن شرحًا للعملية التي يمكن للمستخدم/ة من خلالها استئناف القرار، بما في ذلك أي حدود زمنية أو متطلبات إجرائية ذات صلة.
• يجب أن تكون الإشعارات متاحة في شكل دائم يمكن الوصول إليه حتى إذا تم تعليق حساب المستخدم/ة أو إنهاؤه.
• يجب أن يُعرض على المستخدمين/ات الذين يبلّغون عن المحتوى سجل المحتوى الذي أبلغوا عنه ونتائج عمليات الإشراف.
• يجب أن تكون الإشعارات بلغة المنشور الأصلي أو بلغة واجهة المستخدم/ة التي يختارها المستخدم/ة.
• يجب أن تزود الإشعارات المستخدمين/ات بمعلومات حول قنوات دعم المستخدم/ة المتاحة وكيفية الوصول إليها.
• حيثما كان ذلك مناسبا، يجب تقديم إشعار أيضًا إلى الأفراد الآخرين ذوي الصلة، بما في ذلك مديري المجموعات والمخبرين/ات. يجب أن يتضمن هذا إشعارًا تم نشره في الموقع الأصلي للمحتوى الذي تمت إزالته.

3. الاستئناف

يغطي مبدأ الاستئناف التزامات الشركات بتوفير عمليات الشرح والمراجعة والاستئناف للمستخدمين/ات. يجب أن يكون المستخدمون/ات قادرين/ات على الوصول بشكل كافٍ إلى قنوات الدعم التي توفر معلومات حول قرار الإجراء وعمليات الاستئناف المتاحة بمجرد اتخاذ قرار الإجراء الأولي. يجب أن توفر الشركات فرصة حقيقية للاستئناف في الوقت المناسب لقرارات إزالة المحتوى أو الحفاظ على المحتوى الذي تم الإبلاغ عنه أو تعليق حساب أو اتخاذ أي نوع آخر من الإجراءات التي تؤثر على حقوق الإنسان للمستخدمين/ات، بما في ذلك الحق في حرية التعبير. وفقًا لمبدأ التناسب، يجب على الشركات إعطاء الأولوية لتقديم استئناف لأشد القيود، مثل إزالة المحتوى وتعليق الحساب.

يجب على الشركات التأكد من أن الاستئناف يشمل:

• عملية واضحة ويسهل الوصول إليها من قبل المستخدمين/ات، مع تفاصيل الجدول الزمني المقدم لأولئك الذين يستخدمونها، والقدرة على تتبع تقدمهم/ن.
• المراجعة البشرية من قبل شخص أو لجنة من الأشخاص الذين لم يشاركوا في القرار الأولي.
• أن يكون الشخص أو مجموعة الأشخاص المشاركين/ات في المراجعة على دراية باللغة والسياق الثقافي للمحتوى ذي الصلة بالاستئناف.
• فرصة للمستخدمين/ات لتقديم معلومات إضافية لدعم استئنافهم/ن الذي سيتم النظر فيه في المراجعة.
• الإخطار بنتائج المراجعة، وبيان الأسباب الكافية للسماح للمستخدم/ة بفهم القرار.

على المدى الطويل، قد تكون عمليات المراجعة المستقلة أيضًا مكونًا مهمًا للمستخدمين/ات حتى يتمكنوا من طلب الإنصاف. في حالة وجود مثل هذه العمليات، يجب على الشركات تقديم معلومات للمستخدمين/ات حول الوصول إليها. يجب أن تضمن الشركات، إلى الحد الذي تمارس فيه السيطرة أو التأثير على عمليات المراجعة المستقلة، أنها تتبنى أيضًا مبادئ سانتا كلارا، وأنها تقدم تقارير شفافية منتظمة، ومعلومات واضحة للمستخدمين/ات حول حالة الاستئناف، والأساس المنطقي لأي قرار.

يجب على الشركات النظر فيما إذا كان ينبغي، في ظروف معينة، تسريع عمليات الاستئناف، على سبيل المثال عندما يكون المستخدم/ة المتأثر/ة هدفًا لمخطط إزالة مسيء أو عندما يكون المحتوى المتأثر حساسًا للوقت، مثل المحتوى السياسي خلال فترة الانتخابات. عندما يتم التعجيل بعمليات الاستئناف، يجب على الشركات توفير قواعد وسياسات واضحة فيما يتعلق بوقت حدوث ذلك وما إذا كان يمكن للمستخدمين طلب استئناف عاجل.

مبادئ للحكومات والجهات الفاعلة الأخرى التابعة للدولة

الحكومات ملزمة بالطبع بموجب مختلف الأدوات القانونية الدولية، على سبيل المثال، المادة 19 من الإعلان العالمي لحقوق الإنسان، باحترام حرية التعبير لجميع الأشخاص. نتيجة لذلك، يجب على الجهات الحكومية عدم استغلال أو التلاعب بأنظمة تعديل محتوى الشركات لفرض الرقابة على المنشقين/ات أو المعارضين/ات السياسيين/ات أو الحركات الاجتماعية أو أي شخص.

فيما يتعلق بالشفافية، تعتبر الشفافية من قبل الشركات عنصرًا حاسمًا لضمان الثقة في عمليات الإشراف على المحتوى. ومع ذلك، يجب على الدول الاعتراف بأدوارها وتقليلها في إعاقة الشفافية، كما يجب عليها توفير الشفافية حول مطالبها الخاصة بإزالة المحتوى أو تقييده.

1. إزالة العوائق أمام شفافية الشركات

يجب على الحكومات والجهات الفاعلة الحكومية الأخرى إزالة الحواجز أمام الشفافية (والامتناع عن وضع مثل هذه الحواجز) التي تمنع الشركات من الامتثال الكامل للمبادئ المذكورة أعلاه.

يجب على الحكومات والجهات الفاعلة الحكومية الأخرى ضمان عدم حظر الشركات من نشر معلومات تفصيلية عن الطلبات أو المطالب الخاصة بإزالة المحتوى أو الحساب أو الإنفاذ التي تأتي من جهات فاعلة تابعة للدولة، باستثناء الحالات التي يكون فيها لهذا الحظر أساسًا قانونيًا واضحًا، ويكون وسيلة ضرورية ومتناسبة لتحقيق هدف مشروع.

2. تعزيز الشفافية الحكومية

يجب على الحكومات والجهات الفاعلة الحكومية الأخرى الإبلاغ بأنفسهم عن مشاركتهم في قرارات الإشراف على المحتوى، بما في ذلك البيانات المتعلقة بالمطالب أو الطلبات الخاصة بالمحتوى المطلوب اتخاذ إجراء ضدها أو تعليق الحساب، والذي يتم تقسيمه حسب الأساس القانوني للطلب. يجب أن يراعي إعداد التقارير جميع الجهات الحكومية، وحيثما ينطبق ذلك، يشمل الهيئات شبه الوطنية، ويفضل أن يكون ذلك في تقرير موحد.

يجب على الحكومات والجهات الفاعلة الحكومية الأخرى النظر في كيفية تشجيع الشركات على الشفافية المناسبة وذات المغزى، بما يتماشى مع المبادئ المذكورة أعلاه، بما في ذلك من خلال التدابير التنظيمية وغير التنظيمية.

شكر وتقدير

شكراً لجميع المنظمات والأفراد الذين قدموا تعليقاتهم/ن، وشاركوا في المشاورات الجماعية، وراجعوا العمل الأولي وعلقوا عليه. تشمل المنظمات التي تقدم تعليقات ما يلي: حملة، جمعية الاتصال المتقدم، مركز الانترنت والمجتمع، ميتا / فيسبوك، منظمة أكسيسو، جيت هاب، معهد دراسات الانترنت والمجتمع، انترنت لاب، مختبر سياسات الإنترنت العامة (LAPIN)، هب المحامين، معهد مونتريال ال لأخلاق المهنة، منظمة القلم أمريكا، بوينت أوف ڤيو، بابلك كنولج، الجمعية التايوانية لحقوق الانسان، ذا دايالوج،

Montreal AI Ethics Institute، PEN America، Point of View، Public Knowledge، Taiwan Association for Human Rights، The Dialogue، المستخدمون الرقميون. تشمل قائمة الأفراد والجماعات الذين نسقوا/ن واستضافوا/ن المشاورات، وساهموا بطريقة أخرى في العملية ، على سبيل المثال لا الحصر: ALT Advisory، Centro de Estudios en Libertad de التعبير والوصول للمعلومة (CELE)، اليونسكو، ايرينا رايكو، إدواردو سيليست، ديريكوس ديجيتال، روبرت غوروا، إيفار آم هارتمان وأميلي هيلدت وتوميوا إيلوري وجوليان جورش وكلارا إغليسياس كيلر وبادي ليرسن ومارتن جيه ريدل وكريستيان ستريبيل ودافني كيلر.

تدعم مؤسسة بويت السويدية النسخة الثانية من مبادئ سانتا كلارا أيضًا.

أخيرًا، نود أن نشكر المؤلفين/ات ومؤيدي/ات المبادئ الأصلية: مؤسسة ACLU لشمال كاليفورنيا، ومركز الديمقراطية والتكنولوجيا، ومؤسسة الجبهة الإلكترونية، ومعهد أمريكا الجديدة للتكنولوجيا المفتوحة، وإرينا رايكو، ونيكولاس سوزور، وسارة مايرز ويست، وسارة تي روبرتس معهد قانون التقنيات العالية التابع لجامعة سانتا كلارا لتنظيم مؤتمر تعديل المحتوى وإزالته في سكال، بالإضافة إلى إيريك جولدمان لدعم عقد ورشة العمل التي نتجت عن هذه الوثيقة. وقد أصبحت ورشة العمل هذه ممكنة أيضًا بفضل الدعم المقدم من مرصد سياسة الإنترنت في جامعة بنسلفانيا. سوزور حاصلة على زمالة مجلس البحوث الأسترالي DECRA (رقم المشروع DE160101542).