مبادئ سانتا كلارا

On Transparency and Accountability in Content Moderation

< Back to Principles

Call for Submissions

March 2020

في فبراير 2018 أصدرت مجموعة صغيرة مِنْ المنظمّات الأهليّة و الأكاديميّين و الحقوقيين وثيقة مبادئ سانتاكلارا للشفافيّة و المسؤوليّة فيما يتعلّق بمراقبة المحتوى، بمساهمة مِنْ مشاركين في المؤتمر الأوّل لمراقبة المحتوى في سانتاكلارا في كَلِفورنيا (COMO at Scale). تُقدِّم الوثيقة مبادئ أساسيّة، أو خطوات أولى، ينبغي على الشركات المضطلعة بمراقبة المحتوى اتّباعها لإنشاء آلية تتوفّر فيها الضمانات الحقوقية اللازمة لمعالجة تظلّمات المتضررين مِنْ كَتْمِ خطابهم، و لضمان أنَّ صيرورة إنفاذ سياسات الشركات فيما يتعلّق بالمحتوى عادلة غير مُنحازة، و متناسبة، و تحترم حقوق المستخدمين.

في غضون السنتين الماضيتين تمّ بنجاح تطبيق هذه المبادئ بأكملها في Reddit، و جزئيًّا في شركات أخرى منها GitHub و Apple و WordPress و YouTube. علاوة على ذلك فإنّ شركات عديدة أعلنت عن تبنّيها المبادئ في سنة 2019.

و نحن الآن نشرُع في صيرورة مراجعة و تحليل لنرى ما إذا كانت مبادئ سانتاكلارا بحاجة إلى التحديث لتواكب التغيُّر الدائم في ساحة مراقبة المحتوى. و نَوَدُّ سماع آراء المجموعات و الأفراد مِنْ الجنوب، و أولئك الذين يمثّلون المجموعات المهمّشة الأكثر تأثُّرًا بممارسات مراقبة المحتوى التجاريّة.

  1. حاليًا تركِّز مبادئ سانتاكلارا على ضرورة توفير الإحصائيات، و وجوب الإخطار المسبَّق و إتاحة التظلُّمات في كلِّ ما يتعلّق بمراقبة المحتوى. و هذه الأسئلة الغرض منها معرفة إذا ما كانت تجبُ زيادة هذه الضمانات، أم بلوَرَتَها، أم إعادة النظر فيها. 1.أ الفئة الأولى تُرسى معيارَ وجوبِ نشرِ الشركات إحصائيات عن منشورات المستخدمين المحذوفة و حسابات المستخدمين المغلقة نهائيًّا أو الموقوفة مؤقَّتًا بسبب انتهاك سياسات محتوى الشركات. وضِّحوا أيَّ توصياتِ هذه الفئة أو أجزائها تَجِبُ إعادة النظر فيها. 2.ب الفئة الثانية تُرسي معيارَ وجوب إتاحة فرصة معقولة للتظلُّم بشأن كُلِّ حذف للمحتوى و غلقٍ للحسابات أو وقفها. وضِّحوا أيَّ توصياتِ هذه الفئة أو أجزائها تَجِبُ إعادة النظر فيها.

  2. هل ترون أنّ وثيقة مبادئ سانتاكلارا ينبغي زيادتها أو رَدفُها لتشمل توصيات مُحدَّدةٍ بشأن الشفافيّة في استعمال الأدوات المُؤتْمَتَة و وسائل اتّخاذ القرار (بما في ذلك مثلا، السياق المستعملةُ فيه تلك الأدوات، و مدى الإشراف البَشَريِّ عليها)، في أيِّ مِنْ المجالات التالية:

    1. مراقبة المحتوى (استعمال تطبيقات الذكاء الاصطناعيّ لمراجعة المحتوى و الحسابات و اتّخاذ قراراتِ حذف المحتوى و وقف الحسابات، و صيرورات مراجعة المُحتوى الذي يُبلِغُ عنه المستخدمون أو غيرهم)
    2. تبدية المحتوى أو تنكيسه (استعمال تطبيقات الذكاء الاصطناعيّ تبدية محتوى بعينه على غيره، كما في حالات ترتيب نتائج البحث، أو تنكيس المحتوى كما في حالات الأخبار الكاذبة أو الدعاية الزائفة)
    3. تهديف الدعاية و إيصالها (استعمال تطبيقات الذكاء الاصطناعيّ لتقسيم الجمهور إلى فئات و استهدافهم و إيصال الدعاية إليهم)
    4. تزكيات المحتوى و الاستكمال الآليّ للنصوص (استعمال تطبيقات الذكاء الاصطناعيّ لتزكية المحتوى، مثل الفيديو، للمستخدمين، و كذلك منشوراتِ الآخرين و الكلمات المفتاحيّة، و ذلك بناءً على المعلومات عن المستخدمين و سلوكهم السابق)
  3. هل ترون أنّ وثيقة مبادئ سانتاكلارا تُقدِّم إطارًا صحيحًا لمعالجة العوائق المرحليّة، أو يمكن تطبيقها لمعالجتها (مثل الحواجز العمريّة و التحذيرات ما قبل المحتوى، و إضافة معلومات تكميليّة إلى المحتوى). و إذا لِمْ تكنْ كذلك، فهل علينا السّعي إلى تضمين تلك الفئات في الإصدارة القادمة مِنْ الوثيقة أم هل يُستحسَن تناولها في وثيقة أخرى؟

  4. كيف أفادتكم وثيقة مبادئ سانتاكلارا كأداة للمُناصرة؟ و كيف استخدمتموها؟ شاركونا الروابط أو المصادر غيرها لتوضيح نشاطكم في هذا الصّدد إنْ كنتم لا تمانعون.

  5. كيف يمكن لوثيقة مبادئ سانتاكلارا أنْ تكون مفيدة في المستقبل في نشاطكم للمناصرة في هذه المجالات؟

  6. هل ترون أنَّ وثيقة مبادئ سانتاكلارا ينبغي تطبيقها فيما يتعلّق بمراقبة الإعلانات، علاوة على انطباقها فيما يتعلّق بالمحتوى غير المدفوع مقابلهُ الذي يُنتجه المستخدمون؟ إنْ كنتم تَرَون ذلك، فهل تَرَون أنّها يجب أنْ تُطبّق كُلُّها أم بعضُها؟

  7. هل توجد أجزاء في وثيقة مبادئ سانتاكلارا غير واضحة أو صعبة الفهم؟

  8. هل توجد انتقاصات مِنْ حقوق الإنسان يمكن لمبادئ سانتاكلارا تناولها على نحو أفضل، بِحَثِّ الشركات على الإفصاح عن أنواع أخرى مِنْ البيانات؟ (مثلا، هل توجد أنواع مِنْ حملات الإبلاغ الكيديّ عن المحتوى لا يُمكن كشفها بالنظر إلى البيانات التي يتطلّبُ التوافقُ مع المبادئ حاليًا الإفصاحَ عنها لكنْ يمكن كشفها بإضافة بيان ما؟

  9. هل توجد اعتبارات إقليميّة أو قوميّة أو ثقافيّة لا تتمثّل في المبادئ حاليًّا لكنْ تنبغي مراعاتها فيها؟

  10. هل توجد اعتبارات تَخُصُّ الشركات الصغيرة و المتوسّطة لا تتمثّل في المبادئ حاليًّا لكنْ تنبغي مراعاتها فيها؟

  11. ما توصياتكم لضمان استمرار ملحوظيّة مبادئ سانتاكلارا و دوام اتّصالها بالواقع في المدى الطويل؟

  12. مَنْ تُزكُّون للمشاركة في الاستشارات القادمة فيما يتعلّق بوثيقة مبادئ سانتاكلارا؟ شاركونا أسماءهم و عناوين بريدهم الإلكتروني.

  13. إذ كان لوثيقة سانتاكلارا المطالَبةُ بالإفصاح عن ماهيّة التدريب الذي يتلقاه مراقبو المحتوى الذين توظّفهم المنصّات أو خلفيّاتهم الثقافيّة، فما الذي ترون أنّه يجب على تلك المنصات الإفصاح عنه؟ (مثلا، الإفصاح عن نسبة المراقبين الذين اجتازوا اختبارًا في اللغة التي يراقبونها أو الإفصاح عن اجتياز كل المراقبين تدريبًا معيّنًا؟)

  14. هل لديكم اقتراحات أخرى؟

  15. هل أدت الأحداث الحالية ، مثل COVID-19، إلى زيادة إدراكك للاحتياجات الخاصة للشفافية والمساءلة ، أو أوجه القصور في مبادئ سانتاكلارا؟

Privacy Policy

Information collected through this survey is subject to EFF's Privacy Policy. All data collected through this survey will be used to determine whether the Santa Clara Principles should be updated and if so, how. This may include the publication of a report discussing the results of this consultation. Data collected may be shared by EFF with the organizations collaborating on this project: Global Partners Digital, Open Technology Initiative, Article 19, Center for Democracy and Technology, Ranking Digital Rights, ACLU of Northern California, Witness, Brennan Center for Justice, Red en Defensa de los Derechos Digitales, and AccessNow.