The Santa Clara Principles

< Back to Principles

Call for Submissions

March 2020

En février 2018, en marge de la première conférence COMO at Scale à Santa Clara en Californie, un petit groupe d’organisations, d’universitaires et de militants a formulé les Principes de Santa Clara sur la transparence et la redevabilité dans la modération de contenus. Ces principes fournissent un ensemble de normes de base ou de premières étapes que devraient adopter les entreprises engagées dans la modération de contenus pour assurer une véritable procédure en bonne et due forme aux intervenants concernés et mieux garantir que l’application de leurs règles en matière de contenus est équitable, impartiale, proportionnée et respectueuse des droits des utilisateurs. 

Dans les deux années qui ont suivi, ces principes ont été mis en oeuvre avec succès en totalité par Reddit, et partiellement par plusieurs autres entreprises, dont Github, Apple, WordPress et YouTube. En outre, un nombre plus important d’entreprises ont publiquement soutenu les principes en 2019.

Nous nous lançons à présent dans un travail d’introspection et d’analyse afin de déterminer si les principes de Santa Clara devraient être actualisés pour tenir compte de l’évolution constante du paysage de la modération de contenus. Nous sommes particulièrement demandeurs d’informations en provenance de collectifs et d’individus des pays du Sud, et des représentants des communautés marginalisées qui sont fortement impactées par les pratiques commerciales de modération de contenus. Nous encourageons toute partie intéressée à répondre aux questions suivantes en écrivant à SCPconsultation@eff.org avant le 30 juin.

Provide Feedback
  1. Les Principes de Santa Clara se focalisent actuellement sur la nécessité de nombres, de notifications et de recours concernant la modération de contenu. Cette série de questions portera sur le point de savoir si ces catégories doivent être étendues, étoffées, ou réexaminées.

    1. La première catégorie établit la norme selon laquelle les entreprises doivent publier les nombres de messages supprimés et de comptes suspendus de façon permanente ou temporaire en raison du non-respect de leurs règles de contenu. Merci d’indiquer toutes préconisations ou éléments de cette catégorie à réexaminer ou étendre.

    2. La deuxième catégorie établit la norme selon laquelle les entreprises doivent notifier à chaque utilisateur dont le contenu est supprimé ou le compte est suspendu le motif de la suppression ou de la suspension. Merci d’indiquer toutes préconisations ou éléments de cette catégorie à réexaminer ou étendre.

    3. La troisième catégorie établit la norme selon laquelle les entreprises doivent fournir une possibilité effective de recours en temps utile contre toute suppression de contenu ou suspension de compte. Merci d’indiquer toutes préconisations ou éléments de cette catégorie à à réexaminer ou étendre.

  2. Pensez-vous que les Principes de Santa Clara doivent être développés ou élargis pour inclure des recommandations particulières de transparence sur l’usage d’outils et prises de décision automatisés (y compris, par exemple, sur le contexte dans lequel de tels outils sont utilisés, et la mesure dans laquelle les décisions sont prises avec ou sans humain dans la boucle), dans les domaines suivants :

    1. La modération de contenu (l’utilisation de l’intelligence artificielle pour examiner le contenu et les comptes et déterminer s’il y a lieu de supprimer le contenu ou les comptes ; les procédures utilisées pour mener l’examen quand le contenu est signalé par des usagers ou non-usagers)

    2. Le classement et déclassement de contenus (l’utilisation de l’intelligence artificielle pour favoriser certains contenus par rapport à d’autres, par exemple dans les classements de résultats de recherche, et pour rétrograder certains contenus tels que la mésinformation ou les pièges à clics)

    3. Le ciblage et la diffusion publicitaires (l’utilisation de l’intelligence artificielle pour segmenter et cibler des groupes particuliers d’usagers et leur distribuer des messages publicitaires)

    4. Les recommandations de contenus et l’auto-complétion (l’utilisation de l’intelligence artificielle pour recommander des contenus tels que vidéos, messages et mots-clés aux usagers en fonction de leur profil d’utilisateur et de leur comportement antérieur)

  3. Pensez-vous que les Principes de Santa Clara fournissent le bon cadre ou qu’il pourrait être appliqué à des restrictions intermédiaires (telles que vérification de l’âge, ajout d’avertissements aux contenus, et ajout d’information qualificative au contenu). Si la réponse est non, devons-nous chercher à inclure ces catégories dans une révision des principes, ou un ensemble distinct de principes pour couvrir ces questions serait-il préférable ?

  4. Comment avez-vous utilisé les Principes de Santa Clara comme outil ou ressource de plaidoyer par le passé ? De quelles manières ? Si vous êtes à l’aise avec le fait de les partager, merci d’ajouter des liens vers toute ressource ou exemple dont vous pourriez disposer.

  5. Comment les Principes de Santa Clara pourraient-ils mieux servir votre plaidoyer pour l’avancée de ces questions ? 

  6. Pensez-vous que les Principes de Santa Clara devraient s’appliquer à la modération des annonces publicitaires, en plus de la modération des contenus non rémunérés générés par les utilisateurs ? Si oui, pensez-vous que cela devrait s’appliquer à leur totalité ou à une partie seulement ?

  7. Y a-t-il dans les Principes de Santa Clara un ou des éléments que vous trouvez peu clairs ou difficilement compréhensibles ?

  8. Y a-t-il des dangers spécifiques pour les droits humains que les Principes de Santa Clara pourraient aider à mieux réduire en encourageant les entreprises à fournir des types de données supplémentaires spécifiques ? (Par exemple, y a-t-il un type particulier de campagne de signalement malveillant qui serait invisible dans les données actuellement demandées par les prestataires, mais deviendrait visible si les données incluaient une colonne supplémentaire.)

  9. Y a-t-il des considérations de niveau international, national, ou culturel qui ne sont actuellement pas reflétées dans les Principes de Santa Clara, mais devraient l’être ?

  10. Y a-t-il des considérations pour les petites et moyennes entreprises qui ne sont actuellement pas reflétées dans les Principes de Santa Clara, mais devraient l’être ?

  11. Quelles sont vos recommandations pour assurer que les Principes de Santa Clara demeurent viables, réalisables et pertinents à long terme ?

  12. Qui recommanderiez-vous pour participer à une consultation supplémentaire sur les Principes de Santa Clara ? Si possible, merci de communiquer leurs noms et adresses mail.

  13. Si les Principes de Santa Clara devaient demander une divulgation de la formation ou l’origine culturelle des modérateurs de contenus employés par une plate-forme, que voudriez-vous que les plate-formes indiquent dans cette divulgation ? (Par exemple, divulguer le pourcentage de modérateurs ayant réussi un test de langue pour celle dans laquelle ils modèrent, ou divulguer que tous les modérateurs ont suivi un type spécifique de formation.)

  14. Avez-vous d’autres suggestions ?

  15. Les événements actuels tels que la propagation du COVID-19 vous ont-ils fait prendre davantage conscience de la nécessité de transparence et de responsabilisation, ou encore de lacunes et manquements dans les Principes de Santa Clara ?

Provide Feedback

Privacy Policy

Information collected through this survey is subject to EFF's Privacy Policy. All data collected through this survey will be used to determine whether the Santa Clara Principles should be updated and if so, how. This may include the publication of a report discussing the results of this consultation. Data collected may be shared by EFF with the organizations collaborating on this project: Global Partners Digital, Open Technology Initiative, Article 19, Center for Democracy and Technology, Ranking Digital Rights, ACLU of Northern California, Witness, Brennan Center for Justice, Red en Defensa de los Derechos Digitales, and AccessNow.