Les Principes de Santa Clara

En mai 2018, une coalition d’organisations, plaideurs et académiques se sont réunis pour créer les Principes de Santa Clara sur la transparence et la redevabilité dans la modération de contenus en réponse aux préoccupations croissantes sur le manque de transparence et responsabilité des plateformes internet sur la façon dont elles créent et appliquent ses politiques de modération des contenus. Les Principes établissent des standards minimums que les plateformes technologiques doivent respecter afin de fournir la transparence et responsabilité adéquates envers ses efforts pour supprimer le contenu généré par les utilisateurs ou les comptes suspendus qui violent ses règles.

L’ensemble original des Principes se focalisent en trois demandes fondamentales : nombres complets détaillant les efforts de modération de contenu de la plateforme, notification claire aux utilisateurs affectés, et des processus d’appels solides. Elles sont cohérentes avec le travail de David Kaye, ancien rapporteur spécial des Nations Unies, sur la promotion du droit à la liberté d’expression, qui demanda « un cadre pour la modération des contenus générés par les utilisateurs qui mettent les droits humains au centre ». Les Principes sont aussi un reflet des recommandations des Principes directeurs relatifs aux entreprises et aux droits de l’homme des Nations Unies, qui articulent les responsabilités des entreprises en matière de droits humains.

Lors de la première publication des Principes, il y avait très peu de transparence sur la portée, ampleur et impacte des moyens pour la modération des contenus sur les plateformes internet. En conséquence, les auteurs des Principes ont demandé aux compagnies de divulguer d’avantages de données à propos de ces efforts de modération a travers de rapports de transparence. Ces rapports de transparence ont aidé à souligner la censure du gouvernement sur les plateformes, ont permis aux utilisateurs à prendre des décisions plus informées sur quels produits utiliser ou éviter, et habiliter les groupes de plaidants à inciter aux compagnies à suivre les procédures légales établies pour répondre et respecter les demandes gouvernementales. En plus, les auteurs des Principes ont noté que la modération de contenu se produit souvent de manière autoritaire, laissant aux utilisateurs avec peu d’options pour redresser et réparer. Les Principes de « notification » et « appellation » prétendaient établir des mécanismes solides, transparents et fiables pour une procédure équitable pour les utilisateurs.

Depuis sa publication, plusieurs plateformes internet ont approuvé et se sont compromises à adhérer les Principes. En font partie de ces plateformes, entre autres, Apple, Facebook, GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter, et YouTube. Tandis que certaines de ces plateformes ont fait des progrès remarquables en donnant plus de transparence à propos de ses efforts pour la modération de contenu, très peu de compagnies ont répondu pleinement aux demandes signalées par les Principes. Les plateformes doivent en faire davantage pour atteindre ces expectatives de base de transparence et responsabilité.

La coalition des Principes de Santa Clara, un groupe composé par ___ organisations, a lancé un ensemble actualisé de principes pour encourager davantage la transparence et redevabilité de la plateforme.

Quoique l’ensemble original des Principes en 2018 établit des points de départs très solides pour que les compagnies puissent adopter, la participation à sa création fut limitée à quelques groupes et individus, et les alliés -particulièrement ceux des pays du Sud Global- soulevèrent de légitimes préoccupations et suggestions pour sa révision. En particulier, les parties prenantes autour du monde ont souligné que les plateformes investissent plus de ressources à assurer la transparence et une procédure établie aux utilisateurs de certaines communautés et marchés. Les compagnies doivent aborder cette inégalité et garantir que tous les utilisateurs -indépendamment de son lieu de résidence- pourront obtenir transparence et redevabilité de la part de ces compagnies. Ceci est spécialement important étant donné que nombreux de préjudices produits comme résultat des pratiques de modération de contenus des plateformes se produisent dans les communautés que les plateformes ont été négligées.

Le panorama de la modération de contenu a radicalement changé au fil de ces dernières années. Les plateformes ne font plus face au contenu et aux comptes préjudiciables simplement en les supprimant. Aujourd’hui, beaucoup de services se basent en outils algorithmiques pour organiser le contenu a travers d’interventions comme le downranking. Il y a un grave manque de transparence et redevabilité à propos de comment les plateformes déploient ces interventions et les impacts résultants sur la liberté d’expression. Additionnellement, les chercheurs et défenseurs de la liberté d’expression ont souligné le résultat discriminatoire et nocif que peut avoir le contenu payant en ligne. A l’heure actuelle, il existe aussi un grand manque de transparence sur la modération de ce genre de contenu, et avec quelles répercussions. Ceux-ci sont des autres domaines que les plateformes ont négligés.

Enfin, durant la pandémie de COVID-19, plusieurs plateformes ont partagé qu’elles augmenteraient leur dépendance aux outils automatiques pour la modération de contenus. Certains services ont aussi annoncé qu’ils suspendraient ses procédures d’appels, ce qui empêche les utilisateurs d’accéder aux procédures établies. Nombreuses organisations de la société civile ont manifesté sa préoccupation pour l’impact de ces décisions sur la liberté d’expression en ligne, soulignant que les plateformes doivent être capables de maintenir un niveau minimum de transparence et responsabilisation en tout moment.

Dû à ces trois préoccupations, la coalition des Principes de Santa Clara a lancé un appel d’offres ouvert pour recevoir des commentaires d’une vaste gamme de partie prenantes au niveau mondial, avec l’objectif d’élargir éventuellement les Principes. La coalition a conduit un significatif travail de diffusion à travers d’un période de commentaires ouverts et une stratégie complémentaire de divulgation dirigée, puis révisa les contributions pendant une période désignée, et finalement, rédigea un nouvel ensemble de Principes. Une série de consultations ouvertes et d’ateliers ont été menés pour ajouter plus de détails à l’ensemble original des Principes.