Die Geschichte der Santa Clara-Prinzipien
Im Mai 2018 hat eine Koalition aus Organisationen, Interessenvertreterinnen und Wissenschaftlerinnen die Santa Clara Principles on Transparency and Accountability Around Content Moderation (Santa Clara-Grundsätze für Transparenz und Rechenschaftspflicht bei der Moderation von Inhalten) ins Leben gerufen, um auf die wachsende Besorgnis über die mangelnde Transparenz und Rechenschaftspflicht von Internetplattformen bei der Erstellung und Durchsetzung ihrer Richtlinien zur Moderation von Inhalten zu reagieren. Die Grundsätze umreißen Mindeststandards, die Technologieplattformen erfüllen müssen, um angemessene Transparenz und Rechenschaftspflicht in Bezug auf ihre Bemühungen zu gewährleisten, nutzergenerierte Inhalte zu löschen oder Konten zu sperren, die gegen ihre Regeln verstoßen.
Die ursprüngliche Liste an Grundsätzen konzentriert sich auf drei Hauptforderungen – umfassende Zahlen, die die Bemühungen einer Plattform zur Moderation von Inhalten detailliert beschreiben, eine klare Benachrichtigung der betroffenen Nutzer*innen und ein robustes Beschwerdeverfahren. Sie stehen im Einklang mit der Arbeit von David Kaye, dem ehemaligen UN-Sonderberichterstatter für die Förderung des Rechts auf Meinungsfreiheit und freie Meinungsäußerung, der einen „Rahmen für die Moderation von nutzergenerierten Online-Inhalten, der die Menschenrechte in den Mittelpunkt stellt“, gefordert hatte. Die Grundsätze spiegeln auch die Empfehlungen der UN-Leitprinzipien für Wirtschaft und Menschenrechte wider, in denen die menschenrechtliche Verantwortung von Unternehmen definiert ist.
Als die Grundsätze zum ersten Mal veröffentlicht wurden, gab es nur sehr wenig Transparenz in Bezug auf den Umfang, das Ausmaß und die Auswirkungen der Bemühungen von Internetplattformen zur Moderation von Inhalten. Daher forderten die Verfasserinnen der Grundsätze die Unternehmen auf, in Transparenzberichten mehr Daten über diese Moderationsbemühungen offenzulegen. Diese Transparenzberichte haben dazu beigetragen, staatliche Zensur auf Plattformen aufzuzeigen, den Nutzerinnen die Möglichkeit zu geben, fundiertere Entscheidungen darüber zu treffen, welche Produkte sie nutzen und welche sie meiden sollten, und Lobbygruppen die Möglichkeit zu geben, die Unternehmen zu drängen, sich an die geltenden rechtlichen Verfahren zu halten, wenn sie auf staatliche Forderungen reagieren und diesen nachkommen. Darüber hinaus stellten die Verfasserinnen der Grundsätze fest, dass die Moderation von Inhalten häufig von oben nach unten erfolgt, so dass den Nutzerinnen nur wenige Möglichkeiten zur Verfügung stehen, schnelle Hilfe und eventuell eine Kostenerstattung zu erhalten. Mit den Grundsätzen „Benachrichtigung“ und „Einspruch“ sollten solide, transparente und zuverlässige Mechanismen für ein ordnungsgemäßes Verfahren für die Nutzer*innen geschaffen werden.
Seit ihrer Veröffentlichung haben viele Internetplattformen die Grundsätze unterstützt und sich zu ihrer Einhaltung verpflichtet. Zu diesen Plattformen gehören Apple, Facebook, GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter und YouTube. Während einige dieser Plattformen bemerkenswerte Fortschritte bei der Transparenz ihrer Bemühungen um die Moderation von Inhalten gemacht haben, haben nur sehr wenige Unternehmen die in den Grundsätzen dargelegten Anforderungen vollständig erfüllt. Die Plattformen müssen mehr tun, um diese grundlegenden Erwartungen an Transparenz und Rechenschaftspflicht zu erfüllen.
Die Santa Clara Principles Coalition, eine Gruppe von __ (need to add number) Organisationen, hat eine aktualisierte Reihe von Prinzipien veröffentlicht, um die Transparenz und Rechenschaftspflicht weiter zu fördern.
Während die ursprünglichen Grundsätze von 2018 sehr strenge Grundstandards festlegen, die Unternehmen einhalten sollten, war die Beteiligung an ihrer Erstellung auf wenige Gruppen und Einzelpersonen beschränkt, und Verbündete – insbesondere aus Ländern des Globalen Südens – brachten berechtigte Bedenken und Vorschläge für ihre Überarbeitung vor. Insbesondere haben interessierte Akteure aus aller Welt betont, dass Plattformen mehr Ressourcen in die Transparenz und die ordnungsgemäße Abwicklung von Verfahren für Nutzerinnen in bestimmten Gemeinschaften und Märkten investieren. Die Unternehmen müssen diese Ungerechtigkeit beseitigen und sicherstellen, dass alle ihre Nutzerinnen – unabhängig von ihrem Wohnort – Transparenz und Rechenschaftspflicht von diesen Unternehmen erhalten können. Dies ist besonders wichtig, da viele der Schäden, die durch die Moderationspraktiken der Plattformen entstehen, in Gemeinschaften auftreten, die von den Plattformen vernachlässigt wurden.
Die Landschaft der Inhaltsmoderation hat sich in den letzten Jahren radikal verändert. Plattformen gehen gegen schädliche Inhalte und Konten nicht mehr nur durch deren Entfernung vor. Heute verlassen sich viele Dienste auch auf algorithmische Werkzeuge, um Inhalte durch Eingriffe wie die Herabstufung zu kontrollieren. Es besteht ein gravierender Mangel an Transparenz und Rechenschaftspflicht in Bezug auf die Art und Weise, wie Plattformen diese Eingriffe vornehmen und welche Auswirkungen sie auf die Meinungsfreiheit haben. Darüber hinaus haben Forschende und unterstützende Personen auf die diskriminierenden und schädlichen Folgen hingewiesen, die sich aus bezahlten Online-Inhalten ergeben können. Es besteht derzeit auch ein großer Mangel an Transparenz darüber, wie solche Inhalte moderiert werden und welche Auswirkungen dies hat. Dies sind weitere Bereiche, über die die Plattformen aufklären müssen.
Schließlich teilten viele Plattformen während der COVID-19-Pandemie mit, dass sie bei der Moderation von Inhalten verstärkt auf automatisierte Tools zurückgreifen würden. Einige Dienste kündigten auch an, dass sie ihre Einspruchsverfahren aussetzen würden, wodurch der Zugang der Nutzer*innen zu einem ordnungsgemäßen Verfahren behindert würde. Zahlreiche zivilgesellschaftliche Organisationen äußerten sich besorgt darüber, wie sich diese Entscheidungen auf die Freiheit der Meinungsäußerung im Internet auswirken würden, und betonten, dass die Plattformen in der Lage sein müssen, jederzeit ein Mindestmaß an Transparenz und Rechenschaftspflicht zu gewährleisten.
Aufgrund dieser drei Anliegen hat die Koalition der Santa Clara Principles eine offene Aufforderung zur Stellungnahme an ein breites Spektrum globaler Interessengruppen gerichtet, mit dem Ziel, die Grundsätze schließlich zu erweitern. Die Koalition hat die Öffentlichkeit und die Gemeinschaft über eine offene Kommentierungsphase und eine ergänzende, gezielte Kontaktstrategie umfassend informiert, die Beiträge während eines bestimmten Zeitraums geprüft und schließlich eine neue Reihe von Grundsätzen ausgearbeitet. In einer Reihe von offenen Konsultationen und Workshops wurden die ursprünglichen Grundsätze um weitere Details ergänzt.