Die Prinzipien von Santa Clara

Über Transparenz und Verantwortlichkeiten bei der Moderation von Inhalten


Top

Werzeugkasten für Social-Media-Unternehmen

Download Companies Toolkit

1. Die Geschichte der Santa Clara-Prinzipien

Im Mai 2018 hat eine Koalition aus Organisationen, Interessenvertreter_innen und Wissenschaftler_innen die Santa Clara Principles on Transparency and Accountability Around Content Moderation (Santa Clara-Grundsätze für Transparenz und Rechenschaftspflicht bei der Moderation von Inhalten) ins Leben gerufen, um auf die wachsende Besorgnis über die mangelnde Transparenz und Rechenschaftspflicht von Internetplattformen bei der Erstellung und Durchsetzung ihrer Richtlinien zur Moderation von Inhalten zu reagieren. Die Grundsätze umreißen Mindeststandards, die Technologieplattformen erfüllen müssen, um angemessene Transparenz und Rechenschaftspflicht in Bezug auf ihre Bemühungen zu gewährleisten, nutzergenerierte Inhalte zu löschen oder Konten zu sperren, die gegen ihre Regeln verstoßen.

Die ursprüngliche Liste an Grundsätzen konzentriert sich auf drei Hauptforderungen – umfassende Zahlen, die die Bemühungen einer Plattform zur Moderation von Inhalten detailliert beschreiben, eine klare Benachrichtigung der betroffenen Nutzer*innen und ein robustes Beschwerdeverfahren. Sie stehen im Einklang mit der Arbeit von David Kaye, dem ehemaligen UN-Sonderberichterstatter für die Förderung des Rechts auf Meinungsfreiheit und freie Meinungsäußerung, der einen „Rahmen für die Moderation von nutzergenerierten Online-Inhalten, der die Menschenrechte in den Mittelpunkt stellt“, gefordert hatte. Die Grundsätze spiegeln auch die Empfehlungen der UN-Leitprinzipien für Wirtschaft und Menschenrechte wider, in denen die menschenrechtliche Verantwortung von Unternehmen definiert ist.

Als die Grundsätze zum ersten Mal veröffentlicht wurden, gab es nur sehr wenig Transparenz in Bezug auf den Umfang, das Ausmaß und die Auswirkungen der Bemühungen von Internetplattformen zur Moderation von Inhalten. Daher forderten die Verfasser_innen der Grundsätze die Unternehmen auf, in Transparenzberichten mehr Daten über diese Moderationsbemühungen offenzulegen. Diese Transparenzberichte haben dazu beigetragen, staatliche Zensur auf Plattformen aufzuzeigen, den Nutzer_innen die Möglichkeit zu geben, fundiertere Entscheidungen darüber zu treffen, welche Produkte sie nutzen und welche sie meiden sollten, und Lobbygruppen die Möglichkeit zu geben, die Unternehmen zu drängen, sich an die geltenden rechtlichen Verfahren zu halten, wenn sie auf staatliche Forderungen reagieren und diesen nachkommen. Darüber hinaus stellten die Verfasser_innen der Grundsätze fest, dass die Moderation von Inhalten häufig von oben nach unten erfolgt, so dass den Nutzer_innen nur wenige Möglichkeiten zur Verfügung stehen, schnelle Hilfe und eventuell eine Kostenerstattung zu erhalten. Mit den Grundsätzen „Benachrichtigung“ und „Einspruch“ sollten solide, transparente und zuverlässige Mechanismen für ein ordnungsgemäßes Verfahren für die Nutzer*innen geschaffen werden.

Seit ihrer Veröffentlichung haben viele Internetplattformen die Grundsätze unterstützt und sich zu ihrer Einhaltung verpflichtet. Zu diesen Plattformen gehören Apple, Facebook, GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter und YouTube. Während einige dieser Plattformen bemerkenswerte Fortschritte bei der Transparenz ihrer Bemühungen um die Moderation von Inhalten gemacht haben, haben nur sehr wenige Unternehmen die in den Grundsätzen dargelegten Anforderungen vollständig erfüllt. Die Plattformen müssen mehr tun, um diese grundlegenden Erwartungen an Transparenz und Rechenschaftspflicht zu erfüllen.

Die Santa Clara Principles Coalition, eine Gruppe von __ (need to add number) Organisationen, hat eine aktualisierte Reihe von Prinzipien veröffentlicht, um die Transparenz und Rechenschaftspflicht weiter zu fördern.

Während die ursprünglichen Grundsätze von 2018 sehr strenge Grundstandards festlegen, die Unternehmen einhalten sollten, war die Beteiligung an ihrer Erstellung auf wenige Gruppen und Einzelpersonen beschränkt, und Verbündete – insbesondere aus Ländern des Globalen Südens – brachten berechtigte Bedenken und Vorschläge für ihre Überarbeitung vor. Insbesondere haben interessierte Akteure aus aller Welt betont, dass Plattformen mehr Ressourcen in die Transparenz und die ordnungsgemäße Abwicklung von Verfahren für Nutzer_innen in bestimmten Gemeinschaften und Märkten investieren. Die Unternehmen müssen diese Ungerechtigkeit beseitigen und sicherstellen, dass alle ihre Nutzer_innen – unabhängig von ihrem Wohnort – Transparenz und Rechenschaftspflicht von diesen Unternehmen erhalten können. Dies ist besonders wichtig, da viele der Schäden, die durch die Moderationspraktiken der Plattformen entstehen, in Gemeinschaften auftreten, die von den Plattformen vernachlässigt wurden.

Die Landschaft der Inhaltsmoderation hat sich in den letzten Jahren radikal verändert. Plattformen gehen gegen schädliche Inhalte und Konten nicht mehr nur durch deren Entfernung vor. Heute verlassen sich viele Dienste auch auf algorithmische Werkzeuge, um Inhalte durch Eingriffe wie die Herabstufung zu kontrollieren. Es besteht ein gravierender Mangel an Transparenz und Rechenschaftspflicht in Bezug auf die Art und Weise, wie Plattformen diese Eingriffe vornehmen und welche Auswirkungen sie auf die Meinungsfreiheit haben. Darüber hinaus haben Forschende und unterstützende Personen auf die diskriminierenden und schädlichen Folgen hingewiesen, die sich aus bezahlten Online-Inhalten ergeben können. Es besteht derzeit auch ein großer Mangel an Transparenz darüber, wie solche Inhalte moderiert werden und welche Auswirkungen dies hat. Dies sind weitere Bereiche, über die die Plattformen aufklären müssen.

Schließlich teilten viele Plattformen während der COVID-19-Pandemie mit, dass sie bei der Moderation von Inhalten verstärkt auf automatisierte Tools zurückgreifen würden. Einige Dienste kündigten auch an, dass sie ihre Einspruchsverfahren aussetzen würden, wodurch der Zugang der Nutzer*innen zu einem ordnungsgemäßen Verfahren behindert würde. Zahlreiche zivilgesellschaftliche Organisationen äußerten sich besorgt darüber, wie sich diese Entscheidungen auf die Freiheit der Meinungsäußerung im Internet auswirken würden, und betonten, dass die Plattformen in der Lage sein müssen, jederzeit ein Mindestmaß an Transparenz und Rechenschaftspflicht zu gewährleisten.

Aufgrund dieser drei Anliegen hat die Koalition der Santa Clara Principles eine offene Aufforderung zur Stellungnahme an ein breites Spektrum globaler Interessengruppen gerichtet, mit dem Ziel, die Grundsätze schließlich zu erweitern. Die Koalition hat die Öffentlichkeit und die Gemeinschaft über eine offene Kommentierungsphase und eine ergänzende, gezielte Kontaktstrategie umfassend informiert, die Beiträge während eines bestimmten Zeitraums geprüft und schließlich eine neue Reihe von Grundsätzen ausgearbeitet. In einer Reihe von offenen Konsultationen und Workshops wurden die ursprünglichen Grundsätze um weitere Details ergänzt.

2. Werzeugkasten für Social-Media-Unternehmen

Dieser Werzeugkasten soll die Bedeutung der Santa Clara-Prinzipien und ihrer Schlüsselbotschaften erläutern und einen Einblick in die Art und Weise geben, wie Internetplattformen die Grundsätze in ihrer Politik und Praxis übernehmen sollten.

Die überarbeiteten Santa Clara-Prinzipien spiegeln den Wunsch der Zivilgesellschaft nach mehr Transparenz, ordnungsgemäßen Verfahren, kultureller Kompetenz und Achtung der Menschenrechte im gesamten Prozess der Inhaltsmoderation wider. Sie zielen darauf ab, eine sinnvolle, der Öffentlichkeit zugängliche Transparenz über alle nutzergenerierten Inhalte, ob bezahlt oder unbezahlt, zu erreichen.

Diese zweite Auflage der Santa Clara-Prinzipien ist in grundlegende und operative Prinzipien unterteilt.

Die Grundprinzipien sind Werte, die bei der Moderation von Inhalten berücksichtigt werden sollten. Sie dienen allen Unternehmen als Leitfaden für den Respekt der Menschenrechte, ordnungsgemäße Verfahren, für die Veröffentlichung nachvollziehbarer Regeln, für die Gewährleistung kultureller Kompetenz bei Moderationsentscheidungen und für die Transparenz der staatlichen Beteiligung an der Moderation von Inhalten. Sie legen sowohl Prinzipien, als auch die Leitlinien für die Umsetzung dieser Prinzipien fest.

In den operativen Prinzipien werden spezifische Praktiken für Unternehmen in Bezug auf bestimmte, spezifische Phasen und Aspekte des Prozesses der Inhaltsmoderation festgelegt. Anstelle der Mindestanforderungen der ursprünglichen Grundsätze formulieren die neuen Grundsätze allgemeine Standards in Bezug auf Anzahl, Benachrichtigung und Einsprüche und enthalten darüber hinaus strengere Anforderungen, die mit der Reife von Technologieplattformen übernommen werden sollen, wobei anerkannt wird, dass andere Plattformen möglicherweise nicht alle Standards erfüllen können. Zu den Reifekriterien gehören die Größe der Nutzerbasis, die Dauer seit Markteinführung, die technischen Fähigkeiten, die geografische Verbreitung und die Kapitalisierung. Zusätzliche Kriterien wurden als Antwort auf Forderungen staatlicher Akteure im Bezug auf das Risiko des Missbrauchs von Kennzeichnungsprozessen, und aufgrund der zunehmenden Rolle automatisierter Prozesse bei der Identifizierung von Inhalten und der Durchführung von Moderationsmaßnahmen, vorgeschlagen.

Viele Plattformen haben sich bereits zur Einhaltung der ursprünglichen Santa-Clara-Prinzipien bekannt oder verpflichtet. Allerdings haben nur sehr wenige Plattformen diese Verpflichtungen umgesetzt. Während die Akzeptanz der überarbeiteten Grundsätze ein willkommener erster Schritt ist, müssen die Plattformen auch ihren Verpflichtungen zur Umsetzung der Prinzipien nachkommen. Sie sollten die Umsetzung der überarbeiteten operativen Grundsätze proaktiv angehen, sobald sie dazu in der Lage sind. Dies bedeutet, dass Unternehmen die überarbeiteten operativen Grundsätze in ihre Geschäftsplanung integrieren. Dazu gehört, dass sie geeignete Fachkenntnisse und Ressourcen im Bezug auf Sprache, Land und Region, gleichmäßig verteilen, um den Zugang zu ordnungsgemäßen Verfahren zu ermöglichen und Transparenz zu steigern. Dabei müssen die Plattformen sicherstellen, dass der Respekt der Menschenrechte und ordnungsgemäße Verfahren in allen Phasen der Inhaltsmoderation einbezogen werden. Außerdem sollten ihre Regeln und Richtlinien sowie deren Durchsetzung die Vielfalt der Kulturen und Kontexte berücksichtigen, in denen ihre Plattformen und Dienste verfügbar sind und genutzt werden.

Um ihrer Rechenschaftspflicht nachzukommen und die Überwachung ihrer zukünftigen Verpflichtungen zu ermöglichen, sollten die Plattformen detaillierte und spezifische operative Pläne für die Umsetzung jedes der überarbeiteten Grundsätze veröffentlichen. Diese Pläne sollten konkrete Ziele, Erfolgskennzahlen und Zieldaten enthalten. In den Plänen sollten auch die Ressourcen angegeben werden, die ein Unternehmen für die Umsetzung bereitgestellt hat – mit spezifischen Kennzahlen für Sprache, Land und Region. Wenn ein Unternehmen der Ansicht ist, dass es ein bestimmtes Prinzip aufgrund mangelnder Kapazitäten des Unternehmens nicht umsetzen kann, sollte es die Gründe dafür erläutern und einen geschätzten Zeitrahmen angeben, bis wann es voraussichtlich über die Kapazitäten zur Umsetzung des Prinzips verfügt.

Die Plattformen sollten die Öffentlichkeit halbjährlich über ihre Fortschritte auf dem Laufenden halten und dabei auch die wichtigsten Initiativen beschreiben, etwaige Änderungen oder Anpassungen des Unternehmensplans oder der Zieltermine erörtern und sowohl Erfolge als auch Hindernisse aufzeigen.

Die Plattformen sollten eine Kontaktperson für das Santa-Clara-Prinzip benennen, die unter anderem für die Beantwortung von Anfragen der Zivilgesellschaft zur Umsetzung der überarbeiteten Grundsätze zuständig ist.

3. Schlüsselbotschaften und Empfehlungen

Die überarbeiteten Santa Clara-Prinzipien legen anspruchsvolle Standards fest, die zu mehr Transparenz und Verantwortlichkeit in Bezug auf die Art und Weise führen sollen, wie Plattformen ihre Inhaltsmoderationssysteme konzipieren und implementieren, und welche Auswirkungen diese Systeme haben.

Wir sind uns bewusst, dass die überarbeiteten Grundsätze zusätzliche Verpflichtungen über die in den ursprünglichen Grundsätzen festgelegten hinaus beinhalten und dass einige der überarbeiteten operativen Grundsätze für kleinere und neue Unternehmen derzeit nicht praktikabel sein könnten. Es ist nicht unsere Absicht, den Wettbewerb einzuschränken oder die derzeitigen ressourcenstarken, marktbeherrschenden Plattformen zu stärken, sondern einen skalierbaren Rahmen zu schaffen, der die Transparenz und Rechenschaftspflicht für alle Plattformen erhöht. Neuere und kleinere Plattformen sollten die Einhaltung der Standards einplanen, wenn sie sich vergrößern.

4. Aufruf zum Handeln

Die Plattformen müssen die wachsende Nachfrage ihrer Nutzer_innen und Vertreter_innen der Zivilgesellschaft nach mehr Transparenz anerkennen. Während viele Plattformen bereits Konsultationen mit der Zivilgesellschaft durchführen, wenn sie neue Richtlinien oder Funktionen entwickeln, unterstreicht das Feedback, das wir während dieses Prozesses und darüber hinaus erhalten haben, die Notwendigkeit sowohl breiterer Konsultationen mit einer Vielzahl von Akteuren aus der ganzen Welt als auch einer strikteren Berücksichtigung ihres Feedbacks.

Die überarbeiteten Grundsätze spiegeln die Beiträge von mehr als vierzig Gruppen und Einzelpersonen aus etwa achtzehn Ländern sowie mehrere Echtzeit-Gruppenberatungen wider, die von Partnern in Afrika, Lateinamerika, Indien und Nordamerika durchgeführt wurden. Sie spiegeln ein breites Spektrum von Ansichten darüber wider, wie die Bemühungen von Unternehmen um Transparenz und Rechenschaftspflicht zum Wohle einer Vielzahl von Nutzer*innen erweitert werden können.

Insbesondere erwarten wir von den Unternehmen, dass sie ihr Engagement für die Umsetzung der überarbeiteten Grundsätze durch konkrete Maßnahmen, eine angemessene Zuweisung von Ressourcen und eine regelmäßige, detaillierte Berichterstattung über die Umsetzungsbemühungen unter Beweis stellen.