Ein Werzeugkasten für Aktivistinnen
1. Die Geschichte der Santa Clara-Prinzipien
Im Mai 2018 hat eine Koalition aus Organisationen, Interessenvertreterinnen und Wissenschaftlerinnen die Santa Clara Principles on Transparency and Accountability Around Content Moderation (Santa Clara-Grundsätze für Transparenz und Rechenschaftspflicht bei der Moderation von Inhalten) ins Leben gerufen, um auf die wachsende Besorgnis über die mangelnde Transparenz und Rechenschaftspflicht von Internetplattformen bei der Erstellung und Durchsetzung ihrer Richtlinien zur Moderation von Inhalten zu reagieren. Die Grundsätze umreißen Mindeststandards, die Technologieplattformen erfüllen müssen, um angemessene Transparenz und Rechenschaftspflicht in Bezug auf ihre Bemühungen zu gewährleisten, nutzergenerierte Inhalte zu löschen oder Konten zu sperren, die gegen ihre Regeln verstoßen.
Die ursprüngliche Liste an Grundsätzen konzentriert sich auf drei Hauptforderungen – umfassende Zahlen, die die Bemühungen einer Plattform zur Moderation von Inhalten detailliert beschreiben, eine klare Benachrichtigung der betroffenen Nutzer*innen und ein robustes Beschwerdeverfahren. Sie stehen im Einklang mit der Arbeit von David Kaye, dem ehemaligen UN-Sonderberichterstatter für die Förderung des Rechts auf Meinungsfreiheit und freie Meinungsäußerung, der einen „Rahmen für die Moderation von nutzergenerierten Online-Inhalten, der die Menschenrechte in den Mittelpunkt stellt“, gefordert hatte. Die Grundsätze spiegeln auch die Empfehlungen der UN-Leitprinzipien für Wirtschaft und Menschenrechte wider, in denen die menschenrechtliche Verantwortung von Unternehmen definiert ist.
Als die Grundsätze zum ersten Mal veröffentlicht wurden, gab es nur sehr wenig Transparenz in Bezug auf den Umfang, das Ausmaß und die Auswirkungen der Bemühungen von Internetplattformen zur Moderation von Inhalten. Daher forderten die Verfasserinnen der Grundsätze die Unternehmen auf, in Transparenzberichten mehr Daten über diese Moderationsbemühungen offenzulegen. Diese Transparenzberichte haben dazu beigetragen, staatliche Zensur auf Plattformen aufzuzeigen, den Nutzerinnen die Möglichkeit zu geben, fundiertere Entscheidungen darüber zu treffen, welche Produkte sie nutzen und welche sie meiden sollten, und Lobbygruppen die Möglichkeit zu geben, die Unternehmen zu drängen, sich an die geltenden rechtlichen Verfahren zu halten, wenn sie auf staatliche Forderungen reagieren und diesen nachkommen. Darüber hinaus stellten die Verfasserinnen der Grundsätze fest, dass die Moderation von Inhalten häufig von oben nach unten erfolgt, so dass den Nutzerinnen nur wenige Möglichkeiten zur Verfügung stehen, schnelle Hilfe und eventuell eine Kostenerstattung zu erhalten. Mit den Grundsätzen „Benachrichtigung“ und „Einspruch“ sollten solide, transparente und zuverlässige Mechanismen für ein ordnungsgemäßes Verfahren für die Nutzer*innen geschaffen werden.
Seit ihrer Veröffentlichung haben viele Internetplattformen die Grundsätze unterstützt und sich zu ihrer Einhaltung verpflichtet. Zu diesen Plattformen gehören Apple, Facebook, GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter und YouTube. Während einige dieser Plattformen bemerkenswerte Fortschritte bei der Transparenz ihrer Bemühungen um die Moderation von Inhalten gemacht haben, haben nur sehr wenige Unternehmen die in den Grundsätzen dargelegten Anforderungen vollständig erfüllt. Die Plattformen müssen mehr tun, um diese grundlegenden Erwartungen an Transparenz und Rechenschaftspflicht zu erfüllen.
Die Santa Clara Principles Coalition, eine Gruppe von __ (need to add number) Organisationen, hat eine aktualisierte Reihe von Prinzipien veröffentlicht, um die Transparenz und Rechenschaftspflicht weiter zu fördern.
Während die ursprünglichen Grundsätze von 2018 sehr strenge Grundstandards festlegen, die Unternehmen einhalten sollten, war die Beteiligung an ihrer Erstellung auf wenige Gruppen und Einzelpersonen beschränkt, und Verbündete – insbesondere aus Ländern des Globalen Südens – brachten berechtigte Bedenken und Vorschläge für ihre Überarbeitung vor. Insbesondere haben interessierte Akteure aus aller Welt betont, dass Plattformen mehr Ressourcen in die Transparenz und die ordnungsgemäße Abwicklung von Verfahren für Nutzerinnen in bestimmten Gemeinschaften und Märkten investieren. Die Unternehmen müssen diese Ungerechtigkeit beseitigen und sicherstellen, dass alle ihre Nutzerinnen – unabhängig von ihrem Wohnort – Transparenz und Rechenschaftspflicht von diesen Unternehmen erhalten können. Dies ist besonders wichtig, da viele der Schäden, die durch die Moderationspraktiken der Plattformen entstehen, in Gemeinschaften auftreten, die von den Plattformen vernachlässigt wurden.
Die Landschaft der Inhaltsmoderation hat sich in den letzten Jahren radikal verändert. Plattformen gehen gegen schädliche Inhalte und Konten nicht mehr nur durch deren Entfernung vor. Heute verlassen sich viele Dienste auch auf algorithmische Werkzeuge, um Inhalte durch Eingriffe wie die Herabstufung zu kontrollieren. Es besteht ein gravierender Mangel an Transparenz und Rechenschaftspflicht in Bezug auf die Art und Weise, wie Plattformen diese Eingriffe vornehmen und welche Auswirkungen sie auf die Meinungsfreiheit haben. Darüber hinaus haben Forschende und unterstützende Personen auf die diskriminierenden und schädlichen Folgen hingewiesen, die sich aus bezahlten Online-Inhalten ergeben können. Es besteht derzeit auch ein großer Mangel an Transparenz darüber, wie solche Inhalte moderiert werden und welche Auswirkungen dies hat. Dies sind weitere Bereiche, über die die Plattformen aufklären müssen.
Schließlich teilten viele Plattformen während der COVID-19-Pandemie mit, dass sie bei der Moderation von Inhalten verstärkt auf automatisierte Tools zurückgreifen würden. Einige Dienste kündigten auch an, dass sie ihre Einspruchsverfahren aussetzen würden, wodurch der Zugang der Nutzer*innen zu einem ordnungsgemäßen Verfahren behindert würde. Zahlreiche zivilgesellschaftliche Organisationen äußerten sich besorgt darüber, wie sich diese Entscheidungen auf die Freiheit der Meinungsäußerung im Internet auswirken würden, und betonten, dass die Plattformen in der Lage sein müssen, jederzeit ein Mindestmaß an Transparenz und Rechenschaftspflicht zu gewährleisten.
Aufgrund dieser drei Anliegen hat die Koalition der Santa Clara Principles eine offene Aufforderung zur Stellungnahme an ein breites Spektrum globaler Interessengruppen gerichtet, mit dem Ziel, die Grundsätze schließlich zu erweitern. Die Koalition hat die Öffentlichkeit und die Gemeinschaft über eine offene Kommentierungsphase und eine ergänzende, gezielte Kontaktstrategie umfassend informiert, die Beiträge während eines bestimmten Zeitraums geprüft und schließlich eine neue Reihe von Grundsätzen ausgearbeitet. In einer Reihe von offenen Konsultationen und Workshops wurden die ursprünglichen Grundsätze um weitere Details ergänzt.
2. Ein Werzeugkasten für Aktivistinnen
Dieser Werkzeugkasten für Kampagnen zu den Santa Clara-Prinzipien soll die Bedeutung der Prinzipien und ihrer Schlüsselbotschaften erläutern und einen Einblick geben, wie Befürworter*innen allein und als Koalition eine Kampagne durchführen können, um Unternehmen zur Rechenschaft aufzufordern – nicht nur, um die neuen Grundsätze zu unterstützen, sondern auch, um sie in ihrer Politik und Praxis umzusetzen.
Technologieunternehmen kontrollieren den Online-Informationsfluss auf ihren Plattformen durch Eigentumsregeln und Nutzungsbedingungen, was ihnen erhebliche Macht verleiht, ohne dass sie zur Rechenschaft gezogen werden können. Personen aus Gemeinschaften, die bereits mit Diskriminierung konfrontiert sind, laufen auch Gefahr, dass ihre Inhalte durch diskriminierende Kennzeichnungskampagnen oder voreingenommene Moderationsprozesse online entfernt werden, und sind somit doppelt gefährdet, zum Schweigen gebracht zu werden.
Ungerechtfertigte Maßnahmen, die aufgrund von Inhalten ergriffen werden, können unverhältnismäßige Auswirkungen auf bereits gefährdete Bevölkerungsgruppen haben, wie z. B. Angehörige ethnischer oder religiöser Minderheiten, LGBTQ+-Menschen und Frauen. Auch Journalistinnen, politische Aktivistinnen und Menschenrechtsverteidiger*innen, die in repressiven Umgebungen arbeiten, sind regelmäßig betroffen.
Regierungen versuchen derzeit, Internetplattformen zu regulieren. Sie Ihr Ziel ist es, schädliche Inhalte schnell zu entfernen beziehungsweise komplett zu verhindern, dass solche Inhalte überhaupt erst auftauchen. Es gibt jedoch eine Reihe von Regulierungsvorschlägen, die außergesetzlichen Druck auf Social-Media-Unternehmen ausüben, um Inhalte schnell zu entfernen. Andere Regierungen versuchen, Plattformen für Äußerungen Dritter haftbar zu machen, wodurch sichergestellt wird, dass die großen Plattformen ihre Beinahe-Monopole behalten werden. Da die Unternehmen unter dem Druck der Regulierungsbehörden stehen, werden sie wahrscheinlich die Geschwindigkeit der Inhaltsmoderation und den Einsatz automatisierter Technologien erhöhen, um hohe Geldstrafen zu vermeiden. Die Befürchtung ist, dass Unternehmen, die unter Zeitdruck arbeiten, mehr Fehler bei der Moderation von Inhalten machen. Darüber hinaus sind die für die Inhaltsmoderation verwendeten automatisierten Werkzeuge in vielerlei Hinsicht beschränkt, was häufig dazu führt, dass zu wenig oder zu viel Inhalte entfernt werden. Dies wirft erhebliche Bedenken hinsichtlich der freien Meinungsäußerung auf.
Wir brauchen dringend eine Lösung, die sicherstellt, dass das Internet ein Raum ist, in dem alle Menschen Zugang zu Informationen haben und sich an Debatten beteiligen können. Die Einführung klarer Benachrichtigungs- und Einspruchverfahren ist ein erster grundlegender Schritt, den soziale Medienplattformen unternehmen können, um sicherzustellen, dass alle Nutzer*innen gehört werden können und um Online-Gemeinschaften zu schützen.
3. Hauptziele für die Grundsätze
1. Staatliche Akteure
Staatliche Akteure müssen von der Einführung von Gesetzen absehen, die die Meinungsfreiheit im Internet behindern, und sicherstellen, dass die Menschenrechte auf den Plattformen geschützt werden. Die Grundsätze sollen den Regierungen einen Überblick über die durchschnittlichen Standards und bewährten Praktiken bei der Online-Moderation von Inhalten geben.
Die Prinzipien sind nicht als Vorlage für eine Regulierung gedacht. Sie sind ein Leitfaden, damit die Regierungen wissen, welche Art von Standards sie bei der Diskussion über Regulierung oder Politik berücksichtigen sollten. Darüber hinaus müssen die staatlichen Akteure Hindernisse beseitigen, um die Transparenz zu den Geschäftspraktiken der Technologieunternehmen zu erhöhen. Sie müssen außerdem über ihre Beteiligung an Entscheidungen über die Moderation von Inhalten berichten. Schließlich müssen die staatlichen Akteure die wichtige Rolle der Zivilgesellschaft bei der Förderung der Meinungsfreiheit im Internet anerkennen und einen Multi-Stakeholder-Ansatz bei Diskussionen über die Moderation von Inhalten fördern.
2. Soziale Medien
Soziale Medien sind für unsere Kommunikation von grundlegender Bedeutung geworden. Wenn Nutzerinnen einer Plattform beitreten, erklären sie sich mit den Nutzungsbedingungen dieser Plattform einverstanden, die sie in der Regel dazu verpflichten, sich an eine Reihe von Regeln für akzeptables Verhalten und akzeptable Äußerungen zu halten, die oft in einem separaten Dokument von „Gemeinschaftsstandards“ enthalten sind. Nutzerinnen, die gegen diese Standards verstoßen, können mit ihren Inhalten belangt werden*.
Unternehmen sehen sich zunehmend Forderungen von Regierungen oder Gesetzen ausgesetzt, die sie für die Äußerungen von Nutzer*innen haftbar machen, was ernste Fragen über die Zukunft der freien Meinungsäußerung im Internet aufwirft. Die Besorgnis der globalen Zivilgesellschaft über die mangelnde Transparenz und Rechenschaftspflicht von Plattformen war der Auslöser für die ursprüngliche Ausarbeitung der Grundsätze. Die sich verändernde Art der Inhaltsmoderation und ihre uneinheitliche Anwendung auf der ganzen Welt brachte neue Forderungen hervor. So kam es zu einem erneuerten Anstoß für eine Bewertung und Überarbeitung der Prinzipien von Santa Clara. Die Santa Clara-Prinzipien 2.0 bieten eine neue Reihe von Standards für Transparenz und ordnungsgemäße Verfahren, die Unternehmen als Leitfaden für die Einführung von Maßnahmen zur Wahrung der Menschenrechte in ihre Politik und Praxis dienen.
Wir ermutigen Mitglieder der Zivilgesellschaft, Unternehmen und andere Stakeholder, gemeinsam und in Absprache mit den verschiedenen Interessengruppen Umsetzungspläne zu entwickeln, um einen Fahrplan für die Einhaltung der überarbeiteten Grundsätze zu erstellen. Wir setzen außerdem auf die Zivilgesellschaft, um die Rechenschaft der Unternehmen bei der Umsetzung ihrer Pläne einzufordern und zu überprüfen.
4. Verwendung der SCP 2.0 in Ihrer Interessenvertretung
1. Steigerung der Sichtbarkeit der Grundsätze durch die Veranstaltung eines Webinars oder einer Pressekonferenz, zu der Hauptrednerinnen, Unternehmen, Regierungen und Aktivistinnen eingeladen werden, um über die Freiheit der Meinungsäußerung im Internet und die wichtigsten Empfehlungen aus den Grundsätzen zu sprechen.
2. Organisieren Sie persönliche Treffen mit den Unternehmen in Ihrem Land. Bringen Sie unbedingt Aktivist*innen mit, die negative Erfahrungen mit der Löschung von Inhalten gemacht haben. Druck auf Unternehmen durch evidenzbasierte Interessenvertretung ist der Schlüssel! Es ist wichtig, dass wir bei den Treffen mit den Unternehmen dafür sorgen, dass sie sich an die getroffenen Vereinbarungen halten. Machen Sie sich Notizen über die Diskussion und die Aktionspunkte während des Treffens. Beenden Sie das Treffen, indem Sie um ein Folgegespräch mit den Unternehmen bitten. Ein Treffen ist nicht genug! Nehmen Sie die Unternehmen in der Nachfolgesitzung in die Pflicht, auf die zuvor besprochenen Aktionspunkte zu reagieren.
3. Organisieren Sie persönliche Gespräche mit den relevanten staatlichen Akteuren in Ihrem Land. Achten Sie darauf, dass die Zivilgesellschaft aus verschiedenen Orten, Menschen aus der Wissenschaft und aus dem technischen Bereich an diesen Diskussionen teilnehmen. Nutzen Sie die Grundsätze, um Gesetzgebenden oder staatlichen Akteuren den Kontext zu den Themen und bewährten Verfahren der Inhaltsmoderation zu vermitteln.
4. Halten Sie eine Pressekonferenz ab, auf der Sie neue Beweise für Probleme auf Social-Media-Plattformen vorlegen. Nutzen Sie diese Gelegenheit, um auf einige der Vereinbarungen zu verweisen, die die Unternehmen bei Ihren persönlichen Treffen getroffen haben (wenn Sie sehen, dass sie nicht genug getan haben). Technologieunternehmen mögen es nicht, wenn sie in den lokalen Medien ein negatives Image haben. Sie könnten daran interessiert sein, nach Ihrer Pressekonferenz schnell auf die Aktionspunkte zu reagieren.
5. Erleichtern Sie gezielte Aktionen gegenüber den Geschäftsführenden der Unternehmen: Wenn Sie bei den Unternehmen keine positiven Fortschritte in Bezug auf Ihre Forderungen feststellen können oder deren Antworten vage sind, sollten Sie eine Aktion in den sozialen Medien organisieren. Mit Social-Media-Aktionen können Sie die breite Öffentlichkeit erreichen, die Ihre Interessenvertretung unterstützt, um gezielte Nachrichten an leitende Angestellte in den sozialen Medien zu senden. Viele dieser Personen sind auf Twitter, Facebook und LinkedIn vernetzt, und ihre Kontakte lassen sich auf diesen Plattformen leicht finden. Schicken Sie ihnen gezielte Nachrichten und ermutigen Sie andere in Ihren Netzwerken, das Gleiche zu tun. Oder Sie können einen offenen Brief organisieren und die Zivilgesellschaft und Aktivist*innen einladen, ihn zu unterzeichnen, in dem die wichtigsten Maßnahmen aufgeführt sind, die die Unternehmen innerhalb eines bestimmten Zeitrahmens ergreifen sollen.
6. Schließen Sie sich der Santa Clara Principles-Koalition an und beteiligen Sie sich an unseren Aktionen. Wir planen, weitere Unterschriften zu sammeln und öffentliche Treffen mit Technologieunternehmen zu veranstalten. Dies wird eine Gelegenheit sein, Solidarität zu zeigen und Ihrer Stimme Gehör zu verschaffen. Je stärker die Stimme, desto besser. Verfolgen Sie neue Entwicklungen auf https://santaclaraprinciples.org
* Die Begriffe „Maßnahmen“ und „veranlasste Maßnahmen“ beziehen sich auf jede Form von Durchsetzungsmaßnahmen, die ein Unternehmen in Bezug auf den Inhalt oder das Konto betroffener Personen aufgrund der Nichteinhaltung seiner Regeln und Richtlinien ergreift, einschließlich (aber nicht beschränkt auf) die Entfernung von Inhalten, die algorithmische Herabstufung von Inhalten und die (vorübergehende oder dauerhafte) Sperrung von Konten.her temporary or permanent) of accounts.