Die Prinzipien von Santa Clara

Über Transparenz und Verantwortlichkeiten bei der Moderation von Inhalten


Top

Ein Hinweis an die Regulierungsbehörden

Die Santa-Clara-Grundsätze sind keine Vorlage für eine Regulierung. Die Grundsätze wurden nicht zu diesem Zweck geschaffen und sollten auch nicht als solche verwendet werden. Die Staaten sollten die Santa-Clara-Grundsätze nicht direkt in gesetzliche Vorschriften umwandeln.

Dies ist besonders wichtig im derzeitigen regulatorischen Klima, in dem es weltweit zahlreiche Bemühungen gibt, die Inhalte von Social-Media-Plattformen zu regulieren. Einige dieser Bestrebungen zielen darauf ab, die durch die veröffentlichten Inhalte verursachten Schäden zu beseitigen, während andere sich auf die unrechtmäßige Entfernung von Inhalten und andere vermeintlich unrechtmäßige Handlungen der dominierenden Plattformen konzentrieren. Die Regierungen arbeiten nur selten mit den verschiedenen Interessengruppen zusammen, und der Regulierungsprozess selbst ist nicht ausreichend transparent und inklusiv, oft undemokratisch und führt zu einer mangelhaften Politik.

Eine flexible Einführung der Standards

Die Santa-Clara-Grundsätze versuchen, Standards zu setzen. Einige Unternehmen werden diese Standards in angemessener Weise erfüllen. Einige werden nur einige von ihnen angemessen erfüllen, während andere sie übertreffen werden und sollten. Wo ein bestimmter Dienst einzuordnen ist, hängt von vielen Faktoren ab – Anzahl der Nutzerinnen, Kapitalisierung, Alter, Schwerpunkt des Dienstes, redaktionelle Prioritäten, Nutzerinnenprioritäten – die von Dienst zu Dienst unterschiedlich sein werden. Die Unternehmen sollten ihre Dienste zwar von Anfang an mit Blick auf ein ordnungsgemäßes Verfahren konzipieren, doch müssen sie bei der Umsetzung der Santa-Clara-Prinzipien von Anfang an eine gewisse Flexibilität an den Tag legen und diese im Laufe der Zeit, wenn der Dienst reift, weiterentwickeln. Die Santa-Clara-Prinzipien sind daher am besten als Prüfsteine zu verstehen, anhand derer die Praktiken eines Unternehmens bewertet und verglichen werden können, und nicht als straffe Regeln.

Um diese notwendige Flexibilität aufrechtzuerhalten, sollten die Regierungen auf gesetzliche Vorgaben verzichten, die für die Unternehmen aus praktischen und Kostengründen nicht zu erfüllen sind. Solche Vorschriften halten neue Marktteilnehmende davon ab, sich in diesem Bereich zu engagieren, und wirken sich somit negativ auf Innovation und Wettbewerb aus. Selbst bei den etablierten Diensten gibt es keine Messgrößen, die ohne weiteres einem geforderten Konformitätsniveau entsprechen.

Potenzial für die Verwertung

Die Santa Clara-Prinzipien sollen die Meinungsfreiheit und die Menschenrechte der Internetnutzenden im Allgemeinen fördern. Sie sollen den Regierungen keinen Vorwand bieten, um die Meinungsfreiheit einzuschränken oder wichtige Kommunikationsdienste abzuschalten.

Unterschiede im nationalen und regionalen Recht

Online-Dienste sind von Natur aus international ausgerichtet. Die Grundsätze von Santa Clara sollen daher einen internationalen Geltungsbereich haben. Jedes Land bzw. jede Region muss seinen/ihren lokalen Kontext, seine/ihre kulturellen Nuancen und seine/ihre Gesetzgebung berücksichtigen, um bei der Diskussion über die Regulierung der Inhaltsmoderation den größtmöglichen Schutz der Menschenrechte zu gewährleisten. Der Regulierungsprozess in jedem Land muss durch die Beiträge lokaler Interessengruppen bereichert werden, weshalb diese Grundsätze nicht dazu dienen sollten, deren Beteiligung zu verhindern.

Eine sich ständig weiterentwickelnde Akteurslandschaft

Wie wir seit der Einführung der öffentlichen Nutzung des Internets gesehen haben, entwickeln sich die Online-Dienste ständig weiter. Wir gehen davon aus, dass die Grundsätze von Santa Clara ebenfalls ein sich weiterentwickelndes Dokument bleiben werden, das häufig überprüft und überarbeitet wird. Verordnungen, die versuchen, sie zu kodifizieren, müssen ebenfalls häufig überarbeitet werden und laufen Gefahr, schnell veraltet zu sein.

Die überarbeiteten Santa-Clara-Prinzipien enthalten jedoch spezifische Grundsätze für Regierungen und andere staatliche Akteure, die ihre eigene Transparenz fördern und die Transparenz der Unternehmen nicht behindern sollen:

Grundsätze für Regierungen und andere staatliche Akteure

Regierungen sind natürlich aufgrund verschiedener internationaler Rechtsinstrumente, z. B. Artikel 19 der Allgemeinen Erklärung der Menschenrechte, verpflichtet, das Recht auf freie Meinungsäußerung aller Personen zu achten. Folglich dürfen staatliche Akteure die Inhaltsmoderationssysteme von Unternehmen nicht ausnutzen oder manipulieren, um Andersdenkende, politische Gegner, soziale Bewegungen oder andere Personen zu zensieren.

Was die Transparenz betrifft, so ist die Transparenz der Unternehmen ein entscheidendes Element, um das Vertrauen in die Prozesse der Inhaltsmoderation zu gewährleisten. Die Staaten müssen jedoch ihre Rolle bei der Behinderung von Transparenzmaßnahmen erkennen und minimieren und müssen auch Transparenz über ihre eigenen Forderungen nach Entfernung oder Einschränkung von Inhalten herstellen.

1. Beseitigung von Hindernissen für die Unternehmenstransparenz

Regierungen und andere staatliche Akteure sollten die Hindernisse für die Herstellung von Transparenz beseitigen (und von der Einführung solcher Hindernisse absehen), die die Unternehmen daran hindern, die oben genannten Grundsätze vollständig einzuhalten.

Regierungen und andere staatliche Akteure sollten sicherstellen, dass es Unternehmen nicht untersagt ist, Informationen über Anfragen oder Forderungen nach der Löschung von Inhalten oder Konten zu veröffentlichen, die von staatlichen Akteuren stammen. Einzige Ausnahme ist, wenn ein solches Verbot auf Basis einer eindeutigen Rechtsgrundlage erfolgt, und ein notwendiges und angemessenes Mittel zur Erreichung eines legitimen Ziels darstellt.

2. Förderung der Transparenz der Regierung

Regierungen und andere staatliche Akteure sollten selbst über ihre Beteiligung an Entscheidungen über die Mäßigung von Inhalten berichten, einschließlich Daten zu Forderungen oder Anträgen, Inhalte zu bearbeiten oder ein Konto zu sperren, aufgeschlüsselt nach der Rechtsgrundlage für den Antrag. Die Berichterstattung sollte alle staatlichen Akteure berücksichtigen und gegebenenfalls auch subnationale Stellen einbeziehen, vorzugsweise in einem konsolidierten Bericht.

Regierungen und andere staatliche Akteure sollten prüfen, wie sie im Einklang mit den oben genannten Grundsätzen eine angemessene und aussagekräftige Transparenz von Unternehmen fördern können, auch durch regulatorische und nicht-regulatorische Maßnahmen.