Verktyg för påverkare
1. Santa Clara-principernas historia
I maj 2018 samlades en koalition med organisationer, påverkare och akademiker för att ta fram Santa Clara-principerna om transparens och ansvarsskyldighet kring innehållsmoderering som svar på ökande betänkligheter gällande bristen på transparens och ansvarsskyldighet hos internetplattformar kring hur de skapar och verkställer sina policyer för innehållsmoderering. Principerna beskriver minimistandarder som teknikplattformar måste följa för att kunna erbjuda tillräcklig transparens och ansvarsskyldighet i sitt arbete med att ta bort användargenererat innehåll eller inaktivera konton som strider mot deras regler.
Den ursprungliga uppsättningen principer fokuserar på tre viktiga krav – detaljerade siffror avseende en plattforms arbete med innehållsmoderering, tydliga meddelanden till berörda användare och en tillförlitlig överklagandeprocess. De ligger i linje med det arbete som utförts av David Kaye, tidigare FN:s särskilda rapportör om främjandet av rätten till yttrande- och åsiktsfrihet, som krävde ett ”ramverk för moderering av användargenererat onlineinnehåll som sätter mänskliga rättigheter i centrum”. Principerna återspeglar också rekommendationerna i FN:s vägledande principer för företag och mänskliga rättigheter, som beskriver företags ansvar gällande mänskliga rättigheter.
När principerna först lanserades var transparensen mycket bristfällig kring omfattning, skala och påverkan för internetplattformars arbete med innehållsmoderering. Därför uppmanade principernas författare företag att lämna ut mer uppgifter kring deras modereringsarbete genom transparensrapporter. Transparensrapporterna har synliggjort regeringars censur på plattformar, gjort det möjligt för användare att fatta mer välgrundade beslut om vilka produkter de vill använda respektive undvika, och hjälpt påverkansgrupper att pressa företag att följa etablerade rättsliga processer vid svar på och efterlevnad av regeringars krav. Principernas författare har dessutom noterat att innehållsmoderering ofta sker ”uppifrån och ner”, vilket ger användare begränsade möjligheter till gottgörelse och prövning. Målet med principerna för ”meddelanden” och ”överklaganden” var att etablera transparenta och tillförlitliga mekanismer för användarnas rättssäkerhet.
Sedan principerna lanserades har många internetplattformar stöttat och åtagit sig att följa dem. Några exempel är Apple, Facebook (Meta), GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter och YouTube. En del av de här plattformarna har gjort stora framsteg mot att erbjuda mer transparens kring sitt arbete med innehållsmoderering, men mycket få företag har uppfyllt kraven som beskrivs i principerna till fullo. Plattformar måste göra mer för att uppfylla de här grundläggande förväntningarna på transparens och ansvarsskyldighet.
Santa Clara-principernas koalition**, en grupp som består av __ organisationer** , har lanserat en uppdaterad uppsättning principer för att förbättra plattformars transparens och ansvarsskyldighet.
De ursprungliga principerna från 2018 beskrev mycket starka grundläggande standarder som företag ska följa, men medverkan i att ta fram dem var begränsad till några få grupper och personer, och allierade – särskilt från Global South-länder – tog upp legitima betänkligheter och förslag på revideringar. Intressenter från hela världen har särskilt betonat att plattformar investerar mer resurser i att kunna erbjuda transparens och rättssäkerhet till användare inom vissa grupper och marknader. Företag måste ta itu med denna orättvisa och säkerställa att alla deras användare erbjuds transparens och ansvarsskyldighet – oavsett var de bor. Det är särskilt viktigt med tanke på att många av de skador som uppstår till följd av plattformars praxis för innehållsmoderering förekommer inom grupper som plattformar har försummat.
Landskapet för innehållsmoderering har förändrats drastiskt de senaste åren. Plattformar hanterar inte längre skadligt innehåll och konton genom att bara ta bort dem. Idag använder många tjänster också algoritmiska verktyg för att sortera innehåll genom insatser som exempelvis nedrankning. Det finns en allvarlig brist på transparens och ansvarsskyldighet kring hur plattformar distribuerar de här insatserna och hur de påverkar yttrandefriheten. Forskare och påverkare har dessutom understrukit de potentiellt diskriminerande och skadliga följderna av betalinnehåll online. Det finns för närvarande också en stor brist på transparens kring hur sådant innehåll modereras, och med vilka konsekvenser. Det här är ytterligare områden som plattformar måste åta sig att uppmärksamma.
Slutligen uppgav många plattformar under covid-19-pandemin att de skulle öka användningen av automatiserade verktyg för innehållsmoderering. En del tjänster meddelade också att de skulle göra uppehåll med sina överklagandeprocesser och därmed begränsa användares tillgång till rättssäkerhet. Flera civilsamhällsorganisationer uttryckte oro över hur dessa beslut skulle påverka yttrandefriheten online, och underströk att plattformar hela tiden måste kunna
2. Verktyg för påverkare
De här kampanjverktygen pekar på vikten av principerna, viktiga budskap samt ge inblick i hur påverkare kan organisera kampanjer självständigt och som en koalition för att hålla företag ansvariga – inte enbart för att stötta de nya principerna utan även implementera dem i sina policyer och sin praxis.
Teknikföretag kontrollerar flöden av information online på sina plattformar genom egna regler och tjänstevillkor, vilket ger dem avsevärd makt men obetydlig ansvarsskyldighet. Grupper som redan utsätts för diskriminering riskerar även att deras innehåll tas bort online på grund av diskriminerande flaggningskampanjer eller partiska modereringsprocesser, och kan därmed bli dubbelt tystade.
Obefogade åtgärder gentemot innehåll kan ha oproportionerligt stor påverkan på grupper som redan är sårbara, till exempel medlemmar i etniska eller religiösa minoriteter, HBTQ+-personer samt kvinnor. Det påverkar också rutinmässigt journalister, politiska aktivister och personer som arbetar för mänskliga rättigheter i miljöer med förtryck.
Regeringar vill idag införa regleringar för internetplattformar för att säkerställa att skadligt innehåll tas bort snabbt och att åtgärder vidtas för att förhindra att sådant innehåll ens publiceras. Det har emellertid kommit ett antal förslag om bestämmelser som antingen sätter utomlaglig press på företag inom sociala medier om att ta bort innehåll i snabb takt, eller håller plattformar ansvariga för tredje parts yttranden, vilket i praktiken medför att stora plattformar mer eller mindre behåller sin monopolställning. När företag utsätts för press till följd av bestämmelser är det sannolikt att de påskyndar innehållsmoderering och användningen av automatiserade tekniker för att undvika höga böter. Det är även sannolikt att företag begår fler fel inom innehållsmoderering när de arbetar under tidspress. Automatiserade verktyg som används till innehållsmoderering är dessutom begränsade på flera olika sätt, vilket ofta leder till att för lite eller för mycket innehåll tas bort. Det medför allvarliga betänkligheter gällande yttrandefrihet.
Vi behöver snabbt en lösning som säkerställer att internet får vara en plats där alla har tillgång till information och kan delta i debatten. Implementering av tydliga meddelande- och överklagandeprocesser är ett grundläggande första steg som plattformar inom sociala medier kan vidta för att se till att alla användare kan göra sig hörda och för att skydda onlinegrupper.
3. Viktiga mål med principerna
1. Statliga aktörer
Statliga aktörer måste undvika att anta lagar som hindrar yttrandefrihet på internet och säkerställa att mänskliga rättigheter skyddas på plattformar. Syftet med principerna är att ge regeringar kontext till genomsnittliga standarder och praxis för innehållsmoderering online.
Syftet med principerna är inte att utgöra en mall för bestämmelser, utan en vägledning så att regeringar vet vilken typ av standarder de bör ta hänsyn till när de diskuterar bestämmelser. Statliga aktörer måste dessutom eliminera hinder för företags transparens och rapportera om sin delaktighet i beslut om innehållsmoderering. Slutligen måste statliga aktörer vara medvetna om civilsamhällets viktiga roll i att främja yttrandefrihet online och involvera flera intressenter i diskussioner om innehållsmoderering.
2. Plattformar inom sociala medier
Plattformar inom sociala medier har blivit avgörande för hur vi kommunicerar. När användare registrerar sig på en plattform godkänner de plattformens tjänstevillkor, där användaren vanligtvis förbinder sig att följa en uppsättning regler om godtagbart uppförande och acceptabla yttranden, som ofta ingår i ett separat dokument med ”community-standarder”. Om användare bryter mot dessa standarder kan deras innehåll åtgärdas*.
Företag omfattas i allt större utsträckning av krav från regeringar eller lagstiftning där de hålls ansvariga för användares yttranden, vilket väcker allvarliga frågor gällande framtiden för yttrandefrihet online. Betänkligheter från det globala civilsamhället om bristen på transparens och ansvarsskyldighet för plattformar ledde till att principerna initialt togs fram, och den ständiga förändringen av innehållsmoderering och dess varierande tillämpning globalt medförde nya krav och ett incitament till utvärdering och revidering av principerna. Santa Clara-principerna 2.0 innehåller en ny uppsättning standarder för transparens och rättssäkerhet som fungerar som en vägledning som hjälper företag att införliva åtgärder för att skydda mänskliga rättigheter i sina policyer och sin praxis.
Vi uppmuntrar medlemmar av civilsamhället, företag och andra intressenter att tillsammans ta fram implementeringsplaner i samråd med olika intressenter för att kunna ta fram en färdplan för efterlevnad av de reviderade principerna. Vi uppmuntrar också civilsamhället att hålla företag ansvariga för att omsätta sina färdplaner i handling.
4. Använda SCP (Santa Clara Principles) 2.0 i ditt påverkansarbete
1. Se till att Santa Clara-principerna uppmärksammas genom att hålla ett webbseminarium eller en presskonferens och bjuda in huvudtalare, företag, regeringar och aktivister att tala om yttrandefrihet online och viktiga rekommendationer som tas upp i Santa Clara-principerna.
2. Anordna personliga möten med företag i ditt land. Bjud in aktivister med negativa erfarenheter av borttagning av innehåll. Nyckeln är att sätta press på företag genom evidensbaserat påverkansarbete! Det är viktigt att vi håller företagen ansvariga för det som överenskommits när vi träffar dem. Se till att föra anteckningar över diskussionen och de åtgärdspunkter man kommer fram till under mötet. Avsluta mötet med att be om en uppföljningsdiskussion med företagen. Ett möte räcker inte! Håll företag ansvariga under uppföljningsmötet genom att be om svar gällande åtgärdspunkterna som diskuterats tidigare.
3. Anordna personliga diskussioner med relevanta statliga aktörer i ditt land. Se till att medlemmar av civilsamhället från olika områden, samt med akademisk och teknisk bakgrund, deltar i diskussionerna. Använd Santa Clara-principerna för att ge lagstiftare eller statliga aktörer ett sammanhang och en bakgrund till problemen, samt visa på praxis gällande innehållsmoderering.
4. Håll en presskonferens och visa upp nya bevis på problem som upplevs på plattformar inom sociala medier. Dra nytta av tillfället att ta upp några av de överenskommelser som företag ingått under de personliga mötena (när du ser att de inte har gjort tillräckligt). Teknikföretag vill inte ge en negativ bild av sig själva i lokala medier. Efter presskonferensen kanske de är beredda att agera snabbt när det gäller åtgärdspunkterna.
5. Förenkla riktade åtgärder mot företagens chefer: Om du inte ser positiva framsteg hos företagen gällande dina begäranden eller om de kommer med vaga svar kan du organisera åtgärder på sociala medier. Genom åtgärder på sociala medier kan du nå ut till den stora allmänheten som stöttar ditt påverkansarbete för att skicka riktade meddelanden till högre chefer på sociala medier. Många av dem finns på Twitter, Facebook (Meta) och LinkedIn, och det är lätt att hitta deras kontakter på de plattformarna. Skicka riktade meddelanden till dem och uppmuntra andra i dina nätverk att göra samma sak. Du kan också skriva ett öppet brev med viktiga åtgärder som du vill att företag ska vidta inom en viss tid, och uppmana medlemmar av civilsamhället och aktivister att skriva under det.
6. Hjälp Santa Clara-principernas koalition i vårt påverkansarbete. Vi planerar att samla in fler underskrifter och anordna öppna möten med teknikföretag. Det blir ett bra tillfälle att visa solidaritet och göra din röst hörd. Ju starkare röst, desto bättre. Följ utvecklingen på https://santaclaraprinciples.org
* Termerna ”åtgärd” och ”åtgärdad” avser alla typer av begränsningsåtgärd som ett företag vidtar gentemot en användares innehåll eller konto på grund av bristande efterlevnad av deras regler och policyer, inklusive (men inte begränsat till) borttagning av innehåll, algoritmisk nedrankning av innehåll samt inaktivering (tillfällig eller permanent) av konton.