Verktyg för företag inom sociala medier
1. Santa Clara-principernas historia
1. Santa Clara-principernas historia
I maj 2018 samlades en koalition med organisationer, påverkare och akademiker för att ta fram Santa Clara-principerna om transparens och ansvarsskyldighet kring innehållsmoderering som svar på ökande betänkligheter gällande bristen på transparens och ansvarsskyldighet hos internetplattformar kring hur de skapar och verkställer sina policyer för innehållsmoderering. Principerna beskriver minimistandarder som teknikplattformar måste följa för att kunna erbjuda tillräcklig transparens och ansvarsskyldighet i sitt arbete med att ta bort användargenererat innehåll eller inaktivera konton som strider mot deras regler.
Den ursprungliga uppsättningen principer fokuserar på tre viktiga krav – detaljerade siffror avseende en plattforms arbete med innehållsmoderering, tydliga meddelanden till berörda användare och en tillförlitlig överklagandeprocess. De ligger i linje med det arbete som utförts av David Kaye, tidigare FN:s särskilda rapportör om främjandet av rätten till yttrande- och åsiktsfrihet, som krävde ett ”ramverk för moderering av användargenererat onlineinnehåll som sätter mänskliga rättigheter i centrum”. Principerna återspeglar också rekommendationerna i FN:s vägledande principer för företag och mänskliga rättigheter, som beskriver företags ansvar gällande mänskliga rättigheter.
När principerna först lanserades var transparensen mycket bristfällig kring omfattning, skala och påverkan för internetplattformars arbete med innehållsmoderering. Därför uppmanade principernas författare företag att lämna ut mer uppgifter kring deras modereringsarbete genom transparensrapporter. Transparensrapporterna har synliggjort regeringars censur på plattformar, gjort det möjligt för användare att fatta mer välgrundade beslut om vilka produkter de vill använda respektive undvika, och hjälpt påverkansgrupper att pressa företag att följa etablerade rättsliga processer vid svar på och efterlevnad av regeringars krav. Principernas författare har dessutom noterat att innehållsmoderering ofta sker ”uppifrån och ner”, vilket ger användare begränsade möjligheter till gottgörelse och prövning. Målet med principerna för ”meddelanden” och ”överklaganden” var att etablera transparenta och tillförlitliga mekanismer för användarnas rättssäkerhet.
Sedan principerna lanserades har många internetplattformar stöttat och åtagit sig att följa dem. Några exempel är Apple, Facebook (Meta), GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter och YouTube. En del av de här plattformarna har gjort stora framsteg mot att erbjuda mer transparens kring sitt arbete med innehållsmoderering, men mycket få företag har uppfyllt kraven som beskrivs i principerna till fullo. Plattformar måste göra mer för att uppfylla de här grundläggande förväntningarna på transparens och ansvarsskyldighet.
Santa Clara-principernas koalition**, en grupp som består av __ organisationer** , har lanserat en uppdaterad uppsättning principer för att förbättra plattformars transparens och ansvarsskyldighet.
De ursprungliga principerna från 2018 beskrev mycket starka grundläggande standarder som företag ska följa, men medverkan i att ta fram dem var begränsad till några få grupper och personer, och allierade – särskilt från Global South-länder – tog upp legitima betänkligheter och förslag på revideringar. Intressenter från hela världen har särskilt betonat att plattformar investerar mer resurser i att kunna erbjuda transparens och rättssäkerhet till användare inom vissa grupper och marknader. Företag måste ta itu med denna orättvisa och säkerställa att alla deras användare erbjuds transparens och ansvarsskyldighet – oavsett var de bor. Det är särskilt viktigt med tanke på att många av de skador som uppstår till följd av plattformars praxis för innehållsmoderering förekommer inom grupper som plattformar har försummat.
Landskapet för innehållsmoderering har förändrats drastiskt de senaste åren. Plattformar hanterar inte längre skadligt innehåll och konton genom att bara ta bort dem. Idag använder många tjänster också algoritmiska verktyg för att sortera innehåll genom insatser som exempelvis nedrankning. Det finns en allvarlig brist på transparens och ansvarsskyldighet kring hur plattformar distribuerar de här insatserna och hur de påverkar yttrandefriheten. Forskare och påverkare har dessutom understrukit de potentiellt diskriminerande och skadliga följderna av betalinnehåll online. Det finns för närvarande också en stor brist på transparens kring hur sådant innehåll modereras, och med vilka konsekvenser. Det här är ytterligare områden som plattformar måste åta sig att uppmärksamma.
Slutligen uppgav många plattformar under covid-19-pandemin att de skulle öka användningen av automatiserade verktyg för innehållsmoderering. En del tjänster meddelade också att de skulle göra uppehåll med sina överklagandeprocesser och därmed begränsa användares tillgång till rättssäkerhet. Flera civilsamhällsorganisationer uttryckte oro över hur dessa beslut skulle påverka yttrandefriheten online, och underströk att plattformar hela tiden måste kunna
2. Verktyg för företag inom sociala medier
De här verktygen pekar på vikten av principerna, viktiga budskap samt ger en inblick i hur internetplattformar bör implementera Santa Clara-principerna i sina policyer och sin praxis.
De reviderade Santa Clara-principerna återspeglar en önskan i civilsamhället om ökad transparens, rättssäkerhet, kulturell kompetens och respekt för mänskliga rättigheter i hela processen för innehållsmoderering. De är utformade för att skapa meningsfull transparens gentemot allmänheten om allt användargenererat innehåll, både betal- och gratisinnehåll.
Den andra versionen av Santa Clara-principerna är indelad i grund- och verksamhetsprinciper.
Grundprinciperna är övergripande värderingar som bör uppmärksammas vid all innehållsmoderering. De bör också fungera vägledande gällande hur företag ska gå till väga för att införliva mänskliga rättigheter och rättssäkerhet i sina policyer och procedurer, publicera tydliga och tillgängliga regler, säkerställa kulturell kompetens när modereringsbeslut fattas, samt erbjuda transparens om statlig delaktighet i innehållsmoderering. Grundprinciperna både beskriver den aktuella principen och ger vägledning om hur den bör implementeras.
Verksamhetsprinciperna beskriver specifik praxis för företag med avseende på specifika steg och aspekter i processen för innehållsmoderering. Till skillnad från minimikraven i de ursprungliga principerna redogör de nya principerna för allmänna standarder med avseende på siffror, meddelanden och överklaganden. De innehåller också tydligare krav som ska införas i och med att teknikplattformar mognar, samtidigt som hänsyn tas till att andra plattformar kanske inte kan uppfylla alla standarder. Några exempel på mätvärden gällande mognad är användarbasens storlek, tid på marknaden, teknisk kapacitet, geografisk spridning och kapitalisering. Ytterligare mätvärden föreslås för att bemöta särskilda betänkligheter till följd av krav och begäranden från statliga aktörer, betänkligheter om att flaggningsprocesser kommer att missbrukas, samt automatiserade processers växande roll vid identifiering av innehåll och vidtagna modereringsåtgärder.
Som vi nämnde tidigare har många plattformar stöttat eller åtagit sig att följa de ursprungliga Santa Clara-principerna. Det är emellertid mycket få plattformar som har fullföljt dessa åtaganden. Att stötta de reviderade principerna är ett välkommet preliminärt steg, men plattformar måste också uppfylla sina skyldigheter att implementera grundprinciperna och bör proaktivt maximera implementeringen av de reviderade verksamhetsprinciperna i och med att de mognar. Det innebär att plattformar måste planera införandet av de reviderade verksamhetsprinciperna när de planerar sin tillväxt genom att allokera lämplig expertis och resurser rättvist mellan språk, länder och regioner för att utöka tillgången till rättssäkerhet och transparens. När de gör det måste plattformar säkerställa att hänsynstaganden som rör mänskliga rättigheter och rättssäkerhet integreras i alla steg i processen för innehållsmoderering och att deras regler och policyer, samt upprätthållandet av dem, tar hänsyn till den mångfald av kulturer och kontexter där deras plattformar och tjänster erbjuds och används.
För att demonstrera ansvarsskyldighet och möjliggöra tillsyn av deras åtaganden i fortsättningen ska plattformar publicera detaljerade och specifika färdplaner för verksamheten gällande implementeringen av samtliga reviderade principer. Dessa färdplaner ska innehålla konkreta målsättningar, resultatmätvärden och måldatum. Färdplanerna ska också identifiera de resurser som ett företag har allokerat till implementeringen, med specifika mätvärden för olika språk, länder och regioner. Om ett företag anser att de inte kan implementera en specifik princip på grund av brist på mognad ska de förklara varför och ange en beräknad tidsram för när de förväntar sig ha kapacitet att implementera principen.
Plattformar ska uppdatera allmänheten om sina framsteg varje halvår och även beskriva viktiga initiativ, diskutera eventuella ändringar eller modifieringar av färdplanen eller måldatumen, samt identifiera både framgångar och svårigheter.
Plattformar ska identifiera en kontaktperson för Santa Clara-principerna som bland annat ska ansvara för att svara på begäranden från civilsamhället om information gällande implementeringen av de reviderade principerna.
3. Viktiga budskap och rekommendationer
De reviderade Santa Clara-principerna fastställer medel- och målstandarder som utformats för att öka transparens och ansvarsskyldighet kring hur plattformar utformar och implementerar sina system för innehållsmoderering samt sådana systems påverkan.
Vi är medvetna om att de reviderade principerna innebär ytterligare skyldigheter utöver dem som beskrivs i de ursprungliga principerna och att det för närvarande kanske inte är möjligt för mindre och nya företag att följa en del av de reviderade verksamhetsprinciperna. Vår avsikt är inte att stävja konkurrens eller befästa de plattformar som idag har gott om resurser och dominerar marknaden, utan snarare att skapa ett skalbart ramverk som ökar transparens och ansvarsskyldighet för alla plattformar. Nyare och mindre plattformar bör planera för efterlevnad av standarderna i och med att de skalar upp.
4. Uppmaning till handling
Plattformar måste ta hänsyn till de ökade kraven på mer transparens från användare och påverkare inom civilsamhället. Även om många plattformar redan tar fram nya policyer eller funktioner i samråd med civilsamhället understryker den feedback vi har fått, bland annat under denna process, behovet av både bredare samråd med olika aktörer från hela världen och tillförlitlig implementering av den feedback som plattformar får.
De reviderade principerna återger responsen från fler än fyrtio grupper och personer från omkring arton länder och flera gruppsamråd i realtid som genomförts av partner i Afrika, Latinamerika, Indien och Nordamerika. De återspeglar en rad olika perspektiv på hur företags arbete med transparens och ansvarsskyldighet kan utökas för att gynna många olika användare.
Vi förväntar oss mer specifikt att företag demonstrerar sitt åtagande att implementera de reviderade principerna genom konkreta åtgärder, lämplig allokering av resurser samt regelbunden detaljerad rapportering om implementeringsarbetet.