Princípios de Santa Clara

Prezado Mark Zuckerberg:

O que o Museu de Arte da Filadélfia, um parlamentar dinamarquês, e um âncora de telejornal das Filipinas têm em comum? Todos eles foram alvo da aplicação indevida dos Padrões da Comunidade Facebook. Porém, ao contrário do usuário comum, estes indivíduos e entidades receberam atenção da mídia, foram capazes de entrar em contato com membros da equipe do Facebook e, em alguns casos, receberam um pedido de desculpa e tiveram seu conteúdo restaurado. Para a maioria dos usuários, o conteúdo que o Facebook retira do ar é raramente restaurado e eles podem ainda ser banidos da plataforma mesmo em caso de um erro.

Quando o Facebook inicialmente apareceu em nossas telas, os usuários que violavam suas regras e tinham seu conteúdo removido ou suas contas desativadas recebiam mensagens dizendo que a decisão era definitiva e que não haveria apelação. Foi somente em 2011, depois de anos de incidência das organizações de direitos humanos, que sua empresa adicionou um mecanismo de apelação no caso da desativação de contas, e somente em 2018 que o Facebook iniciou um processo para remediar remoções equivocadas de certos tipos de conteúdo. Essas apelações estão disponíveis para posts removidos por nudez, atividade sexual, discurso de ódio ou violência gráfica.

Este é um avanço positivo, mas não é o suficiente.

Hoje, nós, organizações da sociedade civil abaixo assinadas, fazemos um chamado ao Facebook para que disponibilize mecanismo por meio do qual todos os usuários possam apelar diante de restrições de conteúdo, e, que em todos os casos, a decisão apelada seja revisada novamente por um moderador humano.

A missão declarada do Facebook é a de dar poder às pessoas para construírem comunidades e unirem o mundo. Com mais de dois bilhões de usuários e uma grande variedade de funções, o Facebook é a maior plataforma de comunicação do mundo. Nós sabemos que você reconhece a responsabilidade que carrega em prevenir abusos e manter os usuários em segurança. Como você sabe, as empresas de mídias sociais, incluindo o Facebook, têm responsabilidade em respeitar os direitos humanos, e organismos regionais e internacionais de direitos humanos têm numerosas recomendações específicas para que haja melhora, notavelmente em relação ao direito ao recurso.

O Facebook segue muito atrás dos seus competidores quando se trata de oferecer o devido processo aos seus usuários. ¹ Anos de pesquisa e documentação já nos permitem saber que moderadores de conteúdo humanos, assim como algoritmos de machine learning, são propensos a erros, e que mesmo baixas taxas de erro podem resultar em milhões de usuários silenciados quando operados em escala massiva. Ainda assim, usuários do Facebook só conseguem apelar das decisões em um conjunto limitado de circunstâncias, além de ser impossível saber quão disseminados são os erros na retirada de conteúdos sem que haja maior transparência por parte do Facebook. ²

Reconhecendo que o Facebook pode e deve moldar seus Padrões da Comunidade de acordo com seus valores, a empresa, no entanto, tem a responsabilidade de respeitar a expressão de seus usuários da melhor maneira possível. Ademais, organizações da sociedade civil ao redor do mundo têm criticado a forma pela qual os Padrões da Comunidade Facebook são tendenciosos e aplicados de maneira desigual em diferentes idiomas e contextos culturais. Oferecer um mecanismo de recurso, assim como mais transparência, será um grande avanço no sentido de apoiar a expressão dos usuários.

No começo deste ano, um grupo de pessoas da sociedade civil e da academia apresentou os Princípios de Santa Clara sobre Transparência e Accountability em Moderação de Conteúdo, que recomendou um conjunto mínimo de padrões para a transparência e apelações substantivas. Este conjunto de recomendações é consistente com o trabalho do Relator Especial das Nações Unidas para a promoção do direito à liberdade de expressão e opinião David Kaye, que recentemente fez um chamado por um “modelo de moderação de conteúdo online gerado por usuários que coloque os direitos humanos como eixo central”. É também consistente com os “Princípios Orientadores sobre Empresas e Direitos Humanos”, que articulam as responsabilidades das empresas com os direitos humanos.

Especificamente, nós pedimos ao Facebook que incorpore os Princípios de Santa Clara em suas políticas e práticas de moderação de conteúdo para prover:

Notificação: Explicar claramente aos usuários porque seu conteúdo foi restringido.

• As notificações devem incluir a cláusula específica dos Padrões da Comunidade supostamente violada pelo conteúdo removido.
• A notificação deve ser suficientemente detalhada para permitir que o usuário identifique o conteúdo que foi restringido, devendo incluir também informação sobre como o conteúdo foi detectado, avaliado e removido.
• Os indivíduos devem ter acesso à informação clara sobre como apelar da decisão.

Apelações: Dar aos usuários a oportunidade de apelar contra decisões de moderação de conteúdo

• Os mecanismos de apelação devem estar facilmente acessíveis e serem fáceis de usar.
• As apelações devem ser submetidas à revisão por uma pessoa ou painel de pessoas que não se envolveram na decisão inicial.
• Os usuários devem ter o direito de propor novas provas ou materiais para serem considerados na revisão.
• As apelações devem resultar em uma rápida determinação e resposta ao usuário.
• Quaisquer exceções ao princípio das apelações universais deve ser claramente divulgada e compatível com princípios internacionais de direitos humanos.
• O Facebook deve colaborar com outros setores para desenvolver novos mecanismos independentes de auto-regulação para as mídias sociais que confiram maior prestação de contas de suas atividades (accountability).³

Números: Emitir relatórios periódicos de transparência sobre a aplicação dos Padrões da Comunidade.

• Apresentar dados completos descrevendo as categorias de conteúdos de usuário que são restringidas (texto, foto ou vídeo; violência, nudez, violações de direitos autorais, etc.), assim como o número de peças de conteúdo que foram restringidas ou removidas em cada categoria.
• Incorporar dados sobre quantas ações de moderação de conteúdo foram iniciadas por uma denúncia de usuário, um programa de denúncias de usuários confiáveis, ou pela aplicação proativa dos Padrões da Comunidade (como as que se utilizam de algoritmos de machine learning).
• Incluir dados sobre o número de decisões que foram objeto de apelações efetivas ou, ao contrário, fruto de equívoco.
• Incluir dados que revelem se a empresa realiza alguma auditoria proativa de suas decisões de moderação que não foram objeto de apelação, assim como as taxas de erro identificadas pela empresa.

Article 19, Electronic Frontier Foundation, Center for Democracy and Technology, and Ranking Digital Rights