The Santa Clara Principles

< Back to Principles

Call for Submissions

March 2020

Em fevereiro de 2018, um pequeno grupo de organizações, acadêmicos e apoiadores criou os Princípios de Santa Clara sobre Transparência e Accountability em Moderação de Conteúdo, paralelamente à primeira conferência “Content Moderation at Scale”, em Santa Clara, na Califórnia. Os princípios fornecem um conjunto de critérios de referência ou primeiros passos que as empresas envolvidas na atividade de moderação de conteúdo deveriam adotar para oferecer um devido processo significativo para os usuários impactados e para garantir que a aplicação de suas diretrizes de conteúdo é justa, sem viés, proporcional e que respeita os direitos dos usuários.

Nos dois anos seguintes, os princípios foram implementados de forma bem-sucedida e em sua totalidade pelo Reddit e, em parte, por diversas outras companhias, como Github, Apple, WordPress e YouTube. Além disso, um número ainda maior de empresas apoiou os princípios publicamente em 2019.

Agora nós estamos embarcando em um processo de introspecção e análise para determinar se os Princípios de Santa Clara devem ser atualizados diante do cenário de constante mudança na moderação de conteúdo. Nós estamos especialmente interessados em ouvir grupos e pessoas do Sul Global e aqueles que representam comunidades marginalizadas que são fortemente impactadas por práticas comerciais de moderação de conteúdo. Encorajamos todos os interessados a responder às seguintes perguntas, enviando um e-mail para SCPconsultation@eff.org até dia 30 de junho.

Provide Feedback
  1. Atualmente, os Princípios de Santa Clara estão focados na necessidade de obter números, de estabelecer avisos prévios e recursos em torno da moderação de conteúdo. Este conjunto de questões vai discutir se estas categorias deveriam ser expandidas, aperfeiçoadas ou revisitadas.

    1. A primeira categoria estabelece, como padrão, que as empresas devem publicar os números de posts removidos e de contas suspensas, temporária ou permanentemente, em razão de violações às suas diretrizes de conteúdo. Por favor, indique qualquer recomendação ou componentes específicos desta categoria que deveriam ser revisitados ou expandidos.
    2. A segunda categoria estabelece, como padrão, que as empresas devem avisar cada usuário cujo conteúdo for removido ou que tiver sua conta suspensa acerca das razões para remoção ou suspensão. Por favor, indique qualquer recomendação ou componentes específicos desta categoria que deveriam ser revisitados ou expandidos.
    3. A terceira categoria estabelece, como padrão, que as empresas devem fornecer oportunidades significativas para recursos tempestivos acerca de qualquer remoção de conteúdo ou suspensão de conta. Por favor, indique qualquer recomendação ou componentes específicos desta categoria que deveriam ser revisitados ou expandidos.
  2. Você acredita que os Princípios de Santa Clara devem ser expandidos ou emendados para incluir recomendações específicas acerca da transparência em torno do uso de ferramentas automatizadas e do processo de tomada de decisão (o que inclui, por exemplo, o contexto em que estas ferramentas são utilizadas e a extensão em que as decisões são tomadas sem seres humanos), em alguma das seguintes áreas:

    1. Moderação de conteúdo (uso de inteligência artificial para revisar conteúdos e contas para determinar se devem ou não ser removidos; processos utilizados para conduzir as revisões quando conteúdos são sinalizados como impróprios por usuários ou outros)
    2. Ranking e downranking de conteúdo (uso de inteligência artificial para promover certos conteúdos a despeito de outros em rankings de ferramentas de busca, por exemplo, e para promover o downranking de conteúdos como desinformação ou clickbaits)
    3. Direcionamento de publicidade (uso de inteligência artificial para segmentar e mirar grupos específicos de usuários e enviar publicidade a eles)
    4. Recomendações de conteúdo e auto-complete (uso de inteligência artificial para recomendar conteúdos como vídeos, posts e palavras-chave com base nos perfis e no comportamento passado dos usuários)
  3. Você acredita que os atuais Princípios de Santa Clara fornecem a estrutura adequada ou poderiam ser aplicados para intermediar restrições (tais como age-gating, adicionar avisos a determinados conteúdos e adicionar informações de qualificação a determinados conteúdos)? Se não, nós deveríamos procurar incluir estas categorias em um processo de revisão dos princípios ou um conjunto separado de princípios seria melhor para abarcar estas questões?

  4. De que maneiras você já utilizou os Princípios de Santa Clara como ferramenta ou recurso de advocacy? Se você estiver confortável em compartilhar, por favor inclua os links para quaisquer exemplos que você tiver.

  5. Como os Princípios de Santa Clara podem ser mais úteis na sua atividade de advocacy em torno destas questões daqui para frente?

  6. Você acredita que os Princípios de Santa Clara deveriam ser aplicáveis à moderação de propaganda, para além da moderação do conteúdo não-comercial gerado por usuários? Se sim, você acredita que eles devem ser aplicados em todo ou apenas em parte?

  7. Há alguma parte dos Princípios de Santa Clara que você entende como pouco clara ou difícil de entender?

  8. Existem riscos específicos aos direitos humanos que os Princípios de Santa Clara poderiam ajudar a mitigar ao encorajar que as empresas forneçam outros tipos de dados adicionais? (Por exemplo, existe algum tipo de campanha maldosa de sinalização de conteúdo que não estaria visível nos dados exigidos pelos Princípios de Santa Clara, mas que estariam visíveis se adicionássemos uma nova coluna para tratar deste tema?)

  9. Você entende que existem considerações regionais, nacionais ou culturais que não estão refletidas nos Princípios de Santa Clara, mas que deveriam estar?

  10. Você entende que existem considerações para empresas de pequeno e médio porte que não estão refletidas nos Princípios de Santa Clara, mas que deveriam estar?

  11. Você teria recomendações para garantir que os Princípios de Santa Clara permaneçam viáveis, factíveis e relevantes no longo prazo?

  12. Quem você recomendaria que participasse em consultas futuras sobre os Princípios de Santa Clara? Se possível, por favor compartilhe seus nomes e endereços de e-mail conosco.

  13. Se os Princípios de Santa Clara exigissem a divulgação de informações sobre o background cultural ou de treinamento dos moderadores de conteúdo empregados por uma plataforma, o que você gostaria que as plataformas dissessem a este respeito? (Por exemplo: divulgar o percentual de moderadores que passou por um teste de idiomas, de acordo com os idiomas em que a plataforma estiver moderando conteúdo, ou divulgar que todos os moderadores passaram por um tipo de treinamento específico.)

  14. Você teria alguma sugestão adicional?

  15. Eventos como o COVID-19 aumentaram sua consciência sobre necessidades especificas de transparência e responsabilidade ou deficiências dos Princípios de Santa Clara?

Provide Feedback

Privacy Policy

Information collected through this survey is subject to EFF's Privacy Policy. All data collected through this survey will be used to determine whether the Santa Clara Principles should be updated and if so, how. This may include the publication of a report discussing the results of this consultation. Data collected may be shared by EFF with the organizations collaborating on this project: Global Partners Digital, Open Technology Initiative, Article 19, Center for Democracy and Technology, Ranking Digital Rights, ACLU of Northern California, Witness, Brennan Center for Justice, Red en Defensa de los Derechos Digitales, and AccessNow.