Los Principios de Santa Clara sobre la transparencia y la responsabilidad en la moderación de contenidos fueron creados en febrero del 2018 por un pequeño grupo de organizaciones, académicos y defensores al margen de la primera COMO en la conferencia Scale en Santa Clara, California. Los principios proporcionan un conjunto de normas de referencia o medidas iniciales que las empresas que se dedican a la moderación de contenidos deben adoptar para ofrecer un proceso significativo a los oradores afectados y garantizar mejor que la aplicación de sus directrices de contenido sea justa, imparcial, proporcional y respetuosa de los derechos de los usuarios.
En los dos años siguientes, los principios han sido implementados con éxito en su totalidad por Reddit, y en parte por varias empresas más, incluyendo Github, Apple, WordPress y YouTube. Además, en 2019 un mayor número de empresas apoyaron públicamente los principios.
Estamos embarcados en un proceso de introspección y análisis para determinar si los Principios de Santa Clara deben ser actualizados para ajustarse a l siempre cambiante panorama de la moderación de contenidos. Estamos particularmente interesados en escuchar a grupos e individuos del Sur Global, y a aquellos que representan a las comunidades marginadas que se ven fuertemente impactadas por las prácticas de moderación de contenido comercial.
Actualmente los Principios de Santa Clara se centran en la necesidad de números, avisos y llamados en torno a la moderación de contenidos. Este conjunto de preguntas se referirá a si estas categorías deben ampliarse, desarrollarse o revisarse.
La primera categoría establece la norma de que las empresas deben publicar el número de publicaciones eliminadas y las cuentas suspendidas de forma permanente o temporal debido a violaciones de sus directrices de contenido. Sírvase indicar las recomendaciones o componentes específicos de esta categoría que deberían revisarse o ampliarse.
La segunda categoría establece la norma de que las empresas deben notificar a cada usuario cuyo contenido sea retirado o cuya cuenta sea suspendida la razón de la retirada o suspensión. Sírvase indicar las recomendaciones o componentes específicos de esta categoría que deberían revisarse o ampliarse.
La tercera categoría establece la norma de que las empresas deben proporcionar una oportunidad significativa para apelar oportunamente ante cualquier contenido eliminado o suspensión de cuenta. Sírvase indicar las recomendaciones o componentes específicos de esta categoría que deberían revisarse o ampliarse.
¿Cree que los Principios de Santa Clara deberían ampliarse o enmendarse para incluir recomendaciones específicas de transparencia en torno al uso de instrumentos automatizados y la adopción de decisiones (incluido, por ejemplo, el contexto en que se utilizan esos instrumentos y la medida en que las decisiones se adoptan con o sin un humano en el bucle), en cualquiera de las siguientes esferas:
Moderación del contenido (el uso de inteligencia artificial para examinar el contenido y las cuentas y determinar si debe eliminarse el contenido o las cuentas; cuales son los procesos utilizados para realizar revisiones cuando el contenido es marcado por los usuarios u otros)
Clasificación de contenidos en listas de relevancia y descenso de posiciones de esos contenidos (el uso de inteligencia artificial para promover ciertos contenidos por encima de otros, como en las clasificaciones de los resultados de las búsquedas, y para bajar la clasificación de ciertos contenidos, como la información errónea o el clickbait)
Selección y distribución de anuncios (el uso de inteligencia artificial para segmentar y seleccionar grupos específicos de usuarios y distribuirles anuncios)
Recomendaciones de contenido y autocompletar (el uso de inteligencia artificial para recomendar contenido como videos, publicaciones y palabras clave a los usuarios en base a sus perfiles de usuario y su comportamiento pasado)
¿Cree que los actuales Principios de Santa Clara proporcionan el marco correcto para las restricciones intermedias o que podrían aplicarse a éstas (como limites de edad, la adición de advertencias al contenido y la adición de información calificadora al contenido)? En caso contrario, ¿deberíamos tratar de incluir estas categorías en una revisión de los principios o sería mejor un conjunto separado de principios para abarcar estas cuestiones?
¿Ha usado los Principios de Santa Clara como herramienta o recurso de promoción en el pasado? ¿De qué manera? Si se siente cómodo compartiendo, por favor incluye enlaces a cualquier recurso o ejemplo que tenga.
¿Cómo pueden los Principios de Santa Clara ser más útiles en su defensa de estos temas en el futuro?
¿Cree que los Principios de Santa Clara deberían aplicarse a la moderación de los anuncios, además de la moderación del contenido generado por los usuarios no remunerados? Si es así, ¿cree que todos o sólo algunos de ellos deberían aplicarse?
¿Hay alguna parte de los Principios de Santa Clara que le parezca confusa o difícil de entender?
¿Existen riesgos específicos para los derechos humanos que los Principios de Santa Clara podrían ayudar a mitigar mejor alentando a las empresas a proporcionar tipos específicos de datos adicionales? (Por ejemplo, ¿hay algún tipo particular de campaña de marcado malintencionado que no sería visible en los datos que piden actualmente los SCP, pero que sí lo sería si los datos incluyeran una columna adicional).
¿Existen consideraciones regionales, nacionales o culturales que no se reflejan actualmente en los Principios de Santa Clara, pero que deberían reflejarse?
¿Existen consideraciones para las pequeñas y medianas empresas que actualmente no están reflejadas en los Principios de Santa Clara, pero que deberían estarlo?
¿Qué recomendaciones tiene para asegurar que los Principios de Santa Clara sigan siendo viables, factibles y pertinentes a largo plazo?
¿A quién recomendaría que participara en más consultas sobre los Principios de Santa Clara? Si es posible, por favor comparta sus nombres y direcciones de correo electrónico.
Si los Principios de Santa Clara exigieran una divulgación sobre la formación o los antecedentes culturales de los moderadores de contenido empleados por una plataforma, ¿qué querría que dijeran las plataformas en esa divulgación? (Por ejemplo: Revelar qué porcentaje de los moderadores habían pasado una prueba de idioma para el(los) idioma(s) que moderaban o revelar que todos los moderadores habían pasado por un tipo de entrenamiento específico).
¿Tiene alguna otra sugerencia?
Los acontecimientos actuales como COVID-19 ¿han hecho aumentar su nivel de conciencia sobre las necesidades específicas de transparencia y responsabilidad, o de las deficiencias de los Principios de Santa Clara?
Information collected through this survey is subject to EFF's Privacy Policy. All data collected through this survey will be used to determine whether the Santa Clara Principles should be updated and if so, how. This may include the publication of a report discussing the results of this consultation. Data collected may be shared by EFF with the organizations collaborating on this project: Global Partners Digital, Open Technology Initiative, Article 19, Center for Democracy and Technology, Ranking Digital Rights, ACLU of Northern California, Witness, Brennan Center for Justice, Red en Defensa de los Derechos Digitales, and AccessNow.