Una caja de herramientas para litigantes
La historia de los principios de Santa Clara
En mayo de 2018, una coalición de organizaciones, defensores y académicos se reunió para crear los Principios de Santa Clara sobre la transparencia y la responsabilidad en torno a la moderación de contenidos en respuesta a la creciente preocupación por la falta de transparencia y responsabilidad de las plataformas de Internet en torno a cómo crean y aplican sus políticas de moderación de contenidos. Los Principios establecen unas normas mínimas que las plataformas tecnológicas deben cumplir para ofrecer una transparencia y una responsabilidad adecuadas en relación con sus esfuerzos por retirar los contenidos generados por los usuarios o suspender las cuentas que infrinjan sus normas.
El conjunto original de Principios se centra en tres exigencias clave: números completos que detallen los esfuerzos de moderación de contenidos de una plataforma, una notificación clara a los usuarios afectados y un proceso de apelación sólido. Son coherentes con el trabajo de David Kaye, antiguo Relator Especial de la ONU sobre la promoción del derecho a la libertad de expresión y de opinión, que pidió un “marco para la moderación de los contenidos en línea generados por los usuarios que sitúe los derechos humanos en el centro”. Los principios también reflejan las recomendaciones de los Principios Rectores de la ONU sobre Empresas y Derechos Humanos, que articulan las responsabilidades de las empresas en materia de derechos humanos.
Cuando se publicaron los Principios, había muy poca transparencia en torno al alcance, la escala y el impacto de los esfuerzos de moderación de contenidos de las plataformas de Internet. Por ello, los autores de los Principios pidieron a las empresas que revelaran más datos sobre estos esfuerzos de moderación a través de informes de transparencia. Estos informes de transparencia han contribuido a poner de manifiesto la censura gubernamental en las plataformas, han permitido a los usuarios tomar decisiones más informadas sobre qué productos utilizar y evitar, y han facultado a los grupos de defensa para presionar a las empresas para que sigan los procesos legales establecidos a la hora de responder y cumplir con las demandas gubernamentales. Además, los autores de los Principios señalaron que la moderación de contenidos suele producirse de forma descendente, dejando a los usuarios con pocas opciones de recurso y reparación. Los Principios de “notificación” y “apelación” pretendían establecer mecanismos sólidos, transparentes y fiables para el debido proceso de los usuarios.
Desde su publicación, muchas plataformas de Internet han respaldado y se han comprometido a adherirse a los Principios. Entre ellas se encuentran Apple, Facebook, GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter y YouTube. Si bien algunas de estas plataformas han hecho notables avances en la provisión de más transparencia en torno a sus esfuerzos de moderación de contenidos, muy pocas empresas han cumplido plenamente con las demandas esbozadas en los Principios. Las plataformas deben hacer más para cumplir con estas expectativas básicas de transparencia y responsabilidad.
La coalición de los Principios de Santa Clara, un grupo compuesto por __ organizaciones, ha lanzado un conjunto actualizado de principios con el fin de fomentar la transparencia y la responsabilidad de la plataforma.
Aunque los Principios originales de 2018 establecen normas básicas muy sólidas que las empresas deben cumplir, la participación en su creación se limitó a unos pocos grupos e individuos, y los aliados -en particular de los países del Sur Global- plantearon preocupaciones y sugerencias legítimas para su revisión. En particular, las partes interesadas de todo el mundo han subrayado que las plataformas están invirtiendo más recursos en proporcionar transparencia y el debido proceso a los usuarios de ciertas comunidades y mercados. Las empresas deben abordar esta desigualdad y garantizar que todos sus usuarios -independientemente de su lugar de residencia- puedan obtener transparencia y responsabilidad por parte de estas empresas. Esto es especialmente importante dado que muchos de los daños que se producen como resultado de las prácticas de moderación de contenidos de las plataformas ocurren en comunidades que las plataformas han estado descuidando.
El panorama de la moderación de contenidos ha cambiado radicalmente en los últimos años. Las plataformas ya no abordan los contenidos y las cuentas perjudiciales simplemente eliminándolos. Hoy en día, muchos servicios también se basan en herramientas algorítmicas para curar el contenido a través de intervenciones como el downranking. Hay una grave falta de transparencia y responsabilidad en torno a cómo las plataformas están desplegando estas intervenciones y cuáles son los impactos resultantes en la libertad de expresión. Además, los investigadores y los defensores de la libertad de expresión han subrayado el resultado discriminatorio y perjudicial que puede tener el contenido de pago en línea. En la actualidad también existe una gran falta de transparencia en torno a cómo se modera este tipo de contenido, y con qué repercusiones. Estas son otras áreas sobre las que las plataformas deben comprometerse a arrojar luz.
Por último, durante la pandemia de COVID-19, muchas plataformas compartieron que aumentarían su dependencia de las herramientas automatizadas para la moderación de contenidos. Algunos servicios también anunciaron que suspenderían sus procesos de apelación, impidiendo así el acceso de los usuarios al debido proceso. Numerosas organizaciones de la sociedad civil expresaron su preocupación por el impacto de estas decisiones en la libertad de expresión en línea, subrayando que las plataformas deben ser capaces de mantener un nivel básico de transparencia y responsabilidad en todo momento.
Debido a estas tres preocupaciones, la coalición de los Principios de Santa Clara inició una convocatoria abierta para recibir comentarios de una amplia gama de partes interesadas a nivel mundial, con el objetivo de ampliar eventualmente los principios. La coalición llevó a cabo una importante labor de divulgación pública y comunitaria a través de un periodo de comentarios abierto y una estrategia complementaria de divulgación dirigida, luego revisó las aportaciones durante un periodo designado y, finalmente, redactó un nuevo conjunto de Principios. Se celebraron una serie de consultas abiertas y talleres para añadir más detalles al conjunto original de principios.
2. Una caja de herramientas para litigantes
Esta caja de herramientas para la campaña pretende explicar la importancia de los Principios, los mensajes clave y proporcionar información sobre cómo los defensores pueden hacer campaña de forma independiente y en coalición para exigir a las empresas que rindan cuentas, no sólo para que respalden los nuevos Principios, sino para que los apliquen en sus políticas y prácticas.
Las empresas tecnológicas controlan los flujos de información en línea en sus plataformas a través de normas de propiedad y condiciones de servicio, lo que les da un poder significativo con poca responsabilidad. Las comunidades que ya se enfrentan a la discriminación también corren el riesgo de que sus contenidos sean eliminados en línea a través de campañas de señalización discriminatorias o procesos de moderación sesgados, por lo que se enfrentan a un doble silenciamiento.
Las medidas erróneas tomadas sobre los contenidos pueden tener un impacto desproporcionado en poblaciones ya vulnerables, como los miembros de minorías étnicas o religiosas, las personas LGBTQ+ y las mujeres. También afecta habitualmente a periodistas, activistas políticos y defensores de los derechos humanos que operan en entornos represivos.
En la actualidad, los gobiernos tratan de regular las plataformas de Internet para garantizar que los contenidos nocivos se eliminen rápidamente y que se tomen medidas para evitar que aparezcan en primer lugar. Sin embargo, ha habido una serie de propuestas reguladoras que presionan extralegalmente a las empresas de medios sociales para que eliminen contenidos a un ritmo rápido o intentan responsabilizar a las plataformas de la expresión de terceros, asegurando así que las grandes plataformas mantengan sus cuasi-monopolios. A medida que las empresas se enfrentan a la presión reguladora, es probable que aumenten la velocidad de moderación de contenidos y su uso de tecnologías automatizadas para evitar enfrentarse a fuertes multas. Es probable que las empresas cometan más errores de moderación de contenidos cuando actúan bajo presión de tiempo. Además, las herramientas automatizadas utilizadas para la moderación de contenidos están limitadas en varios aspectos, lo que a menudo da lugar a la eliminación de muy poca o demasiada expresión. Esto plantea importantes problemas de libertad de expresión.
*Necesitamos una solución urgente que garantice que Internet es un espacio para que todas las personas puedan acceder a la información y participar en el debate.* Poner en marcha procesos claros de notificación y apelación es un primer paso básico que las plataformas de medios sociales pueden dar para asegurarse de que todos los usuarios puedan ser escuchados y para proteger a las comunidades online.
3. Objetivos clave de los principios
1. Actores estatales
Los actores estatales deben abstenerse de aprobar leyes que obstaculicen la libertad de expresión en internet y garantizar la protección de los derechos humanos en las plataformas. Los Principios pretenden que los gobiernos tengan algún contexto de los estándares medios y las buenas prácticas en materia de moderación de contenidos en línea.
Los Principios no pretenden ser un modelo de regulación, sino una guía para que los gobiernos sepan qué tipo de normas deben tener en cuenta a la hora de debatir la regulación o la política. Además, los actores estatales deben eliminar los obstáculos para obtener transparencia de las empresas y también informar sobre su participación en las decisiones de moderación de contenidos. Por último, los actores estatales deben reconocer el importante papel de la sociedad civil en la promoción de la libertad de expresión en línea y fomentar un enfoque de múltiples partes interesadas en los debates sobre la moderación de contenidos.
2. Plataformas de medios sociales
Las plataformas de medios sociales se han convertido en algo fundamental para nuestra forma de comunicarnos. Cuando los usuarios se unen a una plataforma, aceptan las condiciones de servicio de la misma, que suelen obligar al usuario a cumplir una serie de normas sobre el comportamiento y la expresión aceptables, a menudo contenidas en un documento separado de “normas de la comunidad”. Los usuarios que incumplen estas normas pueden ver sus contenidos intervenidos*.
Las empresas están cada vez más sujetas a las demandas de los gobiernos o a la legislación que las hace responsables de la expresión de los usuarios, lo que plantea serios interrogantes sobre el futuro de la libertad de expresión en línea. La preocupación de la sociedad civil mundial por la falta de transparencia y responsabilidad de las plataformas impulsó la creación inicial de los Principios, mientras que la naturaleza cambiante de la moderación de contenidos y su aplicación desigual a nivel mundial plantearon nuevas demandas y crearon el impulso para una evaluación y revisión de los Principios. Los Principios de Santa Clara 2.0 proporcionan un nuevo conjunto de normas de transparencia y debido proceso que sirven de guía para que las empresas promulguen medidas de preservación de los derechos humanos en sus políticas y prácticas.
Animamos a los miembros de la sociedad civil, a las empresas y a otras partes interesadas a que trabajen juntos para desarrollar planes de aplicación en consulta con las distintas partes interesadas con el fin de elaborar una hoja de ruta para la adhesión a los Principios revisados. También alentamos a la sociedad civil a que exija a las empresas que rindan cuentas de la ejecución de sus hojas de ruta.
4. Utilización del SCP 2.0 en su defensa
1. Aumentar la visibilidad de los Principios celebrando un seminario web o una rueda de prensa en la que se invite a ponentes, empresas, gobiernos y activistas a hablar sobre la libertad de expresión en línea y las principales recomendaciones de los Principios.
2. Organiza reuniones cara a cara con las empresas de tu país. Asegúrate de llevar a activistas que hayan tenido experiencias negativas con la retirada de contenidos. La clave está en presionar a las empresas mediante una defensa basada en pruebas. Es importante que, al reunirse con las empresas, las hagamos responsables de lo acordado. Tomar notas del debate y de los puntos de acción durante la reunión. Termine la reunión solicitando un debate de seguimiento con las empresas. Una reunión no es suficiente. Haga que las empresas se responsabilicen en la reunión de seguimiento de responder a los puntos de acción que se discutieron previamente.
3. Organice debates cara a cara con los agentes estatales pertinentes de su país. Asegúrese de que la sociedad civil de diferentes localidades, personas del mundo académico y técnicos estén presentes en estos debates. Utilice los principios para contextualizar a los legisladores o a los agentes estatales sobre los problemas y las buenas prácticas de la moderación de contenidos.
4. Celebrar una rueda de prensa en la que se muestren nuevas pruebas de los problemas experimentados en las plataformas de los medios sociales. Aprovecha esta oportunidad para hacer referencia a algunos de los acuerdos que las empresas hicieron en tus reuniones presenciales (cuando veas que no han hecho lo suficiente). A las empresas tecnológicas no les gusta tener una imagen negativa en los medios de comunicación locales. Es posible que estén dispuestas a actuar con rapidez ante los puntos de acción, después de tu conferencia de prensa.
5. Facilite acciones dirigidas a los directores de las empresas: Si no ves avances positivos por parte de las empresas en relación con tus peticiones o sus respuestas son vagas, organiza una acción en los medios sociales. Las acciones en los medios sociales te permiten llegar a un público más amplio que apoya tu defensa para enviar mensajes específicos a los altos directivos en los medios sociales. Muchos de ellos están conectados en Twitter, Facebook y LinkedIn y sus contactos pueden encontrarse fácilmente en estas plataformas. Envíeles mensajes específicos y anime a otros miembros de su red a hacer lo mismo. O puedes organizar una carta abierta, invitando a la sociedad civil y a los activistas a firmarla con las acciones clave que quieres que las empresas realicen en un plazo determinado.
6. Únete a la coalición de los Principios de Santa Clara en nuestras acciones de promoción. Tenemos previsto recoger más firmas y organizar reuniones públicas con empresas tecnológicas. Será una oportunidad para mostrar tu solidaridad y hacer que se escuche tu voz. Cuanto más fuerte sea la voz, mejor. Sigue las novedades en https://santaclaraprinciples.org
* Los términos “acción” e “intervenido” se refieren a cualquier forma de acción coercitiva tomada por una empresa con respecto al contenido o la cuenta de un usuario debido al incumplimiento de sus normas y políticas, incluyendo (pero no limitándose a) la eliminación de contenidos, la reducción de la clasificación algorítmica de los contenidos y la suspensión (ya sea temporal o permanente) de las cuentas.