Una caja de herramientas para empresas de social media
1. La historia de los principios de Santa Clara
En mayo de 2018, una coalición de organizaciones, defensores y académicos se reunió para crear los Principios de Santa Clara sobre la transparencia y la responsabilidad en torno a la moderación de contenidos en respuesta a la creciente preocupación por la falta de transparencia y responsabilidad de las plataformas de Internet en torno a cómo crean y aplican sus políticas de moderación de contenidos. Los Principios establecen unas normas mínimas que las plataformas tecnológicas deben cumplir para ofrecer una transparencia y una responsabilidad adecuadas en relación con sus esfuerzos por retirar los contenidos generados por los usuarios o suspender las cuentas que infrinjan sus normas.
El conjunto original de Principios se centra en tres exigencias clave: números completos que detallen los esfuerzos de moderación de contenidos de una plataforma, una notificación clara a los usuarios afectados y un proceso de apelación sólido. Son coherentes con el trabajo de David Kaye, antiguo Relator Especial de la ONU sobre la promoción del derecho a la libertad de expresión y de opinión, que pidió un “marco para la moderación de los contenidos en línea generados por los usuarios que sitúe los derechos humanos en el centro”. Los principios también reflejan las recomendaciones de los Principios Rectores de la ONU sobre Empresas y Derechos Humanos, que articulan las responsabilidades de las empresas en materia de derechos humanos.
Cuando se publicaron los Principios, había muy poca transparencia en torno al alcance, la escala y el impacto de los esfuerzos de moderación de contenidos de las plataformas de Internet. Por ello, los autores de los Principios pidieron a las empresas que revelaran más datos sobre estos esfuerzos de moderación a través de informes de transparencia. Estos informes de transparencia han contribuido a poner de manifiesto la censura gubernamental en las plataformas, han permitido a los usuarios tomar decisiones más informadas sobre qué productos utilizar y evitar, y han facultado a los grupos de defensa para presionar a las empresas para que sigan los procesos legales establecidos a la hora de responder y cumplir con las demandas gubernamentales. Además, los autores de los Principios señalaron que la moderación de contenidos suele producirse de forma descendente, dejando a los usuarios con pocas opciones de recurso y reparación. Los Principios de “notificación” y “apelación” pretendían establecer mecanismos sólidos, transparentes y fiables para el debido proceso de los usuarios.
Desde su publicación, muchas plataformas de Internet han respaldado y se han comprometido a adherirse a los Principios. Entre ellas se encuentran Apple, Facebook, GitHub, Google, Instagram, LinkedIn, Medium, Reddit, Snap, Tumblr, Twitter y YouTube. Si bien algunas de estas plataformas han hecho notables avances en la provisión de más transparencia en torno a sus esfuerzos de moderación de contenidos, muy pocas empresas han cumplido plenamente con las demandas esbozadas en los Principios. Las plataformas deben hacer más para cumplir con estas expectativas básicas de transparencia y responsabilidad.
La coalición de los Principios de Santa Clara, un grupo compuesto por __ organizaciones, ha lanzado un conjunto actualizado de principios con el fin de fomentar la transparencia y la responsabilidad de la plataforma.
Aunque los Principios originales de 2018 establecen normas básicas muy sólidas que las empresas deben cumplir, la participación en su creación se limitó a unos pocos grupos e individuos, y los aliados -en particular de los países del Sur Global- plantearon preocupaciones y sugerencias legítimas para su revisión. En particular, las partes interesadas de todo el mundo han subrayado que las plataformas están invirtiendo más recursos en proporcionar transparencia y el debido proceso a los usuarios de ciertas comunidades y mercados. Las empresas deben abordar esta desigualdad y garantizar que todos sus usuarios -independientemente de su lugar de residencia- puedan obtener transparencia y responsabilidad por parte de estas empresas. Esto es especialmente importante dado que muchos de los daños que se producen como resultado de las prácticas de moderación de contenidos de las plataformas ocurren en comunidades que las plataformas han estado descuidando.
El panorama de la moderación de contenidos ha cambiado radicalmente en los últimos años. Las plataformas ya no abordan los contenidos y las cuentas perjudiciales simplemente eliminándolos. Hoy en día, muchos servicios también se basan en herramientas algorítmicas para curar el contenido a través de intervenciones como el downranking. Hay una grave falta de transparencia y responsabilidad en torno a cómo las plataformas están desplegando estas intervenciones y cuáles son los impactos resultantes en la libertad de expresión. Además, los investigadores y los defensores de la libertad de expresión han subrayado el resultado discriminatorio y perjudicial que puede tener el contenido de pago en línea. En la actualidad también existe una gran falta de transparencia en torno a cómo se modera este tipo de contenido, y con qué repercusiones. Estas son otras áreas sobre las que las plataformas deben comprometerse a arrojar luz.
Por último, durante la pandemia de COVID-19, muchas plataformas compartieron que aumentarían su dependencia de las herramientas automatizadas para la moderación de contenidos. Algunos servicios también anunciaron que suspenderían sus procesos de apelación, impidiendo así el acceso de los usuarios al debido proceso. Numerosas organizaciones de la sociedad civil expresaron su preocupación por el impacto de estas decisiones en la libertad de expresión en línea, subrayando que las plataformas deben ser capaces de mantener un nivel básico de transparencia y responsabilidad en todo momento.
Debido a estas tres preocupaciones, la coalición de los Principios de Santa Clara inició una convocatoria abierta para recibir comentarios de una amplia gama de partes interesadas a nivel mundial, con el objetivo de ampliar eventualmente los principios. La coalición llevó a cabo una importante labor de divulgación pública y comunitaria a través de un periodo de comentarios abierto y una estrategia complementaria de divulgación dirigida, luego revisó las aportaciones durante un periodo designado y, finalmente, redactó un nuevo conjunto de Principios. Se celebraron una serie de consultas abiertas y talleres para añadir más detalles al conjunto original de principios.
2. Una caja de herramientas para empresas
Esta caja de herramientas pretende explicar la importancia de los Principios, los mensajes clave y ofrecer una visión de cómo las plataformas de Internet deberían aplicar los Principios de Santa Clara en sus políticas y prácticas.
Los Principios de Santa Clara revisados reflejan el deseo de la sociedad civil de una mayor transparencia, debido proceso, competencia cultural y respeto por los derechos humanos en todo el proceso de moderación de contenidos. Están diseñados para obtener una transparencia significativa y de cara al público sobre todos los contenidos generados por los usuarios, sean o no de pago.
Esta segunda iteración de los Principios de Santa Clara se divide en Principios Fundamentales y Principios Operativos.
Los Principios Fundamentales son valores generales que deben tenerse en cuenta para toda la moderación de contenidos, y guían a todas las empresas para que integren los derechos humanos y el debido proceso en sus políticas y procedimientos, publiquen normas claras y accesibles, garanticen la competencia cultural a la hora de tomar decisiones de moderación y ofrezcan transparencia sobre la participación del Estado en la moderación de contenidos. Establecen tanto el principio que está en juego como la orientación sobre cómo aplicar ese principio.
Los Principios Operativos establecen prácticas específicas para las empresas con respecto a ciertas etapas y aspectos específicos del proceso de moderación de contenidos. En lugar de los requisitos mínimos de los Principios originales, los nuevos Principios articulan normas generales con respecto a los números, la notificación y las apelaciones, y también incluyen requisitos más sólidos que se adoptarán a medida que las plataformas tecnológicas maduren, al tiempo que reconocen que otras plataformas podrían no ser capaces de cumplir todas las normas. Las métricas de madurez incluyen el tamaño de la base de usuarios, la longevidad en el mercado, las capacidades técnicas, la extensión geográfica y la capitalización. Se proponen métricas adicionales para abordar las preocupaciones especiales que plantean las demandas y solicitudes de los agentes estatales, la preocupación de que se abuse de los procesos de señalización y el papel cada vez más importante de los procesos automatizados en la identificación de contenidos y las acciones de moderación adoptadas.
Como se ha señalado anteriormente, muchas plataformas respaldaron o se comprometieron a respetar los Principios de Santa Clara originales. Sin embargo, muy pocas plataformas cumplieron estos compromisos. Si bien la aprobación de los Principios revisados es un paso preliminar bienvenido, las plataformas también deben cumplir con sus obligaciones de implementar los Principios Fundamentales y deben maximizar proactivamente la implementación de los Principios Operativos revisados a medida que maduran. Esto significa que las plataformas deben planificar la adopción de los Principios Operativos revisados a medida que planifican su crecimiento, asignando la experiencia y los recursos apropiados de forma equitativa en el idioma, el país y la región para ampliar el acceso al debido proceso y la transparencia. Al hacerlo, las plataformas deben garantizar que las consideraciones en torno a los derechos humanos y el debido proceso se integren en todas las etapas del proceso de moderación de contenidos y que sus normas y políticas, así como su aplicación, tengan en cuenta la diversidad de culturas y contextos en los que sus plataformas y servicios están disponibles y se utilizan.
Para demostrar la responsabilidad y permitir la supervisión de sus compromisos en el futuro, las plataformas deben publicar hojas de ruta operativas detalladas y específicas para la implementación de cada uno de los Principios revisados. Estas hojas de ruta deben incluir objetivos concretos, métricas de éxito y fechas límite. Las hojas de ruta también deben identificar los recursos que una empresa ha asignado a la implementación, con métricas específicas por idioma, país y región. Si una empresa cree que no puede aplicar un principio específico por falta de madurez, debe explicar por qué y proporcionar un plazo estimado para cuando espera tener capacidad para aplicar el principio.
Las plataformas deben informar al público semestralmente sobre sus progresos y describir también las iniciativas clave, discutir cualquier cambio o modificación de la hoja de ruta o de los plazos previstos, e identificar tanto los éxitos como los obstáculos.
Las plataformas deben identificar un enlace de los Principios de Santa Clara que, entre otras cosas, se encargará de responder a las solicitudes de información de la sociedad civil sobre la aplicación de los Principios revisados.
\3. Mensajes clave y recomendaciones
Los Principios de Santa Clara revisados establecen normas medias y aspiracionales que están diseñadas para evocar una mayor transparencia y responsabilidad en torno a cómo las plataformas diseñan e implementan sus sistemas de moderación de contenidos y el impacto de dichos sistemas.
Somos conscientes de que los Principios revisados añaden obligaciones adicionales a las establecidas en los Principios originales y de que algunos de los Principios Operativos revisados pueden ser actualmente inviables para las empresas más pequeñas y nuevas. Nuestra intención no es desalentar la competencia ni atrincherar a las actuales plataformas dominantes en el mercado, sino crear un marco escalable que aumente la transparencia y la responsabilidad de todas las plataformas. Las plataformas más nuevas y pequeñas deben planificar el cumplimiento de las normas a medida que vayan creciendo.
\4. Llamada a la acción
Las plataformas deben reconocer la creciente demanda de mayor transparencia por parte de sus usuarios y de los defensores de la sociedad civil. Aunque muchas plataformas ya consultan a la sociedad civil cuando desarrollan nuevas políticas o funciones, los comentarios que hemos recibido a lo largo de este proceso y más allá subrayan la necesidad tanto de realizar consultas más amplias con una amplia gama de actores de todo el mundo como de aplicar con firmeza los comentarios que reciben las plataformas.
Los Principios revisados reflejan las aportaciones de más de cuarenta grupos e individuos de unos dieciocho países y varias consultas de grupos en tiempo real realizadas por socios de África, América Latina, India y Norteamérica. Reflejan una amplia gama de puntos de vista sobre cómo los esfuerzos de transparencia y responsabilidad de las empresas pueden ampliarse para beneficiar a una amplia gama de usuarios.
En concreto, esperamos que las empresas demuestren su compromiso con la aplicación de los Principios revisados a través de acciones concretas, la asignación adecuada de recursos y la presentación de informes periódicos y detallados sobre los esfuerzos de aplicación.