The Santa Clara Principles

< Back to Principles

Call for Submissions

March 2020

В феврале 2018 года в рамках первой конференции «COMO at Scale» небольшая группа организаций, ученых и правозащитников сформулировала набор принципов, определяющих прозрачность и подотчётность процесса модерации контента (COntent MOderation). Эти принципы получили название «Принципы Санта-Клары», от названия города Санта-Клара в Калифорнии, США, где проходила конференция.

Принципы представляют собой набор основополагающих стандартов или первоначальных действий, которые необходимо предпринять компаниям, занимающимся модерацией контента, для обеспечения конструктивного процесса модерации публикуемого контента и соблюдения принципов справедливости, беспристрастности, пропорциональности и уважения прав пользователей.

В последующие два года Reddit успешно применял эти принципы полностью. Частично они применялись также другими компаниями, в частности Github, Apple, WordPress и YouTube. Более того, в 2019 году большое количество компаний публично одобрило данные принципы.

В настоящее время мы начинаем процесс интроспекции и анализа, чтобы выяснить, нуждаются ли «Принципы Санта-Клары» в обновлении ввиду изменений в сфере модерации контента. Нам особенно интересны отзывы из стран с развивающейся и переходной экономикой, а также представителей маргинальных сообществ, на которых коммерческая модерация контента оказывает серьезное влияние. Мы призываем всех заинтересованных лиц ответить на следующие вопросы в электронном письме и отправить его на адрес SCPconsultation@eff.org до 30 июня.

Provide Feedback
  1. В настоящее время «Принципы Санта-Клары» сосредоточены на вопросах количества, извещения и обжалования при модерации контента. Необходимо ли расширить, конкретизировать или полностью пересмотреть данные категории?

    1. Первая категория устанавливает стандарт, согласно которому компании должны публиковать количество удалённых публикаций и постоянно или временно заблокированных аккаунтов в связи с нарушением правил публикации контента. Пожалуйста, приведите конкретные рекомендации либо укажите часть, нуждающуюся в пересмотре или дополнении.

    2. Вторая категория устанавливает стандарт, согласно которому компании должны уведомлять каждого пользователя о причинах удаления его публикации или блокировки его учётной записи. Пожалуйста, приведите конкретные рекомендации либо укажите часть, нуждающуюся в пересмотре или дополнении.

    3. Третья категория устанавливает стандарт, согласно которому компании должны предоставлять реальную возможность для своевременного обжалования каждого решения об удалении контента или блокировки аккаунта. Пожалуйста, приведите конкретные рекомендации либо укажите часть, нуждающуюся в пересмотре или дополнении.

  2. Считаете ли вы, что «Принципы Санта-Клары» должны быть расширены или дополнены конкретными рекомендациями для обеспечения прозрачности использования автоматизированных инструментов (включая контекст использования подобных инструментов и степень вовлеченности человека) и принятия решений в любой из следующих областей?

    1. Модерация контента (использование искусственного интеллекта для просмотра содержимого публикаций или учётных записей и определение необходимости удаления данного контента или блокировки аккаунтов; процессы, используемые для проведения проверки в случаях, когда контент помечен как нежелательный третьими лицами);

    2. Ранжирование контента (использование искусственного интеллекта для продвижения определенных публикаций, например для подъема в результатах поисковых запросов и для снижения порядкового номера выдачи результатов запроса в случаях дезинформации или провокационных рекламных заголовков);

    3. Таргетинг и показ рекламы (использование искусственного интеллекта для разделения пользователей на группы и показа им соответствующих рекламных объявлений);

    4. Рекомендация контента и автозаполнение поисковых строк (использование искусственного интеллекта для рекомендации пользователям определённого контента, например видео, публикации или ключевых слов, основываясь на профиле пользователей и их недавней активности в сети).

  3. Считаете ли вы, что «Принципы Санта-Клары» в текущей редакции являются подходящей основой для промежуточных ограничений и могут быть к ним применены (например, ограничения по возрасту, интеграция предупреждений в контент и добавление соответствующей информации к тексту публикации)? Если нет, нужно ли нам включить указанные категории в новую редакцию «Принципов» или же лучше разработать отдельный набор принципов для решения данных вопросов?

  4. Как вы используете «Принципы Санта-Клары» в качестве ресурса или инструмента адвокации? Если вы не против, поделитесь, пожалуйста, ссылками на эти ресурсы или примерами их использования.

  5. Как «Принципы Санта-Клары» могут быть использованы с большей пользой в вашей работе по данным вопросам в будущем?

  6. Считаете ли вы, что «Принципы Санта-Клары» должны быть применимы к модерации рекламных публикаций наравне с модерацией неоплаченного контента обычных пользователей? Если да, все ли они должны применяться или только некоторые из них?

  7. Находите ли вы какую-либо часть «Принципов Санта-Клары» неясной, не вполне понятной?

  8. Возможно ли с помощью «Принципов Санта-Клары» снизить определённые риски для прав человека, призывая компании предоставлять дополнительные типы данных? (Например, есть ли типы кампаний по злонамеренному отмечанию контента в качестве нежелательного, которые не отобразятся в данных, запрашиваемых в соответствии с настоящими «Принципами Санта-Клары», но которые были бы видны при добавлении соответствующего столбца?)

  9. Существуют ли какие-либо соображения регионального, национального или культурного толка, которые в настоящее время не отражены в «Принципах Санта-Клары», но должны там находиться?

  10. Существуют ли какие-либо аспекты малого и среднего бизнеса, которые в настоящее время не отражены в «Принципах Санта-Клары», но должны там находиться?

  11. Что бы вы порекомендовали предпринять для поддержания жизнеспособности, выполнимости и актуальности «Принципов Санта-Клары» в долгосрочной перспективе?

  12. Кого бы вы порекомендовали в качестве участников дальнейшего обсуждения «Принципов Санта-Клары»? По возможности, укажите имена и адреса электронной почты.

  13. Если бы «Принципы Санта-Клары» требовали раскрытия информации об уровне подготовки или культурной среде модераторов контента, работающих на платформу, предоставляющую услуги модерации, что, на ваш взгляд, должна была бы платформа отразить в данном отчёте? (Например: публикация информации о проценте модераторов, прошедших тест на знание языка, на котором модерируется контент, или раскрытие информации о типах подготовки модераторов.)

  14. Есть ли у вас какие-либо дополнительные предложения?

  15. Можно ли утверждать, что определенные события, в частности COVID-19, способствовали повышению вашей осведомленности о специфичных нуждах в сфере транспарентности и подотчетности или о недоработках Принципов Санта-Клары?

Provide Feedback

Privacy Policy

Information collected through this survey is subject to EFF's Privacy Policy. All data collected through this survey will be used to determine whether the Santa Clara Principles should be updated and if so, how. This may include the publication of a report discussing the results of this consultation. Data collected may be shared by EFF with the organizations collaborating on this project: Global Partners Digital, Open Technology Initiative, Article 19, Center for Democracy and Technology, Ranking Digital Rights, ACLU of Northern California, Witness, Brennan Center for Justice, Red en Defensa de los Derechos Digitales, and AccessNow.