Проекты

Краткое описание

В Рунете помимо запрещенного контента, существует еще токсичный контент, за который не предусмотрена ответственность, он противоречит основным ценностям нашей страны и либо не блокируется совсем, либо спустя долгое время и только после жалоб граждан. Некоторые виды такого контента: насилие, борьба с семейными ценностями, сексуальные извращения, аутодеструктив, травля и преследование русскоязычного населения в соц.сетях.

Из-за отсутствия признанных общественностью и отраслевыми экспертами единых правил и регламентов определения токсичного контента, площадки и сервисы вынуждены пользоваться своими внутренними правилами модерации, которых недостаточно для эффективной работы, поскольку они не включают в себя весь накопленный опыт и знания других игроков в этой сфере, эти регламенты не структурированы и не имеют единой базы контента, которая бы позволяла анализировать, фильтровать и улучшать модерацию токсичного контента.

Для создания реестра токсичного контента будут использованы данные по мониторингу контента от партнёров, а также данные, полученные в результате работы наших специалистов по мониторингу и аналитике, планируется проведение социологических исследований для выявления релевантных категорий контента, а также степени их общественной опасности.

Будет создан Общественный Совет по контенту, для выработки единой общественной платформы представлений о том, что приемлемо и что неприемлемо в цифровой сфере РФ. Возможный состав Совета: представители общественности – родительские ассоциации, правозащитники, волонтёрские движения, представители цифрового бизнеса и заинтересованные структуры государства (Минцифры, РКН).

Принципы работы:
-Общественный проект. Не запреты, а выработка общественного и отраслевого согласия.
-Открытая общественная дискуссия. Реестр в открытом доступе, форум для его обсуждения, проведение регулярных пресс-конференций и общественных обсуждений.
-Саморегулирование отрасли. Стимуляция платформ к приведению их внутренних политик к общепринятым.
Проект направлен на проработку критериев для отбора токсичного контента, выстраивания методологии оценки, системы и алгоритмов работы с ним.

В рамках проекта будет организована совместная работа отраслевых экспертов и общественности, для выработки единых правил определения контента(категоризации), а также мер по противодействию токс. контенту,планируется проведения обучения экспертов и общественников по интеграции и использовании реестра для модерации контента на своих ресурсах.

В результате проекта ожидается, что эксперты, занимающиеся созданием, анализом, модерацией контента и работающие с последствиями влияния контента на пользователей, будут регулярно обмениваться опытом работы с токсичным контентом, смогут применять новые знания и навыки по работе с контентом, успешно пользоваться, и интегрировать в свои сервисы и площадки единые и признанные общественностью стандарты, и регламенты в области определения(категоризации) токсичного контента, его выявления и модерации.

Цель

1. Выработка единых норм, стандартов и механик в области регулирования токсичного незапрещенного контента, которые будут признаны общественностью и отраслевыми экспертами, для дальнейшего повсеместного внедрения и использования на отечественных медиа-сервисах и площадках

Задачи

1. Организовать совместную работу отраслевых экспертов и общественности, для выработки единых правил определения контента(категоризации), оказывающего негативное и опасное влияние на пользователей, а также мер по противодействию такому контенту
2. Организовать профильные обучающие мероприятия по работе с токсичным контентом
3. Создать полный, открытый и общедоступный реестр токсичного контента

Обоснование социальной значимости

Сегодня на интернет-площадках генерируется огромное количество пользовательского контента, что не позволяет площадкам качественно модерировать весь его объем. Используются автоматические системы модерации, которые не всегда могут распознать запрещенный, а особенно деструктивный контент.

В этой области, на сегодняшний день, не существует единых правил и регламентов определения контента, оказывающего негативное и опасное влияние на пользователей, которые были бы признаны общественностью и отраслевыми экспертами и могли бы использоваться на всех площадках и сервисах.

Нет единой общественной площадки для обсуждения экспертами-представителями цифровой отрасли, медиасервисов и социальных сетей, представителями общественности и профильных госструктур, существующих проблем, обмена опытом и выработки общих подходов и стандартов в области определения(категоризации) токсичного контента, его выявления и модерации.

Каждый сервис/площадка/организация руководствуется собственными внутренними правилами, которые недостаточно структурированы и часто неэффективны, из-за ограниченных знаний и опыта в области работы с токсичным контентом, а также в связи с тем, что нет единой базы(реестра) контента, с помощью которой можно было бы фильтровать и анализировать контент в автоматическом или ручном режиме.

Часть деструктивного контента, в настоящее время, запрещена по закону (скулшутинг, АУЕ, пропаганда ЛГБТ среди малолетних) и интернет- площадки, на которых происходит распространение токсичного и деструктивного контента, должны ежегодно отчитываться о том, как они борются с подобным контентом и об удаления контента с площадок. Но всегда остается опасный контент, для борьбы с которым у отраслевых экспертов и общественников недостаточно навыков и четких механик работы и информации об успешном опыте других площадок(в презентации представлена статистика запрещенного и опасного контента по годам), такой контент негативно влияет на развитие общества и не регулируется законом. Поскольку не все в этой сфере возможно ограничить на законодательном уровне, необходимо создание общественного контроля.

Проблема контроля и регулирования токсичного контента в российской сети Интернет затрагивает практически каждого пользователя, но особенно это касается таких категорий: дети и подростки, поскольку их психика еще недостаточно устойчива, чтобы самостоятельно справляться с давлением и влиянием деструктивного контента, а также молодые мужчины и женщины от 18 до 35 лет – здесь психика уже более устойчива, но в силу определённых жизненных обстоятельств, особенностей возраста - человек находится в поиске себя и может быть также подвержен деструктивным течениям.( РОЦИТ является участником Альянса по защите детей в цифровой среде(https://internetforkids.ru/about/) и будет способствовать подключению других участников Альянса к проекту по общественному контролю за деструктивным контентом в Рунете)

Зачастую потребление токсичного контента – неосознанное, это может быть неожиданно появившийся рекламный баннер, в текущей ситуации мы видим частые случаи спам-рассылок в соц.сетях и мессенджарах с анти-российскими призывами и сообщениями, разжигающими ненависть между народами, или в результатах поисковой выдачи на один запрос, можно увидеть шокирующий и неприемлемый контент совсем несвязанный с тематикой поиска, среди подобной информации также огромное количество фейков. (РОЦИТ является организатором подписания Меморандума о противодействии фейкам(в материал есть текст Меморандума его участники). Создатели и распространители такого контента используют различные психологические приёмы и механики вовлечения молодой аудитории в свои деструктивные движения.

Согласно собственному исследованию РОЦИТ (Оперативная онлайн-социология - Интернет-технологии, декабрь 2021 г) большинство опрошенных (64%) считают, что деструктивный и противоправный контент в интернете нужно контролировать: блокировать и удалять, контролировать по ключевым словам, модерировать и привлекать к ответственности. 32% процента опрошенных сталкивались с агрессивным поведением на различных площадках.

Поскольку, существующие на данный момент механизмы не в полной мере обеспечивают контроль и регулирование токсичного контента (подробнее в Кратком сравнительно-правовом анализе мер по противодействию распространения противоправного (деструктивного) контента в сети Интернет, ВШЭ - ниже "Исследование ВШЭ"), существует потребность в создании единых и общественно-признаваемых регулирующих норм в отношении деструктивного контента, с помощью которых все заинтересованные стороны смогут фильтровать, анализировать, контролировать и модерировать контент

География проекта

Мониторинг токсичного контента - в российском сегменте Интернета. Проведение очных мероприятий - в Москве

Целевые группы

1. Представители цифровой отрасли, медиа, соц.сетей, общественности (родительские и волонтерские ассоциации, правозащитники), профильных госструктур - эксперты, по созданию, анализу и модерации контента.