В России появился категоризатор деструктивного контента

РОЦИТ разработал категоризатор деструктивного контента

Фото: Андрей Бресонов / Коммерсантъ

Региональный общественный центр интернет технологий (РОЦИТ) представил финальную версию категоризатора деструктивного контента, разработанного в рамках соответствующего поручения президента России Владимира Путина. В ближайшее время документ будет передан интернет-площадкам.

Категоризатор содержит четыре блока. Первый блок посвящен запрещенному к распространению контенту. Анализ законов позволил выделить 11 категорий такой информации. К ней, в том числе, относится популяризация сексуального насилия, пропаганда нетрадиционных сексуальных отношений, оскорбление человеческого достоинства, явное неуважение к обществу, государству и другие.

Второй блок касается ограниченного к распространению контента. Категории определялись также на основе указанных федеральных законов. Эксперты отнесли к этому блоку следующие виды информации: представляемая в виде изображения или описания жестокости, физического или психического насилия, преступления или иного антиобщественного действия; вызывающая у детей страх, ужас или панику; представляемая в виде изображения или описания половых отношений между мужчиной и женщиной; содержащая бранные слова и выражения, не относящиеся к нецензурной брани.

Третий блок категоризатора относится к контенту, вовлекающему людей в противоправную деятельность. Этот раздел был составлен на основании анализа статей Кодекса об административных правонарушениях и статей Уголовного кодекса. К такого рода контенту относятся материалы, популяризирующие «заработок сексом»; злоупотребляющие свободой массовой информации; контент, демонстрирующий надругательство над телами умерших и местами захоронений; информация, склоняющая несовершеннолетних к представляющим угрозу для жизни и здоровья противоправным действиям, и материалы, демонстрирующие жестокое обращение с животными.

Четвертый блок посвящен контенту, нарушающему нормы морали и нравственности. Как подчеркивают в РОЦИТ, именно этот раздел является наиболее объемным и многообразным. В него включен контент, популяризующий киберунижение — в том числе несовершеннолетних — и связанный с организацией кампаний по сетевой траве. Также к этому разделу относится информация, представляющая расстройства пищевого поведения как норму, и материалы, популяризирующие буквальное самоповреждение. К категориям четвертого блока относятся и материалы, популяризирующие оккультные услуги, направленные на действительное или воображаемое причинение вреда жизни, здоровью, репутации и имуществу. Сюда же отнесены пропаганда алкоголизма и бездетности, популяризация конфликтности между учениками и педагогами и деструктивного поведения в семье, а также сексуальные сцены с рисованными персонажами, имеющими черты несовершеннолетних.

Каждый раздел категоризатора содержит не только подробное описание видов деструктивного контента и примеров по каждому из них, но также описывает возможные исключения.

«Категоризатор — итог масштабной работы, которую мы проводили с десятками экспертов, представителями общественных организаций, родительского сообщества, психологами и представителями площадок. Нашей основной целью было создать максимально полный, понятный и доступный рабочий инструмент, с помощью которого цифровые платформы смогут оказывать действенное влияние на ограничение распространения деструктивной информации. Мы также сформулировали ряд предложений по пессимизации таких материалов. В частности, необходимо более активно вовлекать в модерацию самих пользователей, в том числе через форму жалоб. Материалы при этом могут не просто удаляться на основании решений владельцев онлайн-площадок, но и включать запрет на дальнейшую рекламу и взаимодействия с таким контентом. Кроме того, предложенная категоризация может быть встроена в правила социальных сетей с обязательным их ознакомлением перед регистрацией новых пользователей», — прокомментировал директор РОЦИТ Рустам Сагдатулин.

В ближайшее время категоризатор деструктивного контента будет передан интернет-площадкам.

Лента добра деактивирована.
Добро пожаловать в реальный мир.
Бонусы за ваши реакции на Lenta.ru
Как это работает?
Читайте
Погружайтесь в увлекательные статьи, новости и материалы на Lenta.ru
Оценивайте
Выражайте свои эмоции к материалам с помощью реакций
Получайте бонусы
Накапливайте их и обменивайте на скидки до 99%
Узнать больше