Россиян начнут проверять на агрессию в сети

Российских пользователей «Одноклассников» начнут проверять на агрессию — соцсеть запустила технологию для борьбы с резкими высказываниями и разжиганием розни в публичных комментариях. Об этом говорится в пресс-релизе сервиса, поступившем в редакцию «Ленты.ру».

Отмечается, что нейросеть будет оценивать тексты и изображения на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Таким образом новая система позволит создать уважительную среду для общения.

В результате все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. Кроме того, при анализе изображений алгоритм определит наличие шокирующего содержания и актов насилия — после проверки они тоже будут удалены.

Пользователи, которые нарушают правила и выражают свое мнение враждебно по отношению к другим, получат временный запрет на комментирование любого контента. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Также авторы могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные.

Отмечается, что технология уже работает на всех платформах. В ближайшее время функция появится и в приложениях на iOS и Android.