Как удобно — включил ребенку мультфильмы на YouTube, и можно спокойно заняться работой или домашними делами. Так делают многие, это просто и к тому же бесплатно. Проблема только в том, что, оставив ребенку гаджет, родитель не может быть уверен, что видеохостинг не предложит юному зрителю ролик с совершенно не детским содержанием. О том, почему это происходит и как алгоритмы YouTube влияют на то, что мы будем смотреть — в материале «Ленты.ру».
Недавно стало известно, что рекомендательные алгоритмы по неясной причине после безопасного контента предлагали детям хоррор — анимационную короткометражку о том, как скелет ходит по кладбищу в поисках любви, а в конце умирает от депрессии.
До этого площадка была замечена в рекомендации к просмотру несовершеннолетним роликов с кровавым шок-контентом (есть в распоряжении редакции). Случалось, что YouTube предлагал зрителю инструкцию по самостоятельному изготовлению «коктейля Молотова».
Казалось бы, родители сами виноваты — ведь можно было подключиться к специальной детской платформе YouTube Kids. Этот сервис появился в 2015 году как безопасный аналог видеохостинга для пользователей младше 13 лет. Создатели утверждали, что здесь используется целый набор особых фильтров, которые отсеивают нежелательный контент. На детской платформе можно выбрать возрастную группу: «старшая» — для детей от 9 до 12 лет, «младшая» — от 4 до 7 лет и «дошкольная» — младше 4 лет.
Но, как выяснилось, все это не работает. Детская платформа YouTube Kids не раз была замечена в пропаганде наркотиков и огнестрельного оружия. В «детской зоне», например, обнаружились ролики из кулинарного шоу на тему сериала «Во все тяжкие», где ведущие в респираторах шутили о риске вдыхания паров. Еще одно видео рассказывало о фургоне, где варят кристаллический метамфетамин.
Также для детей оказались доступны серии уроков игры на гитаре, где предлагается разучить песню на «взрослую» тему. Случалось и такое, что через рекламу или рекомендации при просмотре детских передач видеохостинг ставит взрослый контент, в том числе провокационный.
Набор роликов, которые видят пользователи YouTube, формирует внутренние программные алгоритмы платформы. Принципы их работы IT-гигант не раскрывает, об устройстве рекомендательного сервиса можно только догадываться.
В США, где видеохостинги и рекомендательные технологии появились раньше, чем в других странах, непрозрачность сервисов давно вызывает серьезное беспокойство властей и общественности. По мнению американских сенаторов, TikTok, Snapchat и YouTube загоняют детей в алгоритмические «кроличьи норы» — это эффект, при котором пользователю предлагается все больше и больше контента, соответствующего его предпочтениям. Это значит, что, посмотрев из любопытства какой-то ролик, ребенок будет получать похожие видео снова и снова, и новый «интерес» у него будет сформирован искусственно.
«Рекомендательные сервисы любой популярной платформы по умолчанию являются "кроличьей норой", созданной с целью максимизации прибыли за счет увеличения времени нахождения пользователя на сайте», — пояснил «Ленте.ру» генеральный директор Центра изучения и сетевого мониторинга молодежной среды Максим Лупин.
По его словам, основная угроза подобных механизмов связана в первую очередь с непрозрачным форматом их работы, а также «с манипулированием интересом и мнением пользователя, с опасными психологическими состояниями, развитие которых может спровоцировать предлагаемый контент».
Интернет-эксперты считают, что такие «норы» способны усиливать убеждения пользователей и даже радикализировать их, что может привести к опасным последствиям.
«Мы считаем, что рекомендательные алгоритмы оказывают колоссальное влияние на умы миллиардов людей, продвигая в том числе поляризационный, провокационный и деструктивный контент, манипулируя предпочтениями и мнениями. При этом деструктивный контент, рекомендуемый алгоритмами, оказывает влияние как на взрослую, так и на младшую аудиторию, не учитывая разницы в возрасте и восприятии информации», — заявил «Ленте.ру» директор Центра интернет-технологий (РОЦИТ) Рустам Сагдатулин.
«YouTube неоднократно был уличен в том, что использует работу рекомендательного сервиса для решения своих политических или идеологических задач. На практике это означает, что любой пользователь видеохостинга, включая детей, может без каких-либо ограничений увидеть опасный контент», — подчеркивает Максим Лупин.
Детское ментальное восприятие менее устойчиво к насилию, а видеохостинг зачастую рекомендует несовершеннолетним контент, где оно открыто демонстрируется. Кроме того, в силу возраста и недостатка жизненного опыта когнитивные способности детей не позволяют им отличать добро от зла, ложь от правды, что делает ситуацию еще более опасной.
«Учитывая, что у детей еще не выработано в полной мере критическое мышление, рекомендательные сервисы могут с легкостью манипулировать их вниманием и восприятием, тем самым погружая несовершеннолетних в искусственно создаваемый информационный пузырь», — говорит генеральный директор Центра изучения и сетевого мониторинга молодежной среды.
Он полагает, что алгоритм может с легкостью управлять умами людей, которые не будут даже подозревать, что мысли в их голове — следствие рекомендаций платформ, которыми они пользуются.
«Свобода слова и получения информации — базовый принцип, который не может нарушать никакая онлайн-платформа. У граждан должна быть возможность самостоятельно настраивать алгоритмы, сохраняя доступность самого сервиса. Это позволит людям избежать попадания в некий "информационный тоннель", способствующий поляризации общественного мнения и сужению взглядов на ту или иную ситуацию, что неминуемо ведет к разжиганию конфликтов», — говорит Рустам Сагдатулин.
С этой идеей согласны в Центре изучения и сетевого мониторинга молодежной среды. «Важно, чтобы на всех популярных платформах, где отсутствует или не работает система возрастной фильтрации доступа к контенту, для пользователей была открыта возможность самостоятельно настраивать рекомендательный сервис», — пояснил Максим Лупин.
Функция самостоятельной настройки интересов есть на многих информационных платформах. Но как отменить рекомендации сервиса, не всегда очевидно. Например, для того, чтобы видео какого-то блогера не появлялись в рекомендациях YouTube, нужно зайти на его канал и нажать кнопку «не рекомендовать видео с этого канала».
Эксперты считают, что платформы не должны скрывать такой функционал от зрителей. «Наоборот, необходимо активно предлагать пользователю выбор. Учитывая доступность YouTube для детей, такой выбор должны делать родители», — считает глава Центра изучения и сетевого мониторинга молодежной среды.
Пока же нередки случаи, когда дети сталкиваются с контентом, который на них совсем не рассчитан. «Рекомендательные сервисы почему-то подсовывают детям контент, который противоречит в том числе и правилам самого сообщества YouTube: видео с жестокостью, насилием, истязаниями, пытками. Это очень часто происходит на площадке видеохостинга», — говорит директор Лиги безопасного интернета Екатерина Мизулина.
Об этом же говорят данные американских экспертов. Исследование, которое длилось десять месяцев, показало, что более 70 процентов видео, рекомендуемых алгоритмами YouTube, не соответствует внутренним нормам платформы.
«Более семи тысяч [запрещенных к распространению в России] видеороликов YouTube на данный момент так и не удалил», — подсчитала Мизулина. Она выступает за строгие меры в отношении видеохостинга.
Непрозрачность рекомендательных сервисов уже давно беспокоит общественность. Влияние YouTube на детскую психику постоянно обсуждают в родительских сообществах. Недавно с обращениями в социальных сетях выступили представители «Гражданского комитета России», «Союза отцов», Ассоциации родительских комитетов и движения «Матери России». Ранее глава «Союзмультфильма», гендиректор киностудии им. Горького Юлиана Слащева призвала уберечь детей от взрослого видеоконтента на YouTube. Все больше экспертов говорят о том, что самая популярная в мире видеоплатформа перестала быть безопасным сервисом для детей.
В апреле комиссия Общественной палаты России по демографии, защите семьи, детей и традиционным семейным ценностям обратилась к Роскомнадзору с просьбой принять дополнительные меры в отношении YouTube. А возглавляемая Мизулиной организация пообещала провести комплексное исследование, которое должно показать, как иностранные социальные сети, в первую очередь YouTube, влияют на психику и здоровье детей.
«Появление обращений и призывов со стороны общественных родительских организаций против YouTube — повод более пристально рассмотреть проблему и выработать необходимые шаги для ее решения. Регулятор обязан своевременно принимать меры в отношении онлайн-платформ, у государства должна быть реальная возможность защитить цифровые права своих граждан», — считает Рустам Сагдатулин.