Социальные сети помогают людям общаться и заводить новых друзей по всему миру. Такими их задумывали 15 лет назад. Но даже их создатели не предполагали, что в 2021 году половина населения Земли часами будет скроллить бесконечную ленту Facebook и Instagram и не сможет уснуть без смартфона под подушкой, а непреодолимое желание посмотреть в экран приведет к эпидемии тяжелых психологических расстройств. Куда страшнее то, что контент для миллиардов людей определяет не человек, а алгоритм. Именно он повинен во всех бедах современных социальных сетей. Как создавались эти алгоритмы, что они знают о нас и почему человечество больше не может их контролировать — в первом материале масштабного спецпроекта «Ленты.ру» «Алгоритм. Кто тобой управляет?».
Брук из Калифорнии впервые взяла в руки iPhone в 12 лет. С тех пор она стала одержимой. Каждую ночь Брук обновляла ленты соцсетей, которые раз за разом показывали ей что-то новенькое. Родители пытались объяснить дочери, что нельзя столько времени проводить в интернете, но это не помогало.
Из обычного ребенка Брук быстро превратилась в проблемного подростка. Вскоре родители узнали, что их дочь знакомится в интернете с сомнительными мужчинами, занимается с ними сексом, пьет и употребляет наркотики.
«Я не спала всю ночь, отправляла свои обнаженные фото незнакомцам. Взамен я получала комплименты. Мне казалось, что только это приносит мне удовольствие», — позже призналась Брук.
Когда девочке было 13, к ее родителям пришла полиция. Оказалось, что кто-то угрожал разослать откровенные снимки Брук по всему интернету. Ее опасные увлечения быстро стали причиной школьной травли. В ту же ночь родители обнаружили предсмертную записку дочери.
После попытки самоубийства Брук почти полтора года провела в реабилитационном центре. Там она вместе с врачами боролась с психическими расстройствами, проблемами с наркотиками и зависимостью от соцсетей.
В 2017 году история этого подростка прогремела на всю Америку. Многим стало ясно, что поколению, которое с малых лет живет в соцсетях, нужна помощь.
___
Сегодня в мире проживает 7,83 миллиарда человек. Крупнейшие социальные сети насчитывают 4,2 миллиарда пользователей. За карантинный 2020 год их стало больше на 13 процентов. Это значит, что соцсетями пользуются 53,6 процента населения Земли.
Все эти цифры говорят об одном: человечество живет в смартфоне, а разделения на реальную и виртуальную жизнь больше не существует. Сеть — это уже не место для продвинутой молодежи, в ней существуем мы все.
Самой популярной в мире социальной сетью много лет считается Facebook. На начало 2021 года аудитория американского гиганта достигла 2,74 миллиарда человек — около трети населения планеты. Чтобы написать сообщение в Facebook, понадобится Facebook Messenger с 1,3 миллиарда пользователей. Купленный в 2014 году мессенджер WhatsApp добавил к империи Марка Цукерберга еще более двух миллиардов людей, а приобретенный в 2012 году Instagram — 1,221 миллиарда.
По размеру аудитории с Facebook может сравниться лишь принадлежащий Google видеохостинг YouTube — им пользуются 2,291 миллиарда человек.
Что эти миллиарды пользователей видят каждый день? Любая соцсеть начинается с ленты новостей. Там сосредоточена информация со всей планеты, которая обновляется и пополняется каждую секунду. Но усвоить ее всю человек не способен, а значит, ее нужно упорядочить.
Пользователи уже давно лишены возможности самостоятельно выбирать контент — формированием умной ленты новостей занимаются алгоритмы. Их главная задача — удержать пользователя внутри соцсети. Ведь чем больше времени человек провел в приложении или на сайте, тем больше рекламы он увидел. Любая соцсеть бесплатна, а значит, за нее пользователи платят своим временем и вниманием. Но так было не всегда.
***
Первые соцсети выглядели совсем не так, как мы привыкли их видеть сегодня. До появления News Feed (официальное название новостной ленты Facebook) пользователи обходили страницы друзей в поисках обновлений. Это занимало много времени. И чем больше был круг знакомых, тем сложнее было оставаться в курсе событий.
Решение проблемы нашли в 2006 году: разработчики Facebook создали альтернативную домашнюю страницу, куда автоматически попадали все новости друзей. Необходимость каждый раз заходить в чужие профили отпала сама собой: свежие фотографии, статусы и сообщения собирались в одном месте.
«News Feed постоянно обновляет персонализированный список новостей в течение дня, так что вы будете знать, когда Марк [Цукерберг] добавит Бритни Спирс к себе в "Избранное" или когда человек, в которого вы влюблены, снова станет одинок. Эти функции не только отличаются от всего, что было раньше на Facebook, но и совершенно не похожи ни на что в интернете», — рассказывала тогдашний менеджер по продуктам Facebook Ручи Сангви. У конкурентов действительно такой функции не было. Через несколько лет именно это решение полностью изменит интернет.
«До появления новостной ленты интернет был странным, тихим и, вероятно, очень уединенным местом. Я говорю "вероятно", потому что с трудом могу вспомнить, как все работало тогда. После того как Facebook запустил новостную ленту, ничто в сети уже не было прежним», — отозвался журналист Slate Фархад Манжу спустя семь лет после анонса News Feed.
Несмотря на очевидное удобство, функция Facebook вызвала серьезный скандал в первые же дни после запуска. Многие пользователи посчитали News Feed слишком навязчивой — они жаловались, что устали постоянно натыкаться на скучные уведомления от друзей вроде «Фрэнк добавил в друзья Джонни». Но главная проблема была в другом: тысячи людей не хотели, чтобы их обновления попадали в ленту. Они переживали, что друзья будут знать о них слишком много.
Отключить News Feed они не могли, зато смогли создать сообщества единомышленников, в которых выступали против новой функции. В одну из самых популярных групп всего за несколько дней вступили почти 700 тысяч участников — едва ли не 10 процентов всех пользователей Facebook.
Но Марк Цукерберг был непреклонен. «Успокойтесь, дышите, мы вас слышим», — написал основатель соцсети на своей странице. Он объяснил, что данные можно скрыть, но это оказалось так сложно, что его советом воспользовались единицы.
Любопытно, как Цукерберг объяснил желание компании оставить новостную ленту. По его словам, функция нужна «для уменьшения общего количества просмотров страниц в сети». То есть глава Facebook намекнул, что соцсеть потеряет большие деньги на рекламных объявлениях, зато «облегчает общение между пользователями». Но, как покажет время, именно это изменение станет для него неиссякаемым источником доходов.
Пользователи российской «ВКонтакте» помнят аналогичный скандал, когда в 2010 году соцсеть внедрила собственный News Feed под названием «Статусы 2.0». До этого все обсуждение постов происходило на личных страницах пользователей (тогда их называли «стенами»). Из-за особенностей «стены» люди не могли оставлять комментарии к какой-либо увиденной новости — вместо этого им приходилось писать отдельный пост, который тоже отображался на странице профиля. Получалось нагромождение комментариев, граффити и песен, в котором сложно было найти мысли самого автора. Отдельной страницы для просмотра обновлений из всех пабликов тоже не было, поэтому приходилось заходить в каждую интересующую группу и искать новости вручную.
Большая часть аудитории «ВКонтакте» не хотела переходить на новый формат общения. Но прогресс было не остановить и, вопреки желанию большинства, глава компании Павел Дуров решился на эксперимент.
«На Facebook тоже когда-то была подобная "стена". Потом появился режим микроблогов. Пользователи возмущались, а теперь пользуются с удовольствием. Мы разработали собственную концепцию. Если мы не будем меняться и двигаться вперед, от нас уйдут самые современные и продвинутые пользователи. Мы работаем на завтрашний день», — отреагировал на возмущение тогдашний пресс-секретарь «ВКонтакте» Владислав Цыплухин.
Десятки тысяч пользователей умоляли основателя соцсети отменить изменения, в противном случае грозились удалить свои аккаунты. Угрозы не помогли — нововведение осталось. Зато родился новый мем «Дуров, верни стену».
Постепенно на алгоритмическую выдачу контента в ленте перешли все популярные сервисы, в том числе Instagram, Twitter и YouTube.
Первые версии умных лент были довольно примитивными, но постепенно модернизировались. Сначала на высоту поста в ленте влияла всего пара факторов: насколько сообщение свежо и как много пользователей в нем упоминается. Вице-президент Facebook по продуктовому маркетингу Крис Кокс рассказывал, что буквально вручную настраивал ленту, основываясь на гневных отзывах пользователей.
В 2009 году появилась легендарная кнопка «Лайк». Правда, сделана она была не для пользователей, а для удобства разработчиков. С ее помощью они понимали, как лучше фильтровать контент для новостной ленты.
«Пользователи не осознавали, что они делают на самом деле. И это было, пожалуй, самой гениальной частью. Если бы Facebook сказал пользователям, что они должны оценивать сообщения друзей для улучшения алгоритма, они посчитали бы этот процесс утомительным и отвлекающим. Алгоритм новостной ленты Facebook одним из первых начал тайно привлекать пользователей к персонализации своего опыта — и влиял на всех остальных», — рассказал журналист Slate Уилл Оремус, который в 2016 году общался с разработчиками Facebook.
«Лайк» решил проблему ненадолго: вскоре рекламодатели и мошенники распознали, как работает алгоритм, и начали захламлять ленту вирусным контентом. Они поняли, как, используя самые простые психологические приемы, заставить людей реагировать на пост. Пришлось бороться и с этим.
В 2010 году создатели Facebook представили новый продвинутый алгоритм Edge Rank, благодаря которому новостная лента стала выдавать еще более релевантный контент. На высоту поста стали влиять три основных фактора. Первый — совместимость, то есть как часто друзья взаимодействуют на Facebook. Второй фактор — вес (или значимость действия пользователя). Условно говоря, оставленный комментарий весит больше, чем лайк, а значит, он важнее. Третьим фактором стало время — как давно был опубликован пост. На основе этих показателей сообщения получали рейтинг — для каждого пользователя он был свой. Чем выше рейтинг, тем больше шанс, что человек увидит этот пост раньше остальных.
Система планомерно обрастала новыми факторами. Помимо трех исходных параметров, соцсеть стала анализировать более 100 тысяч дополнительных. Через пару лет основные конкуренты Facebook тоже стали использовать схожую систему, незначительно отличающуюся в деталях. С тех пор совершенствование алгоритмов не прекращалось.
Теперь в расчет идут все действия пользователей: сколько секунд он просматривал пост, куда нажимал, на каких словах заострял внимание. Все интересы, страхи, настроения человека и его религиозные убеждения тоже учитываются.
Отдельное внимание алгоритмов уделено техническим особенностям устройства, с которого человек выходит в соцсети. Алгоритм учитывает возраст смартфона и скорость интернет-соединения — на старых устройствах некоторые посты отображаются некорректно, поэтому владелец условного iPhone 4S их вряд ли увидит. Ну, а при слабом сигнале Wi-Fi человеку покажут больше текста, потому что он быстрее прогрузится.
Но полного списка параметров не найти нигде, поскольку любая соцсеть его тщательно скрывает.
Постепенно пользователи Facebook, а затем и почти всех остальных популярных соцсетей перестали контролировать то, что видят в ленте новостей. Право выбора постепенно перешло к платформам, что дало им безграничную власть над самым ценным ресурсом — вниманием пользователей.
Взрывное развитие алгоритмических лент позволило соцсетям обрабатывать тысячи параметров и узнавать о пользователях самое сокровенное. Вся эта информация отлично пригодилась для следующего шага в эволюции — создания персонализированной рекламы. Теперь те, кто платит деньги Facebook, Instagram и YouTube, могут дотянуться до тех, кто точно купит их продукт.
В 2010 году выручка Facebook составляла всего 1,2 миллиарда долларов, в 2012 году она выросла до 5 миллиардов, в 2014 — до 12,4 миллиарда. В 2019 она достигла уже 70,7 миллиарда долларов, а 2020 год закончился ростом выручки сразу на треть — почти до 86 миллиардов долларов.
Почти все эти деньги зарабатываются на рекламе — сегодня это главный и практически единственный источник дохода для социальных сетей.
Масштаб того, какую информацию ради рекламы собирают о пользователях социальные сети, мир осознал только в 2018 году. Тогда Facebook уличили в сливе данных 87 миллионов пользователей британской компанией Cambridge Analytica, которая занимается влиянием на поведение пользователей в социальных сетях.
Эта фирма распространяла приложение-викторину This Is Your Digital Life (Это твоя интернет-жизнь), которая собирала данные аккаунтов. Программа состояла из серии вопросов, по которым можно было построить психологические портреты людей. Кроме того, сервис собирал личные данные всех друзей пользователей, которые заполняли анкету. Полученную информацию Cambridge Analytica продавала сторонним организациям, в том числе политическим штабам. Предполагается, что ее могла использовать команда Дональда Трампа во время выборов президента США в 2016 году.
В основе приложения лежал личностный тест, разработанный четырьмя исследователями из Университета штата Мичиган. Он дает исчерпывающую характеристику человеку по пяти параметрам: открытость, сознательность, экстраверсия, доброжелательность и невротизм. Тест сделан в виде утверждений, которым необходимо дать ответ в диапазоне от «это точно обо мне» до «это точно не обо мне». Пользователи оценивали десятки высказываний вроде: «Я неразговорчив», «Я скрываю свои эмоции», «Я редко чувствую грусть», «Я душа компании» и «Я почти не расстраиваюсь». Каждый, кто хоть раз заходил в интернет, проходил такие несерьезные тесты, но далеко не каждый знал, что их результат можно использовать, чтобы потом подтолкнуть человека к конкретному действию.
После того как информация о сливе стала достоянием общественности, руководству Facebook пришлось раскрыть, что именно им известно о каждом пользователе. Перечень данных оказался гигантским: у многих создалось ощущение, что соцсети хранят на серверах буквально каждый чих. В список отслеживаемых Facebook данных входят контакты, история СМС-сообщений, журнал звонков, использование камеры, имена и типы файлов на диске, установленные приложения, покупки на сайтах, движение мыши, уровень заряда батареи, свободное место на диске.
Соцсеть также собирает данные о ближайших точках Wi-Fi и сотовых вышках (и может отследить по ним человека), данные о мобильных операторах, считывает информацию с умных телевизоров. Кроме того, Facebook сохраняет метаданные обо всех фотографиях (например, время и место съемки). И это лишь та часть, которую раскрыли разработчики, — наверняка они знают о пользователях гораздо больше.
Слив этих данных наглядно показал, что история о создании алгоритмической ленты новостей для удобства пользователей — миф. На самом деле все действия разработчиков направлены на получение прибыли любыми способами — будь то персонализированная реклама или продажа данных о пользователях третьим лицам.
После скандала на Facebook обрушилась огромная волна негатива. Пользователи массово участвовали во флешмобе deletefacebook (свою страницу удалил даже глава Tesla и SpaceX Илон Маск), а рейтинг доверия к IT-гиганту упал до исторического минимума. По данным опросов, всего 41 процент американцев продолжили доверять детищу Цукерберга в вопросе обработки данных. Однако еще страшнее для Facebook оказалась угроза от трех тысяч рекламодателей, которые пообещали остановить всю рекламу, пока Цукерберг не объяснит ситуацию со сливом данных.
Руководству Facebook пришлось отреагировать. Спустя неделю после инцидента компания пообещала ограничить сторонним приложениям доступ к информации пользователей, включая данные о религиозной и политической принадлежности, личных отношениях, образовании и сфере работы.
Спустя год соцсеть представила инструмент для контроля над личной информацией: при желании пользователи могли отключить передачу данных третьим лицам. На словах такое решение выглядит довольно великодушным, но и здесь не обошлось без важных нюансов. Например, информация о пользователе продолжает собираться, хоть и в обезличенной форме. Да и отключить передачу данных смогли далеко не все: по данным исследования Pew Research, 74 процента пользователей даже не подозревали об этой функции. Другими словами, после нововведения ситуация никак не изменилась.
Почему разработчики спрятали эту возможность так глубоко в меню настроек? Чтобы люди нажимали ее как можно реже. Ведь чем меньше Facebook знает о своих пользователях, тем меньше дохода от них получит.
Оценить эффективность мер по защите пользователей сегодня довольно сложно, потому что все они крайне непрозрачны. В феврале 2019 года Цукерберг заявил, что планирует вложить в безопасность Facebook более 3,7 миллиарда долларов.
«Мы сейчас делаем шаги, которые не могли бы сделать еще несколько лет назад. Например, в этом году мы планируем потратить на безопасность больше, чем вся наша выручка во время нашего IPO (Initial Public Offering — первая публичная продажа акций)», — написал Цукерберг на своей странице.
3,7 миллиарда долларов — действительно большая сумма. Но это лишь 5 процентов годового дохода Facebook. И это даже меньше штрафа в 5 миллиардов долларов, который соцсеть выплатила Минфину США за утечку пользовательских данных.
На что пошли эти деньги? Об этом Цукерберг умолчал. Спустя два года сложно сказать, действительно ли это хоть как-то помогло улучшить безопасность социальной сети. К тому же в начале 2021 года произошла очередная крупная утечка информации о 533 миллионах пользователей Facebook.
Но собирать и обрабатывать данные о действиях пользователей алгоритм Facebook не перестал.
Очевидно, что алгоритмы соцсетей со временем стали настолько продвинутыми, что сегодня они уже полностью управляют тем, что видит, знает и чувствует пользователь. Влияние новых технологий наглядно иллюстрирует исследование Facebook 2014 года. Компания решила проверить, как изменится настроение людей, которым будут показывать специально подобранные новости. Почти 700 тысяч человек целую неделю участвовали в эксперименте, о котором даже не подозревали. Их разделили на две группы: одной показывали исключительно негативный контент, второй — только позитивный.
«Когда мы снижали долю позитивных сообщений в ленте, люди и сами начинали реже писать позитивные посты и чаще — негативные. Когда чистили ленту от негатива — наблюдалась обратная тенденция. Эти результаты свидетельствуют о том, что эмоции других пользователей Facebook влияют и на наши собственные эмоции», — рассказали авторы исследования. Любопытно, что изменения стали заметны уже через неделю. Несложно представить, что будет, если манипулировать людьми в течение нескольких лет.
Исследование вызвало шквал критики в адрес Facebook. Авторов эксперимента обвиняли в том, что они без разрешения тестировали алгоритмы на пользователях. Однако социологи не нарушали закон: при создании страницы в соцсети человек автоматически соглашается со всеми условиями, включая проведение подобных исследований.
Но куда важнее то, что опубликованный материал обнажил всю сущность алгоритмических лент. Так как они автоматически подбирают контент под каждого из 2,7 миллиарда пользователей, разработчики соцсетей физически не в силах ими управлять. А алгоритмы, в свою очередь, не в силах оценить и понять, какое влияние они оказывают на живых людей.
В 2018 году исследователи внутри Facebook выяснили, что алгоритмическая лента «использует склонность человеческого мозга к расколу». Специалисты пришли к выводу, что алгоритмы необходимо вовремя остановить, иначе они будут «кормить» пользователей все более опасным контентом ради того, чтобы завладеть их вниманием и максимально увеличить время пребывания на платформе. Так, социальная сеть активно распространяет посты с разжиганием ненависти и радикальными политическими взглядами, ведь именно такой контент вызывает самый бурный отклик.
Сотрудница Facebook, социолог Моника Ли отмечала, что алгоритмы платформы несут ответственность за рост количества экстремистских сообществ. «64 процента всех новых подписчиков экстремистских групп пришли из рекомендаций», — писала Ли. Однако руководство Facebook проигнорировало ее фундаментальное исследование, а предложения по улучшению ситуации остались только на бумаге. Вывод прост: «гуманизация» алгоритмов соцсетям невыгодна.
Бороться с влиянием социальных сетей можно одним способом — стать свободными, то есть перестать сидеть на этих платформах, считает Джарон Ланье, автор книги «10 аргументов удалить все свои аккаунты в социальных сетях». Любопытно, что Ланье — один из видных представителей Кремниевой долины, именно он придумал термин «виртуальная реальность». Однако регалии не мешают исследователю выступать против самого себя и коллег.
«Ваше сопротивление поможет нам освободиться. Я прошу не о противостоянии, а о помощи. Лучший способ помочь нам — не нападать на тех, кто может издалека манипулировать вами, а просто стать свободными. Это заставит их — нас — изменить направление и начать делать свое дело лучше», — пишет Ланье в своей книге.
По словам ученого, при отказе от соцсетей люди окажут разработчикам помощь, в которой они тайно нуждаются. Когда пользователи начнут массово отказываться от своих аккаунтов (хотя бы на время), платформам придется исправляться.
На сторону Ланье встали и другие исследователи, в свое время работавшие в крупнейших соцсетях. По словам бывшего этического специалиста по дизайну Google Тристана Харриса, IT-корпорациям не следует применять на живых людях модель по выкачиванию внимания. «Здоровое общество возможно только с отказом от этой разрушительной бизнес-модели», — заключает Харрис.
Главы социальных сетей стоят перед выбором: перестать уничтожать человечество и ослабить хватку алгоритмов или же усугубить ситуацию. Но первый вариант нанесет удар по их бизнесу — люди станут меньше смотреть рекламу, и доходы IT-корпораций упадут. На такой шаг платформы пойти не готовы: их вполне устраивает ситуация, при которой деньги зарабатывают алгоритмы. И неважно, что люди уже не в силах ими управлять.