«Используем ИИ в безопасности десять лет» Директор «Авито» по работе с данными рассказал о защите пользователей

«Авито» является самой большой площадкой для размещения объявлений в России. Чем больше сервис, тем больше к нему внимания — в том числе от злоумышленников. О том, как компания сохраняет безопасность своих клиентов, используя искусственный интеллект, о цифровой гигиене и образовательных проектах рассказал в интервью «Ленте.ру» на ПМЭФ старший директор «Авито» по данным Андрей Рыбинцев.

«Лента.ру» Почему для «Авито» так важен вопрос безопасности пользователей и что вы делаете для ее повышения?

Андрей Рыбинцев: «Авито» знакомит покупателей с продавцами, то есть разных участников сделки друг с другом. И, как в любом знакомстве, вопрос безопасности и доверия очень важен. Это основа развития нашего бизнеса. Мы хотим, чтобы наш бизнес был самым безопасным, поэтому компания инвестирует в безопасность большие деньги, больше пяти миллиардов в год — на развитие технологий, продуктов и других сервисов для защиты сделок. Вся суть кроется именно в базовой механике: мы знакомим участников сделки, и они должны быть уверены друг в друге.

А какие технологии защиты от злоумышленников вами используются?

Можно выделить два больших направления. Первое — это «подкапотные» технологии, которые скрыты от пользователей. Там работают в основном технологии искусственного интеллекта. Алгоритмы оценивают поведение пользователей и таким образом находят потенциальных злоумышленников раньше, чем они успели нарушить правила. Например, когда появляется новый аккаунт и по поведению или каким-то другим признакам он очень похож на предыдущие три, которые уже были заблокированы за попытки сделать что-нибудь плохое, — модель это увидит. Мы сразу отправляем его на дополнительную проверку. Алгоритмы работают также в нашем мессенджере, реагируя на триггеры. Алгоритмы смотрят: вот сейчас отправляется ссылка. А вдруг она фишинговая? Если так, то она будет заблокирована, и пользователь, который ее отправил, тоже. Автоматически, без участия людей, быстро, надежно. То есть «подкапотная» часть с помощью алгоритмов помогает найти потенциально «плохое» поведение прежде, чем случилось какое-то ЧП.

А вторая часть?

Вторая часть нашей работы над безопасностью, наоборот, визуальная. Мы даем пользователям подсказки, как заключить сделку безопасно. На каждом этапе пользовательского пути мы стараемся дать какую-то безопасную опцию. Вот человек пришел на платформу. Мы ему говорим: «Ты создал аккаунт. Защити его двухфакторной аутентификацией. Тогда все твои данные будут в сохранности». Отлично — он подключил, защитил. Дальше пользователь начинает искать какой-нибудь товар, или услугу, или работу — много чего можно найти на «Авито». Мы ему в первую очередь в поисковых выдачах и рекомендациях будем показывать проверенных продавцов. Чтобы пользователь мог убедиться, что эти продавцы хорошие, мы создали специальные цифровые бейджи, в которых показываем преимущества заключения сделки с конкретным продавцом. Например, этот верифицировался по документам, то есть он реально существует. А вот этот помимо верификации прошел еще дополнительную проверку от «Авито». Еще один популярный траст-фактор — это рейтинг. Продавцы с высоким качеством сервиса, получают хорошие отзывы, из которых складываются хорошие рейтинги. Кстати, интересно, что рейтингу 4,9 доверяют больше, чем рейтингу 5,0. Ну это так — забавный факт.

А что происходит между продавцом и покупателем дальше?

Когда первоначальный выбор сделан, идет обсуждение условий потенциальной сделки. Для этого у нас есть своя онлайн-телефония, встроенная в приложение, есть свой мессенджер. Внутри этих каналов мы защищаем данные, в мессенджере дополнительно защищаем от фишинга, фрода. В тех случаях, когда мы можем помочь провести сделку внутри платформы, мы предлагаем это сделать. Например, «Авито.Доставка» — это супербезопасный способ купить любой товар, потому что точно никто не потеряет деньги — ни продавец, ни покупатель. Если что-то пойдет не так, «Авито» выплатит компенсацию. Онлайн-бронирование работает по тому же принципу: если забронированная квартира тебе не подошла, ты можешь вернуть предоплату.

На каждом этапе мы подсвечиваем безопасные опции. Мы говорим: обрати внимание, пользователь, так безопасно.

Каких неприятностей в целом чаще всего боятся люди?

Чего боятся пользователи? В первую очередь — потерять деньги или время. Потерять деньги — понятно: когда заплатили, но ничего не получили. Потерять время — это ситуация, когда обещали одно, а по факту получили другое. Например, если при покупке квартиры, машины, при оказании услуг ожидания и реальность не совпали. Наша задача как площадки — сделать так, чтобы никто не терял деньги и чтобы как можно реже случались эпизоды некорректных ожиданий и потери времени.

Здесь, конечно, необходим хотя бы минимальный уровень знаний в сфере цифровой безопасности. А кто в зоне риска и как предотвратить действия злоумышленников?

Это хороший вопрос, потому что технологии в принципе сложно взломать. Намного проще взломать психику человека. И почти все злоумышленники так или иначе прибегают к техникам социальной инженерии: методами хитрых манипуляций втираются в доверие и убеждают пользователей делать ровно то, что им нужно. Причем такие методики есть для любого возрастного или профессионального сегмента. То есть можно найти подход и к пенсионеру, и к школьнику, и к топ-менеджеру, и к рабочему. К любому можно подобрать скрипт, чтобы он сделал какую-то ошибку и потерял деньги. Поэтому здесь, какими бы ни были технологии, нужно заниматься образованием. И вот базовые правила цифровой гигиены, к сожалению, все еще, несмотря на 2024 год, не все знают. Интересный факт, что современная молодежь более самоуверенная и чаще считает, что у них все под контролем, чем старшие люди. Все наши исследования это подтверждают.

А как вы просвещаете подрастающее поколение? Есть ли у «Авито» какие-нибудь образовательные проекты для повышения уровня цифровой грамотности молодежи?

Мы фокусно делаем много программ именно для детей, чтобы с ранних лет прививать правила цифровой гигиены. Например, мы создали партнерский курс «Безопасный интернет» для школьников в партнерстве с «ЛизаАлерт». Также в прошлом году мы стали партнерами «Цифрового диктанта», в котором был отдельный блок вопросов для школьников. Кроме того, мы участвуем проекте «Цифровой ликбез», запустили там собственный сезон про безопасность в интернете. И еще у нас есть своя онлайн-игра «Стражи Авито», где в игровой механике мы рассказываем о принципах безопасности и цифровой гигиены. Ее прошли больше 800 тысяч человек. И наша практика показывает, что игровые механики реально помогают вовлечь детей в процесс получения информации, потому что их непросто заинтересовать традиционными форматами контента, особенно когда речь идет про безопасность. Им непонятно, что это такое: они думают, что сами все знают, а на самом деле — нет. Так что игра — это большой успех, и к ее созданию мы привлекали самих ребят, школьников и студентов, победителей олимпиад по информатике, чтобы она получилась максимально интересной.

На чем построена система безопасности «Авито» и чем конкретно занимаетесь вы?

Основная моя деятельность связана с обработкой данных. Я отвечаю за все, что связано с накоплением, обработкой данных и построением алгоритмов на основе данных. Сейчас, в последние годы особенно, стало безумно модно говорить про использование искусственного интеллекта. Мы в «Авито» используем искусственный интеллект для повышения уровня безопасности с 2014 года. То есть для нас это не последнего года тренд, для нас это уже давно стало нормой. И именно за счет наших алгоритмов искусственного интеллекта мы смогли за прошедшие четыре года снизить жалобы на обман примерно в 100 раз.

Это очень хороший показатель. А вообще какими проектами вам наиболее интересно заниматься? Чем гордитесь?

Наш антифрод. В свое время я занимался его разработкой, а теперь он стал определенным эталоном для рынка. Наверное, это самый масштабный проект, который я делал и которым лично я горжусь. И второй, наверное, по масштабу проект касается безопасного общения, потому что мы первые в России, да и, возможно, в мире сделали безопасный контур для общения в таких масштабах. То есть пользователь, даже продавая валенки или какой-нибудь совсем недорогой товар, получает от нас защищенный номер, через который проводит звонки, чтобы его настоящий номер не утек в сеть и им не воспользовались злоумышленники, и другие опции для безопасного общения. Это по-настоящему масштабный проект, который еще никто не повторил.