В медиацентре РОЦИТ состоялось заседание комиссии по новым медиа, посвященное вопросам использования искусственного интеллекта (ИИ) в социальных сетях. Эксперты обсудили влияние генеративных технологий на регулирование, подходы к модерации и вызовы в сфере прав человека.
Встречу открыл председатель правления РОЦИТ, заместитель председателя комитета Госдумы по информационной политике Антон Горелкин. Он отметил, что ИИ уже активно используется в цифровой среде — в первую очередь в рекомендательных алгоритмах. Однако его применение расширяется, охватывая модерацию контента, выявление фейков и борьбу с дипфейками.
«Многие интернет-сервисы используют нейросети для модерации, выявления фейковых аккаунтов, персонализации опыта. Но появляются задачи, которые невозможно решить без ИИ, например, борьба с дипфейками. Платформы должны внедрять инструменты для распознавания контента, созданного нейросетями, и предупреждать об этом пользователей. Важно сохранять баланс между автоматизацией и человеческим контролем, чтобы нейросеть не нарушала права людей», — отметил Горелкин.
Основатель деловой социальной сети TenChat Семен Теняев подчеркнул, что данные, на которых обучаются нейросети, являются стратегическим ресурсом и должны оставаться внутри страны. По его словам, регулирование в этой сфере необходимо ужесточить: «Данные — это виртуальный рудник, и его разрабатывают наши граждане. Но эти данные уходят за границу и становятся основой для развития чужих ИИ-систем».
Генеральный директор социальной сети LOOKY Анна Баринова рассказала, что ее платформа использует ИИ для создания контента самими пользователями. «ИИ — это, в первую очередь, помощник для нашей аудитории. Встроенная нейросеть позволяет создавать видео или изображения по тексту, нейрофильтры обрабатывают фото, а умные боты придумывают сценарии роликов и тексты для постов», — отметила Баринова.
Директор по работе с контентом RUTUBE Илья Емелин сообщил, что ИИ обрабатывает около 80 процентов текстовой информации на платформе, что позволяет снижать нагрузку на модераторов. «В 2023 году мы заблокировали примерно миллион единиц контента, а в 2024 году — около трех миллионов. Это связано с ростом объема загружаемого видео. Сейчас наша библиотека насчитывает более 330 миллионов видео и продолжает расти», — заявил Емелин.
Заместитель генерального директора интернет-энциклопедии РУВИКИ Елена Литовченко добавила, что ИИ помогает агрегировать информацию и упрощает работу редакции, но сохраняются риски, связанные с качеством и достоверностью данных.
Исполнительный директор по медиа Rambler&Co Андрей Цыпер отметил, что авторы и ИИ могут гармонично функционировать вместе, создавая синергетический эффект.
«Авторы активно используют искусственный интеллект для быстрой проверки орфографии или саммаризации текста — то есть краткого изложения его сути. Более того, нейросети с каждым днем все лучше обучаются, значит, процент искажения информации со временем может сильно снизиться», — заявил Цыпер.
Он подчеркнул, что сотрудничество контентмейкеров и искусственного интеллекта будет только укрепляться: «Несмотря на то, что ИИ продолжит интеграцию в различные сферы нашей повседневной жизни, технологии, конечно же, не заменят авторов, но при этом смогут существенно повысить их производительность и качество работы. Когда мы сможем полноценно доверять искусственному интеллекту, у журналистов появится возможность больше времени уделять поиску эксклюзивной информации и сбору мнений экспертов».
Эксперт РОЦИТ Алексей Парфун указал на важность инвестиций в подготовку специалистов в сфере ИИ, подчеркнув сильные позиции российской математической школы. Эксперт Тимофей Ви обратил внимание на влияние ИИ на медиапотребление, выразив обеспокоенность тем, сколько времени люди тратят на просмотр контента, который не приносит реальной пользы.
Медиааналитик Павел Пряников напомнил о рисках, связанных с дипфейками, отметив, что платформы должны предупреждать пользователей о контенте, созданном с помощью ИИ. Журналист Илья Гогуа отметил, что ИИ уже активно используется в информационных войнах, в частности на YouTube, который продвигает выгодную для себя повестку с помощью рекомендательных алгоритмов.
Медиаэксперт Евгений Клещ предложил выработать стандарты использования ИИ в креативных индустриях, чтобы нейросети не превращались в инструмент создания информационного шума.
Эксперты РОЦИТ согласились с необходимостью регулирования использования ИИ в социальных сетях и поиска баланса между автоматизацией и контролем со стороны человека.