Основатель «Рувики» Владимир Медейко заявил, что образовательный и IT-сектор стоят перед парадоксом: доступ к информации стал мгновенным, но доверие к ней упало до минимума. Нейросети, по его мнению, склонны к «галлюцинациям» — они уверенно генерируют вымышленные даты, события и биографии. Проблема «деградации кода знаний» из-за искусственного интеллекта — это не просто теоретический риск, а реальность, с которой уже столкнулись юриспруденция, наука и медиа.
Самым громким случаем, когда доверие к ИИ привело к профессиональному фиаско, по мнению Медейко, стал инцидент с адвокатом Стивеном Шварцем, который использовал ChatGPT для подготовки судебного иска. Нейросеть выдумала шесть судебных решений с цитатами и номерами дел, которых никогда не существовало. В академической среде также возник феномен, когда исследователи включают в свои работы ссылки на статьи, сгенерированные ИИ. Эти статьи выглядят правдоподобно (есть названия журналов и имена реальных ученых), но самих публикаций не существует.
Владимир Медейко убежден, что будущее отраслевых стандартов за гибридной моделью верификации данных, в которой ИИ будет выступать как агрегатор информации, а финальным фильтром станут профильные ученые и ведущие эксперты. Технологии, считает основатель «Рувики, минимизируют риски устаревания или субъективности материалов, как это происходит в проектах с волонтерской организацией работы. При этом, делая технологии своим союзником, необходимо оставлять контроль за экспертами с подтвержденной репутацией.
«В "Рувики" ИИ-сервисы становятся помощниками редакции в решении рутинных задач. Например, они анализируют ленты ведущих информационных агентств и автоматически вносят актуальные факты с валидацией в достоверных источниках. Рецензированием занимаются ведущие эксперты — от Российской академии наук, Российской государственной библиотеки, Государственного архива России до ведущих музеев и экспертных площадок», — рассказал Медейко.
Он добавил, что другие форматы энциклопедий постепенно будут уходить в прошлое: проекты, базирующиеся только на человеческом труде, будут проигрывать в скорости, а проекты исключительно на базе ИИ — терять в достоверности.
Гибридная модель верификации данных, убежден Владимир Медейко, важна не только для обучения общества, но и для обучения самих нейросетей. Проблема «мусора на входе» в эпоху больших языковых моделей перерастает из технического несовершенства в угрозу суверенитету. Если нейросети обучаются на глобальном нефильтрованном вебе, они могут впитывать когнитивные и даже исторические искажения, заблуждения и стереотипы.
«Образовательный сектор должен смещать акцент с нахождения информации (с этим ИИ справляется за секунды) на критическую оценку ее достоверности. Это должно стать базовым гражданским навыком, сопоставимым с умением читать и писать», — резюмировал основатель «Рувики».