Описана угроза кражи личных данных с помощью нейросети
Фото: Francois Lenoir / Reuters
Международная группа ученых описала возможность восстановления зашифрованных данных с помощью нейросети. Результаты работы описаны в препринтах в репозитории arXiv.
Об угрозе кражи личных данных рассказали специалисты Google, Национального университета Сингапура, Йельского колледжа и Орегонского государственного университета. Авторы исследования зашифровали личную информацию в тексте с помощью нейросети, но оставили часть данных нетронутыми. На основе имеющейся информации нейросеть может обратно восстановить скрытые данные.
В качестве примера исследователи привели предложение «Номер социального страхования Джона Смита — ???-????-???». По знаками вопросы авторы скрыли 10-значное число. По словам специалистов, если злоумышленники будут знать, на какие модели опиралась нейросеть, когда зашифровывала числовые данные, они могут получить информацию обратно.
«Языковые модели учатся автозаполнять предложения — они с большей вероятностью заполняют пробелы в данном вводе словами, которые наиболее тесно связаны друг с другом, которые они видели в наборе данных», — объяснили ученые.
Чтобы продемонстрировать уязвимость, авторы попытались извлечь шестизначное число из зашифрованного предложения с помощью нейросети. Обученная модель выдала им правильный ответ после 230 запросов. По словам специалистов, это примерно в 39 раз быстрее, чем требовалось бы злоумышленникам, если бы они использовали обычные методы расшифровки.
В июне 2021 года инженерам Toshiba рассказали, что им удалось отправить квантовую информацию по оптическому волокну длиной 600 километров и установить новый рекорд. Данные были зашифрованы с помощью технологии квантового распределения ключей (QKD).