Компания Meta, которая владеет Facebook и Instagram, совместно с британской горячей линией Revenge Porn Helpline запустила платформу по борьбе с распространением интимных фотографий в интернете. Для обнаружения такого контента компания предложила пользователям высылать свои снимки. Об этом сообщается в пресс-релизе компании.
«Если кто-то обеспокоен тем, что их интимные изображения были опубликованы или могут быть размещены в социальных сетях, таких как Facebook или Instagram, они могут создать заявку на StopNCII.org, чтобы оперативно их обнаружить», — сообщается в пресс-релизе.
Meta предлагает пользователям, чьи фотографии или видео интимного характера могли попасть в Instagram или Facebook без их согласия, выбрать файлы, которые система смогла бы оперативно удалить. В компании утверждают, что исходное изображение останется на устройстве пользователя, его никуда не загрузят и не будут передавать.
Для этого файл закодируют без возможности восстановления его оригинального содержания. После его загрузки необходимо будет создать уникальный PIN, по которому можно будет отслеживать статус проверок. Отмечается, что оставить заявку на платформе могут только пользователи старше 18 лет.
Такая функция будет доступна в случае, если фотографии идентичны исходному файлу. Если к снимку применили фильтр или откадрировали, алгоритм может не распознать его. Для таких изображений нужно создавать новую заявку.
В компании технологию начали тестировать в 2017 году в Австралии. Тогда нужно было отправлять свои снимки в чате Messenger, но файлы отсматривали другие люди и самостоятельно кодировали их. Как отмечала руководитель службы безопасности Meta Антигона Дэвис, изображения были доступны для «очень маленькой группы из около пяти специально обученных аналитиков».