Интернет и СМИ

Новая нейросеть Facebook начиталась разговоров пользователей и стала расистской

Motherboard: разработчики уличили нейросеть Facebook в склонности к расизму

Фото: Dado Ruvic / Reuters

Новая система искусственного интеллекта Facebook (запрещенная в РФ соцсеть; принадлежит корпорации Meta, которая признана в РФ экстремистской и запрещена) имеет «высокую склонность» к расизму и предвзятости. Об этом сообщает Motherboard.

Исследователи искусственного интеллекта компании уличили нейросеть в том, что, используя большую языковую модель OPT-175B, даже при безобидном запросе она выдает «токсичные» результаты, которые усиливают расистские и сексистские стереотипы. Вероятно, это отчасти может быть связано с обучением нейросети на массиве нефильтрованного текста, взятого из разговоров в социальных сетях: это позволяет начитавшемуся ИИ как распознавать, так и генерировать язык ненависти.

Ранее стало известно, что Meta Platforms временно разрешит Facebook не блокировать призывы пользователей к насилию в отношении россиян, включая военнослужащих. Позднее пресс-секретарь Meta Энди Стоун (Andy Stone) признал факт снятия запрета. После этого первый зампредседателя комитета Госдумы по международным делам Алексей Чепа указал, что такое решение Meta является расизмом.

21 марта Тверской суд Москвы признал Meta экстремистской организацией, Роскомнадзор заблокировал Facebook на территории России.

Лента добра деактивирована.
Добро пожаловать в реальный мир.