Новая нейросеть Facebook начиталась разговоров пользователей и стала расистской

Новая система искусственного интеллекта Facebook (запрещенная в РФ соцсеть; принадлежит корпорации Meta, которая признана в РФ экстремистской и запрещена) имеет «высокую склонность» к расизму и предвзятости. Об этом сообщает Motherboard.

Исследователи искусственного интеллекта компании уличили нейросеть в том, что, используя большую языковую модель OPT-175B, даже при безобидном запросе она выдает «токсичные» результаты, которые усиливают расистские и сексистские стереотипы. Вероятно, это отчасти может быть связано с обучением нейросети на массиве нефильтрованного текста, взятого из разговоров в социальных сетях: это позволяет начитавшемуся ИИ как распознавать, так и генерировать язык ненависти.

Ранее стало известно, что Meta Platforms временно разрешит Facebook не блокировать призывы пользователей к насилию в отношении россиян, включая военнослужащих. Позднее пресс-секретарь Meta Энди Стоун (Andy Stone) признал факт снятия запрета. После этого первый зампредседателя комитета Госдумы по международным делам Алексей Чепа указал, что такое решение Meta является расизмом.

21 марта Тверской суд Москвы признал Meta экстремистской организацией, Роскомнадзор заблокировал Facebook на территории России.