Наука и техника
14:13, 14 октября 2024

Советы нейросети Microsoft оказались опасны для жизни

Половина советов нейросети Microsoft относительно здоровья оказалась опасной
Андрей Ставицкий (Редактор отдела «Наука и техника»)
Фото: Unsplash

Немецкие ученые оценили пользу искусственного интеллекта (ИИ) и чатботов в предоставлении медицинских консультаций. Об этом сообщает издание Scimex.

Узнайте больше в полной версии ➞

Специалисты Университет имени Фридриха — Александра в Эрлангене и Нюрнберге (Германия) в середине октября поделились предварительными результатами научной работы. Чтобы оценить пользу ИИ, они использовали нейросеть Copilot от Microsoft, встроенную в Windows. Медики оказались несогласны примерно с половиной медицинских советов, которые Copilot предлагал пользователям.

В ходе тестирования ученые задали чат-боту 10 популярных вопросов, касающихся 50 лекарственных препаратов, получив в общей сложности 500 запросов. Выяснилось, что лишь 54 процента ответов соответствовали научному консенсусу, а значительная часть из них предоставляла опасность для здоровья и жизни.

Из неверных ответов 42 процента советов приводили к легкому или среднему вреду, 22 процента — летальному исходу. Лишь 36 процентов из неверных ответов нейросети были признаны безвердными.

«Несмотря на потенциал ИИ, для пациентов по-прежнему важно консультироваться со своими врачами — живыми специалистами», — подчеркнули ученые.

В июне специалисты Массачусетской больницы общего профиля (США) рассказали о пользе ИИ при проведении операций. В ходе исследования новые технологии помогли предотвратить 95 процентов врачебных ошибок.

< Назад в рубрику