Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

Обсудить
Бегом в могилу
Мусульмане Мьянмы сотнями умирают от голода в грязи. О них все забыли
«Этим проклятым американцам мы еще покажем!»
Афганцы полюбили русских и возненавидели США
С видом на фюрера
Мечту Гитлера воплощают при Меркель, и немцы этому рады
Реджеп Тайип ЭрдоганВ спину не больно
Россия забыла обиды и взахлеб дружит с Турцией
«Евреи забили гвоздь в голову русскому человеку»
Шпионы КГБ обвиняли советских рокеров в победе мирового сионизма
Есть почитать че?
Библиотека как мир, гуки и геи в беде, сразу два Линча: топовый артхаус на 2A17
«Все хорошо, но раздели-то их зачем?»
Голые европейцы и другие достоинства современного театра
Не считая Чубакки
«Последние джедаи» наконец вдохнули жизнь в возрожденные «Звездные войны»
Poloвинка
Поездка на передней части будущего седана VW Polo для России
Чудо-Judo
Вспоминаем молодежный трансформер Nissan Judo, о котором все забыли
8 лимузинов, появление на свет которых сложно оправдать
Большие, длинные и чрезвычайно бесполезные
Погружение в кирпич
Мы посидели в новом «Гелике» и не узнали его. А потом вылезли – и узнали
«Меня не убили, просто развели»
Россиянка влюбилась по уши и лишилась жилья
Что-то встало за окном
Строения, вызывающие самые пошлые ассоциации
Его ворсейшество
Бессмертные ковры возвращаются на стены российских квартир
С собой не увезешь
Как живут российские олигархи за границей