Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

Обсудить
«Послать на хер — это не на фиг»
Филолог Анатолий Баранов о том, почему не следует запрещать матерные слова
Застрявший между жизнью и смертью
Посещение спортивного магазина обернулось жуткой трагедией
Такие родные
От пятерок в школе до перестрелки — как карьера чиновников рушится из-за семьи
Михаил Лабковский: «Язык без мата, как борщ без томата»
О намерении депутатов повсеместно запретить нецензурную брань
Ни поплавать, ни поездить
Самые странные санкции и неожиданные проблемы из-за них
Богемская рапсодия
Жертвоприношения, ритуалы и пьянство в самом закрытом мужском клубе США
Останки Карлоса КастаньоРоман с кокаином
В Колумбии ультраправые наркокартели невероятно жестоко расправляются с леваками
Ребенок преткновения
Как закончилось расследование резонансного дела «дедовского младенца»
Проклятие 5,45 и похороны «Гренделя»
Почему не могут создать идеальный автоматный патрон
Кричащая проблема
Как проданный мигрантами младенец стал сиротой при живых родителях
Анатомия дурмана
Как эволюционировала наркоторговля в России
«Остров брошенных жен и айтишников»
Рассказ дизайнера из Хабаровска, переехавшего на Кипр
Подвинься, миллениал
Пессимистичные оптимисты: что мы знаем о поколении иксенниалов?
 reaches up to the sky during the summer solstice at Stonehenge, near Salisbury in England, Tuesday, June 21, 2011. The ancient stone circle of Stonehenge is a World Heritage Site erected between approximately 3000BC and 1600BC and despite years of research the reason behind its construction remains a mystery. The summer solstice in the northern hemisphere occurs annually on June 21 and is the time at which the sun is at its northernmost point in the sky.Меч и мотоцикл
Зачем тысячи ведьм и друидов собрались возле Стоунхенджа
Папа накачался
Личный опыт: Тяжелый путь к мышцам и неотразимости для мужчин после 40 лет
Кто сделал первый кроссовер в мире
Вопрос – один, ответов – минимум семь. Кто же был первым?
Все... сошли с ума
Как в Баку прошла одна из лучших гонок в истории Формулы-1
Автомобильные братья, которых разлучили маркетологи
Одна марка, одна и та же модель, но очень разные машины
Самые качественные машины в мире
Машины каких брендов ездят в сервис реже остальных
Вите надо выйти
Соседи несколько лет травят москвича, который отказывается переселяться
Без свидетелей
Дома для тех, кто ненавидит соседей
Москва за нами
Какие квартиры можно купить в пределах МКАД по цене до трех миллионов рублей
Классовая борьба
На смену дешевым квартирам в Москве пришел новый вид жилья
Да катитесь вы
Семейная пара отказалась от квартиры и поселилась в автобусе