Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

Обсудить
Demonstrators take part in a protest aimed at showing London's solidarity with the European Union following the recent EU referendum, inTrafalgar Square, central London, Britain June 28, 2016. REUTERS/Dylan Martinez TPX IMAGES OF THE DAYСпасет ли уход Меркель Европу?
Свое 60-летие Европейский союз встречает в состоянии экзистенциального кризиса
Participants attend a gay pride parade in central Istanbul June 30, 2013. Tens of thousands of anti-government protesters teamed up with a planned gay pride march in Istanbul. Crowds were stopped by riot police from entering Taksim, the centre of previous protests, but the atmosphere appeared peacefulОпасное интернет-проникновение
Грозит ли подъем геев-мусульман исламскому миру
Displaced people from the minority Yazidi sect, fleeing violence from forces loyal to the Islamic State in Sinjar town, walk towards the Syrian border, on the outskirts of Sinjar mountain, near the Syrian border town of Elierbeh of Al-Hasakah Governorate August 11, 2014. Islamic State militants have killed at least 500 members of Iraq's Yazidi ethnic minority during their offensive in the north, Iraq's human rights minister told Reuters on Sunday. The Islamic State, which has declared a caliphate in parts of Iraq and Syria, has prompted tens of thousands of Yazidis and Christians to flee for their lives during their push to within a 30-minute drive of the Kurdish regional capital Arbil. Picture taken August 11, 2014. REUTERS/Rodi Said (IRAQ - Tags: POLITICS CIVIL UNREST TPX IMAGES OF THE DAY) FOR BEST QUALITY IMAGE ALSO SEE: GM1EA8M1B4V01Дважды отверженные
Почему от женщин, вырвавшихся из плена боевиков, отворачивается общество
Китайский интерес
Пекин желает смерти уйгурским боевикам в Сирии, но вмешиваться в войну не готов
Все там будем
Почему невозможно уберечься от рака
Кровавое воскресенье 22 января 1905 года«Идиоты говорят, что Россию погубил заговор»
Почему революция 1917 года была неизбежна
«Это было волшебно!»Дефект массы
Как продолжение культовой серии Mass Effect стало одной из худших игр в истории
Старт ракеты с Dream Chaser — кораблем компании Sierra Nevada (в представлении художника)Еще батуты
Как американские компании опережают Россию в сфере пусков ракет
Пижон Джон
Дикий сэр Элтон, каким его уже мало кто помнит
«Главное — убедить людей, что они счастливы»
Джон Стейнбек и Роберт Капа о советских застольях, писателях и правительстве
Девочки кровавые в глазах
Кино недели с Денисом Рузаевым: от «Манчестера у моря» до «Демона внутри»
Под «Грибами» тает лед
Самая навязчивая песня сезона — во всех мемах страны
Очень страшные «Рейндж Роверы»
Самые жуткие варианты тюнинга автомобилей Land Rover
Пиджак и боб
Самое крутое автомобильное видео марта
Самые необычные ДТП
Автомобили на крышах, в бассейнах и другие непонятные аварии, достойные премии
Пластиковый BMW, о котором все забыли
Автомобиль-памятник смелым идеям немецкой компании
Бог простит
В церкви нашли квартиру с красной мебелью и портретами в стиле поп-арт
Фрэнк ГериСпугнули рыбу
Почему антисемиты изгнали из Канады создателя «танцующего дома»
«Наш дом — колония строгого режима»
История семьи, оказавшейся на грани распада из-за дачи
Цветам не место в доме
Почему дети мешают взрослым жить счастливо в собственных квартирах