Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

Обсудить
Наука и техника
 — 
13:52 21 февраля 2017
Александр Шестаков

«В развитии главное — масштаб цели»

Интервью с ректором ЮУрГУ Александром Шестаковым о науке, образовании и развитии
Мило ДжукановичИнтриги Черной Горы
Зачем Подгорица обвиняет Москву в попытке переворота
Виталий ЧуркинМаэстро дипломатии
Накануне своего дня рождения скончался постпред России при ООН Виталий Чуркин
Real estate magnate Donald Trump waves as he leaves a Greater Nashua Chamber of Commerce business expo at the Radisson Hotel in Nashua, New Hampshire, May 11, 2011. Trump suggested Wednesday it's not much fun flirting with the idea of running for president in the face of relentless attacks and ridicule. REUTERS/Don Himsel/Pool (UNITED STATES - Tags: POLITICS)Прощание с иллюзией
Почему Трамп не мог оправдать надежд на нормализацию отношений с Россией
Закат Запада
В Мюнхене самые влиятельные политики мира похоронили старый мировой порядок
Натянуть уши на нос
Шесть необычных поводов для обращения к пластическому хирургу
DATE IMPORTED:July 26, 2008Cambodian ride on a van leaving Phnom Penh city for their hometown, at a bus station July 26, 2008 for voting day tomorrow. Cambodia is due to hold a general election on July 27. «Тут во всем винят русских»
История уроженки Ростова-на-Дону, переехавшей в Камбоджу
Мусорщик в ИндииУ каждого дела запах особый
Daily Mail выбрала самые отталкивающие профессии в мире
Счастливы порознь
В США и Европе вошло в моду превращать развод в праздник
Тест: Самые безумные ПДД
Трудный тест на знание правил дорожного движения разных стран
Как купить Жигули в Америке
Пять реальных объявлений о продаже «нашемарок» в США
10 заброшенных суперкаров
Вызывающие боль фотографии великолепных автомобилей
Вырви глаз
15 слишком эпатажных проектов известных тюнинг-ателье
Бог простит
В церкви нашли квартиру с красной мебелью и портретами в стиле поп-арт
Дворянское гнездо
Один из самых шикарных в мире домов нашли в диком лесу
«Пусть меня захоронят в отравленную, но родную землю»
Почему люди отказываются покидать чернобыльскую зону: реальные истории
Поставили баком
Англичане сделали идеальный дом из резервуара для воды