Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

подписатьсяОбсудить
00:03 25 августа 2016
Вид с Proxima b на Проксиму Центавра (в представлении художника)

Внесистемная позиция

У ближайшей к Солнцу звезды открыли «вторую Землю»
Владимир Путин и Дмитрий Медведев во время совместного завтрака в резиденции «Бочаров ручей»Политическая кухня
Еда, посуда и повара кремлевского двора
Где золото моют
Репортаж «Ленты.ру» с золотого прииска в Якутии
«"Реальные пацаны" — у нас таких нет»
Первый рэпер Якутии о шаманах, фольклоре и особенностях национального характера
Сергей Миронов, Геннадий Зюганов, Владимир Жириновский (слева направо)«Может, сразу ему в рожу дам»
Чем угрожают друг другу кандидаты в депутаты
Шершавый бог
Раскрыто значение вызываемых ЛСД видений
Лабиринты смерти
Что скрывают древние и загадочные катакомбы Парижа
Вид с Proxima b на Проксиму Центавра (в представлении художника)Внесистемная позиция
У ближайшей к Солнцу звезды открыли «вторую Землю»
А если найду?
Наличие инопланетных форм жизни на «второй Земле» теоретически обосновали
«Муля, не нервируй меня!»
Тест: знаете ли вы Фаину Раневскую
«Давай убьем детей и будем жить долго и счастливо»
Джулиан Барнс о жизни в СССР, Сталине, Хрущеве и Шостаковиче
Галерея Тотибадзе - совместный проект известных московских художников Константина и Георгия Тотибадзе«Для галерейного дела простого времени не бывает никогда»
Марина Цурцумия о том, зачем городу нужны галереи «шаговой доступности»
Любовь и служба
Кинопремьеры недели от «Служанки» до «Не дыши»
Искала себя
Как менялась Земфира — в 15 фотографиях
Ху из Ху
Откуда растут корни китайских брендов
Собаки и коты
Самое крутое автомобильное видео августа
Равно правые
Длительный тест четырех компактных кроссоверов
Новые «Лады»
Вседорожная «Веста», спортивный XRay и другие премьеры «АвтоВАЗа» на ММАС
Дно Олимпиады
Проблемы Рио похлеще допингов и переломов
«Я не позволяла себе ничего, каждая копейка уходила на кредит»
Рассказ россиянки, купившей не одну квартиру при зарплате в 40 тысяч рублей
Камерная дача
10 фактов о доме в Форосе, ставшем тюрьмой для Горбачева
До чего докатились
Как выглядят лица людей, съехавших с небоскреба
Бабушкино наследство
Вся недвижимость кандидата в президенты США Хиллари Клинтон