Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

Обсудить
Наука и техника
 — 
00:01 Сегодня
A cold water immersion experiment at Dachau concentration camp presided over by Professor Ernst Holzlöhner (left) and Dr. Sigmund Rascher (right). The subject is wearing an experimental Luftwaffe garment

Птичку жалко

Почему нацисты защищали права животных и уничтожали людей
Каждое третье убийство
Центральную и Южную Америку захлестнула волна насильственных преступлений
Неудачное начало
Чем запомнятся первые 100 дней правления Дональда Трампа
Владимир Путин и Синдзо Абэ«Мы с Владимиром хотим идти рука об руку»
Из десятков намеченных планов Абэ и Путин пока готовы реализовать только один
Как живется Микки-Маусу в КНДР
Что представляет собой поп-культура Северной Кореи
Приоткрытый авангард
Почему выдающееся искусство XX века нужно искать в провинции
Талантливый мистер Демме
Фильмы, которыми запомнится режиссер Джонатан Демме
Искатели растерянных женщин
Кино недели с Денисом Рузаевым: от «Затерянного города Z» до «Идеаля»
Придумали тоже
Gorillaz и другие группы, которых не было
«Скотина тупая! Я тебя больше не знаю»
Как на радио швыряются стаканами и обмениваются оскорблениями
Не брат ты мне...
Как популярные интернет-сервисы унижают чернокожих и азиатов
Пацан к успеху шел
Обиженный на весь мир школьник изобрел идеальное оружие против Sony и Microsoft
Три алмаза за клубничку
Азиаты тратят последние деньги на трансляции с обнаженными дамами
Брить или не брить
Поклонницы натуральной красоты массово отказываются от эпиляции
CULVER CITY, CA - NOVEMBER 12: Founder, Snapchat Evan Spiegel (L) and model Miranda Kerr attend the Fifth Annual Baby2Baby Gala, Presented By John Paul Mitchell Systems at 3LABS on November 12, 2016 in Culver City, California. (Photo by Tommaso Boddi/Getty Images for Baby2Baby)Триумф ботана
Самый престижный жених современности — IT-магнат
«Американцы — радостный народ»
Рассказ москвича, переехавшего в Сан-Франциско
Мама — марихуана
Зачем американки совмещают употребление наркотиков с воспитанием детей
Очеловеченный фургон
Длительный тест стильно-пассажирского VW Multivan
ОСАГО надо?
Автомобильные аварии, превращенные в искусство
Самые крутые локомобили
Машины, которые ездят по рельсам
Самые выдающиеся французские машины
10 автомобилей из Франции, ставших культовыми
Чудеса селекции
Что получится, если скрестить квартиру с дачей: опыт россиян
Шведы поневоле
Исповедь россиянина, живущего в групповой семье
Добро пожаловать в рай
Жилье в Крыму: новую квартиру на полуострове можно купить за миллион рублей
Сносное настроение
Демонтаж жилых домов в Москве: что нужно знать
Вышка светит
Как выглядит частный особняк, побивший мировой рекорд этажности