Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

подписатьсяОбсудить
01:00 23 сентября 2016

Ответили за козла

Похитителю мужских трусов и любителю резвых козочек вручили Шнобелевскую премию
00:01 Сегодня

Башку с плеч!

Раскрыты подробности первой успешной операции по пересадке головы
00:01 19 сентября 2016
Готовящаяся к вспышке звезда Эта Киля в центре туманности Гомункул

Яркая смерть

Когда вспышка сверхновой уничтожит жизнь на Земле
MOBILE, AL- AUGUST 21: Republican presidential candidate Donald Trump greets supporters after his rally at Ladd-Peebles Stadium on August 21, 2015 in Mobile, Alabama. The Trump campaign moved tonight's rally to a larger stadium to accommodate demand. (Photo by Mark Wallheiser/Getty Images)«Мы были уверены, что Трамп — это просто клоун»
Политконсультант-республиканец о несбывшихся прогнозах и о будущем партии
Люди, живущие над войной
Деревенская глубинка сражающегося Йемена
Ангела МеркельЖизнь невозможно повернуть назад
Станет ли миграционный кризис для Меркель тем же, чем Brexit для Кэмерона
Иран освобожденный
Почему снятие санкций не привело к резким переменам в жизни Исламской Республики
Пошарить по карманам
Определены главные угрозы доходам россиян в ближайшие три года
«Нас ожидает девальвация рубля»
Дефицитный бюджет наполнят за счет населения
Цепи для собственников
Что может дать блокчейн российской экономике
Brexit в Китай
Как инвесторы из КНР захватывают Великобританию
Ответили за козла
Похитителю мужских трусов и любителю резвых козочек вручили Шнобелевскую премию
Башку с плеч!
Раскрыты подробности первой успешной операции по пересадке головы
Перемога!
Какой оказалась главная украинская стратегия
Потрачено!
Как пираты переводили компьютерные игры
С поганой метлой
Какие тайны инквизиции скрывает легендарный «Молот ведьм»
Олег Знарок (на втором плане) и Николай Кулёмин, Евгений Кузнецов и Евгений Дадонов (слева направо на первом плане) Похороните меня за кленом
Как Россия проиграла в принципиальном матче Канаде и вылетела из Кубка мира
Виталий МуткоДетали туалета
Мутко переизбран президентом РФС на фоне задержания главы ВОБ Шпрыгина
«Если "Спартак" сдаст позиции, Хабаровск Каррере припомнят»
Бывший форвард сборной России — о промежуточных итогах розыгрыша Кубка страны
Курортный стон
Чем грозит Крыму введение туристического налога
Не только пиво
Чем заняться туристу в северной Германии
Гонка трех фрегатов
Рассказ о втором этапе Черноморской регаты больших парусников
Уик-энд в стиле эконом
Лучшие туры до пяти тысяч рублей на выходные
Не ЗОЖ, но хорош
В Instagram полюбили ироничный аккаунт противницы правильного питания
«Корейцы пьют даже больше русских»
История жителя Владивостока, поселившегося в Сеуле
Мамин жим лежа
10 звезд Instagram, которые вернулись в форму после беременности
«Барби шайтан выдумал!»
Пластиковую блондинку хотят запретить в России
Разводка и девичья фамилия
Топ-15 лженовостей о звездах, которые СМИ повторяют из года в год
Джимхана и тиранозавр
Самое крутое автомобильное видео сентября
Ядовитый гараж
Собираем гербарий уникальных и тайных творений BMW Motorsport
С мотором в багажнике
Вспоминаем заднемоторные седаны в честь юбилея Skoda 105/120/125
Джентльмены, покупайте ваши моторы!
Непростой Тест: чьи двигатели стоят на спорт- и суперкарах?
Стенка на стенку
Джоконда, покемон и Корлеоне с Чебурашкой — лучшее от уличных художников Москвы
«За годы ожидания мы выдохлись. Живем сейчас где попало»
История покупателей жилья, заселенных в недостроенные дома в Подмосковье
«Мне угрожали, обещали закатать в асфальт»
История валютной ипотечницы, которая прошла оба кризиса и ни о чем не пожалела
Что-то пошло не так
Как выглядят населенные насекомыми города, жизнь без неба и море над головой
Кто купил Америку
Десять человек, которым на самом деле принадлежат земли США