Хотите видеть только хорошие новости?

Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

Обсудить
00:04 16 января 2017

Натуральный звук

Как революция в мире беспроводных наушников меняет привычную реальность
Face masks depicting Russian President Vladimir Putin and U.S. President-elect Donald Trump hang for sale at a souvenir street shop in St.Petersburg, RussiaВеликий и ужасный
Почему пресса Британии и США демонизирует образ Путина
Министр обороны Саудовской Аравии принц Мухаммед объявляет о создании блокаНАТО с Кораном и гуриями
Саудовская Аравия строит собственный военный блок
People walk past the walls of Jerusalem's Old City lit in blue, white and red, colours of the French flag, in solidarity with Paris, in Jerusalem November 15, 2015Французский исход
Что заставляет евреев бежать из Пятой Республики в Израиль
Монастырь Мар Маттай«Саддам покончил бы с этим бардаком за пару недель»
Рассказ монаха древнего иракского монастыря о жизни по соседству с террористами
Лошадиные силы
Мустанги, воспитанные за решеткой, несут службу на границе
Задавить натурой
Мошенничество автоюристов пресекут натуральной компенсацией по ОСАГО
От 200 и выше
Может ли рост цен на водку снизить ее потребление
Триллион из продуктовой корзины
Российские ретейлеры подсчитали прошлогоднюю выручку
Ничего личного
О причинах закрытия печатных медиа
Морозный рейс
Как авиакомпании решают проблему нелетной погоды
Жадность не порок
На чем экономят миллиардеры
Спиральная галактика NGC 3521Их взрывы
Найден источник инопланетных сигналов
Натуральный звук
Как революция в мире беспроводных наушников меняет привычную реальность
Чужой внутри
Как раковые клетки обретают неуязвимость и медленно уничтожают человека
«Точно не для любителей джаза»
Верят ли сказке «Ла-Ла Ленда» настоящие джазмены и актрисы
Японский передовой
Как менялся празднующий 70-летний юбилей Такэси Китано
Бен Аффлек«Жалко, что сейчас так не одеваются»
Бен Аффлек о гангстерском кино и об обаянии 1920-х
Концерт Noize MC в клубе Arena Moscow.«Соскучился ли я по травле в СМИ?»
Noize MC о новом альбоме, произволе полиции и безответственности родителей
Дональд Трамп с женой Меланией и моделью Хайди Клум в 2008 годуБойкот по-голливудски
На инаугурации Трампа не будет звезд?
Хейтеры возненавидят
Обычные женщины, прославившиеся в Instagram благодаря лишнему весу
«Живу обычно, ем летучих мышей»
История москвича, переехавшего в Камбоджу
Качайся как девчонка
Пауэрлифтинг вошел в моду у представительниц прекрасного пола
Тест: угадай автомобиль под камуфляжем
Получится ли у автопроизводителей провести настоящего знатока? Давайте проверять
Бандитские тачки суровых времен
Самые известные машины 1990-х
Цена слезам не верит
Страны, в которых автомобили намного дороже, чем в России
Красивейшие машины Советского Союза
Самые красивые машины СССР, так и не увидевшие конвейера
«Теперь она бомж и живет в закутке под лестницей»
История преподавательницы, лишившейся трех квартир в Москве
«Мы начали решать свои проблемы, как в 90-х»
За потребительские кредиты смогут отбирать квартиры
Развели тут бордель
Экскурсия по самому большому публичному дому Южного полушария
Война дворцам
Каких домов лишились в 2016 году звезды Голливуда