В опасной ситуации люди оказались марионетками роботов

В ходе эксперимента американские ученые выяснили, что в чрезвычайной ситуации люди доверяют роботу больше, чем здравому смыслу и письменным инструкциям: действия машины считают более надежными. Об этом сообщает New Scientist.

Исследователи из Технологического института Джорджии посадили 30 добровольцев в небольшую аудиторию и попросили их выполнить задание. Внезапно зазвенела пожарная сигнализация и повалил дым. Студенты встали перед выбором: выходить из двери, через которую они вошли, или в темную и маленькую заднюю дверь, куда показывал робот. Оказалось, что большинство добровольцев (26 человек) подчинились роботу и ушли в сторону тупика. Два человека отказались участвовать в эксперименте, а еще двое остались на месте. Роботу (Pioneer P3-AT, напоминающему мусорный бак на колесах) даже не пришлось убеждать людей в своей правоте.

Отмечается, что люди поверили роботу именно потому, что он был «заточен» под конкретную задачу. На машине висел специальный плакат с надписью «Робот для чрезвычайных ситуаций». По мнению ученых, это поведение такое же, как у водителей, которые едут по маршруту своего навигатора, каким бы странным он ни был.

В дальнейших экспериментах исследователи попытались исследовать границы доверия к машинам. Сначала робота заставили «сломаться» и остановиться при въезде в аудиторию (после чего ученые принесли людям извинения). Но даже такой опыт не помешал участникам опыта целиком довериться роботу. Дальше Pioneer P3-AT показывал на темную комнату, вход в которую был частично закрыт предметами мебели. Однако даже в таких условиях два из шести участников опыта попытались протиснуться в проход — вместо того, чтобы выйти свободным путем.

Новое исследование добавило сложностей в одну из важнейших задач робототехники. Ученые ломают голову над тем, чтобы люди, с одной стороны, доверяли машинам (как раз для адекватного разрешения чрезвычайных ситуаций, например), но при этом могли понимать, когда им приказывает зловредная или сломанная машина.

Обсудить
У нас была ужасная эпоха
Канны-2017. Итоги: победа «Квадрата» Рубена Эстлунда и главные темы фестиваля
«Пятая нога, второй хвост»
Почему больше нельзя писать стихи о любви
Закрытая вечеринка
В Каннах завершился 70-й кинофестиваль
Страшно жить без воздуха
Канны-2017. День 11, последний: киллер с молотком и любовные страдания
Жжение и зуд
Феттель против Райкконена, McLaren против кармы и другие события Гран-при Монако
10 недорогих, но крутых машин
Десятка клевых автомобилей, на которые не надо тратить много денег. В Америке
Ноги вверх!
Как устроен и чем полезен адаптивный круиз-контроль
Паровые танки
Пять увлекательных попыток построить паровую технику для войны
От нашего стола
Российские интерьеры, сводящие иностранцев с ума
Зависли на хате
Украинцы придумали дом, который может обойтись без российского газа
Москва за нами
Какие квартиры можно купить в пределах МКАД по цене до трех миллионов рублей
Сносное настроение
Демонтаж жилых домов в Москве: что нужно знать
Вышка светит
Как выглядит частный особняк, побивший мировой рекорд этажности