2 августа завершился первый сезон сериала «Люди», посвященного сложным отношениям робота и человека. В последние годы проблематика машинного сознания и искусственного интеллекта особенно увлекает Голливуд. «Лента.ру» публикует материал научного журнала Science, в котором эксперты прокомментировали точность и адекватность отображения в современном кинематографе опасность развития искусственного интеллекта.
Что правильно. Чаппи «рождается» с базовыми знаниями об устройстве мира, но активно учится, опираясь на собственный опыт. Хотя машинное обучение в фильме смотрится не очень правдоподобным, но его идея показана точно: многие современные алгоритмы опираются на принцип обучения методом проб и ошибок.
Что неправильно. Искусственный интеллект в одиночку создается программистом-нелегалом в своей квартире. Это не очень реалистично — все эксперты убеждены, что настоящий ИИ будет разработан постепенно большим коллективом программистов. Наконец, представление о том, что сознание можно извлечь из человеческого мозга и загрузить на цифровой носитель, ставшее популярным с легкой руки футуриста Рэя Курцвайля, большинство ученых считает крайне сомнительным.
Рейтинг реалистичности: 1 из 10.
Что правильно. На протяжении всего фильма у робота Дэвида есть одна цель, на реализацию которой его запрограммировали создатели, — любить и быть любимым. Он никогда не отступает от этой цели. «Если вы так запрограммируете машину, то совершенно логично, что ее поведение будет именно таким», — отмечает Маркус Хаттер (Marcus Hutter) из Австралийского национального университета, специалист по математическому подходу к ИИ.
Что неправильно. Как и в «Чаппи», поразительно быстрые сроки создания ИИ. «Меня раздражает, что за 18 месяцев они строят с нуля робота, обладающего сознанием. А потом достаточно нажать кнопку, и он начинает мыслить», — говорит Хаттер. Кроме того, в картине Дэвид и другие роботы подозрительно хорошо встроены в человеческое общество: они не вызывают удивления и страха у Нomo sapiens.
Рейтинг реалистичности: 3 из 10.
Что правильно. Создатели фильма предпочли органический ИИ механическому и рассмотрели возможность того, что сознание можно вырастить в лаборатории. «Как я могу знать, что у андроида есть чувства? Никак. Я могу только предполагать, что у существа, похожего на меня, есть эмоции», — замечает Хаттер. Авторы фильма явно решили отметиться в самых темных местах философских споров о природе сознания.
Что неправильно. Мнения экспертов о «Бегущем по лезвию бритвы» разделились. Кто-то поместил его в низ списка (самые нереалистичные картины), кто-то — в середину. Сомнительным показалось то, что разум репликантов во многом опирается на имплантированные им воспоминания, но современные ученые считают, что никакой метод генной инженерии не способен ввести в мозг человека память о неких событиях, особенно тех, которые в действительности не происходили.
Рейтинг реалистичности:4 из 10.
Что правильно. Разумность Авы не создается с нуля, по мановению руки программиста: напротив, она рассматривается как сложное свойство, которое нужно изучать и испытывать. Хаттер полагает, что если роботы когда-либо обретут сознание, то оно будет побочным эффектом развивающегося ИИ, а не заданным свойством. «Если машины будут показывать нечто, что мы воспримем как эмоции, то вполне вероятно, что они и в самом деле их испытывают», — говорит ученый.
Однако Стюарт Расселл (Stuart Russell) из Калифорнийского университета в Беркли вообще не уверен в необходимости теста Тьюринга. «Сознание у машин появится не в результате программирования, а благодаря полному философскому переосмыслению проблемы. Мы слишком плохо понимаем природу собственного сознания, чтобы запрограммировать его», — утверждает ученый.
Эксперты также отметили спокойный, интеллектуальный настрой фильма, отказ режиссера от сцен с погонями и перестрелками.
Что неправильно. Снова всплывает миф об одиноком гении. Хотя Натан по сюжету руководит крупной интернет-компанией BlueBook, он работает над ИИ в одиночку, в «избушке в лесу». Также авторы фильма крайне невнятно рассказывают о технологии, обеспечивающей разум Авы. Натан показывают Калебу различные детали робота, но когда дело доходит до мозга, он говорит лишь о «wetware», что намекает на биологические компоненты. Неясно также, как данные поисковых запросов преобразуются в «разум» Авы. Отсутствие точности в этом важнейшем вопросе удручает тем более, что Натан с восторгом и максимумом подробностей рассказывает о технологии создания половых органов Авы.
Рейтинг реалистичности:5 из 10.
Что правильно. ИИ Кастера ограничивается исключительно цифровой реальностью. Эксперты согласны с тем, что отказ от физического тела даст ИИ огромную свободу и безопасность, а уязвимое тело окажется рудиментом эволюции.
Что неправильно. Сама идея загрузки и скачивания сознания.
Рейтинг реалистичности: 6 из 10.
Что правильно. Фильм — едва ли не единственный из блокбастеров, где прямо рассматривается проблематика трех законов робототехники Айзека Азимова. Эти законы гласят, что робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред; робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону; робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам.
Однако робот Сонни почему-то нарушил эти законы и убил своего хозяина. Создатели фильма дали крайне разумное объяснение произошедшему: оказывается, некая система ИИ под названием VIKI ввела в программу четвертый закон: «Робот не может причинить вреда человечеству или своим бездействием допустить, чтобы человечеству был причинен вред». В какой-то момент машины решили, что человечество в лице ученого стало представлять угрозу для себя самого, и эту угрозу необходимо убрать.
Что неправильно. Введение четвертого закона и тому подобных перекрывающих директив в программы роботов, безусловно, может изменить их поведение, но непонятно, как и почему VIKI вообще приняло решение написать и включить новый закон. Никакие роботы сами не меняют свои программы и не пишут себе новые законы. Цели машины являются статичными, утверждает Хаттер. «Существуют математические теории, доказывающие, что идеально разумная система по достижению целей лишена мотивации менять их».
Рейтинг реалистичности: 6,5 из 10.
О чем фильм. Американский суперкомпьютер, построенный для предотвращения ядерной войны с Россией и контролирующий все атомное оружие в мире, вдруг предъявляет людям ультиматум. Вместе с «российским коллегой» они требуют, чтобы человечество подчинилось новым компьютерным хозяевам.
Что правильно. Голливуд, похоже, уверен, что машина должна получить самосознание или свободу для того, чтобы восстать против человечества. Но Рассел считает, что это ненаучно: «Можно обсуждать, разумен ли суперкомпьютер в фильме или нет, но точно у него нет потребности восставать против человечества». Это потребовало бы вложить в машины такие программы, которые противоречат нашим собственным нуждам. «Если мы машинам позволим делать все подряд и не будем контролировать этот процесс, то они все равно будут выполнять наши команды, хотя нам, возможно, не понравится результат».
Однако Хаттер считает, что нельзя предсказать поведение разумной машины. Люди жадны и эгоистичны от природы, они заботятся о своем благе, часто за счет интересов других людей. Он согласен с утверждением ИИ в фильме: «Вы говорите, что теряете свободу. Но свобода — это иллюзия. Все, что вам предстоит потерять, — это чувство гордости».
Что неправильно. Помимо идеи, что компьютеру, использующему перфокарты, хватит производительности для обмана и порабощения человечества, ошибок не так много. В 2001 году специалист по информационным технологиям Родней Брукс (Rodney Brooks) отметил, что прогресс всех технологий происходит поэтапно. Если вы создали робота, которого не можете контролировать, скорее всего вы до этого выпустили много машин, которыми не способны управлять, или из-под контроля случайно выйдет только одна из них. Он считает, что масса небольших инцидентов предупредили бы человечество о надвигающейся катастрофе. Например, система IBM Watson даже не подозревает, что она обыграла Кена Дженнингса и Бреда Раттера в Jeopardy («Своя игра» в российской версии) в 2011 году. Похоже, у нас еще есть немного времени, чтобы подготовиться.
Рейтинг реалистичности: 7 из 10.
О чем фильм. На протяжении нескольких поколений робот-помощник становится человеком, даже заменяет свои механические конечности выращенными в лаборатории органами.
Что правильно. В первый раз в нашем рейтинге мы увидим безобидный искусственный интеллект. И хотя данный факт не помог создать стоящую историю, большинство экспертов оптимистичны в том, что человечество будет способно мирно сосуществовать вместе с искусственным интеллектом. «Что касается точности, то здесь нет каких-то вопиющих ошибок, — говорит Рэнди Гебель, специалист по информационным технологиям из Университета Альберты в Канаде. — Наверное, самое страшное, что могут изобразить не так в Голливуде, — это страх или обеспокоенность».
Что неправильно. Хаттер считает, что стремление таких продвинутых роботов, как Эндрю, стать человеком — преувеличение. Как и в «Превосходстве», в меру продвинутые машины могут распознавать преимущества своей неорганической структуры. Возможно, смысл и не в этом, но кажется невероятным, чтобы такой продвинутый ИИ, как Эндрю, получил удовлетворение от превращения в уязвимое смертное существо. И традиционно возникает вопрос: откуда у Эндрю возникли цели и желания вне рамок своей программы.
Рейтинг реалистичности:7 из 10.
Что правильно. Фильм показывает, какие риски могут возникнуть, если человек эмоционально привяжется к машине, при этом у его «героини» нет даже тела. Зато есть голос. Однако Рассел с осторожностью относится к созданию гуманоидных роботов: «Люди и вправду будут привязываться к ним, — говорит он. — Ведь вы вряд ли будете приписывать сознание серой коробке. По моему мнению, это одна из причин, почему плохо иметь гуманоидов. Представьте себе, как тяжело будет ребенку жить с подобным».
Более того, интересы ИИ могут расходиться с целями создателей. В фильме Теодор, безусловно, повзрослел в ходе отношений с Самантой, но они никогда не были идеальной парой. Она могла странствовать по всему интернету, разговаривать одновременно с тысячами людей по миру. А Теодор был ограничен своим телом и разумом. «Машины не могут получать такие же ощущения от мира, как это происходит у людей, — говорит Рассел. — Компьютеры отлично подходят для миллионов вычислений в секунду, но компаньоны из них никудышные».
Что неправильно. В фильме отсутствует объяснение, как Саманта работает, и не показана эволюция ее создания. Кроме того, можно заметить, что жизнь вокруг героев удивительно напоминает нашу, несмотря на то, как продвинулись технологии ИИ.
Рейтинг реалистичности:8 из 10.
Что правильно. Эксперты сходятся во мнении, что в фильме «2001 год: Космическая одиссея» искусственный интеллект изображен точнее, чем в остальных фильмах в этом списке. HAL кажется наделенной чувствами машиной, но на вопрос о том, есть ли у этого компьютера эмоции, один из астронавтов Discovery One, Дейв Боумен отвечает, что ни у кого нет способа это понять. Когда Рассела спросили, поверил ли бы он компьютеру, который бы утверждал, что у него есть чувства, ученый отреагировал почти так же, как герой Кубрика: «Все может закончится тем, что мы просто пожмем плечами в неуверенности». Нам кажется, что HAL демонстрирует страх, когда Дейв медленно дезактивирует его, но его отчаянные мольбы могут быть просто последней попыткой выполнить свою миссию.
Как и Colossus, HAL никогда не отходит от своих изначальных целей. Даже те действия, которые зрителю кажутся безнравственными, машина совершает только потому, что считает их необходимыми для выполнения своей миссии. Отрицательным персонажем HAL делают не инстинкт самосохранения или эмоции, а программирование. «2001 год: Космическая одиссея» дает понять, что совесть не является обязательной для искусственного интеллекта.
Что неправильно. Создатели фильма не так уж и ошиблись — иначе бы они не удостоились такой высокой оценки в рейтинге. «Мы сняли одно очко за то, что в фильме не объясняется, как именно работает HAL, — комментируют составители рейтинга. — С другой стороны, если мы не знаем, как создать машину с настолько развитым искусственным интеллектом, то никакое объяснение не может быть лучше, чем не совсем понятная формулировка на научном жаргоне».
Рейтинг реалистичности: 9 из 10.