«Восстания машин не будет» Создатель искусственного интеллекта Facebook о терминаторах и апокалипсисе

Когда искусственный интеллект появится в каждом доме и как он облегчит жизнь людям? Насколько реальна угроза войны человечества с умными машинами? Почему в будущем хакеры станут еще опаснее? Сотрудник Facebook AI Research Томас Миколов рассказал «Ленте.ру» о внедрении в нашу жизнь мобильных помощников, умном доме Цукерберга и угрозе восстания терминаторов.

«Лента.ру»: Интересная новость: глава Facebook Марк Цукерберг пообещал создать до конца 2016 года простой искусственный интеллект у себя дома. Ваша команда ему в этом помогает?

Томас Миколов: Ну, на самом деле я об этом с Марком даже не разговаривал. Мы в AI Research заняты более сложными и долгосрочными задачами, а он всего за год хочет соорудить дома что-то вроде «Джарвиса» из «Железного человека» (смеется).

Вообще-то задача не такая уж невыполнимая, все технологии для этого уже существуют. Надо лишь собрать их воедино и заставить правильно работать. Сами посудите: узнавать людей на входе компьютер может с помощью технологий распознавания лица, бытовые приборы умного дома в нужный момент могут сварить кофе и сделать тосты, а сама система по щелчку пальцев включит музыку и отрегулирует температуру с помощью всяких сенсоров.

И все это управляется со смартфона, можно даже голосовые оповещения настроить. Это уже не будущее, а настоящее. Просто пока в нашу жизнь такие штуки еще плотно не вошли.

А чем тогда в Facebook занимаетесь вы и другие исследователи искусственного интеллекта?

В том-то и прелесть, что каких-то конкретных целей у нас нет, и от AI Research не требуют предоставить готовый искусственный интеллект, скажем, к 2020 году. Может, вы слышали о лабораториях IBM 1950-х годов? Там тоже не ставили каких-то конкретных задач, люди просто исследовали то, что считали нужным. И в итоге разработали компьютерные технологии, которые и сегодня все используют. С нами примерно та же история.

К примеру, сейчас мы много занимаемся технологиями машинного обучения, ведь это один из основных вопросов на пути создания полноценного искусственного интеллекта. Не хочу мучить вас сложными терминами и математическими моделями, постараюсь объяснить на пальцах. У вас есть машина, которую можно научить делать что-то в нужное вам время или в ответ на какое-то воздействие извне. Но когда машина делает что-то неправильно или не вовремя, она не понимает этого и не может тут же исправиться. Но может научиться новым вещам на основе уже имеющихся в ее памяти алгоритмов. Вот над этим мы и трудимся.

Приходится одновременно просчитывать все возможные варианты развития событий и загонять их в память, а также учить машины самостоятельно искать какие-то закономерности и делать выводы на их основе.

Тем не менее машины уже обыгрывают человека в шахматы и го.

Да, это правда. У Facebook систему игры в го разрабатывают исследователи из Калифорнии, а у Google для этого есть целая компания Deep Mind, они ее купили пару лет назад. Причем их суперкомпьютер уже разгромил чемпиона Европы, а в начале марта сразится с чемпионом мира. Они это, кстати, будут на YouTube транслировать.

Но, по сути, игра с человеком в шахматы и го — это тоже лишь отчасти работа искусственного интеллекта (ИИ). Да, у Google сразу две нейросети смогут просчитывать наперед все возможные ходы, как обычные компьютеры умеют делать в шахматах, шашках и даже «Монополии». Человек обычно не может предвидеть все варианты и поэтому с высокой долей вероятности проиграет. Но машина при этом даже отдаленно не думает как мы, да и практической пользы от таких достижений немного. Я вот в Го играть не умею, вы наверняка тоже.

Ну а что тогда нужно делать? Какие функции должен выполнять искусственный интеллект?

В первую очередь — помогать людям. Для начала ИИ должен избавить нас от монотонных дел, которые каждый день отнимают уйму времени. Готовка, уборка, поездки на работу и с работы, поиск и структурирование информации — все это в перспективе могут взять на себя машины. Поэтому Цукерберг и считает, что наши разработки должны применяться в структурировании ленты новостей Facebook и распознавании голоса.

Вы о мобильном помощнике Facebook M?

И о нем в том числе. Голосовые ассистенты — хороший пример реально полезной функции. Siri или Cortana уже экономят нам время, выискивая важную информацию и включая нужные приложения. Но пока их функциональность ограничена, хотя они умеют подстраиваться конкретно под вас. Чего-то подобного мы хотим добиться и от искусственного интеллекта. Грубо говоря, создать систему, которую вы сможете обучить под себя, чтобы она стала для вас личным помощником. Но пока Facebook даже не может показывать вам исключительно полезные посты в ленте новостей, так что работы еще очень много.

А как должен выглядеть и работать идеальный искусственный интеллект?

Важно, чтобы он умел полноценно взаимодействовать с человеком: четко воспринимать его голосовые команды и правильно на них реагировать. Грубо говоря, вы покупаете и ставите дома такую маленькую коробочку, где и находится искусственный интеллект. Но в этот момент он еще в зачаточном состоянии, хотя у него уже есть набор базовых умений и знаний о мире. Сначала вы синхронизируете с ним свои мобильные устройства и систему умного дома.

Каждый день вы даете ему задания, и он их выполняет, причем постоянно обучается и ищет оптимальные решения. Будит вас по утрам, составляет список дел, прокладывает маршрут для вашего беспилотного автомобиля, заказывает на дом нужный набор продуктов. Знает, что в 7:05 утра вы любите две минуты постоять босиком на полу в ванной, а потом выпить кофе с молоком и двумя кусочками сахара. Так что когда вы проснулись, пол в ванной уже теплый, а умная кофеварка занята работой.

Но это лишь один из аспектов. Цукерберг не зря говорит о том, что хочет помочь человечеству победить все болезни. Вы будете использовать искусственный интеллект для решения повседневных задач, а ученые могут с его помощью анализировать данные о развитии определенных заболеваний и выискивать наиболее эффективный метод лечения. Ведь основное преимущество машин — умение быстро структурировать и обрабатывать огромные объемы данных. Если заложить в них еще и понимание конечной цели, то результат превзойдет все ожидания.

А не боитесь, что искусственный интеллект слишком поумнеет и задумает уничтожить человечество? Как в том же «Терминаторе». Илон Маск вот, например, этого опасается...

Восстания машин в обозримом будущем точно ждать не стоит. Объясню на простом примере. Многие из нас каждый день ездят на автомобиле, который позволяет быстро добираться из точки А в точку Б. Но можно попасть в аварию. Иногда автомобили становятся причиной гибели людей, но в принципе-то они полезны. Так же и с искусственным интеллектом. Люди будут пользоваться его полезными функциями, а несчастные случаи наверняка будут происходить из-за человеческой глупости или несовершенства алгоритма. Кстати, по этой же причине не стоит бояться апокалипсиса.

Искусственный интеллект — это не суперкомпьютер, как Skynet из «Терминатора» или HAL 9000 из «Космической одиссеи». Это же просто набор умных алгоритмов, которые подстраиваются под вас и умеют совершенствоваться.

А что мешает тем же военным и спецслужбам обучить парочку искусственных интеллектов воевать или шпионить за пользователями?

По большому счету, никто. В этом и основная проблема — хотите вы использовать технологию во благо или во вред. Но это уже вопрос для философов. Ни мы, ни другие разработчики не могут нести ответственность за такие последствия.

Причем я не отрицаю, что именно так и может произойти. Но все же хочется верить, что в мире больше добрых людей.

Еще один серьезный вопрос. Уже сегодня Facebook собирает огромный массив данных о пользователях. А с появлением искусственного интеллекта компания будет знать почти все о каждом человеке. Как обеспечить сохранность этой информации?

Это больше вопрос диалога с государством. Знаете, компании не очень-то и хотят выдавать любую информацию спецслужбам. Все негативно восприняли тот же скандал со Сноуденом, но никто не пытался посмотреть на вещи с точки зрения IT-гигантов. А на них ведь очень давили те же ФБР и АНБ, да и сегодня ничего в этом плане не поменялось.

С одной стороны, было бы неплохо шифровать все данные, чтобы их не могли просматривать и в самой компании. Так уже вроде делают в Apple. Тогда и спецслужбы поймут, что пытаться их получить бесполезно. Но если речь идет о расследовании преступлений, то такой подход не кажется мне правильным.

Нужно четко прописать в законах, в каких случаях государство может эти данные получить. Например, если предоставит реальные доказательства преступлений. Пусть люди знают, что нарушать закон нельзя даже в соцсетях и при пользовании искусственным интеллектом, а наказание в любом случае неотвратимо.

А что насчет угрозы взлома искусственного интеллекта обычными хакерами?

Методы защиты от взломов хорошо известны, и в этой области вряд ли что-то резко поменяется. Но отрицать такой возможности нельзя, и в этом, безусловно, огромная опасность. Ведь злоумышленники, как вы уже говорили, получат доступ ко всем вашим персональным данным и за минуту узнают вас даже лучше, чем вы сами. Более того, они смогут контролировать ваш искусственный интеллект.

А ведь вы к тому времени доверите ему совершать покупки, возить вас на машине, делать все по дому или, скажем, готовить отчеты по работе. Так что защита ваших данных — это то, о чем компании должны позаботиться в первую очередь. Я, конечно, не специалист по безопасности, но вряд ли поставщики искусственного интеллекта выпустят на рынок продукт с кучей уязвимостей. Они сами прекрасно понимают цену ошибки.

В каких сферах можно будет использовать искусственный интеллект?

Его потенциал практически безграничен. Научные исследования, управление документацией и рабочими процессами, автоматизированные заводы и робототехника — лишь немногое из того, что приходит в голову. Каждый отдельный интеллект можно научить делать что-то одно — развиваясь, он сам найдет наиболее эффективный комплекс решений. А люди получат больше времени и возможностей заниматься творчеством или, скажем, вообще ничего не делать (улыбается). Эффективность рабочих процессов повысится, все разбогатеют и заживут на обязательный минимальный доход.

И превратятся в муравьев. Как предсказывает Стивен Хокинг...

Вот честно, весьма пессимистичный прогноз. Прежде всего — люди смогут заниматься тем, что им действительно по душе. Ведь известно, что мы лучше всего работаем, когда нам это действительно нравится. С помощью искусственного интеллекта постепенно решатся проблемы бедности и социального неравенства, а человечество сосредоточится на более фундаментальных проблемах, эффективнее реализуя свой потенциал. Ведь в отличие от машин, мы умеем мыслить нестандартно и творчески. А они этому вряд ли когда-то научатся.