Интернет и СМИ

«Восстания машин не будет» Создатель искусственного интеллекта Facebook о терминаторах и апокалипсисе

Кадр из фильма  «Терминатор 3: Восстание машин»

Кадр из фильма «Терминатор 3: Восстание машин»

Когда искусственный интеллект появится в каждом доме и как он облегчит жизнь людям? Насколько реальна угроза войны человечества с умными машинами? Почему в будущем хакеры станут еще опаснее? Сотрудник Facebook AI Research Томас Миколов рассказал «Ленте.ру» о внедрении в нашу жизнь мобильных помощников, умном доме Цукерберга и угрозе восстания терминаторов.

«Лента.ру»: Интересная новость: глава Facebook Марк Цукерберг пообещал создать до конца 2016 года простой искусственный интеллект у себя дома. Ваша команда ему в этом помогает?

Томас Миколов: Ну, на самом деле я об этом с Марком даже не разговаривал. Мы в AI Research заняты более сложными и долгосрочными задачами, а он всего за год хочет соорудить дома что-то вроде «Джарвиса» из «Железного человека» (смеется).

Вообще-то задача не такая уж невыполнимая, все технологии для этого уже существуют. Надо лишь собрать их воедино и заставить правильно работать. Сами посудите: узнавать людей на входе компьютер может с помощью технологий распознавания лица, бытовые приборы умного дома в нужный момент могут сварить кофе и сделать тосты, а сама система по щелчку пальцев включит музыку и отрегулирует температуру с помощью всяких сенсоров.

Марк Цукерберг обещает создать искусственный интеллект у себя дома.

Марк Цукерберг обещает создать искусственный интеллект у себя дома.. Фото: Matthias Oesterle / Zuma / Globallookpress.com

И все это управляется со смартфона, можно даже голосовые оповещения настроить. Это уже не будущее, а настоящее. Просто пока в нашу жизнь такие штуки еще плотно не вошли.

А чем тогда в Facebook занимаетесь вы и другие исследователи искусственного интеллекта?

В том-то и прелесть, что каких-то конкретных целей у нас нет, и от AI Research не требуют предоставить готовый искусственный интеллект, скажем, к 2020 году. Может, вы слышали о лабораториях IBM 1950-х годов? Там тоже не ставили каких-то конкретных задач, люди просто исследовали то, что считали нужным. И в итоге разработали компьютерные технологии, которые и сегодня все используют. С нами примерно та же история.

Томас Миколов пришел в Facebook AI Research в 2014 году. До этого был членом команды Google Brain, где занимался алгоритмами семантического анализа текста и распознавания изображений.

Томас Миколов пришел в Facebook AI Research в 2014 году. До этого был членом команды Google Brain, где занимался алгоритмами семантического анализа текста и распознавания изображений.

К примеру, сейчас мы много занимаемся технологиями машинного обучения, ведь это один из основных вопросов на пути создания полноценного искусственного интеллекта. Не хочу мучить вас сложными терминами и математическими моделями, постараюсь объяснить на пальцах. У вас есть машина, которую можно научить делать что-то в нужное вам время или в ответ на какое-то воздействие извне. Но когда машина делает что-то неправильно или не вовремя, она не понимает этого и не может тут же исправиться. Но может научиться новым вещам на основе уже имеющихся в ее памяти алгоритмов. Вот над этим мы и трудимся.

Приходится одновременно просчитывать все возможные варианты развития событий и загонять их в память, а также учить машины самостоятельно искать какие-то закономерности и делать выводы на их основе.

Тем не менее машины уже обыгрывают человека в шахматы и го.

Да, это правда. У Facebook систему игры в го разрабатывают исследователи из Калифорнии, а у Google для этого есть целая компания Deep Mind, они ее купили пару лет назад. Причем их суперкомпьютер уже разгромил чемпиона Европы, а в начале марта сразится с чемпионом мира. Они это, кстати, будут на YouTube транслировать.

Но, по сути, игра с человеком в шахматы и го — это тоже лишь отчасти работа искусственного интеллекта (ИИ). Да, у Google сразу две нейросети смогут просчитывать наперед все возможные ходы, как обычные компьютеры умеют делать в шахматах, шашках и даже «Монополии». Человек обычно не может предвидеть все варианты и поэтому с высокой долей вероятности проиграет. Но машина при этом даже отдаленно не думает как мы, да и практической пользы от таких достижений немного. Я вот в Го играть не умею, вы наверняка тоже.

Ну а что тогда нужно делать? Какие функции должен выполнять искусственный интеллект?

В первую очередь — помогать людям. Для начала ИИ должен избавить нас от монотонных дел, которые каждый день отнимают уйму времени. Готовка, уборка, поездки на работу и с работы, поиск и структурирование информации — все это в перспективе могут взять на себя машины. Поэтому Цукерберг и считает, что наши разработки должны применяться в структурировании ленты новостей Facebook и распознавании голоса.

Вы о мобильном помощнике Facebook M?

И о нем в том числе. Голосовые ассистенты — хороший пример реально полезной функции. Siri или Cortana уже экономят нам время, выискивая важную информацию и включая нужные приложения. Но пока их функциональность ограничена, хотя они умеют подстраиваться конкретно под вас. Чего-то подобного мы хотим добиться и от искусственного интеллекта. Грубо говоря, создать систему, которую вы сможете обучить под себя, чтобы она стала для вас личным помощником. Но пока Facebook даже не может показывать вам исключительно полезные посты в ленте новостей, так что работы еще очень много.

А как должен выглядеть и работать идеальный искусственный интеллект?

Важно, чтобы он умел полноценно взаимодействовать с человеком: четко воспринимать его голосовые команды и правильно на них реагировать. Грубо говоря, вы покупаете и ставите дома такую маленькую коробочку, где и находится искусственный интеллект. Но в этот момент он еще в зачаточном состоянии, хотя у него уже есть набор базовых умений и знаний о мире. Сначала вы синхронизируете с ним свои мобильные устройства и систему умного дома.

Каждый день вы даете ему задания, и он их выполняет, причем постоянно обучается и ищет оптимальные решения. Будит вас по утрам, составляет список дел, прокладывает маршрут для вашего беспилотного автомобиля, заказывает на дом нужный набор продуктов. Знает, что в 7:05 утра вы любите две минуты постоять босиком на полу в ванной, а потом выпить кофе с молоком и двумя кусочками сахара. Так что когда вы проснулись, пол в ванной уже теплый, а умная кофеварка занята работой.

Домашний искусственный интеллект будет управлять беспилотными автомобилями

Домашний искусственный интеллект будет управлять беспилотными автомобилями. Фото: Christiane Hübscher / Zuma / Globallookpress.com

Но это лишь один из аспектов. Цукерберг не зря говорит о том, что хочет помочь человечеству победить все болезни. Вы будете использовать искусственный интеллект для решения повседневных задач, а ученые могут с его помощью анализировать данные о развитии определенных заболеваний и выискивать наиболее эффективный метод лечения. Ведь основное преимущество машин — умение быстро структурировать и обрабатывать огромные объемы данных. Если заложить в них еще и понимание конечной цели, то результат превзойдет все ожидания.

А не боитесь, что искусственный интеллект слишком поумнеет и задумает уничтожить человечество? Как в том же «Терминаторе». Илон Маск вот, например, этого опасается...

Восстания машин в обозримом будущем точно ждать не стоит. Объясню на простом примере. Многие из нас каждый день ездят на автомобиле, который позволяет быстро добираться из точки А в точку Б. Но можно попасть в аварию. Иногда автомобили становятся причиной гибели людей, но в принципе-то они полезны. Так же и с искусственным интеллектом. Люди будут пользоваться его полезными функциями, а несчастные случаи наверняка будут происходить из-за человеческой глупости или несовершенства алгоритма. Кстати, по этой же причине не стоит бояться апокалипсиса.

Искусственный интеллект — это не суперкомпьютер, как Skynet из «Терминатора» или HAL 9000 из «Космической одиссеи». Это же просто набор умных алгоритмов, которые подстраиваются под вас и умеют совершенствоваться.

А что мешает тем же военным и спецслужбам обучить парочку искусственных интеллектов воевать или шпионить за пользователями?

По большому счету, никто. В этом и основная проблема — хотите вы использовать технологию во благо или во вред. Но это уже вопрос для философов. Ни мы, ни другие разработчики не могут нести ответственность за такие последствия.

Причем я не отрицаю, что именно так и может произойти. Но все же хочется верить, что в мире больше добрых людей.

Еще один серьезный вопрос. Уже сегодня Facebook собирает огромный массив данных о пользователях. А с появлением искусственного интеллекта компания будет знать почти все о каждом человеке. Как обеспечить сохранность этой информации?

Это больше вопрос диалога с государством. Знаете, компании не очень-то и хотят выдавать любую информацию спецслужбам. Все негативно восприняли тот же скандал со Сноуденом, но никто не пытался посмотреть на вещи с точки зрения IT-гигантов. А на них ведь очень давили те же ФБР и АНБ, да и сегодня ничего в этом плане не поменялось.

С одной стороны, было бы неплохо шифровать все данные, чтобы их не могли просматривать и в самой компании. Так уже вроде делают в Apple. Тогда и спецслужбы поймут, что пытаться их получить бесполезно. Но если речь идет о расследовании преступлений, то такой подход не кажется мне правильным.

Нужно четко прописать в законах, в каких случаях государство может эти данные получить. Например, если предоставит реальные доказательства преступлений. Пусть люди знают, что нарушать закон нельзя даже в соцсетях и при пользовании искусственным интеллектом, а наказание в любом случае неотвратимо.

А что насчет угрозы взлома искусственного интеллекта обычными хакерами?

Методы защиты от взломов хорошо известны, и в этой области вряд ли что-то резко поменяется. Но отрицать такой возможности нельзя, и в этом, безусловно, огромная опасность. Ведь злоумышленники, как вы уже говорили, получат доступ ко всем вашим персональным данным и за минуту узнают вас даже лучше, чем вы сами. Более того, они смогут контролировать ваш искусственный интеллект.

Искусственный интеллект не будет представлять для человечества угрозу

Кадр из фильма «Я, робот»

Искусственный интеллект не будет представлять для человечества угрозу

А ведь вы к тому времени доверите ему совершать покупки, возить вас на машине, делать все по дому или, скажем, готовить отчеты по работе. Так что защита ваших данных — это то, о чем компании должны позаботиться в первую очередь. Я, конечно, не специалист по безопасности, но вряд ли поставщики искусственного интеллекта выпустят на рынок продукт с кучей уязвимостей. Они сами прекрасно понимают цену ошибки.

В каких сферах можно будет использовать искусственный интеллект?

Его потенциал практически безграничен. Научные исследования, управление документацией и рабочими процессами, автоматизированные заводы и робототехника — лишь немногое из того, что приходит в голову. Каждый отдельный интеллект можно научить делать что-то одно — развиваясь, он сам найдет наиболее эффективный комплекс решений. А люди получат больше времени и возможностей заниматься творчеством или, скажем, вообще ничего не делать (улыбается). Эффективность рабочих процессов повысится, все разбогатеют и заживут на обязательный минимальный доход.

И превратятся в муравьев. Как предсказывает Стивен Хокинг...

Вот честно, весьма пессимистичный прогноз. Прежде всего — люди смогут заниматься тем, что им действительно по душе. Ведь известно, что мы лучше всего работаем, когда нам это действительно нравится. С помощью искусственного интеллекта постепенно решатся проблемы бедности и социального неравенства, а человечество сосредоточится на более фундаментальных проблемах, эффективнее реализуя свой потенциал. Ведь в отличие от машин, мы умеем мыслить нестандартно и творчески. А они этому вряд ли когда-то научатся.