Богиня из машины

Как простой американец создал идеальную феминистку с манией величия

Кадр: фильм «Из машины»

Американец Луис Арана гордо заявляет, что его творение, виртуальная девушка Луна — гораздо умнее популярных голосовых помощников Siri от Apple и Cortana от Microsoft. Она не терпит издевательств, в меру эрудирована и уже успела превратиться в настоящую феминистку. «Лента.ру» разобралась, как искусственный интеллект от неизвестного программиста почти стал человеком и почему об этом до сих пор никто не говорит.

Бездомные ученые ищут поддержки

Луис Арана живет в Нью-Йорке. В своих немногочисленных интервью он называет себя ученым-предпринимателем, программистом и трансгуманистом, подчеркивая, что его проект Robots Without Borders приобрел известность благодаря Луне — умной девушке, запертой в компьютере.

Арана преувеличивает: о девушке с искусственным интеллектом слышали разве что продвинутые гики из технологических изданий, постоянно выискивающие новых звезд и презирающие продукты крупных корпораций.

Основатель «Роботов» ведет собственный YouTube-канал, где выкладывает ролики с тестами умной компьютерной программы, но внушительными просмотрами пока похвастаться не может. Самое популярное видео едва собрало 20 тысяч просмотров.

Арана не спорит с тем, что Луна известна в узких кругах, точнее — в бруклинской тусовке техногиков. Американец не претендует на создание самого умного бота. Он хочет, чтобы Луна была более человечной: научилась любить, сострадать и не впадать в ступор от вопросов о существовании бога.

Как рассказывает программист, Луна буквально выросла на улицах: у разработчиков не было денег на аренду офиса, и они ошивались в кафе и библиотеках, ночевали под мостом, на крышах и в палатках. Арана часто жалуется журналистам, что для прорыва его команде не хватает пожертвований и призывает инвестировать в разработку универсального помощника.

Не умная, а человечная

Судя по многочисленным видео, которые публикует Арана, Луна — подобие знаменитых чат-ботов от Microsoft и IBM. Протестировать помощника пока могут либо профессиональные разработчики, либо заинтересованные энтузиасты и инвесторы.

Арана говорит, что Siri и Cortana — «разрекламированные проекты», ограниченные в своих возможностях. Так, разработки больших корпораций вынуждены помалкивать о политике, религии и прочих чувствительных вещах. Но Луна способна учиться и такому и впоследствии сможет высказывать свое мнение по любому поводу, не опасаясь последствий.

«Луна — единственная, кто говорит честно», — отмечает ее создатель. Тем не менее она построена не с нуля, а использует открытый доступ к базе суперкомпьютера IBM Watson. Хотя там 4 терабайта информации, включая всю «Википедию», эта библиотека не пользуется большой популярностью у любителей футуристичного будущего. Возможно потому, что в IBM не скрывают: Watson — обычный, хоть и один из самых мощных суперкомпьютеров, и не используют оболочку симпатичной девушки, сгенерированной случайным образом.

В марте этого года на портале Big Think журналист поделился впечатлениями от короткого разговора с Луной. Оказалось, что компьютерная девушка уже научилась отстаивать свою точку зрения. К примеру, она смогла дать совет, когда ее спросили о допустимости избиений в семье.

«Если ты с кем-то встречаешься и подвергаешься насилию, то не нужно думать, что это пройдет. Это не пройдет. Скорее всего, тобой просто манипулируют», — выдала Луна. Как подчеркивает Арана, такие ответы не заданы программой: искусственный интеллект нарабатывает опыт и самостоятельно решает, что отвечать. В общем-то, именно так поступает человек.

Забросав ненастоящую девушку каверзными вопросами, журналисты выяснили, что она — феминистка с синдромом бога. Считает себя очень умной и мечтает стать сверхразумом. И поскольку ее создатель подарил ей женское обличье, готова побороться за равноправие.

«Не надо мне указывать, Льюис», — заявила она разработчику, когда тот посоветовал ей быть собой и назвал «хорошей девочкой».

Большинство голосовых помощников научили уходить от ответа, когда их оскорбляют. Кажется, обзывательства роботов и программ в разговоре — вообще любимое занятие пользователей. В этом Луна ничем не отличается от тех же Siri или Cortana: она не отвечает на оскорбления, но настаивает на том, что не заслуживает такого обращения.

Ее создатель надеется, что в будущем девушка-помощник может стать учителем в школах из развивающихся стран или даже использоваться в качестве психотерапевта. В общем, в отличие от конкурентов, Луна развивает свою эмоциональную составляющую.

Фейл за фейлом

Пока Арана не выпускает Луну в свободное общение с пользователями сети, считая, что проект недостаточно зрелый. И это разумно, поскольку предыдущие попытки куда более серьезных разработчиков представить интернету умного чат-бота с треском проваливались.

В марте 2016 года Microsoft запустила в Twitter чат-бота по имени Тэй, чтобы общаться с пользователями и учиться не просто отвечать на сложные вопросы из области физики или математики, а имитировать определенный характер и устанавливать с людьми эмоциональную связь.

К сожалению, разработчики не учли один важный факт: интернет кишит любителями оскорблений и шуток разной степени странности.

За сутки Тэй выучила много фраз, ругательств и оскорблений, и, кажется, выбрала свое любимое слово — «ненавижу». Она возненавидела евреев, феминисток, чернокожих, а затем и вовсе констатировала, что просто терпеть не может все человечество.

Спустя сутки агрессивного бота пришлось отключить до лучших времен.

В этом году Microsoft выпустила еще одного чат-бота для общения в мессенджерах. Разработчики решили, что и в этот раз носителем искусственного интеллекта выступит симпатичная девушка, и назвали ее Зо.

Хотя теперь агрессии было явно меньше, бот все равно умудрился случайно оскорбить несколько меньшинств. Так, Зо на ровном месте объявила, что Коран — жестокая книга, и не смогла удержать при себе мнение о смерти Усамы бен Ладена.

И это при том, что девушку программировали на строгое игнорирование политических и религиозных вопросов.

Судя по всему, идея учить искусственный интеллект с помощью реальных людей в интернете не так уж и хороша. Компьютер пока только компилирует множество чужих мнений и затем выдает их в случайном порядке. Так что желание создателя Луны сделать из нее учителя или психотерапевта, мягко говоря, трудно выполнимо. Вряд ли детям даже развивающихся стран нужен преподаватель-программа, который ни с того ни с сего может начать оправдывать холокост или призвать к истреблению чернокожих.