Беспилотные автомобили на дорогах, безупречные сборщики у конвейеров, не путающие заказы роботы-курьеры, — в скором времени список профессий, которые полностью отойдут машинному интеллекту, увеличится в разы. Как это повлияет на мировую экономику, политику и жизнь общества в целом, в книге «Воспитание машин: Новая история разума» рассуждает известный российский специалист в области искусственного интеллекта Сергей Шумский. С разрешения издательства «Альпина нон-фикшн» «Лента.ру» публикует фрагмент текста, посвященный цифровой экономике.
Первое столкновение людей с искусственным интеллектом произойдет очень скоро, еще в эпоху слабого ИИ. Слишком много людей сегодня заняты тем, что Карл Маркс называл «частичным трудом», когда от человека требуется лишь какой-то небольшой набор простых навыков.
До недавнего времени компьютерам были доступны только легко формализуемые задачи: вычисления, поиск в базах данных, форматирование документов и т. д. Соответствующие программы существенно облегчали работу менеджеров, при этом не заменяя их самих, так как касались лишь небольшой части выполняемых ими служебных обязанностей. С этим, в частности, связан хорошо известный парадокс, что постепенное насыщение компьютерами экономики не приводило до сих пор к существенному росту производительности труда.
Появление сенсорного интеллекта человеческого уровня, способности компьютеров распознавать объекты и ситуации в реальном мире не хуже людей, многое меняет. Под угрозой оказались представители массовых профессий из разряда «контролеров» (продавцы, охранники, кассиры) или даже простейших «контроллеров», как в случае с шоферами. В целом к 2030 году в США может быть автоматизировано около 40 процентов рабочих мест.
С появлением сильного ИИ ситуация еще более усугубится. Вслед за безлюдными сборочными цехами, складами и магазинами появятся безлюдные заводы, робофермы и строительные площадки, где дома будут печатать гигантские 3D-принтеры.
Люди станут массово вытесняться из сферы производства и сервисов, как крестьяне вытеснялись с полей в ходе промышленной революции. Обслуживанием покупателей займутся программные агенты и роботы с развитым разговорным интеллектом, безграничными знаниями и столь же безграничным терпением.
Возникает естественный вопрос: а кто в таком случае будет этими самыми покупателями? Владельцы и управляющие роботизированными активами? Немногочисленные представители творческих профессий, уцелевшие в конкуренции с роботами? А как насчет остальных? Они же не станут молча курить в сторонке!
Здесь на самом деле скрыты два разных вопроса:
1) Как поступать с людьми, вытесняемыми роботами здесь и сейчас?
2) Какая роль в будущей цифровой экономике останется за людьми, а что отойдет роботам?
Первый вопрос в принципе решаем в виде той или иной разновидности налога на роботов. Например, робот, нанимаемый вместо человека, пожизненно «платит» последнему достойную пенсию через отчисления в специальный общественный пенсионный фонд. Это несколько замедлит темпы роботизации, так как внедрять роботов станет экономически выгодно лишь тогда, когда они будут не просто эффективнее человека, а, грубо говоря, вдвое более эффективными. Зато можно будет обойтись без никому не нужных социальных потрясений.
Для тех, кто не привык бездельничать и хотел бы найти себе новое занятие по душе, повысив заодно и свой заработок, будут организованы курсы по освоению новых профессий. Тех, кого пенсионерский стиль жизни устроит, будут ждать туризм и индустрия развлечений. Эти отрасли экономики станут соответственно расти и расширять рынок труда.
Здесь мы уже начинаем отвечать заодно и на второй вопрос — о роли и месте людей в будущем. Ведь кроме производства и распределения продуктов есть еще и постоянно расширяющаяся сфера человеческого общения.
Все-таки люди обычно предпочитают общаться со «своими», и роботы в этом плане вряд ли смогут составить им существенную конкуренцию. Кроме общения между собой за людьми останется очень важная социальная роль «воспитателей роботов», состоящая в передаче им наших человеческих ценностей.
Ведь успех будущей человеко-машинной цивилизации целиком зависит от того, насколько хорошо роботы будут разбираться в людях. Как мы уже упоминали и о чем будем более подробно говорить в следующей главе, обучаться персональные агенты и роботы будут через подкрепление, то есть одобрение своих действий. Но со стороны кого?
Конечно же, людей, через постоянные поощрения правильных поступков в самых разных формах — от оплаты услуг в соответствии с их качеством до обычных слов благодарности.
К этому же разряду следует отнести и будущую цифровую демократию. Сегодня люди «играют в политику» лишь изредка и в массе своей как любители, так как на это у них попросту нет времени: все заняты своей основной работой. Но в будущем определение общественного мнения по любому вопросу станет, во-первых, предельно упрощенным, а во-вторых, превратится в норму жизни, поскольку только таким образом люди смогут сохранить за собой управление своей судьбой, оставив за роботами исполнение их социальных заказов.
Цифровая демократия станет новым интерфейсом между распределенным человеческим и машинным разумом, через который будет достигаться компромисс между индивидуальными желаниями и общественными возможностями, станут определяться приоритеты, цели и долгосрочные планы в цифровой экономике. А также будет обеспечиваться безусловное исполнение коллективно принятых решений. Здесь мы естественным образом переходим к вопросу о роли государства в эпоху сильного ИИ.
С одной стороны, ситуация с ИИ-безработицей показывает, что без активного вмешательства государства в поддержание общественной стабильности в переходную эпоху нам не обойтись. С другой стороны, с искусственным интеллектом связано множество страхов и фобий в контексте государства как «большого брата». Действительно, для авторитарных государств, которых, к слову, сегодня в мире больше, чем демократических, ИИ предоставляет великолепный инструмент тотального контроля над своими гражданами.
Например, в Китае с его системой социального рейтинга право вмешательства государства в частную жизнь вообще не ставится под сомнение. Но и в менее авторитарных странах власть «в интересах народа» всегда найдет легальные способы, как поставить ИИ на службу своим интересам. Ведь у государственной бюрократии и силовых структур есть и собственные амбиции при разделе общественного пирога.
Технологии ИИ позволяют государству не просто следить за настроениями и поступками граждан, но и активно влиять на общественное мнение в пользу тех или иных групп интересов, например, с помощью армии искусственных личностей в социальных сетях. А поскольку соответствующие разработки силовых ведомств засекречены, они с большим трудом поддаются общественному контролю, если вообще поддаются.
Еще более опасны попытки бюрократии переводить стрелки общественного недовольства с больной головы на здоровую, списывая свои неудачи и провалы на разного рода внутренних или внешних врагов. Это нисколько не способствует выявлению и решению реальных проблем и в долгосрочной перспективе лишь усугубляет нестабильность в обществе. Более того, атмосфера «осажденной крепости» содействует безудержной гонке вооружений, опасность которой с появлением боевого ИИ возрастает многократно.
Действительно, возникновение и быстрое развитие ИИ часто сравнивают с изобретением атомного оружия, которое впервые поставило под вопрос физическое выживание человечества. Начинающаяся на наших глазах гонка за искусственным интеллектом очень напоминает атомную и ракетную гонку вооружений второй половины XX века.
Автономные боевые роботы, управляемые по глобальной оперативной сети искусственными стратегами, действительно способны качественно изменить баланс сил в пользу государств, имеющих доступ к соответствующим технологиям. Пока что военные успокаивают общественность тем, что, мол, окончательное решение всегда остается за человеком. Но все прекрасно понимают, что это временный вариант, продиктованный эпохой слабого ИИ, так как именно преимущество в скорости и качестве принятия решений станет главным достоинством боевого сильного ИИ.
Военные в ходе начавшейся гонки будут вынуждены постепенно передавать ему право принятия смертоносных решений, поднимаясь от уровня отдельных боевых единиц, как это уже происходит с самонаводящимися ракетами, до боевых тактических групп и далее — на всё более высокие оперативные и стратегические уровни. А поскольку вся логика принятия подобных решений будет основана на обработке гигантских объемов разнородной информации, недоступных человеческому разуму, перепроверить правильность решений искусственных стратегов в условиях ограниченного времени будет попросту невозможно.
При таком развитии событий повышается вероятность того, что человечество окажется втянутым в масштабную ядерную катастрофу в силу естественного стремления искусственных стратегов достичь поставленных военным руководством «национальных целей». Ведь недоверие к противнику и стремление превентивно нейтрализовать его коварные планы — профессиональные качества военных, от которых они неизбежно перейдут и искусственным стратегам.
Мало того, что интересы политического руководства могут кардинально расходиться с интересами граждан. При постановке задачи искусственным стратегам самое сложное — не определить цели, а сформулировать ограничения, при которых достижение этих целей все еще имеет смысл.
В известном рассказе У. Джекобса «Обезьянья лапка» этот древний талисман неизменно исполнял все желания своих хозяев, но делал это формально, без учета негласных ограничений — тех самых человеческих ценностей. Так, в ответ на желание очередного хозяина талисмана получить 200 фунтов, чек на эту сумму был вручен ему на следующий же день, но в качестве компенсации за жизнь внезапно погибшего в результате несчастного случая любимого сына.
Боевой ИИ в конечном итоге может привести мир к ситуации, когда ядерные кнопки окажутся в таких «обезьяньих лапках».