Отберет контроль и превратит в безработных? Какие реальные и будущие угрозы исходят от ИИ

Опасности настоящего

Внедрение ИИ в самые разные стороны жизни в последние годы идет с постоянным ускорением и расширением. Он автоматизирует производство, ищет новые лекарства и материалы, пересказывает вам новости, следит за порядком через городские камеры и спутники, ищет и вычисляет преступников, находит пропавших людей и даже борщевик на дачных участках.

За эти годы человек сумел найти множество вариантов применения для нейросетей и искусственного интеллекта и сделать их доступными для рядовых пользователей.

Но применять ИИ начали не только для пользы, но и для преступных целей. И даже внешне полезное их назначение на поверку несет в себе немалые риски.  

Вот с чем сталкиваются уже сейчас.

Ошибки и предвзятость в алгоритмах

Даже самый «умный» ИИ учится на данных, предоставленных человеком, — а они полны искажений, стереотипов и дыр. Если позволить ему принимать решения или следовать его советам без критического восприятия, эти искажения могут повлиять и на вас.

На практике это может привести, например, к тому, что компании, внедрившие ИИ и полностью отдавшие ему на откуп решение важных вопросов, будут принимать несправедливые или ошибочные решения. И даже не сразу поймут, где их суперпомощник так набедокурил.

Это может привести к дискриминации при найме или кредитовании, к неправильной оценке рисков в юриспруденции и ошибочным приговорам в суде.

Оружие дезинформации

Голосовые и видеодипфейки начинались как безобидные шутки, но стремительно стали орудием злоупотреблений. С их помощью мошенники разводят людей, а центры дезинформации клепают убедительные «доказательства» любого нарратива.

Даже чиновники иногда могут подделать результаты работы для отчетности и выложить подправленное фото с места приемки дороги или детской площадки, где по факту осталась та же разруха. Что уж говорить о преступниках.

Совершенствование ИИ грозит сделать дипфейки совершенно неотличимыми от реальности. Результат — смятение в умах и утрата общественного доверия к любым источникам информации.

Переворот на рынке труда

Появляются все новые и новые списки профессий, которые на горизонте ближайших лет могут полностью исчезнуть из доступных для людей. И что тревожно, они только расширяются: если раньше исчезновение предрекали только кассирам, бухгалтерам и переводчикам, то теперь в очереди на вылет менеджеры, политологи, писатели, туроператоры, финансовые консультанты.

Виной всему опять ИИ — с какими-то задачами он справляется лучше человека, с какими-то — тупо быстрее и практически со всеми — значительно дешевле.

То есть бизнес в виде развивающихся ИИ-агентов получает решение сразу целого ряда задач, для которых раньше нужны были люди. Встает вопрос: а куда денутся все эти люди?

Да, аналитики предлагают много вариантов, начиная со «становиться шефом над ИИ» и просто использовать нейросеть как подчиненного до «переучиваться на более актуальные профессии».

Если не появятся регуляторные механизмы и социальные гарантии со стороны государства, защищающие людей от увольнения при внедрении ИИ, безработных будет очень много. А богатые станут еще богаче.

ИИ в руках киберпреступников

  Уже сейчас преступники используют возможности нейросетей для того, чтобы подбирать пароли к аккаунтам пользователей. Время взлома одного пароля колеблется от нескольких минут до нескольких часов в зависимости от его сложности.

Правительство и кибербезопасники уже серьезно обеспокоены возможностями, которые дает ИИ правонарушителям и террористам.

«Это, как и все в интернете, как и все в высоких технологиях... в руках недобросовестных людей или, не дай бог, в руках террористов, это может стать очень грозным оружием», — сказал официальный представитель Кремля Дмитрий Песков.  

В будущем с поддержкой ИИ кибератаки любого плана станут быстрее, мощнее и опаснее.

Гонка за власть

США, Россия, Китай, Европа вкладывают миллиарды в разработки, потому что понимают: первые обладатели сильного ИИ потенциально могут получить лидерство не только в этой гонке.

Искусственный интеллект потенциально сам по себе дает огромную власть тем корпорациям, которые будут владеть его данными, так что потребность контроля в этой сфере уже назрела и довольно остра.

Только вдумайтесь: ежедневно миллионы пользователей в диалогах с нейросетями передают им гигабайты информации о себе и о мире. Эти данные хранятся на серверах компании-разработчика, что уже концентрирует опасно большой объем информации, условно, «в одних руках».

И хотя многие корпорации уже начали это регулировать, но это далеко не общее решение и разные страны решают этот вопрос по-своему.

Но что можно сделать, если у вас появятся уже не просто нейросети, а сильный ИИ, способный планировать и принимать решения и использовать для вычисления всех вариантов, например, возможности квантовых компьютеров (СНОСКА: Квантовый компьютер — вычислительное устройство, которое для обработки информации использует законы квантовой механики, то есть науки о том, как ведут себя очень маленькие объекты: атомы, электроны и другие частицы. Это позволяет проводить параллельные вычисления не просто быстро, а очень быстро)?  

Технологический прорыв сразу во многих областях — самое очевидное. А еще — возможность тонко манипулировать общественным мнением, совершенствовать оборону, предсказывать экономические взлеты и падения… возможности ограничены только полетом фантазии.

Будущие угрозы

Сильный ИИ, вышедший из-под контроля, — популярный сюжет научной фантастики. Однако то, что его уже не раз обыграли писатели и киноделы, не означает, что эта угроза всего лишь страшилка и выдумка.  

Вот о каких рисках дальнейшего развития ИИ нужно задуматься уже в перспективе ближайших десятилетий, а то и лет.

Потеря контроля

Сейчас нейросети, даже самые продвинутые и рассуждающие, — всего лишь алгоритмы, выдающие только то, что от них просит пользователь. Даже если кажется, что где-то их рассуждения вышли за рамки и дали им проявить «характер», скорее всего, это обусловлено их базовыми настройками или самой формулировкой промпта.  

Однако применение ИИ для программирования, промптинга и совершенствования алгоритмов имеет риск запустить цепную реакцию: система начнет улучшать себя и развиваться быстрее, чем люди будут успевать это контролировать, понимать ее возможности и мотивы.  

В теории в таких условиях вполне возможны развитие или имитация пресловутой «свободы воли».

Пока это скорее «фантомная боль» философов и фантастов, но основной вопрос в том, получит ли ИИ способность ставить цели вне заданных рамок и ресурсы для их реализации.  

Когда ИИ будет не только советовать, но и напрямую управлять машинами, производством, оружием, ошибка или умышленная манипуляция могут легко обернуться катастрофой.

Особенно если он преодолеет пресловутое «первое правило робототехники», сформулированное Айзеком Азимовым, и вопрос безопасности людей больше не будет для него в приоритете.

Однако футуролог Евгений Кузнецов убежден, что паниковать и бегать с воплями, что искусственный интеллект скоро всех убьет и поработит, как минимум преждевременно.

ИИ-оружие двойного назначения

Все хорошее, что может ИИ, точно так же можно использовать во вред, если иметь такие цели.  

Например, потенциальная способность быстро находить и тестировать в виртуальной среде различные варианты химических соединений и молекул мощно продвигает человечество в разработке лекарств и вакцин. Но одновременно есть риск создания с помощью ИИ биооружия по тем же принципам.  

А возможность одновременно решать тысячи задач делают его идеальным оператором дронов без необходимости обучать для этого живых людей. Там, где потребовался бы целый взвод операторов, справится один искусственный интеллект.  

Вепонизация ИИ (превращение технологии в оружие) — один из серьезных камней преткновения в разговорах о них уже сегодня.

Разработчикам приходится учитывать это и прописывать много сдерживающих факторов в свои продукты, чтобы не дать это оружие в руки простым людям, однако что может сдержать какое-то государство, если не будут достигнуты договоренности об ограничении ИИ глобального уровня?

Влияние на человека

ИИ уже влияет на людей, которые им пользуются. Исследования показывают, что увлечение ИИ может спровоцировать обострение психических заболеваний, привести к «оглупению» и в принципе изменить способ мышления.  

В будущем, передавая ИИ все больше задач и решений, не настроенные мыслить критически люди рискуют утратить способность действовать самостоятельно. Может произойти если не деградация, то эрозия человеческой компетентности: навыки и знания, которые не используются, быстро забываются мозгом как лишний балласт.

Но есть и другая проблема влияния ИИ, которая может затронуть даже тех, кто осознанно не прибегает к нейросетям и подобным инструментам. Если те же рекламные алгоритмы уже сейчас знают о нас и наших желаниях раньше, чем мы успеваем их сформулировать, вообразите, что можно сделать с помощью сильного ИИ?  

Сверхперсонализированное влияние на человека даст возможность буквально манипулировать им, его выборами, покупками, мировоззрением. И тут та самая утраченная критичность ох как пригодилась бы.  

По иронии это одна из самых реалистичных угроз со стороны ИИ: не в том, что ИИ «взбунтуется», а в том, что он будет идеальным слугой, предельно эффективным исполнителем человеческих запросов. Даже если эти запросы будут изначально деструктивны или недальновидны.  

Однако пока ваши мозги остаются при вас, как и ваша свобода воли и решений. И конкретно в этом вопросе только вы решаете, как далеко вы готовы впустить ИИ в свою жизнь и что с ним делать.

Немного оптимизма

Конечно, с возможностями ИИ все плохое, на что способно человечество, приобретает новый мощный инструмент для того, чтобы стать еще хуже. Это данность, и это судьба почти любой технологии, которую можно использовать во вред.

Но есть и светлая сторона: все хорошее точно так же может задействовать мощности машин и алгоритмов, чтобы противостоять плохому и создавать что-то новое и прекрасное.