Искусственный интеллект и кризис капитализма

   Продолжение. Начало в №2 (215), №3 (216)

   II. Будущее искусственного интеллекта и угрозы, которые он несёт

   Будущее ИИ.

   Следующим этапом в исследованиях по искусственному интеллекту, отмечает Кай-Фу Ли, может стать сильный искусственный интеллект – СИИ. Люди научатся создавать мыслящие машины, способные выполнять любые интеллектуальные задачи, с которыми справляется человек, и делать то, что человеку недоступно.

   Существует мнение, что с появлением СИИ у машин, способных к самосовершенствованию, начнётся стремительное развитие компьютерного интеллекта. Это явление часто называют сингулярностью или эрой искусственного сверхразума. Если так произойдёт, мир могут заполнить компьютеры, превосходящие людей в интеллектуальном плане настолько, насколько мы превосходим насекомых. Такие фантастические предсказания разделили большую часть интеллектуального сообщества на два лагеря: утописты и сторонники антиутопии.

   Утописты видят в расцвете СИИ и наступлении сингулярности последний рубеж, отделяющий нас от светлого будущего, в котором человечество раздвинет границы сознания и победит смерть.

   Рэй Курцвейл, изобретатель и крупнейший идеолог Google, считает, что в будущем люди и машины сольются воедино. По его представлению, люди будут «загружать» свой разум в облака и постоянно обновлять ткани тела с помощью специально обученных нанороботов, введённых в кровоток. Курцвейл предсказывает, что к 2029 г. мы получим компьютеры с интеллектом, сравнимым с человеческим, т.е. СИИ, а точка сингулярности будет достигнута к 2045 году.

   Другие мыслители-утописты видят в СИИ средство, которое позволит нам быстро разгадать тайны Вселенной. Основатель DeepMind Демис Хассабис считает, что с помощью сверхчеловеческого интеллекта мы сможем разрешить задачи, которые раньше казались неразрешимыми: остановим глобальное потепление и научимся побеждать ранее неизлечимые заболевания. Сверхразумные компьютеры помогут человечеству справиться с его бедами и люди приблизятся к божественному всеведению и всемогуществу.

   В лагере антиутопистов не все настроены столь оптимистично. Илон Маск назвал суперинтеллект «самой большой опасностью, с которой мы можем столкнуться как цивилизация», сравнивая его создание с «призывом демонов».

   По большей части сторонники антиутопической версии будущего не боятся, что ИИ захватит мир, как это было показано в фильмах вроде «Терминатора», в которых человекоподобные роботы охотятся на людей, охваченные жаждой поработить человечество.

   Суперинтеллект будет продуктом, созданным человеком, а не появившимся в результате естественной эволюции, а потому у него не может быть инстинктов выживания, размножения или доминирования, которые управляют поведением людей или животных. Скорее всего, он будет стремиться достичь поставленных перед ним целей наиболее эффективным способом. Опасность, по мнению антиутопистов, состоит в том, что если люди окажутся препятствием на пути к достижению одной из этих целей – например, обратить вспять глобальное потепление, то суперинтеллект может легко, даже случайно, стереть людей с лица Земли. Глубокое понимание химии, физики и нанотехнологий позволит ИИ мгновенно достичь требуемого ему результата. Исследователи называют это «проблемой управления» или «проблемой выравнивания значений», причём она беспокоит даже тех, кто относится к СИИ с оптимизмом.

   Прогнозы о том, когда будут достигнуты такие результаты, сильно расходятся. Ник Бостром, автор книги «Искусственный интеллект. Этапы. Угрозы. Стратегии», вышедшей в 2014 г., приводит мнение специалистов по ИИ, которые склоняются к тому, что СИИ появится к 2040 г., а суперинтеллект, скорее всего, в течение трёх десятилетий после этого.

   В то же время Кай-Фу Ли считает, что ни один из вышеописанных сценариев, будь то бессмертный цифровой разум или всемогущий суперинтеллект, нельзя реализовать на основе современных технологий – учёные пока ещё не нашли чётких алгоритмов для СИИ и не особенно приблизились к их открытию. Сингулярность не может возникнуть спонтанно и автономные транспортные средства , в которых используются технологии глубокого обучения, не могут внезапно «проснуться» и понять, что способны объединиться и сформировать сверхразумную сеть.

   Создание сильного ИИ потребует целого ряда фундаментальных научных открытий в области искусственного интеллекта. Эти прорывы помогут убрать основные ограничения узкоспециализированных программ на основе ИИ и наделить их множеством новых способностей, к которым относятся понимание естественных языков, здравый смысл, обучение на небольшом количестве примеров, умение строить планы и рассуждать.

   На следующем этапе, чтобы создать эмоционально-интеллектуальных роботов, отмечает Кай-Фу Ли, нам понадобится каким-то образом дать им самосознание, чувство юмора, любовь и сострадание, способность восхищаться красотой. Эти задачи исключительно сложны, а создание сильного ИИ всё ещё выглядит недостижимой целью.

   С этим выводом Кай-Фу Ли можно согласиться. Так как здесь идёт речь уже о создании, фактически, подобия (прообраза) живого существа. Чтобы обладать самосознанием, эмоциями и чувствами, человечество прошло десятки тысяч лет эволюционного развития. А тут такой размах. И всё же уже сама постановка этой задачи не может не вызывать восхищения могуществом современного человеческого разума.

   И далее автор пишет, что, по его мнению, «пройдёт ещё немало десятилетий, если не веков, прежде чем СИИ и суперинтеллект станут реальностью». Существует также объективная вероятность того, продолжает Кай-Фу Ли, что люди так никогда и не смогут создать СИИ. Искусственный интеллект произведёт переворот в отношениях между людьми и машинами – многие даже считают, что его появление станет самым выдающимся событием в истории человечества. Но Кай-Фу Ли полагает, что это та грань, которую нам не следует переходить, пока не решены все проблемы, связанные с контролем и безопасностью. По крайней мере, Кай-Фу Ли и некоторые другие эксперты считают, что мы гораздо дальше от создания СИИ, чем принято думать.

   Здесь просматривается некоторый страх перед грядущим. А учёные не имеют права бояться, иначе им не следует заниматься наукой. Другое дело, что необходимо стремиться просчитывать как положительные, так и негативные последствия тех или иных открытий. Впрочем, всё это проявляется на практике, когда научные достижения внедряются в повседневную человеческую жизнь.

   В то же время Кай-Фу Ли, говоря о том, что наши современные возможности в области ИИ не позволяют нам создать суперинтеллект, способный разрушить нашу человеческую цивилизацию, предупреждает, что это лучше любого СИИ могут сделать сами люди.

   Угрозы, которые несёт искусственный интеллект.

   Наряду со стремительным прогрессом и повышением качества жизни, ИИ несёт в себе и угрозы человечеству, которые вызывают всё больше беспокойства среди руководителей корпораций и ведущих исследователей ИИ.

   Стремительно повышая производительность труда во всех сферах человеческой деятельности, куда проникает ИИ, происходит вытеснение человека, что создаёт угрозу массовой безработицы ещё невиданных масштабов.

   Океан глубокого обучения, отмечает Кай-Фу Ли, омывая глобальную экономику, способен стереть с лица земли миллиарды рабочих мест - бухгалтеры, работники сборочных линий, операторы складов, учётчики складских запасов, контролёры качества, грузоперевозчики, средний юридический персонал, рентгенологи и т.д. - уже в ближайшем будущем могут лишиться своей работы, будучи заменены алгоритмами. При внедрении беспилотного автотранспорта работы лишатся диспетчеры, таксисты, водители грузовиков и автобусов. Громадные сокращения грозят работникам банковской сферы, страхования, розничной торговли, производства, других областей человеческой деятельности.

   Это, с одной стороны.

   С другой стороны, происходит невиданное обогащение руководства и элиты корпораций, занятых исследованиями и технологическим применением искусственного интеллекта, доходы которых измеряются миллиардами долларов. Происходит рост неравенства как внутри стран, так и между ними.

   В настоящее время в мире господствуют семь гигантов эпохи ИИ.

   Это четыре американские корпорации: Google, Facebook, Amazon и Microsoft, и три китайские: Baidu, Alibaba и Tencent. Эти компании ведут свою игру, стремясь удержать доминирующие позиции в эпоху ИИ. У них есть миллиарды долларов и громадные запасы данных, что позволяет прибрать к рукам самых талантливых специалистов.

   Компании-гиганты ведут работу по созданию «энергосистемы» эпохи ИИ – частных вычислительных сетей для распространения машинного обучения во всех областях экономики, стремясь стать «базовой инфраструктурой», то есть поставить под свой полный контроль работы по искусственному интеллекту и его технологическому применению во всём мире. Это явление вызывает беспокойство у тех, кто выступает за открытую и доступную всем экосистему ИИ.

   По мнению Кай-Фу Ли, в течение ближайших 15 лет ИИ способен технически заменить около 40-50% работников в США. Фактически люди массово начнут терять работу лет на десять позже, но, в любом случае, дестабилизация рынков труда, когда на улице не только в США, но и в Китае окажутся десятки, а то и сотни миллионов безработных, не может не вызывать тревогу.

   Причём неравенство шагнёт за пределы национальных границ.

   США и Китай далеко обогнали все другие страны в области искусственного интеллекта, открыв дорогу, по мнению Кай-Фу Ли, для пришествия биполярного миропорядка нового типа.

   Ещё несколько стран – Великобритания, Франция и Канада – имеют сильные научно-исследовательские лаборатории и талантливых специалистов по ИИ, но им не хватает экосистемы венчурного финансирования и больших баз пользователей, чтобы использовать данные в объёмах, достаточных для этапа реализации.

   Китай и США в настоящее время растят гигантов ИИ, которые будут доминировать на мировых рынках и зарабатывать на потребителях по всему миру. Причём американские компании, считает Кай-Фу Ли , скорее всего будут претендовать на многие развитые рынки, а у китайских гигантов больше шансов завоевать рынки Юго-Восточной Азии, Азии в целом и Африки.

   Грандиозные социальные потрясения и крах политических систем из-за массовой безработицы и растущего неравенства – вот реальная угроза, которую несёт миру ИИ, заключает Кай-Фу Ли.

   Причём главную роль в вытеснении людей из производственной и других сфер человеческой деятельности будут на данном этапе играть алгоритмы, а не роботы. Так как, отмечает Кай-Фу Ли, гораздо проще создавать алгоритмы ИИ, чем строить интеллектуальных роботов.

   В подтверждение своих слов Кай-Фу Ли приводит принцип искусственного интеллекта, известный как парадокс Моравека, профессора университета Карнеги-Меллона, в котором учился автор. Работа над искусственным интеллектом и созданием роботов привела профессора к следующему фундаментальному выводу: несмотря на то, что ИИ может относительно легко имитировать интеллектуальные или вычислительные способности взрослого человека, очень трудно дать роботу восприятие и сенсомоторные навыки, имеющиеся даже у малыша.

   Алгоритмы могут полностью затмить людей, когда речь идёт о создании прогнозов на основе данных, но роботы всё ещё не научились выполнять обязанности горничной отеля. По сути, ИИ «великолепно работает головой», но роботы плохо работают пальцами.

   Парадокс Моравека был сформулирован ещё в 80-х годах. С тех пор искусственный интеллект далеко продвинулся вперёд. Однако мелкая моторика роботов – умение брать объекты и манипулировать ими – всё равно не так хороша, как у людей.

   Чтобы развить тонкую моторику у роботов, ещё необходимо много поработать и производителям аппаратного обеспечения, и программистам, и специалистам по ИИ восприятия. Разрешение этих вопросов требует достаточно долгого времени и замедляет темпы роботизации. Но в Китае настойчиво работают над разрешением данных вопросов. Рынок роботов в стране стал одним из ведущих в мире, на нём совершается почти столько же покупок, сколько в Европе и Америке, вместе взятых.

   При этом надо иметь в виду особенности экономических систем США и Китая.

   Так, в Китае более четверти рабочей силы всё ещё трудится на фермах, ещё четверть – на промышленном производстве. В США же в сельском хозяйстве занято менее 2% тружеников (даже из этого показателя видно, насколько выше производительность сельскохозяйственного труда в США по сравнению с Китаем) и около 18% - в промышленности.

   Поэтому китайские руководители, политические лидеры едины в своём стремлении автоматизировать промышленное и сельскохозяйственное производство, чтобы выйти на самый современный уровень развития. Дроны для обработки посевов пестицидами в сельском хозяйстве, роботы, умеющие разгружать фуры в складских помещениях, роботы, обладающие зрением и контролирующие качество на производстве – их использование приведёт к резкому сокращению рабочих мест в данных отраслях и, также как и в США, вызовет стремительный рост безработицы.

   Обозреватель

   Продолжение следует