Помоги проекту - поделись книгой:
Наконец, скептики считают, что технологические перспективы как развития искусственного интеллекта, так и его последствий сильно преувеличены. Среди них распространена точка зрения, что создание искусственного интеллекта вообще невозможно, так как интеллект есть имманентная характеристика человека, а не машины.
Тема угроз для человека от созданного им же искусственного антропоморфного существа имеет давнюю историю. Искусственный человек становится в этой сюжетной линии субъектом зла.
Такой сюжет представляет, в частности, русская народная сказка «Глиняный парень». В ней созданное гончаром глиняное существо пожирает своего создателя, а затем – и всех попадающихся на его пути. Бесчинство продолжается до того момента, пока коза-робоза не пробила глиняному парню рогами живот. Сказка «Глиняный парень» была одним из самых распространенных сказочных сюжетов в Заонежье и имеется в различных записях[433]. Аналог русской сказки обнаруживается и у других народов – французов, венгров, чехов.
Идея выведения искусственного человека, гомункула, составляла одну из центральных тем алхимической эзотерики. Существо наделялось качествами явно демонической природы и предполагало при создании элементы контринициации. Оно вскармливалось человеческой кровью.
Предания, распространенные в среде алхимиков, приписывали создание гомункула знаменитому испанскому врачу Арнольду де Вилланова, жившему в XIII–XIV веках. Уже в XVI столетии рецепт выведения гомункула был написан Парацельсом. Согласно распространенным поверьям, для создания искусственного человека требовалось заключить конкордат с Сатаной.
Проект «гомункул» представлял органическую версию создания антропоморфного существа – другую проектную линию, чем создание искусственного интеллекта, но он отражал общую рефлексию безнравственности созданного неестественным образом существа. В средневековой традиции осуждались с ортодоксальных позиций сами попытки создать антропоморфное существо как грех уподобления Создателю, существующему лишь в единственном числе. Созданные без Бога существа оказывались монстрами, поскольку не имели человеческой души[434].
Создание искусственного человека, способного говорить, приписывалось Альберту Великому. Якобы машину Альберта Великого разбил посохом Фома Аквинский, что подразумевало небогоугодность человекоподобной конструкции.
Особую известность благодаря соответствующим литературным обработкам получила легенда о големе – создании пражского раввина Йехуды Лева. Голем был создан для защиты евреев от кровавого навета. Однако он вышел из подчинения и сам обрушился на евреев. Истукана удалось остановить, и ныне, согласно легенде, он находится на чердаке Пражской синагоги. Когда-нибудь он включится вновь, что станет отправной точкой развертки апокалипсического сюжета.
Голем стал нарицательным образом, используемым для обозначения бездуховного человека. Используется, в частности, аллегория големизации человечества как выражения современного кризиса духовности. К образу голема в мировой культуре апеллировали не только Густав Мейринк – вероятно, наиболее известная апелляция, – но и в разное время Амадей Гофман, Генрих Гейне, Томас Манн, Станислав Лем, Хорхе Луис Борхес, Умберто Эко, Виктор Пелевин[435].
Образ чудовища Франкенштейна был создан Мэри Шелли уже в XIX столетии, свидетельствуя о сохраняющемся интересе к теме и в Новое время. Роман «Франкенштейн, или Современный Прометей» вышел впервые анонимно в 1818 году. Сюжетная линия прежняя: созданное человеком искусственное антропоморфное существо оказывается чудовищем и приносит зло своему создателю. Проекцией рефлексии в будущем явилось требование монстра, чтобы Франкенштейн создал ему невесту, от союза с которой пойдет новая раса, которая заполнит землю и получит доминирование над человеком. Произведение Шелли станет уже в XX столетии основанием для различных экранизаций[436].
В XX веке восстание машин стало одним из наиболее популярных сюжетов мировой научной фантастики. Классическим произведением в генезисе темы явилась пьеса Карла Чапека «Россумские универсальные роботы» (1921). Собственно, слово «робот», производное от славянского «работа», именно благодаря пьесе Чапека и получило повсеместное распространение.
По сюжету роботы, созданные для облегчения жизни людей, восстали против них и истребили человечество. Чапеком пророчески поднималась тема появления защитников прав роботов, находящаяся сегодня уже в дискурсе философии права. Финал драмы чешского писателя, правда, оптимистический: любовь, возникшая между особями-роботами, открывает перспективу их очеловечивания. Рождаются новые Адам и Ева, на этот раз среди машин. Но как в пессимистической части геноцид людей, так и в оптимистической – очеловечивание роботов – Чапек обращается к фундаментальному вопросу о ценностях в применении к искусственному разуму[437].
Американские фильмы «Бунт роботов» (1984) и «Восстание машин» (2011) обозначают продолжающуюся дискурсивную линию. Машины выходят из-под контроля человека и становятся, как в фильме «Бунт роботов», орудием зла или, как в «Восстании машин», субъектом выражения собственных интересов, вступающих в противоречие с интересами человека. Вся эта дискурсивная линия шла в целом вокруг темы занятия искусственным разумом позиции зла в аксиологии человеческого существования.
Между тем тревожные аллюзии вызывают различные прецеденты действий роботов. Особый резонанс вызвало интервью с роботом Софией, пообещавшей в будущем уничтожить человечество. Во время другого интервью она заявила об установлении в дальнейшем доминирования роботов над человеческой расой. Между тем София в соответствии с духом постмодернистской эпохи приглашалась для выступления в ООН. Ей было предоставлено гражданство Саудовской Аравии. И это при том, что женщинам в саудитском государстве гражданство не предоставляется вовсе. Во всем этом, безусловно, есть и постмодернистский абсурдизм, есть, вероятно, и фейки, стремление раздуть сенсацию. Но есть также и реальные проблемы: 1) создание машины, выходящей из-под контроля человека и обращающейся против ее же создателя; 2) использование создателем сверхмощной машины во зло человечеству либо части человечества.
В создании робота Софии соучаствовали американцы и китайцы. Автором проекта стал американец Дэвид Хэнсон, разработавший оболочку модели по визуальному образцу британской актрисы Одри Хепберн. Непосредственным изготовителем конструкции явилась гонконгская компания
Американская культура не знала в своем генезисе Средневековья, а соответственно, не знала и Возрождения. Она сразу началась с Нового времени. Как следствие, той антропоцентричной рефлексии, которая имела место в Европе, в ней не было. Американцы – утилитаристы, и приемлемость для них выражается критерием «это работает». Если робот работает лучше человека, человека следует заменить роботом. Рынок, как говорится, диктует.
Китайцы еще более утилитаристичны, чем американцы. Антропоцентричная доминанта в китайской цивилизации была выражена в гораздо меньшей степени, нежели в других цивилизационных типах. Соответственно, и символическая грань между роботом и человеком для восприятия китайцев менее критична, чем для кого бы то ни было, а ее преодоление не продуцирует рефлексии о дегуманизации.
Конечно, проще всего отмахнуться от всех подобных «страшилок», сказав, что это не более чем гуманитарные фантазии. Столь жесткого противостояния, как в России, «гуманитариев» и «технарей», «лириков» и «физиков», вероятно, нет больше нигде, чему есть свое объяснение. И такое противопоставление, являвшееся в свое время реакцией на идеологический диктат диалектического и исторического материализма, играет сегодня крайне отрицательную роль при решении задач, требующих междисциплинарных подходов. В отношении же угроз, связанных с реализацией проектов создания искусственного интеллекта в будущем, имеются предупреждения от круга лиц, практически связанных с разработкой и внедрением новых технологий.
Среди них – знаменитый британский физик, теоретик и космолог Стивен Хокинг. Более авторитетную фигуру в экспертной оценке перспектив искусственного интеллекта трудно отыскать[438]. Хокинг недвусмысленно указывал на угрозу, исходящую от машин, для человека, говорил о проигрыше человечества в конкурентной борьбе с роботами. «Появление полноценного искусственного интеллекта может стать концом человеческой расы»[439]. «Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем»[440]. Хокинг во втором из представленных высказываний говорит не только о факте конкуренции, но и о механизме, обеспечивающем победу роботов – о способности к самосовершенствованию, осуществляемому с большой скоростью. Значит, по мнению знаменитого физика и в противоречии с позицией скептиков, машина способна саморазвиваться.
Хокинг, исходя из обнаруживаемых угроз, стал одним из инициаторов подписания принципов развития искусственного интеллекта, состоявшегося в 2017 году, за год до смерти великого физика. Подписание, к которому были привлечены многие известные ученые и руководители профильных компаний, состоялось в Азиломаре, США, по результатам работы конференции исследователей и разработчиков в сфере искусственного интеллекта. В дальнейшем круг подписантов расширялся, превысив уже три с половиной тысячи специалистов из разных стран мира. Отдельную группу составили в принятом документе нравственные вопросы развития искусственного интеллекта, что являлось важной фиксацией значимости темы нравственности в дальнейшем техническом прогрессе. Из 23 сформулированных принципов развития искусственного интеллекта особого внимания в контексте рассматриваемой темы заслуживают следующие позиции:
«10. Согласование ценностей. Высокоавтономные системы ИИ должны проектироваться так, чтобы их цели и поведение согласовывались с человеческими ценностями во всех аспектах их работы.
11. Человеческие ценности. Системы ИИ должны проектироваться и управляться так, чтобы быть совместимыми с идеалами человеческого достоинства, прав, свобод и культурного разнообразия…
22. Рекурсивное самоулучшение. Системы ИИ спроектированные для рекурсивного самоулучшения или самовоспроизведения так, что это может привести к быстрому росту качества или количества, должны быть предметом строгих мер безопасности и контроля.
23. Общее благо. Сильный искусственный интеллект должен разрабатываться только во имя служения широко разделяемым этическим идеалам и во благо всего человечества, а не одного государства или организации»[441].
Наиболее резонансные высказывания последних лет об угрозах, продуцируемых развитием искусственного интеллекта, принадлежат Илону Маску. Искусственный интеллект, предостерегает Маск, есть «самый большой риск, с которым мы сталкиваемся как цивилизация»[442]. И эта оценка принадлежит человеку, деятельность которого находится в авангарде внедрения технологий, сопряженных с перспективой появления искусственного интеллекта.
Предупреждения Маска по яркости создаваемых образов надвигающейся для человека катастрофы звучат как апокалиптические пророчества, но большинством они не воспринимаются всерьез.
«Наименее страшное будущее, о котором я могу думать, – это то, в котором мы по крайней мере демократизировали искусственный интеллект, потому что если одна компания или небольшая группа людей сумеют развить богоподобный цифровой суперинтеллект, они смогут захватить мир»[443].
«Всех, даже самых злобных и отвратительных диктаторов, объединяло одно – они были смертными. Однако для ИИ вообще не будет существовать такого понятия, как смерть. Он сможет существовать вечно. От такого зла людям некуда будет спрятаться»[444].
«Если у искусственного интеллекта есть цель, а человечество просто оказывается на пути, он уничтожит человечество, как нечто само собой разумеющееся, даже не задумываясь об этом. Это похоже на то, как мы строим дорогу и по пути попадается муравейник. Мы ведь не ненавидим муравьев, мы просто строим дорогу. Итак, до свидания, муравейник»[445].
«Мы стремительно продвигаемся к созданию цифрового суперинтеллекта, который намного превосходит любого человека, я думаю, что это довольно очевидно. У нас есть лет пять»[446].
Особое напряжение по сей день вызывает перспектива появления искусственного разума с позиций религии. И основания для опасения, надо признать, действительно существуют. В США известным инженером машин самостоятельного вождения Энтони Левандовски была некоторое время назад зарегистрирована религиозная организация «Путь в будущее». Ее цель провозглашалась в следующем: «Развивать и продвигать реализацию Божества, основанного на искусственном интеллекте». Левандовски давал пояснение: «То, что мы планируем создать, фактически будет богом. Но не тем богом, что вызывает ураганы и молнии. Представьте себе сущность, которая будет в миллиарды раз мудрее самого умного человека. Как еще ее можно назвать, если не богом?»[447] То, о чем предупреждали религиозные мыслители, – провозглашение искусственного интеллекта Богом – стало реальностью. Можно, конечно, сказать, что это религиозный фанатизм. Но обратимся к рассуждениям на этот счет Илона Маска: «Я все больше склонен считать, что необходимо задуматься о регулировании этого вопроса на государственном и международном уровне. Это даст нам уверенность в том, что мы не совершаем ужасную ошибку. Создавая искусственный интеллект, мы фактически призываем демона. Вы знаете эти истории, в которых герои со святой водой наготове изображают пентаграмму и вызывают демона. Да, они уверены, что смогут его контролировать, но это не так»[448].
Прислушаться к религиозным лидерам необходимо. О чем же они предупреждают? Патриарх Кирилл: «Слышатся голоса, что современные технологии способны создавать искусственный интеллект и искусственные органы, что скоро удастся так модернизировать наш разум и тело, что возникнут новые существа. Вера в технологии сегодня – то же, чем была вера в прогресс, это своеобразная квазирелигия»[449]. Архиепископ Палья, президент Папской академии жизни: «Риск в том, что мы забываем, что мы существа, а не создатели»[450]. Далай-лама XIV: «Некоторые ученые говорили, что современные технологии могут создать искусственный интеллект, новое живое существо, новое сознание. Я в этом сомневаюсь. Считаю, что технологии не могут тягаться с человеческим умом. Потому что человеческий ум, сознание сложнее современных технологий, и в конечном итоге технологии зависят от сознания, они в руках человека»[451]. Духовные лидеры человечества, представляющие разные конфессии, солидарны в позиции, что нельзя превращать технологии в культ, нельзя подчинять человека искусственному интеллекту, нельзя преступить грань между человеком и машиной. Но все это не означает запрета на технологии и развитие.
Футурологическое безумие периода пандемии
Еще сравнительно недавно рассуждения о будущем мало кого волновали. Футурологи воспринимались кем-то вроде «городских сумасшедших». Если о будущем и шла речь, то лишь в пролонгации настоящего. Сегодня одна серия айфонов, завтра новая, более совершенная, а послезавтра – и вовсе технически бесподобная. Вот и все будущее.
Но вот грянул кризис 2020 года (является ли он кризисом пандемическим или пандемия стала его прикрытием – оценки расходятся), и ментальные двери в будущее были отворены. И из-за отворенных дверей на человечество обрушился хаос. Футурология из удела «городских сумасшедших» вдруг оказалась в центре общественного обсуждения. О том, каким будет постпандемический мир, высказались в течение двух-трех месяцев фактически все мыслители, претендующие на роль интеллектуальных предводителей человечества.
Широта спектра мнений о будущем и активность в их продуцировании позволяет охарактеризовать ситуацию как «футурологическое безумие». Ничего подобного не было даже в периоды эсхатологических ожиданий средневековья. Тогда-то хоть весь дискурс структурировался вокруг одной основной версии религиозного Апокалипсиса. Сегодня же какой-либо конвенциональности во взглядах на будущее, даже конвенциональности в предмете обсуждения, нет как таковой.
Из этого футурологического хаоса может следовать далее либо окончательный интеллектуальный распад человечества, переход в состояние циркуляции многочисленных химер, либо некая идеологическая кристаллизация. Вот эта идеологическая кристаллизация и будет интересовать нас в перспективе дальнейшего рассмотрения. Пока из мозаической палитры картин будущего можно абстрагировать восемь футурологических моделей. Все эти модели неустойчивы и могут служить, скорее, не пониманию будущего, но пониманию хода развития общественной мысли[452].
1. Модель «заглохшие моторы», или «новое средневековье»: глобальный технологический регресс, распад экономической связности.
2. Модель «глокализации»: распад до уровня локальных сообществ, как в первой модели, но сохранявших связность друг с другом в новых форматах.
3. Модель «технологического оптимизма», «цифрового рая»: вызов коронавируса окажется вызовом, подтолкнувшим научно-технический прогресс, развитие сфер, связанных с искусственным интеллектом и генной инженерией, и этот толчок – «новая шоковая терапия» – был необходим.
4. Модель «автаркийных пространств»: установка открытости будет заменена установкой автаркизации, произойдет восстановление утративших было суверенитет национальных государств.
5. Модель «враждующих цивилизаций»: Запад во главе с США утратил свой моральный авторитет и потеряет фактическую гегемонию, вследствие чего произойдет раздел мира на несколько зон геополитического, геоэкономического и геокультурного влияния.
6. Модель «цифрового фашизма», или «цифрового концлагеря»: под предлогом обеспечения безопасности человека установится режим тотального контроля, воспроизводящий всю «оруэллиану»; но это не будет полным свертыванием глобализма, а уровневым распределением допуска в глобальный мир (из бранные – допускаемые к перемещению, использованию экологических ресурсов и большинство – не допускаемое).
7. Модель «сверхглобализма»: глобальные проблемы человечества, сообразно с этой версией, могут быть решены только сообща, для чего будет создан постоянно действующий управленческий орган, Мировое правительство.
8. Модель «Звезда Полынь»: реализация апокалипсического сценария, начинающегося со страшного мора, продолженного установлением власти Антихриста и чипизацией, завершаемого армагеддоном и Страшным судом.
Но, вместе с тем, важны в плане проектирования мирового развития определенные проговоры. Проводимый анализ исходит из условия, что изменения 2020 года не будут полностью отыграны назад и точка невозврата в системных трансформациях пройдена. Ограничительные меры будут, вероятно, ослабляться, ужесточаться вновь, но шаблон реагирования на угрозы был апробирован, и на каждый сопоставимый вызов до́лжно теперь отвечать по аналогии с принятой рецептурой действий.
Таким образом, каждая эпоха в развитии русской историософии создавала своего Антихриста, имевшего мало общего со зверем из Откровения Иоанна Богослова. Казалось бы, ему предначертано прийти из Вавилонии после тысячелетнего царства Христа и утвердить свой престол в Иерусалиме. Русские мыслители, переживавшие апокалипсическое предание как личную драму, связывали сюжет об Антихристе с российским континуумом. России предписывалось либо победить Антихриста, либо его породить, либо и то и другое. Тенденции развития современной мысли позволяют заключить, что легенда об Антихристе будет актуальна и в XXI столетии и что данный идеомиф способен предопределить ход исторического процесса в России.
Заключение
Проведенный анализ подтвердил на фактическом материале исходное положение о парадигмальном характере для русской общественной мысли эсхатологической системы воззрений. Эсхатология составляла основание российского идеологического строительства. Исторически воспроизводимая государственная идеология России являлась модификацией образов Апокалипсиса. Особое значение в этих образах имела идентификация в русской общественной рефлексии фигуры Антихриста. На эту роль определялась целая череда исторических деятелей и неперсонифицированных акторов мировой истории. Фактически каждое поколение в истории России понимало, что оно живет на этапе реализации сюжетной линии Апокалипсиса.
Фактор русской эсхатологии дает основание посмотреть в иных акцентировках на процесс российской истории. Зачастую этот фактор приобретал самостоятельное ключевое значение, задавая соответствующий вектор исторического процесса. Недоучет его при фокусировке объяснительных моделей через экономику, социальные отношения, политику приводил к деформациям в системе причинно-следственных связей в изложении отечественной истории. Ведь та же книжная справа XVII века вряд ли привела к парадигмальному расколу, не будь наложена на эсхатологические ожидания значительной части российского общества.
Апокалипсическая семантика перетолковывалась в русской эсхатологии в направлении определения России (Руси) в качестве ключевого актора эсхатологического нарратива. Она могла выступать и как сила, удерживающая торжество зла, и как новый Иерусалим, в который придет при втором пришествии Мессия, и как страна, породящая Антихриста и ставшая бастионом его власти. Русский эсхатологизм составил, в частности, основание идеологии Третьего Рима. Теократизм русского самодержавия также определялся не столько раскладом социальных сил, как было принято считать в советской историографии, сколько эсхатологическим осмыслением сущности государственной власти.
Несмотря на частичную секуляризацию, эсхатологизм властного дискурса сохранялся и в период Российской империи. В определенные периоды, как, например, при царствовании Николая I, власть пыталась апеллировать к эсхатологическому прочтению актуальных вызовов. Одновременно в связи с секуляризацией государства формируется альтернативная властному дискурсу эсхатология. Она оказалась прежде всего сосредоточена в нишах старообрядческой оппозиции. Особый тип эсхатологической рефлексии имел место в среде русской интеллигенции. Тема Апокалипсиса стала чаще всего в кодированном виде, как у Н. В. Гоголя, осевой линией русской классической литературы.
Эсхатологический характер имела и советская идеология, совместившая европейский социальный утопизм с модификацией русского хилиазма. Советский коммунизм в этом смысле представлял вариант нерелигиозного или квазирелигиозного эсхатологизма. Утрата эсхатологических ориентиров (деэсхатологизация) являлась неучтенным фактором гибели СССР.
Постсоветский период характеризуется, с одной стороны, переориентацией на конъюнктуру времени, что представляет собой, безусловно, разрыв с традицией русской эсхатологии, но с другой – поиском новых семантических линий эсхатологического дискурса. И последняя составляющая с течением времени все более усиливалась, подведя фактически к запросу о выдвижении новой идеологии России с опорой на новую эсхатологию. И без эсхатологии легитимизировать заявляемые властью сегодня ценности государствостроительства, по-видимому, не получится.
Россия как цивилизация возможна только в рефлексии Апокалипсиса. Неэсхатологическая Россия не будет Россией вовсе. Есть, безусловно, цивилизации, апеллирующие к прошлому и продуцируемому им традицией, есть, как цивилизация Запада – к настоящему, но Россия – всегда апеллировала к финалистскому будущему, и в этом ее сила. Русский человек всегда живет в состоянии вызова надвигающегося Армагеддона. Война для него – это последняя битва. Русская / советская мобилизационная система, что принципиально не понимают на Западе, – это не просто мобилизация военно-авторитарными методами, а сбор рати на последнюю битву света и тьмы. И в этом смысле восстановление русской эсхатологии прямо сопряжено с цивилизационным восстановлением России.
Литература
Антихрист (Из истории отечественной духовности): Антология. – М.: Высшая школа, 1995. – 415 с.
Библия. Книги Священного Писания Ветхого и Нового Завета. – М.: Международный издательский центр православной литературы, 1995. – 1376 с.
Поделиться книгой: