Принцип апокалипсиса: сценарии конца света

Таким образом, великий изобретатель сделал все от него зависящее, чтобы его нечаянное открытие Агрегата Судного дня не попало в руки милитаристов.

Вирусы, серая слизь и БАК

Прочные, всеядные «бактерии» могли бы выиграть конкуренцию у настоящих бактерий: они могли бы распространяться ветром, как пыльца, стремительно размножаясь и превратив биосферу в пыль за считанные дни. Опасные репликаторы легко могли бы быть слишком прочными, маленькими и быстро распространяющимися, чтобы мы могли остановить их.

Э. Дрекслер. Машины созидания

Феерические эффекты вышеописанных Машин судного дня могут показаться слишком сложными и энергозатратными на фоне распыления в атмосфере искусственно созданных штаммов смертельных бактерий и вирусов.

Ведь это исторический факт, что от вируса гриппа испанки в 1918–1919 годах погибло больше людей, чем за всю Первую мировую войну. А что, если вместо громоздких термоядерных фугасов в системе «Периметр» заложить «фейерверки», начиненные ужасающими вирусами, переносящимися воздушным путем? Подобная Машина Судного дня если и не уничтожит полностью человечество, то наверняка ввергнет его в каменный век…

Еще более оригинальна Машина Судного дня, использующая микроскопических самовоспроизводящихся нанороботов. Масса «серой слизи», неконтролируемо заполнив земную поверхность, буквально задушит в своих объятиях человечество. Эти мириады «наноботов», стремительно копируя себя, могут очень быстро переработать в «серую слизь» все, что встретится им по пути.

Идею таких нанороботов подал в 1986 году один из основателей нанотехнологии Эрик Дрекслер. В своей книге «Машины созидания» он предположил вариант Машины Судного дня, когда самовоспроизводящиеся сверхминиатюрные киберы, обретя свободу, начнут использовать в качестве сырья для репликации флору и фауну нашей планеты, включая и нас с вами…

По расчетам Дреклера, нанороботам хватит двух суток, чтобы полностью уничтожить поверхность планеты. Это будет настоящая нано-Машина Судного дня! Интересно, что задолго до Дреклера великий Лем уже описывал нечто подобное в блестящей повести «Непобедимый». Там ужасные «металлические термиты» практически уничтожили инопланетную цивилизацию.

Таким образом, невидимые невооруженным глазом крошечные роботы претендуют на звание самого идеального варианта Машины Судного Дня. А учитывая, что разработки в области нанотехнологий считаются приоритетными во всем мире, подобная фантастика может стать реальностью уже в текущем столетии.

Между прочим, многие считают, что Машина Судного дня уже несколько лет пытается безуспешно уничтожить даже не цивилизацию, а всю нашу планету… И имя этому Агрегату – Большой Адронный Коллайдер (БАК)!

Существуют физические теории, в которых предполагается, что наша Вселенная – в том виде, в каком мы ее знаем, – нестабильна и может превратиться в другую, более стабильную Вселенную с иными свойствами. Этот переход будет сопровождаться выделением огромной энергии и разрушением вещества в том виде, как мы его знаем. Существуют опасения, что столкновения на БАК могут породить «зародыш» этой более стабильной Вселенной, который начнет разрастаться со скоростью света и разрушит нашу Вселенную. Согласно другому катастрофическому сценарию предполагается, что могут существовать некие экзотические частицы или иные объекты, которые начнут поглощать обычное вещество и разрушат Землю.

Эти опасения совершенно беспочвенны, потому что в природе уже давно есть ускорители мощнее, чем БАК. Если бы такой распад Вселенной или разрушение Земли могли произойти на БАКе, то они бы давным-давно уже произошли по вине частиц космических лучей гораздо большей энергии. Эти частицы непрерывно бомбардируют Землю и другие небесные тела, и длится это уже миллиарды лет. Поскольку Вселенная дожила до наших дней и не распалась, то этого не произойдет и в экспериментах на БАКе.

Итак, возможно, что и сейчас еще где-то тикает его таймер, отсчитывая последние часы нашего мира… Впрочем, существует ли Агрегат Судного дня на самом деле – неизвестно. А если и существует, то никто не сможет сказать, что представляет собой это зловещее порождение ВПК. Потому что это лишь собирательное название некоего оружия, способного стереть человечество с лица земли, – а может быть, даже уничтожить и саму планету.

Глава 11

Грядущая битва разумов

Сначала ему представились миллиарды миллиардов кибернетических инфузорий – микроинформаторов, которые тучами бродят по всему свету; забираясь до самых звезд, собирая рассеянные следы давно минувшего и стаскивая их в необъятные кладовые механической памяти. Затем воображение нарисовало ему паутину проводов, облепивших всю планету, натянутых на гигантские башни, которые сотнями разбросаны по островам и материкам от полюса до полюса.

А. и Б. Стругацкие. Возвращение. Полдень, XXII век

Норберт Винер (1894–1964)

Простейшие механические устройства принимают решения на основе выбора одной из двух альтернатив, как, например, включение или выключение переключателя. В нервной системе отдельная нервная клетка также делает выбор между передачей или непередачей импульса. Как в машине, так и в нервной системе имеется специальный аппарат для принятия будущих решений, зависящих от прошлых решений. В нервной системе большая часть этой задачи выполняется в тех чрезвычайно сложных точках, называемых синапсами, где ряд входящих нервных волокон соединяется с одним выходящим нервным волокном. Во многих случаях возможно установить основу этих решений в качестве отправного пункта действия синапса, или, иначе говоря, возможно определить, сколько входящих волокон должно возбудиться, для того чтобы могло возбудиться выходящее волокно.

Такова основа по меньшей мере части аналогии между машинами и живыми организмами.

Н. Винер. Человек управляющий

Как-то раз «отцу кибернетики» Норберту Винеру задали вопрос:

– А может ли так случиться, что машины станут умнее людей и поработят их?

– Вполне может! – не задумываясь, ответил великий кибернетик. – Если люди поглупеют и перестанут умственно развиваться…

Эта любопытная история снова заставляет вспомнить старую проблему: умнеет или глупеет человечество в своем развитии?

Последние сенсационные открытия медиков и социологов говорят о том, что «показатель ума» – IQ– стремительно возрастает на фоне падения… общего генетического потенциала. Это может означать только одно: наши дети становятся образованнее, но «глупее». Вполне возможно, что на некогда очень популярных философских диспутах современники Пушкина и Лермонтова могли бы выиграть интеллектуальную схватку у наших писателей и философов.

Бесспорным этот вывод назвать нельзя, ведьум – понятие очень сложное, и «умный» обитатель африканских джунглей совершенно потеряется в «каменных джунглях» современного мегаполиса.

«Нельзя однозначно сказать, умнеем мы или глупеем, – считает известный исследователь этой проблемы Майкл Вудли из Швеции. – Составные части интеллекта меняются по-разному».

Все эти разговоры о странной эволюции нашего разума приобретают очень тревожное звучание на фоне роста рядом с нами чужой «интеллектуальной субсреды». Это, конечно же, кибернетические аппараты или роботы. Они уверенно входят в нашу жизнь и заставляют волей-неволей вести с ними всяческие диалоги.

Микроволновые печи, стиральные машины, пылесосы, кондиционеры и телевизоры, не говоря уже о мобильныхтелефонах, – настоятельно требуют общения, отвечают и комментируют ваши команды, задают вопросы, рассказывают, как правильно ими пользоваться. В общем, все эти электронные устройства обладают большими и малыми частичками того, что ученые называют звучным термином искусственный интеллект (ИИ).

Само это название искусственного разума возникло еще в конце шестидесятых годов прошлого века. Именно тогда в Вашингтоне была созвана первая международная конференция по искусственному интеллекту («Artificial Intelligence», или «А1»).

Надо сказать, что в английском языке данное словосочетание совершенно не имеет того научно-фантастического привкуса, который оно приобрело в неточном русском переводе. Английское слово «Intelligence» всего лишь означает «умение рассуждать разумно, логически, рационально», а вовсе не «интеллект» – «intellect».

Многие слова, подобно живым существам, рождаются, развиваются, меняют свою форму и содержание, а иногда и вовсе исчезают из разговорной речи, оседая мертвым грузом в запыленных словарях. Вот, к примеру, очень важное слово «информация» появилось около двух с половиной тысяч лет назад в древней латыни. Этим термином уже пользовался знаменитый оратор Марк Цицерон, произнося в Риме свои классические речи. Впоследствии, вплоть до середины прошлого столетия, его употребляли в смысле «сообщение, осведомляющее о положении дел, о состоянии чего-нибудь». Все это долгое время человек считал себя единственным созданием, способным к передаче, приему и творению информации. Но вот возникли первые системы искусственного интеллекта…

Эффект Флина

Машина страшна не потому; что она может достичь автоматического управления человечеством. Она слишком груба и несовершенна, чтобы представить одну тысячную часть целенаправленного движения независимого поведения человеческого существа. Но реальная опасность, которую она может вызвать, состоит совершенно в другом: эта опасность заключается в том, что подобные машины хотя и безвредны сами по себе, но могут быть использованы человеком или группой людей для усиления своего господства над остальной человеческой расой, или в том, что политические лидеры могут попытаться управлять своим народом посредством не самих машин, а посредством политической техники, столь узкой и индифферентной к человеческим возможностям, как если бы эта техника действительно вырабатывалась механически. Большая слабость машины – слабость, которая пока еще спасает нас от ее господства над нами, – состоит в том, что она не может пока учесть ту огромную область вероятности, которая характеризует человеческую ситуацию.

Н. Винер. Человек управляющий

В конце прошлого века новозеландский исследователь интеллекта Джеймс Флинн открыл интересный психологический эффект, названный его именем. Оказалось, что у нас гораздо больше шансов разгадать очень старый кроссворд или чайнворд, даже содержащий полузабытые понятия, чем у современников этих своеобразных тестов на умственное развитие.

Эффект Флинна позволяет с оптимизмом смотреть в будущее, хотя компьютерные шахматные программы давно уже обыгрывают чемпионов мира. Правда, и сами эти программы пока еще создает исключительно человек.

Природа эффекта Флинна не совсем понятна, но многие исследователи подозревают, что растущие показатели IQ просто отражают улучшение условий жизни. Скажем, дайте молодежи хорошее образование, особенно в естественнонаучном направлении, и IQ молодых людей, несомненно, повысится. Может быть, в основе эффекта Флинна лежит просто хорошее питание, классные педагоги и стимулы к умственной деятельности?

Большинство современных образованных людей уже и мыслят совсем по-иному. Если спросить студента из какого-нибудь европейского университета конца XIX века о логической связи между лисой и кроликом, то он наверняка ответит, что «лиса охотится на кролика». Современный студент приучен к абстрактному мышлению гораздо более высокого уровня и, скорее всего, предположит, что лиса и кролик – это млекопитающие, обитающие в сходных природных условиях.

Между тем скептики, в число которых входят многие видные кибернетики, считают, что эффект Флинна уже мало чем поможет в интеллектуальной гонке с машинным разумом, поскольку создание полноценного искусственного интеллекта является делом нескольких десятилетий. Тут стоит вспомнить многочисленные прогнозы середины прошлого столетия, которые уже давно поместили нас в развитое кибернетическое сообщество «думающих» роботов. В настоящее время, однако, обнаружилось, что как научные, так и технические поиски столкнулись с несоизмеримо более серьезными трудностями, чем представлялось первым энтузиастам. На первых порах многие пионеры искусственного интеллекта верили, что через какой-нибудь десяток лет машины обретут высочайшие человеческие таланты. Предполагалось, что преодолев период «электронного детства» и буквально впитав в себя все доступные знания, хитроумные компьютеры, благодаря быстродействию, точности и безотказной памяти, постепенно превзойдут своих создателей-людей.

Тем не менее на протяжении всей своей короткой истории исследователи в области искусственного интеллекта так и не смогли создать по-настоящему самообучающийся компьютер. Все «продвинутые пользователи» компьютеров это прекрасно знают, несмотря на уровень стоящих у них программ. Все, что может сделать сегодня даже самый «сверхразвитый» ИИ – это выполнить задание, вложенное в него человеком-программистом. Ну, может быть, иногда чуть-чуть больше, но все это выглядит очень скромно, если не сказать – жалко, даже по сравнению с обучаемостью трехлетнего ребенка.

Хорошим примером возможностей современных кибернетиков может служить ряд моделей японского робота ASIMO, управляемых с компьютера с помощью сложной программы. Помимо запуска элементов программы, в обязанности оператора входит непрерывный контроль за многочисленными параметрами работы робота: показаниями сенсоров, положением сервоприводов, напряжениями в электрических цепях, рабочими температурами элементов и многими другими. Расслабиться нельзя ни на секунду. На случай технических неполадок за сценой всегда припрятан робот-дублер. Существует и оперативный способ управления – с помощью пульта дистанционного управления. Он используется редко, так как, во-первых, требует абсолютной видимости, которая порой недоступна, а во-вторых, ограничивает возможности робота, превращая его в простую радиоуправляемую игрушку.

Во всяком случае, трудно даже представить, что подобное кибернетическое устройство в обозримом будущем достигнет уровня киберов из фантастических романов и начнет превосходить возможности нашего мозга. Конечно, это не касается простой механической памяти…

Однако подобная конкуренция чем-то напоминает спор об эрудированности с толстенным фолиантом какого-нибудь энциклопедического справочника.

Искусственная вирусная жизнь

Запомним, что существуют игровые машины типа «обезьяньей лапы» и типа джинна в закупоренном кувшине. Любая машина, созданная в целях выработки решений, если она не обладает способностью научения, будет совершенно лишена гибкости мысли. Горе нам, если мы позволим ей решать вопросы нашего поведения, прежде чем исследуем законы ее действий и не будем полностью уверены, что ее поведение будет осуществляться на приемлемых для нас принципах. С другой стороны, подобная джинну машина, способная к научению и принятию решений на базе этого научения, никоим образом не будет вынуждена принимать такие решения, какие приняли бы мы или которые были бы приемлемы для нас. Для человека, который не уверен в этом, переложить проблему своей ответственности на машину' независимо от того, будет ли она способна к научению или нет, означает пустить свои обязанности с ветром и видеть, что они возвращаются ему с бурей.

Н. Винер. Человек управляющий

Есть здесь и оригинальные точки зрения, например, современный английский физик-теоретик Стивен Хокинг, личность не менее легендарная, чем Винер, вообще утверждал, что люди уже создали на Земле искусственную жизнь в форме компьютерных вирусов. К чему может привести эволюция подобной электронной виртуальной формы квазижизни? Достоверно об этом пока знают только писатели-фантасты! Во всяком случае, здесь возможны очень многие необычные варианты, напоминающие сюжет голливудского фильма «Газонокосильщик».

Надо заметить, что профессор Хокинг, как никто другой, понимал проблему ИИ, ведь, сраженный тяжелым параличом, он может жить и общаться с окружающими благодаря разнообразным кибернетическим устройствам. Студенты Кембриджа, где преподает Хокинг, даже с гордостью называют его «первым в мире киборгом»…

Сегодня наука об искусственном интеллекте является одной из самых быстроразвивающихся кибернетических дисциплин. Как и во всякой сравнительно молодой отрасли знания, в ней существует много сложных проблем, среди которых выделяется «задача программистов» – как представить машине человеческие знания для ввода в память интеллектуальной системы. Причем мы должны так научить кибернетическую систему, чтобы знания из самых различных областей в дальнейшем использовались при решении разнообразных задач. На этом пути очень важно понять, как смоделировать человеческие рассуждения, изучив различные схемы человеческих умозаключений, используемых в процессе решения, а в конечном итоге создать эффективные программы для реализации этих схем в вычислительных машинах.

Первым камнем преткновения здесь является разработка диалоговых процедур общения на естественном языке, обеспечивающих контакт между интеллектуальной системой и человеком-специалистом в процессе решения задач. Следующим шагом будет уже планирование целесообразной деятельности – разработка методов построения программ сложной деятельности на основании тех знаний о проблемной области, которые хранятся в интеллектуальной системе.

Итак, «интеллектуальный» кибер должен быть понимающим, развивающимся и сравнительно неглупым, умея накапливать и обобщать умения и навыки, необходимые в будущем.

Стратегическая цель исследований по искусственному интеллекту состоит в проникновении в тайны мышления человека.

Здесь могут быть найдены новые решения многих задач, особенно связанных со сферой мышления, которую называют подсознательной, бессознательной, или интуитивной.

Британские исследователи проблемы искусственного интеллекта в конце двадцатого века предложили следующий прогноз глобальной роботизации на начало третьего тысячелетия:

2004 год: появление первых кибернетических школьных учителей – «искинов»;

2005 год: подавляющее большинство людей не могут отличить, кто из их виртуальных друзей кибернетический мозг, а кто – человек;

2006 год: появляются интерактивные игрушки, способные на «эмоциональное» общение с детьми;

2007 год: роботы полностью заменяют людей на фабриках и заводах с конвейерным производством;

2010 год: четверть звезд шоу-бизнеса составляют компьютерные анимационные персонажи;

2010 год: роботы-насекомые используются в военных операциях;

2011 год: большую часть программного обеспечения пишут искины;

2012 год: люди используют электронные стимуляторы удовольствия и имплантанты как символ положения в обществе; роботы заменяют людей в домашнем хозяйстве и в медицине;

2015 год: появляются технологии распознавания мыслей для создания искусственных снов; для искинов создается своя индустрия развлечений;

2017 год: учителя-искины добиваются лучших результатов, чем учителя-люди; роботы становятся способны к самодиагностике и самовосстановлению;

2018 год: искин впервые получает Нобелевскую Премию;

2020 год: электронные формы жизни получают некоторые юридические права;

2025 год: в развивающихся странах роботов становится больше, чем людей; люди начинают использовать имплантаты типа «искусственный мозг»;

2030 год: преступникам имплантируют чипы для контроля эмоций; роботы и физически, и умственно превосходят людей; появляются первые роботы-терминаторы.

Вполне очевидно, что все прогнозы относительно «кибернетической эволюции» ИИ оказались очень далекими от действительности. Это и настораживает, и радует. Настораживает тем, что даже сами специалисты не могут понять, как же будут развиваться их электронные детища. А радует – потому, что детально разработанные в философских трудах и научно-фантастических романах сценарии гибели человечества в схватке с им же порожденным ИИ, скорее всего, так же далеки от реальности, как и прогнозы об искинах.

Обновление нейрофизиологии на механистической основе есть только половина задачи, которая предстоит физиологам будущего. Я убежден, что когда наступит равновесие интеллектуальных достижений будущего, мы увидим, что не только физиологи перенимали в свое время идеи у физиков, но и физики будут использовать многие идеи физиологов.

Н. Винер. Перспективы нейрокибернетики

Что же мы имеем сегодня в реальности? В магазинах бытовой техники все чаще стали появляться экземпляры с таинственным значком «А1» (Artificial Intelligence), вызывающие бурный восторг покупателей. В японской столице никто уже не удивляется мигающим огоньками тумбам кибердворников, самостоятельно регулирующим пространство уборки и силу поглощения мусора в зависимости от заполнения своего бункера. Новые поколения сильно поумневших плазменных и жидкокристаллических телевизоров умудряются подстраивать контрастность, не изменяя яркости картинки, а интеллектуальные стиральные машины выбирают температуру воды, продолжительность стирки и скорость отжима в соответствии с весом и типом белья.

После признания искусственного интеллекта отдельной областью кибернетической науки произошло его разделение на два основополагающих направления: «нейрокибернетика» и «кибернетика черного ящика». Эти направления развиваются практически независимо, существенно различаясь как методами исследования, так и технологиями создания искусственного интеллекта. И только в настоящее время стали заметны тенденции к объединению этих частей вновь в единое целое.

Правда, как всегда, существует и гибридный подход, как комбинация двух основных. Часть вычислений выполняют нейрокомпьютеры, а часть – обычные машины, но с использованием специальных программ.

Все подобные выводы основываются на новом нейрокибернетическом принципе: не имеет значения, как устроено «мыслящее» устройство. Главное, чтобы на заданные входные воздействия оно реагировало так же, как и человеческий мозг. Сторонники этого направления считают, что человек не должен слепо следовать природе в своих научных и технологических поисках. Так, например, очевиден успех колеса, которого не существует в природе, или самолета, не машущего крыльями, подражая птице.

Однако это лишь мирная сторона вопроса. Военные кибернетики также не оставляют своим вниманием вопросы ИИ.

Это проясняет картину будущего противостояния интеллектов. Судя по всему, человечеству придется сразиться не с классическим механическим ИИ, а с новой расой киборгов. Вполне возможно, что движущей силой подобного конфликта станет воля сверхразвитых нейрокомпьютеров, сохранивших у себя негативные стороны человеческого поведения: немотивированную агрессивность, стяжательство, жажду власти и т. п.

Кто может победить в подобном кибернетическом армагеддоне?

Вполне может быть, что – никто! Просто человечество сменит новая мыслящая формация, основанная, скажем, на принципах квантового сознания…

Глава 12

Восстание интеллектуальных машин

Когда миром станет править искусственный интеллект, мы вполне можем этого точно так же не заметить. Мы ведь уже не можем осмыслить и проанализировать те объемы данных, которые сами же и производим, – и нам приходится доверяться компьютеру. Вы можете спросить у машины: можешь что-то предсказать на основе этих данных? Она ответит: да, конечно. Вы спросите: а как ты это делаешь? Она скажет: прости, но ты не поймешь.

И все это – уже реальность.

М. Косииски, руководитель Центра психометрии Кембриджского университета.

Мировое научное сообщество в последнее время активно вовлечено в обсуждение рисков создания искусственного интеллекта (ИИ), который может стать угрозой существованию человечества. Очередную волну «киберофобии» (боязни кибернетики) подняли высказывания знаменитого британского физика-теоретика Стивена Хокинга, пришедшего к выводу, что ИИ способен положить конец человеческому роду. Его выводы основываются на ограниченных физиологией возможностях человека – с одной стороны, и быстрым развитием искинов-роботов – с другой.

Интервью Хокинга

Полезный искусственный интеллект мог бы сосуществовать с людьми и увеличивать наши возможности. Но искусственный интеллект, вышедший из-под контроля, может оказаться трудно остановить. При разработке искусственного интеллекта необходимо обеспечить соблюдение требований этики и мер безопасности…

Появление полноценного искусственного интеллекта может стать концом человеческой расы.

Из интервью С. Хокинга Л. Кингу (RT America)

Недавно, беседуя с легендарным американским журналистом Ларри Кингом, Хокинг сделал необычное заявление. По его словам, классические законы робототехники, введенные 75 лет назад Айзеком Азимовым[1], безнадежно устарели. В первую очередь это связано с военными проектами искинов-терминаторов, массово создаваемыми Пентагоном с помощью одиозного американского Агентства по перспективным оборонным научно-исследовательским разработкам (DARPA).

Надо сказать, что некоторую ограниченность трех законов робототехники прекрасно понимал и сам Азимов. Об этом говорит «нулевой закон», сформулированный в одном из его романов, входящих в цикл «Основание», который рассказывает об очень далеком будущем галактической расы землян. В книге «Основание и роботы» (1985 год) говорится: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

Сегодня американские военные, бредящие возрождением рейгановских «звездных войн», пытаются всячески переформулировать этику законов робототехники, подстраивая ее под образ «великой американской мечты господства над всем миром». Так возникают чудовищные проекты «звезд смерти», населенных искинами и следящих за соблюдением «базовых принципов либеральной демократии» на нашей планете. Ну а если электронный мозг «звезды смерти» решит, что где-то на Земле нарушаются «принципы свободы и демократии» в понимании Белого дома, туда немедленно ударят все испепеляющие лучи гайзеров (рентгеновских лазеров). Варианты этого страшного оружия с «ядерной накачкой» были созданы еще в эпоху параноидальной рейгановской СОИ (Стратегической оборонной инициативы)…

Стивен Хокинг отмечал, что примитивные формы искусственного интеллекта, уже существующие на сегодняшний день, доказали свою полезность, но он опасался, что человечество создаст что-то такое, что превзойдет своего создателя.

Ученый предполагает, что такой разум очень быстро возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. А если учесть, что возможности людей ограничены слишком медленной эволюцией, мы никак не сможем соревноваться со скоростью «мышления» машин.

Хокингу возражает молодой разработчик веб-приложения Cleverbot Ролло Карпентер, который доказывает, что мы еще долго останемся хозяевами даже самых продвинутых искинов, которые, в свою очередь, могут помочь нам решить многие мировые проблемы.

Для подобных высказываний у Карпентера есть весомые основания, ведь Cleverbot хорошо зарекомендовало себя в так называемом тесте Тьюринга. Суть его заключается в том, сможет ли экзаменатор при анонимном общении по ряду ответов на его вопросы уверенно определить, кто перед ним – человек или машина. При этом главная задача разработчика образа искина – так «настроить» его на человеческую логику, чтобы его было невозможно распознать.

Карпентер считает, что мы не можем с уверенностью сказать, что произойдет, когда машины превзойдут нас интеллектом. Следовательно, мы не можем предсказать, как они поведут себя: станут ли они нам помогать, нас игнорировать или же рано или поздно нас уничтожат.

С другой стороны, Хокинга всячески поддерживает американский инженер, предприниматель и миллиардер Илон Маек. Он основал известные компании: – аэрокосмический стартап SpaceX и автомобильный концерн Tesla. Маек уверен, что успех создания искусственного интеллекта станет самым значительным событием нашего времени, но это же станет, к сожалению, и последним событием для существования человечества. Этот яркий и выдающийся бизнесмен, автор многих амбициозных высокотехнологичных проектов, предостерегает, что уже через 5-10 лет в недрах искинов появится нечто действительно очень опасное. Маек сравнивает создание «нейрокибернетических искинов» буквально с «вызовом демона-разрушителя» и уверен, что необходимо срочно создать некий международный комитет по надзору за ИИ-технологиями.

Террористический Интернет

Я из тех, кто считает, что суперинтеллект может угрожать человечеству. Сначала машины будут выполнять за нас работу и не будут обладать суперинтеллектом. Хорошо, если мы правильно будем этим управлять. Через несколько десятилетий машины поумнеют настолько, что это может стать для нас проблемой. Здесь я согласен с Илоном Маском и другими и не понимаю, почему многих людей это не волнует.

Б. Гейтс, основатель корпорации Microsoft

Уже сейчас, как уверен профессор Хокинг, есть серьезные проблемы с интернетом. Свои опасения он подкрепляет словами директора Британского Центра по контролю за коммуникациями GCHQ Роберта Ханнигана, который недавно предупредил, что интернет становится командным центром для террористических организаций.

Свои опасения высказывает и основатель корпорации Microsoft Билл Гейтс, который, в частности, считает, что ИИ в самом скором времени может превратиться в источник постоянных проблем, связанных с непонятной даже его создателям логикой поведения.

В общем, тему своего заявления Хокинг выбрал неслучайно. Высокотехнологичный сектор робототехники относится к одной из самых динамичных и быстроразвивающихся отраслей современной индустрии. Передовые технологии с примитивными формами ИИ были созданы еще в конце прошлого века и сегодня активно применяются в различных отраслях: атомной, нефтегазовой, медицине и фармацевтике.

Хорошим примером «скрытой угрозы искинов» являются проекты создания интеллектуального электромобиля без водителя. Так, несколько лет назад первые 40 машин, оснащенные 22 сенсорами, панорамными камерами и «умной» программой управления, начали передвигаться в тестовом режиме со скоростью 30 км/ч по улицам городов Британии. Ведущие же мировые производители интеллектуальной робототехники – США, Южная Корея, Япония – по оценкам экспертов, вообще уже стоят на пороге новых революционных открытий в плане создания «сверхинтеллектуальных» искинов.

Вместе с тем развитие с такой степенью интенсивности принципиально нового технологического феномена – «коммуникации естественного и искусственного разума» – требует совершенно иного подхода к искинам в глобальном масштабе. Так, по мнению ряда ученых, вполне назрела необходимость выработки согласованных международных подходов по целому ряду щекотливых вопросов и явных, уже сейчас очевидных правовых ловушек, связанных с развитием и адаптацией ИИ в обществе.

Но вот что настораживает: пока ученые спорят о перспективах развития искусственного интеллекта, это направление высоких технологий продолжает активно развиваться в военных целях. Мало кто из западных стран, а особенно США, хотят ограничивать создание систем искусственного интеллекта, которые уже сейчас активно используются для отслеживания глобального информационного пространства. Иными словами, речь идет еще об одной сфере развития человечества, где может быть предпринята попытка создания условий для глобального доминирования. Может быть, имеет смысл прислушаться к мнению ученых и подумать над правовым регулированием в рамках ООН. Или хотя бы начать обсуждать эту тему в ЮНЕСКО. Иначе клонирование и зачатие ребенка от трех родителей, на что получено разрешение в той же Великобритании, покажется детской шалостью.

Глава 13

Электронный апокалипсис по принципу домино

Отбросив дипломатию, США приступили к подготовке глобальной кибервойны в интернете. Так, Пентагон объявил о проведении нескольких тендеров на закупку множества вредоносных программ для уничтожения компьютерных центров вероятного противника. А знаменитое Агентство передовых оборонных технологий (ДАРПА) занялось созданием интерактивной карты мировой сети с военной инфраструктурой вражеских киберобъектов.

Оборонная киберстратегия