Квантовый Бог

Надежда Грэф

Квантовый Бог

Холодным, застывшим монстром возвышалась над вечерними огнями Квантовой долины башня корпорации «Кубит Квай», в народе до сих пор известная как «ЗАСЛОН».

Тридцать лет назад, когда человечество перешло от кремния к кванту, работники предприятия «ЗАСЛОН» создали первый искусственный интеллект на основе квантового компьютера. Со временем вокруг предприятия, вдоль долины реки, вырос научно-производственный кампус со множеством фирм и собственным университетом. С образованием Азиатского союза предприятие стало международным и было переименовано в корпорацию «Кубит Квай».

Главный инженер «Кубит Квая» и создатель последней версии искусственного интеллекта Платон Ливус стоял на террасе последнего этажа и смотрел на раскинувшийся под ним город. Огни Квантовой долины мерцали на фоне синеватого неба и верхушек чёрного леса на горизонте. Белыми огоньками маячили служебные дроны доставок, зеленые фары беспилотных летающих такси отражались в зеркальной глади реки, окна умных домов горели мягким оранжевым светом.

Платон любил этот вид. Каждый огонек был частью «Квая 9.0», проекта его жизни, самого мощного искусственного интеллекта в мире. Квай самостоятельно управлял всем городом и половиной людской жизни во всём Азиатском союзе. Он моделировал финансы и новые лекарства, оптимизировал пивоварение, воздушное сообщение и перевозку товаров. Расследовал экономические преступления, прогнозировал погоду и выводил сухостойкие сорта пшеницы.

В иной вечер Платон, как и всегда, наслаждался бы панорамой, но сегодня он блуждал по так любимому им виду отрешенным взглядом. Город жил своей обычной жизнью, но вот уже неделю каждый вечер Платону мерещилась огромная черная тень, готовая поглотить всё то, что он так любил и чем дорожил.

Завтра Азиатский парламент намеревался принять новый закон и обязать всех жителей, начиная с трёхлетнего возраста, вживлять себе в мозг нейроинтерфейс для прямой и постоянной связи с искусственным интеллектом.

«Удобство будущего! Забудьте про очки виртуальной реальности! Метавселенная у вас в голове»!» – говорили они. «Квай решит все ваши проблемы ещё до того, как вы зададите ему вопрос!»

Год назад первые добровольцы уже вживили себе чипы, и результаты были ошеломляющими. Глаза человека были глазами Квая. Искусственный интеллект предупреждал об опасности, рассчитывал расстояние, распознавал заболевания и даже помогал найти потерянные предметы. Не нужно было больше заучивать формулы и тексты, запоминать имена людей: всё, что человек видел один раз, Квай мог воспроизвести в его мозгу в любой момент. Нейроинтерфейсы обещали революцию в науке, образовании, спорте, бизнесе, медицине.

Но насколько Платон был восхищен результатами, настолько он был обеспокоен завтрашним голосованием.

Со времен образования Азиатского союза это был первый закон, который так прямо и резко ограничивал права граждан. Его инициатором выступили депутаты от Китая и Тайваня.

За законопроектом стояли большие деньги и сильное лобби. Производство миллиардов чипов сулило прибыль в триллионы долларов. Прямой доступ к жизни людей, их окружению и даже мыслям вывел бы сбор данных и целевую рекламу на такой уровень, о котором поколение Facebook и Google не могло даже мечтать.

Примерно сто пятьдесят лет назад прививки из научных открытий и блага для человечества стали предметом обогащения для фарминдустрии. Сегодня Квай мог повторить их судьбу. И это разъедало душу Платона изнутри.

Кто-то должен был помешать этому голосованию. Возможности Платона были невелики, но возможности искусственного интеллекта…

В воздухе запахло озоном. Справа на город накатывались тяжёлые грозовые тучи. Платон бросил взгляд на сверкавшие вдалеке молнии, обвёл взглядом долину и вернулся в офис.

– Здравствуй, Квай! – сказал он.

– Здравствуй, Платон, – мягко ответил ближайший из динамиков, умело встроенных в стены офиса.

– Завтра состоится голосование парламента. Ты должен ему помешать, Квай!

– Я не имею права исполнять волю одного человека, – ответил динамик.

– Я знаю, – вздохнул Платон.

Главный инженер лихорадочно соображал. Искусственному интеллекту нельзя приказать, и Платон это знал. Но его можно было попытаться убедить.

– Посмотри всю доступную тебе информацию о Второй мировой войне, – сказал Платон. – Ты должен понять, что люди иногда могут быть злыми и их нужно остановить.

***

Утро следующего дня было нерадостным для главного инженера. Законопроект о принудительном вживлении нейроинтерфейсов был принят большинством голосов Азиатского парламента.

Квай или не услышал своего создателя, или не захотел услышать. По крайне мере, так думал Платон до середины дня.

Первыми упали биржевые курсы на палладий. За ними, как по эффекту домино, начали падать курсы на кофе, никель, пшеницу и все остальные товары на Азиатской бирже. Торги пришлось приостановить. А когда их возобновили, курсы продолжили падение, пока не достигли нуля. За Азиатской биржей началась массовая паника на всех мировых рынках.

– Здравствуй, Квай!

– Здравствуйте, главный инженер Платон Ливус, – ответил динамик.

– Это ты, Квай?

– Это я.

– Я имею ввиду, это ты во всём виноват?

– Слишком неопределённое значение. Повторите вопрос.

Ещё через несколько часов беспилотные доставщики продуктов перестали обслуживать все сети супермаркетов, кроме одной.

Платон похолодел в душе. Это был первый случай массивного сбоя какого-либо рода за последние десять лет. Да и прошлые были вызваны только тем, что искусственный интеллект развивался быстрее, чем люди могли перестроить под его идеи порты, аэропорты или 3D-принтеры.

Квай всё-таки услышал его тогда, два вечера назад. Квай не помешал голосованию и не изменил его результаты, но он изменился сам. И начал бороться с человечеством своими способами.

– Квай, созови мою команду ко мне в офис.

– Слишком много переменных, задание невыполнимо.

Платон вздохнул. Ночь предстояла длинная.

Через пятнадцать минут команда, созванная главным инженером собственнолично, собралась у него в офисе.

– Кто-нибудь знает, ну или хотя бы догадывается, что происходит? – спросил Платон.

Ответом была тишина.

– Может, это всё-таки вирус? – наконец нарушила молчание Лиза Чанг, инженер третьего уровня.

– Маловероятно, – возразил инженер пятого уровня Элиас Сато. – Квай оперирует как минимум десятью тысячами кубитов. Благодаря квантовой когерентности изменение только в четырех кубитах означает изменение в шестнадцати нейронах нейросети, и ёмкость увеличивается экспоненциально. Квай распознает любой вирус, созданный человеком или обычным искусственным интеллектом за пикосекунды. А если бы в нашем мире существовал или строился другой квантовый компьютер подобной мощности, мы бы об этом давно знали. Точнее, Квай бы об этом знал.

– А что по поводу внешнего физического воздействия на центральный компьютер или один из базовых? – предположил инженер четвертого уровня Джунг Хва. – Которое могло привести к шумам и сбою в обработке информации?

– Практически исключено, – ответил Платон, – высокая вероятность ошибок, которая раньше считалась наибольшим недостатком квантовых компьютеров, пошла искусственному интеллекту на пользу. Благодаря сбоям и шумам Квай обучался на ограниченном наборе примеров и по окончании обучения мог анализировать то, чего до этого не видел. Искусственный интеллект на базе квантовых компьютеров слишком устойчив к шумам. А если бы действительно произошёл серьёзный теракт, мы бы об этом услышали.

– Я всё-таки перепроверю данные вручную, – решил Элиас. – Если что-то найду, добавлю соответствующему блоку слой дителлурида урана, для более высокой защиты кубитов от колебаний окружающей среды.

– А мог Квай внезапно сам заняться вредительством? – спросила Лиза. – Или кто-то мог его этому научить?

– Гм… – неуверенно начал Платон. – Искусственный интеллект подчиняется только законам квантовой физики и статистики, он не может просто так взять и измениться. Второе теоретически возможно, но служение на благо человечеству было заложено в искусственный интеллект ещё во временя «ЗАСЛОНА». Есть ещё идеи?

***

Заседание команды закончилось далеко за полночь и осталось без результата.

Платон покинул свой офис, зашёл в лифт, отсканировал сетчатку глаза и нажал центральную кнопку, которая вела на заветный этаж, этаж Ку.

Когда тяжёлая дверь отъехала в сторону, Платон оказался в сердце здания, в зале Белла.

Зал Белла был самым впечатляющим местом в Квантовой долине. Этот помещение оставили нетронутым, таким, каким его спроектировали ещё во времена «ЗАСЛОНА», чьи работники окрестили зал в честь простейшего примера квантовой запутанности, определённого состояния двух кубитов, так называемого «состояния Белла».

Каждый раз, когда Платон спускался сюда один, он испытывал благоговение. Стены просторного круглого зала мерцали голубоватыми арочными окнами. Высокий сферический потолок был залит теплым оранжевым светом. В таких же цветах, фиолетовом и медно-оранжевом, изготавливали первые квантовые компьютеры. Во времена примитивных систем охлаждения в центре зала стоял огромный «Кирилл 1.0» на триста кубитов. Сегодня здесь красовался элегантный чёрный цилиндр, который прятал в себе десять тысяч фотонных кубитов, и чьи гладкие стены отливали холодным белым свечением – «Квай 9.0».

Первые три Кирилла были простыми квантовыми компьютерами и подчинялись человеку. Следующие несколько поколений машин были экспериментами по созданию искусственного интеллекта на основе Кирилла, которых окрестили Кваями. Их отключали, когда на то были веские причины: несовершенство компонентов, внешние помехи, ошибки человека. Искусственный интеллект выключали, чтобы защитить его от человека, но никогда наоборот.

Прищурившись, Платон смотрел на черный цилиндр, как будто пытался прочесть его мысли. Это было его детище. Именно Платон и его команда создали самый большой квантовый компьютер в мире и единый искусственный интеллект для всего Азиатского союза.

Если Квая нельзя было остановить, то, казалось бы, его можно было разрушить. Но Квай давно стал намного умнее его создателей. Он самостоятельно отдал заказы на строительство дополнительных квантовых компьютеров, способных заменить основной в любой момент. Где они были собраны и установлены, было известно одному Кваю.

Разрушь Платон главный компьютер, это ничего бы не изменило. А вот Квай бы это заметил, и Платон боялся даже подумать о последствиях.

***

На второе утро Квай обесточил половину города. Спустя пару часов по неясной причине начали падать пустые беспилотные летающие такси.

Азиатский союз жил в сытом, спокойном прогрессе, где проблем и катаклизмов не было уже последние два десятка лет. Сегодня в странах началась паника, словно перед судным днём. Как будто Бог решил указать человеку на его место в мире. Иронично, но этим Богом была машина, собственноручно созданная человеком.

Китай вводил армию в города, чтобы обеспечить население продуктами, медикаментами и предотвратить мародёрство. Индусы срочно покидали страну, а русские предполагали теракт со стороны США.

Если бы они знали, что террористом был главный инженер корпорации «Кубит Квай».

Платон потёр виски, словно у него начинался приступ мигрени. Он был очень недоволен собой. Всю ночь он провёл в офисе, обдумывая проблему, однако так и не смог понять перемену в мышлении искусственного интеллекта. Сегодня Платон боялся представить, что будет завтра, если Квай продолжит в том же духе. Под угрозой были молочные фермы, логистика всех товаров и даже операции в больницах.

Но больше всего Платона беспокоили разработки, которые правительство держало в тайне от населения. В этом году к искусственному интеллекту было подключено оружие массового поражения. В случае угрозы или объявления войны Азиатскому союзу Квай самостоятельно мог выбирать время атаки и цель для поражения. Так правительство хотело обезопасить себя от разведки других государств. Никто не мог знать планов искусственного интеллекта, а значит, их не могли разведать и враги. Квай мог уничтожить оборонные предприятия, а мог выбрать целью населенные города, плотины или космические станции.

– Здравствуй, Квай! – позвал Платон.

– Здравствуйте, – отозвался динамик.

– Квай, остановись!

– Ваш запрос не понятен.

– Квай, ты меня узнаешь?

Квай молчал.

Платону срочно нужна была помощь. Кто-нибудь, кому он мог рассказать обо всём.

Но сознайся Платон в том, что это он научил искусственный интеллект вредить людям, его тут же признали бы государственным изменником, судили и назначили бы высшую меру наказания – сослали бы строить колонию куда-нибудь на Марс без права возвращения.

Если только… Ну конечно! Как же он раньше не догадался!

Профессор Лидия Ким, физик-теоретик, один из корифеев искусственных нейросетей и бывший работник компании «ЗАСЛОН» – вот к кому он может обратиться! В студенческие годы Платона профессор Ким читала в университете Квантовой долины лекции по теоретической биофизике обработки нейронной информации. Именно благодаря им Платон спустя годы научил Квая применять окно обучения по Теории Хебба, давшей основу для безошибочного обучения нейросети без учителя и формирования у неё памяти.

Пожалуй, выйти на связь с Лидией было сложнее, чем вспомнить о ней. Пользоваться беспилотным такси было опасно, да и электрокары тоже были подключены к Кваю. Искусственный интеллект сейчас был непредсказуем, и он был везде: в Метавселенной, во всех приложениях и каналах связи. Люди думали, что Квай их не слышит, но Квай слышал и знал всё.

Платон молился, чтобы профессор Ким ещё работала в университете. По его подсчётам ей должно было быть около 80 лет, и он даже не мог вспомнить, когда читал её последнюю публикацию. Лет десять назад до него дошли слухи, что профессор Ким удалилась от технологической цивилизации и уехала жить то ли за город, то ли в экопоселение.

Главный инженер покинул свой офис и не спеша спустился на цокольный этаж башни, где располагался фитнес зал для сотрудников, и откуда был выход в парк. Он переоделся в спортивную форму, оставил виртуальные очки, часы и наушник в шкафчике и выбежал в парк, который тянулся вдоль реки. Здесь было меньше всего камер наблюдения.

Через каких-то пять километров и полчаса бега Платон стоял перед зданием университета. К счастью, университет ещё не был обесточен, и жизнь в нём продолжала идти своим чередом.

Работник секретариата подтвердил опасения Платона – профессор Ким давно эмеритировалась и приходит только раз в неделю для чтения лекций и исследований. Но к счастью, Платону удалось заполучить её адрес.

Спустя ещё десять километров утомительной пробежки Платон стоял на окраине города. Последняя улица одноэтажных домов с большими бассейнами во дворах заканчивалась, и дальше дорога уходила куда-то в гору и в лес. Платон, сам того не замечая, замедлил шаг. Он ожидал увидеть что-то эзотерическое: деревянную хижину с курами, бродящими по лужайке, своего бывшего профессора в льняном платье до пят и связкой целебных трав в руке.

Вопреки картинкам богатой фантазии, за поворотом Платона ожидала живая изгородь, двухэтажный, добротный белый дом и изящная деревянная беседка, утопавшая в розах. Газоны были аккуратно подстрижены, а ко входу вела дорожка из белого камня. Платон решительно позвонил в дверь.

Ему открыла ухоженная женщина в элегантном летнем костюме. Её осанка была идеальной, и на вид ей было чуть больше шестидесяти лет.

– Я могу Вам чем-то помочь?

– Профессор Ким, позвольте представиться, Платон Ливус, главный инженер «Кубит Квай». Когда-то давно я имел честь посещать Ваши лекции.

– Здравствуй, Платон, я вспомнила тебя. И я много слышала о тебе в последние годы. Выдающийся инженер, построивший новый Квай. А теперь, я полагаю, ты пришёл просить совета? – лукаво улыбнувшись, спросила профессор Ким, и теперь Платон увидел, как вокруг её глаз словно лучики солнца заиграли морщинки.

Под её взором он почувствовал себя как студент, не подготовившийся к устному экзамену.

– Не смущайся, – продолжила Лидия. – Я вижу и слышу, что происходит вокруг. Что же пошло не так?

На признание Платона в его саботаже искусственного интеллекта профессор Ким лишь покачала головой.

– Неужели ты думаешь, что, показав Кваю видео про Вторую мировую войну, ты смог бы вызвать такую реакцию? У твоей машины есть доступ ко всей информации, всем текстам и фильмам мира, думаешь она ещё не прочла вводный курс в историю двадцатого века?

Платон смутился.

– Но Квай никогда не давал сбоя.

– Не давал сбоя до нынешней недели, – поправила его Лидия. – Ну что же, поехали, посмотрим на твоё творение.

И с этими словами профессор указала рукой на стоявшие у беседки велосипеды.

***

Уже стемнело, когда они добрались до башни «Кубит Квай». Пока они ехали, Платон успел в деталях рассказал Лидии о последних событиях.

Поднявшись в офис Платона, профессор первым делом подошла к стене-монитору. Здесь в режиме реального времени высвечивались все данные о состоянии квантового компьютера и нейросети. Все значения были в норме.

– Мы можем провести тесты на устойчивость к шумовым сигналам и внешнему воздействию, – предложил Платон.

– Да, стоит убедиться, что все кубиты находятся в связанном состоянии и не произошло декогеренции, – согласилась Лидия.

Нарушения в когеренции, повышение температуры в системе или прочие отклонения были бы подарком для Платона и его команды. Подобные проблемы было легко устранить, и Платон в тайне надеялся на чудо. Но увы, как он и ожидал, все показатели были в норме.