Квантовый Бог

Платон вопросительно посмотрел на профессора.

– Очевидно, инженерия и экспериментальная физика нам тут не помогут, – подытожила Лидия. – Но я и предполагала, что всё не так просто. Ну что же, настала очередь теоретической физики. В то время, когда я ещё работала на предприятии «ЗАСЛОН», у нас было правило: «Если ты хочешь понять созданный тобой искусственный интеллект, тебе надо думать, как думает он».

– Посмотрим на отчёты о его деятельности за последние дни? – предложил Платон.

– Пожалуй, я понаблюдаю за ним в реальном времени, – ответила Лидия и кивнула в сторону панорамных окон. – Можно выйти на террасу?

– Да, конечно, – ответил Платон и приказал умному офису открыть панорамные окна.

Профессор подошла к ограждению и изучающе посмотрела на вечерние огни Квантовой долины.

– Что общего у нашего мозга и любой нейросети? – спросила она.

– И наш мозг, и искусственный интеллект во всём ищут закономерности.

– Совершенно верно. Поэтому, чтобы понять Квая, нам с тобой нужно увидеть закономерность в его действиях. Мы должны видеть всю картину одновременно.

– Но я уже вижу закономерность! – возразил Платон. – Квай решил навредить нам! Может быть даже уничтожить человечество!

– Так ли это? – усомнилась Лидия. – У искусственного интеллекта по большому счёту не бывает собственных идей. Он способен только на то, что в него вложили люди. Дай мне пару минут.

И профессор Ким продолжила всматриваться в панораму вечернего города. Она наблюдала за движением огней, за редеющей вереницей дронов, за темными пятнами обесточенных кварталов. Профессор словно любовалась открывшейся перед ней картиной, лишь только складка между бровями выдавала её напряженные размышления.

Платон встал чуть поодаль. Он тоже всматривался в город, усердно пытаясь распознать закономерности, о которых говорила профессор. Так в молчаливом созерцании прошло пять минут, затем десять.

Вибрация монитора в офисе, уведомлявшая о важных новостях, отвлекла Платона от безуспешных попыток. Он оставил профессора одну.

– Квай только что использовал алгоритм Шора и взломал все шифры, которые использовали разложение больших чисел на простые множители, – сообщил он Лидии, возвращаясь назад на террасу. – Он всё-таки сделал это!

– Сделал то, на что обычным суперкомпьютерам понадобились бы миллиарды лет? – спокойно ответила профессор, не сводя взгляд с долины. – Я ожидала этого, рано или поздно.

И она снова замолчала, словно они говорили не о защите передачи данных во всем мире, а о вчерашней погоде. Платон же занялся тем, что он ненавидел больше всего: ожиданием. С каждой минутой идея привести сюда эту женщину уже не казалась ему такой спасительной.

Внезапно Лидия повернулась и одарила Платона искренней улыбкой.

– Наш Квай возомнил себя богом термодинамики.

– Что, простите?

– Присмотрись внимательно, – сказала профессор и показала рукой на панораму города у их ног. – И квантовый компьютер, и искусственный интеллект следуют законам квантовой физики, статистики и термодинамики. Ищи закономерности, что ты замечаешь? Давай, назови их!

– Беспилотников становится всё меньше. Как и освещенных улиц. Но это и понятно, всё прекращает работать.

– Уменьшается не только количество беспилотников, но и разнообразие трасс, которыми они летают. Электричество отключается не везде, а словно следует определенной схеме. Я могу ошибаться, но, по-моему, обесточены только нечётные кварталы? Твой искусственный интеллект вносит в мир строго определенный порядок, уменьшая количество доступных вариантов во всех сферах нашей жизни, одна за другой.

Платон посмотрел, куда показывала Лидия.

– Ну конечно! Господи, как я раньше этого не увидел! Энтропия уменьшается. Точнее, Квай уменьшает энтропию человеческой цивилизации!

Лидия кивнула.

– Вот именно, энтропия – это число возможных состояний. Квай уменьшает разнообразие, уменьшает число возможных состояний в системе «человечество». Чем больше порядка, тем меньше энтропия.

– Но ведь он нарушает второй закон термодинамики! – возмутился Платон. – В изолированной системе энтропия должна либо оставаться неизменной, либо возрастать. Но зачем? С какой целью он это делает? Обернуть прогресс вспять?

– Вряд ли искусственный интеллект способен вредить, – усомнилась Лидия. – Для этого ему нужно перестроить свою изначальную систему, а это слишком сложно. Давай применим лезвие Оккама: «не следует множить сущее без необходимости».

– Разумеется, – согласился Платон, – простому объяснению явления при прочих равных условиях следует давать предпочтение по сравнению с более сложным. Но разве поведение Квая можно объяснить просто?

– Уверена, что да, – ответила профессор Ким. – Попробуй мыслить шире. Что ещё необычного произошло в эти дни?

– Голосование в Азиатском парламенте о принудительном вживлении нейроинтерфейсов? О боже! – застонал Платон. – Нет, не может быть! Квай интерпретировал результаты голосования на свой лад?

Профессор кивнула.

– Если правительство демократического союза решило ограничить всё население в свободе выбора, искусственный интеллект делает вывод, что это хорошо для человечества. И начинает ему помогать.

– И уменьшает свободу выбора во всех сферах жизни! – продолжил Платон. – Но как же нам его остановить?

– Теперь, когда ты убедился, что не ты всему виной, стоит подумать всем вместе, – ответила Лидия. – Пора звать твою команду.

Через четверть часа профессор Ким была представлена команде Платона, снова собравшейся в его офисе.

– Проще всего было бы устранить первопричину, – предложил Элиас. – Нам нужно убедить парламент или аннулировать голосование, или принять новый законопроект.

– Созвать парламент для нового голосования в короткие сроки будет невозможно, – возразил Платон. – На это нам потребуется от нескольких дней до недели. Квай же в это время будет дальше разрушать. Точнее, упорядочивать.

– Но почему он делает всё так медленно? Почему он не отключил разом всё? – поинтересовалась Лиза.

– Квай был построен в соответствии с теоремой Хебба. По её адиабатической гипотезе обучение происходит медленно. Вот и нашему искусственному интеллекту нужно время, чтобы всё осознать, – объяснил Джунг.

– Мы конечно могли бы попробовать убедить Квая, – предложил Элиас. – Но он уже давно нас не слушает. Он сильнее и умнее нас всех вместе взятых, вряд ли…

– Погоди, как ты сказал? Вместе взятых? – перебил его Платон. – У меня есть идея. Мы используем Квая, его мощности и охват населения. Предложим жителям опрос, согласны ли они с решением парламента.

– Гениально! Я размещу опрос как рекламный ролик где только смогу: в Метавселенной, в играх, во всех приложениях, на всех устройствах, – подхватил Джунг.

– А Квай нас услышит? – усомнилась Лиза.

– Услышит, – уверенно ответила профессор Ким. – Но не нас, а человечество.

Опрос был запущен к полуночи, когда в Японии и Корее уже наступило утро. Через двенадцать часов его просмотрели две трети населения Азиатского союза, а восемь из десяти голосовавших не были согласны с решением правительства.

Уже к вечеру все кварталы Квантовой долины были снабжены электричеством, а на следующий день восстановились биржевые курсы. Через неделю парламент отменил решение об обязательном вживлении нейроинтерфейсов. А ещё через три месяца порядок принятия законов в Азиатском союзе был изменен. Отныне Квай выделял наиболее важные из законопроектов и выносил их на прямое голосование населению.