Я хорошо помню, как год назад мы сидели здесь, в этой комнате, и молча смотрели на серый корпус машины. В одиннадцать часов семнадцать минут я нажал пусковую клавишу, и машина начала работать.
Работать? Нет, это не то слово. Машина предназначалась для моделирования человеческих эмоций. Это не первый такой опыт с самоорганизующимися и саморазвивающимися машинами. Но мы основывались на новейших физиологических открытиях и очень тщательно внесли все коррективы, рекомендованные психологами.
Год назад я спросил ассистентов, как, по их мнению, окончится эксперимент.
— Она влюбится, — ответил Корнеев.
— Раз-зумеется, — медленно произнес Антрощенко. — Она влюбится в тебя. Как м-многие другие в институте.
Потом он добавил:
— Очень глупая модель. Она будет похожа на к-крайне ограниченного человека. Скучного ч-человека.
— Ну, а вы? — спросил я Белова.
Он пожал плечами:
— В таких экспериментах не бывает неудач. Если машина сумеет хорошо имитировать человеческие эмоции, мы дадим биологам интересный материал. Если же она… ну, если она не сработает, биологам придется кое в чем пересмотреть свои взгляды. Это тоже полезно.
Две недели машина работала превосходно, и мы получили ценнейшие данные. А затем произошла первая неожиданность: у машины вдруг появилось увлечение. Она увлеклась… вулканами.
Это продолжалось десять дней. Машина изводила нас классификацией вулканов. Она упрямо печатала на ленте: Везувий, Кракатау, Килауэа, Сакурадзима… Ей нравились старинные описания извержений, особенно рассказ геолога Леопольда фон Буха об извержении Везувия в 1734 году. Она бесконечно повторяла этот рассказ: «В ночь на 12 июня произошло страшное землетрясение, повторившееся еще 15 июня в 11 часов ночи, с сильнейшим подземным ударом. Все небо вдруг озарилось красным пламенем…».
Потом она забыла об этом. Абсолютно забыла. Она отключила блоки памяти, в которых хранились сведения о вулканах. Такую вещь человек не способен сделать.
Эксперимент вступил в фазу непредвиденного. Я сказал об этом ассистентам, и Белов ответил:
— Тем лучше. Новые факты ценнее новых гипотез. Гипотезы приходят и уходят, а факты остаются.
— Чушь! — сказал Антрощенко. — Факты сами по себе ничего не дают. Они как далекие з-звезды…
— Прошу не трогать звезды! — воскликнул Корнеев.
Я слушал их спор, а думал совсем о другом. В этот момент я уже знал, что будет дальше.
Очень скоро мое предвидение начало сбываться. Вдруг выяснилось, что машина ненавидит созвездие Ориона и все звезды, входящие в каталог Лакайля с № 784 по № 1265. Почему созвездие Ориона? Почему именно эти звезды? Мы могли бы разобрать машину и найти объяснение. Но это значило прервать эксперимент. И мы предоставили машине полную свободу. Мы лишь подключили к блокам памяти новые элементы и наблюдали за поведением машины.
А оно было очень странным, это поведение. Машина, например, включила желтый свет, означавший плач, когда впервые узнала структурную формулу бензола. Машина никак не реагировала на формулу динатрийсалициловой кислоты. Но упоминание о натриевой соли этой кислоты неожиданно привело ее в бешенство; желтый сигнал стал оранжевым, а потом лампа перегорела…
Музыка, вообще любая информация, связанная с искусством оставляла машину бесстрастной. Но ее веселило, когда в тексте информации встречались существительные среднего рода из четырех букв. Мгновенно зажигался зеленый сигнал и начинал уныло дребезжать звонок: машина смеялась…
Она работала двадцать четыре часа в сутки. Вечером мы уходили из института, а электронный мозг машины продолжал перерабатывать информацию, менять настройку блоков логического управления. По утрам нас ожидали сюрпризы. Однажды машина начала сочинять стихи. Странные стихи: о драке «горизонтальных кошек» с «симметричным меридианом»…
Как-то я приехал в институт ночью. Машина стояла в темной комнате. На приборном щите светилась только небольшая фиолетовая лампа: это означало, что у машины хорошее настроение.
Я долго стоял в темноте. Было тихо. И вдруг машина рассмеялась. Да, она рассмеялась! Вспыхнул зеленый сигнал и тоскливо задребезжал звонок…
…Сейчас, когда я пишу эти строки, машина снова смеется. Я сижу в другой комнате, но дверь приоткрыта, и я слышу взвизгивание звонка. Машина смеется над квадратными уравнениями. Она ворошит свою огромную память, отыскивает тексты с квадратными уравнениями — и смеется.
Когда-то Клод Бернар сказал: «Не бойтесь противоречивых фактов — каждый из них зародыш открытия». Но у нас слишком много противоречивых фактов. Иногда мне кажется, что мы просто-напросто создали несовершенную машину…
Или — все правильно?
Вот моя мысль:
Нельзя сравнивать машину с человеком. В нашем представлении роботы — это почти люди, наделенные либо машинной злостью, либо машинным сверхумом. Чепуха! Наивен вопрос, может ли машина мыслить. Надо одновременно ответить «нет» и «да». Нет — ибо мышление человека формируется жизнью в обществе. Да — ибо машина все-таки может мыслить и чувствовать. Не как человек, а как некое другое существо. Как машина. И это не лучше и не хуже, чем мышление человека, а просто — иначе.
Машина может определить температуру воздуха с точностью до тысячных долей градуса, но она никогда не почувствует и не поймет, что такое ветер, ласкающий кожу. А человек никогда не почувствует, что такое изменение самоиндукции, никогда не ощутит процесса намагничивания. Человек и машина — разные.
Машина только тогда сможет мыслить как человек, когда она будет иметь все то, что имеет человек: родину, семью, способность по-человечески чувствовать свет, звук, вкус, тепло и холод…
Но тогда она перестанет быть машиной.
Юрий Тупицын
БЕЗУМИЕ
1
Все началось с того, что, попав как-то в Институт высшей кибернетики, я заблудился. В этом не было ничего удивительного: такие истории со мной случались и раньше, к тому же институтские коридоры были до тошноты похожи один на другой. И вместо того чтобы попасть на лестницу, ведущую к выходу, я оказался в каком-то тупике. Пожав плечами, повернул обратно, пробуя открывать двери, попадавшиеся на пути, — надо было узнать, как мне выбраться из этой неожиданной ловушки. Две двери оказались запертыми, зато третья беззвучно приоткрылась, и, к своему несказанному удивлению, я услышал детский лепет и смех. Представьте эту ситуацию: серьезный институт, строгий, пустынный коридор и беззаботный детский лепет! Некоторое время я пребывал в состоянии прострации, а потом пришел в себя и прислушался. Ребенок веселился и старательно, с выражением читал стихи:
Малыш залился веселым смехом.
— Туча идет, — с восторгом повторял он, — туча гуляет! Разве у тучи есть ноги?
И наставительно, с глубокой убежденностью пояснил:
— Туча — это результат конденсации больших масс водяного пара, кучевое облако, образование, не имеющее определенной формы. Идти туча никак не может! Она может ползти или катиться!
Малыш помолчал и начал с выражением декламировать:
И с огорчением констатировал:
— Нет, так нельзя: нескладно. Надо по-другому, а как? А-а! Придумал! Туча по небу ползет, бочка по морю плывет! — с восторгом начал повторять ребенок на разные лады.
Я не выдержал и пошире приоткрыл дверь, чтобы взглянуть на этого удивительного ребенка. Но детский голосок сразу умолк. Тогда я вошел в комнату. Собственно, это была большая лаборатория, ярко освещенная солнечным светом, проникавшим через открытое окно. Всю боковую стену лаборатории, до самого потолка, занимал сложнейший пульт управления с множеством кнопок, выключателей, сигнальных ламп и контрольных приборов.
Ребенка нигде не было, однако на пульте управления я заметил книжку: А.С.Пушкин. Сказка о царе Салтане… Я огляделся. Куда мог спрятаться мальчишка?
— Мальчик! — негромко окликнул я.
Мне никто не ответил. Может быть, шалунишка забрался в лабораторию через открытое окно, а потом, заметив, что открывается входная дверь, тем же путем выбрался на улицу? Я выглянул в окно. Ого! До земли было далековато — третий этаж. Нет, выбраться через окно абсолютно невозможно, а следовательно, мальчишка прячется где-то в лаборатории.
— Мальчик! — уже громко окликнул я.
И строго добавил:
— Все равно я тебя найду. Лучше вылезай сам!
Мальчишка фыркнул, сдерживая смех, но откуда донесся его голос, я так и не смог разобрать.
— Между прочим, — сказал я, — ты ведь ошибаешься. В буквальном смысле слова туча идти, конечно не может. Это литературный прием, чтобы запутать читателя и заставить его задуматься над сложностью окружающего мира. Этот прием называется… м-м… синекдоха.
— Не синекдоха, а метафора, — поправил меня мальчишка довольно угрюмо.
— Возможно, и метафора, — согласился я, опять-таки не сумев определить, где прячется этот чертенок, — не в этом суть. Ты говоришь, что туча идти не может, но может ползти или катиться. Вопрос о ползти я оставляю открытым, а вот что туча может катиться — полуистина.
— Как это, полуистина?
— Очень просто, — сказал я, подбираясь ближе к голосу, — как тело неопределенной формы, туча вовсе не обязательно может катиться. Безусловно, катиться может только шар.
— Знаю, — уже веселее сказал мальчишка, — шар сфера. Частный случай эллипсоида вращения, когда его полуоси равны между собой.
Теперь я понял, что голос доносится из небольшого репродуктора, вмонтированного в центр пульта управления. У меня шевельнулось одно подозрение, но делать окончательных выводов я пока не стал.
— Верно. Только этот частный случай может катиться, если даже не оговорены начальные условия.
Мальчишка заливисто рассмеялся. «Частный случай катиться!» — восторженно повторил он. Вдруг, перестав смеяться, он серьезно спросил:
— Ты живой, да?
У меня екнуло сердце. Теперь я уже не сомневался, что моя догадка правильная.
— Я вижу, что ты живой, — уверенно продолжал мальчишка, — ты дядя, да? А есть еще тети, форма у них еще сложнее. А скажи, дядя, почему все живое ограничено в пространстве такими сложными поверхностями, что их никак не выразишь через элементарные функции?
В голосе мальчишки звучал искренний интерес.
— А как же иначе? — спросил я, не зная, что ему ответить.
— Да как угодно! — азартно сказал мальчишка. — Разве нельзя тебя составить из прямоугольников разных измерений, шаров, эллипсоидов и конусов? Было бы и проще, и гораздо красивее, — закончил он очень убежденно.
Я собрался с духом и спросил:
— Как тебя зовут?
— Логик, — весело ответил мальчишка, — а тебя?
— Меня? Хм, меня зовут дядя Коля, — я перевел дух и спросил: — Слушай, Логик, а ты… ну… живой?
— Я?
Мальчишка расхохотался.
— Я? Я живой? Ха-Ха-Ха! Конечно, нет. Я не живой, зато я мыслящий! — с гордостью, закончил он.
— Как же так, неживой, а мыслящий? — спросил я машинально. — Разве так бывает?
— Еще как бывает, — снисходительно пояснил Логик, — вот муха живая, а не мыслящая, кошка живая, а не мыслящая. А я мыслящий. Ты тоже, дядя Коля, мыслящий, только хуже меня.
Я невольно оскорбился.
— Как это хуже?
— Очень просто. Скажи вот, сколько будет, если 13875 возвести в пятую степень? Ну, скажи?
Я усмехнулся.
— Это, брат, надо посчитать.
— Тебе надо, а мне не надо вовсе, — с гордостью сказал Логик, — я просто так, сразу знаю. Я много чего сразу знаю. Площадь параллелограмма равна произведению основания на высоту, вот. Верно?
— Верно, — согласился я.
— А интеграл суммы равен сумме интегралов! А корни линейных дифференциальных уравнений ищут в виде экспоненты. Верно?
— Верно, — немного ошарашенно подтвердил я.
— Вот видишь, я мыслящий, я мно-о-ого чего знаю. Дядя Коля, а скажи, как это бочка по морю плывет? Ведь в море нет течения!
— А ветер? Воздух ведь давит на бочку.
— Знаю! Скоростной напор равен ро-вэ квадрат пополам. Скажи, дядя Коля, а почему…
О чем еще хотел спросить меня Логик, я так и не узнал, потому что на пороге появился высокий, крепко сложенный мужчина. У него были цепкие черные глаза и могучий выпуклый лоб.
— Кто вы такой? И какого черта вам здесь надо? — спросил он.
— Это дядя Коля! — радостно ответил за меня Логик. — Он тоже мыслящий, только не очень.
Мужчина секунду внимательно смотрел на меня, потом направился к пульту управления.
— Опять спать, — капризно и досадливо протянул Логик, — не хочу я спать, дядя Юра. Не хочу! Не хочу!
— Ну не хочешь и не надо, — с неожиданной мягкостью сказал незнакомец, — подожди, я сейчас приду.
— Пойдемте, — сказал он, беря меня за руку и увлекая в коридор, — да что вы как неживой?
— До свидания, дядя Коля!
— До свидания, Логик, — ответил я машинально.
Мужчина плотно притворил за собой дверь и привалился к косяку спиной.
— Как вас занесло в лабораторию? — спросил он, разглядывая меня.
— Да совершенно случайно! Шел по коридору, прислонился к двери, она открылась и…