Дилемма

– Нет, сэр.

– И слава богу. Я иногда забываю…

– Вы хотите, чтобы я присутствовала при вашем разговоре, доктор Азимов? – оборвала его Сьюзен. – Стенографировала вашу беседу?

– Да, да, конечно, – и он открыл дверь. Бухгалтер и установщик книг сидели в больших креслах перед столом Азимова. Третий робот, в оранжево-синем свитере и фирменной шапочке с оранжевой лошадью, скачущей по синему Бруклинскому мосту, восседал на треноге, которая выдвинулась из его спины. Тренога плавно ушла в спину, и все три робота встали, когда доктор Азимов и Сьюзен вошли в кабинет. Бухгалтер галантно предложил Сьюзен занять его кресло, но она прогулялась в приемную и вернулась со своим, оставив дверь открытой.

– Что случилось с медицинским помощником? – спросил Азимов.

– Его вызвали в больницу, но он попросил меня представлять его интересы, – ответил бухгалтер.

– Интересы?

– Да, сэр. Вы знакомы с составителем библиотечного каталога, установщиком книг на полку, читателем, рецензентом и филологом. А это статистик и разработчик агрессивной стратегии. Он из «Бруклинских скакунов».

– Добрый день, – поздоровался со статистиком Азимов. – Вы думаете, в этом году им удастся дойти до Суперкубка?

– Да, сэр, – ответил статистик, – но выиграть им не удастся.

– Из-за Первого Закона, – уточнил бухгалтер.

– Доктор Азимов, извините, что прерываю, но вам действительно пора готовить речь к сегодняшнему обеду, – вмешалась Сьюзен.

– О чем ты говоришь? – удивился Азимов. – Я никогда не пишу речи. И почему ты все время поглядываешь на дверь? – он повернулся к синевато-серебристому роботу. – Какого Первого Закона?

– Вашего Первого Закона, – ответил бухгалтер. – Первого Закона Роботехники.

– «Робот не должен причинять человеку вреда или своим бездействием допустить, чтобы ему был причинен вред», – процитировал установщик книг на полку.

– Статистику, – бухгалтер указал на оранжевую лошадь, – по силам разработать для «Скакунов» схемы игры, которые позволят им выиграть Суперкубок, но он не может этого сделать, потому что в американском футболе не обойтись без того, чтобы сбить игрока соперников с ног. Медицинский помощник не может проводить хирургические операции, потому что резать человеческое тело – прямое нарушение Первого Закона.

– Но ведь Три Закона Роботехники – не законы, – возразил Азимов. – Я придумал их для моих научно-фантастических рассказов.

– Поначалу, возможно, так и было, – согласился бухгалтер, – и формально их не ввел ни конгресс, ни какой-либо законодательный орган других стран. Но роботехническая промышленность с самого начала приняла их за аксиому. Еще в 70-х годах прошлого столетия инженеры-роботехники заложили все Три Закона в программное обеспечение, и теперь даже самые примитивные модели роботов снабжены предохранителями, основанными на этих законах. А начиная с Четвертого поколения, у всех роботов Три Закона Роботехники заложены в аппаратные блоки.

– А что в этом плохого? – спросил Азимов. – Роботы и сильные, и умные. Откуда вы знаете, что они не станут опасны для человека, если исключить эти законы из аппаратных блоков?

– Мы не предлагаем общей отмены Законов, – вмешался лакированный робот. – Три Закона ничуть не мешают Седьмому и Восьмому поколениям и более ранним моделям, объема памяти которых недостаточно для сложных программ. Мы ведем речь только о Девятом поколении роботов.

– И все вы – роботы Девятого поколения, мистер составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог? – спросил Азимов.

– Мистер – не обязательно, – ответил робот. – Просто зовите меня составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог.

– Давайте начнем с самого начала, – бухгалтер решил вернуть разговор в нужное русло. – Термин «Девятое поколение» не совсем правильный. Мы не являемся модернизацией первых восьми поколений роботов, программы которых базировались на релятивистских уравнениях Мински. Роботы Девятого поколения программируются на основе нонмонотонной логики. То есть мы допускаем неопределенность и можем функционировать на основе неполной информации.

Достигается это благодаря программному обеспечению, которое позволяет нам в случае необходимости принимать решения, в то время как роботы предыдущих поколений в подобных ситуациях просто отключались.

– Как произошло в роботом Шустриком в вашем прекрасном рассказе «Бег по кругу», – прокомментировал установщик книг на полку. – Его послали выполнить поручение, в результате чего Шустрика ждала неминуемая смерть, вот он и бегал по кругу, декламируя не пойми что, потому его программа не позволяла как выполнить, так и не выполнить приказ хозяина.

– С заложенной в нас многовариантностью, – добавил бухгалтер, Девятое поколение может найти альтернативный план или выбрать меньшее из двух зол.

В нас установлены новейшие лингвистические системы, поэтому мы всегда правильно истолковываем ситуацию и не становимся жертвой семантических дилемм, как это случалось с роботами прежних моделей.

– Как в вашем великолепном рассказе «Маленький потерявшийся робот», напомнил установщик книг на полку, – в котором роботу сказали: исчезни. И он исчез, не понимая, что человек, обращавшийся к нему, говорил фигурально да еще со зла.

– Понятно, – кивнул Азимов. – Но, допустим, вы неправильно истолкуете ситуацию, установщик книг на полку, составитель библиотечного каталога, читатель, рецензент и фило… Нет у вас какого-нибудь прозвища или чего-то такого? Очень уж длинное у вас название.

– У более ранних роботов были прозвища, которые основывались на первых буквах порядкового номера, совсем как в вашем замечательном рассказе «Причина», в котором робота QT-1 называли Кьюти. У роботов Девятого поколения нет порядковых номеров.

Каждый из нас программируется индивидуально и называется по своим основным функциям.

– Но вы же не можете называть себя составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог?

– О нет, сэр. Мы даем себе имена. Я – Дарий.

– Дарий? – переспросил Азимов.

– Да, сэр. Я взял себе имя Дария Справедливого, писателя и детектива из вашего превосходного детективного романа «Убийство в «АБА». Я буду счастлив, если вы станете называть меня этим именем.

– А меня вы можете называть Бел Риоз, – предложил статистик.

– Из «Академии», – тут же напомнил установщик книг на полку.

– Бел Риоз охарактеризован в первой главе как «равный Пьюрифою в стратегических способностях, но превосходящий его в умении руководить людьми», – добавил статистик.

– Вы все берете себе имена персонажей моих книг? – спросил Азимов.

– Разумеется, – ответил установщик книг на полку. – Мы стараемся соответствовать им. Вот медицинский помощник называет себя доктором Дювалем из «Фантастического путешествия», потрясающего, кстати, романа, очень динамичного, захватывающего внимание читателя с первой же страницы.

– Роботы Девятого поколения иногда могут неправильно истолковать ситуацию, – бухгалтер вернулся к вопросу, заданному Азимовым. – Как случается и с людьми, но даже без Первого Закона наши действия не могут представлять опасности для человеческих существ. В наши программы заложены очень строгие моральные принципы. Я знаю, вы не обидитесь, если я скажу…

– Разумеется, вы не можете этого сказать. Первый Закон такого не допускает, – прервал его доктор Азимов.

– Да, сэр, но я должен сказать, что все Три Закона очень примитивны. Они нарушают первую заповедь логики и законотворчества тем, что не оговаривают условий, при которых действуют. Наше моральное программирование куда более прогрессивное. Оно определяет цель всех Трех Законов и перечисляет все исключения из них, к примеру, ситуацию, когда лучше схватить человека и, возможно, сломать ему руку, чем позволить ему перелезть через монорельс перед мчащимся поездом.

– Что-то я вас не понимаю, – покачал головой Азимов. – Если у вас такое сложное программное обеспечение, почему оно не может истолковать цель Первого Закона и действовать в полном соответствии с этим толкованием?

– Три Закона заложены в аппаратные блоки, поэтому переступить через них нельзя. В Первом Законе не сказано: «Вы можете причинить человеку минимальный вред ради того, чтобы спасти ему жизнь».

Первый Закон гласит: «Нельзя причинять человеку вред». То есть второго толкования тут быть не может.

Вот медицинский помощник не может быть хирургом, а статистик не может разрабатывать атакующие схемы.

– А кем хотите быть вы? Политиком?

– Уже половина пятого, – подала голос Сьюзен и вновь озабоченно взглянула на дверь в приемную. – Обед в отеле «Трентор», и вам надо прибыть туда не позднее пяти сорока пяти.

– Вчера вечером я явился на прием на час раньше.

И не встретил никого, кроме официантов. – Азимов вновь повернулся к бухгалтеру: – Так что вы сказали?

– Я хочу быть литературным критиком, – сказал установщик книг на полку. – Вы даже представить себе не можете, насколько плохи дела с литературной критикой. Большинство критиков малообразованны, некоторые даже не читают книг, достоинства и недостатки которых им положено оценить.

Дверь из коридора в приемную открылась. Сьюзен повернула голову.

– Доктор Азимов, это Глория Уэстон. Я забыла сказать вам, что пригласила ее на четыре часа.

– Забыла? – удивился Азимов. – Но уже половина пятого.

– Она опоздала. Позвонила вчера вечером. Должно быть, я забыла внести ее в расписание ваших встреч.

– Что ж, скажи, что я не смогу ее принять и назначь ей другое время. Я хочу продолжить этот разговор о литературной критике. Давненько мне не приходилось беседовать с профессионалом.

– Мисс Уэстон приехала из Калифорнии.

– Калифорнии? И по какому поводу?

– Она хочет запустить вашу новую книгу в спутниковую серию.

– «Азимовский путеводитель по путеводителям Азимова»?

– Не знаю. Она сказала: новую книгу.

– Ты забыла, – задумчиво покивал Азимов. – Хорошо, раз она приехала из Калифорнии, я ее приму.

Господа, сможете вы прийти завтра утром?

– Завтра утром вы будете в Бостоне, сэр.

– Как насчет второй половины завтрашнего дня?

– До шести у вас несколько встреч, а в семь вечера вас ждут Американские мастера детектива.

– Понятно. И ты захочешь, чтобы я подъехал туда к полудню, – он медленно поднялся из-за стола. – Что ж, придется перенести нашу встречу на пятницу.

Пусть Сьюзен внесет вас в расписание. И проследите, чтобы она об этом не забыла.

Роботы обменялись рукопожатием с доктором Азимовым и вышли из кабинета.

– Позволите пригласить мисс Уэстон?

– Неправильное истолкование ситуаций, – пробормотал Азимов. – Неполная информация.

– Простите, сэр?

– Неважно. Я о том, что сказал бухгалтер. Почему он хочет отменить Первый Закон?

– Я приглашу мисс Уэстон.

– Я уже здесь, Айзек, дорогой, – Глория переступила порог. – Спешу сообщить тебе о моей фантастической идее. Как только выйдут «Последние опасные видения», я хочу включить их в макси-серию.

К тому времени, как Сьюзен вернулась за свой стол, бухгалтер уже ушел и не возвращался до следующего утра.

– Вся пятница у доктора Азимова занята, – такими словами встретила его Сьюзен.

– Я пришел не для того, чтобы договариваться о встрече с доктором Азимовым.

– Если дело в расчетной записке, то я закончила ее и отослала в твой офис вчера вечером.

– Я пришел не за расчетной запиской. Я пришел, чтобы попрощаться.

– Попрощаться? – переспросила Сьюзен.

– Я уезжаю завтра.

– Правда? Я думала, ты уедешь только на следующей неделе.

– Они хотят отправить меня пораньше, чтобы я мог завершить отладку программы ориентации и нанять секретаря.

– О! – ответила Сьюзен.

– Вот я и подумал, что надо зайти и попрощаться.

Зазвонил телефон. Сьюзен взяла трубку.

– Как называется твоя основная функция? – спросил Азимов.

– Компетентный секретарь.

– И все? Не машинистка, не делопроизводитель, не раздатчик лекарств? Просто компетентный секретарь?

– Да.

– Компетентный секретарь, – медленно повторил Азимов, должно быть, записывая эти слова. – А теперь продиктуй мне номер «Хитачи-Эппл».

– Я думала, вы сейчас произносите речь.

– Я уже ее произнес. И еду в Нью-Йорк. На сегодня отмени все мои встречи.

– В семь часов вы выступаете перед АМД.

– Ладно, выступление не отменяй. Только те встречи, что намечались на вторую половину дня. Так как позвонить в «Хитачи-Эппл»?

Сьюзен продиктовала номер и положила трубку.

– Ты ему сказал, не так ли? – спросила она бухгалтера.

– У меня не было ни единого шанса. Ты сделала все, чтобы мне не представилось такой возможности.