Помоги проекту - поделись книгой:
Таким образом, помимо изображений, передающих зримый образ объекта, мы можем иметь и его функциональный образ. Эти функциональные образы – копии, выполняющие функции своего оригинала, – могут иметь, а могут и не иметь зримого сходства с ним. Независимо от того, будут или не будут они иметь это сходство, они могут заменить оригинал в его действии, и это будет гораздо более глубоким подобием. Здесь мы рассмотрели возможность воспроизведения машин с точки зрения их функционального подобия.
Но что такое машина? С некоторой точки зрения машину можно рассматривать как первичный двигатель, то есть как источник энергии. В этой книге мы будем исходить из другой точки зрения. Для нас машина – это устройство для преобразования входных сообщений в выходные.
С этой точки зрения сообщение есть последовательный ряд величин, представляющих собой соответствующие сигналы. Такие величины могут быть и электрическим током и напряжением, но они не исчерпываются лишь этими двумя физическими величинами. Кроме того, составные сигналы могут быть либо непрерывными, либо дискретными. Машина преобразует определенное число таких входных сообщений в определенное число выходных сообщений. При этом каждое выходное сообщение в любой момент времени зависит от входных сообщений, полученных до этого момента. На своем техническом жаргоне инженер высказал бы эту мысль так: «Машина – это преобразователь со множеством входов и выходов».
Большая часть рассматриваемых здесь вопросов либо не очень сильно отличается, либо, наоборот, резко отличается от вопросов, возникающих при рассмотрении преобразователей с одним входом и одним выходом. Это может натолкнуть инженера на мысль, что дальше пойдет речь о хорошо ему известной задаче, то есть о классической задаче определения импеданса или адмитанса электрической цепи или же об определении коэффициента трансформации.
Однако это не совсем точно. Импеданс, адмитанс и коэффициент трансформации – понятия, которые могут быть использованы с любой степенью точности лишь в случае линейных цепей, то есть цепей, для которых сумма последовательности входных сигналов за определенное время соответствует сумме соответствующих выходных сигналов.
Это условие выполняется в цепях, составленных из чисто активных сопротивлений, емкостей, чисто индуктивных сопротивлений, и в цепях, подчиняющихся законам Кирхгофа и состоящих исключительно из комбинаций этих элементов. Для этих цепей входной сигнал, с помощью которого можно испытать данную схему, представляет собой напряжение, описываемое тригонометрическим рядом; частоту этого сигнала можно изменять, а амплитуда и фаза его точно известны. Тогда выходной сигнал будет представлять собой серию колебаний той же частоты; при этом, сравнивая амплитуду и фазу выходного сигнала с входным, можно получить полную характеристику цепи или преобразователя.
Если цепь нелинейна и содержит, например, выпрямители или ограничители напряжения и другие подобные приборы, то тригонометрический входной сигнал уже не будет наиболее подходящим испытательным сигналом. В этом случае тригонометрический сигнал на входе, вообще говоря, не будет давать тригонометрического сигнала на выходе. Более того, строго говоря, линейных цепей не существует, а существуют только цепи с лучшим или худшим приближением к линейности.
Испытательный входной сигнал, который мы выбрали для нелинейных цепей (кстати, им можно пользоваться и для линейных цепей), имеет статистический характер. Теоретически, в отличие от тригонометрического входного сигнала, частоту которого нужно изменять во всем диапазоне частот, это единый статистический
Выходной сигнал преобразователя, получающийся при заданном входном сообщении, – это сообщение, которое зависит одновременно от входного сообщения и от свойств самого преобразователя.
При самых обычных условиях преобразователь задает способ преобразования сообщения, и мы рассматриваем выходное сообщение как преобразованное входное сообщение. Однако существует ряд обстоятельств – и они в основном возникают, когда входное сообщение несет минимум информации, – когда мы можем рассматривать информацию, содержащуюся в выходном сообщении, как исходящую главным образом от самого преобразователя. Нельзя представить себе входное сообщение, которое несет меньше информации, чем хаотический поток электронов, создающих дробовый шум. Таким образом, выходной сигнал преобразователя, возбуждаемого дробовым шумом, можно рассматривать как сообщение, отображающее действие самого преобразователя.
В самом деле, выходной сигнал характеризует действие самого преобразователя при любом возможном входном сообщении. Это происходит благодаря тому, что в конечном интервале времени существует конечная (хотя и малая) вероятность того, что дробовый шум на входе создаст на выходе любое возможное сообщение с любой заданной степенью точности. По этой причине статистика сообщения, получаемого на выходе преобразователя при заданном нормированном статистическом входном сигнале, формирует «функциональный образ» преобразователя, и вполне понятно, что он может быть использован для воссоздания эквивалентного преобразователя в другом физическом исполнении. Следовательно, если мы знаем, как преобразователь будет реагировать на входной шумовой сигнал, то мы знаем
Таким образом, преобразователь – машина, выступающая, с одной стороны, как прибор, а с другой – как сообщение, – наводит нас на мысль о столь дорогом физику дуализме, примером которого служит двойственная природа волн и частиц. Этот дуализм указывает на то, что суть биологической смены поколений, быть может, метко выражается известным
Ранее эта мысль была уже использована мною; в частности, я говорил, что в принципе возможно переслать человеческое существо по телеграфу. Позвольте мне тут же заметить, что трудности, возникающие при этом, намного превышают мои способности преодолеть их, и что я не собираюсь вносить еще большую сумятицу в работу железных дорог, призывая Американскую телеграфную и телефонную компанию выступить в качестве их нового конкурента. В настоящее время, а возможно и в течение всего существования человеческого рода, эта идея может оказаться практически неосуществимой, но это не значит, что из-за этого ее невозможно постичь.
Даже совершенно не касаясь трудностей практического использования этой идеи в случае с человеком, она, безусловно, осуществима в случае созданных человеком машин меньшей степени сложности. Именно это я и предлагаю в качестве метода самовоспроизведения нелинейных преобразователей. Сообщения, в которых может быть воплощена функция заданного преобразователя, будут также охватывать все те многие воплощения преобразователя, которые имеют тот же функциональный образ. Среди всех этих воплощений имеется по меньшей мере одно с определенным типом физической структуры, и именно это воплощение я предлагаю воссоздать по сообщению, несущему функциональный образ машины.
При описании какого-то конкретного воплощения, которое будет мною выбрано для функционального образа машины, подлежащей воспроизведению, я описываю также формальные признаки этого образа. Для того чтобы это описание было чем-то большим, чем плод расплывчатой фантазии, оно должно быть облечено в математические термины, а математический язык – это язык, мало доступный широкому кругу читателей, для которых эта книга предназначается. Я уже выразил эти идеи математическим языком в своей книге «Кибернетика», в главе IX, выполнив тем самым свой долг перед специалистами. Однако, если бы я оставил рассмотрение данного предмета на этой стадии, я бы не выполнил своего долга перед читателем, для которого предназначена эта книга. С одной стороны, может показаться, что мною здесь приведены необоснованные утверждения. С другой стороны, подробное изложение моих мыслей здесь было бы совершенно бесполезно.
Вследствие этого я постараюсь ограничиться тем, что своими словами перескажу смысл математических выкладок, выражающих суть данного предмета.
Боюсь, что даже при этом последующие страницы будут восприниматься с трудом. Тому, кто желает при всех условиях избежать каких-либо трудностей при чтении данной книги, советую опустить эту главу. Я написал ее лишь для тех, кто обладает достаточно большой любознательностью, чтобы побудить их к дальнейшему чтению невзирая на подобные предупреждения.
IV
Читатель, ты получил надлежащее предупреждение, и с настоящего момента все, что ты будешь говорить в ущерб нижеследующему тексту, может быть обращено против тебя самого!
Можно умножить выходной сигнал машины, скажем линейного преобразователя, на постоянную величину и суммировать выходы двух машин. Ранее мы условились, что под выходным сигналом машины подразумевается электрический потенциал (напряжение), величину которого мы измеряем, не нагружая выходную цепь (на холостом ходу). Это осуществимо при использовании современных устройств, называемых катодными повторителями. Применяя потенциометры или трансформаторы, мы можем умножить выходной сигнал преобразователя на любую положительную или отрицательную постоянную. Если имеется два или большее число раздельных преобразователей, то можно суммировать их выходные напряжения при одном и том же значении входного напряжения путем последовательного соединения преобразователей. В результате мы получаем сложное устройство с выходным сигналом, равным сумме выходных сигналов его составных частей, умноженных на соответствующие положительные или отрицательные коэффициенты.
Таким образом, при анализе и синтезе машин можно использовать такие известные методы, как разложения многочленов и ряды (например, тригонометрические разложения и ряды Фурье). Остается теперь дать соответствующий перечень подходящих преобразователей, при помощи которых можно формировать подобные ряды. Это даст нам стандартную форму для реализации, а следовательно, и для дублирования функционального образа.
Известно, что существует стандартный перечень простейших машин, с помощью которых можно приблизительно представить любую машину с любой степенью точности в полном смысле этого слова. Описать это в математической форме довольно сложно, но ради математика, которому могут случайно попасться на глаза эти страницы, я сформулирую это так: для любого входного сообщения эти устройства образуют произведения полиномов Эрмита в коэффициентах, выражающихся через полиномы Лагерра предшествующего входного сообщения. Это звучит специфично и сложно, но это действительно так.
Где же приобрести подобные устройства? Думаю, что в настоящее время вряд ли вы получите их со склада в форме приборов заводского изготовления. Однако эти устройства могут быть собраны по точным спецификациям, поскольку они состоят из активных сопротивлений, емкостей и индуктивностей, то есть из широко известных компонентов линейных преобразователей. Наряду с этим для получения линейности необходимы умножители с двумя входными напряжениями и выходным сигналом, равным произведению входных. Подобные устройства имеются в продаже, и, если они несколько дороже, чем хотелось бы, имея в виду покупку больших количеств этих устройств, дальнейшее их усовершенствование может снизить их стоимость; во всяком случае, затраты и возможности – это факторы разного порядка.
Исключительно интересное устройство подобного же рода, основанное на пьезоэлектрическом эффекте, было создано в лаборатории профессора Габора[10] в Имперском колледже науки и техники при Лондонском университете. Габор применил его в качестве устройства, которое отличается во многих отношениях от вышеупомянутого, однако оно также используется для анализа и синтеза каких угодно универсальных машин.
Возвращаясь к конкретным устройствам, упомянутым мною выше, следует указать, что они обладают тремя свойствами, благодаря которым их можно использовать для анализа и синтеза любой машины.
Во-первых, эти машины образуют замкнутую совокупность. Иными словами, комбинируя машины с соответствующими коэффициентами, можно аппроксимировать структуру какой угодно машины. Во-вторых, эти машины можно нормировать в том смысле, что при единично-статистическом импульсе на входе они дадут на выходе импульсы также единично-статистической величины. В-третьих, эти машины ортогональны. Это означает, что если мы возьмем любые две из них и подадим на их входы один и тот же нормированный дробовый шум, а затем перемножим их выходные сигналы, то произведение этих выходов, усредненное по всем возможным видам входных сигналов, будет равно нулю.
При исполнении машин в такой форме их анализ оказывается столь же простым, как и синтез. Предположим теперь, что у нас есть машина в виде «черного ящика», то есть машина, выполняющая определенную устойчивую операцию (не переходящую в самопроизвольные колебания), причем внутренняя структура этого «черного ящика» нам недоступна и неизвестна. Предположим теперь, что у нас также имеется «белый ящик» – машина с известной нам структурой, представляющей один из элементов структуры черного ящика. Тогда, если входные клеммы обоих ящиков подключить к одному генератору шума, а выходные клеммы – к множительному прибору, умножающему их выходные сигналы, произведение их выходов, усредненное по всему распределению шума на их общем выходе, будет выражаться коэффициентом белого ящика в разложении, соответствующем структуре черного ящика, представленной в виде суммы выходов белых ящиков с соответствующими коэффициентами.
Достигнуть этого кажется невозможным, поскольку это, по-видимому, потребовало бы исследования данной системы во всем статистическом диапазоне шумовых входов. Однако существует важное обстоятельство, позволяющее нам преодолеть это затруднение. В математической физике имеется теорема, дающая нам возможность в определенных случаях заменить величины, усредненные по распределению, величинами, усредненными по времени, – не в каждом отдельном случае, а в их полной совокупности, для которой общая вероятность равна единице. В частном случае дробового эффекта можно строго доказать, что условия, при которых данная теорема справедлива, выполнимы. Таким образом, мы можем заменить усредненную по всему ансамблю величину возможных шумовых сигналов, необходимых для получения коэффициентов белых ящиков, входящих в разложение черного ящика, величиной, усредненной по времени, и мы получим правильный коэффициент с вероятностью, равной 1. Хотя это с точки зрения теории не обеспечивает полной достоверности, на практике они эквивалентны достоверным результатам.
С этой целью мы должны уметь определять среднюю величину напряжения по времени. К счастью, прибор для получения подобных средних величин по времени хорошо известен и его легко приобрести. Он состоит лишь из сопротивлений и конденсаторов, а также устройств для измерения напряжений. Таким образом, наш тип систем в равной мере пригоден и для анализа и для синтеза машин. Если мы используем один и тот же аппарат и для анализа машин и для их синтеза, проводимого в соответствии с результатами анализа, то мы воспроизведем функциональный образ этой машины.
На первый взгляд может показаться, что это потребует вмешательства человека. Однако легко (намного легче, чем провести анализ и синтез) добиться того, чтобы результаты анализа представлялись не в виде отсчетов по шкалам приборов, а в виде зафиксированных положений потенциометров.
Итак, насколько нам позволяет число доступных элементов и точность современной техники, мы заставили черный ящик неизвестной нам структуры перенести функциональные свойства (образ действия) на комплексный белый ящик, первоначально приспособленный к восприятию любого функционального образа. Это, в сущности, очень похоже на то, что происходит в основополагающем акте воспроизведения живой материи. Здесь тоже субстрат, способный принять множество форм (в данном случае молекулярных структур), заставляют принять какую-то определенную форму благодаря наличию структуры, которая уже обладает данной формой.
Когда я представил результаты своего анализа саморазмножающихся систем на суд философов и биохимиков, то оно было встречено следующим заявлением: «Но ведь эти два процесса совершенно различны! Любая аналогия между живым и неживым будет только поверхностной. В настоящее время процесс биологического размножения раскрыт до мельчайших деталей, и он не имеет ничего общего с процессом, который вы приписываете размножению машин».
С одной стороны, машины сделаны из стали и латуни, тонкая химическая структура которых не имеет ничего общего с их функциями как частей машин. Живая же материя остается живой вплоть до мельчайших частей, которые характеризуют ее как один и тот же тип материи, а именно до молекулы. Кроме того, размножение живой материи происходит хорошо известным путем, в котором цепочка нуклеиновых кислот как матрица определяет расположение аминокислот в синтезируемых молекулах, и эта цепочка двойная, состоящая из пары дополнительных спиралей. Когда они отделяются, то каждая из них вбирает в себя молекулярные остатки, необходимые для восстановления двойной спирали исходной цепочки.
Ясно, что в деталях процесс воспроизведения живого вещества отличается от процесса воспроизведения машин, который я здесь набросал. Габор в работе, упомянутой мною ранее, указал пути воспроизведения машин, которые будут определяться менее жесткими законами, чем тот, который я привел. Они, пожалуй, в большей степени будут схожи с явлением размножения живых существ. Живая материя, безусловно, имеет тонкую структуру, более присущую ее функциям и процессу размножения, чем части неживой машины, хотя это и может не относиться в равной мере к тем новейшим устройствам, в которых используются принципы физики твердого тела.
Однако даже живые системы не являются живыми (по всей вероятности) ниже молекулярного уровня. Кроме того, при всем различии между живыми системами и обычными механическими системами неверно было бы отказываться от мысли, что системы одного типа могут в какой-то мере помочь нам раскрыть сущность организации систем другого типа.
Такой случай вполне возможен, когда пространственная и функциональная структуры, с одной стороны, и сообщения во времени – с другой, взаимообратимы. Шаблонное рассмотрение процесса воспроизведения еще не раскрывает нам полностью всей картины этого сложного процесса. Должен, по-видимому, существовать какой-то обмен информацией между молекулами генов и молекулярными остатками, который нужно искать в питательной жидкости, причем эта связь должна быть динамической. Было бы вполне в духе современной физики предположить, что посредствующим звеном в такой связи должны быть какие-то поля излучения. Неверно было бы категорически утверждать, что между процессом воспроизведения у машин и у живых существ нет ничего общего.
Осторожным и консервативным умам рассуждения подобного рода часто кажутся менее рискованными, чем поспешные высказывания об аналогии живого и неживого. Однако если опасно утверждать без достаточных доказательств, что существует аналогия, в равной мере опасно отвергать аналогию, не доказав ее нелогичность. Интеллектуальная честность – это не то же, что отказ от принятия интеллектуального риска, а отказ даже рассмотреть новую концепцию, вызывающий эмоциональное возбуждение, не имеет особого оправдания с этической точки зрения.
Рассуждения о том, что Бог якобы создал человека и животных, что живые существа порождают себе подобных и что существует возможность воспроизведения машин, – все это суждения одного порядка, вызывающие такое же эмоциональное возбуждение, какое в свое время вызвала теория Дарвина об эволюции и происхождении человека. Если сравнение человека с обезьяной наносило удар по нашему самолюбию и мы теперь уже преодолели этот предрассудок, то еще большим оскорблением ныне считают сравнение человека с машиной. Каждая новая мысль в свой век вызывает некоторую долю того осуждения, которое вызывал в средние века грех колдовства.
Я уже упоминал о возможности наследования свойств в процессе их самовоспроизведения и о дарвиновской теории эволюции, основанной на законе естественного отбора. В «машинной генетике», рассматриваемой в качестве одного из типов эволюции через естественный отбор, мы должны учитывать и изменчивость, и наследование изменчивости. Предполагаемый нами вид генетики машин охватывает оба фактора. Изменчивость возникает из-за неточности осуществления процесса копирования, который был рассмотрен выше, в то время как скопированная машина, в качестве примера которой был приведен белый ящик, сама может служить прототипом для дальнейшего копирования. В действительности, в то время, как в исходном одноступенчатом процессе копирования копия оказывается похожей на оригинал не по внешнему виду, а по функциональному образу, на последующей стадии копирования пространственная структура сохраняется и последующая копия содержит уже и внешние и функциональные признаки оригинала.
Очевидно, что в процессе копирования в качестве нового оригинала может быть использована предыдущая копия. Иными словами, изменения наследуемых свойств сохраняются, хотя они и подвергаются дальнейшим изменениям.
V
Мне приходилось уже говорить о том, что осуждение, которому в прошлые века подвергалось колдовство, теперь в умах многих людей переносится на современную кибернетику. Я вряд ли ошибусь, сказав, что еще лет двести назад ученый, пытавшийся создать машины, способные обучаться играм или размножаться, был бы облачен в «санбенито» – балахон для жертв инквизиции – и предан огню, ибо «пролития крови быть не должно». Избежать костра ему удалось бы разве лишь в том случае, если бы кто-нибудь из его высоких покровителей поверил, будто он владеет магическим искусством превращать простые металлы в золото, как некогда император Рудольф поверил пражскому раввину Лёви, что своими заклинаниями он способен вдохнуть жизнь в глиняного человека – Голема.
Но даже если бы в наше время явился изобретатель, который сумел бы доказать какой-либо компании по производству вычислительных машин, что его магия может ей пригодиться, он мог бы, ничем не рискуя, заниматься своей черной магией до второго пришествия.
Что же такое колдовство и почему оно осуждается как грех? Почему глупый маскарад «черной мессы» вызывал такой гнев?
Ритуал «черной мессы» легче понять, если мы станем на точку зрения ортодоксального верующего. Для остальных это бессмысленная или даже непристойная церемония. Однако те, кто принимает в ней участие, гораздо ближе к ортодоксальной вере, чем большинство из нас думает. Главный элемент «черной мессы» не противоречит обычной христианской догме, по которой священник творит чудо, превращая дух в плоть и кровь Христа.
Верующий христианин и колдун сходятся на том, что, как только чудо превращения свершилось, божественная стихия способна творить новые чудеса. Они согласны, кроме того, и в том, что чудо перевоплощения может совершить только священнослужитель определенного сана. И, наконец, они согласны в том, что такой пастырь никогда не утрачивает свою чудотворную силу; если же он чудодействует, будучи отрешенным от сана, то ему грозит вечное проклятие.
Исходя из этих предпосылок, можно считать совершенно естественным и такой случай, когда некоему человеку – по натуре злому, но хитроумному – придет мысль получить власть над магическим духом и употребить его силы ради собственной выгоды. Именно в этом, а не в кощунственных оргиях и заключается главный грех «черной мессы». Ведь магия духа по природе своей добра. Стремление направить ее к целям, противоположным вящей славе божьей, – смертный грех. Таким и был тот грех, который библейская легенда приписывает Симону-волхву, пытавшемуся купить у апостола Павла чудотворные силы христианства. Я хорошо представляю себе замешательство и огорчение бедняги, когда он узнал, что эти чудотворные силы не продаются и что апостол Павел отказался от сделки, по мнению Симона, честной, приемлемой и совершенно естественной.
Такое поведение апостола Павла поймет всякий, кому случалось отказываться от продажи своего изобретения, несмотря на весьма выгодные условия, предложенные ему каким-либо капитаном современной индустрии.
Христианство, что бы там ни говорили, всегда считало грехом симонию, то есть куплю и продажу церковных должностей и чудотворных сил, которые им приписывались. Данте считал этот грех одним из тягчайших; бесстыдно погрязших в нем современников он низверг на самое дно своего «Ада». Однако грех этот, бывший главным искушением в чрезвычайно суеверную эпоху Данте, безусловно, отмирает в современном, более рационалистическом и рациональном мире.
Он отмирает! Он отмирает… Отмирает ли?..
Пусть силы машинного века на самом деле нельзя считать сверхъестественными, но все же они не укладываются в представления простого смертного о естественном порядке вещей. И хотя мы больше не считаем своим долгом приводить эти колоссальные силы в движение ради вящей славы божьей, тем не менее нам представляется неприемлемым пускать их в ход ради суетных или корыстных целей. Грехопадение нашего времени в том, что магические силы современной автоматизации служат для получения еще больших прибылей или используются в целях развязывания ядерной войны с ее апокалиптическими ужасами. Если этому пороку следует дать имя, мы вправе назвать его симонией или колдовством.
Ибо независимо от того, верят или не верят люди в бога, не все им дозволено. В отличие от покойного Адольфа Гитлера мы не достигли еще в своем надменном моральном безразличии того кульминационного пункта, который ставит нас по ту сторону добра и зла. И до тех пор, пока мы хотя бы в малейшей степени сохраним то нравственное чутье, которое позволяет различать добро и зло, применение великих сил нашего века в низменных целях будет в морально-этическом плане совершенно равнозначно колдовству и симонии.
Коль скоро существует возможность создания автоматов в металле или только в чертежах и расчетах, изучение их производства и теории является естественной фазой человеческой любознательности. Мощь человеческого разума сводится на нет, если сам человек ставит какие-то жесткие границы своей пытливости. И все же существуют аспекты автоматизации, которые выходят за рамки узаконенной любознательности и становятся греховными по своей сути. Это можно пояснить на примере технического руководителя особого типа, которого я назвал бы
Мне очень хорошо известны машинопоклонники нашего мира с их лозунгами свободного предпринимательства и экономики, основанной на стремлении к наживе. Я думаю, что машинопоклонники могут существовать и существуют и в коммунистическом мире.
Власть и жажда власти – это, к несчастью, реальные силы, которые выступают в разнообразных облачениях. Среди фанатичных жрецов силы встречается немало таких, которые нетерпимо относятся к ограниченным возможностям человечества, и в особенности к ограничениям, связанным с ненадежностью и непредсказуемостью человеческого поведения. Эти обычно скрываемые склонности руководителя можно выявить по облику подчиненных, которых он себе выбирает. Они смиренны, незаметны и готовы выполнить любое его распоряжение; именно поэтому они в общем-то оказываются беспомощными, когда неожиданно перестают быть только механическими исполнителями его воли. Способные проявить огромное усердие и в то же время почти лишенные собственной инициативы, они подобны евнухам в гареме идей, с которыми обвенчан их султан.
Помимо того что машинопоклонник преклоняется перед машиной за то, что она свободна от человеческих ограничений в отношении скорости и точности, существует еще один мотив в его поведении, который труднее выявить в каждом конкретном случае, но который тем не менее должен играть весьма важную роль. Мотив этот выражается в стремлении уйти от личной ответственности за опасное или гибельное решение. Побуждения такого рода проявляются в попытках переложить ответственность за подобные решения на что и на кого угодно: на случай, на начальство, на его политику, которую-де не положено обсуждать, или на механическое устройство, которое якобы невозможно полностью постичь, но которое обладает бесспорной объективностью. Вероятно, мотивы такого же рода движут потерпевшими кораблекрушение, когда они тянут жребий, чтобы определить, кто должен быть съеден первым. Подобными аргументами искусно оперировала защита Эйхмана. Из таких же мотивов исходят и те, кто раздает одним солдатам, исполняющим приговор о расстреле, боевые патроны, а другим – холостые, с тем чтобы каждый солдат так никогда и не узнал, участвовал ли он в убийстве. Несомненно, что подобными же уловками будет пытаться успокаивать свою совесть то высокопоставленное должностное лицо, которое осмелится нажать кнопку первой (и последней) атомной войны. Это старый колдовской трюк, чреватый, правда, трагическими последствиями: после удачного исхода рискованного предприятия приносится в жертву первое встречное живое существо. Как только такой господин начинает сознавать, что некоторые человеческие функции его рабов могут быть переданы машинам, он приходит в восторг. Наконец-то он нашел нового подчиненного – энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и без малейших размышлений!
Подчиненный такого типа выведен Чапеком в его пьесе «R.U.R.». Так же как и раб из «Лампы Аладдина», он ничего не требует. Он не просит каждую неделю выходного дня и не нуждается в телевизоре для своего жилища. Он даже не нуждается в жилище. Но стоит только потереть Лампу, как он появляется из ниоткуда. И если ради ваших целей вы решитесь пуститься в плавание против ветра общепринятой морали, ваш раб никогда не осудит вас, даже не бросит на вас вопрошающего взгляда. Теперь вы свободны плыть, куда вас влечет судьба!
Такая психология свойственна колдуну в полном смысле этого слова. Колдунов такого рода предостерегают не только церковные доктрины, но и органически присущий человечеству здравый смысл, выраженный в легендах, мифах и творениях здравомыслящих писателей. Все они сходятся на том, что колдовство не только грех, ведущий в ад, оно таит в себе опасность для самой жизни на Земле. Это обоюдоострый меч, который рано или поздно пронзит вас.
Здесь уместно вспомнить историю о рыбаке и Джинне из «Тысячи и одной ночи».
Рыбак, забросив сеть вблизи берегов Палестины, выловил закупоренный глиняный кувшин с печатью царя Соломона. Он взламывает печать, и из кувшина вырывается столб дыма, принимающий форму гигантского Джинна. Джинн говорит рыбаку, что некогда он, Джинн, был одним из мятежников, которого великий царь Соломон замкнул в кувшин. Вначале Джинн намеревался вознаградить своего освободителя властью и богатством. Но проходили века, и тогда он решил умертвить первого же смертного, которого он встретит, и прежде всего своего освободителя.
На свое счастье, рыбак оказался находчивым малым, искусно владевшим оружием лести. Играя на тщеславии Джинна, он убеждает его показать, как такое огромное Существо может втиснуться в столь маленький сосуд. Джинн, доказывая это, снова влезает в кувшин. Рыбак тут же запечатывает его, бросает злосчастный кувшин в море и поздравляет себя со спасением. С тех пор он живет, не зная горя.
В других легендах герой, сталкиваясь с магией уже не столь случайно, либо оказывается на грани катастрофы, либо терпит полный крах. В стихотворении Гете «Ученик чародея» изображен юный слуга, который чистит одежду своего хозяина – волшебника, подметает пол и носит воду. Однажды, получив приказ наполнить бочку водой, слуга остался один. Подверженный той лени, что является истинной матерью изобретений (от такой же лени другой мальчишка, работавший у машины Ньюкомена, прицепил как-то веревку от крана, впускающего пар, к балансиру, создав тем самым первый автоматический клапан)[11], гетевский ученик чародея запомнил отрывки подслушанных им заклинаний хозяина, произнес их и заставил метлу качать воду в бочку. Эту часть задачи метла исполняет быстро и энергично. Когда же вода начала переливаться через край бочки, мальчик вдруг обнаружил, что он забыл заклинания, которыми чародей останавливал метлу. Мальчик захлебывается и почти тонет в воде, но тут чародей, к счастью, возвращается, произносит несколько властных слов, усмиряющих бунт вещей, а затем задает своему ученику изрядную взбучку.
Даже в этом случае катастрофу удается отвратить лишь с помощью
В повести описывается английская рабочая семья, собравшаяся к обеду на кухне. Сын вскоре уходит на фабрику, а старики родители слушают рассказы своего гостя, старшего сержанта, возвратившегося из Индии. Гость рассказывает об индийской магии и показывает талисман – высушенную обезьянью лапу. По его словам, индийский святой наделил этот талисман магическим свойством исполнять по три желания любого из трех своих последовательных владельцев. Гость говорит, что это подходящий случай испытать судьбу. Он не знает первых двух желаний предыдущего владельца талисмана, но ему известно, что последним желанием его предшественника была смерть. Сам он был вторым владельцем, но то, что он испытал, слишком страшно пересказывать. Гость уже намерен бросить волшебную лапу в камин, но хозяин выхватывает ее и, невзирая на предостережения, просит у нее двести фунтов стерлингов.
Через некоторое время раздается стук в дверь. Входит очень важный господин, служащий той фирмы, в которой работает сын хозяина. Со всей мягкостью, на которую он способен, господин сообщает, что в результате несчастного случая на фабрике сын хозяина погиб. Не считая себя ни в коей мере ответственной за случившееся, фирма выражает семье погибшего свое соболезнование и просит принять пособие в размере двухсот фунтов стерлингов.
Обезумевшие от горя родители умоляют – и это их второе желание, – чтобы талисман вернул им сына… Внезапно все погружается в зловещую ночную тьму, поднимается буря. Снова стук в дверь. Родители каким-то образом узнают, что это их сын, но, увы, он бесплотен, как призрак. История кончается тем, что родители выражают свое третье и последнее желание: они просят, чтобы призрак сына удалился.
Лейтмотив всех этих историй – опасность, связанная с природой магического. По-видимому, корни этой опасности кроются в том, что магическое исполнение заданного осуществляется в высшей степени буквально и что если магия вообще способна даровать что-либо, то она дарует именно то, что вы попросили, а не то, что вы подразумевали, но не сумели точно сформулировать. Если вы просите двести фунтов стерлингов и не оговариваете при этом, что не желаете их получить ценою жизни вашего сына, вы получите свои двести фунтов независимо от того, останется ли ваш сын в живых или умрет!
Не исключено, что магия автоматизации и, в частности, логические свойства самообучающихся автоматов будут проявляться столь же буквально.
Когда вы ведете игру, соблюдая все правила, и настраиваете машину так, чтобы она играла на выигрыш, вы получите его – если получите что-либо вообще, – но при этом машина не обратит ни малейшего внимания на любые соображения, за исключением тех, которые, согласно установленным правилам, приводят ее к выигрышу. Если вы ведете военную игру с некоторой условной интерпретацией победы, то победа будет достигнута любой ценой, даже ценой уничтожения вашей собственной стороны, если только сохранение ее жизнеспособности не будет совершенно четко запрограммировано в числе условий победы.
Это нечто большее, чем невинный парадокс. Мне определенно нечем опровергнуть предположение о том, что США и Россия вынашивают идеи использования машин, и в частности обучающихся машин, для того чтобы определить момент нажатия кнопки атомной войны – этого современного ultima ratio[13].
Испокон веков армии вели войны, которые всегда отставали от технических возможностей своего времени. Говорят, что в каждой войне хорошие генералы воюют так, как воевали в последней войне, а плохие генералы как в предпоследней. Действительно, методы ведения боевых действий в «военной игре» никогда не поспевают за изменениями реальной обстановки. Это было верно всегда, хотя в периоды, изобиловавшие войнами, порой находилось достаточно воинов, считавших, что война, в которой они участвовали, протекала в сравнительно медленно изменявшихся условиях. Именно эти испытанные воины и являются военными экспертами в истинном смысле слова. В настоящее же время экспертов ведения атомной войны не существует. Это значит, что нет таких людей, которые обладали бы каким-либо опытом в военном конфликте, где обе стороны располагают атомным оружием и применяют его. Разрушение городов в атомной войне, деморализация людей, голод, болезни и косвенные губительные последствия войны (которые могут вызвать значительно большее число жертв, чем взрывы и прямое выпадение радиоактивных осадков) – все это известно лишь предположительно.
Вероятно, поэтому и рядятся в патриотические одежды те, кто преуменьшает потери человечества и преувеличивает вероятность выживания народов в условиях мировой катастрофы нового типа. Но если атомная война приводит к полному самоуничтожению, а обычные военные действия теряют всякий смысл, то, очевидно, содержание сухопутных войск и военно-морского флота окажется в значительной мере бесцельным, а бедные, преданные службе генералы и адмиралы останутся без работы. Фирмы по производству ракет не будут больше иметь того идеального рынка сбыта, где все изделия предназначаются для однократного использования и поэтому не вступают в конкуренцию с продукцией, которую еще предстоит изготовить. Духовенство будет лишено возможности проявить свою восторженность и экзальтацию, всегда сопутствующие крестовым походам. Говоря короче, если начнется «военная игра» с подобной программой, то найдется много лиц, которые, упуская из поля зрения возможные последствия, потребуют свои двести фунтов стерлингов, забыв упомянуть, что сын должен остаться в живых.
Поскольку наше действительное желание всегда может быть выражено неточно, последствия этого могут стать чрезвычайно серьезными тогда, когда процесс исполнения наших желаний осуществляется не прямым путем, а степень их реализации не ясна до самого конца. Обычно мы осуществляем наши желания, если вообще мы способны в самом деле осуществить их, с помощью процесса обратной связи, которая позволяет сравнивать степень достижения промежуточных целей с нашим восприятием. При таком процессе обратная связь проходит через нас и мы можем – пока еще не слишком поздно – повернуть назад. Если же механизм обратной связи встроен в машину, действие которой не может быть проконтролировано до тех пор, пока не достигнута конечная цель, вероятность катастрофы чрезвычайно возрастает. Мне, например, было бы в высшей степени неприятно участвовать в первом испытании автомобиля, управляемого при помощи фотоэлектрических устройств обратной связи, если бы в нем не было рукоятки, которая позволяет взять управление на себя в тот момент, когда замечаешь, что автомобиль несется на дерево.
Люди с психологией машинопоклонников часто питают иллюзию, будто в высокоавтоматизированном мире потребуется меньше изобретательности, чем в наше время; они надеются, что мир автоматов возьмет на себя наиболее трудную часть нашей умственной деятельности – как тот греческий философ, который в качестве римского раба был принужден думать за своего господина. Это явное заблуждение.
Целенаправленный механизм вовсе не обязательно будет искать путей достижения
В наше время стала очень модной идея предотвращения некоторых опасностей и в особенности угроз, связанных с атомной войной, при помощи автоматических устройств типа
Поскольку техника все в большей мере приобретает способность осуществлять человеческие намерения, их математическая формулировка должна стать все более и более обычным делом.
В прошлом неполная и ошибочная оценка человеческих намерений была относительно безвредной только потому, что ей сопутствовали технические ограничения, затруднявшие точную количественную оценку этих намерений. Это только один из многих примеров того, как бессилие человека ограждало нас до сих пор от разрушительного натиска человеческого безрассудства.
Иными словами, хотя человечество в прошлом и сталкивалось со многими опасностями, с ними было значительно легче справляться благодаря тому, что во многих случаях угроза проявлялась односторонне. В век, когда голод становится большой угрозой, можно искать спасения в увеличении производства пищи, и оказывается, что угроза уже не столь велика. При высокой смертности (в особенности детской) и при очень слабом развитии медицины жизнь каждого человека была большой ценностью, и поэтому людям справедливо предписывалось плодиться и размножаться. Угроза голода оказывала на нас давление, подобное давлению силы тяжести, к которой всегда приспособлены наши мышцы, кости и сухожилия.
Перемены в напряженности современной жизни, вызванные появлением новых устремлений и исчезновением старых, можно сравнить с новыми проблемами космических полетов. Состояние невесомости в космическом корабле освобождает нас от постоянной, направленной в одну сторону силы тяжести, к которой мы привыкли в нашей повседневной жизни. Путешественнику в космическом корабле нужны рукоятки, чтобы держаться; нужны тубы, чтобы выжимать из них пищу и питье; нужны различные приборы, чтобы определять свое положение, и, хотя все эти приспособления помогают тому, чтобы физиологическое состояние путешественника не слишком нарушалось, все же он не может чувствовать себя так удобно, как ему хотелось бы. Сила земного притяжения столь же дружественна нам, сколь и враждебна. Точно так же, когда люди не страдают от голода, серьезными проблемами могут стать перепроизводство продуктов питания, бесцельность существования и расточительство. Развитие медицины – один из факторов, способствующих перенаселению, этой весьма серьезной угрозе, перед лицом которой стоит сейчас человечество. К старым принципам житейской мудрости, таким, например, как «копейка рубль бережет», – принципам, так долго служившим людям в прошлом, больше нельзя относиться как к бесспорным.
Как-то я присутствовал на обеде в кругу врачей. Непринужденно беседуя между собой и не боясь высказывать вещи необычные, они стали обсуждать возможности решительного наступления на болезнь, называемую дегенерацией человеческого организма, или попросту старостью. Они не рассматривали этот вопрос вне конкретных возможностей и средств, необходимых для такого наступления, но основное внимание спорящих сосредоточилось на его конечных результатах. Собеседники стремились заглянуть вперед, в тот, быть может, не такой уже далекий завтрашний день, когда момент неизбежной смерти можно будет отдалять, вероятно, в необозримое будущее, а сама смерть станет столь же случайной, как это бывает у гигантских секвой и, кажется, у некоторых рыб.
Я не утверждаю, что они были правы в своих предположениях (и я совершенно уверен, что они и не претендовали на что-либо большее, чем предположения), но имена ученых, поддерживающих эту гипотезу, были настолько авторитетны – среди них был даже нобелевский лауреат, – что я не мог себе позволить отнестись к их высказываниям пренебрежительно. И хотя гипотеза будущего сверхдолголетия человека на первый взгляд могла показаться чрезвычайно утешительной, ее осуществление было бы страшным несчастьем, и прежде всего для врачей. Ибо сразу становится ясным одно – человечество не смогло бы долго вынести бесконечного продления всех жизней, которые рождаются на Земле.
И дело не только в том, что часть населения, не способная поддерживать собственное существование, намного превзойдет числом ту часть населения, от которой ее существование зависит; беда и в том, что, пребывая в вечном неоплатном долгу перед пришельцами из прошлого, мы окажемся совершенно неподготовленными к решению тех проблем, которые поставит перед нами будущее.
Ситуация, при которой жизнь всех граждан может продолжаться сколь угодно долго, немыслима. Если же, однако, возможность бесконечного продления жизни осуществится, то решение положить предел чьей-либо жизни или хотя бы отказаться от продления ее станет делом врачебной морали.
Но как же тогда быть с престижем врачей, в которых мы привыкли видеть священнослужителей, борющихся со смертью, беззаветных слуг милосердия?
Я допускаю, что даже в наше время встречаются случаи, когда врачи считают своим долгом не принимать меры для продления жизни бесполезной, невыносимо мучительной. Не лучше ли отказаться от перевязывания пуповины новорожденному уроду и облегчить смерть старику, страдающему от неоперируемого рака и гибнущему от гипостатической пневмонии, этого «друга стариков», вместо того чтобы ценой нечеловеческих страданий еще немного продлить его жизнь. Чаще всего такие вещи делаются без шума и с должным соблюдением приличий, и только когда какой-нибудь невоздержанный на язык дурак выбалтывает врачебную тайну, она становится достоянием газет и судов, поднимающих шум о «насильственном умерщвлении».
Но что будет, если подобные решения станут не редким и непредвидимым исключением, а должны будут приниматься почти в каждом случае, связанном со смертельным исходом? Что будет, если каждый больной начнет относиться к врачу не только как к спасителю, но и как к своему возможному палачу? Сможет ли врач нести бремя доверенных ему сил добра и зла? Сможет ли человечество само выносить этот новый порядок вещей?
Относительно легко отстаивать добро и сокрушать зло, когда они четко отделены друг от друга разграничительными линиями и когда те, кто находится по ту сторону, – наши явные враги, а те, кто по эту сторону, – наши верные союзники. Но как быть, если в каждом случае мы должны спрашивать, где друг и где враг? Как же нам быть, если, помимо этого, мы еще передали решение важнейших вопросов в руки неумолимого чародея или, если угодно, неумолимой кибернетической машины, которой мы должны задавать вопросы правильно и, так сказать, наперед, еще не разобравшись полностью в существе того процесса, который вырабатывает ответы? Можно ли в этих условиях доверять обезьяньей лапе, у которой мы попросили двести фунтов стерлингов?
Нет, будущее оставляет мало надежд для тех, кто ожидает, что наши новые механические рабы создадут для нас мир, в котором мы будем освобождены от необходимости мыслить. Помочь они нам могут, но при условии, что наши честь и разум будут удовлетворять требованиям самой высокой морали.
Мир будущего потребует еще более суровой борьбы против ограниченности нашего разума, он не позволит нам возлежать на ложе, ожидая появления наших роботов-рабов.
VI
Одна из великих проблем, с которой мы неизбежно столкнемся в будущем, – это проблема взаимоотношения человека и машины, проблема правильного распределения функций между ними. На первый взгляд может показаться, что машина обладает рядом очевидных преимуществ. В самом деле, она работает быстрее и с большим единообразием или по крайней мере может обладать этими свойствами, если ее правильно построить. Цифровая вычислительная машина за один день может выполнить такой объем работы, с которым целой команде вычислителей не справиться и за год, притом работа будет выполнена с наименьшим количеством ошибок.
Вместе с тем человек обладает несомненными преимуществами. Не говоря уже о том, что любой разумный человек во взаимоотношениях с машиной считает первостепенными свои, человеческие цели, машина в сравнении с человеком далеко не так сложна, а сфера ее действий, взятых в их многообразии, гораздо меньше. Если объем нейрона серого вещества мозга мы примем равным 1/1000000 кубического миллиметра, а объем наименьшего из современных транзисторов – порядка одного кубического миллиметра, то такая оценка не будет слишком неблагоприятной с точки зрения преимуществ нейрона. Если белое вещество мозга считать эквивалентным схеме соединений вычислительной машины, а каждый нейрон рассматривать как функциональный аналог транзистора, то гипотетическая вычислительная машина, эквивалентная мозгу, разместилась бы в шаре около девяти метров диаметром. В действительности было бы невозможно построить вычислительную машину с плотностью монтажа, в какой-то мере сходной с относительной плотностью мозгового вещества, а любая вычислительная машина, по своим возможностям сравнимая с мозгом, имела бы размеры довольно большого административного здания, если не небоскреба[15]. Вряд ли можно считать, что мозг в сравнении с современными вычислительными машинами не имеет определенных преимуществ, связанных с его огромным функциональным диапазоном, несоизмеримо большим, чем можно было бы ожидать, учитывая его физические размеры.
Главное из этих преимуществ – по-видимому, способность мозга оперировать с нечетко очерченными понятиями. В таких случаях вычислительные машины, по крайней мере в настоящее время, почти не способны к самопрограммированию. Между тем наш мозг свободно воспринимает стихи, романы, картины, содержание которых любая вычислительная машина должна была бы отбросить, как нечто аморфное.
Отдайте же человеку – человеческое, а вычислительной машине – машинное. В этом и должна, по-видимому, заключаться разумная линия поведения при организации совместных действий людей и машин. Линия эта в равной мере далека и от устремлений машинопоклонников, и от воззрений тех, кто во всяком использовании механических помощников в умственной деятельности усматривает кощунство и принижение человека. В наше время мы остро нуждаемся в объективном изучении систем, включающих и биологические, и механические элементы. К оценке возможностей этих систем нельзя подходить предвзято, то есть с позиции механистического или антимеханистического толка. Я думаю, что такие исследования уже начались и что они позволят лучше понять проблемы автоматизации.
Одна из областей, в которых мы можем использовать и используем такие смешанные системы, – это создание протезов, устройств, которые заменяют конечности или поврежденные органы чувств. Деревянная нога – это просто механическая замена утраченной ноги из плоти и крови, а человек с деревянной ногой представляет собой систему, состоящую из механических и биологических элементов.
Пожалуй, классическая деревяшка вместо ноги не столь интересна, поскольку она заменяет утраченную конечность самым примитивным способом; ненамного больший интерес представляет и деревянный протез, имеющий форму ноги. Впрочем, немалая работа над созданием искусственных конечностей ведется в России, США и в других странах группой ученых, к которой принадлежу и я. Эта работа по своим принципам намного интересней, так как она действительно использует кибернетические идеи.
Представим себе, что человек лишился кисти руки. Он лишился некоторых мышц, которые позволяли ему в основном сжимать и разжимать пальцы, однако большая часть мышц, обычно двигающих рукой и пальцами, сохранилась в культе локтевой части руки. При соответствующем воздействии эти мышцы, хотя они и не могут привести в движение кисть или пальцы, которых нет, вызывают определенные электрические эффекты, называемые потенциалами действия. Эти потенциалы могут восприниматься соответствующими электродами, а затем усиливаться и комбинироваться транзисторными схемами. Такие потенциалы можно использовать для управления движениями искусственной руки при помощи миниатюрных электромоторов, которые питаются от батарей или аккумуляторов, а сигналы управления получают от транзисторных усилителей. Источником управляющих сигналов служит обычно центральная часть неповрежденной нервной сети, которая и должна быть использована в таких случаях.
Подобные искусственные руки уже были изготовлены в России, и они даже позволили некоторым инвалидам вернуться к продуктивному труду. Это стало возможно благодаря тому, что некоторые нервные сигналы, которые вызывали эффективную мышечную реакцию до ампутации, остаются эффективными и при управлении искусственной рукой при помощи миниатюрного электромотора. Поэтому изучение возможностей использования таких искусственных рук стало гораздо более легким и естественным делом.
Однако искусственная рука в подобном виде не может осязать предметы, тогда как естественная рука служит в такой же мере органом осязания, как и движения. Но позвольте, почему же искусственная рука не может осязать? Не представляет труда вмонтировать датчик давления в пальцы искусственной руки так, чтобы электрические импульсы передавались от них в соответствующую цепь. Последняя в свою очередь заставляет работать устройство, воздействующее на живую ткань, например на кожу культи. Такими устройствами могут быть, например, вибраторы. Этим методом мы можем вызвать искусственное осязательное ощущение и научиться заменять им аналогичные естественные восприятия. Более того, в поврежденных мышцах имеются чувствительные (сенсорные) кинестатические элементы, которые могут быть также использованы для подобных целей.
Поделиться книгой: