3

Здесь напрашивается следующее замечание. Deep Blue, некоторым образом, был модулем (субагрегатом), созданным технически, как бы вынутым из мозга выдающегося шахматиста-человека. Это, конечно, упрощение, ибо компьютер обладал вычислительной мощностью (200 млн. операций в секунду), коей ни один человек обладать не может, но людям недостающую производительность заменяет интуиция — насколько таинственная, настолько и обманчивая. (И чрезмерно растягивая отступление, в скобках добавлю, что, по мнению 99% самых выдающихся математиков, так называемая великая теорема Ферма не была доказана французским ученым; иначе говоря, интуиция подвела его, когда он написал на полях книги, что нашел доказательство, но не может его изложить за недостатком места.) Короче говоря, интуиция не обязательно бывает точной, и мы по-прежнему не знаем, «как она это делает», так как она действует вне сознания и ведет себя как отличник, который подсказывает правильные ответы товарищу, отвечающему экзаменатору: товарищ повторяет, но то, что он повторяет, ему не обязательно понимать… Разумный же ответ он сам, своей «разумностью», должен понимать. Хотя Deep Blue и весил около полутора тонн, функционально его можно рассматривать как ОДИН модуль — а мозг человека состоит из огромного количества модулей, большинство которых nota bene [Обратите внимание (лат.)] вообще функционально не занято чем-либо, что не происходит в самом организме (в теле) и за его пределами. Большинство модулей мозга служит телу, происходящим в нем процессам. Но только «меньшинство» может активно проявлять «экстерриториальную разумность». Тогда, например, все «экспертные программы», от геологических до медицинских, — это другие модули, а загвоздка в том, что эти вместилища выборочно сформированной информации, по существу актуальной и в этом смысле оптимальной, являются как бы дистиллятами современного состояния наших лучших знаний с одним, но чрезвычайно важным недостатком: они — модули «для себя» и для нашего использования (когда «призываются» для этого), но они «не понимают друг друга», и пока мы не знаем, что сделать, дабы соединить их более или менее аналогично тому, как это происходит в нашем мозгу. Составлять модули мы уже научились, но дать им способность самопроизвольно влиять на себя — еще не умеем, и в этом главная проблема Artificial Intelligence [Искусственный интеллект (англ.)]. Люди, увлеченные AI, как Марвин Мински (Marvin Minsky), по-прежнему уверены, что можно сконструировать искусственный интеллект, — так же как и философы, например, Даниэл Деннет (Daniel Dennet), который, пожалуй, раз сто объяснил («выяснил»), на чем основывается сознание, и «окончательно сорвал маску и решил» загадку сознания. Такие люди живут с ощущением, что от работающего Artificial Intelligence нас отделяет шаг или пара шагов. Однако я опасаюсь, что это не так просто. То, что целостную работу мозга составляет совместная деятельность отдельных модулей, мы сегодня знаем наверняка (если мы вообще что-то знаем наверняка).

4

Вопрос, который следует поставить, звучит так: ЧТО еще мы знаем, а чего не знаем? Так, например, известно, что мы видим то, что является видимым, но это в значительной мере — результат обучения и тренировки. Слепые от рождения, которым посчастливилось обрести зрение, «видят» хаос движущихся цветных пятен и ничего больше. Но и люди, которые никогда никаких изображений не видели, рассматривая самые лучшие фотографии, не в состоянии автоматически преобразовать в мозгу плоскую картинку в трехмерную. А, например, для собаки самый отчетливый и красочный образ на экране телевизора ничего не значит. То есть «обработка» данных есть информационно и функционально особый процесс: уже появляются компьютерные системы, которым можно диктовать на том языке, на который система запрограммирована, и после подготовки она даже может научиться писать или выстукивать произносимый текст как машинистка, что является очень хорошим достижением конструкторов, но и такая система «ничего не понимает». В последнее время появились (параллельно с шахматными матчами компьютеров и людей) очередные попытки разыграть «тест Тьюринга», то есть чтобы компьютер имитировал в разговоре обычного человека. Окончились они жалким поражением: компьютеры как ничего не понимали пятьдесят лет назад, так по-прежнему ничего не понимают.

5

В определенном, но только в определенном, узком смысле, связано это с тем, что а) получившие зрение слепые от рождения (как было сказано выше) ничего не видят и впоследствии, то есть не способны автоматически и внесознательно совершить мозговые операции, свойственные здоровым людям и дающие возможность «видеть»; б) развивающиеся без контактов с нормальной человеческой средой дети где-то после 7-9 лет не в состоянии научиться разговору: они остаются почти немыми и не понимают того, что им говорят; и так далее. Значительная часть мозговых модулей, связанная с жизненными процессами (функциями) организма, в выше названных контактах с окружением не нуждается (мочеиспусканию и испражнению не надо учиться: мы учимся только обстоятельствам и способам, какими это следует делать, потому что в гостиной никто не спускает штаны, чтобы облегчиться). Однако же без обучения, без тренировки мозг не в состоянии достичь нормальной средней способности. Тогда было бы странным ожидать возникновения аналогичных или, по крайней мере, подобных способностей в результате соответствующего программирования компьютера, хотя бы он и весил сто тонн.

6

Повреждение мозгового модуля, отвечающего за цветовое зрение, ведет к тому, что человек сможет по-прежнему прекрасно видеть, но лишь как в черно-белом кино. Это свидетельствует о «наложении» друг на друга работы совместно действующих систем, относящихся к «оптической зоне» коры мозга. И что еще хуже — бывает слепота коры, которая является осознанно подтверждаемой неспособностью видеть, и слепота коры, сопровождаемая «подкорковым зрением»: человек говорит, что ничего не видит, но брошенный ему мяч хватает на лету, — это объясняется тем, что в мозгу существует целая восходящая иерархия, и такой человек одновременно «видит» и «не видит», так как «в нем» видит низшая система, о чем он сам не знает в том смысле, в каком мы не знаем о функционировании почек, несмотря на то что они 24 часа в сутки неустанно работают.

7

Повсеместно известно такое явление, как рассеянность, которое обоснованно или необоснованно приписывается не только пожилым людям, но и ученым, особенно мыслителям, погруженным в медитацию. Такой человек может совершать различные действия автоматически, то есть бессознательно. Они могут, но не должны быть целенаправленными или бессмысленными (например, я кладу грязную рубашку в морозилку вместо стиральной машины). Осознанные post factum, они часто вызывают смех. Рассеянным может быть только существо, наделенное интеллектом! Нет «рассеянных» мух или пчел. Это вытекает из высшей сложности интеллектуальных способностей, но, с другой стороны, нет глупых муравьев или тараканов, а от глупых людей в глазах рябит. Остается надежда, что прежде чем создать искусственный интеллект, нам удастся сконструировать систему, наделенную значительной глупостью, но в этом я не совсем уверен… Nota bene как очередное отступление от темы, добавлю, что считаю себя достаточно умным человеком, не обремененным талантом шахматиста, но правила этой игры я, конечно, знаю. «Рассеянность» просто основана на том, что определенное, обычно известное и часто совершаемое действие выполняется автоматически, бессознательно, и, кроме того, его эффективное, то есть реальное исполнение НЕ заносится как свершившийся факт ни во временную, ни в постоянную память. Есть доказательства, что и такое действие может оставить след и быть зафиксировано при особом усилии памяти и/или под влиянием «помощи», например, гипнотизера, при этом человек осознает, что действие было совершено. (Гипнотизер nota bene совсем не обязателен: может быть, достаточно свидетельства постороннего наблюдателя.)

8

С виду все вышеизложенное выглядит болтовней, потому что, по существу, указывает, насколько далеко отстоит разум от интеллекта, но сегодня их и машинное моделирование по-прежнему разделяет пропасть. Я лично считаю, что это переходное состояние. Невозможно то, что запрещают точные науки. Они, однако, искусственного разума не запрещают.

9

Мне кажется, — но я не в состоянии подкрепить свои слова никаким веским аргументом или хотя бы его тенью, — что в конце концов будет возможна реализация ИСКУССТВЕННОГО ИНТЕЛЛЕКТА, а не ИСКУССТВЕННОГО РАЗУМА. Я думаю так, потому что интеллект мне кажется более БЕЗЛИЧНЫМ, то есть лишенным признаков индивидуальности, чем РАЗУМ. Едва ли не первым математиком, который сумел результативно и соответствующим образом использовать компьютер в творческой работе, был Станислав Улам (Stanisіaw Ulam). (Не знаю, была ли издана на польском языке его книга на эту тему: я читал ее по-русски.) Так вот, эмоциональной жизни компьютер лишен полностью, но работе математика это не мешает. Добавлю, что выдающийся немецкий психолог Дитрих Дшрнер (Dietrich Dљrner) больше года тому назад описывал свою компьютерную программу, которая должна была быть эмоциосозидательной, «эффективно аффективной», но его выводы не убедили меня, и что еще хуже — нигде в научной прессе я не нашел ни слова о таком достижении. Вещью известной и не исключительной является то, что самые разнообразные, то есть совершаемые в далеких друг от друга областях творческой мысли достижения, были некоторым образом «подсказаны» сознанию внесознанием, которое можно было бы отождествлять с результатами действия интуиции. Не будучи ученым, в своей писательской области могу сказать только следующее: некоторые мои романы не были в их целостной фабуле написаны мной в том смысле, чтобы я что-то планировал, осмыслял, схематизировал или хотя бы предвидел, что, собственно, получится. Тогда откуда «ЭТО» взялось? Ответить напрямую, с полной уверенностью, что было так и так, я не могу, поскольку сам не знаю, и здесь я отдан исключительно домыслам (предположениям), что то, что «писалось», вытекало извне сознания и, конечно же, переходило в поле сознания, потому что я писал не в гипнотическом состоянии, но «совершенно обычно» видя, что пишу, и вместе с тем не имея понятия, «что будет», «что произойдет», то есть что я напишу еще. И таким образом (только весьма относительным), можно признать сознание главенствующим в умственном труде. Nota bene компьютер в ЭТОМ вопросе не отличается от работающего мозга ТАК, как prima facie [На первый взгляд (лат.)] могло бы показаться, потому что и он, выполняя приказы (команды) программы, не сумел бы «заранее» напечатать, какой будет финал работы: «что из этой программы» (моделирующей, например) получится. Таким образом, между ним и нами появляются функциональные «точки соприкосновения», и то, что именно так бывает, вселяет в меня некоторый оптимизм (касательно AI) относительно будущего. Правда, может оказаться, что до «искусственно разума» дорога еще длинная. Что опять-таки связано с моим замечанием, что интеллект интеллектом, а людей глупых по статистике больше, чем интеллектуальных, а разумных — совсем немного…

Инфотерроризм

Эссе написано в июне 1997 г.

1

В последнем номере журнала «Foreign Affairs» за прошлый год опубликована статья Уолтера Лаквера (Walter Laquer) «Терроризм постмодерна». Автор предварил представление этого новейшего вида терроризма кратким перечислением его исторических разновидностей. Например, он писал об аcсесcинах 1, чьей задачей было уничтожение крестоносцев. В Польше XIX века во времена восстаний были «стилетники». Мне не важна здесь мотивация поступков террористов. Достаточно типичным является деление террористов на тех, кто преследует скорее политические, чем разрушительные цели, и на «настоящих» террористов-профессионалов. К последним в наше время относятся Фракция Красной Армии, Sinn Fein, баскская ЕТА, арабский Hamas и множество других групп, не столь известных или почти совсем «угасших», как итальянские или французские («Prima Linea», «Action Directe»). Цели группировок, менее или более (Фракция Красной Армии) связно сформулированные, в основном недостижимы путем покушений на убийства, в наше время обычно направленные на «кого попало», то есть на каких-нибудь прохожих, пассажиров метро (в Японии), поезда или автобуса, а не (как в царские времена) на важных политических персон (включая и самого царя). Чисто политические мотивы, имеющие место в таких террористических движениях, как Sinn Fein или Hamas, достаточно легко «отстают» от смертоносной практики, когда речь идет о добывании средств для борьбы (ограбление банков, хищение оружия, например, а также выброс на рынок наркотиков — такие операции позволяют получить много денег). При этом факторы этической природы на всех «фронтах» движения сильно и противоречиво извращаются: если НЕТ НИКАКИХ ОГРАНИЧЕНИЙ, то нет и поводов, по которым движение, имеющее в зародыше цель достичь какого-то «изменения к лучшему», привести к «победе более совершенного строя, чем существующий сейчас», должно отказываться от похищений, шантажа, нарушения обещаний и клятв, ибо если «все средства, ведущие к хорошим целям, хороши», ничто не может удержать от таких действий, которые повсеместно считаются преступными. В общем-то, ни Лаквер, ни я здесь не собираемся касаться «этической» стороны терроризма, хотя из других источников известно, что практически все воюющие стороны злоупотребляют термином «терроризм». Немцы называли аковцев 2 бандитами, но для поляка тождественность аковца герою подпольного сопротивления кажется очевидной, а приравнивание бандиту просто шокирует, как клевета.

2

В любом случае, известно и понятно, что терроризм во все времена использует такие средства, которые имеются в распоряжении для нетеррористических целей. Поэтому в игре участвуют бомбы, взрывные устройства, управляемые на расстоянии (по радио) или с часовым механизмом (замедленного действия), а также террористы-фанатики, готовые умирать со своим взрывоопасным грузом, как японские камикадзе.

3

Страсть к разрушению и уничтожению может приводить к результатам, противоречащим изначальным причинам действий. Убийство врачей и медсестер, проводящих аборты, — это не единственный, но типичный пример внутренней противоречивости, когда убивают, чтобы противостоять убийству. Однако в этих заметках мне бы хотелось обратиться к возникающему только сейчас виду терроризма, который не является «силовым», так как его главным оружием считается информация в ее технологически уже существующем и поэтому доступном виде. Конкретное действие, поле для которого представляют сети связи, вирусы, «многоуровневые программы» компьютеров, сами компьютеры, а также различные виды информации, способно пользу от передачи и преобразования информации превратить в мусор. О так называемых «логических бомбах» (logic bomb) как кумулятивных информационных снарядах (а скорее, о взрывообразно уничтожающих информацию) уже говорится, но об их применении — пока молчат. Хотя известно, что не только частные банки, но и FED, то есть Федеральный резервный банк (Federal Reserve) Соединенных Штатов Америки, не спешат с оглашением каких-либо потерь, связанных с операциями хакеров-террористов, проникающих через «защитные экраны» и «кодовые фильтры», потому что публикации о подобных грабежах могли бы слишком обеспокоить людей, по-прежнему верящих в банковских цепных псов.

4

Здесь уже границы между «просто терроризмом», мотивированным, поддерживаемым политически или идеологически, и терроризмом, который может приобретать характер «криптомилитаристский», «скрытно-военный» и межгосударственный, постепенно стираются. Сюда же относятся и различные пограничные области деятельности. Известно, что некоторые государства направляли большое количество качественно сделанных фальшивых бумажных денег в другие государства с намерением вызвать инфляцию и экономический кризис. Это, правда, происходило и происходит помимо сетей, но и это является особой формой информационной фальсификации, потому что банкнота тоже представляет собой определенный тип информации: обладающей покупательской силой.

5

К теме инфотерроризма относится и разрастающийся шпионаж. Здесь речь идет о взламывании и расшифровке кодов, которыми могут пользоваться третьи государства в своем общении: эту сферу тайной деятельности мы уже прошли, хорошим примером здесь является немецкая Enigma. Кроме того, у тайных работ появляются шансы на новые результаты, которые могут нанести предполагаемому противнику или хотя бы промышленному конкуренту самые большие потери. Если информационному управлению должен быть подвергнут коллектив изобретателей, неважно чего — ракет или автомобилей, или танков и оборудования к ним, самолетов или оружия, даже компьютеров, то негласное и тайное вторжение в его «информационный мозг», отвечающий за проектирование и производство, желательно вести по всем направлениям. Речь может идти или о перехвате рабочих данных, или об изменениях, которые трудно обнаружить и проверить таким образом, чтобы в готовом продукте сразу была видна «ахиллесова пята», место преднамеренного изменения, которое может дать о себе знать сразу или даже спустя годы по специально поданному сигналу.

Также возможен перехват информации, например ее просматривание без внесения каких-либо фальсификаций, только чтобы узнать, чем (как) управляет вторая (третья) сторона. Кроме того, возможно такое изменение информации, что адресат получит ее фальсифицированной. Между прочим, сама эта концепция не нова. Еще в пятидесятые годы «Newsweek» опубликовал фотографию карты СССР с наложенной на нее красными линиями фотометрической сеткой; из фото было видно, что, пытаясь (довольно наивно) обмануть американцев, желая свести на нет их методы наводки на большие, стратегически важные советские объекты, географы СССР создали карту всей страны с передвинутыми по сравнению с реальными координатами, горными массивами и городами…

Особая область возможных информационных вторжений располагается уже за границами земного шара, над атмосферой, там, где обращаются орбитальные корабли разного калибра. Зная соответствующие коды, противник может этими кораблями маневрировать по своему усмотрению и даже устроить катастрофу космического корабля или его падение на Землю в нужном месте.

Чем больше — говоря в общем — увеличивается область информационных атак дальнего радиуса действия и чем больше эти атаки специализируются, тем больше вреда можно нанести, профессионально вторгаясь в поток информационных и управляющих сигналов. Поэтому умело проводимой хирургической операции на другом полушарии Земли можно придать характер убийства (смертоносный). Можно также запускать ракеты, если их старт зависит исключительно от системы кодов, которыми управляют на расстоянии, но не имеющих контроля и опеки со стороны человека. Можно действовать еще очень многими способами, приносящими вред, но я не хочу, однако, далее продолжать этот перечень, тем более что уже появляются книги, имеющие вид «учебников информационного уничтожения». Правда, они не такие бестселлеры, каковыми оказались несколько книг, посвященных науке самоубийства, но и так хватает плохого на Земле. Как известно — это утверждение настолько же общее, насколько и важное, — не существует кода или шифра, способного длительное время результативно противостоять попыткам взлома. Пожалуй, очевидно, что террорист или террористическая организация всегда располагают возможностями, как правило, меньшими, то есть более «слабыми», по сравнению с возможностями, которые может мобилизовать государство. Но также известно, что ряд правительств материально, то есть финансово и технически (в том числе и оружием) поддерживает тех террористов, которые действуют в военно-политических интересах этих государств, то есть мы имеем дело с поддержкой государством некоторых террористических начинаний. (Во время Второй мировой войны Германия печатала фальшивые английские фунты хорошего качества, которые, предположительно, в конце войны были затоплены в одном из швейцарских озер).

6

Вышеизложенные замечания напрямую не следуют из статьи У. Лаквера. Однако стоит процитировать выводы, которыми он закончил свою статью: «Реакция государств и обществ интересует террористов меньше, чем обычных преступников и организованную преступность, чем „взбунтовавшихся“ работников больших корпораций и, конечно, шпионов и вражеские правительства. „Электронные воры“, будь то занимающиеся аферами с кредитными картами или промышленным шпионажем, являются частью системы: ее уничтожение отняло бы у них доходы… (Добавлю: они — как паразиты, питающиеся кровью хозяина. — С. Лем.) У политически мотивированных террористов (в основном сепаратистов, стремящихся создать собственное государство) цели ограничены… Однако террористические группы, находящиеся на грани поражения или увлекающиеся апокалиптическими картинами, могут и не колеблясь применить деструктивные средства, имеющиеся в их распоряжении.

Все это выводит терроризм за известные до сих пор границы. Для новой реальности должны быть созданы новые определения и новые названия, а разведывательные службы и политики должны будут научиться различать основные типы террористических мотивов, методов и целей… Какая-либо из успешных акций нового вида терроризма может принести больше жертв, больше материальных потерь и вызвать больше паники, чем когда-либо мир испытал за свою историю».

Последний абзац с небольшими сокращениями представлен потому, что я уже наслушался замечаний, что якобы то, что я публикую, отличается особым «черновидением» и направленным в будущее пессимизмом. Поэтому я захотел дать слово американскому политологу, дабы избежать очередного обвинения в мрачности, которая будто бы является моей персональной чертой.

Во врезке приведены фрагменты статьи, опубликованной в польском еженедельнике «Przekroj», №21/2001

Война хакеров

…Специалисты говорят, что технологически более слабая сторона может прибегнуть к так называемой асимметричной стратегии. Она основана на нанесении удара по противнику там, где он более всего уязвим и где его легче ранить. Точнее, говорят и пишут уже о так называемой информационной войне. Нападения такого рода осуществляла в небольшом масштабе палестинская сторона, пытаясь задушить израильские серверы вирусным мусором. Асимметричный информационный удар может привести к фатальным для жертвы результатам, тем более опасным, чем выше был уровень компьютеризации управления, а также уровень интернетоподобной связи. Спутниковая космическая разведка, деятельность крупных промышленных комплексов, распределение электрических мощностей на территории США, транспорт, судоходство, а также гражданская промышленность легче всего могут стать жертвами информационных ударов…

Первые роли в ведении информационной войны должны играть специально вышколенные стратегические хакеры. На страницах американского «Foreign Affairs» можно найти статьи, призывающие к созданию негласного информационного фронта в Штатах. Упущения в этой области, вызванные отсутствием координации действий, средств и специальных знаний, могут привести, как предостерегают эксперты, к опасным для Америки результатам. Впрочем, невозможно учесть все методы действия на этом новом военном фронте, поскольку выявлено еще не все, что осуществляется в реальности. Трудно сказать, будет ли идти речь о новой бескровной борьбе. Во всяком случае, молох американской промышленности можно относительно легко парализовать. Согласно правилам асимметричной стратегии, информационные удары должны быть нацелены туда, где они могут принести наибольшие разрушения. Следует добавить, что все средства, которые используются асимметричной стратегией, являются исключительно дешевыми, зато эффективная защита от вредных воздействий такого рода — задача трудоемкая, технически сложная и очень дорогостоящая…

Можно допустить, однако, что нависшая над миром опасность информационной войны не превысит угрозу термоядерной войны, нереальной сейчас, но которая в 50-х годах прошедшего столетия могла уничтожить все человечество. Правда, между этими опасностями существует большая разница — она состоит в том, что нельзя «для пробы» сбросить на противника водородную бомбу. Зато первые информационные атаки могут только создавать видимость ходов, они могут делать противнику «шах», а не наносить удары, которым уже нельзя противостоять. Сейчас мы еще не знаем, каким образом великие технические достижения, а также интеллектуальный потенциал будут вовлечены в этот новый вид военных действий. По крайней мере, ясно одно: глобальный обмен информацией, так же как до сих пор любая новая технология, открывает нам свое новое лицо под знаком Марса.

Страшный урок

Текст представляет собой окончание статьи из еженедельника «Tygodnik powszechny», №38 от 23.09.2001 г.

…Следует ли ожидать дальнейших, настолько же срежиссированных террористических актов? Мне кажется, невозможно провести серию покушений такого уровня и масштаба, если они осуществляются организацией, пытающейся скрыть свое существование. Посылая кому-нибудь зашифрованные сообщения, невзламываемый шифр можно применить только один раз. Повторение операции было бы равносильно однозначному раскрытию ее центра управления. Кроме того, попасть непрошенному террористу на борт самолета в Штатах уже будет непросто, а сделать это в нескольких аэропортах одновременно — уже невозможно. До сих пор только израильские авиалинии применяли чрезвычайные меры безопасности, пассажиров проверяли до печени и селезенки, сейчас и в Соединенных Штатах после открытия воздушного пространства обещают ввести подобные же строгости.

Не думаю, чтобы это было началом чего-то большего, это скорее кульминация усилий, направленных на демифологизацию великодержавности единой и могучей американской империи. Цель была достигнута: ударили в самое сердце Америки, до чего раньше никогда дело не доходило, ибо даже Пирл-Харбор находился на далекой периферии. Путин официально посочувствовал американцам, но думаю, что в Кремле тихонько сплясали казачок.

Буш хотел вернуться к доктрине Монро, но не получилось. По-настоящему хороших знатоков внешней политики в его окружении нет; Чейни, возможно, лучший, но у него проблемы со здоровьем, Пауэлл — человек рассудительный, но перевес — у менее ответственной Райс. Интеллекта недостаточно — необходим еще разум. Небезопасно отрываться от земли, мечтая о спутниках и лазерах, когда смертельная опасность может скрываться на значительно более низком этаже. По-прежнему слышны голоса: создаем антиракетный щит. Глупцов не нужно сеять, они сами прорастают. Впрочем, американцы вообще не рассматривали возможность атак, осуществляемых самоубийцами. При этом следует честно сказать, что не каждое государство сможет послать в бой самоубийц. Достаточно сильным должен быть идейный или религиозный фанатизм: прямо в рай!

Некоторые пишут, что определенная информация о готовящемся уже несколько недель большом террористическом акте была известна спецслужбам, но не попала на высший уровень. Правда ли это — не знаю, но так или иначе террористический акт — это страшный урок, который показывает, что администрации Буша, уставившейся на небо, где собираются разместить антиракетный щит, нужно скорее спуститься на землю.

Естественный интеллект

Эссе написано в июле 1997 г.

1

У нас есть Интернет и другие сети связи с глобальным радиусом действия. Имеются сетевые «узлы» — компьютеры новейшего поколения, такие как Intel Teraflop, выполняющие триллион (или по американской терминологии — биллион) вычислительных операций в секунду. Чемпион мира по шахматам был и будет бит. Это не вызывает сомнения. А так как из компьютера не удалось высечь и следа интеллекта (то есть создать интеллектуальные программы), специалисты пытаются каким-то образом восполнить этот существенный пробел. Появляются различные подсистемы для классификации данных, для их распознавания, по крайней мере по синтаксису, раз уж широта значений (n-размерная семантика) чаще всего остается недоступной; у нас есть серверы, провайдеры, браузеры, делающие возможным серфинг в любой сети, есть даже блокираторы, которые должны сделать недоступным для несовершеннолетних пользователей то, что является неприличным или развратным (или по местным нормам считается таковым). Конгресс США принял Indecency Act, закон, наказывающий за распространение в Сети всякого рода непристойностей, а точнее говоря, порнографии, но Верховный Суд признал этот закон недопустимым, так как он противоречит первой поправке (First Amendment) к Конституции США, которая гарантирует свободу слова и изображения. Я на стороне этой поправки, хотя очень хорошо отдаю себе отчет в ее небезопасных последствиях: если все можно, то педофилические действия и изображения не должны запрещаться, но молодым умам они могут нанести значительный вред. Вместе с тем я разделяю мнение американского публициста, который, будучи рассержен назойливой агрессивностью антипорнографистов, написал, что еще ни один типично порнографический текст или изображение никого не привели к смерти, никого не склонили к убийству, вместе с тем к актам насилия и к преступлениям достаточно определенно склоняет до 90% мирового телевещания. Благодаря телевидению повсеместно известно, каким образом можно похищать людей (лучше всего детей, женщин), связывать их, держать в заключении, использовать к собственной выгоде, бить, истязать, подвергать страшному воздействию огня, мора, воды, ставить им ловушки, демонстрировать в зрелищах; известно, что преступниками и похитителями бывают и судьи, и полицейские, и шерифы, что красивых и с виду невинных девушек можно научить пользоваться оружием, наручниками, пуленепробиваемыми жилетами: все это вместе взятое я также считаю настоящей порнографией, и на нее нет никакого закона и никакой управы. Но об этом я упомянул «только попутно».

2

В 60-е годы, когда молодая кибернетика считалась «буржуазной лженаукой», я бывал в советской Москве и беседовал с самыми уважаемыми учеными, которые тогда были вынуждены тайно заниматься кибернетикой. Запрет знания не делал меня несчастным, я понимал, что если оно (знание) будет постоянно запрещаться в Советах, это ускорит их глобальное поражение не только в области гонки вооружений; из астронавтики бы у русских тоже ничего не вышло. В то время и там, где кибернетика могла свободно развиваться (например, в США или во Франции), и там, где она считалась «подрывной деятельностью», господствовало убеждение, что ее развитие в скором времени ДОЛЖНО привести к созданию быстро мыслящих конструкций, то есть, говоря кратко, к AI (сокращение от Artificial Intelligence). Уже тогда появлялись скептики, братья Дрейфусы (Dreyfus), например, и даже те, кто немного позже осмеливался сомневаться в якобы безусловной правильности теста Тьюринга, то есть тезиса, что если собеседник не может определить, разговаривает ли он с человеком или с машиной, это доказывает, что машина ведет себя так же умно, как и человек. Сейчас мы такой уверенности уже не испытываем, потому что машины, с которой удалось бы поговорить на различные темы, как не было, так и нет.

3

В этой удивительной ситуации, с точки зрения надежды, господствовавшей почти полвека назад, думаю, следует повнимательнее приглядеться к области явлений, из которой искусственный интеллект должен был бы per analogiam [По аналогии (лат.)] быть выведен. Для большей точности я разделю свои рассуждения на три части. А именно, primum comparationis [Первое сравнение (лат.), далее по тексту второе и третье сравнения] будет оригинал для возможного копирования, то есть МОЗГ ЧЕЛОВЕКА. Sekundum comparationis будут все центральные нервные системы животных, которые этот первый мозг эволюционно определили таким образом, что его конструкция (по крайней мере, частично) основана на их строительных принципах (я не буду касаться генной автоинженерии, поскольку для того, чтобы провести такое сравнение в пределах доступного нам сегодня и по-прежнему убогого, то есть неполного, знания, потребовался бы толстый том). И наконец, tertium comparationis будет просто «дерево жизни» Линнея (Linnaeus), включая самые истоки, то есть возникновение способных к обучению репликаторов типа ДНК. Весь мой упрощенный по необходимости вывод берется оттуда, что наивные инженеры, например Эшби (Ashby) или Мак-Кей (McKay) (Джон фон Нейманн [John von Neumann] был уже тогда более скептичен), считали, что бытие, именуемое интеллектом, «само собой разумеется», и принимали концепцию Алана Тьюринга (Alan Turing) как бесспорную: тот, кого нельзя в разговоре отличить от человека, eo ipso [Вследствии этого, в силу этого (лат.)] равен человеку. Сомневаться в этом утверждении им даже в голову не приходило.

4

Последующие полвека, при полном отсутствии искусственного интеллекта (или хотя бы первых зачатков его), породили огромную библиотеку из работ и книг по AI, которая постоянно пополняется. Некоторые из появившихся в Польше работ на эту тему мне довелось читать в нынешнем году. Их можно разделить на «инженерские», то есть «здравомыслящие», и на уходящие к противоположному полюсу «глубинные герменевтико-когнитивистские» работы. Здесь можно блуждать и углубляться в виртуальные бесконечности языка, в его созидательные возможности или перескакивать в математику, то есть к конструктивистской формализации, где компьютеры чувствуют себя не худшим образом, поскольку «обычная диалоговая семантика» все более отделяема от математики. Тем временем отдельно и как-то параллельно (хотя в этой параллельности можно и даже чуть ли не следует сомневаться) развивались новые исследования мозга, о котором мы уже знаем, что все больше его не знаем, несмотря на успешное исследование отдельных центров и роли отдельных участков: серого вещества, коркового, а также размещенных в мозгу на разной глубине ядер и центров. Так возникают менее или более основанные на фактическом материале (гистологически-невральной препараторике) или на материале PET [Позитронно-эмиссионная томография], электрической, биохимической энцефаллографии и т. п., а иногда и на гипотезотворческом воображении исследователей различные концепции, которые должны объяснить интегрально, как функционирует живой мозг, как в нем появляется ум и венец процесса — индивидуальное сознание. Здесь я уже и сам начинаю плавать в метафорах, потому что как не было почти ничего точного, то есть ОКОНЧАТЕЛЬНО известного нам, так и нет до сих пор. Почему?

5

Ответ, даваемый по сути, эмпирический или, по крайней мере, претендующий на эмпиричность, выглядит следующим образом. Мозг возник и эволюционировал у различных видов животных благодаря работе («игре») генов, вызванной влиянием различных обстоятельств окружения: климатического, гравитационного и т. д. и т. п. Никто разумный и ничто разумно ориентированное ему не помогало: был отбор, селекция, мутации, а также эпигенетические влияния, но все это вместе взятое никакому, даже самому скромному «пониманию», то есть ВОСПРИЯТИЮ, эволюционирующими субъектами не подвергалось. Иначе говоря, все функции формировались по направлению к функциональному оптимуму, замкнутому посредством так называемых СОПРЯЖЕННОСТЕЙ (непреодолимых ограничений, определяемых граничными и исходными условиями), который должен был быть достигнут для того, чтобы отдельная система могла размножиться, произвести потомство (если она была не однополая, то, разумеется, не самостоятельно), и чтобы она до этого дошла живой, то есть жизнеспособность является обязательным условием оптимизации, потому что мертвые системы не способны размножаться. Во всей этой двойной работе строительнице и конструкторше организмов скорее всего было «все равно», смогут ли они осуществить САМООПИСАНИЕ. Надо уметь, например, двигать руками, плавниками или крыльями, однако знать о том, как это делает каждый человек, птица или рыба, ей (ему) с «эволюционной точки зрения» абсолютно не нужно.

В результате мы не имеем ни малейшего понятия о том, что мы делаем, когда думаем, и как получается, что мы обладаем сознанием и являемся носителями «естественного» интеллекта, по-прежнему неточно измеряемого с помощью IQ - показателя интеллекта, который подчиняется распределению Гаусса. Интеллект животных (мы принадлежим к ним, хотя не каждому это нравится) можно распознать по тому, что он неодинаков у разных видов: есть мудрецы, есть «середняки» и есть глупцы, но тщетно искать интеллект, например, у мух, потому что у насекомых недостаточность инстинкта, программирующего поведение, сразу обрекает особь на смерть.

У людей все значительно сложнее, но хотя мы и познаем собственное строение и собственные функции методом обдумывания, фальсификации и верификации (всегда неопределенной) конъектур (предположений), то есть все более дерзких гипотез, мы по-прежнему не знаем, как мы это делаем «головой». О том, что мы это делали автоматически, безотчетно, но четко (а иногда и с ошибками) во множестве житейских ситуаций, мы убеждаемся только тогда, когда процессуальное течение таких действий под старость начинает нас подводить, когда некоторые движения невозможно совершить легко и «бездумно», когда все больше и больше переживаний, названий и ситуаций забывается и становится невозможным их вспомнить только внутренним желанием, — лишь тогда мы начинаем замечать, что сознание, пока оно еще полностью не помутится, возникает и действует благодаря бесконечным, совсем не известным нам, ибо НЕДОСТУПНЫМ В ПОЛНОЙ МЕРЕ, невральным механизмам, таким, которые поддерживают его, создают, двигают им, основывают и питают память поступающей информацией, которые могут направлять человека к тому, что с ним, его близкими, его социальной группой и даже со всем человечеством происходило, происходит и будет происходить. Но размеры (четкость) всех этих умений заданы нам строением мозга, и так не бывает, что если кто-то захотел быть поэтом или златоустым оратором, или харизматичным политиком, то он им и будет. Это не зависит ни исключительно, ни прежде всего от желаний личности. Подобно тому, как и женщина, желая быть красивой, к сожалению, не похорошеет только от одного желания.

6

Учитывая сказанное, я склонен заменить в tertiumcomparationis «древо жизни» на «ДРЕВО НАШИХ ТЕХНОЛОГИЙ». Это дерево всегда развивалось таким образом, что сначала создавались образцы. После них шли первые КОНКРЕТНЫЕ ПОПЫТКИ, и только потом появлялась фаза таких усовершенствований «продукта», где уже без сильного теоретико-математического вклада нельзя было обойтись. Я уже несколько десятков лет настойчиво пишу о том, чтобы мы старались догнать и даже перегнать Природу как Конструктора, и хотя мой голос, как писк мыши под метлой, не разносился далеко, но именно в указанном мною направлении начало устремлять свои современные побеги «древо технологий». Как живое дерево к Солнцу, так и наши технологии даже без внимания к моим советам направились в сторону природы: биотехнология с генной инженерией и микрохирургией клонирования, трансгенные трансплантации и даже целые созданные виды организмов. Однако я не намерен заниматься самовосхвалением потому, что если б ни меня, ни моих прогнозов вообще не было, все пошло бы так же. Да, я предвидел, но этим предвидением de facto ничего не сделал, так что те люди, которые реализовали мои «замыслы будущих действий» и реализовывают их по-прежнему, не имеют ни малейшего понятия, что кто-то предвидел их начинания.

Впрочем, и это лишь «попутное» отступление.

7

И здесь, где для tertium comparationis было взято дерево расцветающих и ветвящихся ТЕХНОЛОГИЙ, появилась вполне заметная на первый взгляд принципиальная разница между по-прежнему напрасно преследуемой «ментальной технологией», то есть технологией создания машинного интеллекта, и действием человеческого мозга. А происходит это потому, что до самолета был китайский бумажный змей, до космического челнока американцев были фейерверки, до автоматической линии (конвейера под присмотром компьютера) был ручной труд от палеолита до слесарного ремесла и кузнечного дела, а до компьютера были только счеты, затем усложнившиеся до арифмометра, но никакого технического следа имитации разумной жизни хотя бы муравьев или мух не появилось. Мы не умеем инженерно подражать тому, что не следует из результатов исследования конструкции! Мы не знаем, ни как и откуда берется сознание, ни где рождаются наши мысли, ни как понятия превращаются в предложения языка, но скромные попытки механизации вместе с усилиями обучения машины печатанию диктуемого текста дают такие результаты, что рентгенолог предпочитает сам (или диктуя стенографистке) делать описание рентгеновского снимка, чем потом исправлять текст, напечатанный компьютером с самой лучшей программой. Это так, но это совсем не означает, что так должно быть. Уже были отрасли во главе с атомной физикой, в которых теоретический скачок через невежество, невозможный путем малых шажков, оказался и возможным и необходимым — и дело дошло до желаемых, и нежеланных успехов. Но о «многообразии возможных искусственных интеллектов» поговорим, может быть, в другой раз.

Emotional Quotient

Эссе написано в августе 1997 г.

1

Роботы из фильмов science fiction способны по-настоящему говорить (разговаривать), но, как правило, их голос не похож на человеческий, аффектно модулируемый. Чаще всего они говорят «деревянным голосом», за исключением «андроидов», то есть очень похожих на человека «псевдороботов», таких как мистер Спок в сериале «Star trek».

2

Вопреки мнению некоторых, эти безаффектно произносимые слова не представляют собой режиссерский прием, который должен помочь зрителю отличить человека от големоподобной Emotional Quotient [Наделенная искусственным интеллектом — по названию серии компьютеров в фантастическом эссе Станислава Лема «Голем XIV», в котором так объясняется название: GOLEM — General Operator, Longrange, Ethically Stabilized, Multimodelling — Генеральный управитель, дальномыслящий, этически стабилизированный, мультимоделирующий (англ.); или там же — GOLEM — Governement’s Lamentable Expense of Money — прискорбная трата денег правительством (англ.). Само слово «голем» — древнееврейского происхождения, на иврите означает «эмбрион». В Талмуде термином «голем» определяются незавершенные предметы и существа, не готовые или не приступившие к выполнению своей функции. Слово «голем» впервые встречается в Библии (ВЗ, Пс. 138:16, «зародыш» в синодальном переводе). В других трудах сказано, что человек способен создавать живых существ из глины — големов. Первым големом, пока Бог не вдохнул в него жизнь, был Адам. В Талмуде содержится ранний вариант легенды о Големе как о человекоподобном существе, созданном искусственно, посредством магического акта. Известны и другие легенды о Големе, послужившие материалом для большого количества литературных произведений, самые известные из которых — «Франкенштейн» (1818 г.) М. Шелли и «Фауст» (часть 2, 1831 г.) И.-В. Гете. Наиболее полно легенда представлена в романе «Голем» (1915 г.) Г. Майринка] машины. Дело в том, что кроме интеллектуально осмысленной жизни мы имеем еще и эмоционально обусловленную. И в последние годы эта «эмоциональная жизнь» стала усложнять дело тем, кто стремится сконструировать «искусственный интеллект». До сих пор в тестовых экспериментах, где применяется «тест Тьюринга» в его классической форме, то есть в ситуации, когда человек, объясняющийся с КЕМ-ТО, должен решить, говорит ли он с другим человеком или с «мертвой имитацией» (скажем для упрощения — с компьютером), вся беседа сводится к написанию, а точнее, к выстукиванию вопросов либо ответов на клавиатуре устройства, соединенного с «этим другим», который также не может увидеть собеседника, потому что тот тоже лишь выстукивает тексты на клавиатуре. Типичные эксперименты такого рода уже в зародыше снимают вопрос, участвуют ли эмоции в происходящем разговоре или нет. Хотя в тексте, где нет и следа живого собеседника, можно было бы имитировать (модуляциями текста) приливы или отливы эмоций, которых «вообще в действительности нет». Этот аспект начал все больше беспокоить практиков и теоретиков Artificial Intelligence. Прежде всего, суть в том, что такие АФФЕКТЫ, ЭМОЦИИ, ЧУВСТВА дополняют, отрицают или даже противоречат осознаваемому состоянию (не только наяву: эмоциональные переживания порой настигают нас и во сне. Но благоразумие и чувство меры заставляют меня не касаться этой сферы, поскольку эмоции, переживаемые во сне, далеко не всегда соответствуют событиям, которые произошли бы наяву). То, что я отметил в скобках, имеет значение и в проблеме «возможности моделирования эмоций»: если когда-нибудь (во сне или после приема наркотиков, например) случаются вызванные аффектами ощущения, для которых в «нормальной действительности» нет способа определить их «нормальность», это свидетельствует о том, что эмоции могут отделяться от переживаемых «сюжетов» (происшествий). Жизнь, состоящая из осознания происходящего, — отдельно, а жизнь, устанавливаемая посредством потока эмоциональных состояний, — отдельно. Обычно обе между собой переплетаются, и даже тесно связаны. Нормально — обрадоваться при встрече давно не виденного друга. Нормально — сожалеть при известии о случившемся с ним несчастии или о его смерти. Нормально — рассмеяться, когда мы видим, что кто-то садится на сковороду с яичницей с помидорами. Нормально — почувствовать страх, переходящий в панику, когда тормозная педаль автомобиля, на котором едем именно мы, проваливается «до упора», а машина вот-вот врежется в другую или упадет в море. Кроме того, нам многое известно об особенностях проявления эмоционально отчетливых состояний. Нам известно, например, что в компании человек смеется гораздо охотней, когда смеются остальные (и поэтому в фильмах для зрителей-истуканов, плохо понимающих, когда нужно смеяться, а когда нет, записаны залпы смеха «в нужных моментах»). (Впрочем, не каждый склонен поддаваться таким записанным «командам рассмеяться»: я, например, избегаю их в TV, так как не желаю присоединяться к кругу людей, не знающих, когда надо смеяться, и надо ли вообще. Но это было небольшое отступление.)

3

Недавние исследования доказывают, что чувства, выражаемые мимикой и «языком тела» («Kцrperpsrache»), часто бывают притворными (симулированными). Этому нас учит savoir vivre [Житейская мудрость (фр.)] (например, мы стараемся не показывать огорчения при виде ужасно надоедливой тетки, которой вчера наврали по телефону, что сегодня надолго уезжаем). А для актера или актрисы профессиональная имитация переживаемых чувств, определенных именно разыгрываемой ролью, — дело обычное и необходимое в этой профессии. (Теперь «в моде» эротические сцены поцелуев, начинающихся с обоюдного открытия губ, будто бы герои намереваются слизать остатки яства и бактерии с зубов и горла целуемой особы, но этот обычай упрощает «разыгрывание» страстных поцелуев, поскольку, кроме вклеивания открытых губ в губы, больше ничего не требуется исполнить. Это также было лишь отступлением.) Гаммы чувств, выражаемых мимикой, безмерно богаты. Впрочем, «типичная сигнализация» не ограничивается только лицом. Каждый нормальный человек, говоря по телефону, хоть и не видит собеседника, но рефлекторно производит движения телом и рукой так, что создает смысловой, прежде всего эмоционально, аккомпанемент разговора.

4

Умение имитировать чувства, определяемые ситуацией (например, по семейной традиции, по savoir vivre и т. п.), дана людям в очень разной мере. Одни могут идеально «играть» непереживаемые внутренне чувства, другие хуже. Я, например, «играю» очень плохо, и мне трудно встретить сердечной улыбкой непрошеного гостя, особенно помешавшего работе. Исследования, проводимые с помощью полиграфа, то есть детектора лжи, сводятся к одновременной записи на бумажных лентах давления, пульса и электрической сопротивляемости кожи. Эти данные используются в криминалистике, но не дают верного на 100% заключения (говорит испытуемый правду или лжет), так как, с одной стороны, существуют невротики, ни в чем не виновные, но бурно реагирующие на раздражающие вопросы, хотя и не имеют отношения к следствию, а с другой стороны — попадаются серийные убийцы и насильники, которые проявляют трезвую и нейтральную безразличность. Если мы добавим к этому особые возможности, прежде всего творческие (но не только), которые усиливаются или ослабевают в зависимости от переживаемых духовных состояний с начальным аффектным компонентом, то есть если к коллективу хороших актеров мы добавим художников, творческих ученых, помешанных фанатов, созидателей и т. д., — обнаружится лишь наша полная беспомощность перед задачами, которые ставят себе люди, намеревающиеся создать искусственный интеллект: как оснастить компьютер-интеллектуал (насколько таковой удастся сконструировать) программами эмоционального реагирования? Дело в том, что для того, чтобы пережить эмоции, нужно понять, что пережить их следует… Это не обычный circulus in explicando [Порочный круг при споре (лат.)], поскольку набитой сеном шкуры льва не испугается тот, кто заранее знает, что это не живой лев, а лишь чучело. А вот компьютер Deep Blue, который поставил мат Каспарову, не знал, что играл в шахматы и что выиграл партию: эмоции испытывала лишь одна сторона (Каспаров). Из литературы, признаний, мемуаров, а также last but not least из собственного опыта я знаю, что находиться в депрессии, переживать какое-то горе или потерю и поражение и одновременно писать, ударяя струей юмора, не очень-то возможно. Дополнительные эмоции, однако, не являются тем же, чем служит шпора для коня или допинг для атлета: тот, кого разрывает от смеха, как говорится, не слишком предрасположен к созданию замечательной юморески.

5

Несчастье компьютеров в том, что им «абсолютно все равно». Компьютеры американского космического челнока, что был разрушен взрывом после старта (о нем есть книга Ричарда Фейнмана [Richard Feynman], уже и на польском языке), в то время, когда корпус со всем экипажем падал в океан, ничего не знали, не понимали и не думали, и в те же последние секунды астронавты готовились к смерти.

С одной стороны, неизвестно, что нужно сделать, чтобы компьютер мог испытывать эмоции, а с другой — все чаще раздаются голоса по поводу того, что лишенный чувственных состояний интеллект не может быть полноценным. Некоторые идут дальше в противопоставлениях: говорят, что не только мозг является главным «переживателем» аффектов, поскольку ему необходимо тело, которое может дрожать, потеть, и бьющееся сердце, и давление крови и т. п. (В этом я, правда, не уверен, потому что люди с поврежденным позвоночником, то есть парализованные, не способные двигаться, могут, однако, переживать чувства.) Следует только опасаться, что устройство с похожей внутренней структурой и степенью слаженности и снабженное датчиками органов чувств, как наш мозг, сможет не только демонстрировать чувства, как ловкий симулятор-марионетка, но и переживать их. Впрочем, эта область очень неясна, поскольку мы знаем, что животные, особенно млекопитающие (например, собаки, кошки или обезьяны), переживают чувства от наивысшей радости до глубокой подавленности, хотя ни одна собака и ни одна кошка ничего нам не говорили об этом, и наши познания обусловлены лишь наблюдением за их поведением. Поэтому мы знаем, что эмоции эволюционно определили возникновение человеческого интеллекта и что они связаны и спаяны с ним еще плохо изученным, но очень сильным образом. В настоящее время в американских трудах пишут об EQ, Emotional Quotient [Показатель эмоциональности (англ.)], но измерять его по какой-либо шкале мы не умеем, в частности потому, что: А) при «аффектометрии» речь должна идти об n—размерности, так как имеется множество чувственных состояний и их индивидуальных нюансов; и Б) эмоциональные состояния можно имитировать чисто внешне (иначе не удалось бы отличать хороших актеров от людей, лишенных всякого актерского таланта; я сам принадлежу, надо признаться, к этой последней подгруппе неспособных имитаторов чувств, в действительности не переживаемых). Понятно, что поднятая проблема по многим направлениям выходит за рамки этой статьи: в последнее время обнаружили, например, что смех совсем не должен быть «действительно веселым». В частности, об этом писал в своих новеллах Витольд Гомбрович (Witold Gombrowicz). Но это уже такие области, до которых, пожалуй, и в приближающемся двадцать первом веке компьютерное моделирование не допрыгнет…

6

В то время, когда неблагоприятные влияния «отрицательных» настроений (или чувств) существуют и хорошо известны и понятны как факторы, тормозящие интеллектуальные способности, в первую очередь творческие (жалость, грусть, депрессия — чувственные эффекты несчастья), все еще является загадкой влияние факторов, окрашенных дополнительными аффектами, на созидаемое. Мне кажется, что способности человека, которые соответственно запрограммированный компьютер способен успешно имитировать (от проведения математических операций до разыгрывания «ограниченных неизменными правилами» конфликтных ситуаций типа игры в шахматы), вообще функционируют при минимальном участии эмоций. Зато такие способности могут оказаться очень существенными и эффективными факторами в достижении цели par excellence [В особенности (фр.)] вне творческой сферы. Но дело, правда, не обстоит так, что чем «сильнее хочется» достигнуть цели, тем успешней она достигается: создание значительных произведений, a fortiori [Тем более (лат.)] «шедевров», напрямую не зависит от усиления волевой составляющей предпринятого действия. Так же и фактор, сильно насыщенный аффектом, а именно АМБИЦИЯ, напрямую не вносит постоянного вклада в получаемый эффект. В противном случае, чем большие амбиции были бы, например, у графомана, тем ближе он был бы к трону на Олимпе.

Дело, однако, обстоит таким образом, что эмоциональное состояние дает нечто большее, нежели просто «выгодное стартовое положение» для умственного труда. Все эти неразрешенные проблемы происходят оттого, что в естественной эволюции не действует специальная активность, должная известить человека (например, творца), КАК он сможет справиться с поставленными миром либо им самим задачами. Это значит, что мы умеем с ними справляться, но необязательно узнаем в случае или успеха, или поражения, КАК ЭТО ПРОИСХОДИЛО в голове. Ибо эволюция, по мере возможности, исключает (вытесняет) умственные поступки, в том числе психические, а может быть, особенно психические, и осознание всяких методов (алгоритмов?) поиска. Следует, впрочем, отчетливо сказать, что вклад эмоциональных факторов в осуществление умственно плодотворных действий очень разный у разных людей (Si duo faciunt idem, non es idem [Когда двое делают то же самое, не получается то же самое (лат.)]). Кроме того, специалист, преуспевающий в некоторых интеллектуально весомых видах деятельности, может быть средних способностей в другой области, и эффекты предпринятого усилия менее успешны либо вообще безрезультатны. И снова: МЫ НЕ ЗНАЕМ, какую стимулирующую роль играют эмоции. Интуиция, как мы ее понимаем, сама не является эмоцией, но может основываться на эмоциях, и, например, возможно, что такой эмоционально ангажированный математик-«исследователь», как Ферма (Fermat), мог посчитать, что доказал свою «великую теорему», но только ему не хватило места для записи хода решения (ибо, если давление эмоционального «триумфа» высоко, легко ошибиться, недооценив как будто бы несущественные препятствия). Поскольку мы уже знаем, что не все удастся разгрызть существующими алгоритмическими методами (включая алгоритмы биологического происхождения), здесь рекомендуется скорей всего обдуманное чувство меры, чем ура-оптимизм…

Компьютерная опека

Эссе написано в сентябре 1997 г.

1

Прежде чем перейти к теме данного эссе, скажу, оглядываясь назад, что мне неоднократно, в том числе и в произведениях science fiction, удавалось предвидеть будущие изобретения и открытия, их возможное влияние на земную цивилизацию. И хотя это мне удавалось, но на примере «этикосферы» покажу, как, будучи правым, я ошибался и потому был похож на стрелка, попадающего в цель, но не слишком метко — не в десятку, а в девятку или близко к тому. Подчеркиваю, что разукрашенные моими рассуждениями и представленные сюжетными схемами фантасмагории и не должны были быть беллетризированными проповедями. Это значит, что я вовсе не старался нарисовать какое-нибудь «настоящее будущее», а, как покажу ниже, лишь пытался представить, что еще может предпринять цивилизация, достигающая высшей степени развития, дабы не погибнуть или не уничтожить себя. То, что я сумел придумать, было результатом поиска каких-либо техноподобных решений, причем для меня очень важно видеть их осуществимость, даже если они похожи скорее на волшебное преодоление угрожающих обществу опасностей — и не вымышленных, а надвигающихся либо уже отчасти присутствующих, таких, например, как гроза, которой нельзя противостоять традиционными методами, как не может полиция вместе с армией остановить извержение вулкана или землетрясение. Как известно, некоторая часть великих глобальных угроз спровоцирована технологической деятельностью цивилизации, например в результате химических реакций повышается температура окружающей среды, что вызывает таяние ледников и небезопасное перемещение огромных масс атмосферы. Известно также, что существуют планы противодействия вредным технологиям — сберегающие технологии, но так как стоимость вторых должна заставить раскошелиться владельцев первых, то стремления к такой спасительной стабилизации не наблюдается. Я не думал о том, что великие цели должны потянуть за собой огромные расходы, скорее ошибочно пренебрегал конечной связью инновационных инвестиций с инвестициями капиталов, поскольку предполагал, что человечество не будет безразличным к результатам действий, угрожающих самому его существованию. Ведь никто, с аппетитом поглощая печеную утку с яблоками, не глотает при этом вилку или нож. Поэтому я полагал, что то же самое происходит и с важнейшими земными ценностями. Однако когда поглощение утки опосредованно, но тесно связано с проглатыванием ножа соседом или, будем менее метафоричны, когда любви обжоры к болезненно ожиревшей гусиной печенке не мешает знание о мучениях гусей, дело неприятно осложняется: уже не действует принцип «не делай другому то, чего не желаешь себе». Но это неубедительно, поэтому хочу представить, как я придумал некий спасительный для общества технологический проект и как он начал исполняться в действительности. Я лишь добавлю, что китайцы, словно дети, запускавшие воздушных змеев, не имели и не обязаны были иметь представления о давлении воздуха, которое, в сущности, и делает возможным не только полет змеев, но и полет самолетов, перевозящих по несколько сот человек с континента на континент. Иногда практика, даже игровая, опережает теорию, а иной раз теория, как в случае с водородной бомбой, опережает практику. Но к делу.

2

В романе «Осмотр на месте», начатом в 1970 году и законченном и изданном в 1982 году, есть такие слова: «Любое общество, завладевающее силами Природы, подвержено бурным потрясениям. Желанное благосостояние влечет за собой нежелательные последствия. Новые технологии открывают перед насильниками новые возможности и перспективы. И начинает казаться, что чем больше власть над Природой, тем больше деморализация общества, и это правда — до определенной границы. Это вытекает из самой очередности открытий, то есть из того факта, что легче перенять от Природы ее разрушительную мощь, чем ее благосклонность. И как раз потенциал разрушения становится желанной целью. Такова новая историческая опасность…»

Вымышленные герои моей книги, энциане, посредством нанотехнологии приступили на своей планете к ОБЛАГОРАЖИВАНИЮ среды так, чтобы она стала для них абсолютно надежным опекуном. «У нас, — говорит ученый энцианин, — это прежде всего синтез новых твердых тел и новые методы контроля над ними… Таковы два столпа нашей цивилизации. Их симбиоз мы называем этикосферой». Речь идет о «молекулах добра, или шустрах», действующих таким образом, чтобы никто не мог сделать ближнему то, что тому неприятно: переехать на дороге, избить, а также убить себя самого, разбить свой экипаж о бетонный столб и т. д. Дальше он говорит: «Спасительным поворотом становится создание глобальной системы знаний, доступных без всяких ограничений — но уже не живым существам, ибо ни одно из них не справится с этой громадой». (Добавлю: это видение всеинформационного современного Интернета.) Но здесь снова слова из романа: «Любая из отдельно взятых пылинок, какими являются шустры, ничуть не универсальна, зато универсальны все они вместе взятые. И эта их универсальность (спасательная. — С. Лем) доступна каждому, если появится такая необходимость… Это ее могущество можно призвать на помощь в любую минуту, как джинна из сказки. Но никто не в состоянии сделать этого сам, непосредственно — такое (то есть помощь. — С. Лем) позволено только шустрам! Тем самым никто не может использовать этого невидимого колосса против кого бы то ни было…»

Шустры существуют в книге как продолжение непоколебимости законов природы. Согласно этим законам, нельзя взять энергию из ничего и нельзя превысить скорость света. «Этикосфера» же способствует тому, что нельзя никого мучить, убивать, лишать свободы, похищать против его воли, нельзя также причинять вред какому-либо обществу на планете, и даже стихийным силам шустры пытаются оказывать спасительное сопротивление, например наводнению… Роман насыщен попытками «перехитрить шустров»: чтобы можно было похищать, убивать и т. п. Но хватит об этом. Если кто-то хочет больше узнать о способах действия шустросферы, пусть (хоть и напрасно, потому что по-польски ее никто не переиздавал со времен страшной ПНР) поищет книгу в антикварных магазинах или заглянет в переводы, например немецкие или русские (их всегда можно приобрести за границей).

3

Никакой «этикосферы» при господстве Билла Гейтса и его империи (Microsoft), конечно, нет. Это сказки, пустая фантазия. Но ее зачатки можно обнаружить уже теперь. Первый полет над Ла-Маншем закончился приводнением, но через сто лет уже можно было одним махом облететь земной шар. Хотя и этикосфера таит в себе опасности, которые трудно предотвратить полностью; я дискутировал об этом с немецкими специалистами по информатике и психологами несколько десятков лет назад, перед введением в Польше военного положения, но у нас в стране никто не заикнулся о таких перспективах. Сейчас уже появляются (разумеется, опять-таки не у нас) первые ростки сберегающих технологий, кажущиеся предвестниками «этикосферы» и «шустринного облагораживания среды». В каком виде?

4

Например, в виде управляемых компьютерных систем, размещаемых на обочинах автострад, посылающих сигналы приближающимся автомобилям (для водителя они могут быть невидимы и неощутимы). Эти сигналы воспринимаются маленькими приемниками-компьютерами, установленными в каждом автомобиле, не позволяют ни одному транспортному средству, снабженному такими приборами (их наличие могло бы стать обязательным, как, скажем, наличие тормозной системы), превысить скорость, предусмотренную на этом участке дороги. Никакие гонки и обгоны не были бы возможны, а поскольку невидимый приказ повелевает двигаться, например, со скоростью пешехода, то автомобиль «послушается», хотя бы водитель даже съел руль, но спецтранспорт (полиция или скорая помощь) не должен иметь подобной системы. Уже существуют приборы, проверяющие, не пьян ли водитель, нет ли в крови алкоголя, но оснащение ими автомобилей не является обязательным для производителей. Уже изобретены датчики, следящие за тем, не засыпает ли водитель (например, контролируя опускание век), и этим контролем занимается миниатюрный бортовой компьютер, который направит автомобиль с засыпающим водителем на обочину и остановит. От противоугонных систем просто рябит в глазах, но и ворам, и экспертам известно, что для каждой есть свой способ взлома. В Саудовской Аравии (как я слышал) эти системы дополняются радикальным отрубанием руки ворам, что якобы помогает. Однако звуковой сигнал тревоги может дореветься до разрядки аккумулятора, автомобиль же можно за заднюю часть отбуксировать и при заблокированной коробке скоростей. Значит, когда пассивные способы охраны окажутся напрасными, на помощь должна прийти активная защита, отдельные примеры которой есть в моем «Осмотре на месте». Так, автомобиль может заполниться молочным непрозрачным дымом при попытке постороннего лица завести его. Уличный телефон-автомат может как следует дать в лоб тому, кто захочет его ограбить.

Впрочем, хватит примеров. Мы все же говорим не о «молекулах мордобития» или «мстителях», а о «шустрах», атомах этики. Подобные системы защиты начали сейчас двоиться, троиться и множиться далее с тех пор, как компьютерно-сетевая связь с банками, с брокерами, с кассами, с концернами и с холдингами поглотила миллиардные инвестиции, с тех пор, как оказалось, что один англосаксонский сопляк, перебрасывая миллионные денежные суммы с континента на континент, может организовать банкротство целого консорциума. Здесь бы уже понадобились программы, действующие согласно известному правилу Ленина, что хорошо доверять, но лучше проверять. Разумеется, software, используемое для контроля, тоже должно быть защищено, и здесь на нашем пути разочарований и удач, оказывается, что мы вступаем в regressus ad infinitum [Сползание к бесконечности (лат.)] все более совершенных систем контроля. Впрочем, в «Осмотре на месте» были показаны не только позитивные стороны «облагораживающей среду этикосферы». Она должна принести и серьезные негативные последствия. Если б не было бронированных касс, не стало бы и кассиров. Это поймет даже ребенок.

5

Во Львовской гимназии у меня был одноклассник, богатырь-толстяк, который охотно угощался нашими завтраками, съедая, что получше, например окорок или фрукты, поэтому я достал большое красное яблоко, взял отцовский шприц и через проколы, как только мог, вытянул из яблока сок и заменил его раствором кухонного мыла, а во время перерыва наблюдал, как этот одноклассник, весь в пене, полощет рот под водопроводным краном. Видимо, мысль об обеспечении безопасности пищи преследовала меня уже тогда, и здесь я вспоминаю об этом не только ради пустой забавы, поскольку наряду с похищениями, угрозами убийства похищаемых и прочих случаев шантажа, частыми стали, например в Германии, попытки вымогательства многомиллионных денежных сумм под угрозой отравления консервированного продовольствия в супермаркетах (майонезов, приправ, компотов и т. п.). Уже много лет используются миниатюрные приборчики, поднимающие тревогу, когда кто-либо пытается вынести из магазина самообслуживания одежду, скажем, носки, но и эти сигнализаторы трудно занести в «предшустринную» коллекцию. Также используются электронные браслеты, которые приговоренные к их ношению не могут снять, а на полицейском компьютере постоянно фиксируется местонахождение поднадзорных.