Понятием «душа в машине» — the ghost in the machine — некоторые психологи подкрепляют утверждение, что, якобы, человек является существом «двойственным», то есть состоящим из «материи» и «души».

Сознание является не технологической проблемой, так как конструктора не интересует, чувствует ли машина, а только интересует, действует ли она. Таким образом, «технология сознания» может появиться только «мимоходом»: вдруг окажется, что определенный класс кибернетических машин обладает субъективным миром психических переживаний.

Но каким образом можно узнать о наличии сознания в машине? Эта проблема имеет не только абстрактно-философское значение, ибо предположение, что некая машина, отправляемая на лом из-за того, что ее ремонт не окупится, обладает сознанием, превращает наше решение — уничтожить материальный предмет вроде граммофона — в акт уничтожения индивидуальности, осознанного убийства. Граммофон можно оснастить пластинкой и выключателем таким образом, что при попытке сдвинуть его с места он издавал бы крики: «Ах, умоляю, подари мне жизнь!» Как можно отличить такой, без сомнения, бездушный аппарат от мыслящей машины? Только вступая с ней в разговор. Английский математик Аллан Тьюринг (Allan Turing) в своей работе «Может ли машина мыслить?» предложил в качестве решающего критерия, который бы позволил уверенно отличить человека от машины, «игру в имитацию», заключающуюся в том, что мы задаем Кому-то произвольные вопросы и на основании ответов должны сделать вывод, является ли этот Кто-то человеком или машиной. Если мы не сможем отличить машину от человека, следует признать, что машина ведет себя как человек, то есть обладает сознанием.

Со своей стороны, отмечу, что игру можно усложнить. Можно рассмотреть два вида машин. Первый является «обычной» цифровой машиной, которая устроена как человеческий мозг; с ней можно играть в шахматы, разговаривать о книгах, о мире и вообще на любую тему. Если бы мы ее вскрыли, то увидели бы огромное количество соединений, подобно соединениям нейронов в мозгу, кроме этого — блоки памяти и т. д. и т. п.

Второй вид машин совсем другой. Это увеличенный до размеров планеты (или космоса) граммофон. В такой машине хранится огромное количество, например сто триллионов, ответов на всевозможные вопросы. Таким образом, когда мы спрашиваем, машина ничего «не понимает», но форма вопроса, то есть очередность вибраций нашего голоса, приводит в движение передатчик, который запускает пластинку или ленту с записанным ответом. Не будем задумываться о технической стороне дела. Понятно, что такая машина неэкономична, что ее никто не создаст, потому что это невозможно, а главное — неизвестно, зачем ее создавать. Но нас интересует теоретическая сторона. Потому что если заключение о том, имеет ли машина сознание, делается на основе поведения, а не внутреннего строения, не придем ли мы неосмотрительно к выводу, что «космический граммофон» им обладает — и тем самым выскажем нонсенс? (А скорее, неправду.)

Но можно ли запрограммировать все возможные вопросы? В обычной жизни средний человек не отвечает даже на один биллион их. Мы же на всякий случай записали их во много раз больше. Что же делать? Мы должны вести нашу игру, используя достаточно развитую стратегию. Мы задаем машине (то есть Кому-то, потому что не знаем, с кем имеем дело: разговор ведется, например, по телефону) вопрос, любит ли она анекдоты. Машина отвечает: да, она любит хорошие анекдоты. Рассказываем ей анекдот. Машина смеется (то есть смеется голос в трубке). Или этот анекдот был в ней записан и это позволило ей правильно отреагировать, то есть засмеяться, или это в самом деле мыслящая машина (либо человек, этого мы не знаем). Мы какое-то время разговариваем с машиной, а затем неожиданно спрашиваем, помнит ли она рассказанный анекдот. Она должна его помнить, если действительно мыслит. Она ответит «да». Мы попросим, чтобы она повторила его своими словами. Вот это уже очень трудно запрограммировать, потому что таким образом мы вынуждаем конструктора «космограммофона» записать не только отдельные ответы на все возможные вопросы, но и целые последовательности разговоров, которые могут вестись. Это потребует, конечно, памяти, то есть дисков или лент, которые и вся солнечная система не вместит. Предположим, машина не сможет повторить наш анекдот — и тем самым будет разоблачена. Задетый за живое конструктор берется усовершенствовать машину: пристраивает ей такую память, благодаря которой она сможет вкратце повторить сказанное. Но тем самым он сделает первый шаг от машины-граммофона к машине мыслящей. Так как бездушная машина не может распознать идентичность вопросов аналогичного содержания, но сформулированных с незначительными формальными отклонениями, например: «Вчера было хорошо на улице?», «Вчера была прекрасная погода?», «Погожим ли был предыдущий день?» и т. п., то для машины бездушной они будут вопросами разными, а для машины мыслящей — одинаковыми. Конструктор вновь разоблаченной машины вынужден опять ее перерабатывать. В конце концов, после долгой серии переделок он введет в машину возможности индукции и дедукции, способность ассоциировать, схватывать тождественную «форму» по-разному сформулированных, но одинаковых по содержанию высказываний, пока в результате не получит машину, которая будет просто «обычной» мыслящей машиной.

Таким образом возникает интересная проблема: когда именно в машине появилось сознание? Предположим, что конструктор не переделывал эти машины, а относил каждую в музей, следующую же модель создавал заново. В музее стоит 10 тысяч машин — столько было очередных моделей. Результатом стал плавный переход от «бездушного автомата», вроде играющего шкафа, к «мыслящей машине». Должны ли мы признать машиной, имеющей сознание, машину номер 7852 или только номер 9973? Они отличаются друг от друга тем, что первая не умела объяснить, почему она смеется над рассказанным анекдотом, а только говорила, что анекдот очень смешон, а вторая умела. Но некоторые люди смеются над шутками, хотя и не могут объяснить, что именно в них смешно: как известно, теория юмора — твердый орешек. Разве эти люди лишены сознания? Нет, они, наверное, просто не очень быстро реагируют или малообразованны, их ум не обладает навыками аналитического подхода к проблемам; но мы спрашиваем не о том, умная ли машина или скорее туповатая, мы только спрашиваем, имеет ли она сознание или нет.

Казалось бы, следует признать, что у модели номер 1 — ноль сознания, модель номер 10000 имеет полное сознание, а у всех промежуточных сознания «все больше». Это утверждение показывает, насколько безнадежна мысль о возможности точно локализовать сознание. Отсоединение отдельных элементов («нейронов») машины спровоцирует только слабые, количественные изменения («ослабления») сознания так же, как это делает в живом мозге прогрессирующая болезнь или нож хирурга. Проблема не имеет ничего общего ни с использованным для конструкции материалом, ни с размерами «мыслящего» устройства. Электрическую мыслящую машину можно построить из отдельных блоков, соответствующих, положим, мозговым извилинам. Теперь разделим эти блоки и разместим по всей Земле таким образом, чтобы один находился в Москве, второй в Париже, третий в Мельбурне, четвертый в Иокогаме и т. д. Отделенные друг от друга, эти блоки «психически мертвы», а соединенные (например, телефонными кабелями), они стали бы одной интегральной «индивидуальностью», единым «мыслящим гомеостатом». Сознание такой машины не находится ни в Москве, ни в Париже, ни в Иокогаме, но, в определенном смысле, находится в каждом из этих городов и в то же время ни в одном из них. О таком сознании трудно сказать, что оно, как Висла, протянулось от Татр до Балтийского моря. Впрочем, подобный пример демонстрирует, хотя и не так ярко, работу человеческого мозга, потому что кровеносные сосуды, белковые молекулы и ткани находятся внутри мозга, но не внутри сознания, и опять-таки нельзя сказать, что сознание находится под самым сводом черепа или, скорее всего, ниже, над ушами, по обеим сторонам головы. Оно «рассеяно» по всему гомеостату, по его функциональной сети. Ничего больше заявить на эту тему не получится, если мы хотим соединить сознание с возможностью рассуждать.

Вышеприведенный отрывок скопирован из моей «Суммы технологии», он был написан в середине 1963 года. С точки зрения сегодняшней ситуации это слишком сильное упрощение дороги, которую необходимо пройти до имитации описанной мною цели. Мы уже предполагаем, что «сознание» и «интеллект» — это, в определенном смысле, разные сути бытия. Мы знаем, что существуют разные состояния сознания, даже если их шкала находится между сном и реальностью. Но и сновидения могут быть насыщены разнообразными событиями, имитирующими реальность, сознательно переживаемую наяву. В свою очередь, каждый человек, даже если он не является ни психологом, ни психиатром, по собственному опыту знает, что сознание наяву тоже может иметь различные состояния. Человек в состоянии болезненного жара может осознавать, что его сознание нарушено. Различные химические вещества могут самым разным образом формировать человеческое сознание. Кроме того, есть множество действий, которые человек делает машинально: например, сознание шофера «не успевает» за его реакциями в ситуациях с неожиданной последовательностью событий. Вместе с тем машинально можно делать и глупости, — чаще всего мы их называем «поступками по рассеянности».

Все это сказано в отношении моего текста тридцатипятилетней давности, в котором я задумался над «ростками» сознания в машине, и делал я это потому, что мне казалось, будто люди сильно отличаются друг от друга умственными способностями, а сознание всем дано примерно одинаковое.

Дороги напрямик, по прямой и восходящей линии, от полного автомата, каковым является компьютер, к машине, которой можно было бы приписать сознание, нет. Вместе с тем о работе нашего мозга мы уже знаем столько, чтобы понимать, что так называемая каллотомия, или рассечение большой белой спайки, соединяющей полушария мозга, не ликвидирует сознание, но создает в разделенных полушариях две его разновидности. Кроме того, мы знаем, что мозг является системой, построенной из огромного количества функциональных модулей, которые в отдельных областях мозга создали среду, формирующую сознание. Поясню сказанное примером. В коре мозга есть зона, отвечающая за цветовое зрение. Ее повреждение приводит к тому, что человек видит всё без цвета, как в черно-белом кино. Чем лучше мы разбираемся в функциональной ориентации модулей мозга, тем больше удивляемся тому, как, с точки зрения инженерной экономии, хаотично устроен мозг, хотя при осознании самих себя мы не отдаем себе в этом отчета. Сегодня нам кажется, что мы уже можем конструировать отдельные модули, функционально похожие на модули мозга. Обычно это псевдонейронные сети различной сложности. Вместе с тем мы еще не умеем ни создать их в достаточном количестве, ни соединить таким образом, чтобы созданное произведение могло имитировать сознание. Следовательно, прямой дороги от бездумного автомата к сознательно мыслящей машине нет. Есть, однако, много сложных дорог, которые в будущем приведут нас к цели и, возможно, эту цель превзойдут. О такой возможности я написал книгу «Голем XIV».

…Ползучим способом, то есть очень медленно, расширяются фронты внедрения так называемого искусственного интеллекта. Об этих успехах несколько дней назад сообщила на первой странице английская газета «International Herald Tribune», заявив в заголовке, что то science fiction становится реальностью. Если же присмотреться к тому, на что этот искусственный интеллект уже способен, оказывается, что речь идет не об интеллекте, тождественном человеческому, а скорее о большой области усовершенствованных автоматов. Множество офисных функций, таких как банковские, включая функции кассиров, уже могут быть полностью компьютеризованы, или «обезлюднены».

Автоматизацией охватывается также деятельность, требующая деликатных исследований, включая психиатрическую медицину и хирургические операции. Но в этом я не вижу ни следа интеллекта, понимаемого личностно, индивидуалистически, эмоционально и целеустремленно. Это означает, что ошибка при хирургической операции может повлечь за собой исправление операционной программы, но не станет поводом привлечь механическое устройство к суду.

Несмотря на все усилия ученых, еще не родился Некто, заменяющий человека, а появился лишь очень исполнительный, но тоже подверженный ошибкам Никто. Границу этого большого прогресса в самостоятельности устройств, построенных людьми, я описал когда-то в одном из романов как ситуацию, в которой искусственно усовершенствованная среда становится более интеллектуальной, нежели обитающие в ней люди. Нечто подобное нам пока не грозит, но движение в этом направлении уже заметно.

Текст представляет собой фрагмент статьи из еженедельника «Przekroj», №29/2001

Дорога без возврата

Эссе написано в сентябре 1998 г.

1

Я долго противился собственной компьютеризации. Но когда компьютер наконец появился, его понадобилось оснастить печатающим устройством. Затем потребовался модем. Следом появился факс, как-то по необходимости и мимоходом… Это, собственно, и есть дорога, с которой нет возврата. Начало невинно и приносит с собой новые удобства. Продолжение не является входом в ад, но если ад существует, то он наверняка компьютеризован.

2

Новый компьютер устаревает столь быстро, что через несколько лет он уже рухлядь. Поколения новых компьютеров сталкивают в неизвестную пропасть сконструированные ранее и расхваливаемые при покупке. Американцы, любители статистических подсчетов, говорят, что жизнь компьютера коротка: от трех до пяти лет. Популяция этих устройств, о которых полвека назад никто даже не мог подумать, насчитывает сегодня в мире сотни миллионов экземпляров. Естественным образом, по крайней мере мне, приходит в голову вопрос: что происходит с миллионами устаревших компьютеров. Умирают ли они? Имеют ли свои кладбища? Или завершают путь на свалках? Где можно найти их останки? Складов для умерших компьютеров, скорее всего, нет.

Должен признаться, что в моем подвале стоит, укутанный почти как мумия, компьютер Apple 1984 года, купленный для сына, посещавшего тогда American International School в Вене. В свое время компьютер работал хорошо, но не смогу вспомнить, какую имел производительность и информационную емкость. Ему, можно сказать, повезло. Его никто никуда не выбросил. Прошло немного лет, и по отношению к современному поколению обычных средних компьютеров он представляется тем же, чем телеграфный ключ Морзе по отношению к спутниковым передатчикам.

Однако хочу повторить вопрос: что происходит с компьютерами, вытесняемыми новым поколением? Из американской прессы можно узнать, что их судьба складывается по-разному: одни попадают в магазины, другие — в подвалы, на чердаки, но не «каннибализируются». Все-таки они устаревают. Сердцем компьютера является жесткий диск, а его кровеносной, или скорее нервной системой, — процессоры. Однако сравнивать эти центры с человеческим мозгом или мозгом животных — значительное преувеличение.

3

Здесь моя мысль делает мгновенный и неожиданный даже для меня поворот. Каждый знает, что осознанное отравление или заражение мыслящей системы, каковой является мозг, карается. В то же время можно заразить вирусами компьютер, причем коварно и чаще всего не опасаясь суда или тюрьмы, если только речь не идет о действии, признаваемом преступлением или хотя бы поступком, угрожающим значительным общественным ценностям, хранилищем которых является любой банк или генеральный штаб. Выслеживанием хакеров, способных, находясь в одном полушарии Земли, поражать память компьютеров в другом, занимаются исключительно службы специального назначения. Сейчас широко распространилось и значительно развилось искусство шифрования информации, пересылаемой из одного компьютера в другой, — не просто как ветвь криптографии, а скорее как выросший из нее настоящий баобаб. Пока одни трудятся над программированием антивирусных заграждений, другие стараются выследить различных вирусоманов, особенно в сетях, передающих важную информацию, искажение или утрата которой чревата негативными финансовыми последствиями.

4

Если присмотреться к усилиям, затрачиваемым на решение этих проблем в глобальном масштабе, окажется, что мы имеем дело с процессом, который ускользнул и продолжает ускользать из-под власти и воли своих создателей. Их первым намерением было создание сети соединений, не имеющих единого центра, — чтобы удар врага, даже атомный, не мог полностью поразить организованную таким образом коммуникационную связь. За возникновение замысла, который родил эту децентрализацию, давшую начало Интернету и иным сетям, мы должны быть благодарны стратегии холодной войны. Я уверен, что никому, совершенно никому из разработчиков даже в голову не приходило, что они неосознанно исполнили роль учеников мага-чернокнижника, вызвавших силы, которыми невозможно успешно управлять. Сети разрослись сверх всякого предела. Не какие-либо проблемы, чреватые военно-политическими угрозами, а сексуальные извращения, словно лавинообразно размножающиеся паразиты, расползлись по сетям. Наверное, никто в эпоху рождения ЭНИАКа не думал, что возможны педофильские пандемии, которые, подобно непрерывно поддерживаемому и разрастающемуся пожару, нельзя затоптать или погасить. Дело в том, что осуществить эффективную и фактическую цензуру всей мировой сети — то же самое, что сеть уничтожить. Она проникла в военную, хозяйственную, политическую и бытовую области, а также в миллионы личных дел. Успешное удаление из сети порнографической иконографии, которую табуирует даже самая нестрогая культура, — это, честно говоря, мечты отсеченной головы.

5

Сосуды человеческого сердца имеют сеть дополнительных каналов, рано или поздно начинающих функционировать вследствие непрерывного старения стенок сосудов, в результате которого в конце концов происходит инфаркт. В электронной сети тоже могут происходить инфаркты, но они являются результатом информационной толчеи и требуют создания новых соединений, еще не переполненных сообщениями. Таким образом возникают новые уровни сети над старыми. Так появляется своего рода специализация, когда банки соединяются с банками, университеты с университетами, телевизионные студии с другими студиями и т. д. При этом адреса абонентов должны становиться все более длинными. Страшно подумать, какими длинными они окажутся, когда задачей сети станет всесторонняя связь между миллиардами отправителей и получателей.

6

Пока же процессы разрастания, борьбы, соперничества, конкуренции, скольжения (surfing) по сети находятся в состоянии развития. Не осмелюсь предсказывать, станет ли сеть через сто лет нашим главным врагом, а может, и убийцей, каким уже стала мировая моторизация. Хорошо известно, что люди соглашаются с тем, чего желают или что считают неизбежным. В дорожных авариях в США погибло больше американцев, чем во время вьетнамской войны. Но смерть солдат вызывала горе и протест, а над жертвами автомобильных аварий никто, кроме родственников, не плачет. Это утверждение, возможно, кажется патетическим, но не является ничем иным, кроме как суммированием фактов, которые сдвинули с места наш мир, разогнались и двигаются вместе с нами в неизвестном направлении. Очевидно, проще всего уйти от проблемы, сказав, что двадцать первый век будет веком информатики. Название это, однако, ничего не проясняет. Мы не знаем, окажется ли электронный молох Древом Познания, о котором без намеков на технологию поведала нам Библия.

Врезка: Компьютер и мозг

…Компьютерам можно давать определенные команды, и они их исполнят, иногда даже лучше, чем мы бы этого хотели… Речь идет о деятельности, которую можно алгоритмизировать. Устройства, способного навести порядок в помещении, не разбивая половину посуды и не выбрасывая в мусор ребенка вместо сломанной куклы, все еще нет. Наибольшая проблема состоит в распознавании окружающего и ориентации в неизвестной обстановке. Касается это и человека, особенно если дело происходит в полумраке. Однажды я возвращался домой вечером, и мне показалось, что у ворот меня встречает жена, но это была всего-навсего ветвь черешни. В такой ситуации разум или мозг дополняют образ в соответствии с тем, что разум уже знает и что ему кажется.

Компьютеры не способны спать, и тем более видеть сны, не умеют пока выполнять созидающую работу, не обладают волевыми или телеологическими склонностями, то есть не способны переориентироваться на избранную ими, а не программистами цель. Эти ограничения можно долго перечислять. Мы идем вперед медленным шагом: прогресс есть, но такой странный, что даже совершеннейшие суперкомпьютеры, перерабатывающие триллионы битов в секунду, не имеют и следа индивидуальных черт. Компьютер — это не Некто; это всегда Никто. Этот Никто способен сделать много хороших вещей, иногда даже лучше, чем человек…

Сфера эмоций, аффектов этим устройствам совершенно недоступна, и даже не столько недоступна, сколько невоспроизводима ими. Актер играет кого-то и может делать это прекрасно, но он отлично знает, что не является этим «кем-то»; знает, что не является Гамлетом, Офелией или Полонием. Компьютер ничего не знает, потому что никого не играет и никому не подражает. В развлекательной беллетристике можно написать, например, что компьютер, который моделировал взрыв сверхновой, разлетелся на куски. В действительности это невозможно, ибо речь идет об информации, которая не выступает в материальном облике; во время моделирования взрыва вулкана из монитора не выплескиваются потоки кипящей лавы. Но понемногу, понемногу, введением элементов так называемой виртуальной реальности, которую я когда-то назвал фантоматикой, человек начинает окутываться плащом, имитирующим реальность, и сегодня мы не знаем, как далеко зайдем в этом направлении…

фрагменты статьи из еженедельника «Tygodnik powszechny», №31/2001

Беды от избытка

Эссе написано в сентябре 1998 г.

1

В добрые старые времена механизмы — локомотивы, автомобили, швейные машинки или холодильники — были столь простыми, что обслуживать их (а если понадобится, то и отремонтировать) мог мастер средних способностей. Сейчас, когда миром овладела компьютерная мания, даже обычную тягу, соединяющую педаль газа с дроссельной заслонкой карбюратора, заменили компьютерной связью. Мы наслушались столько интересного, необычного и хвалебного о компьютерах, которые якобы уже стали почти разумными, что самое время поделиться большими сомнениями. Нигде в мире компьютеры, даже самые лучшие и дорогие, не работают со стопроцентной надежностью. Например, в американских космических челноках, где точность преобразования информации отделяет жизнь от смерти, бортовой электроникой управляет не один суперкомпьютер, а по крайней мере четыре, а то и пять, работающих независимо. Зависание операционных систем, тупое упорство, по сравнению с которым упрямство осла приобретает почти эйнштейновское качество, ограниченный набор команд, множество задержек из-за недостаточной производительности — все это хорошо известно людям, имеющим дело с процессами, необходимым звеном которых являются компьютеры. Пока издательства рассчитывались с авторами через бухгалтеров (часто не располагавших даже механическими вычислительными устройствами), время между подведением баланса и передачей писателю гонорара было, как правило, меньше, чем сейчас, хотя быстродействие электронных систем, казалось бы, должно сократить этот срок. Вдобавок литературный агент порой находил ошибки в расчетах издательств, но так как общественное мнение уже признало компьютеры безошибочными, любые неточности приписываются людям, обслуживающим компьютеры.

2

Джон фон Нейманн (John von Neumann) назвал живой мозг совершенной системой, построенной из несовершенных элементов.

Я не знаю, где следует искать неисправности в компьютерах, но знаю, что необходимость в безошибочных результатах привела к настоящей компьютеромании в различных областях. Подобно тому, как женщины, или, более справедливо говоря, люди, не являются плохими во всем, ибо имеют и достоинства, — так и от компьютеров можно ожидать многого, рассчитывать на многое и многое получать. Но все же, как напрасно ожидать непорочности от жены Цезаря, так и стопроцентная уверенность в абсолютной точности и надежности компьютеров зачастую приводит к роковым ошибкам.

3

Компьютерных программ написано уже столько, что выбор наиболее подходящей для решения определенной задачи является делом не простым. Как известно, существуют разнообразные информационные сети с большим количеством узлов, браузеры для серфинга по сетям — в результате растет груз необходимых знаний о том, каким образом в микроскопических информационных чащах быстро найти требуемое. Подобные поиски иногда напоминают блуждание в лабиринте, и тогда напрасны мысли о той простоте, с которой необходимую информацию можно получить из обычной энциклопедии-книги.

4

Кроме множества компьютеров, уже имеющихся на рынке или о скором появлении которых с энтузиазмом объявили крупные фирмы, в ближайшем будущем якобы должны появиться компьютеры (говорят даже о квантовых), не уступающие нынешним , но простые в обслуживании. Сейчас пределом мечтаний является жидкостный компьютер, для наглядности представляемый на модели, подобной чашке кофе. Вычисления или моделирование будет осуществляться в нем посредством молекул в магнитном поле, воздействующем на чашку снаружи, и в управляющем электрическом поле, перпендикулярном магнитному. Абсолютно не утверждаю, что все это следует отнести к сказкам. Мы уже не раз убеждались в реальности того, что нашим отцам казалось сказочным. Строительство дома в несколько этажей из игральных карт — это элементарное чудачество по сравнению со сложнейшими конструкторскими работами, которые должны привести к созданию компьютера, использующего атомные спины. Ведь атомы или электроны ведут себя более или менее упорядоченно только вблизи абсолютного нуля, где действует закон Боуза-Эйнштейна. В то же время для комнатной температуры единственное, что можно вообразить, — это квантовый компьютер, так как все системы, построенные из молекулярных элементов, при такой температуре, как правило, чрезвычайно быстро распадаются.

Впрочем, не собираюсь больше обсуждать замечательные направления новейших компьютерогенных замыслов ученых, пытающихся преобразовать атомный хаос в безошибочно служащий нам порядок.

5

Не приводя фамилий, хочу только повторить вслед за специалистами-профессионалами, что взлет компьютеров, в последние годы ставший особенно заметным, приближается к пределу, и тем самым к концу. Компьютерная мышь уже считается архаичным устройством; существуют мониторы, плоские как картина; мы приблизились к объединению телевизоров, мониторов, компьютеров, модемов, факсов в цельные псевдоорганизмы. Есть устройства для правшей и для левшей. Похоже, в конце двадцатого столетия мы стараемся реализовать в гигантском пространстве информации все, что еще осталось сконструировать. Правда, специалисты до сих пор ломают зубы мудрости на нулях двухтысячного года, и пока не известно, как с наименьшими потерями перепрыгнуть эту дату, однако их замешательство вовсе не означает информационного конца света. Разумеется, не все так плохо. Просто мы запутались в сплетениях операционных систем, не понимающих ни себя, ни нас. В конце концов оказалось, что пока ничем нельзя полностью заменить систему, оперирующую понятиями, — то есть разум. Поэтому я делаю ставку именно на него, не зная, впрочем, когда главный выигрыш станет нашей собственностью. Но какой бы длинной ни была дорога к пониманию разума, какие бы пробы и ошибки мы ни совершали, мы должны идти по ней, так как другой дороги нет и не будет.

6

Будущее всегда выглядит иначе, чем мы способны его себе вообразить, поэтому все, о чем я написал до сих пор, является лишь изложением сведенных воедино субъективных убеждений, которые я разделяю. Однако не утверждаю, что знаю будущее так же точно, как содержимое ящика своего стола.

Фальшивое божество технологии

Эссе написано в октябре 1998 г.

1

Приведенный ниже текст в значительной мере позаимствован из статьи американского журналиста Роберта Каттнера (Robert Kuttner), напечатанной в «International Herald Tribune» 27 октября 1998 года. Повторяя за ним мрачные замечания в адрес мировой информационной сети, отвечу на часто задаваемый вопрос, почему я не являюсь энтузиастом столь усовершенствованной системы связи. Как пишет Каттнер, компания Microsoft провозгласила два мифа. Первый убеждает каждого пользователя Интернета, что сетевая информационная технология расширяет индивидуальные возможности. Второй миф представляет Microsoft бескорыстным, нейтральным «помощником» всякого рода коммуникаций. Журналист оспаривает оба этих мифа, опираясь на практику, в основном американскую, но не только.

2

В разговоре с приятелем, большим поклонником новой культуры и ее воплощения в Интернете, Каттнер выяснил, в частности, что электронная почта (e-mail) имеет и отрицательные стороны. Например, возвращаясь из путешествия или отпуска, обычно обнаруживаешь в своем электронном почтовом ящике массу писем. Прием этой массы сообщений представляет собой достаточно большой объем работы и превращает не слишком счастливого в тот момент пользователя сети в работника, запряженного в телегу. Этот журналист пишет то же, что всегда утверждал и я: сетевая связь создает иллюзию, будто она способна мгновенно увеличить количество профессиональных или частных контактов. Это неверно. Дело в том, что, работая в сети, теряешь много времени, а это раздражает, тогда как плодотворная совместная работа требует сосредоточенности.

3

Экономисты недоумевают: когда же, наконец, сетевая информационная технология революционизирует производство (и произойдет ли это вообще). Очевидно, сетевые коммуникации могут ускорять процессы, повышать точность работы в таких областях, как банковское дело, проведение платежей, издательская деятельность, хранение данных, касающихся проектирования, производства и пр. Но этим усовершенствованиям сопутствует немало минусов. Только освоишь прошлогодние доработки программ, как прибывает новая версия. Тем самым хваленая культура непрерывного обучения превращается в поучения, стареющие слишком быстро. Автор говорит, что главным образом пользуется пишущей машинкой (так же как и я). Если хорошо освоишь работу на машинке (которые к тому же никогда не зависают), то перейти на компьютер нетрудно. Что же касается качества статей, Каттнер говорит, что в последнее время он редактировал статью одного из известнейших американских колумнистов (публицистов). Тот пользуется пишущей машинкой, но его проза требует гораздо меньше редактирования по сравнению с работами, подготовленными в текстовых редакторах типа Lexus-Nexus и Microsoft Word.

4

Неверно, что присущая сетевым коммуникациям оперативность качественно уравняет всех пользователей. Если сравнивать два различных рода занятия: врачебную практику и обучение студентов, окажется, что компьютерно-сетевая опека превращает врача в чиновника, имеющего в своем распоряжении больше экспертных данных, но пользующегося меньшим личным авторитетом у пациентов. В то же время большинство преподавателей американских средних школ, работающих на основе краткосрочных контрактов, сейчас имеют меньше «свободного времени для творческого труда», а ведь именно он является основой академической вольницы и суверенности. Таким образом, различные категории работников лишаются независимости, несмотря на то, что с приходом информационных технологий торжественно провозглашается расширение возможностей личности. Кроме того, новая технологическая система не только является своего рода оргией деградации, но и приводит к потере многого, ведь ничто не обесценивает труд больше, чем его замена автоматизированной технологией. Вдобавок девальвируются человеческие контакты. Как утверждает большинство социологов, такая деятельность, как, например, забота о малолетних и стариках, о больных, требует прежде всего человеческого участия. Но именно эта сторона страдает от внедрения сетевой автоматизации. Компьютерная мышь не может ни накормить ребенка, ни окружить заботой умирающего.

5

В совокупности все названное и неназванное, касающееся Microsoft и ее столкновений с правительством в антимонопольных вопросах, показывает, что Microsoft Windows, собственно, является душителем наших человеческих возможностей. Многие пользователи считают эту технологию лишь представителем рыночной мощи, но не творцом технических достижений. Поэтому мы должны быть осторожными и недоверчивыми по отношению к технологии, ограничивающей наши возможности во имя их мнимого усовершенствования, так как и компьютеры, и сети совершенны прежде всего в своей абсолютной неразумности. Если мы хотим иметь общество, обогащаемое способностями личностей, мы должны обратиться к источникам гораздо более старым, чем технология информатики.

6

За автором, мысли которого я привел выше, стоит жизненный опыт страны, более всех попавшей в аркан сетевой информатики, в которой «безлюдность» сетевых коммуникаций уже утомляет и наводит на пессимистические размышления. Так как уже стали писать, что мощная порция «искусственного интеллекта», «искусственных мозгов» готовится к вторжению в наш человеческий мир, утверждаю (и не только я), что до чисто человеческого умственного совершенства нам все еще очень далеко.

Мегабитовая бомба

1

Название этого эссе, завершающего одноименную книгу, взято из изданной в 1964 году «Суммы технологии», но по прошествии времени его смысл несколько расширился. В то время я имел в виду прежде всего рост общедоступных обобщенных данных науки, в первую очередь — точных дисциплин: физики, астрофизики, биологии, геологии, антропологии и так далее. Уже само возникновение опутывающих нашу планету сетей (явление достаточно спонтанное и, наверное, необратимое, что первоначально не предполагалось) требует нового взгляда на лавинообразно нарастающую информацию. Ориентировочно ее количество сейчас оценивается НЕ МЕНЕЕ чем в 1017 битов, и при сохранении темпов роста сразу же после 2000 года ее будет (опять-таки «не менее») В ДВА РАЗА БОЛЬШЕ. При этом информация не является чем-то постоянным и застывшим в громадах библиотек, университетов, военных штабов или бирж и банков, но скорее информацией В ПОСТОЯННОМ ДВИЖЕНИИ, перемещающейся в переплетениях сети, образующей World Wide Web, или всемирную паутину, неустанно расширяющую свои все более многочисленные применения. Всю информацию можно было бы подвергнуть таксономизации, разделяя микро-, макро— и мегаизмерения (или виды). Огромные массивы накопленных человечеством знаний превысили — при самых радикальных сокращениях — емкость мозга отдельно взятой личности. Нужно также сказать, что сама ЛЕГКОСТЬ доступа (не только в сети) к каким-либо данным ни в коей мере не повышает «привлекательность» знаний. К ухудшению положения вещей приводят различные факторы.

2

Во-первых, информационную среду загрязняет страшное количество глупости и вранья. Глупость своим распространением обязана наземным и спутниковым телевизионным сетям с постоянно увеличивающимся количеством передатчиков. Похоже, что скоро либо произойдет радикальное разделение телевизионного вещания на отдельные направления (что уже понемногу наблюдается), либо государство будет вынуждено законодательно отсеивать глупости. В настоящее время недопустимой признается визуализация только некоторых патологических и неприемлемых вариантов сексуального поведения людей (во главе с педофилией) и военно-политических, локально охраняемых государственных секретов. В то же время типичны такие глупости, как паранормальные явления, начиная от телепатии и телекинеза, заканчивая ясновидением и астрологией, с ее многократно доказанной привлекательной ложью, а также переизбыток телевизионных зрелищ из Северной Америки по теме science fiction, в которых Вселенная предстает переполненной разумными (однако чаще всего глуповатыми) цивилизациями, с которыми Земля находится в конфликтах, легко переходящих в «звездные войны»; говоря в общем, Вселенная показывается как межкультурная гиперсупербойня, при этом роль в прошлом невинных (ибо, как и задумано, легко распознаваемых) реквизитов играют псевдонаучные приспособления: «тянущие» и уничтожающие лучи (tractor beam в Enterprise), художественно оформленные небылицы (Superman, Batman, Spiderman и т. п., с женскими «антисексистскими» вариантами); кроме того, любимая тема кинематографистов — криминальные расследования, в которых все «начинается с трупа», а далее речь идет о транспортировке наркотиков, нападениях, похищении заложников, поиске взрывных устройств, управляемых (часто) на расстоянии, и т. п. Репертуар полностью диктуется «зрительскими предпочтениями» аудитории, желания которой практически полностью отслеживают исследовательские приспособления (как Einschaltquoten в Германии). Количество загадок и тайн, действительно заслуживающих внимания как на Земле, так и в космосе, огромно, но не они привлекают продюсеров и сценаристов, словно люди хотят смотреть только на летающие тарелки и агрессивных космических пришельцев. С точки зрения того, что условия диктует рынок, а королем рынка является касса, на раскрепощенность воображения кинематографистам наложены мощные ограничения. Все работают на кассу, и здесь уже не до разума или хотя бы до невинной сказочной мифологии. Само TV стало невероятным пожирателем, который перерабатывает почтенные легенды и сказки и, протащив через пресс упрощений, бомбардирует ими зрителей при помощи орбитальных передатчиков. Считаю, что слабые голоса протеста из уст немногочисленных психосоциологов ничего не решат. Всевозможную рекламу загрязняет НЕКОДИРОВАННАЯ сексуализация, ненавязчиво насаждающая похотливый привкус. Официально не провозглашается, что «телевидение призывает к преступлению и насилию», но мы движемся в этом направлении с нарастающим ускорением.

3

Во-вторых, информацию в научно-популярных периодических изданиях (французский «Science et Vie», американские «Scientific American», «Discover», «American Scientist», «Astronomy») далеко не всегда следует принимать на веру — хотя бы потому, что она зачастую имеет типичный налет сенсационности, чтобы «было вкуснее». С этой целью живущие исключительно в какой-нибудь более или менее профессиональной голове идеи, проекты, надежды, или откровенно выдуманные под влиянием сиюминутной моды явления (квантовый компьютер, работающий в «безвременьи»), гипотезы, противопоставляемые важным достижениям того или иного направления науки, полученные не из исследовательского материала, а высосанные из пальца или взятые с потолка, можно найти на страницах таких периодических изданий, а в последнее время и «добраться» до их тематического пространства через Интернет. Очевидно, что новые гипотезы, укрепляющие сердцевину научной точки зрения, появляться должны, но не в ореоле разукрашенного и наглого рекламирования, которое заменяет надежность экспериментов видением чудесно приближающейся эры «посткомпьютерных самоусовершенствований». Идеи, направленные к милитаризму и к исходящим из космоса угрозам нашей планете, а также панроботизационные пророчества вдалбливаются нам через глаза в головы, подобно тому, как корма впихиваются в туши несчастных гусей: им — чтобы печень подверглась патологическому ожирению, нам — чтобы посмотрели, приобрели, прочитали и поверили. Ясно, что периодические издания, которые имеют особенно далекое отношение к правде, я вообще не упоминаю. Но в то же время пристального внимания заслуживает ежемесячник «Природа» Российской Академии наук, несмотря на фатальное падение тиража: с 80 тысяч во времена СССР до тысячи в настоящее время. Однако уровень публикаций не стал ниже. Кстати, печальная история российских ученых и науки сталинских времен обнажается и в «Природе» — ибо сейчас говорить об этом уже можно.

4

Таким образом, информации все больше. Усиливается степень искажения и превознесения успехов точных наук (физики, космогонии, космологии), а если удастся клонировать мышей, овец или телят, наверняка последуют — я не осуждаю, а просто сообщаю — уверенные заявления, что медики скоро научатся выращивать не только человеческие органы, предназначенные для пересадки (или «запасные части»), но и целиком людей. Модной также является болтовня о подключаемых к нашему мозгу чипах, которые сделают из поедателей хлеба разносторонних гениев. Лично я от этого страдаю, так как подобные банальности загрязняют мне, как подключенному (К СОЖАЛЕНИЮ) к Интернету, сервер. Беда в том, что нет «электронного носа» для отсева пустых утверждений от тех, что со временем станут истинными, и тем самым каждый из нас обречен делать выбор, руководствуясь собственной интуицией. Могу привести конкретный пример такой интуиции. Исследования геномов выявили, что структурные гены, позволяющие синтезировать конкретные белки, составляют лишь несколько процентов от всех генов, а остальные 90 с лишним процентов названы «junk ДНК» — мусор, или ничего не кодирующие пассажиры-зайцы (по-немецки Trittbrettfahrer). Мне такая диспропорция между видами генов сразу показалась невозможной: что-то «мусор» делает — так я считал. Но в последнее время их называют уже по-другому. Это уже не «мусор», а «гены-микроспутники», выполняющие посреднические, но при этом конкретные и конечные функции: они сами не управляют синтезом белков (например, энзимов), результатом их деятельности является формирование конструктивной целостности организма. (Российские ученые, еще не понимая, чему служит «мусор», назвали его элементом «концертной эволюции», так как длинные секвенции генов-микроспутников тождественно повторяются в геномах как лейтмотив в симфонической партитуре.) Очень трудно предвидеть такой прогресс взглядов, основанный на результатах исследований, и трудно признать «прогностическую интуицию» чем-то, чему можно обучать.

5

В самом конце нашего столетия начали появляться совершенно новые космогоническо-космологические гипотезы, плохо воспринимаемые обычным «здравым рассудком». Но этот рассудок неполный миллион лет назад сформировали первые этапы антропогенеза, так что для понятия Всего он не годится. Поэтому математические методы, которые позволяют нам осознавать мир, я называл «белой тростью слепца». Сейчас похоже на то, что мы возникли после многих, продолжавшихся тысячелетиями попыток человекоформирования организмов отряда Высших (Primates), то есть из подсемейства гоминоидов (hominoidea). Подсемейство это включает антропоидов и гоминидов, но я не уверен на сто процентов, что эта таксономия нашего происхождения окончательно установилась. В настоящее время более или менее хорошо можно исследовать межвидовые различия (неандерталец — питеканроп — Homo habilis — sapiens, и подобные) благодаря новым достижениям науки: геномы можно реконструировать на основе палеонтологического материала — окаменевших метаморфических останков ископаемых скелетов (впрочем, есть специалисты, отрицающие возможность распознания отличий в происхождении видов, основанных исключительно на данных палеогенетики). Математика, однако, — и это не только мое мнение, — не является методом исследования, способным привести нас к «окончательной истине». Нет исчерпывающего объяснения существованию 61 элементарной частицы, так как они не хотят «вылущиваться» из какой-либо единой теории, и недавно «размножили» нейтрино, например есть уже «нейтралино», но не известно также, не является ли поиск этой единой теории поиском черной кошки в темной комнате, когда не ясно, есть ли эта кошка вообще. Такие же «пульсации» переживает классическая модель космогонии, с Большим Взрывом и фазой инфляционного расширения. На полях сражений космологов с проблемой «начального состояния» можно только скромно заметить, что математизация, даже позволяющая со структурной точностью ПРЕДСКАЗАТЬ фазы явления, которое должно наступить, гарантией истинности быть не может, так как можно A) математизировать ПРИБЛИЖЕНИЯ, «апроксимации», которые иногда могут быть прогностически плодотворными, и B) могут быть пророчески плодотворными, но только частично, и дальнейший прогресс делает их анахронизмами (пример: мир Ньютона — мир Эйнштейна). Я не вижу конца этому пути, то есть не вижу конца науки.

6

Кроме этого, командовать парадом начинают: А) теория хаоса (нелинейная или частично линейная) — небольшое начальное изменение приводит к неохватно большому разброду в последствиях (конечному), В) уже противоречивая теория катастроф, С) насыщенная поправками неодарвиновская теория естественной эволюции. Значение имеет следующий вывод из этого разнообразия: человек всегда исходил из как можно более простого предположения (и эстетично употребительного), а затем, продолжая познавательское движение, был вынужден все больше усложнять первоначально созданный образ. Сложность постоянно растет во всех областях сферы познания, иногда скучно и бесплодно, как гуманитарные «моды». Недавно я с удивлением следил за диалогом философа и теолога, рассуждавших о том, откуда берется индивидуальное человеческое чувство осознания личности, откуда берется «Я». Неврология, подкрепленная исследованиями патологий, уже получила много результатов для естественнонаучного ответа, хотя еще и не все. Однако в собеседники старались не касаться эмпирических исследований. Фома Аквинский мог бы с полным пониманием следить за их раннесредневековой риторикой. А в то же время душа понемногу начинает уступать эрозийному натурализму, результату медико-невролого-психиатрической патологии. Искренне же наивным хвастовством являются все чаще встречающиеся заявления, что скоро будет построен кот-робот и что от кота-робота до разумного робота дорога будет не слишком длинной. Это неправда. Роботизированный кот будет наверняка мурлыкать, но из мышей, которых он не поймает, никто паштета не изготовит. Наша современность удивительно влюблена во всякую дешевую серость и лишь бы какое искусство, например упаковывание соборов или башен и мостов в бумагу. Если можно ВСЁ представить как искусство, то искусство уже нигде нельзя будет найти.

7

Таким образом, ускоренный взрыв мегабитовой бомбы превращается на моих удивленных глазах в гига— или терабитовый взрыв, в котором небольшие осколки «неизбитой правды» (например, смертность всех нас) взмывают в небо как мыльные пузыри. А выхватыванию «того, что существенно» служит у человека около ста миллиардов нейронов (хотя никто этого точно не подсчитал; меня учили десятилетиями, что в черепной коробке у нас «только» 12 миллиардов нейронов). Это и есть то волшебное зеркало, в котором отразится весь мир. Незнания начальных данных никто стыдиться не должен, особенно философ, копающийся в прошлом нашего вида. Демографическая бомба скорее всего не взорвется, так как рождаемость в мире уменьшается (хотя и неравномерно). В то же время информационная бомба уже взорвалась и находится в состоянии разлета осколков. Сеть связи не поможет. А artileс? Украшенная новыми названиями или прозвищами, искусственная интеллектуальность, перво-наперво заметим, не существует, а если и возникнет, то с многочисленными упрощениями. Может, это и лучше, что ее пока нет.

8

В качестве проводника, указывающего основные направления эпистемы, не помешало бы новое издание труда под названием «Энциклопедия неведомого» («Encyclopaedia of Ignorance»); первое издание, nota bene еще не совсем устаревшее — с семидесятых годов, — у меня есть на столе. Обозначались в нем проблемы, на которые мы еще не имеем ответа, или сами проблемы были плохо поставлены. Впрочем, и полностью признанные неважными заслуживают внимания, так как и на ошибках можно доучиваться. Я уже вспоминал о бледном доказательстве «невычислительности» (transcomputability) компьютеров произвольной информатической мощности Г. Бреммермана (H. Bremmerman): невозможность, которую он считал доказанной постулатами физики твердого тела с подкреплением солидной математики, была опровергнута биогенетической алгоритмизацией, идущей от естественной эволюции. Манфред Эйген (Manfred Eigen) говорил мне, что в науке «никогда не следует говорить НИКОГДА». Можно, конечно, говорить о неосуществимости того, что in abstracto возможно. Считаю, что человечество никогда не объединится, а это было бы последним условием для начала реализации идеи, которую доминиканец O. Dubarle выдвинул в 1948 году в «Le Monde» после появления «Кибернетики» Норберта Винера, а именно для конструирования «машины, управляющей всем миром». Ни простые люди не согласятся на такого Хозяина Земли, ни a fortiori политики, от которых, как от руководителей, сверх их умственных способностей и талантов возросла зависимость человеческого бытия. Что в целом не уменьшило их амбиций или желания обладать властью.

9

ХХI век будет иным, чем его многочисленные предвидения, украшенные жемчужинами удивительных идей. Возможно, он будет более жестоким по сравнению с нашим кровавым столетием. То, что изначально глобально, плохо подлежит предсказаниям (как распад СССР, триумф биотехнологии или объединение в сеть всей связи мира). Может быть, мир действительно не имеет края, но мы сами пропасть, а поэтому край создадим.