Стеклянная клетка. Автоматизация и мы

Этот вопрос издавна занимал людей, строивших частные и общественные здания. Если авиаторы были первыми, кто профессионально столкнулся с мощью автоматизации, то несильно отстали от них архитекторы и строители. В начале шестидесятых годов инженер из Массачусетского технологического института Айвен Сазерленд, занимавшийся усовершенствованием компьютеров, изобрел sketchpad – блокнот для набросков. Это было революционное программное приложение, предназначенное для рисования и черчения, первый графический интерфейс. Его изобретение заложило основу разработки систем автоматизированного проектирования (computer-aided design, CAD). После того как программы CAD были приспособлены для установки на персональные компьютеры (это произошло в восьмидесятые годы), их стали широко использовать для создания двухмерных рисунков и трехмерных моделей. Они стали незаменимым инструментом в работе архитекторов, не говоря уже о дизайнерах, художниках-графиках и гражданских инженерах. К началу XXI века, по меткому замечанию покойного декана архитектурного факультета MIT Уильяма Митчелла: «…работа архитектора без программ автоматизированного проектирована стала такой же немыслимой, как письмо без текстовых процессоров» [29]. Новое программное обеспечение коренным образом изменило процесс, характер и стиль проектирования.

Зодчество – профессия изысканная. Она требует художественного чувства прекрасного в сочетании с ремесленническим вниманием к функциональным деталям и одновременно понимания финансовых, технических и других практических ограничений. «Архитектура находится на стыке искусства и антропологии, обществоведения и точных наук, техники и истории, – говорит итальянский архитектор Ренцо Пиано, проектировавший Центр Помпиду в Париже и главное здание The New York Times на Манхэттене. – Иногда она кренится в сторону гуманизма, а иногда – в сторону материализма» [30]. Работа зодчего связывает смелое воображение и трезвый расчет – два способа мышления, часто противоречащие друг другу и даже вступающие между собой в непримиримый конфликт. Так как большинство из нас проводит бо́льшую часть жизни в искусственных постройках, созданные людьми дома кажутся нам более естественной средой обитания, нежели дикая природа. Архитектура оказывает на нас глубокое, не всегда осознаваемое влияние. Хорошая – возвышает человека, а плохая или заурядная – унижает и обесценивает его жизнь. Даже такие, казалось бы, малозначительные детали, как размер и положение окон или устройство вентиляции, могут оказать большое воздействие на эстетику, функциональность и удобство дома, а также на настроение его обитателей. «Сначала мы придаем форму нашим домам, – заметил как-то Уинстон Черчилль, – а потом дома придают форму нам» [31].

Несмотря на то что порождаемые компьютерами планы зданий могут привести к подчинению человека, в целом такие программы все же делают работу градостроителей более эффективной. Системы автоматизированного проектирования ускоряют и упрощают подготовку проектной документации и облегчают пересылку планов строительства клиентам, инженерам, подрядчикам и правительственным чиновникам. Производители могут теперь пользоваться файлами систем автоматизированного проектирования для того, чтобы программировать своих роботов на изготовление нужных деталей, что позволяет быстро модифицировать производство в соответствии с техническими требованиями, а также экономить на вводе данных и контроле точности этого введения. Такие системы дают архитекторам полное представление о сложном проекте, позволяя одновременно видеть поэтажный план, фасады, материалы, а также расположение электропроводки, отопления, охлаждения и водопроводных труб. Эффекты внесенных изменений становятся видны сразу, что невозможно, если проект представляет собой огромную кипу бумажных чертежей. Пользуясь способностью компьютера мгновенно вводить в вычисления любые переменные и в любых количествах, архитектор может точно оценить устойчивость здания при различных внешних условиях. Все это помогает лучше удовлетворять требованиям строителей и общества в целом. Трехмерные компьютерные изображения и анимация оказались неоценимыми средствами, позволяющими реально увидеть интерьеры и фасады проектируемого здания. Клиенты могут совершить виртуальный обход или облет здания еще до начала строительства.

Помимо практических выгод, системы автоматизированного проектирования позволяют архитекторам и инженерам поэкспериментировать с новыми формами, конструкциями и материалами. Здания, существовавшие прежде только в воображении авторов, стало возможно построить, например «Музыкальный проект» Фрэнка Гери[21] или городской музей Сиэтла, выполненный в виде тающих на солнце восковых фигур. Их было бы невозможно построить без компьютеров. Несмотря на то что первоначально Гери сделал модель будущего здания из дерева и картона, ее сложные и текучие формы в реальности было бы немыслимо воплотить вручную. Дизайн потребовал мощной системы автоматизированного проектирования, созданной французской фирмой Dassault, разрабатывающей новые поколения самолетов. Эти системы могут отсканировать модель, перевести картинку в цифровую форму и выразить числами и формулами всю ее капризную сложность. Материалы для строительства оказались столь разнообразны, а их форма настолько сложна, что и этот процесс пришлось автоматизировать. Тысячи панелей, изготовленных из нержавеющей стали и алюминия, были выточены согласно чертежам, рассчитанным программой. Эти чертежи в цифровой форме вводились в автоматические, управляемые роботами станки.

Фрэнк Гери – современный архитектор, но его привычка создавать вручную первоначальные модели кажется многим архаичной. После того как молодые специалисты становятся виртуозами в работе с компьютерным проектированием и моделированием, программы автоматизированного проектирования превращаются из инструмента воплощения идей в план строительства, в инструмент создания самого дизайна. Технология параметрического проектирования, использующая алгоритмы для расчета формальных взаимоотношений между различными элементами дизайна, становится стержнем творческого процесса. Используя табличный способ представления программных скриптов, архитектор-программист вводит в компьютер последовательность математических правил (параметров), например отношение площади окон к площади пола или формулы искривленных поверхностей, а затем машина сама выдает готовый проект.

Параметрическое проектирование привело к созданию нового стиля в архитектуре, названного параметризмом. Он отвергает классическую архитектуру и вольно компонует вместе барочные и футуристические формы. Некоторые традиционалисты считают его безвкусной фантазией и разносят в пух и прах. Например, нью-йоркский архитектор Дино Маркантонио утверждает: «Продукция параметризма – это не более чем уродливые кляксы, которые любой человек может без усилий скомпоновать на компьютере» [32]. Более умеренная критика прозвучала из уст журналиста Пола Голдбергера, который написал в The New York Times: «…хотя завитки, изгибы и развороты цифрового дизайна и могут оказаться в какой-то степени привлекательными, они все же часто бывают связаны лишь со своей собственной, порожденной компьютером реальностью» [33]. В отличие от этих критиков, некоторые молодые специалисты считают параметризм вкупе с другими формами компьютерного дизайна определяющим течением современной архитектуры, ее движущей силой. В 2008 году, на Венецианском архитектурном бьеннале, директор влиятельной лондонской фирмы Zaha Hadid Патрик Шумахер обнародовал «Манифест параметризма», в котором провозгласил его величайшим из современных стилей после модернизма. «Благодаря компьютерам, – утверждает Шумахер, – строительные конструкции вскоре будут представлять собой расходящиеся волны, слоистые потоки и спиральные водовороты, напоминающие движущуюся жидкость. …Толпы зданий будут плыть по ландшафту в полной гармонии с динамическими толпами человеческих тел» [34].

Превратятся ли в явь эти гармоничные толпы или нет, неизвестно, но противоречивые оценки параметризма выдвинули на первый план поиски души в архитектуре, которые начались сразу после появления автоматизированного проектирования. С самого начала стремление освоить проектирующие программы омрачалось сомнениями и тревогой. Многие влиятельные архитекторы с мировым именем предупреждали, что избыточное увлечение компьютером сузит кругозор профессионалов, приведет к деградации их творческого таланта. Например, Ренцо Пиано, с одной стороны, признаёт, что ЭВМ стали неотъемлемой частью практической архитектуры, но, с другой – опасается, что это приведет к перепоручению людьми своей работы компьютерам. Несмотря на то что автоматизация позволяет архитектору очень быстро делать точные, выверенные трехмерные модели зданий, сама эта быстрота делает ненужным долгий и мучительный процесс поисков, в результате которых только и появляются самые вдохновенные проекты. Шарм, рождающийся, словно по мановению волшебной палочки, на экране модели, может оказаться соблазнительной иллюзией. «Понимаете, – говорит Пиано, – компьютеры становятся такими умными, что начинают напоминать механические пианино, на которых вы нажимаете одну клавишу, и инструмент дальше сам играет ча-ча-ча или румбу. Вы можете вообще не уметь играть, но будете чувствовать себя великим пианистом. То же самое происходит теперь в архитектуре. У вас возникает иллюзия, будто, нажав одну кнопку, вы сможете построить все что угодно. Но она требует мышления и в какой-то степени определенной медлительности. Для создания проекта нужно время. В компьютерах плохо то, что они все на свете делают очень быстро» [35]. Архитектор и критик Витольд Рыбчинский придерживается того же мнения. Воздавая должное технологическим прорывам, он тем не менее считает, что сумасшедшая производительность компьютеров имеет свою цену – мастер не столько думает, сколько тычет пальцами в клавиатуру» [36].

Архитекторы всегда считали себя художниками, и до появления систем автоматизированного проектирования источником их искусства был рисунок. Сделанный от руки набросок и компьютерная графика похожи только в одном – они предназначены для того, чтобы продемонстрировать идею. Эскиз позволяет зримо представить проект. Но сам акт рисования – это способ мышления. «Моего воображения не хватит на то, чтобы описать идею, если я ее не нарисую, – говорит архитектор-модернист Ричард Маккормак. – Я пользуюсь рисунком как в процессе критического разбора, так и в поисках открытия» [37]. Рисование перебрасывает мостик между абстракцией и реальностью. «Изображение здания от руки – это не просто конечный продукт, а часть обдумывания проекта, – говорит известный архитектор и дизайнер Майкл Грейвс. – Рисунок – это выражение взаимодействие разума, глаза и руки» [38]. Философ Дональд Шён идет еще дальше и пишет: «Архитектор беседует со своими рисунками, предаваясь рефлексии. Это диалог с реальным материалом постройки» [39]. В результате взаимодействия руки, глаза и ума идея принимает определенную форму, и творческая искра зажигает пламя, которое освещает медленный путь плодов воображения в реальный мир.

Интуитивное чувство опытных архитекторов, подсказывающее им, что эскиз – это центральный элемент творческого мышления, который подкрепляется научными исследованиями когнитивных основ и эффектов рисования. Сделанный на бумаге рисунок приводит к увеличению емкости рабочей памяти, позволяя его исполнителю запоминать разные варианты замысла. В то же время сам физический акт рисования, требуя зрительного напряжения и осознанной моторики мышц кисти, способствует также и расширению емкости долговременной памяти. Это помогает архитектору надолго запоминать прежние наброски и эскизы и не повторяться в поиске удачного решения. «Рисунок – это средство напоминания об идее, что в первую очередь заставляет меня рисовать» [40]. Воображение на бумаге позволяет архитектору быстро переходить с одного уровня детализации на другой, а также пользоваться разнообразными абстракциями, рассматривать рисунок одновременно с разных точек зрения и оценивать воздействие внесенных изменений на общий вид строения. «С помощью изображения, – пишет британский дизайнер и ученый Найджел Кросс в книге “Конструкторский способ познания” (“Desinery Ways of Knowin”), – архитектор не только постепенно продвигается к окончательному решению, но и проясняет суть тех проблем, которые ему приходится решать. Эскизы включают в себя рисунки предполагаемых вариантов пробной концепции, но также числа, символы и текст. Рисование от руки дает возможность исследовать пространство проблем и пространство решений одновременно. …В руках талантливого архитектора блокнот становится своего рода усилителем интеллекта» [41].

Рисование можно назвать мануальным мышлением. Оно является одновременно тактильным и церебральным, то есть зависит от руки так же, как и от мозга. Акт рисования таинственным образом отпирает темницу молчаливого знания. Этот мистический процесс вообще очень важен для художественного творчества, каковое просто невозможно за счет одного только сознательного действия. «Дизайнерское искусство – это знание в действии, – замечает Шён. – Оно по большей части молчаливое и скрытое. … Профессионалы (а иногда это единственный способ) получают доступ к своим собственным скрытым знаниям, когда начинают создавать произведение, выражая его телесным языком» [42]. Проектирование с помощью компьютерных программ – это тоже созидание, но оно пользуется иным языком, выдвигая на первый план формальную сторону работы: функциональные требования к зданию и оптимальной компоновке его фрагментов, им отвечающей. Устраняя физический процесс рисования от руки, компьютер избавляет архитектора от физического усилия, а заодно сужает его кругозор. «Вместо органичных телесных фигур, рождающихся на кончике карандаша или угольного стержня, программа автоматизированного проектирования, – утверждает Шён, – выдает символические, ограниченные определенной процедурой формы, которые могут оказаться неполными и неадекватными реальной конструкции» [43]. Так же, как экран GPS-навигатора губит восприимчивость эскимосского охотника к живым сигналам Арктики, экран системы автоматизированного проектирования притупляет восприятие архитектора и понимание материальности работы. В обоих случаях реальный мир съеживается.

В 2012 году на архитектурном факультете Йельского университета (Yale University) прошел симпозиум «Умер ли рисунок?». Само название отражает растущее ощущение того, что искусство архитектурных эскизов отступает под натиском компьютера. Переход от блокнота к экрану уничтожает, по мнению многих архитекторов, сам акт смелого творчества. Из-за точности и очевидной полноты экранного изображения специалист, работающий на компьютере, с самого начала «прилипает» к нему. Быстрота компьютерного исполнения чертежей и эскизов лишает его возможности исследовательской игры, возникающей вследствие неопределенности и непредсказуемости мануального рисунка. Ученые называют этот феномен «преждевременной фиксацией» и видят его причину в нежелании вносить изменения в проект после того, как он очень быстро наполнился большим количеством взаимосвязанных деталей, созданных системой автоматизированного проектирования [44]. Работающий за компьютером архитектор, кроме того, склонен к формальному экспериментированию, жертвуя ради этого выразительностью. «Ослабляя личную, эмоциональную привязанность зодчего к своему творению, – утверждает Майкл Грейвс, – программы автоматизированного проектирования производят эскизы, которые, будучи сложными и, надо сказать, интересными, часто лишены эмоционального содержания, неизбежно возникающего при рисовании от руки» [45].

Выдающийся финский архитектор Юхани Палласмаа высказывает сходные мысли в талантливой и красноречивой книге «The Thinking Hand» («Мыслящая рука»),[22] вышедшей в 2009 году. Палласмаа утверждает, что растущая зависимость от компьютеров мешает архитекторам представить себе человеческие свойства проектируемых зданий. В процессе создания проекта архитектор не успевает заселить его людьми и представить себе, как они будут жить в построенном доме. Палласмаа считает: «Мнимая точность и законченность компьютерного изображения могут притупить эстетическое чувство архитектора, привести к созданию технически безупречных, но эмоционально стерильных проектов. …В рисовании карандашом или пером рука следует за очертаниями, формами и узорами предмета, а при манипулировании порожденным компьютером изображением она только выбирает линии из данного набора символов, не имеющих эмоциональной связи с предметом» [46].

Споры относительно использования компьютеров в дизайнерских профессиях, естественно, продолжаются, и каждая сторона отстаивает свою правоту с помощью изощренных и убедительных аргументов. Будет развиваться и совершенствоваться и программное обеспечение компьютерного дизайна, что позволит преодолеть некоторые нынешние ограничения и недостатки существующих программ. Но какие бы сюрпризы ни преподнесло нам будущее, опыт архитекторов и дизайнеров говорит о том, что компьютер ни в коем случае не является нейтральным рабочим инструментом. Он всегда влияет – хорошо или плохо – на способ мышления человека. Характер и цели работы, так же как стандарты, согласно которым она оценивается, начинают определяться возможностями машины. В каждом случае, когда дизайнер или любой мастер становится зависимым от компьютерной программы, он одновременно принимает заложенные в нее концепции. Со временем человек начинает ценить только то, на что способна программа, а то, чего она делать не может, он отбрасывает как неважное, несущественное или просто немыслимое. Если он не приспособится к машине, то рискует лишиться профессии.

Помимо спецификации программных продуктов, сам перенос ра– боты из реальности на экран уже меняет взгляды архитекторов. Большее внимание теперь уделяют абстракции, а не материальности проекта. Вычислительные методы совершенствуются, чувственная составляющая исчезает. Точность и прозрачность берут верх над предварительными умозаключениями и неопределенностями. Э. Дж. Мид, основатель небольшой архитектурной фирмы Arch11 в Боулдере (Колорадо), всячески превозносит эффективность систем автоматизированного проектирования, но и он выражает озабоченность тем, что такие популярные программы, как Revit и SketchUp, становятся навязчиво предписываемыми. Архитектору надо лишь ввести в компьютер размеры стены, пола или другой поверхности, и после нажатия клавиши программа выдаст все: чертеж поверхности, ее границы, расположение бетонных блоков или кафельных плиток, всех несущих конструкций, места заложения герметиков, состав раствора и текстуру штукатурки. Мид считает, что труд архитекторов превращается в заурядную деятельность, а все здания, которые они проектируют, становятся предсказуемыми и выглядят на одно лицо. «Если вы полистаете архитектурные журналы восьмидесятых годов, – сказал мне Мид, – то во всех статьях увидите неповторимый почерк каждого архитектора» [47].

Так же как и врачи, многие опытные дизайнеры опасаются, что растущая зависимость от автоматизации будет все больше и больше мешать студентам, в том числе молодым архитекторам, постигать тонкости профессии. Джекоб Брильхарт, профессор архитектуры из Университета Майами (The University of Miami), считает, что упрощенные решения, предлагаемые такими программами, как Revit, подрывают сам процесс обучения. «Надежда на программу, которая наполнит работу деталями и предложит материалы для строительства, плодит банальные, ленивые и безличные проекты, лишенные интеллекта, воображения и эмоций», – выражает свою озабоченность профессор. Повторяя, как эхо, жалобы врачей, он видит, что в его профессии побеждает культура «вырезания и вставок», когда молодые архитекторы извлекают детали, фасады и стенные секции из хранящихся в сервере прошлых проектов и просто заново их компонуют [48]. Из-за этого нарушается связь между действием и искусством.

Опасность, нависшая над творческими профессиями, заключается в том, что дизайнеры и художники, очарованные нечеловеческим быстродействием компьютеров, их точностью и эффективностью, со временем начнут воспринимать это как данность, будут считать, что автоматизированное проектирование – это наилучший способ. Они согласятся на дьявольскую сделку, став покорными слугами программ. Такие архитекторы пойдут по пути наименьшего сопротивления, не понимая, что только сопротивление и трудности – пусть даже и небольшие – могут порождать хорошие проекты и пробуждать в специалистах их лучшие качества.

«Чтобы понять, как завязывать шнурки, – говорит политолог и мотоциклетный механик Мэтью Кроуфорд, – надо завязывать шнурки». Вот простая иллюстрация этой нехитрой истины, которую Кроуфорд излагает в своей книге «Shop Class as Soulcraft» («Мастерская как школа воспитания души»), вышедшей в 2009 году: «Если мышление неразрывно сплетено с действием, то решение задачи адекватного интеллектуального понимания мира зависит от наших созидательных действий в нем» [49]. Здесь Кроуфорд ссылается на работы немецкого философа Мартина Хайдеггера, который считал, что «глубочайшая форма понимания доступна нам не в виде исключительно перцепционного[23] познания, но только как результат действия, дающего опыт» [50].

Мы склонны думать, что труд познания отличается от физического труда и даже несовместим с ним – признаю, что и сам я отдал дань этой тенденции в первых главах книги, – но это разграничение отдает снобизмом и является надуманным. Любой труд – это труд познания. Мозг плотника во время работы занят не меньше, чем мозг математика. Достижения архитектора зависят от тела и его ощущений не в меньшей степени, чем успехи охотника. Наше сознание не запечатано в черепе, а распространяет свое влияние по всему телу. Мы думаем не только мозгом, но глазами и ушами, носом и ртом, конечностями и туловищем. Если используем для работы инструменты, то начинаем думать и ими. «Мышление или познание – это не задумчивое сидение в кресле, как думают многие, – писал американский философ и общественный деятель Джон Дьюи в 1916 году. – Руки и ноги, аппараты и приспособления всякого рода суть такие же равноправные орудия познания, как и процессы в нашем мозгу» [51]. Действовать – значит думать, а думать – значит действовать.

Наше стремление отделить умственное рассуждение от телесных усилий есть следствие картезианского дуализма,[24] до сих пор довлеющего над нами. Думая о мышлении, мы быстро определяем место, где оно осуществляется, и осознаём нашу самость, помещая его в серое вещество мозга и рассматривая наше тело лишь как некую механическую поддерживающую систему, дающую энергию для разрядов нервных клеток. Этот дуализм взгляда на разум и тело как на сущности, работающие изолированно друг от друга, суть не просто фантазия таких философов, как Декарт и его предтеча Платон, но побочный эффект работы самого сознания. Несмотря на то что бо́льшая часть работы мозга остается «за сценой», прячась в тени подсознания, мы находимся в плену очарования маленького, но зато ярко освещенного окна, открытого нам сознанием, и вот оно-то и убеждает нас, что не имеет ничего общего с телом.

По мнению психолога Мэтью Либермана, профессора Калифорнийского университета в Лос-Анджелесе (University of California, Los Angeles), эта иллюзия проистекает из того факта, что мы, рассматривая наше тело, пользуемся одной частью мозга, а рассматривая разум и сознание – другой. «Когда мы думаем о теле и его действиях, мы привлекаем для этого префронтальные и теменные участки коры правого полушария большого мозга, – объясняет профессор. – Когда же думаем о разуме, то пользуемся частями, расположенными ближе к средней линии, на стыке правого и левого полушарий». Если ощущения, переживания и опыт анализируются разными участками мозга, то сознающий разум, соответственно, делит их на разные категории. «Несмотря на то что эта анатомически встроенная иллюзия не отражает природных различий, – подчеркивает Либерман, – она тем не менее является для нас непреложной психологической реальностью» [52].

Чем больше мы познаём себя, тем лучше понимаем, насколько сильно может вводить нас в заблуждение эта «реальность». Одной из наиболее интересных и отрезвляющих областей современной психологии и нейрофизиологии является так называемая внутренняя когнитивистика (наука о встроенных процессах познания). Современные ученые подтверждают прозрения Джона Дьюи, высказанные им сто лет назад: «Мозг и тело не только составлены из одной материи, но их функции переплетены между собой теснее, чем нам кажется. Биологические процессы, составляющие основу мышления, возникают не только из нейронных вычислений мозга, но и из действий и сенсорных восприятий всего организма как целого». «Вот, например, – пишет Энди Кларк, философ из Эдинбургского университета (University of Edinburgh), активно занимающийся вопросами внутренней когнитивистики, – есть достаточно убедительные доказательства того, что, жестикулируя во время разговора, мы уменьшаем когнитивную нагрузку на мозг, а биомеханика мышц и сухожилий ног существенно облегчает проблему контроля над ходьбой» [53]. Сетчатка, как показывают недавние исследования, не является пассивным сенсорным органом, посылающим в мозг сырые, необработанные данные, как считали до последнего времени. Напротив, она активно обрабатывает то, что мы видим. У глаза есть свой ум, своя смекалка [54]. Даже наши сугубо концептуальные размышления приводят в действие сенсорные и двигательные системы тела. Когда мы абстрактно или метафорически мыслим о предметах или явлениях окружающего нас мира – о ветвях деревьев или порывах ветра, – мы ментально воспроизводим или имитируем наш физический опыт взаимодействия с этими предметами и явлениями [55]. «В существах, подобных нам, – утверждает Кларк, – тело, мир и действие являются сотрудниками той ускользающей от нашего понимания вещи, которую мы называем разумом» [56].

Вопрос о том, как распределяются когнитивные функции в мозгу, сенсорных органах и остальных частях тела, является пока предметом интенсивных исследований и оживленных дебатов, а некоторые более экстравагантные утверждения адептов внутренней когнитивистики о том, что индивидуальный разум вообще простирается за пределы организма, остаются противоречивыми и недоказанными. Ясно пока только одно: неверно и дальше отделять мышление от физического бытия, так же как отделять физическое бытие от породившего нас окружающего мира. «Ничто в человеческом опыте не остается нетронутым внутренними процессами, – пишет философ Шон Галлахер, – от простейших процессов восприятия и эмоциональных реакций, которые начинают протекать уже в младенчестве, до сложных взаимодействий с другими людьми; от усвоения и творческого использования языка до высших когнитивных способностей, включающих возможность понимать иносказания и формировать суждения; от проявления свободы воли в целенаправленных действиях до создания произведений искусства, помогающих людям лучше понять окружающий их мир» [57].

Идея внутренней когнитивистики, по мнению Галлахера, помогает объяснить, почему человеческий род проявляет такую невероятную способность к прогрессу техники. Настроенные на окружающую среду наш мозг и тело быстро включают орудия и другие предметы в мыслительные процессы и начинают трактовать их как часть собственного тела. Если вы ходите с тросточкой, работаете молотком или фехтуете на шпагах, то ваше подсознание включит эти орудия в нейронную карту тела. Способность нервной системы соединять тело и предметы не уникальна для человека. Обезьяны пользуются палками, чтобы добывать муравьев и термитов, слоны берут зеленые ветки для того, чтобы отгонять насекомых, дельфины, когда раскапывают морское дно в поисках пищи, пользуются губками, чтобы не поцарапаться о камни. Однако высшая способность Homo sapiens к осознанным умозаключениям и планированию позволяет нам конструировать изощренные орудия и инструменты для самых разнообразных целей, расширять наши ментальные и физические возможности. В нас заложена древняя склонность к тому, что Кларк определяет термином «когнитивная гибридизация», – к смешиванию биологического и технологического, внутреннего и внешнего [58].

Легкость, с которой мы делаем технологию частью самих себя, может обернуться против нас самих. Передача власти орудиям не всегда идет человеку на пользу. Величайшая ирония нашего времени заключается в том, что, несмотря на открытия ученых о важной роли, которую играют в развитии мышления и памяти навыки физического действия и сенсорное восприятие реальности, мы проводим все меньше времени в реальном мире и все больше – в абстрактной среде компьютерного экрана. Люди сами лишают себя функций собственного тела, накладывая сенсорные ограничения на бытие. В виде компьютеров общего назначения мы ухитрились (достаточно извращенно) создать инструмент, который украл у нас телесную радость работы с инструментами.

Наше интуитивное, но ошибочное убеждение в том, что интеллект работает независимо от тела, привело к пренебрежению реальным миром.

От этого суждения недалеко до уверенности в том, что компьютер является достаточным и к тому же превосходным инструментом, выполняющим работу мозга. Специалист из Google Майкл Джонс считает за данность, что благодаря картам Google и другим онлайновым приложениям компании IQ людей повысился на 20 баллов [59]. Обманутые нашим собственным мозгом, мы полагаем, что не жертвуем ничем жизненно важным, полагаясь на различные компьютерные программы: навигационные, проектирования зданий и другие, требующие развитого мышления и изобретательности. Хуже того, мы забыли о том, что существуют альтернативы, и игнорируем саму возможность перестроить компьютерные программы так, чтобы они не ослабляли наше восприятие мира, а усиливали его. Специалисты по эргономике и другие эксперты по автоматизации нашли способы разбить «стеклянную клетку», не уничтожая преимуществ, которыми наградили нас компьютеры.

Глава седьмая

Автоматизация для людей

Кому вообще нужны люди?

Этот вопрос в той или иной риторической форме неизбежно возникает в спорах об автоматизации. Если люди по сравнению с компьютерами выглядят медлительными, неуклюжими и склонными к ошибкам, то почему бы не построить безупречную самоуправляющуюся систему, которая функционировала бы без вмешательства человека, а заодно и без его промахов? Почему бы не исключить из уравнения человеческий фактор?

«Нам нужно все перепоручить роботам», – объявил теоретик по технологии Кевин Келли в 2013 году в статье, напечатанной в журнале Wired. Ссылаясь на авиацию, он заявил: «Компьютерный мозг, называемый автопилотом, может без всякой посторонней помощи управлять Boeing-787, но мы по какой-то иррациональной причине сажаем в кабину пилотов, чтобы на всякий случай следить за автопилотом» [1]. Новость о том, что автомобиль Google попал в аварию из-за того, что в тот момент машиной управлял человек, заставила одного из блогеров в сердцах воскликнуть: «Нужно больше роботов-водителей!» [2] Комментируя трудности, с которыми столкнулись общественные школы в Чикаго, обозреватель The Wall Street Journal Энди Кесслер полушутя заметил: «Почему бы нам не забыть об учителях? Вместо них надо снабдить каждого ученика iPad или планшетом с Android?» [3] В 2012 году уважаемый в Кремниевой долине венчурный капиталист Винод Кхосла предположил, что здравоохранение можно было бы значительно улучшить, если бы медицинская компьютерная программа (доктор Алгоритм, как назвал ее Кхосла) перестала быть помощником врача, а заменила бы его полностью. «В конце концов, – писал Кхосла, – отпадет нужда в среднем враче» [4]. Лекарством от несовершенной автоматизации объявляется тотальная автоматизация.

Идея соблазнительная, но от нее за милю отдает упрощенчеством. Машины наследуют пороки и заблуждения своих создателей. Рано или поздно любая, даже самая передовая технология отказывает, ломается или, как в случае компьютеризованных систем, сталкивается с ситуацией, которую не предвидели ни конструкторы, ни программисты. В этом случае алгоритм становится в тупик. В начале 2009 года, всего за несколько недель до катастрофы в Буффало, у аэробуса А320 компании US Airways отказали все двигатели из-за столкновения со стаей гусей при взлете из нью-йоркского аэропорта La Guardia. Действуя умело и хладнокровно, капитан Чесли Сулленбергер и его второй пилот Джеффри Скайлс смогли в течение трех решающих минут плавно посадить машину в реку Гудзон. С борта удалось снять всех пассажиров и экипаж. Если бы на борту этого А320 не было «нянек» в лице пилотов, то все, кто находился на борту, погибли бы почти неминуемо, ибо у пассажирских лайнеров все двигатели сразу выходят из строя очень и очень редко.

Но иногда пилоты спасают машины при механических поломках, отказах автопилота, плохой погоде и неожиданных событиях. «Снова и снова, – писал в 2009 году немецкий журнал Spiegel в статье о безопасности на воздушном транспорте, – пилоты автоматически управляемых самолетов сталкиваются с жуткими сюрпризами, предусмотреть которые не могли никакие инженеры» [5].

То же самое можно сказать и о положении в других отраслях. В прессе широко освещалось происшествие с Google-мобилем, за рулем которого сидел человек; но мы практически ничего не слышали о тех случаях, когда водители, сидевшие в автоматических машинах Google, брали на себя управление, если компьютер с ним не справлялся. Правила Google требуют ручного управления на улицах жилых кварталов, а каждый, кто хочет покататься на компьютерном автомобиле, должен пройти курсы экстремального вождения [6]. Автоматические автомобили не такие уж и самостоятельные, как кажутся.

В медицине специалистам часто приходится пересматривать инструкции или назначения, сделанные компьютерами. Руководство госпиталей обнаружило, что назначения ими лекарств, устранив некоторые общие расстройства организма человека, создали новые проблемы. Проведенное в 2011 году в одном из госпиталей исследование показало, что число случаев повторного назначения одних и тех же лекарств возросло после внедрения автоматизированной системы [7]. Диагностические программы тоже далеки от совершенства. В большинстве случаев доктор Алгоритм поставит вам правильный диагноз и назначит адекватное лечение, но если набор ваших симптомов отличается от стандартного, то вы будете благодарить судьбу за то, что в кабинете оказался доктор Человек, который исправил неудачные назначения компьютера.

Потенциальных источников ошибок становится больше по мере усложнения технологии автоматизации, увеличения числа перекрестных связей, объемов баз данных и сетевых протоколов. Системы подвергаются «каскадам отказов», в ходе которых небольшая поломка в каком-то одном звене приводит к катастрофическим последствиям, вызывая разлад всей системы. В 2010 году группа физиков писала в журнале Nature: «Человек живет в мире взаимозависимых сетей. Различные элементы инфраструктуры, такие, как водоснабжение, транспорт, заправочные станции и электростанции, – все это соединено в единую систему электроникой и другими средствами, что делает их в высшей степени чувствительными к случайным сбоям и ошибкам» [8].

Становится все труднее выявлять вероятность наступления таких нарушений. «В промышленных машинах прошлого, – объясняет научный сотрудник MIT Нэнси Ливсон в своей книге “Engineering a Safe Word” (“Создание безопасного мира”), – взаимодействие между деталями можно было надежно спланировать, понять и защитить, а всю конструкцию машины – полностью протестировать, прежде чем запускать ее в действие». Современные высокотехнологичные системы уже не обладают этими свойствами. Они стали менее управляемыми в интеллектуальном смысле, чем их предшественники, собранные с помощью болтов и гаек [9]. Все части машины могут работать безупречно, но небольшая ошибка в конструкции способна привести к непоправимой катастрофе.

Опасность еще более увеличивается из-за невероятной скорости, с какой компьютеры принимают решения и начинают действовать. Это было наглядно продемонстрировано ужасным утром 1 августа 2012 года, когда крупнейшая торговая фирма Уолл-стрит Capital Group запустила новую автоматизированную программу для покупки и продажи акций. В этой суперсовременной программе был небольшой изъян, оставшийся незамеченным во время ее испытаний. Программа немедленно вздула валютные курсы своими абсолютно иррациональными распоряжениями, продавая ежесекундно акции на 2,6 миллиона долларов. Через 45 минут, которые потребовались математикам и программистам для того, чтобы разобраться в проблеме и остановить это безумие, программа успела растранжирить 7 миллиардов долларов, поставив компанию на грань банкротства. Через неделю консорциум других фирм Уолл-стрит компенсировал убытки Capital Group, чтобы избежать катастрофы на финансовом рынке.

Естественно, технология не стоит на месте, а неисправности всегда устраняются. Но безупречность работы автоматизированных систем, увы, навечно останется недостижимым идеалом. Даже если инженерам удастся создать совершенную систему, то ей придется подстроиться под наш мир. Беспилотные автомобили поедут не по улицам города Солнца. Роботы работают не в райских кущах. По небу по-прежнему будут летать гуси, а из туч – сверкать молнии. Убеждение в том, что когда-нибудь будет построена абсолютно самодостаточная, надежная автоматизированная система, – это не более чем утопия. К сожалению, такая вера характерна не только для высоколобых технократов, но и для инженеров и программистов, создателей этих систем. В своей знаковой статье, напечатанной в 1983 году в журнале Automatica, Лизанна Бэйнбридж, профессор инженерной психологии из Лондонского университетского колледжа (University College London), сформулировала причину наделения компьютерных систем все бо́льшими задачами, заключающуюся в том, что создатели программ часто считают людей «ненадежными и неэффективными» по сравнению с компьютерами. Люди, таким образом, превращаются в наблюдателей, пассивных созерцателей экранов [10]. Исследования вигильности[25] операторов британских радаров, следивших за немецкими подводными лодками во время Второй мировой войны, показали, что даже высокомотивированный человек не способен внимательно следить за экраном монитора больше чем полчаса, если эта информация не меняется [11]. Людям становится скучно, они отвлекаются на посторонние мысли, концентрация внимания падает. «Это означает, – писала Бэйнбридж, – что человек физически не способен наблюдать за экраном, на котором долгое время не происходит ничего существенного» [12].

Поскольку навыки утрачиваются, если их не применять на практике, добавляет Бэйнбридж, то даже опытные операторы через некоторое время начинают работать как новички, если основная работа заключается в наблюдении, а не в действии. Инстинкты и рефлексы затухают, когда их не используют. У операторов возникают трудности с выявлением и оценкой возникающих проблем, а реакция на них становится медленной и обдуманной, исчезает автоматизм действий. В сочетании потери интереса к картинке с угасанием навыков кроется причина повышения риска нештатной ситуации, которая рано или поздно непременно произойдет. Как только это случается, разработчики аппаратуры вносят в нее усовершенствования, призванные еще больше ограничить роль оператора и тем самым усугубить вероятность его неверных действий. Убеждение, что человек является самым слабым звеном системы, становится принципом.

Эргономика – наука о правильной организации человеческого труда – восходит по меньшей мере к эпохе древних греков. Гиппократ в трактате «О вещах, относящихся к хирургии» помещает точные инструкции по поводу освещения и оснащения операционной, пишет, как надо раскладывать инструменты, пользоваться ими, и даже о том, во что должен быть одет хирург. В дизайне многих древнегреческих инструментов видны результаты размышлений о форме и весе инструмента, влияющих на производительность, выносливость и здоровье работника. В древних цивилизациях Азии мы тоже находим признаки приспособления орудий труда к физическому и психологическому удобству работника [13].

Однако лишь к моменту начала Второй мировой войны эргономика вместе с ее теоретической кузиной кибернетикой формально стала учебной и научной дисциплиной. Тысячам неопытных солдат надо было доверить сложное и опасное оружие и технику в условиях нехватки времени на обучение и тренировку. Благодаря Норберту Винеру и американским психологам Полу Фиттсу и Альфонсу Шапани, работавшим с личным составом ВВС, военные и промышленные специалисты научились понимать, что люди играют такую же существенную роль в успешной работе сложных технологических систем, как механические детали и электронные регуляторы. Невозможно создать машину, а потом – в духе Тейлора – заставить человека к ней приспособиться. Наоборот, надо конструировать машину, приспособленную к человеку.

Воодушевленные вначале патриотизмом и желанием внедрить компьютеры в торговлю, государственное управление и науку, большие коллективы психологов, физиологов, нейробиологов, инженеров, социологов и конструкторов начали обращать свои таланты и дарования на изучение взаимодействия людей и машин. Их внимание сосредоточивалось как на полях сражений, так и на производственных предприятиях, но цель была вполне гуманной: объединить людей и технологии в плодотворный, устойчивый и безопасный симбиоз, в гармоничное партнерство, позволяющее использовать лучшие свойства и качества обеих сторон.

Так, по крайней мере, должно быть. Однако слишком часто открытия и идеи эргономики, или, как ее сейчас называют, инженерной психологии, попросту игнорировали или, в худшем случае, душили на корню. Заботу о влиянии компьютеров и других машин на душу и тело человека обычно не берут во внимание из стремления добиться максимальной эффективности, скорости и точности или просто из желания получить как можно бо́льшую прибыль. Программисты, как правило, очень плохо знают эргономику и совершенно не интересуются достижениями инженерной психологии. Все усугубляется еще и тем, что инженеры и компьютерные специалисты, увлеченные математикой и логикой, не испытывают интереса к рассуждениям специалистов по эргономике. В 2006 году патриарх этой науки, Дэвид Мейстер, оглядываясь на свой жизненный путь, писал, что он и его коллеги всегда плыли против течения и внедрение достижений казалось им неожиданностью. «Ход технологического прогресса, – резюмировал он, – привязан к стремлению к прибыли; следовательно, прогресс мало задумывается о человеке» [14].

Так было не всегда. Люди впервые начали размышлять о техническом прогрессе как о движущей силе истории во второй половине XVIII века, когда научные идеи просвещения стали воплощаться в машиностроение. Не случайно то время стало эпохой политических потрясений. Демократические, гуманистические идеи просвещения увенчались революциями в Америке и Франции, и идеалы этих революций направили взгляды общества на науку и технику. Технические новшества высоко ценились (если не рабочими, то, во всяком случае, интеллектуалами) как средства политических реформ. Прогресс определяли в социологических понятиях, отводя технологиям вспомогательную роль. Такие мыслители просвещения, как Вольтер, Джозеф Пристли и Томас Джефферсон, видели цель развития новой науки и техники в том, чтобы они смогли стать инструментами разумного переустройства общества.

К середине XIX века реформистский взгляд на прогресс, по крайней мере в Соединенных Штатах, был оттеснен на второй план другим понятием прогресса, связанным именно с технологиями. «С дальнейшим развитием промышленного капитализма, – пишет Маркс, – американцы с непомерным пылом приветствовали развитие науки и техники, отделив его от целей социального и политического освобождения. …Вместо этого они устремили взгляд на инновации в наукоемких технологиях, которые сами по себе являются достаточным и надежным основанием прогресса» [15].

Едва ли стоит удивляться тому, что уже в наше время возможности компьютеров, как предполагала Бэйнбридж, определили разделение труда в сложных автоматизированных системах. Для увеличения производительности и снижения издержек на оплату труда контроль над самой разнообразной производственной деятельностью возлагают на компьютерные программы. По мере совершенствования их власть становится еще более всеобъемлющей. Чем больше технологии, тем лучше! Операторам из плоти и крови оставлены лишь те виды работ, до автоматизации которых пока не додумались составители программ, – вмешательство в производство в случае отказа автоматики. Людей все дальше и дальше оттесняют от «замкнутой петли» – от цикла, состоящего из действия, обратной связи и принятия решений в ходе текущих операций.

Специалисты по эргономике называют этот превалирующий подход автоматизацией, ориентированной на технологию. В результате почти религиозной веры в технологию и равного по накалу недоверия к человеку такая автоматизация заменяет гуманистические цели мизантропическими. Этот подход превращает беззаботную остроту мечтательных технофилов «кому вообще нужны люди?» в практическую этику программирования. В результате произведенные машины и программы прокладывают себе путь на предприятия и в дома, неся в жизнь человеконенавистнические идеалы. «Общество, – пишет Дональд Норман, специалист по когнитивной психологии и автор нескольких влиятельных книг о дизайне товаров, – невольно впало в ориентированное на технологию отношение к жизни, подразумевающее, что именно автоматизация определяет человеческие потребности, тем самым сводя людей к роли безропотных слуг, к которой они совершенно не приспособлены. Такой подход допускает сравнение людей с машинами и находит их неполноценными, неспособными на безупречные, повторяющиеся и точные действия». Несмотря на то что эта ориентация пронизывает теперь все наше общество, она извращает представления человека о самом себе. «Этот подход выставляет на первый план деятельность, которой человек не должен заниматься, и игнорирует его навыки и качества. Принимая машинно-ориентированный взгляд на жизнь, люди начинают оценивать вещи по их искусственным, механистическим достоинствам» [16].

Совершенно логично предположить, что к механистическому взгляду на жизнь наиболее склонны те, кто тяготеет к механике. «Движущей силой изобретения, – как сказал когда-то Норберт Винер, – часто является стремление исследователя увидеть, как закрутятся колесики» [17]. Также логично предположить, что именно такие люди будут руководить разработкой и конструированием сложных систем и компьютерных программ, которые ныне управляют жизнью общества или создают ее среду. По мере того как общество станет все более и более компьютеризированным, программист будет его фактическим законодателем, и тогда человеческий фактор окажется чем-то второстепенным. Необузданный технический прогресс станет оправданием и обоснованием самого себя. Судить о технологиях по их технологическим достоинствам – это значит дать изобретателям карт-бланш.

Пристрастное желание позволить самой технологии принимать решения по дальнейшей автоматизации имеет практическое преимущество. Оно сильно упрощает работу создателей систем. Инженерам и программистам надо теперь принимать во внимание только способности машин. Это позволяет сузить поле поиска и увеличить детализацию проектов. Такая особенность избавляет программистов от необходимости решать проблемы, связанные со сложностями, капризами и хрупкостью представителей рода человеческого. Привлекательная простота технологически ориентированной автоматизации является все же миражом. Игнорирование человеческого фактора отнюдь его не устраняет.

В статье «Automation Surprises» («Сюрпризы автоматизации»), напечатанной в 1997 году и многократно цитированной, специалисты по эргономике Надин Сартр, Дэвид Вудс и Чарльз Биллингс проследили происхождение технологически ориентированного взгляда на развитие общества. Авторы подробно рассказывают, как появление компьютера, сначала аналогового, а затем цифрового, сформировало у инженеров и предпринимателей идеалистический взгляд на системы, управляемые электроникой. В них увидели своего рода панацею от человеческой неэффективности и склонности к ошибкам. Упорядоченность и чистота компьютерных операций и получаемых результатов казались просто даром небес по сравнению с беспорядком человеческой деятельности. «Технологии автоматизации, – писали Сартер и ее коллеги, – были созданы для того, чтобы увеличить точность и повысить экономичность работы, а одновременно уменьшить нагрузку на оператора и сократить время и расходы на его обучение. Считалось возможным создание автономных систем, требующих минимума человеческого вмешательства, а значит, резко снижавших вероятность человеческих ошибок». Эта вера с железной неумолимостью привела к гипотезе о возможности разрабатывать автоматизированные системы, не обращая особого внимания на человека [18].

«Устремления и вера, лежащие в основе господствующего подхода к конструированию автоматизированных систем, – продолжают авторы, – оказались наивными и вредоносными. Несмотря на то что автоматизированные системы часто действительно повышали точность и экономичность операций, они не оправдали других надежд, породив целый ряд новых проблем. Большинство недостатков проистекает из того, что даже высокоавтоматизированные системы требуют для своей работы вмешательства оператора, а следовательно, общения и согласованности действий между человеком и машиной». Системы конструировались без учета особенностей людей, которые с ними работают, часто отличались ограниченной осведомленностью о выполняемой работе и были лишены осмысленного доступа к окружающему миру. Восполнить эти недостатки может только человек. Автоматизированные системы не знают, когда надо начинать диалог с человеком о своих намерениях или требовать от него дополнительной информации. Машины не всегда обеспечивают адекватную обратную связь с человеком, испытывающим трудности с определением текущего состояния автоматизированной системы и оценкой ее поведения, а следовательно, и с определением момента, когда необходимо вмешаться для предотвращения нежелательных действий автомата. «Многие проблемы, отягощающие работу автоматизированных систем, возникают из-за неспособности спроектировать взаимодействие человека с машиной так, чтобы оно имитировало основные свойства взаимодействия людей», – заключают авторы статьи [19].

Инженеры и программисты еще больше усугубляют проблему, когда скрывают принципы работы системы от оператора, превращая каждую из них в непроницаемый черный ящик. Нормальным людям не хватает ума или образования для того, чтобы понять все сложности и хитросплетения работы программ или роботов. Если подробно рассказать человеку об алгоритмах или процедурах, управляющих работой системы, то можно либо его смутить, либо – что еще хуже – поощрить на самостоятельные действия с программным обеспечением. Гораздо безопаснее держать людей в неведении. Здесь опять кроется попытка избежать ошибок человека, сняв с него ответственность. Но, как ни парадоксально, при таких условиях повышается вероятность ошибок. Неквалифицированный оператор – это опасно. Профессор эргономики из Университета Айовы (University of Iowa) Джон Ли пишет: «Для автоматизированных систем характерно применение контролирующих алгоритмов, в которые заложены способы, противоречащие стратегии и ментальной модели, свойственной человеку, работающему с системой. Если человек не понимает эти алгоритмы, то он не может предвидеть ни поведение, ни ограничения автоматизированной системы. …Человек и машина, опирающиеся на противоречащие друг другу принципы, кончают тем, что движутся в противоположные стороны. Неспособность человека понять принципы устройства машины, на которой он работает, может также подорвать уверенность в своей компетенции, что удерживает его от вмешательства, когда ситуация начинает выходить из-под контроля системы» [20].

Специалисты по инженерной психологии давно призывают программистов и разработчиков вычислительной техники отойти от ориентированного на технологии подхода и направить усилия на создание автоматики, нацеленной на человека. Проекты должны начинаться с тщательного рассмотрения сильных и слабых сторон людей, которые будут работать с новой машиной или каким-либо иным способом с ней взаимодействовать. Такой подход вернет техническое развитие к его гуманистическим принципам, вдохновлявшим первопроходцев эргономики. Задача в этом случае будет состоять в распределении ролей и обязанностей, основывающихся только на скорости и точности компьютера, но с учетом качеств человека и возможностей включения его в рабочий цикл [21].

Удивительно, но достигнуть такого равновесия нетрудно. За десятки лет эргономические исследования показали, что эта задача может быть решена рядом простых способов. Систему надо запрограммировать так, чтобы через короткие и нерегулярные интервалы контроль над работой передавался от компьютера оператору. Ожидание момента, когда может потребоваться принятие решений, заставит людей быть в тонусе, сохранять внимание и мотивацию, разбираться в ситуации и повышать квалификацию. Разработчики программного обеспечения могут ограничить объем автоматизации, предоставив людям возможность выполнять важные операции, а не быть пассивными созерцателями происходящих на экране событий. Предоставление человеку большего объема работы помогает поддерживать эффект порождения. Программист может также обеспечить оператора прямой и обратной сенсорной связью с системой на всех этапах работы, используя для этого звуковые и тактильные средства, а также визуальную информацию на дисплее. Регулярная обратная связь усиливает вовлеченность оператора в работу системы и помогает ему сохранять бдительность.

Одно из самых интересных последствий подхода, ориентированного на человека, – это адаптивная автоматизация. В соответствующих системах компьютер запрограммирован так, что он сам обращает пристальное внимание на работающего с ним человека. Разделение труда между программой и оператором постоянно корректируется в зависимости от того, что происходит в каждый данный момент [22]. Если компьютер уловил, что оператор должен выполнить какое-то сложное действие, то машина может взять на себя все сопутствующие работы. Избавленный от необходимости отвлекаться на второстепенные задачи оператор сосредоточится на решении главной проблемы. При спокойном течении событий ЭВМ может передать выполнение рутинных операций человеку, что позволяет ему сохранять осведомленность о ситуации и совершенствовать навыки. Используя аналитические возможности электроники в гуманистических традициях, адаптивная автоматизация ставит своей целью держать оператора на пике кривой Йеркса – Додсона, предотвращая как чрезмерное увеличение, так и уменьшение когнитивной нагрузки. Министерство обороны США, породившее в свое время систему Internet, в настоящее время вплотную занимается проектами «нейроэргономических» систем, которые, используя разнообразные датчики работы головного мозга и тела, могут улавливать когнитивное состояние человека, а затем регулировать параметры задач таким образом, чтобы компенсировать недостаток восприятия, внимания или рабочей памяти [23]. Адаптивная автоматизация сулит большие перспективы в отношении внесения толики человечности в отношения между обычными пользователями и компьютерами. Первые пользователи таких систем говорят, что чувствуют себя так, словно общаются с коллегой, а не с машиной.

Исследования последствий автоматизации в основном посвящены изучению больших, сложных систем, связанных с рисками, например с управлением самолетами, работой машинных залов больших предприятий и военными операциями. Отказ таких систем может привести к гибели людей и материальному ущербу. Однако эти исследования важны также и для разработки вспомогательной автоматизации принятия решений, которая используется врачами, юристами, менеджерами и другими специалистами при анализе данных. Эти программы многократно тестируют, чтобы сделать их простыми в обучении и использовании, но тем не менее ориентированная на технологии этика продолжает править бал. «В типичных случаях, – пишет Джон Ли, – экспертные системы работают как протезы, заменяющие несовершенное и непоследовательное человеческое мышление более точными компьютерными алгоритмами» [24]. Они создаются в первую очередь для того, чтобы вытеснить, а не поддержать человеческое суждение. С каждым следующим усовершенствованием скорости обработки введенных данных и прогнозной способности компьютера программист все больше передает ответственность за принятие решения от профессионала к программе.

Раджа Парасураман, много лет добросовестно изучавший личностные последствия автоматизации, считает, что это в корне неверный подход. Парасураман утверждает, что вспомогательные системы принятия решений работают лучше всего, если они дают профессионалу необходимую информацию в нужный момент, не сопровождая ее инструкциями о возможных действиях [25]. Самые умные идеи приходят человеку в голову, когда он имеет возможность самостоятельно обдумать сложившуюся ситуацию. Ли соглашается с Парасураманом: «Менее автоматизированный подход, который ставит оператора в положение человека, принимающего решение, имеет большие шансы на успех, – пишет он. – Лучшие экспертные системы предоставляют операторам альтернативы в выборе интерпретаций и гипотез». Дополнительная и часто неожиданная информация помогает противодействовать естественному пристрастию к компьютерным инструкциям, которое иногда мешает человеку принять верное решение. Такой подход подталкивает аналитика к рассмотрению проблемы под разными углами зрения и с учетом большего числа возможных вариантов. Ли подчеркивает, что система должна оставить принятие окончательного решения человеку. «В отсутствие совершенной компьютерной автоматики и при использовании таких подверженных критике систем, – говорит он, – вероятность совершения ошибки, как подтверждают проведенные исследования, становится ниже» [26]. Компьютеры отлично справляются с просмотром огромных массивов данных, но специалист все равно остается более тонким и мудрым мыслителем, чем его цифровые партнеры.

Создание защищенного пространства для мыслей и суждений опытных практиков является целью ученых, которые хотят добиться гуманистического подхода к автоматизации в творческих профессиях. Многие специалисты критикуют системы автоматизированного проектирования за их назойливость. Бен Трейнел, архитектор фирмы Gensler в Сан-Франциско, с похвалой отзывается о компьютерах, высоко оценивая их способность расширять границы возможного в архитектуре. В качестве примера он приводит спроектированную фирмой «Шанхайскую башню» – спиралевидный энергосберегающий небоскреб, спроектировать и построить который было бы невозможно без компьютеров. Тем не менее он выражает и беспокойство по поводу того, что буквализм компьютерных программ, вынуждающих архитектора четко определять смысл и назначение каждого геометрического элемента, введенного в систему, препятствует свободному поиску, которому способствует рисование эскизов от руки [27].

В 1996 году профессора архитектуры Марк Гросс и Эллен Йин-Луэнь предложили альтернативу буквалистскому программному обеспечению систем автоматизированного проектирования. Они создали концептуальную схему приложения с интерфейсом, напоминающим бумажный блокнот, который смог бы визуально передать намеренную неопределенность, неточность и расплывчатость в полученном компьютерном рисунке. Это придало бы компьютерному дизайну гипнотическую силу наброска [28]. Подобные предложения не раз звучали из уст и других ученых. Совсем недавно группа ученых Йельского университета (Yale University) под руководством Джулии Дорси создала прототип приложения, являющегося, по сути, «ментальным холстом». В нем сам архитектор имеет возможность, пользуясь сенсорным экраном, как устройством ввода, рисовать наброски в трех измерениях. «Архитекторы имеют возможность рисовать и заново перерисовывать линии, не будучи ограничены путами полигональной сетки[26] или ригидностью каналов ввода параметров, – объясняют свою работу авторы. – Наша система позволяет поэтапно улучшать рисунок по мере прояснения идеи, не требуя геометрического совершенства до тех пор, пока замысел не созреет окончательно» [29]. Менее назойливые приложения раскрепостят воображение архитекторов.

Напряжение, существующее между двумя направлениями автоматизации – на технологию и на человека, – занимает не только ученых-теоретиков. Оно влияет на решения, принимаемые руководителями бизнеса, инженерами и программистами, а также правительственными чиновниками. В авиационной промышленности две фирмы, занимающие господствующее положение в проектировании и строительстве самолетов, находятся в этом конфликте по разные стороны баррикад. Фирма Airbus придерживается ориентации на технологию. Целью компании является создание самолетов, «защищенных от пилота» [30]. Следствием этого явилась замена массивного, установленного перед пилотом штурвала маленькой, почти игрушечной ручкой сбоку от кресла. Этот похожий на джойстик рычаг вводит в бортовой компьютер все необходимые данные, требуя от пилота минимального физического усилия, лишая его тактильного ощущения обратной связи с самолетом. В соответствии с идеалами стеклянной кабины пилот становится компьютерным оператором, а не летчиком. Кроме того, Airbus программирует компьютеры таким образом, чтобы отменять действия пилота в некоторых ситуациях для сохранения параметров полета в пределах заданных величин. Следовательно, таким самолетом управляет уже не пилот, а компьютер.

Boeing придерживается более ориентированной на человека стратегии в производстве самолетов. В своих проектах, которые способны были бы осчастливить братьев Райт, компания не допускает решений, позволяющих компьютеру отменять команды пилотов. Летчик управляет самолетом даже в экстремальных ситуациях. Инженеры компании сохранили массивный штурвал, напоминающий о былых временах авиации, его перемещение сопровождается ощущением сопротивления и обеспечивает обратную связь между человеком и самолетом. У летчика создается полная иллюзия, что он физически перемещает управляющие элементы крыльев и хвоста. Несмотря на то что этот штурвал всего лишь посылает сигналы на вход бортового компьютера, машина имитирует ощущение движения элеронов, закрылков и других управляющих механических элементов воздушного судна. Проведенные исследования показывают, что тактильный тип обратной связи эффективнее визуальной и лучше ориентирует пилота в плане положения самолета в пространстве. Такая автоматизация полностью соответствует утверждениями Джона Ли. Поскольку мозг обрабатывает тактильные сигналы независимо от зрительных, постольку «осязательные предупреждения» не приводят «к ухудшению в выполнении других, визуальных, задач» [31]. Можно сказать, что тактильная обратная связь в управлении самолетами Boeing освобождает пилота из плена стеклянного компьютерного колпака, вовлекая в реальное управление машиной в большей степени, чем пилота на самолете фирмы Airbus.

Компания Airbus делает великолепные самолеты. Некоторые пилоты гражданской авиации предпочитают летать именно на них, а не на Boeing, а параметры безопасности машин обеих компаний практически идентичны. Однако недавние несчастные случаи с участием Airbus выявили недостатки подхода, ориентированного на технологию. Некоторые авиационные специалисты считают, что конструкция органов управления самолетов этой компании сыграла роковую роль в катастрофе самолета Air France. Анализ записей «черных ящиков» показал, что все время, пока управлявший машиной первый пилот Пьер-Седрик Бонен тянул ручку на себя, его второй пилот, Дави Робер, не замечал этой фатальной ошибки. В кабине Boeing, наоборот, каждый пилот отлично видит штурвал коллеги и все его манипуляции. Мало того, оба штурвала движутся одновременно, как единое целое. Если один из пилотов берет штурвал на себя, то штурвал второго пилота движется в том же направлении. Визуальная и тактильная связь позволяет пилотам действовать синхронно и согласованно. Боковые ручки в самолетах Airbus плохо видны со стороны и не требуют никаких физических усилий при работе с ними и, к тому же, действуют независимо друг от друга. Пилот может пропустить неверное действие коллеги, особенно в нештатных ситуациях, когда он находится под действием стресса, и теряет способность концентрировать внимание.

Если бы Робер увидел и исправил ошибку Бонена раньше, то пилоты сумели бы выправить свой А-330. «Катастрофы самолета Air France, – сказал Чесли Сулленбергер, – скорее всего, можно было избежать, если бы пилоты вели Boeing с его автоматикой, ориентированной на человека» [32]. Даже Бернар Зиглер, блистательный французский инженер, бывший главным конструктором Airbus до ухода на пенсию в 1997 году, высказал недавно свои опасения по поводу философии конструирования, принятой в его компании. «Иногда я думаю, не делаем ли мы самолеты, слишком легкие в управлении, – сказал он в интервью писателю Уильяму Лангевише, данном в Тулузе, где находится штаб-квартира компании Airbus. – В более тяжелых в управлении машинах пилоты лучше сохраняют бдительность». Он даже пошутил, посоветовав компании встраивать дубину в сиденья кресел пилотов, чтобы она периодически давала им хорошего пинка [33]. Ветеран, конечно, шутил, но это замечание вполне соответствует исследованиям специалистов по инженерной психологии о сохранении человеческих навыков и внимания. Иногда хороший «пинок» или его технологический эквивалент – это именно то, что автоматизированная система должна время от времени давать оператору.

Когда Федеральное авиационное агентство (Federal Aviation Administration, FAA) в своем рекомендательном письме предложило авиакомпаниям побуждать своих пилотов чаще водить машины вручную, оно тоже фактически высказалось, хотя и довольно нерешительно, в пользу ориентированной на человека автоматизации. Агентство осознало, что попытка вернуть пилотов в петлю обратной связи сможет уменьшить вероятность человеческих ошибок, сгладить последствия сбоев автоматизированных систем и сделать авиационные путешествия более безопасными. Беспредельное увлечение автоматизацией – это не всегда самый мудрый выбор. FAA, в штате которого состоит много специалистов по инженерной психологии, обращает самое пристальное внимание на эргономику, планируя свой амбициозный проект NextGen – монументальную систему контроля национального воздушного сообщения. Одной из самых величественных целей проекта является создание аэрокосмических систем, приспособленных к человеку, компенсирующих его просчеты и улучшающих качество труда [34].

В финансовой сфере против натиска ориентированной на технологию автоматизации выступил Королевский банк Канады (The Royal Bank of Canada). Его руководство установило в операционных отделениях банка на Уолл-стрит оригинальную компьютерную программу (названную THOR), замедляющую передачу распоряжений о покупках и продажах, чтобы защитить их от манипуляций слишком торопливых биржевых спекулянтов. Когда замедлили выдачу распоряжений, обнаружилось, что торг стал чаще оканчиваться привлекательными для покупателей сделками. Банк признаёт, что идет на компромисс, сопротивляясь технологическому диктату быстрого потока данных. Воздерживаясь от скоростных торгов, он получает меньше денег на каждой отдельной сделке, но считает, что в долгосрочной перспективе верность клиентов и снижение рисков приведут к увеличению общей прибыли [35].

Один из бывших сотрудников банка, Брэд Кацуяма, пошел еще дальше. Заметив, что фондовый рынок сдает позиции под натиском биржевых маклеров, совершающих частые сделки, он создал новую и более честную биржу – IEX. Открытая в конце 2013 года биржа налагает строгие рамки на работу автоматизированных систем. Скорость потока данных регулируется таким образом, чтобы все участники торгов получали сведения о ценах и другую информацию одновременно, что нейтрализует преимущества алчных биржевых контор, помещающих свои компьютеры в непосредственной близости от биржи. IEX запрещает использование некоторых типов торга и вознаграждений, дающих преимущества быстрым алгоритмам. Кацуяма и его коллеги используют сложную технологию для уравновешивания шансов людей и компьютеров. В некоторых странах приняты законодательные акты, призванные обуздать автоматизированные торги. В 2012 году во Франции был введен небольшой налог на каждую сделку. Примеру Франции в следующем году последовала Италия. Алгоритмы быстрых торгов разработаны для стратегии скупки и продажи ценных бумаг мелкими порциями. Каждая сделка приносит минимальный доход, но таких сделок совершается несколько миллионов в минуту, и даже небольшой налог оборачивается крупными деньгами, что делает применение скоростных алгоритмов менее привлекательным.

Попытки направить автоматизацию в нужное русло внушают надежду. По крайней мере, некоторые компании и государства начали сомневаться в ее тотальных преимуществах, но это лишь исключение из правила, а перспективы масштабов использования остаются пока туманными. Как только автоматизация, ориентированная на технологию, берет верх, становится очень трудно изменить ход событий. Компьютерные программы начинают диктовать, как выполнять работу, формировать спрос покупателей, навязывать методы получения прибыли. По словам историка Томаса Хьюза, этот процесс является образцом «технологического давления» [36]. На ранних стадиях применения новых компьютерных технологий они были достаточно эластичными. Формы и методы их применения изменялись не только в зависимости от желаний разработчиков, но и исходя из интересов работников и всего общества в целом. Когда современная автоматизация внедряется в физическую инфраструктуру, в торговые и экономические учреждения, ее диктат становится невероятно трудно остановить. На этой стадии возникает интеграция технологии в общество, и она продолжает двигаться вперед, повинуясь своим собственным законам. Естественно, со временем и эти технологии устареют и будут заменены новыми, которые сохранят и увековечат применение технологического подхода к автоматизации.

Например, качество работы в гражданской авиации зависит от точности управления. Компьютеры лучше, чем пилоты, рассчитывают самый экономичный маршрут, самолеты могут сближаться на меньшие дистанции. Здесь и скрывается противоречие между желанием повысить квалификацию пилотов и дальней автоматизацией. Авиакомпании едва ли согласятся нести убытки, а законодатели не пойдут на ограничения возможностей бортовых компьютеров только ради того, чтобы пилоты оттачивали свое мастерство. Катастрофы, обусловленные отказами бортовых компьютеров самолетов, крайне редки, и с ними, как кощунственно это ни звучит, мы должны смириться ввиду эффективности и экономичности автоматизированных систем. В здравоохранении страховые и больничные компании смотрят на автоматизацию как на средство снижения расходов и повышения эффективности. Они почти наверняка будут вынуждать лечебные учреждения переходить на автоматизированное оказание медицинской помощи, несмотря на озабоченность врачей возможностью потерять самые ценные навыки и квалификацию.

На финансовых биржах компьютер совершает сделку в течение десяти микросекунд (то есть за одну десятимиллионную долю секунды), в то время как человеку на то, чтобы просто среагировать на новое событие, требуется приблизительно четверть секунды. Компьютер может выполнить десять тысяч сделок за то время, пока оператор просто моргнет глазом [37]. Скорость работы машины устраняет человека.

Обычно считается, что те или иные технологии, принятые в разных отраслях и способствующие их развитию, априори улучшают качество труда. Если исходить из такой точки зрения, то прогресс – это своего рода дарвиновская эволюция. Люди изобретают множество разнообразных технологий, они конкурируют между собой за пользователей и покупателей, но побеждает в этой борьбе самая лучшая из технологий. Выживают лишь наиболее приспособленные инструменты автоматизации. Это оптимистический взгляд на прогресс, подпитанный, по мнению покойного историка Дэвида Нобла, «…бесхитростной верой в объективную науку, экономическую рациональность и рынок». Но, как объясняет тот же Нобл в своей вышедшей в 1984 году книге «Forces of Production» («Производительные силы»): «Искаженный взгляд на вещи… рисует технологическое развитие как процесс, с одной стороны, автономный и нейтральный, а с другой – рассудочный и саморегулирующийся. В обоих случаях считают, что люди не влияют на него» [38]. Вместо сложностей, превратностей и интригующих подробностей истории взгляд на технический прогресс одаривает нас упрощенными фантазиями, основанными на прошлом опыте.

Нобл наглядно показывает сложный и извилистый путь, которым технологии завоевали всеобщее признание и влияние, на примере истории автоматизации машиностроительной промышленности за годы, прошедшие после Второй мировой войны. Изобретатели и инженеры предложили несколько разных технологий для программирования работы токарных, сверлильных и других станков. Каждый из методов имел как плюсы, так и минусы. Одну из самых простых и одновременно изобретательных систем, названную Specialmatic, изобрел дипломированный инженер Феликс Карузерс, выпускник Принстона. Систему продавала маленькая нью-йоркская компания Automation Specialties. При использовании ключей и наборных дисков, кодировавших и направлявших работу машины, Specialmatic передавал всю ответственность за программирование в руки квалифицированного механика, работавшего в цехе. «Оператор машины, – писал Нобл, – мог устанавливать и регулировать скорость подачи материалов в машину, опираясь на накопленный опыт, позволявший выполнять задания на основании вида, звука и запаха обрабатываемого металла» [39]. Система включала в работу опыт и знания рабочего, Specialmatic обеспечивал немалую экономическую выгоду: хозяевам заводов не надо было оплачивать труд многочисленных инженеров и консультантов для программирования. Система Карузерса удостоилась похвалы в журнале American Machinist, который отметил, что Specialmatic сконструирован так, что позволяет настраивать режим и программировать работу станка. Рабочий трудится с большей эффективностью, так как система позволяет ему сохранять контроль над машиной в течение всего цикла работы станка [40].

Но Specialmatic не смог удержаться на рынке. В то же самое время, когда Карузерс трудился над своим изобретением, командование ВВС США вкладывало деньги в научно-исследовательскую программу, осуществлявшуюся группой ученых МIT, имевшей давние и тесные связи с военным ведомством. Они разработали методику «численного управления» с помощью технологии цифрового кодирования – предшественницы современных цифровых компьютерных программ. Эта система не только осыпала разработчиков золотым дождем щедрых правительственных субсидий и подняла их престиж в научных кругах. Она очень понравилась владельцам и менеджерам предприятий, так как перед лицом растущего рабочего движения они стремились максимально автоматизировать производство, чтобы подорвать влияние рабочих и их профсоюзов. Система числового программного управления стала воплощением всеобщего восхищения цифровыми ЭВМ, появившимися после войны. «Разработанная в МIT система числового управления, – как позднее писал один из членов Society of Manufacturing Engineers (Общества фабрично-заводских инженеров), – была сложным и дорогим уродством» [41], но такие гигантские компании, как General Electric и Westinghouse Electric Company, с восторгом ухватились за эту технологию, не оставив Specialmatic ни единого шанса. Системе числового управления не пришлось доказывать свою живучесть в конкурентной эволюционной борьбе, она была объявлена победительницей еще до начала соревнования. Автоматизация, ориентированная на технологию, победила. Что касается широкой публики, то она так и не узнала, что выбор был сделан без нее.

Не следует возлагать вину за это на инженеров и программистов. Возможно, что они виновны в том, что временами увлекаются узкими механистическими прожектами и склонны к «техническому высокомерию», которое, выражаясь словами физика Фримена Дайсона, «…внушает людям иллюзию неограниченной власти» [42]. Но программисты и инженеры работают по заказам работодателей и клиентов. Разработчики программного обеспечения всегда сталкиваются с необходимостью компромиссов при написании программ для автоматизированных систем. Выполнение задач, связанных с развитием индивидуальных навыков, повышением квалификации и накоплением опыта, сковывают размах автоматизации и несколько снижают скорости производства и получения прибыли. Обучение также понижает эффективность производства. Бизнес, который всегда старается поднять до максимума производительность и свести издержки к минимуму, редко, а то и никогда не идет на такие уступки. Главная причина, по которой владельцы предприятий вкладывают деньги в автоматизацию, – это снижение стоимости труда и упрощение производственных операций.

Люди тоже почти всегда ищут для себя выгоды и удобства, когда выбирают программное приложение или компьютер. Им подойдут программы или устройства, которые облегчат нагрузку и освободят время, а не те, которые заставят тяжко и долго трудиться. Технологические компании, естественно, учитывают эти пожелания, разрабатывая свои продукты. Ожесточенная конкуренция существует между фирмами, предлагающими клиентам устройства и программы, требующие как можно меньше физических и умственных усилий. «В Google и во всех подобных фирмах, – говорит один из руководителей компании Алан Игл, объясняя политику многих компаний в создании программного обеспечения, – мы создаем технологии, которыми можно пользоваться, не включая мозги» [43]. Когда дело доходит до разработки и применения коммерческих программ, будь то промышленные автоматизированные системы или приложения для смартфонов, абстрактные рассуждения о судьбе человеческих талантов не могут соперничать с перспективой экономии времени и денег.

Я спросил Парасурамана, не думает ли он, что в будущем общество станет мудрее использовать автоматизацию, ослабив противоречие между компьютерными вычислениями и человеческими мнениями, погоней за прибылью и развитием личного опыта. Ученый на мгновение задумался, а потом произнес: «Я не настолько оптимистичен».

Интерлюдия. Грабитель могил

Я находился в затруднительном положении. Мне пришлось – из необходимости, а не по свободному выбору – завязать знакомство с полоумным грабителем могил по имени Сет Брайерс. «Я не ем, не сплю, не моюсь, и все это меня совершенно не волнует», – не без гордости сообщил мне Сет вскоре после того, как мы познакомились с ним на кладбище близ Кут-Чепеля. Сет знал, где я смогу найти интересовавших меня типов, и в обмен на сведения о них потребовал от меня помощи в перевозке нескольких свежих трупов мимо ранчо Кричли в пыльный призрачный город Тамблвид. Я правил лошадьми, а Сет сидел под тентом повозки и обыскивал тела в поисках ценностей. Это путешествие стало для меня настоящим испытанием. Мы проскочили мимо разбойников, сидевших у дороги в засаде (они были вооружены огнестрельным оружием, но в перестрелках я тоже не был новичком), однако, когда я попытался пересечь шаткий мостик близ Гаптус-Риджа, трупы в повозке сместились, и я не смог справиться с лошадьми. Она скатилась в овраг, и я на мгновение умер, захлебнувшись в фонтане хлынувшей крови. Через пару секунд я очнулся – только для того, чтобы снова пережить весь этот ужас. После полудюжины попыток я отчаялся когда-либо переехать этот проклятый мост.

Игра, в которую я играл, была не что иное, как превосходно оформленная, незатейливая «стрелялка» с открытым миром, под названием Red Dead Redemption. События разворачиваются в начале ХХ века на территории мифического штата Нью-Остин. Сюжет игры словно списан с фильмов Пекинпы .[27] Начиная игру, вы принимаете роль стоически мужественного фермера, оказавшегося вне закона, по имени Джон Марстон, правая щека которого отмечена двумя глубокими символическими шрамами. Грубым шантажом Марстона принуждают искать для агентов ФБР его старых сообщников. Агенты держат в заложниках жену и малолетнего сына. Для того чтобы успешно закончить игру, надо провести этого вооруженного бандита по всей стране, преодолевая немыслимые препятствия, требующие нечеловеческого напряжения сил. Причем каждое следующее испытание труднее предыдущего.

Сделав еще несколько попыток, я наконец перебрался через мост вместе с ужасной труповозкой. Вообще, получив массу полезных сведений из сцен насилия, коими изобилуют и передачи ТV, я смог преодолеть все препятствия игры. В качестве вознаграждения мне показали, как Марстона – то есть моего игрового двойника – хладнокровно застрелили коварные агенты. Если не считать этого страшного конца, то я окончил игру с чувством глубокого удовлетворения. Я обуздывал мустангов, стрелял и свежевал койотов, грабил поезда, выигрывал сумасшедшие деньги в покер, сражался в рядах мексиканских революционеров, спасал проституток от пьяных деревенских мужиков и – в традициях фильма «Дикая банда» [28] – отправил из пулемета Гатлинга к праотцам целую армию негодяев. Я прошел проверку на прочность, и рефлексы человека среднего возраста меня не подвели. Победа не была эпической, но принесла чувство удовлетворения.

Видеоигры, как правило, проклинают те, кто никогда в жизни в них не играл. Это вполне понятно, так как там реками льется кровь. Но лучшие игры дают нам образцы для дизайна программного обеспечения, не говоря уже об их изобретательности и (хотя и не всегда) красоте. Эти программы показывают, что они могут стимулировать формирование навыков, а не вести к их атрофии. Для того чтобы играть в видеоигры, необходимо преодолеть массу трудностей, требующих предельного напряжения сил и таланта. У каждого действия есть цель, хорошая игра вознаграждается, при плохой – немедленно следует наказание (иногда ужасное, например в виде фонтана крови). Игры порождают ощущение движения в потоке, побуждая игрока совершать повторные маневры до тех пор, пока они не становятся автоматическими. Навык, которому обучается игрок, может быть простым и незатейливым, например, правильно работать пластиковой ручкой управления для того, чтобы провести воображаемую повозку по мосту. Человек усвоит этот навык намертво и сможет безошибочно работать ручкой в следующих эпизодах игры. Он становится специалистом, способным взорвать всех, кто встанет на его пути.[29]

Компьютерные программы (за исключением видеоигр), к которым мы обращаемся в повседневной жизни, созданы для нашего удобства, или, как говорят их создатели, «простоты использования». Такими программами можно овладеть быстро, так как для работы с ними надо нажать несколько клавиш или пару раз щелкнуть мышкой. Так же как промышленные системы компьютерной автоматизации, эти приложения созданы для того, чтобы переложить бремя мышления человека на компьютеры. Даже сложные программы, созданные для музыкантов, звукооператоров и кинорежиссеров, становятся год от года все проще в применении. Сложные спецэффекты, создание которых требовало в прошлом высокой квалификации и большого опыта, теперь можно получить нажатием клавиш или смещением бегунка. Принципы работы программы не обязательно должны быть понятны пользователю, они включены в ее алгоритмы. Для людей, которые хотят получить эффект, не прилагая к этому никаких усилий, – это большое благо. Однако приспособление программ к уровню дилетантов принижает роль профессионалов.

Признанный специалист в области дизайна программного обеспечения Петер Мерхольц призывает программистов искать и находить «беспроблемные» и «простые» решения. Успешные устройства и приложения прячут свою сложность за дружественными интерфейсами, сводя к минимуму когнитивную нагрузку на пользователя. «Простые вещи не требуют размышлений. Необходимость выбора исключается, не надо напрягать память», – констатирует Мерхольц [1]. Этот рецепт создания приложений, как показали эксперименты Кристофа ван Нимвегена, позволяет обходить процессы обучения, становления навыков и запоминания. Заложенные в программах инструменты мало требуют от нас, но и немного дают.

То, что Мерхольц называет подходом, который «просто работает», имеет огромное значение. Всякий, кто пытался настроить будильник электронных часов, изменить настройки WiFi-роутера или разобраться в панели инструментов Microsoft Word, знает цену простоте. Слишком сложные устройства и программы заставляют нас тратить массу времени, но не дают ничего взамен. Верно, что мы не должны быть специалистами во всем на свете, однако предлагаемые программы берут на себя интеллектуальные и общественные функции. Такая замена становится весьма опасной. Она лишает нас не только радости познания, но и внушает чувство, что это познание ничего не стоит и к нему не надо стремиться. Вспомним для примера алгоритмы коррекции орфографических и синтаксических ошибок, которыми теперь снабжены практически все текстовые редакторы. Когда-то программы проверки орфографии исполняли роль наставников. Программа подчеркивала подозрительное слово, привлекала к нему ваше внимание и преподавала небольшой урок грамотности. Человек мог учиться в процессе работы над текстом. Теперь программисты добавили опцию автоматической коррекции. Такие системы мгновенно и исподтишка исправляют ошибки, не поднимая лишнего шума, не образуя обратной связи и убирая элементы познания.

Можно также взять для примера поисковую систему Google. В своей исходной форме она предназначена для запроса. Интерфейс был очень прост, но сервис заставлял пользователя обдумывать запрос, тщательно его составлять и отбирать ключевые слова для получения оптимального результата. Теперь все эти хлопоты остались в прошлом. В 2008 году компания ввела в поисковик опцию Google Suggest, систему, которая, опираясь на вероятностные алгоритмы, предвосхищает то, что вы ищете. Стоит вам ввести первую букву запроса, как Google тут же услужливо предлагает набор возможных запросов в оптимальной форме. С каждой следующей буквой набор предложений изменяется. За этим новшеством прячется настойчивое, почти маниакальное стремление к эффективности. Приняв на вооружение мизантропические ценности автоматизации, Google рассматривает человеческое познание как плохо отлаженный и неуклюжий биологический процесс, доверить который можно только и исключительно компьютеру. «Могу утверждать, что пройдет еще несколько лет, и на большинство запросов ответ будет даваться раньше, чем вы успеете дописать вопрос, – говорит Рэй Курцвейль, изобретатель и футурист, назначенный в 2012 году руководителем технического отдела компании. – Машина заранее будет знать, что вы хотели увидеть» [2]. Конечная цель – полностью автоматизировать акт поиска, выбросить из процесса изъявление человеческой воли.

Социальные сети, например Facebook, все больше проникаются такими же идеями. Они стараются упорядочить хаотичный процесс привлечения новых участников путем «статистического» приобретения новых друзей, «like» и другими символами симпатии и привязанности, а также автоматизированным управлением многих аспектов человеческих отношений. Основатель Facebook Марк Цукерберг приветствует все эти достижения как символ «беспрепятственного общения», не требующего никаких осознанных усилий. Есть отталкивающий момент в применении социальных сетей – это стандартизация связей между людьми. Человеческие отношения требуют доверия, обходительности и жертвенности, что, с точки зрения технократического ума, является источником неэффективности и неудобства. Общение становится похожим на привязанность потребителя к товару, которая легко формируется, но так же легко и исчезает.

Подобно чрезмерно назойливым родителям, не дающим детям поступать самостоятельно, Google, Facebook и другие изготовители программ для личного пользования способствуют уничижению и нивелированию тех черт характера, которые по крайней мере в прошлом считались незаменимыми для полноценной энергичной жизни: изобретательности, любопытства, независимости, упорства, отваги. Неужели в будущем люди будут пользоваться всеми этими добродетелями в их бутафорском виде, совершая виртуальные подвиги руками таких персонажей, как Джон Марстон, в иллюзорных мирах на экранах наших компьютеров?

Глава восьмая

Ваш внутренний робот

Представьте себе холодный декабрьский вечер. Пятница. Человек едет домой с корпоративного праздника. Точнее, сказать, его везут домой. Он недавно купил свою первую самоуправляющуюся машину, запрограммированный Google, сделанный на заводе Mercedes электромобиль eSmart. И за рулем не он, а программа. В свете автоматически настраиваемых светодиодных фар он видит затянутые льдом лужицы, но на них можно не обращать внимания, так как снабженный чувствительными датчиками робот регулирует скорость и газ в полном соответствии с дорожными условиями. Все идет гладко. Человек расслабился и погрузился в приятные воспоминания о праздничном вечере. Он углубляется в густой лес, нависающий с обеих сторон, и вдруг из-за деревьев на дорогу выбегает какое-то животное и застывает в свете приближающихся фар. Это соседский охотничий пес, никогда не отличавшийся дисциплинированностью.

Что делает робот-водитель? Нажмет ли он на тормоза, спасая собаку, но рискуя тем, что машина пойдет юзом? Или уберет виртуальную ногу с педали тормоза, пожертвовав собакой ради безопасности пассажира и автомобиля? Как будет компьютер разбираться в потоке переменных и вероятностей, чтобы за долю секунды принять решение? Если посчитано, что торможение будет означать для пса вероятность уцелеть, равную 53 %, и существует вероятность 18 %, что будет повреждена машина, а с вероятностью 4 % человек, сидящий в машине, получит травму, то сочтет ли компьютер спасение собаки правильным действием? Каким образом программа, работая самостоятельно, переведет набор чисел в решение, чреватое неприятными практическими и моральными последствиями?

Что, если это собака хозяина машины? Вместо собаки на дорогу мог выбежать ребенок… Вообразите, что утром тот же человек едет на работу, просматривая поступившую за ночь электронную почту, автомобиль идет по мосту со скоростью 40 миль в час. По тротуару мост переходит группа школьников. Дети послушно идут за взрослыми, ничто не предвещает неприятностей, однако машина сбрасывает скорость, предпочтя ошибку безопасности. Внезапно среди детей возникает короткая потасовка, и одного мальчишку выталкивают на дорогу. Человек в машине, деловито набирая очередное сообщение на клавиатуре смартфона, не замечает происходящего. Робот должен принять решение: либо увернуться от наезда, выйдя из ряда и выскочив на встречную полосу, чем он может убить хозяина, либо наехать на ребенка. Какую команду подаст компьютер на рулевую колонку? Учтет ли робот, что в машине едет еще и ребенок на детском сиденье, снабженном особыми датчиками? Что, если по встречной полосе идут машины и одна из них – школьный автобус? Когда-то Айзек Азимов составил кодекс поведения робота: «Робот не может причинять вред человеку или своим бездействием допускать ситуации, которые могут повредить человеку» [1]. Это вполне разумное требование, но оно было написано в те времена, когда мир был устроен проще.

«Появление самоуправляющегося автомобиля, – утверждает профессор психологии Нью-Йоркского университета Гэри Маркус, – лишит человека еще одной экологической ниши. Наступит новая эра, в которой машинам потребуются системы этических ценностей» [2]. Некоторые критики могут возразить, что она уже наступила. Медленно, но верно люди начали доверять компьютерам принятие морально значимых решений. Возьмем для примера широко разрекламированный пылесос-робот Roomba. Он не отличает комочки пыли от насекомых. Он сожрет и то и другое, не разбираясь в таких тонкостях. Если на пути Roomba окажется сверчок, то он засосет и его. Многие люди, пылесося квартиру, тоже едва ли обратят внимание на какую-то козявку, особенно если эта козявка – непрошеный гость в доме. Есть, однако, другие, которые остановятся, выключат пылесос, поднимут с пола сверчка и бережно вынесут за порог. (Последователи джайнизма, древней индийской религии, считают грехом причинение вреда любому живому существу.) Выпуская Roomba на ковер, мы предоставляем ему право принимать моральные решения от нашего имени. Газонокосилки-роботы, такие как LawnBott и Automower, несут смерть более совершенным проявлениям жизни – пресмыкающимся, земноводным и мелким млекопитающим. Большинство людей, увидев на лужайке жабу или полевую мышь, обычно щадят животных, а если случайно задевают их, то очень сожалеют о содеянном. Газонокосилки-роботы убивают, не испытывая угрызений совести.

До последнего времени дискуссии о нравственности роботов и других «разумных» машин носили чисто теоретический характер, становились сюжетами научно-фантастических романов или студенческих споров на философских факультетах. Этические моменты часто влияли на конструкции машин и механизмов. Оружие снабжали предохранителями, двигатели – регуляторами, поисковые системы – фильтрами, но от машин никогда не требовали совести. Им не нужно было приспосабливать работу к этическим капризам той или иной ситуации. Как только возникал вопрос об этической стороне применения машины, его решали люди. По мере того как роботы становятся все более умелыми и самостоятельными, они чаще неизбежно сталкиваются с ситуациями, в которых ни один выбор не может считаться правильным. Машинам придется, полагаясь только на себя, принимать решения. Невозможно механизировать сложную человеческую деятельность без автоматизации морального выбора.