Право и политика в компьютерном круге

Компьютеры на работе и дома заняли заметное место в жизни, они вызвали споры и возбуждение, породили новый язык, юридические и моральные проблемы, а самое главное — заставили вновь вернуться к размышлениям о том, что значит быть человеком.

«Думай, как вор»

Заинтересовавшись влиянием компьютеров на мышление и чувства тех, кто с ними работает, социолог и психолог из Массачусетского технологического института Шерри Теркл написала книжку «Второе „я”. Компьютеры и духовность»24. Ш. Теркл заметила, что и взрослые, работающие с ЭВМ, и дети, начинающие овладевать ими в школах, относятся к компьютерам «как к живому, поистине живому, думающему существу». Наставления компьютеров становятся эффективнее человеческих.

На детских представлениях в английских цирках начал появляться робот-клоун. Электронный циркач пропагандирует правила уличного движения. Оказывается, советы робота лучше запоминаются детьми, чем наказы взрослых. А вот как обучают тех, кто постарше. В Калифорнийском технологическом институте (США) был объявлен конкурс на максимально дешевый и эффективный способ подделки магнитных кредитных карточек. Технология, предложенная победителем, получившим приз в пять тысяч долларов, была описана в «Бизнес уик» и проиллюстрирована серией фотографий. Журналы по вычислительной технике нередко тоже объявляют подобные конкурсы под девизом «Думай, как вор»25.

Слово «этика» редко можно услышать на факультетах, где обучают работе с компьютерами. Большинство таких факультетов ориентировано на математическое образование, а у математиков об этике говорят так же редко, за исключением, пожалуй, обсуждения случаев плагиата. Студент-программист привыкает к тому, что найти способ «ворваться» в компьютер — это средство познания работы системы и часть его учебного курса. Значительную часть учебного цикла студент занимается взаимодействием ЭВМ как таковых. Перед ним даже не встает вопрос об этике в этих взаимоотношениях, поскольку этика присутствует в отношениях между людьми, а не между компьютерами. Между тем изолированные отношения между человеком и ЭВМ в реальном мире практически отсутствуют.

Конечно, есть польза в компьютерных атаках, которые позволяют обнаружить слабости программного обеспечения, но только если они проводятся в рамках учебного курса или исследовательской работы и обязательно под контролем. В противном случае студенты начинают думать, что их компьютер священен и ему можно все. У программистов сегодня должна возникать такая же ответственность перед обществом, как, скажем, у врачей, которые обязуются использовать свои знания только в этических целях. А пока студенческие атаки па чужие компьютеры составляют 14% всех компьютерных преступлений26.

Человек программирует компьютеры, а компьютеры программируют человека, его мышление, формируют роботоэтику. И отнюдь не противоречит компьютерной морали, например, то, что Родерик Ноулс, с помощью ЭВМ ограбивший гонконгский банк на 600 тыс. долларов, делясь опытом, пишет своего рода учебное руководство «Как грабить банки без насилия»27 и издает его, находясь… в тюрьме. Между прочим, последняя глава книги заканчивается словами: «Лишь один из американцев, замешанных в деле, ни разу не вызывался в суд». А называется глава незамысловато: «Эпилог: заговор ЦРУ?». Так маховик компьютерной слежки, раскрутившись, в невероятных сочетаниях разбросал по кругу вращения «электронные наручники», фриков и хэккеров, второе (впрочем, и первое) «я», роботоэтику. «Когда электронные преступники нагромождают Эверест из награбленного, а общество не грозит им даже пальцем; когда правительственные чиновники лгут, обманывают и воруют, чтобы остаться у власти в обществе, явно исповедующем доктрину „сила дает право”; когда коммерсанты с помощью телевидения одурачивают миллионы покупателей, которые бросаются в магазины, чтобы приобрести себе мечты, выпархивающие с электронного экрана, — грустно замечает Роберт Фарр, — тогда общество находится в состоянии моральной инерции»28.

Робот или alter ego?

Шерри Теркл обнаружила, что психологическое отношение к компьютеру как к живому существу имеет и оборотную сторону. Приравнивая ЭВМ к человеку, люди начинают видеть в себе и окружающих такие же запрограммированные создания, как сами компьютеры. Известный швейцарский писатель и драматург Фридрих Дюрренматт говорит: «Иногда мне в голову приходит мысль… что не человек изобрел компьютер, а компьютер изобрел человека. Логичнее было бы думать, что не столько машины служат человеку, сколько человек служит машинам»29. И в этом, может быть, еще одна причина широкого распространения компьютерной морали. Второе «я» — робот, внутренний голос — компьютерная программа, всюду только роботы… Не слишком ли? «Какое-то человеческое присутствие, очевидно, надо сохранить, — указывает полковник Деннис Крамли в докладе Военного колледжа армии США, — сохранить, чтобы новобранцы почувствовали, что они вливаются в некую стройную организацию»30. Надо полагать, компьютерная этика окажет и последнюю услугу погибшим новобранцам «стройной организации». Крамли поясняет, что с помощью роботов очень легко «простым нажатием кнопки доставить трупы к ближайшему месту захоронения»31.

Полковник Крамли имел в виду настоящих роботов, а не роботоподобных людей, но и те и другие замечательно легко выполняют функции не только могильщиков, но и убийц. Когда японский рабочий Кенди Урава случайно нажал не на ту кнопку промышленного робота, тот убил его32. Смерть от робота — это капля, в которой отражается океан компьютеризованного общества, угрожающего человеку, — угрожающего и потерей души, и тремя пулями в затылок, как это случилось с тридцатилетним ньюйоркцем, решившим стать компьютерным мафиози. На службе он имел доступ к машине, изготовлявшей кредитные карточки для членов одного из городских клубов. Установив контакт с мафией, он подрядился за 40 тыс. долларов сделать 1500 карточек с настоящими именами и правильными номерами. В течение трех месяцев ему удалось изготовить около 500 штук, а затем он был арестован. Еще до вынесения приговора нью-йоркским судом мафия убила его, рассчитавшись за «недопоставку товара».

Компьютер программирует человека, и тот, относясь к нему как «к поистине живому существу», уже видит перед собой лишь одного «врага» — ЭВМ и, в свою очередь, начинает «убивать» компьютеры. Французский программист с помощью логической бомбы буквально взрывает программу и стирает все данные, записанные в ЭВМ его нанимателя. Оператор корпорации «Национальный союз фермеров» (Денвер, штат Колорадо, США) 56 раз в течение двух лет с помощью металлических предметов устраивал короткие замыкания в электронных цепях ЭВМ и блокировал управляющую программу. Общий ущерб составил полмиллиона долларов33. Во Франции есть даже организация, созданная специально для разрушения компьютеров, — КЛОДО34. Так, например, группа ее членов сожгла демонстрационный компьютерный центр фирмы «Филипс Дейта системз» в Тулузе35. Поэтому неудивительно, что уже зафиксирован первый случай самоубийства робота36.

Физикам известен феномен симметрии топологии и логики, бытовую иллюстрацию которого можно найти в произведениях больших писателей. «„Ахтерлоо” — это мир, где мания величия и произвол диктаторов считаются нормой. А моральное восприятие — исключением, — говорит Фридрих Дюрренматт о своей последней пьесе. — Решая моральные и этические вопросы, наш современный усредненный человек находится примерно в такой же ситуации (параллели, правда, всегда условны), как и первобытный человек в девственном лесу»37.

В повести Макса Фриша описывается, как горы отрезали от «большой земли» селение, лишив его жителей благ цивилизации. И тут начинается попытка господина Гайзера действовать по привычной логике в этом несколько покосившемся мире. Надо убирать дом. Логично и необходимо, но при создавшихся условиях уборка сводится к тому, что господин Гайзер снимает паутину с высокого потолка над лестницей, выломав перила и привязав к ним половую щетку, и т. п.38

Точно так же и с ситуациями разрушения ЭВМ. В морально покосившемся компьютерном мире действия, совершаемые в соответствии с неадекватной логикой, оказываются бессмыслицей. Немудрено, что человек уже как должное воспринимает обращение к нему компьютера, подобное тому, которое прочитал на экране дисплея программист «Ю. С. лизинг компани» в Сан-Франциско (США). После нескольких непристойных советов относительно того, как следовало бы поступить с программным обеспечением, компьютер выдал следующий текст: «Призрак-крэкер, системный взломщик — бьет еще раз… Скоро я сотру все диски памяти и взломаю дублирующую систему. С основной системой я уже покончил!!! Вот потеха наступит, когда будешь пытаться восстановить ее, ты… (грязное ругательство.—Ю.Б.)»39.

В США однажды полицейский, вытащив пистолет, всадил две пули в компьютерный терминал40. Но вряд ли стоит ограничиваться полумерами. Журнал «Тайм» завершил не лишенной иронии фразой одну из своих статей, посвященную компьютерным преступлениям: «В идеале в качестве первого шага для их предотвращения следовало бы перестрелять программистов»41. Но в этой иронии — сама суть компьютерной морали: стреляй, коль скоро компьютерный «выстрел» запрограммирован…

Примечания

1 Упоминаемый случай, известный среди специалистов как «Cookie monster program» («Программа монстра-сладкоежки»), действительно имел место на главном компьютере Массачусетского технологического института в США. См.: Hearings before the Subcommittee on transportation, aviation and materials of the Committee on science and technology US House of representatives. 98th Congress, first session. September 26, October 17, 24, 1983 [N 46]. Wash.: US Government printing office, 1984. P. 48. (Далее: Hearings STAM).

2 Труд. 1985. 30 июня.

3 Уэстлейк Д. Победитель // Лалангамена. М., 1985 С. 287

4 Undercurrents (англ.) — подводные течения. Цитируемый заголовок см.: Undercurrents 1974 №7

5 Phreak (сокр. от phonefreak, позднее phone phreak) (англ) — телефонный маньяк.

6 Esquire. 1971. Oct.

7 Captain Crunch. Подробнее его историю см.: Parker D.В.Fighting computer crime. N. Y., 1983. P. 170-181.

8 Ibid. P. 172.

9 Ramparts.

10 Norman A.R.D. Computer insecurity. L.; N. Y., 1983. P 133

11 Ibid. P. 139-140.

12 Ibid. P. 72-73, 108-109.

13 New York Times. 1983. Sept. 8.

14 Ibid.

15 Ibid.

16 Hearings STAM. Р. 5.

17 Newsweek. 1983. Sept. 5. P. 39.

18 Hearings STAM. P. 27.

19 Hearings before the Subcommittee on oversight of government management of the Committee on governmental affairs United States Senate. 98th Congress, first session. October 25-26, 1983. Wash.: US. Government printing office, 1983. P. 27.

20 Newsweek. 1983. Sept. 5. P. 39.

21 Los Angeles Times. 1981. Dec. 6.

22 Hearings STAM. P. 10-11.

23 New York Times. 1983. Sept. 8. Эта норма основывается на тезисе о том, что компьютер — всего лишь инструмент, а потому нейтрален. Такой взгляд разделяют не все. X. Озбекхан, американский кибернетик, утверждает: «В действительности компьютер не нейтрален, а статус инструмента не гарантирует нейтральности. Даже в пещерные времена топор был далек от нейтральности. Одно из многих его применений состояло в том, что с его помощью можно было убить другого человека значительно успешнее, нежели до изобретения этого инструмента. Короче говоря, инструмент никогда не бывает этически нейтральным» (Man and computer: Proc. int. conf., Bordeaux, 1970. Basel, 1972. P. 263).

24 Turkle S. The second self: Computer and human spirit. N. Y., 1984.

25 Norman A.R.D. Ор. cit. P. 221.

26 Parker D.В. Ор. cit. P. 134-136.

27 Knowles R., Joseph M. How to rob banks without violence. L., 1972.

28 Farr R. The electronic criminals. N. Y., 1975. P. 7-8.

29 Panorama. 1986. Feb. 2.

30 Pacific News Service. 1984. Oct.

31 Ibid.

32 Japan Times Weekly. 1981. Dec. 26.

33 Norman A.R.D. Ор. cit. P. 76-77, 99, 106.

34 CLODO — Comite Liquidant ou Detournant des Ordinateurs (Комитет по ликвидации или разрушению компьютеров).

35 Parker D.В. Ор. cit. P. 256; Norman A.R.D. Ор. cit. P. 229- 231.

36 За рубежом. 1986. №39. С. 24.

37 Известия. 1985. 7 дек.

38 Фриш М. Человек появляется в эпоху голоцена // Иностр. лит. 1981. №1. С. 122.

39 Los Angeles Times. 1983. May 25.

40 Simons G. Silicon shock. P. 7, 28.

41 Time. 1977. Aug. 8. P. 53.

Грань пятая: КОМПЬЮТЕРНАЯ ВОЙНА

Коль скоро компьютерный «выстрел» запрограммирован, не начнут ли придумывать что-нибудь подобное военные — так сказать, профессиональные любители пострелять? «Что-нибудь подобное» — такое выражение может даже обидеть представителей вооруженных сил. По сравнению с их разработками достижения гражданского сектора бледнеют и выглядят столь же примитивными, как «телефон» из веревки и двух консервных банок рядом с современным видеотерминалом.

С тех пор как в 1946 г. была создана первая ЭВМ — «ЭНИАК», использовавшаяся тогда исключительно в военных целях, влияние компьютерной техники на развитие вооружений и военной стратегии постоянно увеличивалось. Но сегодня компьютеризация всей военной сферы уже достигла такого уровня, что стала серьезным дестабилизирующим фактором: компьютер «сам» или «с посторонней помощью» может вызвать военный конфликт любого масштаба вплоть до случайной ядерной войны.

Судьбу человечества решит компьютер?

Артур Кларк, автор известного романа «2001: космическая одиссея», сказал, что сегодня войны могут начинаться не в умах людей, а в электронных цепях компьютеров. А вот мнение Фридриха Дюрренматта:

«Я много беседовал об этом с американцами. Программа „звездных войн” не нужна, она бесполезна, ибо бессмысленна по своей сути… Трагедия может произойти в минуты, а в XXI веке даже в секунды… Мы вступаем в эру новой технологической революции, где всеобщим богом, которому, подчеркну, поклоняются и военные, становится компьютер. Ошибка компьютера — представьте себе такую гипотетическую ситуацию — и боевое дежурство ракет заканчивается бессмысленной бойней, гибелью человеческой цивилизации. Каковы они, шансы мира, в этом лабиринте новой техники?»1.

Обыденные представления о технической стороне «стратегической оборонной инициативы» (СОИ) сосредоточены на лазерах, пучковом оружии и тому подобных экстравагантных технических средствах. Сравнительно мало обращается внимания на то, что вся система должна будет функционировать полностью автоматически, под контролем сети компьютерных программ. «Создалось бы положение, когда принципиально важные, необратимые по своим возможным последствиям решения принимались по сути дела электронными машинами, без участия человеческого разума, политической воли, без учета критериев морали и нравственности, — отметил М. С. Горбачев. — Такое развитие событий могло бы привести к всеобщей катастрофе — даже если его изначальным импульсом послужат ошибка, просчет, технический сбой крайне сложных компьютерных систем»2.

В самом деле, поскольку система «звездных войн» должна будет прореагировать за считанные секунды, не будет времени даже для того, чтобы «разбудить президента», как выразилось одно должностное лицо Организации по осуществлению СОИ3. Компьютеры, связанные с орбитальными датчиками, должны будут провести различие между тысячами боеголовок и других средств и десятками тысяч приманок. Компьютеры должны будут рассчитать траектории всех предметов в пределах так называемого «облака угрозы» (по некоторым оценкам, информация будет поступать о 300 тыс. объектов)4. Компьютеры должны будут выбрать подходящую стратегию, определив наиболее важные цели. Компьютеры должны будут нацелить оружие, проверить, уничтожены ли ракеты и боеголовки противника. И все это необходимо сделать, по американским расчетам, за 100-300 секунд. За это время компьютеры СОИ должны будут принять решения, которые в условиях обычной войны принимались множеством специалистов по разведке, боевых командиров, генералов, комитетом начальников штабов и главнокомандующим в течение недель и даже месяцев.

«Люди, судя по всему, просто не понимают, что проблемы компьютерных программ отличаются от большинства других технических проблем. Существуют фундаментальные причины, почему программное обеспечение невозможно сделать достаточно надежным, чтобы можно было не сомневаться в том, что система „звездных войн” действительно сработает», — сказал Дэвид Парнас, крупнейший авторитет по крупномасштабному программированию5. Д. Парнас был назначен Организацией по осуществлению СОИ членом консультативного комитета «по программированию управления боевыми операциями». Ознакомившись подробнее с тем, что ждет от него Организация по осуществлению СОИ, Д. Парнас отклонил сделанное ему предложение, одновременно представив восемь технических документов, которые объясняли, почему программа не сможет работать так, как требуется.

Специалисты по компьютерам знают, что все программы, даже те, которые продаются для коммерческих целей, содержат дефекты, причем многие из них обнаруживаются лишь через годы. Иногда устранение дефектов программы продолжается спустя долгое время после развертывания нового оружия, снабженного компьютерами. Программистов, например, доставляют вертолетами на корабли, и только в процессе модификации и отладки программа становится более или менее надежной. В условиях получасовой войны, которая будет вестись с помощью системы управления СОИ, таких возможностей не будет.

Дефекты в программах — вовсе не свидетельство неаккуратного программирования, а реальный факт, с которым приходится мириться даже лучшим программистам. Кроме того, поскольку программы становятся больше, число дефектов также увеличивается, но оно растет гораздо быстрее, чем размер программы. Дефекты остаются, как правило, даже после того, как программа выброшена в продажу. Такая ситуация получает правовое оформление в том, что большинство производителей средств программирования не только не дают клиентам никаких гарантий, но и специально оговаривают это в письменном виде. Это для бытовых систем. А ведь военные компьютеры должны работать десятки лет и ни разу не сбиться. Очевидно, это нереально.

Типичные бытовые программы, как правило, насчитывают не более нескольких сот команд, дающих указание компьютеру выполнить одну из серии операций по обработке данных или какое-либо управляющее действие. Эти программы сразу после составления содержат десятки, а то и сотни дефектов. Только неоднократное использование, проверка всех возможных комбинаций могут помочь выявить дефекты. Признано, что программа, требуемая для системы «звездных войн»6, будет состоять минимум из десяти миллионов команд, хотя некоторые специалисты полагают, что их количество приблизится к ста миллионам. Представьте, что надо написать книгу объемом в десять миллионов слов. Если вы неправильно употребите несколько из них, это неприятно, но страшного ничего не случится. В программе же все «слова» должны быть поставлены безошибочно и действовать во взаимосвязи.

Можно провести такое сравнение. Челночному космическому кораблю типа «шаттл» требуется около трех миллионов команд, включая компьютеры на Земле, управляющие запуском и следящие за полетом из Хьюстона. Эта программа разрабатывалась в течение многих лет. Она бесконечно испытывалась на Земле. «Она позволила провести много успешных полетов челночного корабля, и тем не менее случаются неудачные запуски из-за дефектов в программе, — говорит Д. Парнас. — Дело в том, что при всех испытаниях ни разу не пришлось столкнуться с тем сочетанием обстоятельств, которое выявило дефект, существовавший все время. Сотрудники Организации по осуществлению СОИ говорят, что они испытывают все программы, прежде чем заложить их. Но что если они не смогут предугадать в точности все обстоятельства, с которыми столкнется программа?.. Ведь нельзя вернуться назад, устранить недостаток и снова начать ядерную войну»7.

Трагическая гибель «Челленджера» подтвердила ненадежность компьютеров: в течение по меньшей мере пятнадцати секунд до взрыва они не сигнализировали об опасности. Но эта катастрофа выявила и еще один фактор риска, существо которого предельно точно сформулировано в Заявлении Всемирного Совета Мира. В нем, в частности, говорится: «Размышляя о происшедшей трагедии, мы не можем не задаться вопросом: каким был бы результат этого несчастного случая, если бы он произошел в космосе после развертывания там ударных вооружений? Во время мирных космических полетов какая-то техническая неполадка или ошибка в расчетах может быть выявлена и исправлена в дальнейшем, но нарушение функционирования военных космических объектов может лишить нас будущего. Ослепительная вспышка над Флоридой болью отозвалась в наших сердцах. Но представим себе, что эта вспышка обнаружена военным роботом, который лишь замерит ее интенсивность и подаст сигнал к началу нападения. В этом случае беспощадные лазерные лучи, направляемые компьютером, не знающим колебаний, уничтожат искусственные спутники, самолеты, корабли и заставят запылать города один за другим»8.

В самом деле, кому в такой ситуации может быть точно известно, был ли такой взрыв результатом неисправности систем корабля или он был уничтожен противоспутниковым оружием? Собственно, это так и останется для всех неизвестным, поскольку на взрыв моментально среагировали бы компьютеры, управляющие системой развернутых в космосе вооружений. От них поступила бы только одна команда — задействовать эти вооружения. «Кто вообще может поручиться, что тогда может произойти? — сказал М. С. Горбачев на встрече с представителями международного форума ученых за прекращение ядерных испытаний. — Сейчас пока еще летают десятки спутников и космических кораблей, но то и дело происходят всякого рода чрезвычайные происшествия с ними. А если пойдут эшелоны военных систем? Вычислительная техника ими управляет, выдает информацию, но она не занимается тем, по каким причинам что-то там происходит. В результате „решения”, от которых зависят судьба и жизнь миллионов, будут приниматься не на политическом, а на техническом уровне. Вся цивилизация окажется заложником техники»9.

Программисты никогда не могут быть вполне уверены в результатах проверок. Небольшие ошибки, которые могут привести к хаосу во всей системе, — их вечный бич. Если программа состоит «всего» из миллиона команд, «проверка всех, вариантов заняла бы всю жизнь всех людей, которые до сих пор жили на земле», — отмечает Джоуэл Флайсс, президент южнокалифорнийской фирмы «Пропрайетари сафтуэр системз»10.

В вычислительных центрах всего мира, где работают со сложными моделями, ЭВМ всегда являлась предметом бесконечных шуток и подозрений в связи с нечистой силой. «Когда беседуешь с людьми, составляющими огромные программы, — признается Д. Парнас, — складывается впечатление, что разговариваешь с социологами. Они скажут вам, что, когда они запускают свою программу, она делает странные вещи, которые невозможно предугадать… Задаешь им вопрос, что сделает их программа в такой-то и такой-то ситуации, а они отвечают: „Не знаю, давайте испробуем”»11.

О том, насколько уязвимым будет математическое обеспечение системы СОИ, свидетельствуют следующие примеры:

когда в 1979 году американский космический зонд, запущенный на Венеру, не достиг своей цели, в космосе пропал почти миллиард долларов. Причина: в программе коррекции курса зонда запятая была спутана с двоеточием;

в 1983 году компьютер, принадлежащий местным органам власти, стал причиной наводнения в юго-западной части США. В компьютер были введены неверные данные о погоде, в результате чего он дал ошибочный сигнал шлюзам, перекрывающим реку Колорадо;

один из вариантов навигационной программы для истребителя «F-16» привел бы к тому, что всякий раз, когда самолет перелетает экватор, он будет переворачиваться. Эта слабость была выявлена при компьютерном испытании модели, но многие менее серьезные ошибки остаются невыявленными;

крупнейшая американская телефонная компания «Америкэн телефон энд телеграф» подвергает программное обеспечение своей техники самым сложным испытаниям. Тем не менее ее телефонная сеть частично вышла из строя, когда в этой якобы сверхнадежной схеме вдруг выявилась ошибка. Эта ошибка на протяжении многих лет была «спящей», но при определенном стечении случайностей дала о себе знать12.

Еще одним источником ошибок служат постоянно ожидаемые изменения характеристик собственных систем оружия и оружия противника и приведение программного обеспечения СОИ в соответствие с ними. Программному обеспечению телефонной сети не приходится выдерживать нападений со стороны противника, обладающего новейшей техникой. Помехи неприятны во всех случаях, но в СОИ они могут привести к катастрофе. «Мы не можем позвонить противнику по телефону и попросить его приостановить свой удар, потому что нам нужно найти ошибку в программном обеспечении, — говорит Д. Парнас. — Если другая сторона не будет сотрудничать и не скажет нам, на какие качества обратить внимание, алгоритмы опознавания, включенные в программу, могут оказаться неправильными»13.

СОИ является провоцирующей системой в том смысле, что, когда она будет развернута, СССР вынужден будет ответить системой «анти-СОИ». Она совершенно необязательно будет аналогом американской системы, но здесь вмешивается еще один фактор — фактор взаимодействия. «Вероятность катастрофы повышается еще и потому, что в данном случае надо рассматривать совокупность двух автоматизированных систем, не согласованных между собой, противостоящих друг другу, — говорит известный советский специалист по космической технике академик Б. В. Раушенбах. — По правилам отработки такого рода систем надо провести совместные натурные испытания. В каком-либо мирном международном проекте это было бы логично. Но в данном случае это же невозможно! США не дадут Советскому Союзу свою автоматизированную систему, чтобы он приспосабливал под нее свои ответные меры. И наоборот. Таким образом, будут работать две неотлаженные, несогласованные системы. А в таких системах вероятность отказов еще большая. А это означает не только то, что опасным образом падает надежность обеих технических систем, это означает, что увеличивается вероятность случайного возникновения войны»14.

Проект СОИ считают ошибочным даже те, на чье мнение в первую очередь должны были бы оказывать влияние профессиональные предубеждения. Назовем, например, Г. фон Тизенхаузена, одного из тех, кто создавал ракеты-убийцы «Фау-2», а впоследствии помощника директора по современным системам в Центре космических полетов имени Джорджа Маршалла, разрабатывающего политику НАСА в отношении замены людей роботами на космических объектах15. «Если другая сторона придумает всего лишь один трюк, чтобы обмануть нашу систему, и наши люди не сумеют устроить ее таким образом, чтобы она справилась с этим, она не сработает., — сказал Ларри Смарр, возглавляющий Национальный центр изучения возможностей суперкомпьютеров в Иллинойском университете. — Это будет своего рода линия Мажино в космосе»16.

В Соединенных Штатах Совет Ассоциации по вычислительной технике принял 8 октября 1984 г. резолюцию, подчеркивающую, что компьютерные системы, вопреки совершенно необоснованным утверждениям американских политиков, нельзя считать непогрешимыми. Этой резолюцией завершились двухлетние дебаты, начатые активистами, потребовавшими, чтобы ассоциация публично заняла определенную позицию в отношении опасности ядерной войны и роли компьютеров как важнейших компонентов системы нового сложного оружия, надежность и контроль которой остаются сомнительными. Тем самым создается опасность ядерного конфликта, который может возникнуть случайно. Аналогичная резолюция была предложена и Международной федерацией по информатике, выразившей сожаление по поводу «такого использования компьютерной техники, которое способствует увеличению опасности ядерной войны»17. На симпозиуме, посвященном компьютерной технике и состоявшемся в 1986 г. в Калифорнии (США), 36 из 61 участника подписали заявление, в котором говорится: «Эффективная защита от ядерного уничтожения жизни, домов и имущества американского народа, которая предусмотрена стратегической оборонной инициативой, требует исключительно надежных компьютерных систем беспрецедентной сложности. Как специалисты по надежности вычислительной техники, мы твердо убеждены в том, что система, отвечающая этим требованиям, технически невозможна»18. И дело не только в проблеме надежности. Сочетание и взаимодействие описанных выше факторов с правовой точки зрения делает развертывание системы СОИ международным преступлением19.

На одном из семинаров по вопросам оружия космического базирования целый ареопаг экспертов Пентагона (и в их числе Роберт Купер, директор Управления перспективного планирования научно-исследовательских работ министерства обороны, Джордж Киуорт, в то время советник президента США по научным вопросам20, генерал Джеймс А. Абрахамсон, руководитель программы СОИ) признал, что использование лазерного оружия в космосе потребовало бы столь быстродействующий компьютер для принятия решения, что это фактически исключило бы всякое вмешательство Белого дома в данный процесс. В связи с этим сенатор Пол Тсонгес мрачно пошутил, предложив во время предстоящих президентских выборов избрать на этот пост компьютер системы управления вооруженными силами США. «По крайней мере он всегда будет начеку», — добавил сенатор.

— Разве кто-нибудь предупредил президента, что он отстранен от процесса принятия решения?— был задан вопрос.

— Только не я! — со скоростью, которой бы позавидовал компьютер, среагировал научный советник Рейгана Дж. Киуорт.

— Мы в состоянии иметь технику, которая не позволит президенту совершить какую-либо ошибку! — заявил Р. Купер21.

Это выглядит как анекдот, но грустный анекдот. Из него с очевидностью следует вывод: Р. Рейган не сознает, что, закрутив махину СОИ, он фактически лишился важных прерогатив главнокомандующего, а довершит дело новый ход американского военного ведомства, который пока что остается в тени для широкой публики.

Пресловутая «стратегическая оборонная инициатива» Р. Рейгана, попав в фокус внимания политических деятелей и средств массовой информации, как-то заслонила не менее претенциозную и, самое главное, не менее опасную миллиардную программу Пентагона под названием «стратегическая компьютерная инициатива», преследующую цель создать новое поколение компьютеров, обладающих зрением, слухом, речью, специальными знаниями и способностью рассуждать22. Разработанным Управлением перспективного планирования научно-исследовательских работ министерства обороны США проектом «СТРАТЕГИЧЕСКАЯ ИНФОРМАТИКА» американские военные перешли в наступление в гонке за создание ЭВМ пятого поколения, умеющих обобщать на первый взгляд не связанные между собой факты, чтобы принимать решения, как это делает человек. Совершенно новая компьютерная технология по замыслу Управления перспективного планирования должна ориентироваться главным образом на потребности вооруженных сил. В соответствии с проектом стали оформляться заказы промышленным и университетским лабораториям. Так было положено начало десятилетнему плану, опирающемуся на финансовую дотацию в 600 млн. долларов на первые пять лет23.

Компьютерные «оловянные солдатики»

Как показывает опубликованный в июне 1984 г. доклад профессиональной группы «Общественная ответственность специалистов по вычислительной технике», этот проект представляет большую опасность24. Обеспокоенность специалистов понятна. Без ЭВМ немыслимы ни ракеты, ни авиация, ни флот в том виде, в котором они существуют ныне. Человеческая мысль не может обеспечить быстроты, необходимой для учета всех параметров, нужных для вычисления траектории ракеты или прокладывания курса. Компьютер перестал быть просто вычислительным устройством, дающим информацию для принятия решений человеку. Сегодня военные передоверяют принятие некоторых решений машинам, программируемым заранее. В современном конфликте военачальник, как правило, лишен визуальной информации. В его распоряжении — лишь кодированные сообщения, поставляемые компьютерами и ими же переведенные на естественный язык. Свобода выбора для человека при таком положении становится все иллюзорнее.

Вспоминается поэтическое описание воздушного боя прошедшей войны:

Я — ... истребитель, мотор мой звенит. Небо — моя обитель. А тот, который во мне сидит, считает, что он — истребитель. . . . . . . . . . . . . . . . . Что делает он — ведь сейчас будет взрыв!.. Но мне не гореть на песке,— запреты и скорости все перекрыв, я выхожу из пике25.

Из литературного приема, называемого «остранением», ситуация стала реальностью, чуть ли не техническим описанием работы авиационных систем. Пилот истребителя, поднимающегося в небо, — хозяин своего самолета лишь в той мере, в какой это позволяет ему компьютер. Летчик не имеет возможности идти на риск, не совместимый с летными характеристиками полета. Более того, можно сделать так, чтобы самолет не подчинялся приказам, противоречащим командам компьютера. ЭВМ способна отключить ручное управление и также автоматически привести ракеты в боевую готовность.

Пока что компьютеры не способны думать, рассуждать или читать мысли. Но в проекте «Стратегическая информатика» речь идет о компьютерах пятого поколения, и по заказу Пентагона фирма «Макдоннел-Дуглас» уже работает над компьютерной системой, которая будет сканировать волны, исходящие от мозга пилота, следить за пульсом, сокращениями сердечной мышцы, другими жизненно важными функциями его организма и на основании этого определять боеспособность пилота, выдавая ему ровно столько информации, сколько он в состоянии воспринять в данный момент.

Управление перспективного планирования создает и так называемого «помощника пилота» — робота, помогающего летчикам в условиях воздушного боя выполнять операции, которые сейчас делаются вручную, например обходные маневры с целью уйти от ракет противника. Робот будет выполнять голосовые команды пилота и отвечать ему тоже в речевой форме26.

В осуществлении «стратегической компьютерной инициативы» способность систем сбора и обработки данных (военные называют их «три К» или «К3» («К» в кубе) в соответствии с их тройной функцией: командование, контроль, коммуникации27) следить в реальном масштабе времени за развертыванием конфликтов на различных театрах военных действий с тем, чтобы сохранить контроль над участвующими в боях воинскими частями, превратилась в важнейший боевой фактор. Но системы «три К», задуманные для установления строгого контроля, страдают врожденными пороками: во-первых, они исключительно уязвимы для воздействия электронными импульсами; во-вторых, регулярно «обнаруживая» ложные атаки, они неоднократно приводили к объявлению боевой готовности. Причиной последнего может оказаться как дефект одного из электронных компонентов, несовершенство математического обеспечения, неправильное истолкование природного явления (перелет стаи диких гусей был принят однажды за «советскую ракетную атаку»), так и ошибка оператора, вызывающая немедленную реакцию системы. Примеров этому немало.

Так, крупный скандал разразился в Пентагоне в 1984 г., когда обнаружилось, что миллионы микрочипов компании «Тексас инструментс», широко используемых в современных системах оружия, не отвечают элементарным требованиям надежности. Компания просто-напросто не проводила многих существенно важных испытаний и проверок чипов перед их монтажом в системах боевой техники. Такие неисправные чипы в радарах, системах раннего обнаружения (в том числе и спутниковых) оказываются ответственными за ложные тревоги. Случай с «Тексас инструментс» — отнюдь не уникальное событие. В том же 1984 г. стало известно, что Национальная корпорация полупроводниковой техники фальсифицировала результаты испытаний кремниевых чипов, предназначенных для военных систем28. Ради доходов возможностью того, что из-за неисправных электронных цепей может погибнуть человеческая цивилизация, просто пренебрегли.

Другой пример. 3 и 6 июня 1980 г. компьютер в штаб-квартире командования противовоздушной обороны Северной Америки (НОРАД)29 выдал ложные сигналы о якобы начавшемся советском нападении. В результате были приведены в повышенную боевую готовность стратегические бомбардировщики с ядерным оружием на борту30. А причиной послужил маленький, размером с монету, кремниевый элемент. Руководящий деятель лейбористской партии Великобритании Т. Дэлиэлл заявил в этой связи: «Тот факт, что дважды за четыре дня ошибка компьютера приводила к запуску американской военной машины, должен стать проблемой номер один в повестке дня каждого правительства и каждой политической партии мира»31.