Человек и компьютер: Взгляд в будущее

Для многих это стало большим ударом. Шахматы были важным объектом исследований в психологии и когнитивной науке практически с момента зарождения этих дисциплин. В 1892 году Альфред Бине изучал шахматистов в рамках своего исследования «математических дарований и людей-счетчиков». Его открытия оказали большое влияние на изучение различных видов памяти и умственных способностей. А описанные им различия между врожденным талантом и приобретенными знаниями и опытом заложили основы для дальнейших исследований в этой области. «Человек может стать хорошим шахматистом, — написал он. — Но гениальным шахматистом нужно родиться»{32}. Вместе со своим коллегой Теодором Симоном Бине разработал первый тест для определения уровня интеллекта человека. В 1946 году работу Бине продолжил голландский психолог Адриан де Грот, протестировавший множество шахматистов. Результаты его исследований показали всю важность когнитивной функции распознавания образов и в значительной степени очистили представление о процессе принятия решений от таинственного феномена человеческой интуиции.

Американский специалист по информатике Джон Маккарти, придумавший в 1956 году термин «искусственный интеллект», назвал шахматы «дрозофилой ИИ»{33}, подразумевая ту роль, которую сыграла эта крошечная плодовая мушка в бесчисленном множестве великих научных открытий и экспериментов в области биологии, особенно в генетике. Но к концу 1980-х компьютерное шахматное сообщество практически отказалось от серьезных экспериментов. В 1990 году создатель Belle Кен Томпсон открыто порекомендовал использовать игру го как более многообещающий инструмент для достижения реального прогресса в исследовании мыслительных способностей машин. В том же году в сборник «Компьютеры, шахматы и познание» был включен целый раздел под названием «Новая дрозофила для исследований ИИ?», посвященный игре го.

Игра го с ее полем 19 на 19 линий и 361 черным и белым камнем имеет слишком крупную структуру, чтобы ее можно было взломать с помощью грубой силы, и слишком коварна, чтобы ее исход могли решить тактические промахи, являющиеся главной причиной проигрыша людей шахматным машинам. В статье 1990-го об игре го как о новой мишени для ИИ команда программистов сообщила, что они отстают от своих шахматных коллег примерно на 20 лет. Эта оценка оказалась удивительно точной. В 2016-м, 19 лет спустя после моего проигрыша Deep Blue, компьютерная система AlphaGo, созданная в рамках финансируемого Google проекта DeepMind, победила сильнейшего в мире игрока в го Ли Седоля. Что намного важнее, задействованные для создания AlphaGo методы, как и предсказывали, были более интересными с точки зрения изучения ИИ, чем все те, что применялись в лучших шахматных машинах. Система использует машинное самообучение и нейронные сети, чтобы самостоятельно повышать свой уровень игры, а также другие продвинутые методики, выходящие за рамки обычного поиска «альфа-бета». Deep Blue стала концом; AlphaGo — только начало.

Присущие шахматной игре ограничения были не единственным фундаментальным заблуждением в этом уравнении. Понимание искусственного интеллекта, на которое опиралась компьютерная наука, также оказалось ошибочным. Основные предположения, стоявшие за мечтой Алана Тьюринга об искусственном интеллекте, состояли в том, что человеческий мозг во многом похож на компьютер, поэтому надо создать машину, которая успешно имитирует человеческое поведение. Данная концепция доминировала на протяжении многих поколений ученых-компьютерщиков. Заманчивая аналогия — нейроны как транзисторы, кора как банк памяти и т. д. Но эта красивая метафора не подтверждена никакими биологическими доказательствами и отвлекает нас от фундаментальных различий между человеческим и машинным мышлением.

Чтобы подчеркнуть эти различия, я обычно обращаюсь к таким понятиям, как «понимание» и «цель». Начнем с первого. Чтобы понять фразу, которую человек понимает мгновенно, машина наподобие Watson должна проанализировать огромное количество информации и тем самым выявить контекст, необходимый для извлечения смысла из услышанного. Простое предложение «Эта собака слишком злая, чтобы впустить» может означать, что вы не можете зайти к соседу, потому что у него живет свирепый пес, или что вы не хотите, чтобы у вас в доме появилось животное, угрожающее вашей безопасности. Несмотря на двусмысленность предложения, человек вряд ли неправильно интерпретирует слова собеседника. Контекст делает смысл сказанного очевидным.

Применение контекста — наша естественная способность; это одна из причин, объясняющих, почему человеческий мозг в состоянии обрабатывать такое огромное количество информации, не фокусируясь на ней сознательно. Наш мозг работает в фоновом режиме, без каких-либо заметных усилий с нашей стороны, подобно тому как мы дышим. Зачастую сильный шахматист с первого взгляда на доску понимает, какой ход будет лучшим в той или иной позиции, точно так же, как вы, лишь взглянув на витрину кондитерской, знаете, какое пирожное вам понравится. Конечно, эти бессознательные интуитивные процессы иногда оказываются ошибочными и вы проигрываете партию или покупаете невкусное пирожное, поэтому в следующий раз в аналогичной ситуации вы, вероятно, уделите больше сознательного внимания и времени проверке своей интуиции.

Напротив, искусственному интеллекту необходимо определять контекст для каждого нового фрагмента данных. Чтобы сымитировать понимание, ему необходимо обработать огромное количество информации. Представьте, на какое количество вопросов нужно ответить компьютеру, чтобы понять суть проблемы со «злой собакой». Что такое собака? Это субъект или объект действия — то есть она впускает или ей позволяют зайти? Что значит «впустить»?

Несмотря на все эти сложности даже в простых предложениях, компьютер Watson доказал, что машина может давать точные ответы при наличии достаточного количества релевантных данных, которые она может быстро и грамотно проанализировать. Как и шахматный движок, перебирающий миллиарды позиций для нахождения лучшего хода, языковая машина разбивает язык на значения и вероятности, чтобы сгенерировать понимание и ответ. Чем сильнее повышаются скорость машины, количество и качество данных и чем умнее программный код, тем более точным будет ответ.

Рассуждая о том, умеют ли компьютеры задавать вопросы, можно с иронией упомянуть, что формат телевикторины Jeopardy! в которой Watson победил двух человеческих чемпионов, требует, чтобы участники давали ответы в форме вопросов. Если ведущий говорит: «Эта советская программа выиграла в 1974 году первый чемпионат мира по шахматам среди компьютерных программ», — игрок должен нажать на кнопку и сказать: «Это "Каисса"?» Но это странное правило — простой протокол, никак не влиявший на способность Watson находить ответы среди своих 15 Пбайт памяти.

Тем не менее во многих случаях результат важнее метода, а в результатах машины зачастую превосходят людей. У них нет понимания, но оно и не нужно. Медицинская диагностическая система на основе ИИ может перерыть многолетние массивы данных о пациентах, страдающих раком или сахарным диабетом, и выявить взаимосвязь различных характеристик, привычек или симптомов, что позволит эффективнее диагностировать и предотвращать эти заболевания. Разве отсутствие у машины «понимания» того, что она делает, превращает ее в менее полезный инструмент?

Нет, но проблема понимания важна для тех, кто хочет создать следующее поколение интеллектуальных машин, способных обучаться быстрее, чем мы можем их научить. В конце концов, люди не узнают родной язык по учебникам.

До сих пор мы делали так: создавали машину и закладывали в нее строгие правила, благодаря которым она оказывалась в состоянии имитировать человеческую деятельность. Производительность такой машины была низкой и носила искусственный характер. По мере оптимизации и увеличения скорости производительность повышалась. Теперь мы подошли к следующему этапу, когда программисты ослабляют правила и позволяют машине самой узнать, что к чему, и на основе этого менять или даже игнорировать старые установки. Чтобы освоить какой-либо вид деятельности, нужно уметь применять базовые принципы. Но, чтобы преуспеть, нужно знать, как и когда эти принципы следует нарушить. Это не только теория, но и история моих собственных сражений с шахматными машинами на протяжении двух десятилетий.

5. Что важно для человека?

Одна из проблем, затрудняющая прогнозирование и основанные на статистике оценки развития шахматных программ, связана с тем, что шахматы — состязательный вид спорта. Нет, я не буду отвлекаться на бессмысленные споры о том, являются ли шахматы спортом, игрой, хобби, искусством или наукой. Я не собираюсь спорить с Международным олимпийским комитетом{34}, который отказался включить бридж и шахматы в олимпийские виды спорта на том основании, что эти «умственные виды спорта» не сопряжены с физическими нагрузками, хотя все, кто видел, как шахматные мастера разыгрывают партии в блиц, делая за секунды десятки ходов, могут с этим не согласиться.

Как бы то ни было, шахматы включают большинство элементов, которые входят в определение понятия «спорт». Наиболее важный из них, особенно когда речь идет об игре человека против машины, — соперничество. Цель не в том, чтобы играть хорошо; хорошая игра — это только средство достижения цели, коей является победа над соперником. Мы можем говорить о поисках истины на шахматной доске или о красивой игре, но в конечном итоге значение имеет только одно — победа или поражение.

Еще один аспект шахмат как вида спорта — интенсивные психологические и физиологические нагрузки во время соревнования и кризис после состязания. То, что спортивная наука называет реакцией на стресс, в шахматах является не менее мощным, чем в физических видах спорта. Говоря о нагрузке, я имею в виду не только колоссальные умственные усилия, но и огромное нервное напряжение за доской, которое возрастает и снижается с каждым ходом, с каждой идеей, возникающей в вашем уме во время партии. Это напряжение длится несколько часов, и в процессе игры вы несетесь по американским горкам эмоций по мере того, как ситуация на игровом поле меняется и преимущество переходит то к одной, то к другой стороне. Восторг может в одно мгновение смениться отчаянием и спустя один ход снова уступить место надежде, что исчерпывает запасы адреналина даже у самых выносливых игроков. Управление этой нервной энергией во время каждой партии и на протяжении всего турнира, который может длиться несколько недель, — необходимый навык для гроссмейстера.

Способность к восстановлению не мелочь, особенно после проигрыша. В шахматах нет ничего такого, на что можно было бы возложить вину за свое поражение. Здесь не бывает «несправедливых» арбитров, бьющего в глаза солнца, товарищей по команде, которые могут подвести, или фактора везения, как в картах или игре в кости. Если вы проиграли, то только потому, что ваш соперник оказался сильнее вас, а вы слабее него. Поскольку все сильные шахматисты обладают значительным эго, неудачи воспринимаются ими особенно болезненно. Между тем очень важно достичь правильного соотношения между способностью тщательно проанализировать свой провал, чтобы не допустить его повторения, и умением быстро выкинуть произошедшее из головы, чтобы подойти к следующей партии с необходимой долей уверенности в своих силах и спокойствия.

Шахматы являются спортом и потому, что игра как людей, так и машин может быть несовершенна. В 2003–2006 годах я выпустил серию книг «Мои великие предшественники» с анализом сотен знаменитых партий, сыгранных сильнейшими шахматистами в истории. Большинство этих легендарных партий, даже исследованные с помощью мощных компьютерных программ, подтвердили свою репутацию шахматных шедевров. Однако они содержали много ошибок и неточностей. Было унизительно узнать, что то же самое верно и для моих собственных партий, когда несколько лет спустя я анализировал их перед выпуском новой серии книг «Современные шахматы». По меткому выражению, шахматную партию выигрывает тот, кто ошибается предпоследним. Но также есть мнение, что ошибки — характерная черта шахмат («это фича, а не баг», как говорят программисты). Если вы допускаете относительно незначительные промахи и попадаете в трудное положение, вы можете надеяться на то, ваш соперник тоже просчитается, особенно при вашей упорной защите.

Немецкий чемпион мира Эмануил Ласкер действовал за шахматной доской инициативно и решительно. Философ и математик, Ласкер играл в шахматы в те времена, когда они были очень популярны в мужских клубах. Предисловие к биографии гениального шахматиста написал сам Альберт Эйнштейн, его коллега и почитатель. Ласкер опирался на психологию и хорошее знание своих соперников в той же мере, что и на свое шахматное мастерство, и это позволяло ему удерживать чемпионский титул рекордный срок — 27 лет. Свою книгу «Здравый смысл в шахматной игре» (1896) Ласкер, прежде чем перейти к описанию тонкостей самой игры, начинает со следующего заявления:

«Шахматы были представляемы или, лучше сказать, были ошибочно представляемы только как игра, то есть как вещь, которая не может хорошо служить серьезной цели, а создана лишь для развлечения в часы досуга. Если бы они были только игрой, шахматы никогда не пережили бы тех серьезных испытаний, которым отчасти подвергались за долгое время своего существования. Некоторые горячие энтузиасты возвеличивали шахматы как науку или искусство. Они — ни то, ни другое; но их главное характерное свойство — это, кажется, то, что доставляет высшее наслаждение человеческому интеллекту, а именно — борьба».

Ласкер был первооткрывателем психологического подхода к шахматам: он утверждал, что лучшим ходом является тот, который направляет игру в неудобное для конкретного противника русло. Другими словами, «играть следует с человеком, а не с доской». Безусловно, сильные ходы могут обеспокоить любого шахматиста, но Ласкер считал, что против разных игроков следует применять разные типы ходов и стратегий. Объективной истиной на шахматной доске, считал он, является победа, а для ее достижения понимание слабых и сильных сторон противника имеет решающее значение.

Подход Ласкера кардинально отличался от подхода его предшественника, первого официального чемпиона мира Вильгельма Стейница. Гордый догматик, Стейниц заявлял, что чувства и мотивы противника для него не имеют значения. «Мое восприятие соперника не изменится, будь он даже некой абстракцией или автоматом», — заявил он в 1894 году. Роковые слова. Однако Стейницу никогда не пришлось проверить свои слова на практике, в игре с настоящим автоматом. К сожалению, я не был так удачлив.

Цель этого краткого рассказа о состязательных и психологических аспектах шахмат — показать, что все они становятся несущественными, когда вы играете против компьютера. Разумеется, на человеческой стороне доски все эти факторы остаются, и вам необходимо ими управлять. Но машине не присущи эмоции: она не впадает в самонадеянность при превосходной позиции на доске и не становится удрученной в случае грубого промаха. Машина не устает за время напряженного шестичасового поединка, не нервничает от тиканья часов, не испытывает чувства голода, не отвлекается и не нуждается в перерывах на поход в туалет. Что еще хуже — когда вы знаете, что ваш противник психологически неуязвим, вам становится гораздо сложнее справляться с собственной нервной системой.

Играя с машиной, вы чувствуете себя странно. По сути мало что меняется: вы видите ту же доску, фигуры, часы, сидящего напротив соперника. Но ваш соперник — только марионетка, подчиняющаяся алгоритму. Если шахматы — это военная игра, разве можно настроить себя на сражение с куском железа?

Это не праздный вопрос, связанный с психологией: мотивация значит очень много. Способность поддерживать высокий уровень концентрации в течение длительного времени — одно из отличительных свойств сильнейших шахматистов мира. «Шахматный талант», который изучается психологами, начиная с Бине и де Грота, имеет неуловимую природу; он подобен астрономическим феноменам, которые можно наблюдать лишь косвенно по их проявлениям. Пока более сложные тесты или исследования со сканированием мозга не раскрыли все наши секреты, мы знаем только то, что такой талант существует, поскольку некоторые игроки намного превосходят других, и это неравенство невозможно объяснить только опытом или обучением.

В книге «Гении и аутсайдеры» (2008) Малкольм Гладуэлл изложил знаменитую теорию о «десяти тысячах часов», согласно которой упорный труд, а не врожденный талант, позволяет достигать исключительных результатов в любой области. Когда журналист из The New Yorker указал ему на очевидный факт, что кенийские бегуны на длинные дистанции и ямайские спринтеры тренируются ничуть не больше остальных бегунов, Гладуэлл объяснил, что его теория применима только к «когнитивно сложным видам деятельности», заявив, что «в таких областях нет врожденных талантов». Он даже отдельно высказался на тему шахмат, подчеркнув то, как много времени шахматисты тратят на обучение и тренировки, чтобы достичь уровня мастера или гроссмейстера.

Впоследствии Гладуэлл внес ясность в свою теорию, написав на сайте Reddit, что одной только практики может быть недостаточно. «Я могу играть в шахматы сто лет подряд, но никогда не стану гроссмейстером, — написал он. — Все дело в том, что природные способности и задатки, чтобы быть выявленными, требуют титанической работы и затрат времени»{35}. Не могу не согласиться с этим отдельно взятым утверждением, поскольку в моем случае это было именно так. Если вы устанавливаете планку на уровне гроссмейстера, вам потребуется огромное количество эмпирических знаний, касающихся дебютной и эндшпильной стадии, поэтому упорные тренировки необходимы. Умение эффективно использовать тысячи тактических и позиционных приемов, которым обладают гроссмейстеры, приобретается только с практикой.

Однако, признавая существование когнитивных талантов, Гладуэлл недооценивает их влияние, особенно на ранних стадиях развития. Утверждая, что 10 000 часов практики не сделают любого человека гроссмейстером, но каждый гроссмейстер потратил на практику 10 000 часов, мы игнорируем значительные различия между гроссмейстерами, особенно молодыми.

Я уже много лет занимаюсь в США подготовкой перспективных шахматистов в рамках деятельности Шахматного фонда Каспарова, одна из целей которого — включение шахмат в школьную программу. Наш проект «Молодые звезды — команда США», софинансируемый Рексом Синкфилдом и его Шахматным клубом и учебным центром в Сент-Луисе, вырастил многих юных чемпионов мира в возрастных группах от 8 до 20 лет, а также нескольких гроссмейстеров. Одна из причин такого успеха в том, что мы умеем рано распознавать дарования, иногда даже до того, как ребенок начал формально обучаться игре в шахматы.

Результаты соревнований — стандартный индикатор, который легко поддается отслеживанию. Например, солидный рейтинг 2100 пунктов у девятилетнего ребенка впечатляет гораздо больше, чем такой же рейтинг у 12-летнего. Президент Шахматного фонда Каспарова, еще советский шахматный тренер Михаил Ходарковский, иммигрировавший в Соединенные Штаты в 1992 году, пытается воссоздать некоторые из элементов советского шахматного конвейера и школы Ботвинника, которую я окончил и где впоследствии преподавал, уже в школе Ботвинника — Каспарова. До запуска этой программы очень мало американских детей в таком юном возрасте получали серьезную подготовку и участвовали в сильных турнирах. Сегодня мы можем с гордостью сказать, что американские юниоры являются одними из сильнейших в мире.

Дети с экстраординарным рейтингом, если пользоваться терминологией Гладуэлла, — это те, кто по уровню игры на два-три года опережает своих сверстников. Если 12-летний школьник набирает 2300 пунктов — очень хорошо, но если такой же рейтинг у 9-летнего ребенка, это означает, что у него есть особый потенциал. Иногда способности детей выравниваются, но, как правило, если маленький шахматист превосходит ровесников на несколько сотен пунктов в течение нескольких лет, то его показатели сохранятся неизменными до того момента, пока не настанет время выбирать между профессиональными шахматами и вузом.

Обычно юные шахматисты добиваются исключительных результатов в условиях, когда сочетаются несколько факторов: хорошо поставленное обучение шахматам в школе, активная поддержка со стороны родителей, частые соревнования и возможность использовать средства для подготовки профессионалов, такие как базы данных. Однако даже ключевые компоненты воспитания любого спортивного таланта не могут объяснить тех редких случаев, когда ребенок в силу своего дарования резко выделяется на фоне сверстников. Одному из участников нашей программы — Авондеру Ляну из Висконсина было девять лет, когда он впервые победил гроссмейстера. В 13 он уже занимал пятое место в американском рейтинге шахматистов младше 21 года. Следующий игрок его возраста занимал 49-е место с рейтингом на 200 пунктов ниже. Номером один в юниорском рейтинге США является Джеффри Сион, который недавно выиграл чемпионат мира среди юниоров до 20 лет и в 15-летнем возрасте уже входит в сотню сильнейших шахматистов мира.

Однако для измерения таланта мы используем не только результаты и рейтинги. Прежде чем дети становятся участниками программы, я внимательно просматриваю подборку их партий. И хотя я не могу претендовать на то, что со стопроцентной точностью выявляю будущих победителей, я хорошо вижу, когда юный шахматист демонстрирует признаки выдающихся способностей. Под выдающимися способностями я подразумеваю вдохновение и творчество, которым нельзя научиться даже при десяти миллионах часов практики, не говоря уже о десяти тысячах, и эти дети зачастую играют всего два-три года. Талант, отсутствие которого, по признанию Гладуэлла, не позволит ему стать гроссмейстером в любом возрасте, отчетливо проявляется уже у семилетних детей. Так как же не говорить о существовании врожденных талантов в этой «когнитивно сложной области деятельности»?

Разумеется, эта редкая врожденная одаренность не является гарантией светлого будущего в шахматах. Здесь играет роль множество разных факторов. Ребенок может увлечься футболом или ловлей покемонов и полностью забросить шахматы. Или его родители могут решить, что шахматы — пустая трата времени и что поездки на турниры слишком дороги или неудобны. Но возможность была — я видел своими глазами на шахматной доске, что в глубине этого маленького детского мозга скрывается нечто особенное.

Если бы в шахматы играли все, мы бы гораздо лучше представляли, насколько редок настоящий шахматный талант. Если бы я родился в стране, где шахматы не были столь популярны, смог бы я добиться подобных успехов в других играх? Мог бы я играть в сёги на уровне легендарного Ёсихару Хабу[5], если бы родился в Японии?{36} Стал бы я чемпионом в сянци в Китае или в оваре в Гане? Или же шахматы, как я полагаю, требуют комплекса особых способностей и склад моего ума почти идеально соответствовал этой игре?

Мне не было еще шести лет, когда я, не зная всех правил, решил опубликованную в газете шахматную задачу, немало удивив своих родителей. На следующий день мой отец, Ким, достал шахматы и принялся объяснять мне, как в них играть, но мне всегда казалось, что это умение пришло ко мне естественным образом, подобно тому, как ребенок овладевает родным языком. В шахматах нет элемента везения, но мне, безусловно, повезло с моими родителями и местом рождения. Отец учил меня шахматам, хотя сам не был заядлым шахматистом. Он умер, когда мне было семь. А вот моя мама в детстве считалась прекрасной шахматисткой, но была вынуждена оставить свое увлечение из-за начала Второй мировой войны.

Наконец я считаю глупым говорить о том, что упорный труд важнее таланта. Это банальное утверждение помогает стимулировать детей к тому, чтобы они усиленно обучались игре на фортепиано. Как я написал десять лет назад в книге «Шахматы как модель жизни», способность к упорному труду — тоже врожденный дар. Умение заставить себя усердно работать, тренироваться, учиться больше других — ничуть не меньший талант, чем все остальные. И далеко не все к этому способны. Как и любой другой дар, талант неустанно трудиться необходимо взращивать, чтобы он расцвел в полную силу. Безусловно, есть свои резоны в том, чтобы рассматривать трудолюбие как вопрос морали, и здесь мы видим обычное переплетение природных задатков и воспитания. И я бы ни в коем случае не хотел давать людям шанс оправдать собственную лень генами{37}. Но мне всегда казались слегка абсурдными такие фразы, как «игрок Х более одарен, но игрок Y одерживает победу благодаря упорному труду». Для достижения наивысших результатов человек должен максимально использовать все свои способности, в том числе способность к усердному труду — будь то за шахматной доской или в зале заседаний совета директоров.

Будучи по характеру оптимистом, я считаю, что мне повезло в том, что я находился на вершине шахматного Олимпа в период интенсивного развития шахматных машин. Сражения с каждым новым и все более сильным поколением машин на протяжении 18 лет сделали мою шахматную карьеру намного более интересной. Они позволили мне прикоснуться к другому миру — миру науки и компьютеров, который иначе остался бы для меня чуждым.

Конечно, я чувствовал себя гораздо лучше, когда выигрывал эти сражения, чем когда начал их проигрывать. Но я просто не успел подготовиться к такому быстрому повороту событий. Эволюционные процессы, породившие человеческий разум, и лучшие советские методы шахматной подготовки не могли сравниться с неумолимым действием закона Мура.

Мой первый публичный поединок с компьютерами в Гамбурге завершился со счетом 32:0. Последнее сражение — матч из шести партий с программой X3D Fritz (2003), во время которого я носил 3D-очки и делал ходы на виртуальной доске, закончился вничью. Между двумя этими событиями я сыграл против компьютеров десятки партий на различных выставках, серьезных турнирах и матчах. Вспоминая эти партии, я со всей очевидностью вижу, как быстро росла шахматная сила машин.

Я был далеко не единственным гроссмейстером, состязавшимся с компьютерами. С конца 1980-х стали часто устраиваться турниры с участием шахматных машин, хотя это не касалось сильных гроссмейстерских соревнований. В открытых, или опен-турнирах, где может состязаться любой (в отличие от круговых, где играют только персонально приглашенные участники), компьютеры постепенно начали превращаться из диковинки в опасного соперника. Чаще всего человек имел право отказаться от партии с компьютером, и многие так и делали. Другие, особенно сильные игроки, имевшие опыт игры с компьютерами, наоборот, с радостью соглашались. Некоторые из них добивались успеха, применяя так называемые «антикомпьютерные стратегии».

Каждый сильный игрок имеет свой стиль, а также свой комплекс сильных и слабых сторон. Знание об этих своих способностях — ключевое условие для совершенствования шахматного мастерства. Но, как показал опыт Эмануила Ласкера, применявшего психологический подход к игре, не менее важно знать то же самое и о соперниках. Ласкер изучал стиль и предпочтения конкурентов более внимательно, чем они сами, и безжалостно использовал свои знания за шахматной доской, навязывая такие позиции, в которых его соперники чувствовали себя некомфортно.

У шахматных компьютеров нет психологических особенностей, зато у них есть четко выраженные сильные и слабые стороны, гораздо более явные, чем у любого шахматиста такого же уровня мастерства. Сегодня машины стали настолько сильными, что большинство их изъянов компенсируется чистой скоростью и глубиной перебора. Не будучи способными на стратегическую игру, тактически они слишком точны, чтобы человек мог извлечь решительное преимущество из их незначительных слабостей. Теннисист, который в состоянии бегать по корту со скоростью 400 км/ч, может не беспокоиться о том, что у него слабый удар слева.

Но в 1985 году дело обстояло иначе. Преимуществом компьютеров были тактические расчеты, но только всего на три-четыре хода вперед. Этого хватало, чтобы стабильно побеждать основную массу любителей, однако сильные игроки научились создавать тактические ловушки, слишком глубокие для того, чтобы компьютеры могли их разглядеть. Парадоксально, но сила машины — безошибочные расчеты — оказалась и ее главной слабостью. Метод грубой силы, основанный на «исчерпывающем переборе» миллионов позиций, также означал, что дерево поиска просматривалось на ограниченную глубину. Если вы обнаружили тактическую угрозу и поняли, что решающий удар будет нанесен через четыре хода (восемь полуходов), то компьютер, который умеет смотреть только на три хода (шесть полуходов) вперед, не заметит эту ловушку, пока не станет слишком поздно. Мы называем это «эффектом горизонта», подразумевая, что машина не может видеть дальше своего поискового «горизонта».

Зная об этом недостатке машин, сильные игроки прятали фигуры за своими пешками, чтобы избежать размена фигур и слишком быстрого упрощения позиции. Они спокойно готовили свои силы в тылу так, чтобы машина со своим горизонтом поиска не могла обнаружить намечаемый прорыв. Компьютеры были достаточно сильны для того, чтобы в таких ситуациях не совершать грубых ошибок, но они безобидно переставляли фигуры в своей зоне контроля, не замечая растущей опасности, а их противники продолжали готовить решающий удар. Ласкер мог бы гордиться.

Такая стратегия никогда не сработала бы против более-менее приличного шахматиста. Мы, люди, с одного взгляда на такую позицию поняли бы: «Здесь нет непосредственной опасности, однако противник явно готовится к большой атаке, поэтому мне нужно что-то предпринять». Мы способны оценить ситуацию на доске в перспективе: «Мой король слаб» или «Его конь находится на угрожающей позиции» — и начать анализ ходов, не просчитывая каждый вариант. В отличие от людей, машина не видит никаких возможностей и угроз, которые находятся дальше ее горизонта поиска.

Еще одна антикомпьютерная стратегия в те старые добрые времена состояла в том, чтобы как можно больше замедлить игру и действовать максимально пассивно и аккуратно, пока машина не создаст слабости в своей позиции. Не умея правильно тянуть время, машина начинала перемещать вперед пешки, выводить фигуры «не туда» и делать бесцельные ходы, пока у нее не появлялась конкретная цель для атаки или защиты.

Позднее ученые разработали методы программирования, позволявшие программам «фантазировать», то есть исследовать гипотетические позиции за пределами дерева перебора, но это достигалось ценой замедления основного поиска. Гораздо более существенные успехи были достигнуты с помощью таких методов, как «поиск спокойствия» и «поиск единственного ответа», которые заставляли алгоритм глубже исследовать варианты, отвечающие специальным условиям, таким как взятие фигур или шах королю. Это представляло собой небольшое отклонение в сторону старых программ типа Б и мечты о том, чтобы научить машины играть в шахматы подобно людям и определять приоритетные шаги на ранней стадии, но во главе угла все равно оставался поиск, а не знания. В конце концов эти умные алгоритмы вместе со все более мощными процессорами практически устранили эффект горизонта.

Вспоминая лучшие шахматные машины 1980-х, я не могу назвать их игру сильной. Но они постепенно становились все более опасными противниками по той простой причине, что люди склонны допускать много мелких ошибок, которыми компьютеры могут идеально воспользоваться. В чисто шахматном плане игра человека против машины — асимметричная война. Компьютеры сильны в сложных тактических позициях, что является главной слабостью людей. При этом люди хороши в планировании, в так называемой позиционной игре, в стратегическом и структурном анализе и спокойном маневрировании. Такое противостояние льда и пламени объясняет, почему эти поединки всегда настолько интригующи. Но в конечном итоге идеальная тактика берет верх даже над сильнейшим соперником.

В поединках человека с машиной, удачных для последней, снова и снова повторяется один и тот же сценарий. Мастер, имеющий высокий уровень дебютных знаний и многолетний опыт, захватывает игровую инициативу и создает такое положение, где компьютер не может выработать тактический план. Зачастую человек жертвует пешку, чтобы достичь подавляющей позиции. Но в конце концов ему необходимо найти способ реализовать свое преимущество, чтобы получить решающий материальный перевес или неотразимую атаку на короля. Едва наступает этот момент, как машина начинает находить блестящие тактические контрудары и защищается с дьявольским упорством, добиваясь ничьей или даже победы.

Единственное поражение Дэвида Леви от программы Chess 4.7 в матче 1978 года — хороший пример того, как работает эта деморализующая схема. В 4-й партии, играя черными, Леви применил очень острый дебют, что в схватке с нынешними программами было бы равносильно самоубийству. Но он получил отличную позицию и, пожертвовав пешку за сильную атаку, готовился записать на свой счет третью победу. Однако все пошло не так, как ожидал маэстро: он не сумел быстро найти решающий удар, а вот программа обнаружила несколько хитрых «единственных ходов» — термин, который мы используем в ситуации, когда есть только один ход, позволяющий избежать немедленной катастрофы. В итоге Chess 4.7 отразила атаку и выиграла партию, что стало первой победой машины над международным мастером в официальном матче. Справедливости ради следует заметить, что в 1-й партии матча программа имела абсолютно выигрышную позицию, но затем попалась в подстроенную соперником ловушку и проиграла. Забавный обмен ролями между человеком и машиной!

В 1983 году машина Belle Томпсона и Кондона впервые достигла мастерского рейтинга. В 1988-м шахматная программа HiTech, работавшая на специализированном оборудовании, как Belle до нее и Deep Blue после, снова подняла планку, обыграв сильного международного мастера на чемпионате Пенсильвании. Со следующего года Гарвардский университет начал проводить командные соревнования между американскими гроссмейстерами и сильнейшими компьютерными программами. Результаты этой шестилетней матчевой серии весьма показательны. В первых двух матчах люди одержали победу над всеми компьютерами. В следующих двух гроссмейстерам не удалось повторить этот успех, хотя они по-прежнему имели значительное преимущество. Было ясно, что машины уверенно прогрессируют. В 1989 году люди выиграли со счетом 13,5:2,5; в 1992-м — 18:7; а в 1995-м — в последнем матче — 23,5:12,5. Им хватило мудрости на этом остановиться.

В сентябре 1988 года HiTech разгромила в матче из четырех партий маститого американского гроссмейстера Арнольда Денкера, что, впрочем, легко объяснимо. Денкеру было 74 года, он играл редко, и до него HiTech одолела нескольких гораздо более сильных игроков. Денкер совершил ряд грубых ошибок, практически проиграв одну партию в 16 ходов, а другую в десять. Такой уровень игры не позволил HiTech продемонстрировать свои устрашающие тактические способности, которыми славились машины. Чтобы можно было сказать об убедительной победе компьютера над людьми, следовало подыскать ему соперников посильнее.

Между тем, комментируя матч с Денкером, создатель HiTech Ханс Берлинер продемонстрировал такую самонадеянность, которую многие в шахматном сообществе сочли более чем раздражающей. Разумеется, вполне естественно гордиться успехами своего детища, будь то ребенок или даже машина. Но, когда ваша машина состязается с человеком, который посвятил этому делу всю свою жизнь и добился весомых успехов, ваше хвастовство не должно быть оскорбительным. Берлинер, который сам был сильным шахматистом, что редкость среди программистов, расхваливал почти каждый ход, сделанный HiTech в матче против Денкера. «HiTech играла поистине блистательно!» — писал он в AI Magazine, и его примечания изобиловали восклицательными знаками, которые мы используем для обозначения особенно качественных и интересных идей. А на самом-то деле речь шла о провальной партии, исход которой был предрешен еще на десятом ходу!

Отчасти Берлинера можно понять, поскольку в 1988 году такой итог рассматривался как достижение, однако победа над соперником, игравшим так плохо, как Денкер, должна была получить весьма сдержанную оценку, но никак не вызвать подобное высокомерие. Кроме того, выбор в качестве мишени пожилого игрока без опыта игры с машинами не назовешь спортивным поведением. Подозреваю, что Берлинер оборонялся, поскольку машина Deep Thought, созданная в том же Университете Карнеги — Меллона, показывала более впечатляющие результаты, чем HiTech. За редкими исключениями шахматные программисты относились к людям, игравшим с их машинами, с уважением и благодарностью. Но находились и такие, кто ставил соперничество впереди науки или путал шахматные способности машин со своими.

Мы, гроссмейстеры, воспринимали компьютеры как инопланетян, проникших в наш мир по нашему приглашению. Некоторые относились к ним с враждебностью, но большинство — с любопытством, и наши старания были вознаграждены так же, как усилия бегуна Джесси Оуэнса, соревновавшегося с лошадьми и автомобилями. Однако в схватке с машинами мы всегда чувствовали себя не в своей тарелке.

Выдающийся исследователь ИИ Дональд Мичи, который вместе с Аланом Тьюрингом взламывал код «Энигма» в Блетчли-парке во время Второй мировой войны, в 1989 году дал мудрое объяснение «негативной реакции гроссмейстеров» на участие машин в турнирах:

«Шахматы — это культура, которая объединяет людей, несмотря на состязательный характер самой игры. После партии соперники, как правило, вместе анализируют ее детали, и для многих шахматные турниры являются центром социальной жизни. Машины же вторгаются в это человеческое сообщество и привносят только грубую силу, но не интересные шахматные идеи…

Подобно профессиональным теннисистам, которые состязаются с роботом, способным закрутить мяч так, как это никогда бы не удалось человеку, гроссмейстеры не видят в таком противостоянии смысла. Как это связано с тем мастерством, которому они посвятили всю свою жизнь?»{38}

Мичи также сравнил игру против компьютера с «дуэтом» профессионального оперного певца и синтезатора — аналогия, которую я нахожу очень верной. Каждому гроссмейстеру присуща любовь к шахматам, к искусству игры, к вызываемым ею эмоциям. Эта игра имеет глубокие корни на культурном и личном уровне. Трудно принять поражение от робота, который не испытывает никакого удовлетворения, никакого страха, никакого интереса.

И как мы должны относиться к свидетелям наших сражений, программистам и инженерам? Они часто выражают удовлетворение или разочарование игрой своих детищ, однако мы привыкли к другому. Как сказал Мичи, мы хотим иметь возможность обсудить победу или поражение со своим соперником. Но вместо этого мы собираемся перед экраном и изучаем, как компьютер выбирал ходы. Как тут не вспомнить остроумное замечание Бобби Фишера, сделанное им после трудной партии, в которой он одержал победу. «Отличная игра, Бобби!» — похвалил его один рьяный поклонник. На что Фишер ответил: «Откуда вы знаете?»{39}

В 1988-м машины, как и следовало ожидать, наконец-то завоевали настоящее шахматное золото. На сильном опен-турнире в Лонг-Бич (Калифорния) Deep Thought записала на счет машин первую турнирную победу над гроссмейстером — 53-летним Бентом Ларсеном, бывшим претендентом на мировую корону. «Великий датчанин», хотя и не был на пике своей карьеры, все еще оставался очень силен, и его проигрыш не объяснялся каким-либо грубым промахом. Машина аспирантов из Университета Карнеги — Меллона не только победила знаменитого гроссмейстера, но и разделила первое место в турнире с другим сильным гроссмейстером, англичанином Тони Майлсом. В следующем году Deep Thought разгромила со счетом 4:0 Дэвида Леви, отомстив ему за своих многочисленных предшественников. Шел 1989 год. Настала моя очередь выйти на арену.

6. На арену!

Известно, что компьютеры невероятно сильны в расчетах, а поскольку далекие от шахмат люди полагают, что шахматы всецело построены на вычислении ходов, они удивляются тому, что человек вообще способен состязаться с машиной. Эта довольно резкая перемена в общественном сознании по сравнению с 1950-ми годами, когда идея шахматной машины казалась научной фантастикой, произошла во многом благодаря компаниям Apple, IBM, Commodore и Microsoft, привнесшим компьютеры в каждый дом, офис и школу. Люди привыкли к компьютерам и их удивительным способностям: разве может древняя настольная игра устоять перед колоссальной мощью этих машин?

Такого рода заблуждения в сочетании с многовековой романтизацией шахмат как интеллектуального эталона наделяли идею противостояния чемпиона мира и шахматной машины особой значимостью. Шахматы не пользовались на Западе большой популярностью, хотя в большинстве стран Европы шахматные события освещались в ряду спортивных новостей, а не на последних страницах газет с комиксами и головоломками, как это часто бывало в США. Связь между шахматами и компьютерной революцией оказалась привлекательной темой для рекламодателей, СМИ и широкой общественности. Это стало большим плюсом и для самих шахмат, где традиционно существовала проблема с поиском спонсоров.

Проблема со спонсорством возникала даже при организации матчей за шахматную корону, хотя ситуация постепенно улучшалась. С 1984 по 1990 год я сыграл подряд пять матчей на первенство мира с Анатолием Карповым, и это беспрецедентное противостояние подняло интерес к игре на уровень, который она знала разве что во времена легендарного матча между Бобби Фишером и Борисом Спасским в 1972 году. Уникальный матч привлек гораздо больше интереса и денег, чем все матчи за два десятилетия до и после него, вместе взятые. Битва дерзкого американца с представителем советской системы символизировала дух холодной войны. Кроме того, поединок состоялся на международной арене в Рейкьявике, и на кону стоял приз в несколько сотен тысяч долларов — в отличие от других матчей за мировую корону, которые проходили в Москве между двумя советскими шахматистами, сражавшимися ради привилегий, копеечного вознаграждения и удовлетворения амбиций.

Мой первый матч с Карповым начался в сентябре 1984-го. Это был марафон, длившийся пять месяцев и 48 партий, до тех пор, пока его не прервали по решению Международной шахматной федерации (ФИДЕ), как только я сократил разрыв в счете, одержав две победы подряд. Во втором матче, осенью 1985-го, я сумел отобрать у Карпова шахматную корону. Мне было тогда всего 22 года, я симпатизировал Западу и хотел понять, какие политические и экономические преимущества дает мне завоеванный чемпионский титул. Мое восхождение на вершину шахматного Олимпа по времени совпало с приходом в стране к власти Михаила Горбачева и началом его политики гласности и перестройки. Я задавал вопросы: например, если я выиграю турнир во Франции, почему я должен отдать бóльшую часть своего приза Спорткомитету? Почему я не могу заключать выгодные спонсорские контракты с иностранными компаниями так же, как это делают звезды спорта во всем мире? Почему я не могу ездить по Баку на «Мерседесе», который я выиграл в честной и открытой борьбе на турнире в Германии? Я отстаивал не только свои интересы, но и интересы других ведущих советских спортсменов. Иногда из-за столь «непатриотичных» взглядов у меня бывали неприятности, но в конце 1980-х советское руководство столкнулось с гораздо более серьезными проблемами, чем фрондирующий чемпион мира по шахматам. И пусть я был не так благонадежен, как Карпов, я уверенно продолжал свое победное шествие.

В 1986 году мы решили распахнуть двери в «дивный новый мир», разделив 24 партии нашего матча-реванша между Лондоном и Ленинградом. Чемпионат мира, в котором схлестнулись два советских шахматиста, впервые проходил за пределами СССР. На церемонии открытия мы стояли на сцене вместе с Маргарет Тэтчер и давали интервью на английском, пусть и под привычным бдительным оком наших кураторов из КГБ. Четвертый матч двух «Ка» в 1987-м полностью проходил в испанской Севилье, и я с трудом удержал свой титул благодаря победе в заключительной партии. Наконец, наш пятый и последний матч в 1990 году был разделен между Нью-Йорком и французским Лионом. Берлинская стена рухнула, затем последовал распад СССР, и передо мной и шахматами открылась эра невиданных возможностей и вызовов. Машины являлись интересной частью этой новой эпохи.

Примерно в то же время, в конце 1980-х годов, когда Deep Thought стала первой машиной, представлявшей реальную угрозу для гроссмейстеров, в научном и деловом мире началось возрождение интереса к искусственному интеллекту. «Зима ИИ», вызванная годами несбыточных обещаний и последующих разочарований, подошла к концу. Кризис в области искусственного интеллекта вырос из чрезмерного оптимизма, присущего в 1970-е годы многим экспертам: они верили в скорое раскрытие всех тайн человеческого и машинного мышления. В 1980-е годы оказались закрытыми немало исследовательских проектов и венчурных фирм в сфере искусственного интеллекта, и вектор развития ИИ переменился. Фундаментальную науку вывели из игры, а верх взяли практические соображения. Попытки понять человеческий разум были оставлены в прошлом; в настоящем же преобладало стремление получить результаты в конкретной узкой области. Новым лозунгом стало «Машина не должна думать — она должна работать».

Выступая на конференции по проблемам искусственного интеллекта (Сиэтл, 2001), глава корпорации Microsoft Билл Гейтс напомнил о великих ожиданиях, связанных с ИИ в 1970-е годы: «Microsoft была основана около 25 лет назад, и я помню, что тогда думал: "Если я займусь всеми этими коммерческими вещами, то не смогу участвовать в гигантских прорывах, которые будут совершены в области искусственного интеллекта в ближайшее время!" [Смех] Я был оптимистом. Помню, как во времена моей учебы в Гарварде уже существовали такие системы ИИ, как шахматная программа Гринблатта, программы Maxima и Eliza, и люди верили, что некоторые из этих сложных задач будут решены через пять — десять лет»{40}.

Чтобы быть справедливым, скажу, что пионеры ИИ ставили перед собой — точнее, перед своими машинами — грандиозные цели: использование естественного языка, самообучение и понимание абстрактных понятий. В ретроспективе их оптимизм кажется, мягко говоря, необоснованным. В 1956 году организаторы Дартмутского летнего исследовательского проекта смело провозгласили, что значительный прогресс в области ИИ может быть достигнут, если «лучшие ученые умы объединят свои усилия в течение одного лета». Одного лета!

Я не буду критиковать людей за смелые мечты, поскольку именно так технологии меняют мир — и это происходит не по заранее установленному графику. Получив увесистый пинок под зад от советского спутника, американское научное и инженерное сообщество заложило в 1950–1960-е годы фундамент для дальнейшего развития почти всех цифровых технологий, от которых мы зависим сегодня, от интернета и полупроводников до GPS-спутников. В отличие от создания ИИ, оказавшегося в то время задачей не по зубам, многие другие амбициозные проекты были успешно реализованы.

История предшественницы интернета, сети ARPANET, поистине бесценна, но она слишком пространна и слишком далека от темы нашего разговора, чтобы рассказывать ее здесь в полном объеме, поэтому я ограничусь коротким эпизодом из своей жизни. В 2010 году меня пригласили выступить на церемонии вручения премии Дана Давида в Тель-Авиве. Каждый год Фонд Дана Давида и Тель-Авивский университет присуждают премии, чтобы «выразить признание и оказать поддержку инновационным и междисциплинарным исследованиям, выходящим за рамки традиционных границ и парадигм». На церемонии присутствовал Леонард Клейнрок из Калифорнийского университета в Лос-Анджелесе, получивший награду в номинации «Будущее — компьютеры и телекоммуникации». Во время показа слайд-шоу с кратким обзором его достижений я с волнением прошептал своей жене Даше: «Это он! Это человек, который отправил буквы "l" и "o"!»

29 октября 1969 года Леонард Клейнрок со своими коллегами отправил первое в истории электронное письмо со своего компьютера в Калифорнийском университете на компьютер в Стэнфорде через сеть ARPANET. Они пытались отправить слово login, но после буквы «о» система рухнула. Месяц спустя между машинами наладили постоянную связь. Через несколько недель к сети присоединились еще два компьютера, в Санта-Барбаре и Солт-Лейк-Сити. Я хорошо знаю историю создания ARPANET и часто рассказываю ее своим слушателям, которые считают, что интернет появился в 1990-е. Познакомиться лично с великим Леонардом Клейнроком было для меня огромной честью.

Клейнрок, награжденный в 2007 году Национальной научной медалью США, разработал математические основы пакетной передачи данных и теорию маршрутизации сетевого трафика, которые лежат в основе работы современного интернета. Клейнрок отмечает, что, несмотря на примитивный характер их первых изобретений и огромные трудозатраты, связанные с созданием аппаратного и программного обеспечения для первых сетей, у участников проекта были глобальные амбиции. И даже более чем глобальные.

23 апреля 1963 года Джозеф Ликлайдер, директор Агентства перспективных исследовательских проектов Министерства обороны США (ARPA), разослал коллегам восьмистраничный меморандум, в котором изложил цели нового проекта — заставить компьютеры разговаривать друг с другом. Письмо было адресовано «членам и филиалам межгалактической компьютерной сети». И вы говорите об амбициях! Этот документ, как и ряд последовавших за ним, определил ориентиры для исследований ARPA, включая создание технологии передачи файлов, электронной почты и даже цифровой передачи голоса, благодаря которой мы сегодня можем пользоваться, например, Skype.

После того как Клейнрок отправил через сеть ARPANET буквы «l» и «o», прошло целых 20 лет, прежде чем интернет преобразовал глобальную экономику и повседневную жизнь почти каждого человека. Электронная почта появилась раньше Всемирной паутины и широко использовалась в научном сообществе и университетских кампусах, но именно интернет стал тем изобретением, которое изменило мир.

Агентство перспективных исследовательских проектов было основано в феврале 1958-го администрацией Эйзенхауэра в ответ на запуск Советским Союзом первого спутника годом раньше. Агентству поставили задачу предотвратить подобные сюрпризы в будущем, но скоро в его функции включили разработку аналогичных прорывных технологий, способных удивить врагов Америки. Как ни странно, такое расплывчатое описание миссии было на руку ARPA, позволяя ему без труда получать одобрение и ассигнования в Пентагоне и тем самым давая идеальную возможность для финансирования экспериментальных исследований. Американские генералы не хотели, чтобы новая группа умников опередила их в важных секторах военных технологий, таких как ракетные комплексы, поэтому многие из ранних проектов ARPA были реализованы в весьма неожиданных — гражданских — областях.

Одним из таких направлений стал искусственный интеллект, хотя прогресс здесь был гораздо скромнее, чем ожидалось. В 1972 году агентство прибавило к своему названию букву «D» — Defense(«оборона») — и стало называться DARPA. Затем в 1973-м была принята поправка Мэнсфилда. Она ограничила выделение средств на многие проекты DARPA, не связанные непосредственно с военной областью, что сильно ударило по многим направлениям фундаментальных научных исследований, сократив их государственное финансирование. Для такой относительно неперспективной — по крайней мере в глазах представителей Министерства обороны — области, как искусственный интеллект, этот удар стал смертельным. Военным были нужны экспертные системы распознавания целей, а не машины, которые умеют говорить.

Леонард Клейнрок оказался нашим соседом в Верхнем Уэст-Сайде на Манхэттене. Он был достаточно любезен, чтобы поделиться со мной своими мыслями о том, почему и как ARPA (он всегда настаивал на этом названии) перестало быть двигателем развития ИИ и других технологических инноваций. Его первый вывод не удивил: рост бюрократии задушил инновации и коммуникации. «Агентство стало слишком большим, — сказал он мне за обедом. — Раньше мы проводили выездные встречи, во время которых физики, компьютерщики, микробиологи и психологи обменивались друг с другом идеями и опытом. Все могли уместиться в одной комнате. Но когда агентство разрослось, это стало невозможным и разные группы стали мало общаться друг с другом».

Из небольшого клуба блестящих (и хорошо финансируемых) ученых, изучающих различные идеи в условиях относительной свободы, DARPA превратилось в громоздкую иерархическую организацию. Вот почему я с 2013 года занимаюсь междисциплинарными исследованиями в Школе Джеймса Мартина при Оксфордском университете, где работаю приглашенным старшим научным сотрудником. Великие новые открытия рождаются благодаря перекрестному опылению.

Клейнрок также отметил, что переход на чисто военную ориентацию означал, что десятки аспирантов, участвовавших в финансируемых DARPA проектах, были отстранены от работы из-за отсутствия допуска к секретной информации. Для Клейнрока было неприемлемым изгнание стольких ярких молодых умов из важных областей исследований, и он перестал брать деньги у DARPA. В 2001 году министерство обороны возглавил Дональд Рамсфельд, выразив намерение перетрясти его сверху донизу. Но планы вернуть агентству его гибкий, амбициозно-экспериментальный характер были сорваны терактами 11 сентября, после которых правительство сосредоточило все внимание и ресурсы на борьбе с террористической угрозой. DARPA обратилось к проектам, посвященным сбору и анализу информации; одним из его детищ стала печально известная программа под оруэлловским названием «Тотальная информационная осведомленность», вызвавшая в 2003 году недовольство общественности.

DARPA не полностью отказалось от ИИ и даже имело в бюджете небольшую «шахматную» статью. Внимательно прочитав научные публикации о машине HiTech, созданной Хансом Берлинером в Университете Карнеги — Меллона, можно увидеть, что в 1980-е этот проект частично финансировался за счет гранта DARPA. Недавно агентство предложило провести ряд конкурсов на лучший беспилотный автомобиль и другие прикладные технологии, связанные с практическим применением ИИ{41}. Используя развитие шахматных машин как модель, DARPA объявило конкурс на лучшую разработку автономной защиты сети. В соответствии с дарвиновской теорией эволюции в компьютерных шахматах фокус на конкуренции, а не на фундаментальных исследованиях препятствовал прогрессу истинного искусственного интеллекта, но способствовал созданию все более эффективных шахматных машин. А военные всегда испытывали острый интерес к алгоритмам анализа разведданных и совершенствованию военных технологий, к чему я вернусь позже.

Грандиозные предсказания исследователей искусственного интеллекта в 1950–1960-е годы перекликались с прогнозами специалистов по компьютерным шахматам тех же лет; на самом деле зачастую это были одни и те же голоса. Но, в отличие от ученых, занимавшихся ИИ, специалисты по компьютерным шахматам вытащили золотой билет — разработали поисковый алгоритм «альфа-бета», который гарантировал стабильное улучшение. Было ли это новшество благословением или проклятием, но оно обусловило ощутимый прогресс. Те же, кто изучал универсальный ИИ, не сумели добиться столь же явного постепенного роста, который гарантировал бы им государственные гранты, инвестиции корпораций и исследовательские программы в университетах. Весна ИИ наступила только тогда, когда это движение, как и движение компьютерных шахмат, отказалось от грандиозной мечты сымитировать человеческий интеллект. Новым направлением развития стало машинное обучение, которое на протяжении многих лет не достигало больших успехов. Но в 1980-е годы появился новый решающий фактор — большие данные.

Дональд Мичи был одним из пионеров машинного обучения, еще в 1960 году применив этот метод к игре в крестики-нолики. Основная концепция заключается в том, что вы не закладываете в машину комплекс правил, которые она должна соблюдать, подобно тому как вы учите грамматические и синтаксические правила при изучении иностранного языка. Вместо того чтобы рассказывать машине о процессе, вы снабжаете ее множеством примеров этого процесса и позволяете самой выяснить правила.

И снова перевод с языка на язык служит хорошей иллюстрацией. Программа Google Translate опирается на машинное обучение и практически не знает правил тех десятков языков, с которыми работает. Компания даже не нанимает людей со знанием соответствующих языков. В систему загружаются миллионы и миллионы примеров правильного перевода, и машина, встречая что-то новое, сама определяет, какой вариант будет верным. В 1960-е годы, когда Мичи и другие пробовали применять этот подход, машины были слишком медленными, а их системы сбора и ввода данных — примитивными. Никто не смел предположить, что решение такой «человеческой» задачи, как язык, может быть делом масштаба и скорости. Создатели систем ИИ столкнулись с той же проблемой, что и первые шахматные программисты, которые, глядя на программы типа А, решили, что машины никогда не станут достаточно быстрыми для того, чтобы выйти на уровень грамотной игры с помощью грубой силы. Как сказал один из разработчиков программы Google Translate: «Когда вы переходите от десяти тысяч обучающих примеров к десяти миллиардам, это начинает работать. Данные решают всё»{42}.

В начале 1980-х Мичи со своими коллегами написал основанную на данных экспериментальную шахматную программу машинного обучения и получил весьма занятные результаты. Программисты «скормили» машине сотни тысяч позиций из гроссмейстерских партий в надежде на то, что машина сама разберется, что к чему. Вначале показалось, что это сработало. Ее оценка позиций была более точной, чем у обычных программ. Проблемы начались во время партии. Программа разыграла дебют, начала атаку — и сразу же пожертвовала ферзя! Потеряв ферзя за бесценок, она проиграла партию в несколько ходов. Почему она это сделала? Дело вот в чем: когда ферзя жертвует гроссмейстер, за этим всегда следует блестящий и решительный удар, и машина, учившаяся на гроссмейстерских партиях, решила, что жертва ферзя — ключ к победе!{43}

Этот итог вызвал смех и разочарование, но представьте себе, что может произойти в реальном мире, если машины станут на основании примеров вырабатывать собственные правила. Давайте снова обратимся к научной фантастике, поскольку произведения этого жанра полны точных и дальновидных прогнозов. Опустим роботов-убийц и сверхразумные машины из фильмов «Терминатор» и «Матрица». Эти мрачные сценарии хороши только для фильмов и новостных заголовков, но такое антиутопическое будущее настолько далеко и маловероятно, что разговор о нем лишь отвлекает нас от более насущных и более вероятных проблем. К тому же лично мне надоело сражаться с машинами.

В картине 1984 года «Человек со звезды» рассказывается о наивном инопланетянине, который попадает на Землю (его сыграл Джефф Бриджес). Пришелец пытается вписаться в человеческое общество и учится обычаям землян, наблюдая за их поведением, — такая вот инопланетная версия универсального машинного обучения. Естественно, он делает массу забавных ошибок, но самую серьезную совершает тогда, когда садится за руль автомобиля. Он на скорости проскакивает перекресток, провоцируя аварию, и так объясняет своей подруге Дженни свой поступок:

Инопланетянин: Все в порядке?

Дженни: В порядке? Ты сошел с ума? Ты чуть не убил нас обоих! Ты сказал, что наблюдал за мной. И сказал, что знаешь дорожные правила!

Инопланетянин: Я знаю правила.

Дженни: К твоему сведению, на светофоре был желтый свет.

Инопланетянин: Я наблюдал за тобой очень внимательно. Красный цвет — стоять. Зеленый — можно ехать. Желтый — ехать очень быстро.

Дженни: Дай-ка лучше я сяду за руль.

Блестящий эпизод! Как и в случае шахматной программы, которая научилась подражать гроссмейстерам, отдающим своего ферзя, изучение правил только путем наблюдения может привести к катастрофе. Компьютеры, как инопланетные пришельцы, не имеют того, что мы называем здравым смыслом или интуицией, и не знают контекста, если только мы не сообщим его им или они не смогут создать его сами. На самом деле Человек со звезды не был абсолютно не прав; ему просто не хватило данных, чтобы понять, что ускорение на желтый свет зависит от более широкого контекста. Несмотря на петабайты данных, загруженных в память Watson, и миллиарды примеров, скормленных бездонному чреву Google Translate, эти программы иногда выдают странные результаты. Но, как это часто бывает в науке, мы извлекаем гораздо больше ценных знаний из непростых ситуаций, чем из благоприятных.

Весьма показателен ответ суперкомпьютера Watson на вопрос о том, какая «анатомическая особенность» была у одного из гимнастов — участников Олимпийских игр 1904 года. Сначала чемпион Jeopardy! Кен Дженнингс неуверенно предположил, что «у того была одна рука». Но он оказался неправ. Следующим свою версию предложил Watson: «Нога» (на самом деле в соответствии с правилами викторины он спросил: «Что такое нога?»{44}) — причем уровень достоверности этого ответа составил 61 %. Было совершенно ясно, что произошло. Гимнаст Джордж Эйсер лишился ноги и выступал с деревянным протезом. Поиск в базе данных дал множество результатов с именем Эйсер и словом «нога», обозначавшим анатомическое понятие. Пока все шло хорошо. Но дальше компьютер не смог понять, что наличие одной ноги не является «анатомической особенностью». Дженнингс ошибся по-человечески, сделав логичное предположение на основе нехватки данных. Watson ошибся как машина, имея правильные данные, но не сумел поместить их в широкий контекст, помогающий людям не выходить за границы здравого смысла.

Не знаю, был ли запрограммирован Watson обращать внимание на предыдущие ответы, но думаю, что в этом случае он бы сумел скомбинировать правильные данные с правильным предположением Дженнингса. На месте третьего игрока, Брэда Раттера — еще одного чемпиона Jeopardy! я бы так и поступил. Но он не доверял Watson, поскольку это было первое шоу с участием компьютера. Если бы Раттер воспользовался ответом Watson, моя идея о том, что люди и машины с искусственным интеллектом могут продуктивно работать вместе, получила бы подтверждение.

Любой, кто много путешествует, знает, насколько актуальна проблема адекватного перевода. Задолго до того, как интеллектуальные программы сделали для нас доступными многие языки, указатели, вывески и меню по всему миру изобиловали странными фразами наподобие «Комната отдыха для слабых»{45} в аэропорту или «Тарелка с маленькими глупцами» в списке предлагаемых в ресторане блюд. Теперь Google и другие сервисы с лёту переводят целые веб-страницы, как правило, достаточно точно, чтобы понять смысл текста.

Разумеется, промахов по-прежнему много. Моя любимая ошибка — «чят», намеренно искаженное русское сленговое словечко, которое образовано от английского chat и иногда используется для обращения к аудитории в социальных сетях подобно тому, как пользователи Twitter приветствуют друг друга фразой «Привет, твипсы». Где-то в глубинах базы данных русского языка Google Translate слово «чят», состоящее их трех кириллических букв, ассоциируется, однако, с совсем другим значением. Я обнаружил это случайно, когда просматривал свою ленту в Twitter на компьютере друга с включенной функцией автоматического перевода. В переведенном варианте русские пользователи приветствовали друг друга: «Привет, чувствительные ядерные технологии!» Поиск в Google действительно выдал несколько малоизвестных правительственных документов, в которых аббревиатура ЧЯТ расшифровывалась именно таким образом.