Человек и компьютер: Взгляд в будущее

Аналогичное направление развития — с начального уровня до экспертного — наблюдается и во многих других областях применения искусственного интеллекта. Системы ИИ сначала превратились из смехотворно слабых в интересные, но бесполезные устройства, затем стали несовершенными, но полезными и наконец превзошли человека.

Мы видим эту эволюцию в системах распознавания и синтеза речи, беспилотных автомобилях, виртуальных помощниках наподобие Siri от Apple. Всегда наступает переломный момент, после которого системы ИИ трансформируются из развлечения в полезнейшие инструменты. Дальнейшее их совершенствование приводит к тому, что эти инструменты преобразовываются в нечто большее, чем даже замышляли их создатели. Зачастую это происходит вследствие объединения технологий, как, например, в случае интернета, который в действительности представляет собой результат совместной работы полудюжины различных технологий.

Просто поразительно, как быстро мы меняем скептическое отношение к новой технологии на восприятие ее как чего-то само собой разумеющегося. Несмотря на то что стремительные темпы технического прогресса являются нормой на протяжении всей нашей жизни, мы по-прежнему встречаем любое новшество с настороженностью и страхом — только лишь для того, чтобы через пару лет «не мыслить себе жизни» без него. Разве не мудрее было бы сохранять хладнокровие, чтобы как можно лучше подготовиться к проникновению в нашу жизнь очередной новой технологии?

За девять дней до моего рождения, за 22 года до моего сеанса одновременной игры с 32 компьютерами в Гамбурге и за 34 года до моего рокового матча-реванша с Deep Blue в Москве состоялся первый официальный матч между шахматной машиной и гроссмейстером. Сегодня мало кто помнит об этом поединке, однако он стал важной вехой в развитии компьютерных шахмат.

Советский гроссмейстер Давид Бронштейн, скончавшийся в 2006 году, был близок мне по духу во многих отношениях. Он всегда отличался пытливым умом и готовностью к экспериментам на шахматной доске и за ее пределами, а его неустойчивый характер нередко приводил к столкновениям с советской властью. Бронштейн разработал ряд новаторских подходов к популяризации шахмат и даже несколько новых вариаций самой игры{20}. Его сразу же заинтересовали искусственный интеллект и компьютерные шахматы, и он охотно играл с каждым новым поколением программ. Бронштейн тоже видел в шахматных машинах потенциал для углубления нашего понимания природы человеческого мышления и написал на эту тему множество статей.

В 1963-м, спустя 12 лет после сыгранного вничью матча за мировую корону с могущественным Ботвинником, Бронштейн по-прежнему оставался одним из сильнейших шахматистов мира{21}. И 4 апреля 1963 года в Московском институте математики он сыграл полную партию с шахматной программой, созданной советскими учеными и работавшей на советской ЭВМ М-20. Я бы очень хотел спросить у Бронштейна, что он чувствовал, когда делались первые ходы. Он не знал, на каком уровне играет машина, и не имел возможности подготовиться к встрече с уникальным соперником, поэтому для него это было прыжком в неизвестность.

Однако быстро выяснилось, что главный сюрприз, если перефразировать знаменитое изречение Сэмюэла Джонсона, состоял не в том, что машина хорошо играла в шахматы, а в том, что она вообще в них играла. Бронштейн просто забавлялся с откровенно слабым соперником. Он пожертвовал ей часть материала, а взамен расставил фигуры на атакующие позиции и обрушился на ее короля. Затратив на партию всего 23 хода, он напрочь разгромил машину.

Победа Бронштейна над М-20 не удивляет. В поединках более-менее сильных игроков с машинами первого поколения компьютеры слишком жадничали, за что нещадно наказывались. Ранние программы уделяли чрезмерное внимание количественной оценке материала, то есть числу фигур у каждого игрока. Это самый простой оценочный фактор — присвоить значение каждой фигуре на доске и определить их совокупную ценность, а кто справляется с расчетами лучше компьютеров? Базовое значение фигур было определено еще два века назад{22}: за единицу стоимости принимается пешка, следовательно, слоны и кони стоят по три пешки, ладья — пять пешек, ферзь — десять.

С королем дело обстоит сложнее, поскольку эта фигура слаба с точки зрения мобильности и дальнобойности, но ее необходимо защищать любой ценой. Король не может находиться под шахом, и если он не может уйти от шаха, партия окончена: это мат. Одно из решений — задать королю значение миллион, чтобы программа знала, что этой фигурой нельзя рисковать. Мат — однозначное и конечное событие, еще одна вещь, которую хорошо понимают компьютеры. И если есть способ поставить мат в четыре хода, компьютер с глубиной просмотра в четыре хода обязательно его найдет, независимо от того, насколько сложной может выглядеть позиция для человеческого глаза.

Начинающие игроки, особенно дети, также сосредоточиваются в основном на материале. Они заботятся только о том, чтобы «съесть» побольше фигур противника, и не обращают внимания на другие аспекты позиции, такие как активность фигур и относительная безопасность короля. В конце концов они узнают на личном опыте, что, хотя материал — существенный фактор, не важно, сколько вражеских фигур вы взяли, если мат неминуем.

Даже стоимость фигур может меняться в зависимости от ситуации на доске. Например, конь в благоприятной позиции может стоить столько же, сколько ладья с ограниченной областью действия, или даже больше. В миттельшпиле — динамичной, тактической стадии игры — слон, скорее всего, будет ценнее трех пешек, хотя в эндшпиле все может измениться. Программу можно научить присваивать фигурам разные значения в процессе игры, но добавление знаний в алгоритм замедляет поиск.

Первые шахматные машины не могли учиться на опыте, как это делают люди. Дети учатся каждый раз, когда получают мат: несмотря на проигрыш, они накапливают в памяти полезные навыки и знания. Между тем компьютеры снова и снова повторяли одну и ту же ошибку, и их одушевленные соперники быстро это улавливали и начинали использовать. Еще в 1980-е годы можно было, запомнив ходы и хронометраж, повторить всю предыдущую партию с компьютером и обыграть его точно так же, как в прошлый раз.

Хронометраж имеет значение, поскольку в каждую дополнительную микросекунду поиска компьютер может избрать другой ход. Человек, тратящий на ход одну минуту, вряд ли сыграет иначе, если дать ему на обдумывание не 60 секунд, а 61. А вот у компьютера каждая лишняя микросекунда уходит на углубление поиска, и в итоге машина делает более качественные ходы.

Кажущееся сходство между ранними шахматными программами и начинающими игроками — ловушка, частично обусловленная присущим людям желанием наделить компьютеры человеческим мышлением. Согласно парадоксу Моравека, компьютеры очень хорошо справляются с тем, что у людей вызывает больше всего проблем, — с шахматными расчетами. Но в то же время машины слабы в распознавании образов и оценке по аналогии, что, напротив, особенно хорошо удается нам. За исключением мата, почти каждый фактор, учитываемый при оценке позиции, зависит от множества других условий. Это обстоятельство наряду с низкой скоростью ранних компьютеров убедило экспертов в невозможности создания сильной программы типа А, основанной на грубой силе.

Они ошибались, хотя, чтобы понять это, потребовалось некоторое время. Многие первые программы представляли собой попытки использовать стратегию типа B для того, чтобы грамотно сократить дерево поиска так же, как это делают люди. Другие исследовательские группы решили взяться за более конкретную задачу — увеличение скорости поиска и, следовательно, его глубины, что всегда позволяет повысить шахматную силу машины предсказуемым образом.

Первая программа, способная компетентно играть в шахматы, была разработана в Массачусетском технологическом институте в конце 1950-х годов, на несколько лет раньше советской программы, побежденной Бронштейном. Программа Котока — Маккарти работала на машине IBM-7090 и использовала ряд методов, которые стали основой для всех последующих сильных алгоритмов, включая отсекающий алгоритм «альфа-бета» для ускорения поиска.

Ведущая советская команда разработчиков выбрала подход А, что довольно интересно, поскольку, в отличие от американцев, она была окружена сильными шахматистами. Алан Коток и Джон Маккарти оба играли довольно слабо и имели весьма романтические представления о шахматах. Для меня же выбор советскими программистами метода типа А, напротив, отражал глубокое понимание того, как построена сильная игра. Шахматы — очень точная игра, когда в нее играют на высоком уровне. Преимущества в одну пешку, как правило, бывает более чем достаточно для победы в партии между сильными игроками. Слабые игроки смотрят на игру сквозь призму собственных ограничений. Для новичков и профанов игра, с ее неожиданностями и обоюдными ошибками, похожа на американские горки, где маятник фортуны качается то в одну, то в другую сторону.

Если вы разрабатываете шахматную машину с таким романтическим видением игры, научная точность для вас менее важна, чем моменты озарения. Вы считаете, будто случайные промахи не так уж страшны, поскольку противник ответит вам тем же, — предположение, которое может обернуться самореализующимся пророчеством. Подход типа B предполагает, что вся система непредсказуема, поэтому нужно как можно раньше выбрать ходы, на которых следует сосредоточиться. Вместо того чтобы найти 20 или даже десять лучших ходов и исследовать их, программа Котока — Маккарти начинала всего с четырех. То есть она смотрела вперед на один полуход и выбирала четыре лучших варианта, затем находила по три лучших ответа на каждый из этих вариантов; далее искала на них по два лучших ответа и т. д., постепенно углубляя и сужая поиск.

Внешне это похоже на то, каким образом сильный человеческий игрок проводит шахматный анализ, но здесь игнорируется тот факт, что мастер осуществляет данный процесс настолько эффективно лишь потому, что способен мгновенно оценить тысячи образов и благодаря колоссальной вычислительной мощности человеческого мозга с замечательной точностью выбрать три-четыре наиболее перспективных хода-кандидата. Ожидать, что машина сможет выбрать эти несколько наиболее пригодных ходов, опираясь только на расчеты, без вышеупомянутой способности к вычленению и сравнению образов, — это даже не игра в шахматы вслепую, это больше похоже на дартс с завязанными глазами.

Использовать шахматы как средство изучения ИИ удобно, в частности, потому, что шахматная доска служит отличным инструментом для измерения прогресса и проверки конкурирующих теорий. Русские начали позже американцев, но их программа типа А — названная ИТЭФ в честь Института теоретической и экспериментальной физики, где ее разработали, — оказалась точнее программы Котока — Маккарти. В матче по телеграфу, состоявшемся в 1966–1967 годах, ИТЭФ одержала победу над американской машиной со счетом 3:1.

Примерно в это же время американский программист Ричард Гринблатт, более глубоко понимавший шахматы, взял наработки Котока — Маккарти и значительно увеличил ширину поиска. Его программа Mac Hack VI использовала процедуру поиска в ширину 15, 15, 9, 9 вместо процедуры 4, 3, 2, 2 Котока — Маккарти. Это позволило значительно снизить уровень «помех» и сделать программу гораздо более точной и сильной. Mac Hack VI также включала базу данных из нескольких тысяч дебютных ходов и стала первой компьютерной программой, сыгравшей в человеческом шахматном турнире и получившей шахматный рейтинг. Но, несмотря на все усовершенствования и достижения, дни программ типа Б были сочтены. Им на смену пришла грубая вычислительная сила.

Я познакомился с компьютерами в 1983 году, хотя и не за шахматной доской. Британская компьютерная компания Acorn — «британская Apple» — спонсировала мой матч с Виктором Корчным в Лондоне, и в помещениях, где проходило состязание, разумеется, была выставлена ее продукция. Компании, программисты-любители и другие ранние поклонники цифровой техники по всей Европе были готовы платить большие деньги за первые поколения персональных компьютеров, и Acorn процветала. Я выиграл матч, вплотную приблизившись к моему первому матчу на первенство мира с Анатолием Карповым, состоявшемуся в следующем году, и Acorn подарила мне персональный компьютер. Я летел домой в Баку на самолете «Аэрофлота», сидя рядом с советским послом, а мой хрупкий трофей, укутанный в одеяло, занимал отдельное VIP-кресло.

Для меня, уроженца СССР, обладать собственным компьютером означало нечто из области научной фантастики. Во-первых, я посвятил всю свою жизнь восхождению на шахматный Олимп, и у меня было очень мало времени на хобби. Во-вторых, за пределами научно-исследовательских институтов СССР оставался компьютерной пустыней. В 1983 году был выпущен советский клон компьютера Apple II 1977 года — AGAT, который начал постепенно появляться в учебных учреждениях по всей стране, но он был недоступен для большинства граждан, поскольку его стоимость составляла примерно 20 среднемесячных окладов. И, как и большинство советских пиратских клонов, это была не очень хорошая копия, к тому же устаревшая на шесть лет. В 1984 году американский журнал BYTE написал, что «AGAT был бы неконкурентоспособен на сегодняшнем международном рынке, даже если бы его продавали по дешевке»{23}.

Это был не просто пропагандистский укол времен холодной войны. К тому времени революция ПК в Америке шла уже полным ходом. Компьютеры все еще стоили неоправданно дорого, но были вполне доступными для среднего класса. В августе 1982 года на рынке появился чрезвычайно популярный Commodore 64, в начале 1983-го — РС ХТ со стандартными параметрами, произведенный IBM. К концу 1984 года больше 8 % американских семей имели дома компьютер. Для сравнения: количество персональных компьютеров в Баку, столичном городе с населением свыше миллиона человек, было равно нулю — или единице, когда я сошел с трапа самолета с моим драгоценным подарком от Acorn в руках.

К сожалению, я не могу сказать, что мое первое знакомство с компьютером перевернуло всю мою жизнь. Как я уже говорил, у меня практически не было времени. Подозреваю, что мои родственники и друзья использовали эту 8-битную модель, разработанную Acorn для BBC, в основном для видеоигр. То конкретное событие, которое навсегда изменило мое отношение к компьютерам и во многом повлияло на мою дальнейшую жизнь, не касалось шахмат. Оно было связано с маленьким прыгающим зеленым лягушонком.

Однажды в начале 1985 года я получил посылку от человека по имени Фредерик Фридель, заядлого любителя шахмат и компьютеров из Гамбурга. Он прислал мне замечательное письмо и дискету с несколькими компьютерными играми, в том числе Hopper — игрой с прыгающими лягушками. Я увлекся Hopper и, надо признаться, в течение следующих нескольких недель проводил за ней почти все свободное время, устанавливая все новые рекорды.

Спустя несколько месяцев я полетел в Гамбург на несколько шахматных мероприятий, включая вышеупомянутый сеанс одновременной игры с 32 компьютерами, и по приглашению Фредерика Фриделя посетил его загородный дом. Он познакомил меня со своей женой и двумя сыновьями — десятилетним Мартином и трехлетним Томми. В гостях у этой дружелюбной семьи я чувствовал себя как дома и упомянул о своих успехах в компьютерных играх.

— Вы знаете, я лучший игрок в Hopper во всем Баку, — сказал я, опуская тот факт, что у меня попросту не было конкурентов. Я сообщил, что набрал 16 000 очков, и почувствовал легкое разочарование, не увидев никаких признаков удивления в ответ.

— Неплохо, — сказал Фредерик, — но у нас в семье есть игроки посильнее.

— Что? Вы можете набрать больше очков?! — изумленно воскликнул я.

— Нет, не я.

— Значит, это Мартин — гений видеоигр?

— Нет, и не Мартин.

И тут по улыбке Фредерика я понял, что домашним чемпионом в Hopper был трехлетний Томми.

— Вы хотите сказать, что это Томми? — недоверчиво спросил я.

Мои опасения подтвердились, когда мальчик ловко забрался на стул перед компьютером и стал ждать, когда загрузится игра. Как гостю, мне позволили играть первым, и я установил свой личный рекорд — 19 000 очков.

Но триумф мой длился недолго. Маленькие пальчики Томми так стремительно забегали по клавиатуре, что я не мог за ними уследить, и вскоре малыш набрал 20 000 очков, потом 30 000. Я признал свое поражение, чтобы не просидеть за игрой весь ужин.

Конечно, проигрыш в Hopper трехлетнему ребенку{24} отозвался на моем самолюбии не так болезненно, как любой проигрыш Карпову, но дал мне пищу для размышлений. Как моя страна собирается конкурировать с поколением маленьких компьютерных гениев, воспитанных на Западе? Что будет дальше, если сегодня немецкий малыш ловко обыгрывает в компьютерную игру взрослого советского человека, такого как я, надо сказать, далеко не глупого и к тому же имеющего дома компьютер?

Поэтому, когда в 1986 году я подписал спонсорский контракт с компьютерной компанией Atari, я взял в качестве оплаты 50 новейших компьютеров и привез их в Москву, чтобы создать первый в Советском Союзе молодежный компьютерный клуб. Я продолжал снабжать его аппаратным и программным обеспечением, которое покупал во время своих зарубежных поездок, и этот клуб превратился в место, где собирались многие талантливые ученые и любители компьютеров. Они сообщали мне, какое оборудование требуется для их проектов, и я возвращался домой, как Дед Мороз, с мешком подарков. В аэропорту меня обычно встречали любители шахмат, а вместе с ними — и специалисты по компьютерам, сгоравшие от нетерпения узнать, нашел ли я нужные им вещи. Иногда из толпы раздавались возгласы, которые сегодня заставили бы насторожиться службы безопасности любого аэропорта: «Гарри! Ты привез мне винчестер?!»{25} (винчестерами на профессиональном жаргоне назывались жесткие диски для компьютеров).

Мы с Фредериком обсуждали возможность применения компьютеров в профессиональных шахматах. Компании активно адаптировали персональные компьютеры для работы с текстовыми редакторами, электронными таблицами и базами данных, так почему бы не изобрести нечто подобное Hopper для шахмат? Это стало бы мощным оружием, дающим весомое преимущество, и я не мог позволить себе стать последним, кто получит к нему доступ.

Как уже говорилось выше, наши разговоры привели к созданию первой версии программы ChessBase — название, которое вскоре стало синонимом профессиональных шахматных программ. В январе 1987 года я опробовал раннюю версию ChessBase при подготовке к сеансу одновременной игры против команды сильных соперников — восьми профессиональных игроков западногерманской бундеслиги. В 1985 году я едва им не проиграл. Тогда меня переполняла усталость и чрезмерная самоуверенность, к тому же я ничего не знал о большинстве своих соперников и не успел как следует подготовиться к матчу.

Готовясь с помощью ChessBase к матчу-реваншу, я осознал, как сильно компьютеры могут изменить профессиональные шахматы и нашу жизнь в целом. Благодаря Atari ST и дискете с программой ChessBase за номером 00001, которую мне дали Фредерик и Маттиас, я смог за несколько часов найти и просмотреть прежние партии моих соперников — процесс, который без компьютера занял бы несколько недель. Потратив на подготовку всего два дня, я чувствовал себя в ходе матча вполне уверенно и выиграл с разгромным счетом 7:1. Именно тогда я понял, что отныне на протяжении всей своей карьеры буду проводить много времени за компьютером. Но я и представить себе не мог, сколько часов проведу в сражениях с ним!

Как быстро и безоговорочно компьютеры стали главным инструментом для тренировки шахматистов, наглядно демонстрирует случай, произошедший несколько лет спустя. Ко мне в гостиницу пришли за интервью журналисты, и фотограф захотел снять меня за шахматной доской. Но как раз шахматной доски у меня не было! Я готовился к матчу с помощью своего ноутбука Compaq. Конечно, его с трудом можно было назвать «переносным», поскольку он весил больше пяти с половиной килограммов. Но все равно возить его с собой было гораздо проще и удобнее, чем стопки шахматных книг и блокнотов с записями. Преимущества стали еще очевиднее с появлением интернета: теперь я мог изучить последние партии, как только те были сыграны, вместо того чтобы несколько недель или месяцев ждать их публикации в шахматных журналах.

Вскоре почти все гроссмейстеры стали ездить на турниры с ноутбуками, хотя в этом отношении между поколениями существовал серьезный разрыв. Многие пожилые шахматисты, привыкшие к традиционному обучению и методам подготовки, находили этот способ слишком сложным и чуждым. Кроме того, ноутбуки все еще были довольно дорогим удовольствием, а мало кто из советских шахматистов имел, подобно мне, спонсорские контракты и получал вознаграждение из призового фонда чемпионатов мира.

Перемены, происходившие в профессиональных шахматах с пришествием компьютеров и баз данных, хорошо иллюстрируют процесс приспособления любой сферы деятельности и общества в целом ко всякой новой технологии. Это устоявшийся феномен, который, на мой взгляд, недостаточно хорошо изучен на мотивационном уровне. Когда вы молоды и ваши привычки еще не укоренились, ваша готовность попробовать что-то новое, безусловно, выше. Но возраст не единственное, что мешает открытости. Еще один фактор — успешность. Если вы добились успеха и статус-кво вполне вас устраивает, очень трудно добровольно изменить свои обычные подходы.

В лекциях для бизнес-аудитории я называю это «силой тяжести прошлых успехов» и часто привожу болезненный пример из своей карьеры: потерю титула чемпиона мира из-за проигрыша матча Владимиру Крамнику (Лондон, 2000). В то время я был на пике успеха: я одержал беспрецедентную серию побед в турнирах высшего уровня и мой шахматный рейтинг достиг рекордной отметки. Я находился в прекрасной форме и хорошо подготовился к нашему октябрьскому матчу на большинство из 16 партий. Я понимал, что Крамник — мой самый опасный противник: он был на 12 лет моложе меня и в последние годы показывал в партиях со мной очень хорошие результаты. Но он участвовал в матче за корону впервые, а я — в седьмой раз. У меня были большой опыт, лучшие результаты и масса энергии. Как я мог проиграть?

Оказывается, мог — не учитывая сильных сторон соперника и отказываясь изменить свою манеру игры. Крамник подготовился к матчу очень тщательно, особенно за черных, и ему удалось втянуть меня в утомительное затяжное маневрирование, которое я так не любил. Это была полностью его заслуга, и мне следовало найти правильную стратегию на оставшуюся часть матча. Но вместо того, чтобы исключить развитие неблагоприятного для меня сценария и создавать позиции, позволяющие играть в полную силу, я продолжал бросаться в бой, как бык на красную тряпку. В итоге я проиграл матч, не одержав ни одной победы и потерпев два поражения при 13 ничьих.

Мне было 37 лет, то есть не так уж и много. И я никогда не боялся принимать новые вызовы, чтобы оставаться на переднем крае, в том числе и в области технологий. Я проявил слабость, отказавшись признать, что Крамник подготовился лучше меня, — ведь подготовка всегда была моей сильной стороной. К этому моменту я уже практически «забронзовел» — каждое достижение накладывалось на предыдущее подобно очередному слою бронзы, делая меня все более негибким, неспособным быстро измениться и, что еще важнее, не видящим необходимости меняться.

Этот так называемый тяжелый груз прошлых успехов — проблема не только отдельных людей и их эго. Попытка противостоять прорывным технологиям и переменам — стандартная бизнес-практика, которую используют лидеры рынка, чтобы защитить свое положение. Тому есть бесчисленное множество примеров в реальном мире, но я напомню вам абсурдную историю из фантастического фильма «Человек в белом костюме» (1951) с Алеком Гиннессом в главной роли. Главный герой, увлеченный химик, изобретает чудо-ткань из полимерного волокна, которая никогда не пачкается, не мнется и не изнашивается. Однако вместо ожидаемых славы, богатства и Нобелевской премии это приносит ученому одни лишь неприятности. Он становится объектом преследования со стороны многочисленных заинтересованных групп, быстро осознавших, чем чревато его изобретение: спрос на новые ткани упадет, поэтому текстильная промышленность будет уничтожена вместе с сотнями тысяч рабочих мест; исчезнет нужда в работниках прачечных и химчисток, и они также включаются в охоту.

Преувеличение? Конечно. Но, предположим, если бы изобрели вечную, неперегорающую электрическую лампочку, согласились бы изготовители ламп запустить ее в производство? Между тем сопротивление изменениям и попытка отсрочить их, чтобы выжать еще несколько долларов из существующей бизнес-модели, только лишь усугубляют неизбежные тяжелые последствия. В 1999 году я снялся в ролике, рекламирующем поисковую систему AltaVista{26}, но я ни в коем случае не хотел бы повторить ее участь и кануть за ней в Лету, когда появился Google.

Мне было чуть больше 20, когда шахматный мир начала захлестывать цифровая информационная волна, но это был постепенный процесс, а не цунами. Искать и просматривать партии на экране оказалось гораздо удобнее, чем рыться в горах книг и журналов, и это давало реальное конкурентное преимущество, но не было ядерной бомбой. Появление интернета несколько лет спустя также оказало большое влияние, сделав более ожесточенными информационные войны, которую гроссмейстеры ведут за шахматной доской. Новая блистательная дебютная идея, реализованная в партии в Москве во вторник, уже в среду могла быть повторена десятками шахматистов по всему миру. Это сократило срок жизни секретного оружия, которое мы называем дебютными новинками, от нескольких недель и месяцев до нескольких часов. И уже нельзя было надеяться поймать в свою хитрую ловушку больше одного игрока.

Разумеется, это касалось только тех соперников, кто также находился онлайн и чутко держал руку на пульсе, а так действовали далеко не все. Требовать от 50-летнего гроссмейстера отказаться от использования своего любимого блокнота в кожаном переплете, напечатанных турнирных бюллетеней и других устоявшихся с годами привычек было все равно что предлагать успешному писателю сменить ручку и бумагу на текстовый редактор или художнику — отставить мольберт и начать рисовать на мониторе. Но в шахматах нельзя было выжить, не адаптируясь к новым технологиям. Те, кто быстро овладевал новыми методами, процветали; не сумевшие приспособиться к переменам быстро скатились вниз в рейтинг-листе.

Хотя это невозможно доказать, я уверен, что стремительный закат многих шахматных ветеранов в период между 1989 и 1995 годами, когда использование ChessBase стало нормой, во многом был связан с их неспособностью освоить новые технологии. В 1990 году в первой сотне сильнейших шахматистов мира насчитывалось больше 20 активных игроков, родившихся до 1950-го. К 1995 году их осталось всего семеро, и только один по-прежнему входил в шахматную элиту: нестареющий Виктор Корчной, родившийся в 1931-м и противостоявший мне в лондонском матче претендентов в 1983 году. Еще одним исключением был мой великий соперник Анатолий Карпов 1951 года рождения — он продолжал занимать высокие позиции в рейтинге, несмотря на нежелание принимать компьютеры и интернет. Однако Карпов полагался не только на свой огромный талант и опыт. Как экс-чемпион мира, он располагал значительными ресурсами и мог позволить себе в ходе исследований опираться на помощь коллег — преимущество, имевшееся далеко не у всех шахматистов. То, что возможность обеспечить себе поддержку «секундантов» (так в шахматном мире называют ассистентов в память об эпохе дуэлей) перестала быть значимым фактором, представляет собой еще один показатель демократизирующего влияния технологий на мир шахмат.

Возможно, компьютеры укоротили карьеру некоторых более пожилых шахматистов, зато они позволили быстрее расти молодым игрокам — благодаря не только игре с шахматными движками, но и тому, что компьютерные базы данных сделали огромные объемы шахматной информации доступными для молодых гибких умов. Даже я бываю поражен тем, как эти юные дарования в мгновение ока переключаются с одной партии на другую, переходят от одной ветви анализа к другой. Компьютерное обучение имеет свои недостатки, о которых я расскажу чуть позже, но нет никаких сомнений в том, что оно еще больше изменило баланс сил на игровом поле, или на шахматной доске, в пользу молодежи. На протяжении моей профессиональной карьеры мне приходилось отстаивать свой чемпионский титул в сражениях не просто с новым поколением игроков, а с поколением, которое росло, используя передовые инструменты, не существовавшие во времена моего детства.

Я родился как раз вовремя, чтобы оседлать эту волну, вместо того чтобы быть сметенным ею. Но я также оказался главной мишенью для нового врага, день ото дня стремительно наращивавшего силу. Шахматные машины наконец-то вплотную подобрались к тому, чтобы завладеть шахматной короной, которая принадлежала мне с 9 ноября 1985 года.

Сможет ли шахматная машина победить чемпиона мира? Этот вопрос волновал умы шахматных программистов на протяжении нескольких десятилетий. Как и следовало ожидать, первые прогнозы на заре компьютерной эры были чересчур оптимистичны. Тем не менее группу из Университета Карнеги — Меллона, пообещавшую обыграть чемпиона мира к 1967 году, можно считать в некоторой степени отомщенной, поскольку команда из того же учебного заведения впоследствии создала компьютер Deep Blue, благодаря которому предсказание их коллег сбылось — пусть даже спустя 40 лет, а не десять.

На 12-м ежегодном Северо-Американском чемпионате по шахматам среди компьютерных программ (Лос-Анджелес, 1982) сильнейшие в мире машины боролись друг с другом за чемпионский титул. Belle, детище Кена Томпсона и Джо Кондона, вновь подтвердила свое превосходство над остальными, доказав преимущества специализированной аппаратной архитектуры и шахматных процессоров, впоследствии реализованные в Deep Blue. Томпсон работал в знаменитом исследовательском центре компании Bell Laboratories. На его счету множество научных достижений, в том числе участие в создании операционной системы Unix.

Если говорить о результатах, Belle окончательно ответила на вопрос, поставленный в 1950 году Клодом Шенноном: что эффективнее — «быстрые, но глупые» программы типа А или «умные, но медленные» программы типа Б? Стало ясно, что грубой силы — вместе с быстрым поиском — достаточно для очень сильной игры. Несмотря на относительное отсутствие знаний и другие недостатки оценочной функции, Belle с ее чистой скоростью вычислений 160 000 позиций в секунду давала результаты, позволявшие ей громить более умные программы, даже работавшие на суперкомпьютерах Cray. По поводу того, когда машины смогут победить чемпиона мира (тогда им был Анатолий Карпов), крупные специалисты в области компьютерных шахмат демонстрировали в кулуарах сдержанный оптимизм.

Монти Ньюборн, один из организаторов чемпионата и инициаторов развития компьютерных шахмат, высказал наиболее оптимистичное предположение: через пять лет. Другой эксперт — Майк Валво, имевший звание международного мастера, — склонялся к десяти годам. Создатели популярной программы для ПК Sargon дали самый точный прогноз — 15 лет. Томпсон, как и другие представители обширного лагеря пессимистов, считал, что это может случиться не ранее 2000-го. Несколько человек полагали, что такого никогда не произойдет, учитывая проблемы, с которыми столкнутся даже самые быстрые машины в соответствии с законом убывающей отдачи при добавлении шахматных знаний. Но это было в последний раз, когда звучал вопрос «Смогут ли?». Отныне спрашивали только «Когда?».

В конце 1980-х, спустя десятилетие стабильного прогресса, компьютерное шахматное сообщество поняло, что в противостоянии «человек — машина» время находится на его стороне, и уверенно скорректировало свои прогнозы. Результаты опроса 43 экспертов, проведенного в 1989 году на чемпионате мира по шахматам среди компьютерных программ в канадском Эдмонтоне, отражали последние достижения машин в соперничестве с людьми. За год до этого компьютер впервые в истории победил гроссмейстера в турнирной партии, и дорожная карта дальнейшего совершенствования программ стала совершенно ясна: немного больше знаний и намного больше скорости. Тем не менее всего один эксперт правильно указал, что это судьбоносное событие случится в 1997 году; большинство прогнозировали различные сроки в пределах десятилетия. Мюррей Кэмпбелл, один из создателей Deep Blue, назвал 1995 год, а сам Клод Шеннон — 1999-й.

Возможно, немного несправедливо напоминать компьютерному шахматному сообществу о его ранних ошибочных прогнозах и предположениях. В конце концов, люди традиционно слабы в предвидении будущего, но крепки задним умом. Но в этом есть смысл, поскольку во многих случаях эти неправильные выводы, как слишком оптимистичные, так и чересчур пессимистичные, характеризуют сегодняшний поток предсказаний касательно искусственного интеллекта.

Переоценка потенциала каждой зарождающейся технологии — такое же обычное дело, как и преуменьшение ее недостатков. Богатое воображение мгновенно рисует нам картины того, как та или иная инновация практически в одночасье перевернет нашу жизнь. Подобные устойчиво неверные оценки обусловлены в том числе тем, что мы, как правило, игнорируем технические препятствия, которые неизбежно возникают. Дело в том, что человеческая природа подчиняется другим законам развития, чем природа технического прогресса. Мы рассматриваем прогресс как линейное, постепенное улучшение. В действительности же это верно только для зрелых технологий, уже прошедших стадию разработки и внедрения. Например, таких как полупроводники, развитие которых хорошо описывается законом Мура, или солнечные батареи, чья производительность повышается медленно, но верно.

Но прежде, чем будет достигнута эта предсказуемая фаза прогресса, должны быть пройдены две предшествующие фазы: зарождение и прорыв. Это хорошо отражено в аксиоме, сформулированной Биллом Гейтсом: «Мы всегда переоцениваем изменения, которые произойдут в ближайшие два года, и недооцениваем перемены, которые случатся в ближайшие 10 лет»{27}. Мы ожидаем линейного прогресса, однако вместо этого получаем несколько лет неудач и трудностей. Затем достигается некий порог или же происходит объединение технологий — и кривая взлетает почти вертикально вверх, вызывая всеобщий шок, после чего достигает стадии зрелости и выравнивается. В нашем представлении технический прогресс есть движение по диагонали вверх, но обычно его траектория — это S-образная кривая.

Шахматные машины в 1950–1960-е годы находились в стадии зарождения. Исследователи экспериментировали с новыми подходами, пытались выяснить, стратегия какого типа — А или Б — наиболее перспективна, при этом их инструменты программирования были весьма примитивны, а компьютерные комплектующие работали невероятно медленно. Что важнее — шахматные знания или скорость? В атмосфере, полной неопределенности и разнообразных концепций, казалось, каждая новая идея скрывает в себе потенциал большого прорыва.

Разумеется, нашелся человек, который решил, что на оптимизме ученых можно неплохо заработать. Задолго до того, как я стал «заветной целью» для создателей шахматных машин, шотландский шахматист по имени Дэвид Леви, имевший звание международного мастера, превратил противостояние с машинами в источник дохода. В 1968 году, когда два видных эксперта в области ИИ предсказали, что в ближайшее десятилетие машина победит чемпиона мира по шахматам, Леви заключил знаменитое пари о том, что в течение десяти лет его не сможет обыграть ни один компьютер. Учитывая более чем скромный прогресс, достигнутый шахматными машинами за предыдущие 20 лет, после того как в 1949-м Клод Шеннон описал «дорожную карту», смелость Леви была вполне оправданна.

(Немного информации, чтобы вы четче представляли себе, о чем идет речь: на тот момент международный мастер имел рейтинг примерно 2400 пунктов, что выше уровня мастера — 2300, но ниже гроссмейстерского — 2500 и выше. Сегодня шахматисты с рейтингом выше 2700 считаются «элитой», и таких в мире насчитывается около сорока человек. Рейтинг-рекорд в 2882 пункта принадлежит Магнусу Карлсену. Мой личный рекорд — 2851 пункт в 1999 году, а на момент матча-реванша с Deep Blue мой рейтинг составлял 2795 пунктов. Следует отметить, что за последние десятилетия общий уровень рейтингов вырос: в 1972-м рекорд Бобби Фишера в 2785 пунктов казался непреодолимым. Сегодня довольно много игроков преодолели эту планку, хотя я не могу сказать, что они превзошли самого Фишера.)

В начале 1970-х годов Леви играл гораздо сильнее любых программ, и ни одна из них не сумела приблизиться к мастерскому уровню до истечения срока пари. Более того, Леви хорошо знал о сильных и уязвимых сторонах шахматных машин: они довольно опасны в сложных тактических ситуациях из-за своей растущей скорости и глубины поиска, но плохо справляются со стратегическим планированием и тонкостями эндшпиля. Леви терпеливо маневрировал, используя проверенную антикомпьютерную стратегию «ничего не делай, но делай это хорошо» до тех пор, пока машина не создавала слабые места в своей позиции. Тогда Леви опустошал доску — и призовой фонд.

До появления программы Chess Северо-Западного университета все шло как по маслу. Программа Ларри Аткина и Дэвида Слейта стала первой шахматной машиной, которая демонстрировала последовательную сильную игру, необходимую для того, чтобы одолеть шахматиста, не делающего грубых ошибок. В 1976 году версия 4.5 этой программы стала выигрывать отдельные партии в слабых человеческих турнирах. В следующем году версия 4.6 победила на опен-турнире в Миннесоте, достигнув рейтинга пусть не мастера, но кандидата в мастера.

Итак, начальная фаза закончилась — и началась фаза быстрого роста. Сочетание более мощного аппаратного обеспечения и более совершенных программ создало условия для прорыва, и после десятилетий разочарований и трудностей скорость прогресса превысила все ожидания. Когда в 1978 году Леви встретился с компьютерным чемпионом мира, программа Chess 4.7 оказалась гораздо сильнее, чем он предполагал. Хотя Леви все равно выиграл матч из шести партий, машине удалось записать на свой счет одну ничью и одну победу.

Леви продолжал оставаться важной фигурой в мире компьютерных шахмат и написал на эту тему несметное количество книг и статей. В настоящее время он президент Международной ассоциации компьютерных игр (ICGA), которая курировала мой матч с программой Deep Junior в Нью-Йорке в 2003 году. В 1986-м Леви написал статью в ICGA Journal под названием «Когда грубая компьютерная сила победит Каспарова?». Я думаю, он был рад перевесить мишень на кого-то другого.

Леви забрал свой выигрыш в пари и бросил новую перчатку, пообещав щедрое вознаграждение в размере $1000 создателям компьютерной программы, которая сумеет его победить. Американский научный журнал Omni подсластил приз, добавив $4000. Прошло еще десять лет, прежде чем группа студентов из Университета Карнеги — Меллона со своей специализированной шахматной машиной Deep Thought смогла забрать этот приз.

4. Что важно для машины?

— Итак, — сказал компьютер, — ответ на Великий Вопрос…{28}

— Ну!

— Жизни, Вселенной и Всего Остального…

— Ну!

— Это… — произнес компьютер и замолчал.

— Ну!

— Это…

— Ну!!!

— Сорок два, — с бесконечным спокойствием сообщил компьютер.

— Сорок два?! — завопил Лункуал. — И это все, что ты можешь нам сказать после семи с половиной миллионов лет работы?

— Я убежден в правильности ответа, — холодно отрезал компьютер. — По правде говоря, — прибавил он, смягчившись, — дело, я думаю, в том, что вы никогда, собственно, не задумывались, в чем состоит этот вопрос.

Как и во всех хороших шутках, в этом разговоре между самым мощным во вселенной компьютером и его создателями из юмористического фантастического романа Дугласа Адамса «Автостопом по галактике» (1979) есть немалая доля истины. Мы часто ищем ответы на вопросы, предварительно не убедившись в том, понимаем ли мы сам вопрос или правильно ли он сформулирован. В моих лекциях об отношениях человека и машины я люблю цитировать Пабло Пикассо, который в одном интервью сказал: «Компьютеры бесполезны, поскольку они могут только давать ответы»{29}. Ответ подразумевает конец, полную остановку, а для Пикассо не существовало конца, только все новые и новые вопросы. Компьютеры являются отличными инструментами для поиска ответов, но они не умеют задавать вопросы, по крайней мере в том смысле, который в это понятие вкладывают люди.

В 2014 году я услышал интересную мысль по поводу этого утверждения. Меня пригласили выступить в штаб-квартире крупнейшего в мире хеджевого фонда Bridgewater Associates (Коннектикут). Что очень показательно, компания наняла Дейва Ферруччи, одного из разработчиков знаменитого суперкомпьютера Watson IBM, прославившегося своими победами в американской телевикторине Jeopardy!. По словам Ферруччи, он был разочарован подходом IBM к искусственному интеллекту, всецело ориентированным на анализ данных, и тем, что компания хотела извлечь выгоду из мощи и славы Watson и превратить его в коммерческий продукт. Сам же Ферруччи хотел исследовать более сложные пути, пытаясь узнать «почему», а не только обнаружить полезные корреляции с помощью анализа данных. Другими словами, он хотел использовать мощь ИИ, чтобы выйти за пределы непосредственных практических результатов и научиться получать результаты, которые выведут нас на новый уровень понимания, а не будут простыми ответами.

Интересно, что Ферруччи решил, что хорошим местом для такого рода амбициозных экспериментальных исследований может стать известная своим инакомыслием Bridgewater Associates, а не IBM, одна из крупнейших в мире технологических компаний. Разумеется, в первую очередь Bridgewater интересовали прогностические и аналитические модели для улучшения ее инвестиционных результатов. Компания сочла целесообразным поддержать усилия Ферруччи{30}, чтобы, по его выражению, «создать машину, способную объединить дедуктивные и индуктивные процессы для развития, применения, уточнения и объяснения фундаментальной экономической теории».

Это настоящий Грааль, достойный священного поиска и особенно «объяснения». Даже сильнейшие шахматные программы не могут дать своим блистательным ходам логических обоснований за пределами элементарных тактических вариантов. Они делают сильный ход только лишь потому, что тот получил наивысшую оценку по сравнению с остальными, а не потому, что применяют рассуждения, понятные людям. Сверхсильные машины, несомненно, полезны для тренировочных партий и проведения анализа, но пытаться учиться у них игре в шахматы — все равно что обучаться алгебре у калькулятора.

Во время моей лекции Ферруччи высказал мысль, которая раскрывает суть проблемы так же хорошо, как вышеприведенные слова Пикассо и Дугласа Адамса. Он заявил: «Компьютеры умеют задавать вопросы. Они просто не знают, какие из них важны». Это утверждение понравилось мне тем, что оно имеет несколько слоев смысла и каждый из них несет полезную информацию.

Во-первых, его можно воспринимать буквально. Даже простейшая программа может задать вам запрограммированный вопрос и зафиксировать ответ. Конечно, это не проявление искусственного интеллекта, а простое автоматизированное взаимодействие. Даже если машина говорит человеческим голосом и сопровождает ваши ответы адекватными вопросами, она всего лишь проводит примитивный анализ данных. Такого рода вещи используются функцией помощи в программном обеспечении и на веб-сайтах уже больше десяти лет, хотя и без голосового компонента. Вы вводите свой вопрос или описываете проблему, справочная система или чат-бот выбирает ключевые слова — «сбой», «аудио», «PowerPoint» и т. д. — и предлагает страницы с соответствующей справочной информацией или задает дополнительные вопросы.

Любой, кто пользовался поисковыми системами наподобие Google, знает, как это работает. Большинство людей давно поняли, что нет смысла вводить длинный вопрос «Какой город является столицей штата Вайоминг?». Достаточно набрать «столица Вайоминг», и поиск даст те же результаты при меньших усилиях. Но в устной речи люди предпочитают использовать более естественный язык, чем при печати на компьютере, и говорить полными предложениями. Виртуальные голосовые помощники Siri, Alexa, Ok Google, Cortana и другие постепенно начинают вслушиваться в каждое наше слово, что является одной из причин нынешнего рывка в области социальной робототехники (так называется дисциплина, изучающая особенности взаимодействия людей с технологиями, основанными на искусственном интеллекте). То, как роботы выглядят, звучат и ведут себя, в значительной степени определяет то, как мы решаем их использовать.

Выступая в сентябре 2016 года на конференции по социальной робототехнике в Оксфорде, я познакомился с одним из докладчиков Найджелом Круком и его роботом Арти. Доктор Крук занимается исследованиями в области ИИ и социальной робототехники в Университете Оксфорд Брукс. Он подчеркивает, как важно исследовать особенности использования роботов в общественных местах, поскольку люди в равной степени очарованы роботами и боятся их. Автоматический голос по телефону — это одно, и совсем другое — когда голос исходит от механического существа с лицом и телом. Как бы вы ни относились к роботам, вы должны быть готовы к тому, что их будет становиться все больше буквально повсюду.

Возвращаясь к тому, могут ли компьютеры задавать вопросы в более глубоком смысле, Ферруччи и другие специалисты в области ИИ работают над созданием более сложных алгоритмов, позволяющих исследовать факторы и причины событий, связанных с изменением данных, а не просто выявлять корреляции для ответа на тривиальные вопросы и поисковые запросы. Но чтобы задавать правильные вопросы, вы должны понимать, что важно, что имеет значение. А для этого нужно знать, какой результат вы хотели бы получить.

Я регулярно говорю о разнице между стратегией и тактикой и о том, почему так важно понимать свои долгосрочные цели, чтобы не путать их с реакциями, возможностями или всего лишь этапами. Это не так просто сделать — даже небольшие компании нуждаются в программных заявлениях и регулярных проверках, позволяющих им убедиться в том, что они движутся в правильном направлении. Приспосабливаться к обстоятельствам необходимо, но если вы все время меняете свою стратегию, значит, у вас попросту нет верной стратегии. Мы, люди, зачастую плохо представляем, чего мы хотим и как этого достичь, поэтому неудивительно, что похожие трудности у нас возникают и с тем, чтобы научить машину видеть бóльшую картину.

Машины сами по себе не знают, какие результаты важны и почему — определить это самостоятельно они могут только, если имеют соответствующие параметры или достаточно информации. Но что для машины имеет значение? Машина определяет нечто как значимое или нет на основании знаний, которые в ней запрограммированы, а знания закладывают в машину не кто иные, как люди. По крайней мере так было на протяжении долгого времени. Но сегодня наши машины начинают удивлять нас не только результатами, но и методами, которые они используют для достижения результатов, а это огромная разница.

Приведу упрощенный пример: традиционная шахматная программа знает правила игры. Она знает, как ходят фигуры и что такое мат. В нее также заложены сведения об относительной стоимости фигур (пешка — единица, ферзь — десять единиц и т. д.) и другие знания, например о мобильности фигур и пешечной структуре. Все, что выходит за рамки правил, классифицируется как знание. Если вы научите машину, что ферзь стоит меньше пешки, она будет жертвовать его без всяких колебаний.

Но что если не заложить в машину никаких знаний? Что если научить ее только правилам, а все остальное позволить сделать самой? То есть самой узнать, что ладьи ценнее слонов, что сдвоенные пешки — слабая структура и что открытые линии могут быть полезны. Это дает возможность не только создать сильную шахматную машину, но и узнать кое-что новое из того, что обнаружит машина и как она это обнаружит.

Именно это сегодня делают системы ИИ, используя такие методы, как генетические алгоритмы и нейронные сети, чтобы, по сути, программировать самих себя. К сожалению, им еще не удалось превзойти в силе традиционные программы с быстрым поиском, больше полагающиеся на жестко закодированные человеческие знания. Но причина этого — в самих шахматах, а не в методах. Чем сложнее предмет, тем выше вероятность того, что открытые, самостоятельно созданные алгоритмы превзойдут алгоритмы на основе фиксированных человеческих знаний. Шахматы пока недостаточно сложны для этого, и даже я должен признать, что в жизни не все так просто, как на шахматной доске.

За истекшие 30 лет выяснилось, что моя любимая игра настолько легко поддается грубой вычислительной силе, что для победы над человеком машинам совсем не нужно иметь стратегическое мышление. Потребовались колоссальные усилия, чтобы усовершенствовать оценочную функцию Deep Blue и обучить программу дебютам, но, как это ни удручает, появившиеся через несколько лет машины с более мощными процессорами не нуждались ни в том, ни в другом. Хорошо это или плохо, шахматы оказались недостаточно глубокой игрой для того, чтобы подтолкнуть компьютерное сообщество к поиску других решений, помимо скорости, о чем многие сожалели.

В 1989 году два ведущих специалиста в области компьютерных шахмат написали эссе «Наказание за схождение с пути истинного»{31}. Они раскритиковали методы, с помощью которых шахматные машины сумели приблизиться к гроссмейстерскому уровню. Одним из авторов был советский ученый Михаил Донской, входивший в число создателей программы «Каисса», победительницы первого чемпионата мира по шахматам среди компьютерных программ (1974). Вторым — Джонатан Шеффер, который вместе со своими коллегами из Университета Альберты в Канаде на протяжении нескольких десятилетий занимался разработкой наиболее передовых игровых машин. Помимо шахматных программ он создал сильную программу для игры в покер и программу Chinook для игры в шашки, которая участвовала в чемпионате мира и стала практически непобедимой.

В своей провокационной статье, опубликованной в авторитетном компьютерном журнале, Донской и Шеффер описали, как на протяжении многих лет компьютерные шахматы все больше отдалялись от ИИ. Они считали, что главной причиной этого разрыва стал ошеломительный успех поискового алгоритма «альфа-бета». Зачем искать что-то еще, если выигрышный метод уже найден? «К сожалению, эта мощная идея появилась на слишком раннем этапе развития компьютерных шахмат», — утверждали авторы статьи. Поскольку значение имела исключительно победа любой ценой, техническая сторона дела взяла верх над наукой. Распознавание образов, развитие знаний и другие человеческие методы были отброшены, поскольку супербыстрая грубая сила обеспечивала успех.