2. “хочет” победить, а также
3. “увидит” эти возможности, как видите их вы, и поступит соответствующим образом (то есть рационально).
Иначе говоря, вы считаете компьютер
Интенциональная установка – это стратегия интерпретации поведения объекта (человека, животного, предмета, чего угодно)
Я предлагаю просто
Давайте посмотрим, в чем заключается сила интенциональной установки, сравнив ее с тактикой прогнозирования. Начнем с определения трех основных установок (в рамках которых можно выделить подкатегории, но здесь нужды в этом не возникает): физической установки, конструктивной установки и интенциональной установки.
Поведение будильников, которые представляют собой сконструированные объекты (в отличие от камней), также поддается прогнозированию более затейливым образом – прогнозированию из
1. что объект
2. что он будет функционировать в соответствии со своей конструкцией – иными словами, что он не даст сбой.
Иногда при конструировании объектов возникают ошибки, а иногда сконструированные объекты ломаются. Камень не может функционировать неправильно, поскольку его функция вообще не определена, а если он сломается надвое, в результате появятся два камня, а не один, расколотый пополам. Когда сконструированный объект относительно сложен (к примеру, цепная пила в сравнении с топором), умеренная цена риска более чем компенсируется невероятной простотой прогнозирования ее поведения. Никто не станет опираться на фундаментальные законы физики при прогнозировании поведения цепной пилы, имея в своем распоряжении удобную схему ее движущихся частей.
Еще более рискованной и изменчивой представляется интересующая нас
Сначала перечислим все возможные ходы, которые доступны компьютеру, когда наступает его очередь ходить (обычно их несколько десятков).
Затем проранжируем все возможные ходы от лучшего (самого разумного, самого рационального) к худшему (самого глупого, самого бесперспективного).
Наконец, сделаем предсказание: компьютер сделает лучший ход.
Возможно, вам будет сложно однозначно определить лучший ход (компьютер может “проанализировать” ситуацию лучше вас!), но почти всегда вы сумеете отбросить все ходы, кроме четырех-пяти самых разумных, что и так дает вам огромные возможности для прогнозирования. Вы
Очевидно, что интенциональная установка эффективно работает при прогнозировании поведения играющего в шахматы компьютера, поскольку он был сконструирован с целью “обдумывать” и выбирать лучшие ходы в рамках в высшей степени рационалистической игры в шахматы. Если компьютерная программа управляет нефтеперерабатывающим заводом, почти столь же очевидно, что она будет предпринимать различные шаги, анализируя условия, которые в большей или меньшей степени диктуют ее поведение с учетом ее общего целевого назначения. Здесь важно, что программа по умолчанию считается
Теперь мы видим, как и зачем интенциональная установка работает для прогнозирования
Никто не спорит, что мы выдвигаем очень точные гипотезы, используя народную психологию, однако споры о том, чем объясняется этот дар, не утихают. Может, мы заучиваем десятки или сотни тысяч “законов природы” наподобие
“Если человек бодрствует, его глаза открыты и он стоит лицом к автобусу, он склонен полагать, что перед ним стоит автобус” и
“Всякий раз, когда люди полагают, что могут получить выгоду по низкой цене, они склонны сотрудничать с другими, даже с незнакомцами”?
Или же эти грубо отесанные законы генерируются по запросу присущим нам чувством, что именно таковы рациональные ответы в соответствующих обстоятельствах? Я считаю, что верно второе. Хотя огромное количество стереотипных моделей поведения действительно описывается подобными обобщениями (которые, в принципе, могут усваиваться постепенно в течение всей нашей жизни), достаточно сложно создать научно-фантастический сценарий такой новизны, чтобы он шел вразрез с любыми прогнозами и никто просто не мог бы представить, каким могло бы быть поведение людей в описываемых обстоятельствах. Возникает закономерный вопрос: “Что бы
Мы столь же естественно и безотчетно распространяем интенциональную установку на животных. Без нее не обойтись, если мы хотим поймать коварного зверя, но она также полезна, если мы пытаемся организовать свое понимание поведения более простых животных и даже растений. Моллюск ведет себя рационально, опираясь на свое ограниченное представление о мире. Нас не удивляет, что деревья, которые чувствуют постепенное приближение конкурентов (поскольку все больше попадающего на них солнечного света отражается от высоких зеленых объектов поблизости), перераспределяют ресурсы, чтобы расти быстрее. В конце концов, в таких обстоятельствах для растения это умный ход. В мире артефактов примитивную интерпретацию из интенциональной установки выдерживает даже презренный термостат: он хочет поддерживать температуру на заданном уровне, часто измеряет температуру, чтобы иметь актуальное представление о ней, сравнивает полученное значение с заданной температурой и действует соответствующим образом. Именно так можно объяснить работу термостата ребенку, не вдаваясь в технические подробности.
Простая теория интенциональных систем объясняет, как и почему мы понимаем поведение огромного количества сложных объектов, считая их
Такая равнозначность, или нейтральность, не баг, а фича, как выражаются программисты. Как мы увидим в последующих трех главах, она позволяет теории интенциональных систем играть основополагающую роль при наведении мостов через пропасть смятения между нашими сознаниями и мозгами. Не углубляясь в тонкости, можно сказать, что она позволяет нам увидеть сходства между “реальными” убеждениями (убеждениями
Интенциональная установка широко применяется в информатике и психологии животных, и теория интенциональных систем объясняет почему. Некоторые теоретики эволюционной биологии утверждают, что обходятся без нее, но на самом деле они обманывают себя, как мы увидим в разделе об эволюции[21].
19. Личностное и субличностное
Ваши глаза не видят – видите вы. Ваш рот не наслаждается вкусом шоколадного торта – наслаждаетесь вы. Ваш мозг не злится из-за острой боли в плече – злитесь вы. Ваша рука не подписывает контракт – подписываете вы. Ваше тело может чувствовать возбуждение, но влюбляетесь все равно вы. Это не
На первый взгляд, существуют вещи, которые под силу делать целой личности, но не под силу ни одному из ее фрагментов. Это почти так, но воображение подсказывает нам жутковатую мысль, что в таком случае личность (грубо говоря) представляет собой фрагмент человеческого тела, а именно полноценно функционирующий мозг. (
Вероятно, главное свойство интернета – его децентрализация. У него нет ни штаб-квартиры, ни головного офиса, на который можно сбросить бомбу, чтобы его отключить. Его составные части характеризуются высоким запасом мощности и оперативной гибкостью, поэтому при отключении одной из частей он “выходит из строя с достоинством”, если выходит из строя вообще. У умного компьютера HAL из “Космической одиссеи 2001 года” был “логический центр памяти” – комната, полная банков данных. Отсоединив их один за одним, Дэйв выключил HAL навсегда. У интернета подобного центра нет. Хотя природа не наделила нас таким высоким уровнем распределенной неуязвимости, в своем теле
Вот еще несколько примеров. Ваш мозг не понимает русский – его понимаете вы. Ваш мозг не считает шутку смешной – так считаете вы. Даже если работа соответствующих структур мозга обусловливает ваше понимание и восприятие, эти структуры не могут функционировать должным образом без тренировки и поддержки, которую им годами оказывают органы чувств, конечности и другие эффекторы[23].
Получается, что мы не просто так считаем
Но что это за элементы? Неужели человеческое тело состоит из них, как из кирпичиков? Ответом будет да, если мыслить на уровне мельчайших частиц – атомов. И нет – на любом другом уровне, от молекул, клеток и выше. Белки – рабочие лошадки ваших клеток – это невероятно компетентные и проницательные маленькие роботы. Мы можем назвать их наноботами. Нейроны, которые отвечают за распространение и переключение сигналов в мозге, а также за его адаптивность, можно считать более многофункциональными и умелыми роботами – назовем их микроботами. Они формируют коалиции, соревнуются и сотрудничают друг с другом в рамках более крупных структур, коммуницируют, подавляют друг друга, анализируют поток информации от органов чувств, пробуждают дремлющие информационные структуры “в памяти” (которая не имеет отдельного места в мозге) и руководят сложными каскадами сигналов, приводящих в движение мускулы.
Все уровни выше простейших атомных кирпичиков в некоторой степени характеризуются
Эти агенты подобны белым воротничкам – аналитикам и управленцам, имеющим конкретные обязанности. Как и все белые воротнички, они не лишены здоровой соревновательности и готовы принять все, с чем сталкиваются в процессе своей деятельности, и даже подмять под себя соседей или тех, кто состоит с ними в контакте. На этом уровне компетентности выступающие в качестве агентов субличностные элементы представляют собой умные кирпичики, и мы начинаем понимать – по крайней мере, в общих чертах, – как сложить из них цельную, способную к пониманию личность. (“Требуется сборка”, как написано на коробке с деталями велосипеда, но нам хотя бы не нужно резать и гнуть металл, делать гайки и болты.)
Представить немыслимое – как личность может состоять из (одних лишь) бездумных молекул – можно двумя способами: пойти от частного к общему, как мы только что поступили, или от общего к частному, начав с цельной личности и изучая, каково наименьшее число очень умных гомункулов, способных договориться между собой и выполнять все задачи, которые необходимо выполнять, чтобы личность продолжала функционировать. Первым по пути от общего к частному прошел Платон. Он предположил, что душа состоит из трех частей-агентов, аналогичных правителям, стражам и работникам, или разумному, яростному и страстному началу, но за прошедшие с тех пор два тысячелетия было выявлено немало причин, по которым его анализ нельзя считать удачным. Предложенное Фрейдом около ста лет назад деление на Ид, Эго и Супер-Эго было несколько лучше, но активные попытки поделить сознание на подсознания начались только после изобретения компьютера и появления науки об искусственном интеллекте (ИИ), задача которой изначально заключалась в анализе когнитивных способностей цельной (взрослой, сознательной, использующей язык) личности путем представления ее в качестве огромной сети субличностных специализированных элементов, таких как генератор целей, поисковик воспоминаний, оценщик планов, анализатор восприятия, анализатор предложений и так далее.
20. Каскад гомункулов
В старом как мир стремлении понять сознание мыслители часто поддавались искушению представить внутреннего агента, маленького человечка –
Но, может, проблема не во введении гомункула как такового, а во введении
“Человечек внутри мозга”, “дух в машине” Райла не решает проблему сознания. Хотя нельзя исключить, что аналогии с “письменностью мозга” найдется какое-нибудь полезное применение, кажется, что она лишь заменяет маленького человечка целым комитетом. [p. 87]
И чем же плох этот комитет? (
Отталкиваясь от определенным образом описанной проблемы, программист ИИ фактически считает компьютер антропоморфным: если компьютер
Большой плюс этой стратегии заключается в том, что она опровергает возражение о
Таким образом, идя от общего к частному, классический GOFAI позволил нам сделать большой шаг вперед, однако предложенная им бюрократическая система организации вышла хотя и эффективной, но излишне механистичной! Может, нам и показалось, что мы избавились от короля или директора, но у нас все равно осталась армия руководителей среднего звена, подчиняющихся множеству вице-президентов (взаимодействия которых формируют высший уровень системы) и отдающих приказы своим подчиненным, которые, в свою очередь, делегируют задачи нижестоящим конторским работникам, и так далее. Существование этой гиперэффективной организации, где ни один элемент не работает вхолостую, где не происходит искусственного раздувания штатов, а все приказы беспрекословно выполняются, в основном обусловливалось тем фактом, что огромные компьютеры, на которых разрабатывались ранние модели ИИ, по сегодняшним стандартам были медленными и маломощными, а люди хотели как можно быстрее получить результат. Чтобы произвести впечатление на инвестора, нужно было создать такой ИИ, которому для ответа на простой вопрос не нужно думать часами. Он должен был работать четко. Кроме того, на создание тысяч строк кода требуется немало времени, а если вы сумели разбить итоговую цель – к примеру, научить компьютер отвечать на вопросы о лунных камнях, диагностировать болезни почек или играть в шахматы – на серию решаемых задач и знаете, как создать для них программы, которые затем можно будет интегрировать в рабочую систему, вы получите свой “экспериментальный образец”[24] при целесообразно низких временных и финансовых затратах.
Обратите внимание, что компьютеры всегда конструируются таким образом, чтобы потребности и производительность практически не зависели друг от друга. Аппаратное обеспечение распределяет электрический ток щедро и беспристрастно, поэтому ни одна из микросхем не рискует оказаться обделенной. На программном уровне великодушная диспетчерская система распределяет машинные циклы в зависимости от приоритизации задач, и хотя приоритет процессам может присваивать специальный распределительный механизм, в итоге получается организованная очередь, а не беспорядочная борьба за выживание. Как сказал бы Маркс, “от каждого по способностям, каждому по потребностям”. Специалист по теории вычислительных систем Эрик Баум метко назвал эту иерархию системой
Нейроны не такие. Обычные клетки, из которых состоят наши тела, вероятно, можно сравнить с послушными рабами – наподобие самоотверженных, бесплодных рабочих муравьев, которые живут в колонии, выполняют стереотипные задачи и существуют в относительно неконкурентной (марксистской) среде. Но клетки мозга – как я теперь думаю – ожесточенно конкурируют на рынке. За что? Чего может
Итак, если идти от частного к общему, вдохновляясь нейробиологией, гомункулярный функционализм начинает казаться все более точной моделью работы мозга, поскольку порождаемые им хаотичные и конкурентные “вычислительные архитектуры” выглядят убедительнее с биологической точки зрения: мы начинаем понимать, какие эволюционные процессы ответственны за построение этих архитектур как на стадии зародыша, так и во взрослой жизни. Кроме того, мы можем проследить их происхождение от более простых нервных систем, состоящих из менее квалифицированных гомункулов, которые лишь вроде как обладают восприятием, дают друг другу сигналы и имеют память[25].
21. Оператор “вроде как”
Зачем нам вообще оператор “вроде как”? Дело в том, что, разбирая – или собирая – комплект все более компетентных уровней, мы должны знать о каждом уровне два факта: что он
Нам не обойтись без дарвиновского градуализма, чтобы объяснить огромную разницу между обезьяной и яблоком, а без градуализма Тьюринга не обойтись, чтобы объяснить огромную разницу между человекоподобным роботом и карманным калькулятором. Обезьяна и яблоко состоят из одних и тех же базовых ингредиентов, по-разному структурированных и используемых в многоуровневом каскаде различных функциональных компетенций. Не существует четкой границы, отделяющей вроде как обезьяну от обезьяны. Как человекоподобный робот, так и карманный калькулятор сделаны из одинаковых базовых, бездумных, бесчувственных кирпичиков Тьюринга, но мы составляем из них более крупные, более компетентные структуры, которые затем становятся элементами еще более компетентных структур на более высоких уровнях, и в конце концов добираемся до таких (вроде как) умных фрагментов, что их можно назвать понимающими. Мы используем интенциональную установку, чтобы отслеживать убеждения и желания (или “убеждения” и “желания”, или вроде как убеждения и вроде как желания) (вроде как) рациональных агентов на каждом уровне, начиная с простейших бактерий, через все схемы распознавания, сигнализации, сравнения и запоминания, которые включает в себя мозг животных, от морских звезд до людей-астрономов. Не существует четкой границы, отделяющей истинное понимание, и это верно даже в случае с людьми. Маленький ребенок вроде как понимает собственную фразу “мой папа – врач”, а я вроде как понимаю формулу
22. Чудо-ткань
В превосходной книге об индийской уличной магии “Сеть магии. Чудеса и уловки в Индии” Ли Сигел (1991) пишет:
“Я пишу книгу о магии”, – объясняю я, и меня спрашивают: “О настоящей магии?” Под настоящей магией люди подразумевают чудеса, чудотворные деяния и сверхъестественные силы. “Нет, – отвечаю я, – о фокусах. Не о настоящей магии”. Иными словами, настоящей магией называют магию, которая на самом деле не настоящая, а настоящую магию, которую действительно можно творить, настоящей никто не считает. [p. 425]
“Настоящая магия” – по определению, скажете вы – чудесна. Она нарушает законы природы. Многие люди хотят верить в настоящую магию. Повторяя трюки самопровозглашенных ясновидцев вроде Ури Геллера, фокусник, скептик и охотник за привидениями Джеймс Рэнди показывает, что поразительные эффекты нельзя считать настоящей магией, поскольку на самом деле это лишь фокусы. Но некоторых людей этим не убедить. Много лет назад на обсуждении после представления в Виннипеге один из зрителей обвинил Рэнди в двойном обмане: якобы Рэнди был таким же ясновидцем, как и Геллер, но специально притворялся простым фокусником, чтобы разоблачать двуличность более известного Геллера и забирать себе частичку его славы! Сложно опровергнуть такое обвинение, не объяснив всем присутствующим, в чем именно состоит секрет фокусов, чего Рэнди, уважая традиции фокусников всего мира, делать не спешит. (Первыми секреты фокусов стали раскрывать Пенн и Теллер. Их осудили многие коллеги по цеху, но в итоге они сумели доказать, что традиционное табу можно нарушить, не испортив при этом шоу иллюзионистов.)
Подобное стремление верить в настоящую магию свойственно многим людям, рассуждающим на тему взаимосвязи сознания и мозга. Некоторым, включая немалое количество нейробиологов и физиологов – и философов, – хотя бы на подсознательном уровне привлекательна мысль, что так или иначе динамические свойства нервной ткани могут творить чудеса, то есть каким-то образом сдерживать скрытые силы, неизвестные науке. Возможно, они правы, но не стоит считать так по умолчанию. Правило таково:
Вот что нам известно практически наверняка: ни в одной компьютерной программе не задействованы необъяснимые с точки зрения физики феномены – ни невообразимые ранее силовые поля, ни таинственные квантовые проделки, ни жизненный порыв. Ни в одном компьютере, безусловно, нет чудо-ткани. Мы точно знаем, как компьютеры выполняют основные задачи и как из этих простых задач складываются все более сложные, и можем объяснить сконструированные компетенции, не оставляя никаких тайн. Хотя виртуозность сегодняшних компьютеров не перестает нас поражать, сами компьютеры – как машины – просты, как открывашки. Они показывают фокусы, но не “настоящую магию”.
Это ценный факт – настолько ценный, что он удостоится подробного анализа в следующем разделе. Его ценность заключается в том, что всякий раз, создавая компьютер, который казался чудесным, мы получаем доказательство, что его можно сконструировать без использования чудо-ткани. Возможно, мозг делает все иначе – возможно, даже с чудо-тканью (возможно, Рэнди – настоящий ясновидец, как и Геллер!), – но у нас нет основания этому верить. Таким образом, компьютеры выступают в качестве разоблачителей мифов, и это прекрасный повод настаивать на создании компьютерных моделей всего, что мы пытаемся понять, будь то ураганы, ипотечные пузыри, ВИЧ или человеческое сознание.
Термин “чудо-ткань” представляет собой инструмент мышления, напоминающий дубинку полицейского: он используется в карательных целях, чтобы не давать людям строить безосновательные теории. Как и дубинкой, им можно злоупотреблять. Он дополняет другой инструмент мышления – бритву Оккама и потому обеспечивает некоторый научный консерватизм, которому порой свойственна близорукость. Мой любимый пример этого привел один из отцов современной генетики Уильям Бэтсон. Вот что он сказал не так уж давно, в 1916 г.:
Свойства живых организмов некоторым образом связаны с материальной основой, возможно, в некоторой степени с ядерным хроматином [хромосомами]; и все же непостижимо, чтобы частицы хроматина или любого другого вещества, каким бы сложным оно ни было, обладали бы теми силами, которые должны приписываться нашим факторам или генам. Предположение, что частицы хроматина, неотличимые друг от друга и практически гомогенные во всех известных опытах, могут в своей материальной природе содержать все свойства жизни, переходит границы даже самого убежденного материализма. [p. 91]
Он просто не мог представить ДНК. Мысль о том, что в каждой человеческой клетке может находиться три миллиарда спаренных оснований в двойной спирали, никак не укладывалась у него в голове. К счастью, другие биологи не разделяли пессимизма Бэтсона и в конце концов открыли, как именно происходит, казалось бы, чудесная передача генетической информации от поколения к поколению, за которую, как выяснилось, отвечают весьма необычные молекулы. Однако на пути к этому открытию они придерживались правила: никакой чудо-ткани. Из генетики они знали, какими компетенциями должен обладать искомый элемент, и сделали своей задачей создание физически возможной модели того, что будет обладать этими компетенциями.
Сегодня перед нами стоит подобная задача. Экспериментальная психология дает нам все более подробный каталог компетенций и уязвимостей сознания – триумфов восприятия и неловкостей заблуждения, скорости усвоения языка и условий переключения внимания, вожделения, страха и радости, – и теперь, как “убежденные материалисты”, мы должны выяснить, как мозг все это делает, не прибегая к постулату о чудо-ткани.
По мере того как растет наше понимание, представления о чудо-ткани меняются. Когда в середине 1980-х появились “коннекционистские” и другие “нейросетевые” модели[26], они продемонстрировали наличие у маленьких пучков нейронов способности к обучению и распознаванию паттернов, о которых всего несколькими годами ранее не могло быть и речи. Мы до сих пор не знаем, как именно мозг использует вычислительные мощности, демонстрируемые этими полуреалистичными моделями – и использует ли он их вообще, – но теперь можно постулировать коннекционистскую компетенцию нейронной сети, которую вы пока не можете объяснить, если открыто заявляете об этом, а компетенция явно не выходит за рамки известного диапазона возможностей. (Может, Рэнди исполняет фокус не точно так же, как Геллер, но мы имеем все основания предположить, что существует вариация метода Рэнди, которая объясняет способности Геллера, а это подсказывает нам, как глубже изучить задействованные процессы.) Главное возражение против существования чудо-ткани заключается в том, что она дает нам не способ решить проблему, а повод сдаться, предположив, что эту загадку разрешить так и не удастся.
23. В диспетчерской робота
У роботов нет чудо-ткани (фактически по определению), поэтому они представляют собой стерильную платформу для мысленных экспериментов наподобие этого:
Однажды утром вы просыпаетесь в незнакомой кровати в странной комнате без окон. Две стены этой комнаты сплошь покрыты разноцветными мигающими огоньками, а две другие стены – тысячами кнопок. На огоньках и кнопках есть номера, но нет ярлыков. На тумбочке лежит адресованная вам записка:
Доброе утро! Вас накачали снотворным, похитили и доставили сюда, в ваш новый дом. В холодильнике есть еда, в углу комнаты ванная – с удовлетворением физических потребностей проблем не возникнет. Вы заперты в диспетчерской гигантского робота. Загораясь, каждый огонек дает богатую и актуальную информацию о ситуации: эти огоньки – выходные сигналы сложнейшим образом организованной системы анализаторов нейронной сети, которая работает с данными, получаемыми через видеоглаза робота, снимающими изображение высокой четкости, через снабженные микрофонами уши и через тактильные и обонятельные датчики. Кнопки управляют действиями робота, которые скоординированы между собой и могут быть исполнены в любую секунду.
Робот живет в опасном мире, где сталкивается с большим количеством рисков и возможностей. Его будущее в ваших руках, а потому, само собой, и ваше будущее зависит от того, насколько успешно вы будете вести своего робота по миру. Если он будет уничтожен, электричество в этой комнате отключится, еда в холодильнике закончится и вы умрете. Удачи!
Ситуация не из приятных. Затаив дыхание, вы начинаете экспериментировать и нажимать на кнопки, чтобы проверить, что получится. Вы нажимаете на желтую кнопку под номером 4328 и замечаете, что в этот момент гаснет голубой огонек номер 496. Может, вы заставили робота почесаться или “съесть” что-нибудь, чтобы удовлетворить его метаболические потребности? Вы нажимаете на кнопку номер 4328 второй раз, и зажигаются другие огоньки. Что изменилось в мире? Что это означает? Вам страшно, потому что вам сказали, что эти огоньки передают огромное количество
Вот бы огоньки и кнопки были подписаны! Если бы все они были снабжены ярлыками на знакомом вам языке, вероятно, вы смогли бы решить проблему. Или было бы в комнате хоть одно окно, из которого можно было бы выглянуть, чтобы проверить, что случилось, когда вы нажали на кнопку! Есть ли у робота руки и ноги? Будь в комнате окно, вы могли бы попытаться сопоставить события во внешнем мире с миганием огоньков на стенах. Поскольку окна нет, вам доступно огромное количество информации, которую вы не в состоянии интерпретировать. Вы можете запустить сотни действий робота, но у вас нет надежды узнать, чего добьется этими действиями ваш робот.
Похоже, проблема неразрешима. Каким бы умным и изобретательным вы ни были, вы не сможете узнать, за что отвечают огоньки и кнопки на стенах, имея в своем распоряжении лишь перечисленные данные. Однако если вы не можете решить эту проблему, мы сталкиваемся с парадоксом, поскольку описанная ситуация есть не что иное, как ситуация, в которой существует ваш мозг! Он заперт в комнате без окон – в вашем черепе, – где миллионы входных линий непрерывно передают информацию о внешнем мире и состоянии вашего тела, а миллионы выходных линий стимулируют мускулы сокращаться и расслабляться. Ваш мозг не может открыть в вашем черепе окно и посмотреть, что происходит снаружи и провоцирует сигналы, поступающие в вашу зрительную кору. (Да и зачем вашему мозгу такое окно? В отличие от вас, у него нет глаз, за исключением тех глаз, сигналы от которых он получает и пытается истолковать, и нет воспоминаний о том, как выглядят объекты внешнего мира.)
Возможно, подумаете вы, стоящая перед мозгом задача проще, ведь, когда вы смотрите, к примеру, на утку, рисунок возбуждения – мигающие огоньки – на поверхности зрительной коры действительно принимает форму утки[27]! Это имело бы смысл, если бы мы могли предположить, что ваш мозг, как и вы сами, знает, как выглядит утка, но откуда ему это знать?
Как ваш мозг вообще может узнать хоть что-нибудь, если первым делом ему нужно “расшифровать” все сигналы? И как именно расшифровать? Перевести на турецкий? Ярлыки на турецком никак вам не помогут, если только вы не понимаете турецкий. Должен ли ваш мозг понимать язык, чтобы извлекать пользу из входящих данных? Как мы уже видели, мысль о том, что мозг наделен внутренним языком, который ему не приходится учить – ментализом, или языком мышления (Fodor 1975, 2008), – весьма привлекательна. Кажется, она позволяет сделать шаг в верном направлении, но, пока нет объяснения, как именно работает этот язык и как он сформировался, заявлять о его существовании – все равно что придумывать проблеме новое название, при этом ее не решая. Мы знаем, что мозг
Если гипотеза о языке мышления говорит о наличии в диспетчерской гомункула, который понимает язык (как вы, когда читаете ярлыки огоньков и кнопок внутри гигантского робота), то она просто откладывает задачу выяснить, как аппарат обучения и понимания может состоять из ничего не понимающих фрагментов. А если она не говорит о наличии гомункула, который занимается дешифровкой сообщений, то система, какой бы она ни была, вообще не слишком похожа на язык. Поскольку никто еще не объяснил в деталях, как работает такой язык мышления и как он усваивается в процессе развития и получения опыта, вероятно, лучше не обманываться и не тешить себя надеждой, что мы делаем успехи, когда на самом деле это, вероятно, не так.
Этот насос интуиции показывает нам, что ваш мозг находится в принципиально
Прежде чем достичь понимания, необходимо пройти стадию компетентности без понимания. Так устроена природа. Бактерии обладают множеством удивительных компетенций, которые им вовсе не нужно понимать; их компетенции прекрасно служат им, но сами они остаются полными невеждами. Деревья обладают компетенциями, которые дают им выгоду, но им не нужно знать зачем. Весьма компетентен и сам процесс естественного отбора – он создает структуры выдающейся оригинальности и эффективности, но ровным счетом ничего не понимает.
Понимание того рода, которым наделены мы, взрослые люди, лишь недавно появилось на эволюционной арене. В нем задействованы структуры, компетенция которых сопровождается и поддерживается минимальным полупониманием, или псевдопониманием, – тем полупониманием, что характерно для рыб и червей. Эти структуры созданы таким образом, чтобы в большинстве случаев вести себя соответствующе, хотя им нет нужды понимать, почему их поведение считается соответствующим.
Альтернативный путь, предполагающий помещение в диспетчерскую полнофункционального Понимателя, обрабатывающего все входящие и исходящие сигналы, гарантированно ведет в тупик. Почему? Потому что, если способность к пониманию необъяснима, фактически вы кладете в основу своей теории чудо-ткань, настоящую магию, а если она все же объяснима – в категориях процессов, действий и сил, которые сами не обладают способностью к пониманию, – вы проехали свой поворот и вернулись к началу с теми из нас, кто пытается объяснить, как понимание вырастает из компетентности.
IV.
Интерлюдия о компьютерах
Перерыв. Как вы, вероятно, заметили, я уже несколько раз упоминал компьютеры, а впереди разговоров о компьютерах будет еще больше. Без сомнения, компьютеры – это самые мощные инструменты мышления, которые имеются в нашем распоряжении, и не только потому, что они справляются со многими скучнейшими интеллектуальными задачами, но и потому, что многие концепции, предложенные специалистами по теории вычислительных систем, тоже можно использовать в качестве инструментов мышления. Сегодня мы все плаваем в море компьютерного жаргона – программное и аппаратное обеспечение, ширина полосы пропускания, гигагерцы, – и многие из вас, безусловно, неплохо понимают значения всех этих модных словечек. Мои студенты всякий раз понимающе кивают, когда я использую эти термины на занятиях, однако я обнаружил, что понимают они далеко не все и порой озадачивают меня, совершенно неправильно толкуя то, что я пытаюсь им объяснить. В связи с этим я хочу научить вас писать программы для простейшего компьютера в мире.
Если вы сейчас не пожалеете времени и сил, чтобы усвоить несколько базовых навыков, впоследствии ваши затраты окупятся сполна, поскольку вы гораздо лучше поймете изложенное далее. (Если же вы в компьютерах собаку съели, мой способ объяснения некоторых тонкостей может пригодиться вам в разговоре с непрофессионалами. Или просто листайте дальше.) Приводимые далее упражнения я тестировал на сотнях студентов, которые боялись компьютеров как огня, и результаты меня радовали: даже те, кто предпочитал заучить наизусть страницу телефонного справочника, только бы не решать никаких головоломок, чувствовали удовольствие и даже некоторое удовлетворение, когда этот простой до идиотизма компьютер справлялся с задачей. Выполнив упражнения, вы узнаете семь секретов силы компьютеров.
24. Семь секретов силы компьютеров
Компьютеры наделены силами, которые несколько веков назад показались бы чудесными – “настоящей магией”. При этом, хотя многие компьютерные программы невероятно сложны, все они состоят из шагов, которые в полной мере объясняются очень простыми словами. В работе компьютеров нет места чудесам. Само это отчасти обусловливает ценность компьютеров в качестве инструментов мышления, и потому возможность объяснить – в общих чертах – принцип работы компьютера весьма интересна с философской точки зрения. Никому не помешает на элементарном уровне разобраться, как компьютеры творят свою “магию”. В этой главе фокус будет разоблачен.
Для начала мы представим себе простейший компьютер –
Погодите-ка. Неужели я только что сказал, что ваш мозг – это просто гигантский компьютер? Нет, пока я такого не сказал. Я говорю, что
Споры на эту тему не утихают. Писатель Том Вулф (2000) заострил внимание на больном месте, которое провоцирует ожесточенные баталии, озаглавив свое эссе “Мне жаль, но ваша душа скончалась”. Если мы намереваемся вступить на эту опасную территорию – не тратя времени на разглагольствования и разоблачения, – нам нужны инструменты получше. Прежде чем добросовестно взяться за вопрос, таит ли и использует ли наш мозг не поддающиеся пониманию или чудесные феномены, недоступные никаким компьютерам, нам нужно понять, на что способны компьютеры и
Некоторые эксперты – не только философы, но и нейробиологи, психологи, лингвисты и даже физики – утверждают, что “компьютерная метафора” для описания работы человеческого мозга или сознания категорически неверна, а мозгу – что важнее – под силу такие вещи, на которые не способны компьютеры. Обычно, но не всегда, такая критика предполагает весьма наивное представление о том, что такое компьютер или каким он должен быть, и в итоге лишь доказывает очевидную (и не относящуюся к делу) истину, что мозг умеет делать множество вещей, которых не умеет ваш ноутбук (учитывая ограниченное количество его преобразователей и эффекторов, ничтожный объем памяти и низкую скорость работы). Если оценивать эти громкие скептические заявления о возможностях компьютеров
Блестящую идею создания регистровой машины на заре компьютерной эры предложил логик Хао Ван (1957), между прочим, студент Курта Гёделя и философ. Это изящный инструмент мышления, который вам стоит иметь в своем наборе. Он далеко не так известен, как должен бы[28]. Регистровая машина – это идеализированный, воображаемый компьютер (который вполне можно сконструировать), состоящий из некоторого (конечного) числа
Инструкция “декремент” работает точно так же, как инструкция “инкремент”, но между ними есть одно принципиально важное различие: что делать, если в регистре
Теперь снабдим все возможности регистровой машины короткими названиями:
На первый взгляд может показаться, что такая простая машина не способна ни на что особенно интересное, ведь она умеет лишь
Начнем с простого сложения. Допустим, вы хотите, чтобы регистровая машина прибавила содержимое одного регистра (скажем, регистра 1) к содержимому другого регистра (регистра 2). Таким образом, если в регистре 1 содержится [3], а в регистре 2 содержится [4], мы хотим, чтобы в итоге программа сделала так, чтобы содержимое регистра 2 стало равняться [7], потому что 3 + 4 = 7. Вот программа, которая справится с этой задачей, написанная на простом языке РПА (регистровое программирование на ассемблере):
Первые две инструкции образуют простой