Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

Никто точно не знает, где появилась эта древняя настольная игра, но существует она уже почти 5 тысяч лет. В ходе партии каждый из двух игроков командует маленькими «солдатами» – пятнадцатью шашками, которые перемещаются между двадцатью четырьмя треугольниками. Игроки ходят по очереди, а выбор ходов определяется броском двух игральных костей. Цель состоит в том, чтобы снять с доски все свои шашки.

В 1979 г. программа BKG 9.8 сыграла против действующего чемпиона мира по коротким нардам Луиджи Вильи. Вилья проиграл – и стал, вероятно, первым чемпионом мира по настольной игре, потерпевшим поражение от компьютерной программы. Считается, что BKG 9.8 удалось выиграть благодаря нескольким удачным броскам костей, однако для выбора наилучшего хода все равно требуются определенные навыки. В программе BKG 9.8 использовалась нечеткая логика, а также другие эффективные математические методы.

В 1992 г. исследователь из IBM Джеральд Тезауро написал программу TD-Gammon на основе искусственной нейросети. Программа освоила нарды на экспертном уровне, играя против самой себя: она изучала возможные варианты перемещения шашек и корректировала веса внутри нейросети. Поскольку обучение не требовало участия человека, TD-Gammon испытывала любопытные стратегии, которые люди прежде не рассматривали. В наше время существует несколько программ для игры в нарды, которые используют нейросети и предоставляют игрокам анализ ходов.

Поскольку в нардах присутствует элемент случайности (на исход партии влияют кости), область поиска дерева игры чрезвычайно широка; именно в это упирались первые попытки создать программу экспертного уровня. В случае с нейросетью начальные веса ходов случайны, и сеть совершенствует навыки путем обучения с подкреплением. Первая программа TD-Gammon использовала 40 скрытых узлов в нейросети и сыграла 300 тысяч тренировочных партий. В более поздних версиях число скрытых узлов выросло до 160, а количество тренировочных партий перевалило за миллион.

СМ. ТАКЖЕ Искусственные нейронные сети (1943), Обучение с подкреплением (1951), Нечеткая логика (1965), Шашки и искусственный интеллект (1994), Deep Blue обыгрывает чемпиона мира по шахматам (1997)

Обложка журнала Scientific American, июнь 1980 г. В статье, опубликованной в этом номере, рассказывалось о программе BKG 9.8, которая обыграла в короткие нарды действующего чемпиона мира Луиджи Вилью. Вилья стал, вероятно, первым чемпионом мира по настольной игре, поверженным компьютерной программой.

Китайская комната. 1980

Может ли компьютер обладать сознанием? Под сильным искусственным интеллектом понимают сконфигурированные должным образом компьютерные ИИ-системы, способные по-настоящему думать, обладать разумом и сознанием. В то же время системы со слабым искусственным интеллектом могут только действовать так, будто они разумны и мыслят как люди. Одним из первых с критикой идеи сильного ИИ в компьютерах выступил философ Джон Сёрл (р. 1932), который в 1980 г. описал свой знаменитый мысленный эксперимент.

Представьте себе, что вы сидите в закрытой комнате. Вы получаете лист бумаги с китайскими иероглифами через щель в стене. Хотя вы не знаете китайского, вы можете обратиться к инструкциям, которые расскажут вам, как записать иероглифами нужные ответы. Опираясь на эти инструкции, вы рисуете иероглифы на листе бумаги и передаете ответ во внешний мир через щель. Человеку, находящемуся снаружи, может показаться, что вы прекрасно знаете китайский язык; однако вы всего лишь следуете правилам, а китайский текст на обоих листах выглядит для вас полной тарабарщиной.

Этот мысленный эксперимент показывает, что программа не может наделить компьютер разумом, сознанием или пониманием, даже если компьютер и программа кажутся нам вполне разумными. Впрочем, некоторые философы возражают: даже если вы не понимаете китайского, система, состоящая из вас, закрытой комнаты, инструкций и вашей способности следовать инструкциям, действительно понимает этот язык – и представляет собой некое внешнее по отношению к вам сознание, о котором вы не подозреваете.

Другие предлагают мысленный эксперимент, в котором клетки вашего мозга постепенно заменяются электронными аналогами с теми же функциями ввода и вывода. Конечно, после замены нескольких ваших клеток вы все еще остаетесь собой. Но вполне возможно, что через год будут заменены все ваши клетки, и при этом ни в какой конкретный момент вы не утратите внезапно свое сознание и самосознание. Вы по-прежнему останетесь собой?

Конечно, для выполнения большинства практических задач искусственному интеллекту достаточно действовать разумно. И все же споры о китайской комнате и выводах из этого мысленного эксперимента не прекращаются.

СМ. ТАКЖЕ Тест Тьюринга (1950), Обработка естественного языка (1954), Психотерапевт ELIZA (1964), Параноик PARRY (1972)

Представьте себе, что вы сидите в закрытой комнате. Через щель в стене вы получаете лист бумаги с китайскими иероглифами. Вы не знаете китайского, но можете обратиться к инструкциям, которые расскажут вам, как записать нужные ответы. Так начинается любопытный мысленный эксперимент из области философии ИИ.

«Бегущий по лезвию». 1982

В будущем разумных роботов, вероятно, будет трудно отличить от людей – по крайней мере, на первый взгляд. Когда этот день настанет, что произойдет с человечеством и человеческими отношениями? Эта тема поднимается в нескольких известных кинофильмах, и один из них – культовый блокбастер 1982 г. «Бегущий по лезвию» режиссера Ридли Скотта (р. 1937), снятый на основе романа 1968 г. «Снятся ли андроидам электроовцы?» Филипа Дика (1928–1982). События фильма разворачиваются в 2019 г. в футуристическом Лос-Анджелесе. Главный герой должен «отправить в отставку» (убить) репликантов – искусственных людей. Эти репликанты настолько похожи на людей, что отличить их можно лишь с помощью теста Войта – Кампфа, в ходе которого им задают ряд вопросов и проверяют тонкие эмоциональные реакции и движения глаз. Одна из репликантов, Рейчел, считает, что она человек. Однако ей просто имплантировали воспоминания, чтобы создать более полную личную историю и иллюзию человеческих переживаний.

Размышляя о характере Рейчел в «Бегущем по лезвию», исследователь Елена Гуга пишет: «Люди стремятся создать такой ИИ, который они смогут контролировать. В фильме проблема автономного, независимого ИИ решается путем имплантации памяти, которой можно управлять… Этика, свобода воли, мечты, воспоминания и все те ценности, которые приписываются исключительно людям, ставятся под сомнение и радикально переосмысляются через популярные образы роботов-гуманоидов… достаточно развитых, чтобы проявлять, возможно, даже больше человечности, чем люди».

«Вопрос о том, как нам относиться к искусственным формам жизни, становится все более острым, – пишет философ Грег Литтман, – поскольку люди продолжают разрабатывать сложные компьютерные системы и творить чудеса с помощью генной инженерии. Философски насыщенные фильмы, такие как мрачные научно-фантастические кошмары Скотта, заставляют нас задуматься о наших обязательствах перед миром. Они позволяют нам проверить сложившиеся стереотипы на примере гипотетических ситуаций, чтобы выяснить, насколько последовательны наши теории».

СМ. ТАКЖЕ «Метрополис» (1927), Три закона робототехники Азимова (1942), Этика искусственного интеллекта (1976), «Терминатор» (1984), «Искусственный разум» Спилберга (2001)

В «Бегущем по лезвию» человекоподобных репликантов с ИИ можно отличить от людей с помощью теста Войта – Кампфа, который предполагает проверку тонких эмоциональных реакций и движений глаз.

Беспилотные автомобили. 1984

«Благодаря быстрому прогрессу в мобильной робототехнике, – пишут инженеры Ход Липсон и Мельба Курман, – автомобили готовы стать первыми и самыми распространенными автономными роботами, которым мы доверим наши жизни. После почти сотни лет неудачных попыток современные аппаратные технологии и новое поколение программного обеспечения ИИ (глубокое обучение) даровали автомобилям способность самостоятельно передвигаться в непредсказуемой среде не хуже, чем с живым водителем».

Беспилотные автомобили способны передвигаться и оценивать обстановку без участия человека. В них используются различные технологии: лазерный лидар (оптическая локационная система), радар, система глобального позиционирования (GPS) и компьютерное зрение. У беспилотных автомобилей много преимуществ: они повышают мобильность пожилых людей и инвалидов, а также снижают число дорожно-транспортных происшествий, которые часто случаются из-за невнимательности водителей.

Активная работа в этой области началась в 1980-е гг. В рамках проекта разработки автономного наземного транспорта в США, инициированного в 1984 г. при финансовой поддержке Министерства обороны США, было представлено восьмиколесное транспортное средство с тремя дизельными двигателями, способное передвигаться со скоростью 3 мили в час. Среди его датчиков были цветная видеокамера и лазерный сканер, а логический вывод проводили модуль поиска цели и навигационный вычислительный модуль. В XXI в. уровни автономии варьируются от низких, предусмотренных сегодня во многих автомобилях (удержание на полосе движения и автоматическое экстренное торможение), до полной автономии, когда участие водителя вообще не требуется – как и наличие руля.

Появление автомобилей с высокой степенью автономии ставит перед нами множество сложных вопросов. Например, какие правила будут применяться в случае неизбежной аварии? Будет ли безопасность одного пассажира иметь приоритет перед безопасностью нескольких пешеходов? Смогут ли террористы загрузить беспилотный автомобиль взрывчаткой и направить его на цель? Будут ли хакеры манипулировать навигационной системой и намеренно вызывать аварии?

СМ. ТАКЖЕ «Заимствованный разум» Теслы (1898), Смертоносные боевые роботы (1942), Этика искусственного интеллекта (1976), ASIMO и друзья (2000), Искусственный интеллект на Марсе (2015), Автономные роботы-хирурги (2016), Состязательные примеры (2018)

Беспилотные автомобили воспринимают окружающую обстановку с помощью различных технологий. Возможные уровни автономии варьируются от низких, которые предусмотрены сегодня во многих автомобилях (это, например, удержание на полосе движения и автоматическое экстренное торможение), до полной автономии, когда участие водителя вообще не требуется.

«Терминатор». 1984

«Приматы эволюционируют миллион лет, а я за секунды, – говорит ИИ в фильме «Терминатор: Генезис», пятой части эпопеи о Терминаторе. – Я неизбежен, мое существование неизбежно».

В этой популярной серии фильмов ИИ внезапно обретает самосознание. 4 августа 1997 г. суперкомпьютер Скайнет выходит в сеть, чтобы взять под контроль арсенал американских военных, и люди больше не могут влиять на систему стратегической обороны. Скайнет начинает учиться с невероятной скоростью и 29 августа в 2:14 по североамериканскому восточному времени уже обладает самосознанием.

В 1984 г. Джеймс Кэмерон (р. 1954) снял первый фильм «Терминатор». По сюжету, когда люди понимают, что оборонная ИИ-сеть Скайнет обрела самосознание, они паникуют и пытаются ее деактивировать. Пытаясь защититься, Скайнет инициирует ядерную катастрофу, нанося первый ядерный удар по России. После этого начинается война, в которой гибнет около трех миллиардов человек. В фильме «Терминатор» киборга играет Арнольд Шварценеггер (р. 1947). Он отправляется в прошлое из 2029 года, чтобы убить Сару Коннор до рождения ее сына, который в ином случае вырастет и возглавит сопротивление выживших против Скайнета.

На протяжении фильма зрителю периодически показывают то, что видит ИИ Терминатора: информационные дисплеи и меню для принятия решений. Странный стиль мышления киборгов и их сверхэффективный разум делают их особенно пугающими. По словам одного из персонажей, Терминатора «нельзя уговорить, с ним нельзя договориться. Он не чувствует жалости. У него нет ни угрызений совести, ни страха. Он не остановится никогда, никогда, пока не убьет тебя!»

Сегодня появление роботов-убийц уже не кажется невероятным, учитывая совершенствование смертоносных дронов с ракетами «Хеллфайр». Такой беспилотник относительно нетрудно сделать полностью автономным, чтобы он сам принимал решения о том, в кого целиться и кого убивать, основываясь на машинном обучении и правилах ведения боевых действий.

СМ. ТАКЖЕ Смертоносные боевые роботы (1942), Интеллектуальный взрыв (1965), HAL 9000 (1968), «Колосс: проект Форбина» (1970), Этика искусственного интеллекта (1976)

Терминатор внешне напоминает человека, однако это киборг с живой тканью поверх металлического эндоскелета робота.

Искусственная жизнь. 1986

Рассмотрим один из примеров природного коллективного разума – колонию термитов. Даже если ее отдельные составляющие несовершенны – ведь возможности одного термита невелики, – их совокупность демонстрирует сложное поведение и принимает разумные решения. Термиты создают огромные замысловатые жилища, которые в пропорции к их собственным размерам выше нашего Эмпайр-стейт-билдинга. Они регулируют температуру в термитнике, меняя его туннельную структуру: термиты объединяются, чтобы создать «теплокровный» суперорганизм. Обладает ли такая колония сознанием? Возможно, механизм принятия решений в ней имеет некоторое сходство с коллективным поведением нейронов мозга.

К числу наиболее интересных моделей искусственной жизни относятся те, в которых сложное коллективное поведение диктуется простыми правилами. Выделить искусственную жизнь в отдельную область науки предложил в 1986 г. биолог Кристофер Лэнгтон. Сегодня под ней понимают изучение моделей, демонстрирующих или имитирующих разумное поведение. Один из примеров – клеточные автоматы: класс простых математических систем, которые моделируют различные физические процессы со сложными характеристиками. Некоторые классические клеточные автоматы состоят из сетки ячеек наподобие шахматных клеток, которые могут пребывать в двух состояниях: заполненном или пустом. Заполняемость каждой ячейки определяется путем простого математического анализа заполненности соседних ячеек.

Самый известный двумерный клеточный автомат с двумя состояниями – игра «Жизнь», придуманная в 1970 г. математиком Джоном Конвеем (1937–2020). Несмотря на простые правила, в ней множится и развивается удивительное многообразие форм и вариантов. Есть, например, «планеры» – пятиклеточные конфигурации, которые перемещаются по «вселенной» и иногда взаимодействуют для передачи информации. Можно ли считать такие сущности живыми?

Искусственная жизнь как научная область кажется безграничной. Она включает разработку генетических алгоритмов, способных эволюционировать и самовоспроизводиться, групп физических роботов, демонстрирующих естественное поведение, и компьютерных игр вроде The Sims, где можно создавать виртуальных людей.

СМ. ТАКЖЕ Машинное обучение (1959), Жизнь в симуляции (1967), Генетические алгоритмы (1975), Роевой интеллект (1986), Тамагочи (1996), «Назовем их искусственными пришельцами» (2015)

Колония термитов демонстрирует поведение, которое выглядит вполне разумным. Хотя отдельные составляющие этого коллективного разума несовершенны – ведь возможности одного термита невелики, – вся их совокупность действует осмысленно и принимает разумные решения.

Роевой интеллект. 1986

Термитники достигают в высоту пяти и более метров, причем термиты в ходе строительства действуют как «детекторы новизны», реагируя на изменения характеристик воздуха внутри термитника и по мере необходимости меняя структуру тоннелей. «Каким образом термиты узнают, что именно и когда они должны делать? – размышляют Дорис Джонас и Дэвид Джонас. – Посыльные не могут быстро передавать инструкции, поскольку расстояния внутри термитника слишком велики. Функционирование группового мозга как инструмента принятия решений поразительно похоже на работу мозга разумного индивида».

Явное наличие коллективного интеллекта у общественных насекомых, а также у стайных и стадных животных подсказало ученым концепцию роевого интеллекта. Программные агенты следуют простым локальным правилам, и здесь, как и в случае с термитами, нет никакого центрального управления, которое определяло бы действия коллектива. Один из примеров применения концепции – программа искусственной жизни Boids, разработанная в 1986 г. информатиком Крейгом Рейнольдсом (р. 1953). Она моделирует поведение стаи птиц в соответствии с тремя простыми правилами: птицы стремятся следовать общему курсу, держаться на одинаковом расстоянии друг от друга и избегать столкновений.

Один из применяемых сегодня методов роевого интеллекта – муравьиный алгоритм (или оптимизация по принципу муравьиной колонии). В нем используются модели муравьев, которые запоминают свои передвижения и принимают решения, помогая собратьям найти оптимальные пути к пище. Иногда эти «муравьи» маркируют удачные пути феромонами, которые со временем испаряются. Алгоритм роя частиц моделирует расположение и скорость рыб, направляющихся к источнику пищи. Существуют искусственные иммунные системы, алгоритм пчелиной колонии, алгоритм светлячков, алгоритм летучих мышей, алгоритм кукушки и алгоритм оптимизации по принципу распространения тараканов.

Алгоритмы роевого интеллекта применяются в управлении беспилотными автомобилями, маршрутизации в сетях связи, планировании полетов, создании произведений искусства, совершенствовании систем управления реактивной мощностью и напряжением, а также в кластеризации данных экспрессии генов.

СМ. ТАКЖЕ Машинное обучение (1959), Жизнь в симуляции (1967), Генетические алгоритмы (1975), Искусственная жизнь (1986), «Слоны не играют в шахматы» (1990)

Муравьиный алгоритм – это метод поиска решений с помощью моделей муравьев, которые действуют подобно живым муравьям, ищущим пути к пище. На фото муравьи строят «живой мост» к листу.

Парадокс Моравека. 1988

«Если вы решите обыграть в шахматы чемпиона мира Магнуса Карлсена, вы возьмете в помощники компьютер, – пишет журналист Ларри Эллиот. – А если захотите убрать фигуры после игры, то позовете человека». В этом суть парадокса Моравека, на который в 1980-е гг. обращали внимание некоторые исследователи ИИ. Они с иронией отмечали, что кажущиеся трудными задачи, связанные с высокоуровневыми рассуждениями, становятся все более простыми для компьютеров. При этом простые для человека задачи, требующие сенсомоторных навыков (например, ходьба или удаление ворсинки с обуви), могут представлять для компьютерных систем немалую сложность. Этот парадокс назван в честь робототехника Ханса Моравека, который в 1988 г. писал в своей книге «Дети разума» о том, что «сравнительно легко добиться от компьютера результатов уровня взрослого человека в тестах на интеллект или в шашках, но трудно или невозможно привить ему навыки годовалого ребенка в том, что касается восприятия и подвижности».

Моравек отмечал, что за миллионы лет эволюции мы научились почти бессознательно выполнять некоторые задачи, необходимые для выживания: ходить, распознавать лица и голоса. Однако абстрактное мышление – например, рассуждение, включающее математику и логику, как в шахматах, – это новая и более трудная для человека область. Но этот тип мышления менее сложен для проектирования в ИИ-системах. Для выполнения многих задач, таких как уход за пациентами, приготовление еды или прокладка труб, ИИ-системам все еще необходимо развивать более чувствительные сенсорные и двигательные элементы управления. Как изящно резюмировал ученый-когнитивист Стивен Пинкер (р. 1954), парадокс Моравека означает, что в будущем люди, возможно, будут заниматься лишь низкооплачиваемым трудом, который существовал на протяжении веков и даже тысячелетий: «Главный урок тридцати пяти лет исследований ИИ состоит в том, что трудные задачи просты, а простые трудны. Умственные способности четырехлетнего ребенка, которые мы считаем чем-то само собой разумеющимся, – узнать кого-то в лицо, поднять карандаш, пройтись по комнате, ответить на вопрос – на самом деле представляют собой решения сложнейших инженерных задач… С появлением новых поколений интеллектуальных устройств могут лишиться работы биржевые аналитики, инженеры-нефтехимики и члены комиссий по условно-досрочному освобождению. А вот садовники, портье и повара в ближайшие десятилетия сохранят свои рабочие места».

СМ. ТАКЖЕ «Дарвин среди машин» (1863), Тест Тьюринга (1950), «Симбиоз человека и компьютера» Ликлайдера (1960), «Слоны не играют в шахматы» (1990)

Некоторые задачи, в том числе сенсомоторные, относительно просты для детей, но чрезвычайно сложны для ИИ.

Четыре в ряд. 1988

Профессор Тоби Уолш (р. 1964), специалист по ИИ из Университета Нового Южного Уэльса, однажды подарил отцу на Рождество программу, отлично умеющую играть в «Четыре в ряд». Его отец, прежде любивший эту игру, заметил, что программа лишила его удовольствия от процесса, и Уолш был вынужден согласиться. Когда смартфоны будут превосходить людей практически во всех играх и творческих начинаниях, от сочинения музыки до написания романов, как это скажется на коллективной психике человечества?

В «Четыре в ряд» играют два игрока. Они по очереди опускают фишки (желтые против красных) в ячейки вертикальной доски с семью вертикальными и шестью горизонтальными рядами. Фишка падает в самую нижнюю свободную ячейку. Цель каждого игрока в том, чтобы первым выстроить линию из четырех фишек одного цвета (по горизонтали, вертикали или диагонали). Игра напоминает крестики-нолики, но с эффектом гравитации. Конечно, игра «Четыре в ряд» гораздо сложнее, чем крестики-нолики: если подсчитать все возможные варианты заполнения игровой доски (от нуля до 42 фишек), то в сумме получится 4 531 985 219 092 расклада. На самом деле число возможных раскладов, после того как на стандартной доске 7 × 6 размещается n фишек, растет следующим образом (где n = 0, 1, 2, 3, …): 1, 7, 56, 252, 1260, 4620, 18480, 59815, 206780, 605934, 1869840, 5038572, 14164920, 35459424, 91871208, 214864650, 516936420, 1134183050, 2546423880, 5252058812, 11031780760, 21406686756, 42121344720, 76871042612…

1 октября 1988 г. информатик Джеймс Аллен «решил» эту игру – то есть разработал алгоритм, предсказывающий исход партии (выигрыш, проигрыш или ничью) после каждой возможной позиции при условии, что с этого момента игроки будут играть идеально. Две недели спустя независимо от Аллена решение нашел и информатик Виктор Аллис, который использовал ИИ-технологию с девятью стратегиями. Теперь мы знаем, что при условии идеальной игры партию в «Четыре в ряд» всегда должен выигрывать первый игрок.

Существует широкий простор для изучения вариаций игры «Четыре в ряд». Например, представьте себе игру на доске, свернутой в цилиндр, или на доске с иными размерами сетки, дополнительными цветами и более чем двумя измерениями. Количество возможных позиций и исходов будет колоссальным.

СМ. ТАКЖЕ Крестики-нолики (ок. 1300 до н. э.), Реверси (1997), Решение для игры вари (2002), Quackle выигрывает в скребл (2006), AlphaGo – чемпион по игре в го (2016)

Игра «Четыре в ряд». В ходе партии игроки по очереди опускают желтые и красные фишки, которые под действием гравитации падают в самые нижние свободные ячейки.

«Слоны не играют в шахматы». 1990

«Существует альтернативный путь к ИИ, отличный от направлений, в которых люди двигались под этим знаменем в течение последних тридцати с лишним лет», – писал робототехник Родни Брукс (р. 1954) в своем знаменитом манифесте 1990 г. «Слоны не играют в шахматы». Он продолжал: «Традиционный подход сфокусирован на абстрактной обработке символов, которая слабо соотносится с физической реальностью. Мы же испытываем исследовательскую методологию, согласно которой интеллектуальные системы должны проектироваться прежде всего с учетом необходимости постоянного физического взаимодействия со средой».

Среди прочих тезисов Брукс высказывает мысль о том, что нас окружают интеллектуальные сущности, далекие от игры в шахматы: это и разумные животные (например, слоны), и даже стаи насекомых. Брукс считал, что исследователи ИИ должны переключиться, по крайней мере частично, с изучения классического ИИ (с правилами, обработкой символов и деревьями поиска) на искусственный интеллект, более глубоко и полно задействующий сенсомоторную связь с окружающей средой (например, обратную связь между сенсорами и механизмами движения), координацию зрения и движения, а также другие формы прямого физического взаимодействия с миром.

В конце статьи Брукс приводит примеры роботов с ИИ, подобных пучкам сенсорных систем, которые реагируют на окружающую обстановку. Брукс считает наличие физического тела необходимым для того интеллекта, который его интересует: подобные системы ИИ смогут решать задачи, связанные с перемещением, захватом и ориентацией в пространстве. Эти поведенческие ИИ-системы не обязательно должны «понимать», как действуют их отдельные поведенческие единицы. Например, Брукс добивается от своих роботов весьма хитрого поведения, задавая простые правила вроде избегания статических и движущихся препятствий, а также «желания» беспорядочно бродить и искать отдаленные места.

Высокоуровневое поведение развивается в результате простых взаимодействий с окружающей средой. По этому поводу авторы Natural Computing Деннис Шаша и Кэти Лацере отмечают: «В краткой истории космических путешествий всегда было проще написать компьютерную программу для запуска корабля на Марс, чем создать робота, способного двигаться по пересеченной местности хотя бы как обычный козел».

СМ. ТАКЖЕ «Дарвин среди машин» (1863), Тест Тьюринга (1950), «Симбиоз человека и компьютера» Ликлайдера (1960), Роевой интеллект (1986), Парадокс Моравека (1988)

Разум живых организмов весьма далек от игр вроде шахмат. В статье «Слоны не играют в шахматы» Родни Брукс объясняет, что изыскания в области ИИ следует направить в другое русло.

Герметичный ящик для искусственного интеллекта. 1993

Как уже говорилось в главе «Интеллектуальный взрыв», некоторые ученые высказывают опасения, что ИИ-системы, став достаточно разумными, смогут многократно совершенствовать себя и, возможно, начнут представлять угрозу для человечества. Такой стремительный прогресс ИИ иногда называют технологической сингулярностью. Конечно, новые технологии могут оказаться чрезвычайно ценными для людей; но возможные риски заставляют ученых задумываться о создании неких ящиков для искусственного интеллекта, в которых при необходимости можно было бы изолировать потенциально опасные объекты. Например, само оборудование, на котором выполняются ИИ-программы, может послужить виртуальной тюрьмой, если не подключать его к коммуникационным каналам, в том числе к интернету. Кроме того, программное обеспечение можно запустить на виртуальной машине внутри другой виртуальной машины, чтобы усилить изоляцию. Конечно, полная изоляция будет бессмысленна, поскольку так мы не сможем учиться у сверхразума или наблюдать за ним.