Сергей Шумский
Воспитание машин. Новая история разума
Научный редактор
Редактор
Издатель
Руководитель проекта
Корректоры
Компьютерная верстка
Художественное оформление и макет
© Шумский С., 2021
© ООО «Альпина нон-фикшн», 2021
Предисловие научного редактора
Неизбежность сосуществования человеческого и машинного интеллекта
За несколько последних лет тема искусственного интеллекта (ИИ) приобрела особую популярность. О внедрении ИИ в практику бизнеса сообщают Amazon, Сбербанк, Tesla, РЖД и буквально сотни других компаний, крупных и небольших. Однако, как это нередко бывает, быстрый рост популярности какого-то понятия часто приводит к возникновению недоразумений, связанных с неточным (а иногда и ошибочным) его пониманием. Именно это и происходит с концепцией искусственного интеллекта. Сложные аппаратно-программные комплексы многим представляются примерами использования ИИ как новой технологии, хотя чаще всего они являются просто более сложными вариантами привычных для нас гаджетов.
Такая ситуация может породить ощущение, что ИИ – всего лишь очередной хайп, интерес к которому со временем пройдет. Но так ли это? К сожалению, многие недавно вышедшие работы об искусственном интеллекте не дают ясного ответа на этот важный вопрос. Вы найдете на него ответ в книге, которую держите в руках.
Ее автор Сергей Шумский – российский эксперт, много лет занимающийся проблемой машинного обучения и ИИ, – поставил перед собой сложную задачу. На основе анализа прогресса технологий в разные эпохи он решил показать неизбежность использования машинного интеллекта в наши дни. С поставленной задачей автор справился блестяще. Простые, но убедительные количественные оценки показывают причины перехода от одного экономического уклада к другому. Несложные расчеты, относящиеся к операциям с информацией, поясняют, почему именно сейчас исследования в области искусственного интеллекта стремительно прогрессируют.
Как специалист, занимающийся практическими разработками в сфере ИИ, автор хорошо понимает не только масштабы уже достигнутых успехов, но и сложность задач, стоящих перед учеными и разработчиками на пути к созданию так называемого сильного искусственного интеллекта. В книге анализируются подходы к решению этой амбициозной задачи, и перспективы, которые описывает автор, вызывают определенный оптимизм.
В научной и научно-популярной литературе широко обсуждаются социальные последствия распространения технологий ИИ, в особенности тех, которые могут возникнуть после создания сильного искусственного интеллекта. Многие авторы рисуют почти апокалиптическую картину порабощения людей роботами, оснащенными ИИ. В этой книге такие проблемы обсуждаются, но в гораздо более спокойной манере. По мнению автора, при правильном (проактивном, или упреждающем) подходе человечеству вполне по силам справиться с этими проблемами. Для этого, правда, людям придется напрячь собственный интеллект и сформулировать этические принципы, которыми следует руководствоваться при разработке и использовании ИИ.
Особый интерес представляют заключительные главы книги, в которых дан набросок программы создания сильного искусственного интеллекта, а также приводятся оценки сроков реализации этой программы. По мнению автора, 40 лет – реальный временной горизонт создания сверхчеловеческого машинного интеллекта, способного коренным образом изменить жизнь людей. Иными словами, у многих потенциальных читателей этой книги есть реальный шанс стать свидетелями и участниками интенсивного взаимодействия человеческого и машинного интеллекта. Чтение этой книги поможет подготовиться, психологически и ментально, к новым реалиям.
От автора
В 2019 году вышла в свет моя монография «Машинный интеллект» для специалистов в области искусственного интеллекта (ИИ). Отлично понимая, что каждая формула в книге снижает количество ее читателей вдвое, я заранее смирился с тем, что одолеть ее сможет лишь ограниченный круг профессионалов.
Между тем вопросы, связанные с пугающими темпами развития ИИ и перспективами робототехники, волнуют не только специалистов. Так или иначе это коснется каждого из нас, причем в не столь уж и отдаленном будущем. Естественно, мне хотелось поделиться современными знаниями и гипотезами о зарождающейся цивилизации машинного интеллекта и с широкой аудиторией.
К счастью, весной 2019 года я получил предложение подготовить мини-курс по технологиям цифровой экономики для Высшей школы менеджмента ВШЭ. В процессе подготовки такого мини-курса родилась и эта книга о социальных последствиях использования искусственного интеллекта. В этой связи я выражаю искреннюю признательность руководителям ВШМ ВШЭ Сергею Ростиславовичу Филоновичу и Льву Владимировичу Татарченко за моральную и материальную поддержку при подготовке рукописи.
Надеюсь, книга поможет читателям лучше разобраться в сути происходящих в современном мире перемен и наглядно представить себе, как изменится жизнь людей в ближайшие десятилетия.
Введение
Главное отличие этой книги от многих других – попытка рассмотреть искусственный интеллект в глубоком историческом контексте, не ограничиваясь историей последних десятилетий. Следуя Спинозе, мы пытаемся вписать современный момент в ту цепь событий, внутри которой он возникает с необходимостью, а не случайно. Нет лучшего способа заглянуть в будущее, чем как можно основательнее разобраться в прошлом.
Вот и мы в этой книге постараемся выяснить, каковы движущие силы развития технологий и как они определяют ход технологических революций, одну из которых мы как раз и переживаем в настоящий момент. Книга рассчитана на всех, кто интересуется будущим. При этом от читателя не требуется никаких специальных знаний. Объем книги намеренно ограничен, с тем чтобы ее можно было прочесть за пару-тройку вечеров, не теряя логическую нить рассуждений автора.
Основная мысль этой книги в том, что машинный интеллект, когда он появится, неизбежно станет частью общей человеко-машинной цивилизации и унаследует от нее наши человеческие ценности. Так что даже в будущей цивилизации машинного интеллекта, когда интеллект машин далеко превзойдет человеческий уровень, они по-прежнему смогут действовать в наших интересах, а не преследовать чуждые нам цели, как какой-то чужеродный инопланетный разум. Правда, за такой благоприятный для людей сценарий нам придется побороться – создать не просто искусственный интеллект, а
Но прежде мы должны убедить скептиков в том, что нам вообще следует заниматься этой опасной субстанцией – искусственным разумом. Не проще ли отложить на время исследования и разработки и подождать, пока человечество «созреет» для таких вопросов? Наш ответ на этот аргумент из серии «Не давайте спички детям» состоит в том, что без создания искусственного разума в ближайшие годы человечество просто не сможет обойтись. Индустриальная цивилизация достигла пределов своего развития. Обеспечить приличное существование всему населению Земли (а не только «золотому миллиарду») имеющиеся технологии не в состоянии: биосфера просто не выдержит такой нагрузки. Назревающие экономические проблемы способны разрешить только новые цифровые технологии, главным образом искусственный интеллект. Мы приведем конкретные аргументы, за счет чего и как именно ИИ сможет поднять эффективность мировой экономики.
Но так ли уж драматична на самом деле сегодняшняя экономическая ситуация? Может быть, нынешний глобальный кризис – не структурный, а циклический и все само собой перемелется? Чтобы убедить читателя в том, что мир действительно находится сегодня в одном из переломных исторических моментов, мы начнем с краткого экскурса в историю человеческой цивилизации, что может показаться странным для книги, посвященной машинному интеллекту. Однако автор считает крайне поучительным представить нынешний кризис в одном ряду с великими кризисами прошлого, чтобы убедить читателя, что любой технологический уклад в какой-то момент достигает своих пределов и соответствующий кризис можно разрешить, только перейдя на новый пакет технологий.
Вот почему в главе 1 мы начинаем издалека – с краткого введения в историю технологических укладов: от цивилизации охотников-собирателей через аграрную и промышленную революции к современному обществу, одной ногой уже шагнувшему в новый цифровой уклад. Для каждого уклада мы выведем «на кончике пера» предельное число людей, которое способен прокормить его технологический пакет, убедившись заодно и в том, что предел населения для индустриального уклада уже практически достигнут.
Технологический пакет представляет собой сумму накопленных цивилизацией знаний. Причем, как мы покажем, они увеличиваются гораздо быстрее численности населения (как квадрат количества людей). Поскольку суммарный объем человеческой памяти растет линейно с числом людей, неизбежен момент, когда сложность цивилизации превысит ограниченные возможности человеческого мозга. По мысли автора, именно такой момент мы сегодня и наблюдаем. Появление компьютеров, а затем и искусственного интеллекта есть закономерное следствие этого простого факта.
Таким образом, в главе 1 мы проследим в общих чертах логику развития человеческой цивилизации от древних людей до наших дней, обозначив базовые параметры цивилизации на каждой ступени ее развития. Мы покажем, за счет чего революция позднего палеолита увеличила в конечном итоге население Земли в 100 раз, а последующая аграрная революция – еще в 100 раз. Наконец, почему индустриальное общество не способно прокормить более 10 млрд человек, так как достигло своего
В главе 2 мы наконец доберемся до ИИ как закономерного этапа эволюции цифровой техники, созревания нового уклада в недрах предыдущего. Мы проследим, как формировался современный стек цифровых технологий и почему ИИ объективно не мог появиться вплоть до недавнего времени.
Ключом к пониманию цифровой революции является обобщенный закон Мура – рост компьютерных мощностей в 100 раз каждые 10 лет. До 2010-х годов суммарные компьютерные мощности были еще пренебрежимо малы по сравнению с вычислительными возможностями человеческого мышления. Этим объясняется известный парадокс, что до сих пор экспоненциальное развитие вычислительной техники практически не сказывалось на темпах роста производительности труда в большинстве отраслей экономики.
Однако за последние 10 лет ситуация качественно изменилась. Мы покажем, что сегодня совокупная вычислительная мощность компьютеров уже превосходит таковую у людей и представляет собой тот единственный обильный и дешевый ресурс, за счет которого можно повысить эффективность мировой экономики. Но для этого необходимо научить компьютеры делать человеческую работу лучше и дешевле людей: ни много ни мало создать искусственный интеллект. Таким образом, ИИ является
Так называемая революция глубокого обучения 2010-х является ответом на этот вызов. Сегодня мы наблюдаем появление первых несовершенных пока версий
В главе 3 мы обратимся к экономике цифрового уклада. За счет чего она будет в разы эффективнее индустриальной? Почему в ней станет производиться больше благ с меньшими затратами? Какие формы организации бизнеса придут на смену транснациональным компаниям индустриального уклада?
Ключевым понятием здесь будет экономика «длинного хвоста» – существенное расширение рынка товаров и услуг при переходе от массового к персональному потреблению и производству. Торжество такой экономики мы наблюдаем воочию, по мере того как YouTube отбирает аудиторию у телевидения, а Amazon – покупателей у традиционных магазинов одновременно с ростом рынка мобильных приложений на платформах Apple, Microsoft и Google. Эти цифровые платформы и являются новыми ячейками будущей цифровой экономики. Именно они предъявляют сегодня основной спрос на технологии искусственного интеллекта и служат драйверами его развития – от слабого к сильному ИИ.
Но прежде чем обратиться к перспективам развития ИИ, в главе 4 мы обсудим социальные проблемы и риски, порожденные резкой сменой технологического уклада, ведь скорость его развития определяют не только те, кто за него, но и те, кто против. Анализ рисков позволит нам сформулировать «техническое задание» на создание безопасного ИИ, необходимого для выживания нашей цивилизации. Мы последовательно рассмотрим проблемы, связанные с грядущей массовой безработицей, нарастанием социальной напряженности и опасностью большой войны по инициативе искусственных стратегов, а также вопрос о том, останемся ли мы хозяевами своей судьбы, когда искусственный разум наконец превзойдет человеческий. Все эти риски вполне реальны, и проблемы, которые нам предстоит разрешить, нетривиальные. Они не сводятся к чисто техническим решениям, а подразумевают активное участие граждан в создании согласованной концепции общественной безопасности, разработку и внедрение национальных платформ цифровой демократии.
С технической точки зрения дружественность искусственного интеллекта должна быть встроена в операционную систему роботов, как были встроены в них «три закона робототехники» Айзека Азимова. А в дополнение к правильным «социальным инстинктам» будущей искусственной психики должны быть созданы и механизмы взаимного контроля всех членов социума, включая агентов и роботов, подобно тому как технология блокчейн автоматически обеспечивает взаимный контроль транзакций в сети. Цивилизация машинного интеллекта обязана иметь систему встроенной коллективной безопасности по аналогии с новейшими ядерными реакторами, в которые безопасность встроена на физическом уровне.
После того как мы разобрали, кому и зачем нужен сильный ИИ, а также каким требованиям он должен удовлетворять, чтобы улучшить, а не ухудшить нашу жизнь, переходим к конкретным планам по его разработке. А именно: в главе 5 мы представим замысел создания искусственной психики роботов «по образу и подобию» человеческой, с тем чтобы их интеллект был по своей архитектуре как можно ближе к нашему. Мы определим методологию разработки сильного ИИ – обратную инженерию архитектуры мозга – и сформулируем ее цель: создание искусственной психики в качестве будущей операционной системы роботов. В довершение покажем, как может выглядеть цифровая платформа массовой робототехники со встроенной системой коллективной безопасности.
Наконец, в главе 6 мы сможем заглянуть в будущее с разной степенью уверенности на разных временны́х горизонтах, начиная с ближайших 5–10 до 20–40 лет – предполагаемого времени появления ИИ сверхчеловеческого уровня. Самое удивительное в этой картине – как разительно будет отличаться от современности мир наших детей и внуков. Но именно такое ускорение исторического времени вызывает разворачивающаяся на наших глазах революция в области искусственного интеллекта.
Глава 1
Технологические уклады и технологические революции
Понятие технологических укладов
Наше изложение мы начнем с определения
Технологические уклады стабильны и способны воспроизводить себя в течение длительного времени, ведь технологии зависят друг от друга, образуя в каждый момент целостный
Смена технологических укладов происходит скачками, потому что новые технологии созревают в недрах старого уклада «тайком», в относительно небольших нишах, в которых они поодиночке не способны реализовать весь свой потенциал. Такая возможность у них появится лишь тогда, когда они смогут образовать новый целостный технологический пакет, более жизнеспособный, чем существующий. Такая ситуация возникает лишь с появлением
Технологические революции, как правило, сопровождаются социальными, так как смена материальных основ жизни общества не может не сказаться на его социальной надстройке – образе жизни людей и регулирующих человеческие отношения общественных институтах (общепринятых нормах поведения, убеждениях и организациях)[1].
Технологии играют определяющую роль в жизни людей потому, что в совокупности позволяют осваивать необходимые для нее ресурсы, например энергетические. Какой-то из них обычно становится
Итак, резюмируем сказанное. Технологический уклад складывается из трех компонент:
● дешевого и обильного базового ресурса, обеспечивающего долгосрочное развитие;
● технологического пакета, позволяющего эффективно эксплуатировать базовый ресурс;
● организации жизни людей, способной поддерживать данный технологический пакет.
Далее в этой главе мы напомним читателям краткую историю смены технологических укладов на протяжении всей истории человечества. При этом мы сосредоточимся именно на эволюции технологий – материальной основы нашей цивилизации, чтобы вписать современную цифровую революцию в этот исторический процесс.
Экономисты обычно ассоциируют уклады с длинными циклами Кондратьева[2], начиная их отсчет с первой промышленной революции[3]. Мы же здесь стремимся охватить весь период человеческой цивилизации, поскольку считаем вслед за Тоффлером[4], что нынешняя революция по масштабу сопоставима с наиболее крупными переменами в истории человечества.
Энергетические потребности человека
Для количественных оценок энерговооруженности цивилизации, от которой зависит наше благосостояние, полезно знать опорные цифры.
Среднему человеку, ведущему активный образ жизни, требуется около 3000 ккал в день[5]. Мы потребляем их с пищей в виде белков, жиров и углеводов с различной энергетической ценностью. Наиболее богаты энергией жиры (9500 ккал/кг), затем следуют углеводы (3500 ккал/кг) и белки (2400 ккал/кг). Без последних тем не менее не обойтись, так как именно они являются основным строительным материалом наших тел и именно белковые молекулярные машины обеспечивают извлечение из поступающего топлива полезной свободной энергии, питающей силу наших мускулов. Усредненный КПД нашей биологической «тепловой машины» – 10–15 %, остальные 90–85 % выделяются в виде тепла (см. рис. 1).
Примерно те же соотношения справедливы и для животных, которые на протяжении большей части нашей истории поставляли нам энергию для производства и транспорта (быки и лошади). В частности, лошадь примерно на порядок мощнее человека (735 Вт против 60 Вт механической энергии). По традиции мощность машин до сих пор измеряется в лошадиных силах[6]. Так, мощность типового современного автомобиля среднего класса составляет около 120 л. с. В США на человека приходится 0,8 машины, или порядка 100 лошадей, при том что на протяжении веков люди довольствовались 0,2 лошади на человека[7] – настолько различны энергетические мощности современной и аграрной цивилизаций.
Этим мы обязаны переходу на ископаемое органическое топливо, энергетические характеристики которого сравнимы с компонентами нашей пищи[8], но объемы их потребления на порядки больше: более 10 т условного топлива против 0,3 т условной пищи на человека в год (в США).
Однако раннюю историю человечества отделяют от современности несколько крупных технологических революций, к рассмотрению которых мы и переходим.
Охота и собирательство
● Базовый ресурс: дикая природа.
● Технологический пакет: огонь, каменные, деревянные и костяные орудия, язык.
● Организация жизни: охота, собирательство, родоплеменной строй.
Древние люди доисторической эпохи использовали ресурсы дикой природы – жили охотой и собирательством. К какому-то моменту (около 70 000 лет назад) вид
Какая технология играла роль замыкающей, чье появление дало старт безудержной экспансии
По всей видимости, такой замыкающей технологией стало появление языка – одного из последствий увеличения объема мозга. Дело в том, что язык занимает определенное место в нашем мозгу, в частности языковые зоны Брока и Вернике в неокортексе. В меньшем по объему мозге других приматов этого места может просто не найтись, хотя наш мозг и имеет единую для всех приматов архитектуру[11]. Это именно тот случай, когда размер имеет критическое значение.
Размер мозга приматов ограничивает размер их стай, поскольку приматы, как социальные животные, должны запоминать отношения всех членов стаи между собой, а объем этих знаний растет квадратично с увеличением ее размера. Так что чем больше мозг, тем больше и мощнее стая[12]. Древние люди, охотясь коллективно, выигрывали от роста размера своих сообществ, что оказывало эволюционное давление на увеличение их мозга. В какой-то момент, по-видимому примерно 70 000 лет назад, размер мозга
Язык и тесно связанное с ним мышление позволили людям организовываться в гораздо более крупные и сплоченные общности, скрепленные общей мифологией, противостоять которым более примитивные ветви рода Homo были не в состоянии. Язык, безусловно, является важнейшим изобретением человечества, необходимым условием для передачи и накопления знаний из поколения в поколение. Все остальные изобретения, от дротиков и лука до торговли и разделения труда, являются следствием появления языка и коллективного разума человечества – культуры. Поэтому революцию верхнего палеолита автор нашумевшей книги «Sapiens. Краткая история человечества» Юваль Ной Харари назвал
Главным наблюдаемым последствием этой технологической революции стало существенное увеличение количества людей по сравнению с типичной численностью популяций других крупных гоминид (порядка 105 особей). Мощность новорожденной человеческой цивилизации довольно быстро (за несколько десятков тысяч лет) выросла на порядки, при том что количество колонистов – выходцев из Африки, согласно оценкам генетиков, не превышало нескольких сотен человек.
Мы можем оценить предельную численность цивилизации охотников-собирателей следующим образом. Хищнику нашего размера нужна для пропитания площадь порядка 10 км2. Следовательно, предельная плотность населения охотников-собирателей не превышает 0,1 чел./км2. Умножая эту плотность на общую площадь доступной суши, получим предельное количество людей на планете к моменту ее окончательного заселения (около 15 000 лет назад, после заселения обеих Америк через Берингию) – 10 млн человек (см. рис. 3).
Это на два порядка превышает численность африканской популяции древних людей, прародителей современного человечества. Окончательное заселение всей поверхности Земли благодаря верхнепалеолитическим охотничьим технологиям привело к первому в человеческой истории экологическому кризису – вымиранию большинства крупных животных вследствие нашествия
После освоения человеком всех более или менее пригодных для жизни уголков планеты ресурсы такого экстенсивного развития были исчерпаны. Возникли предпосылки для освоения нового базового ресурса на основе нового технологического пакета.
Аграрный уклад
● Базовый ресурс: плодородная почва речных пойм и побережья рек.
● Технологический пакет: одомашнивание растений и животных, ремесла, судоходство, письменность.
● Организация жизни: сельские поселения и города, государство и право.
Выход из вышеупомянутого кризиса был найден около 10 000–12 000 лет назад в ходе так называемой
Как всегда, его технологии появлялись в недрах старого уклада постепенно. Загоны, служившие для охоты, использовались в том числе для временного содержания пойманных животных, а затем и для их разведения. Собирательство дополнялось посевами диких культур вблизи от стойбищ и постепенным увеличением их урожайности вследствие искусственного отбора. Зависимость урожаев от плодородия почв притягивала людей в поймы больших рек, где посадки в илистые отложения после разливов не требовали больших трудозатрат и снижали риски неурожаев. В таких местах и зарождались первые великие цивилизации древности – в Египте, Междуречье, Индии, Китае, Центральной и Южной Америке.
То, что таких мест было несколько, лишний раз свидетельствует о глобальности палеолитического кризиса перенаселения. Сельское хозяйство в поймах и по берегам больших рек могло прокормить существенно больше людей, чем охота и собирательство по всей Земле. В этом легко убедиться, сделав соответствующие оценки (рис. 4).
Животноводство способно приносить порядка 100 кг белковой пищи в год с одного гектара. При полностью мясной диете оно может прокормить 0,2 чел./га – в 200 раз больше, чем охота. Молочная диета еще выгоднее и способна прокормить впятеро больше людей – 1 чел./га, поэтому буренок в деревнях берегут как зеницу ока.
Земледелие способно обеспечить еще большую плотность населения; даже при скромной урожайности зерновых 10 ц/га это составляет 2 чел./га. Несколько неожиданно, но масличные культуры (например, оливковые деревья) могут прокормить примерно столько же человек, если считать только по калориям.