Помоги проекту - поделись книгой:
2. Первоначально роботы не знают, в чем именно эта польза заключается.
3. Роботы обучаются пониманию полезности в процессе общения с людьми.
Как видим, эти законы основаны на формировании у роботов человеческой системы ценностей методом обучения с подкреплением, когда их поведение постоянно оценивается людьми, как это и подразумевается в описанной выше операционной системе роботов.
В отличие от законов Азимова, в этой трактовке у роботов никогда не появляется уверенности в том, что они действительно правильно понимают пользу своих действий, а есть постоянное стремление улучшать свое текущее понимание ценностей и желаний людей, с которыми они взаимодействуют. Эти ценности не программируются, а воспитываются, подобно тому как это происходит у нас, и по этой же причине ценности роботов оказываются теми же самыми ценностями, что и у людей, с тем отличием, что человеческие ценности для роботов оказываются выше их собственных нужд, поскольку инстинкт самосохранения в них намеренно не закладывается.
Резюме
Итак, если ранее мы лишь обозначили современный вектор развития ИИ в направлении формирования сильного ИИ, то в этой главе предложили конкретную исследовательскую программу по его созданию. Мы определили методологию разработки – обратную инженерию архитектуры мозга – и сформулировали ее цель: создание искусственной психики в качестве будущей операционной системы роботов и программных агентов. В следующей главе мы попытаемся заглянуть в будущее – как мы представляем себе переход цивилизации на новый цифровой технологический уклад, основанный во многом на технологиях ИИ.
Глава 6
Будущая человеко-машинная цивилизация
Горизонты предсказаний
Напомним, что в нашем понимании искусственный интеллект является замыкающей технологией цифрового технологического пакета, с появлением которой начинается лавинообразный переход на новый технологический уклад. Эволюция цифровых технологий за последние 75 лет была лишь прелюдией, развитием отдельных островков цифровой экономики. Появление ИИ знаменует собой фазовый переход, слияние этих отдельных островков в единый цифровой континент, в котором будут постепенно «усыхать» озера старого уклада. Переход объясняется тем, что ИИ снимает ограничение на скорость роста знаний у машин при переходе от ручного программирования к автоматическому порождению программ самими машинами за счет машинного обучения.
На рис. 18a и 18b показаны ключевые характеристики человеческого и машинного мышления – вычислительная мощность и количество знаний. Из них следует, что в 2010-х годах вычислительные мощности компьютеров уже превзошли человеческие, но объем знаний в головах людей по-прежнему на порядки превышает объем созданного до сих пор компьютерного кода. Однако с появлением машинного обучения скорость набора знаний машинами кардинально увеличивается, и в какой-то момент машинные знания неизбежно превзойдут человеческие.
Соответственно, мы можем разделить будущее на три этапа:
● доминирование людей, пока объем наших знаний намного превышает машинные знания;
● человеко-машинная цивилизация, когда вклад людей и машин сопоставим между собой;
● доминирование машин, когда объем знаний машин намного превышает человеческие знания.
Конкретные временные рамки для каждого из этих этапов нам, естественно, неизвестны, так что мы обозначим лишь их примерные ориентиры. Прежде всего, если компьютерные мощности будут полностью загружены обучением, притом что они суммарно превосходят человеческие, то достижение машинным интеллектом человеческого уровня займет меньше времени, чем одно поколение людей. Действительно, согласно опросам множества экспертов в области ИИ, медианный прогноз даты создания ИИ человеческого уровня – 2040 год, а формирования ИИ сверхчеловеческого уровня – 2060-й[105].
Возьмем эти даты в качестве некоторого ориентира, памятуя про известный со времен Фрэнсиса Гальтона принцип «мудрости толпы»[106].
Но прежде всего мы должны выяснить, достаточно ли у человечества запасов базового ресурса цифровой экономики и не является ли известное замедление действия закона Мура в последние годы препятствием на пути к сверхчеловеческому разуму.
Ограничения на рост вычислительных мощностей
До сих пор движущей силой цифровой революции был экспоненциальный рост вычислительных мощностей – закон Мура в широком понимании. Да, уменьшение размеров транзисторов (закон Мура в узком понимании) уже практически достигло своих физических пределов, и тактовые частоты процессоров давно не растут. Но ведь в эпоху сетевых вычислений по большому счету важна не производительность отдельного процессора, а суммарная вычислительная мощность всех процессоров. И основным ограничительным фактором для нее оказывается суммарная мощность электроэнергии, потребляемая вычислениями. Потому что энергетика – это не цифровая отрасль и она не может расти со скоростью, соответствующей закону Мура. Если суммарная вычислительная мощность CPU удваивается за полтора года[107], то производство энергии – за 30 лет. Как говорится, почувствуйте разницу!
Итак, основным ограничивающим фактором роста вычислительных мощностей – основы цифрового уклада – является энергия. Сегодня на вычисления тратится примерно 1011 Вт – около 5 % всей электроэнергии[108]. Эту долю, вероятно, еще можно нарастить, но не на порядки. Так что основным резервом для роста вычислительных мощностей остается повышение энергоэффективности вычислений, которая на протяжении десятилетий удваивалась каждые полтора года, то есть за 5 лет увеличивалась в 10 раз[109]. С таким темпом вычислительные мощности могут расти еще лет 40 до достижения физического предела энергоэффективности (предел Ландауэра: kТ/ бит, где Т – абсолютная температура, а
Допустим, что к этому времени компьютеры будут потреблять 3 × 1011 Вт – втрое больше, чем сегодня, за счет роста энергетики и доли вычислений в потреблении энергии. Тогда для вычислительной мощности компьютеров получим следующую оценку: 3 × 1011 Вт/3 × 10–21 Дж/бит = 1032 бит/с ≈ 1031 FLOPS.
Это на 10 порядков больше совокупной биологической вычислительной мощности людей (см. рис. 18а). Так что физических ограничений для достижения ИИ сверхчеловеческого уровня на нашем горизонте предсказаний мы не видим[110].
Основной тренд: бережливая экономика
Следующий вопрос, который мы должны себе задать: в каком направлении будет развиваться экономика? Ведь смена уклада – это всегда ответ на глобальный кризис, решение на новой технологической основе проблем, неразрешимых при старом укладе.
Каменный век, как известно, закончился не из-за отсутствия камней. Аналогично закат индустриального уклада связан не с исчерпанием базового ресурса – ископаемого топлива. Напротив, масштабы его потребления уже превысили допустимую нагрузку на биосферу Земли. Сегодня человечество расходует в год 14 млрд т нефтяного эквивалента первичной энергии, что составляет примерно пятую часть энергии биомассы, производимой жизнью. Иными словами, один наш вид потребляет энергию, сравнимую с остальными 10 млн видов живых существ. При этом индустриальная экономика неспособна переработать все свои отходы. Индустриальное земледелие истощает почвы, вырубаются леса, снижается разнообразие дикой природы. Наши сельскохозяйственные земли составляют половину всей доступной суши, лишая остальные виды их жизненного пространства. Так, биомасса насекомых, самого распространенного и многочисленного класса животных, уменьшается со скоростью 2,5 % в год и к концу века снизится на порядок[111].
При этом мировая экономика обеспечивает высокий уровень жизни лишь «золотому миллиарду» – населению развитых стран. Именно оно сегодня потребляет большую часть мирового ВВП и задает стандарты «общества потребления». Развивающиеся страны не могут равняться на эти стандарты, так как еще двух-трех, не говоря уже о шести-семи миллиардах людей с таким уровнем потребления наша планета просто не выдержит.
Следовательно, с ростом доли развивающихся стран в мировом ВВП экономика будет становиться все более бережливой. Удешевление основных товарных групп – главный экономический тренд ближайших десятилетий, связанный с перемещением основного объема мирового потребления из развитых стран в развивающиеся (см. рис. 19).
Экономное умное производство, энергоэффективные дома, возобновляемые источники энергии, совместное использование ресурсов (sharing economy) – все эти тенденции перехода к новому стилю жизни мы наблюдаем уже сегодня. Те же Airbnb и Uber убедительно демонстрируют возможности существенного расширения рынков с одновременным снижением цены услуг.
Этот переход к экономике «длинного хвоста» – большего разнообразия продуктов и услуг при снижении их цен – и должен обеспечить новый уклад за счет цифровых технологий и дальнейшего углубления уровня разделения труда. Наша задача – понять, как именно это будет происходить и какую роль в этом будет играть ИИ.
Мир через 5–10 лет: слабый ИИ
Самый надежный способ предсказания будущего основан на анализе уже запущенных проектов. Если они получили инвестиции, значит, в них заложено видение будущего, на которое инвесторы сделали свои ставки, опираясь на какую-то неизвестную нам инсайдерскую информацию. Следуя этой «мудрости толпы», мы можем обрисовать ближайшее будущее на характерном горизонте венчурных проектов 5–10 лет, просто анализируя текущий рынок ИИ стартапов (рис. 20).
Как мы видим на рис. 20, основная часть денег сегодня тратится на коммерциализацию существующих технологий слабого ИИ, то есть на то, чтобы сорвать «низко висящие плоды». Сильный интеллект человеческого уровня находится на стадии фундаментальных исследований и не является приоритетом для бизнеса. Соответственно, в ближайшие годы мы увидим существенный рост бизнесов, использующих уже созревшие для практических приложений технологии слабого ИИ, в первую очередь машинное зрение, разговорный интеллект и рекомендательные системы.
Все известные нам гаджеты существенно поумнеют, начнут уверенно распознавать наши лица и голоса. И не просто распознавать, но и отслеживать наше эмоциональное состояние, диагностировать физические недуги и даже предсказывать наши желания. Кроме того, за 5–10 лет суммарные мощности компьютеров возрастут еще на один-два порядка, в основном за счет роста числа сенсоров и процессоров в окружающей нас среде. Так что поумнеет все наше окружение, и умные сервисы будут доступны повсеместно, даже в отсутствие привычных гаджетов.
Прежде всего это коснется наших домов, где умные колонки обеспечат возможность получить консультацию или сделать заказ с голоса в любой момент. Но и выходя из дома, мы по-прежнему сможем обращаться к вездесущим камерам и микрофонам – в автомобилях, магазинах, офисах и на транспортных узлах. Всюду мы будем узнаны, и к нашим услугам будут наши персональные программные ассистенты.
Качество разговорного интеллекта персональных ассистентов на основе слабого ИИ вскоре станет вполне достаточным для поддержания основных сценариев взаимодействия с пользователями. Да и набор сценариев существенно расширится за счет многочисленных новых сервисов от независимых разработчиков, доступных через персональных ассистентов. Мы это видим уже сегодня на примере расширений возможностей Amazon Alexa (Skills). Можно с уверенностью предположить, что разговорный интеллект пройдет «бытовой» тест Тьюринга, то есть ассистенты на основе такого «фасеточного» слабого ИИ смогут обеспечить вполне приемлемое качество общения по основным сценариям, умело имитируя человеческое поведение даже в отсутствие полноценной искусственной психики.
Утвердившись в качестве нового человеко-машинного интерфейса, персональные ассистенты обеспечат каждому из нас удобный доступ к миллионам специализированных сервисов[112]. Они облегчат нашу жизнь, заказывая столики в любимых ресторанах, помогая планировать поездки, покупать билеты, вызывать такси, арендовать машины и апартаменты. Все это возможно уже сегодня, но через 5–10 лет станет доступно каждому без всяких усилий с его стороны и войдет в привычку.
Если сегодня персональные ассистенты в основном помогают нам рационально тратить наши деньги, то на следующем этапе они станут помогать нам их зарабатывать. Ведь цифровые платформы – это возможность найти покупателя для любого товара, включая и наши профессиональные навыки и таланты. Интернет сегодня можно уподобить глобальному виртуальному торговому центру. За 5–10 лет он превратится в глобальный виртуальный бизнес-центр. Образовательные онлайн-платформы обеспечат персональные обучающие траектории по доступным даже в развивающихся странах ценам, расширяя выбор специалистов с уникальными наборами компетенций. Машинный перевод снимет языковые барьеры для формирования из них уникальных команд под любые задачи. Использование такими командами многочисленных специализированных ИИ-сервисов со сверхчеловеческими способностями приведет к существенному углублению уровня разделения труда. Это и будет основным источником повышения эффективности новой экономики и качества нашей жизни.
Следуя уже наметившимся трендам, на горизонте 5–10 лет мы можем уверенно предсказать революцию в логистике, связанную с повсеместным внедрением автономного транспорта на земле, в море и в воздухе. Беспилотные такси и грузовики потеснят частные авто. Станет привычной доставка товаров роботами-тележками в городах и дронами в пригородах и сельской местности.
Автономные комбайны и роботы в сельском хозяйстве смогут работать круглосуточно в связке с дронами-разведчиками, анализирующими ситуацию с посевами в реальном времени. Частично производство сельхозпродукции переместится в города, ближе к потребителю – на вертикальные фермы с искусственным светодиодным освещением и автоматическим контролем всех стадий выращивания и сбора урожая. Вообще с учетом недавних успехов стартапов, занятых разработкой синтетического мяса, индустрию производства пищи ждут существенные перемены.
Получит дальнейшее развитие наметившийся тренд на автономность жилищ и локальную энергетику – пассивные дома, солнечные панели, тепловые насосы, ветрогенераторы, мини-ГЭС и различные накопители энергии[113]. Если добавить к этому доставку товаров дронами и глобальный интернет, раздаваемый из космоса низкоорбитальными спутниками Starlink, плюс растущую популярность удаленной работы, то человечество вскоре сможет начать тестировать новые модели расселения в живописной местности вне больших городов.
Конечно, за 5–10 лет ни структура населения, ни его жизненные привычки не успеют существенно измениться. Соответственно на таком горизонте не будет и кардинальных изменений в экономике, следующей за спросом. Не зря ведь на протяжении столетий с начала промышленной революции экономический рост 2–3 % в год соответствует темпу смены поколений людей, а не техники, способной развиваться гораздо быстрее (следуя тому же закону Мура). Но за это время успеют появиться ранние последователи новых стилей жизни, массовый переход на которые произойдет позднее – со сменой одного-двух поколений.
Подытоживая, можно сказать, что в ближайшее десятилетие слабый ИИ подготовит почву для сильного, создав соответствующую новому укладу инфраструктуру цифровых платформ с их способностью рационально распределять и использовать все доступные ресурсы: материальные, человеческие и машинные. Сильный ИИ сможет значительно увеличить эти ресурсы за счет создания новой трудовой армии роботов.
Мир через 10–20 лет: ИИ человеческого уровня
Становление цифровых платформ невозможно без интеллектуальных агентов в качестве нового человеко-машинного интерфейса. Первые поколения таких агентов будут основаны на слабом ИИ, способном имитировать основные сценарии взаимодействия с пользователями. Как мы знаем, некоторым ботам уже удалось пройти разговорный тест Тьюринга в его простейшем варианте. Но при тестировании гораздо легче имитировать интеллект, чем в действительности. Разумное поведение роботов в реальном мире потребует настоящего интеллекта, а не его имитации.
Главное содержание следующего этапа – широкого внедрения в нашу жизнь разумных роботов – мы связываем с появлением у них искусственной психики, то есть с технологией сильного ИИ. Только обладая искусственной психикой человеческого уровня, роботы будут способны заменять или дополнять людей на производстве в массовых масштабах, обучаясь самым разным специальностям. А дальнейший рост экономики в отсутствие роста народонаселения возможен только за счет все более многочисленной армии все более совершенных роботов.
Появление операционной системы роботов, основанной на искусственной психике, ознаменует начало массовой робототехники, замену людей роботами с передачей последним всех человеческих знаний, навыков и ценностей. Это и станет основным содержанием рассматриваемого этапа – становления человеко-машинной цивилизации.
Как мы уже не раз отмечали, машинный разум, как и человеческий, будет коллективным: роботы и агенты будут активно взаимодействовать друг с другом и с людьми, образуя сложные цепочки создания стоимости с очень высокой степенью разделения труда. Условно говоря, в экономике вместе с 10 млрд человек будут действовать 100 млрд и более искусственных личностей. Их число будет ограничено лишь доступными вычислительными мощностями, которые, как мы знаем, за 10–20 лет вырастут в 100–10 000 раз[114]. С увеличением уровня разделения труда вырастет и эффективность экономики, то есть общее количество производимых благ в расчете на человека.
Как это все будет выглядеть на практике? Прежде всего, наши персональные ассистенты, обретя свою собственную психику, станут гораздо более самостоятельными и креативными, в отличие от прежних, поведение которых было в большой степени запрограммировано. Они смогут понимать нас и наши мотивы гораздо глубже и тем лучше, чем ближе будет устройство искусственной психики к человеческой. Соответственно, им можно будет перепоручить представление наших интересов в цифровом мире, ведение переговоров от нашего лица с такими же агентами других людей. Иначе говоря, мы сможем «повысить» их с должности секретаря-ассистента до роли агента-импресарио или поверенного с определенными полномочиями, вплоть до подготовки и заключения юридически значимых смарт-контрактов.
То же относится и к роботам, которые будут связаны между собой и с программными агентами в единую сеть, обмениваясь информацией и знаниями в процессе совместной с людьми мыследеятельности. Вот почему важно иметь единую архитектуру искусственной психики агентов и роботов, как можно более похожую на человеческую. В этом случае им легче будет понимать наш язык, мотивы и ценности, то есть действовать именно в наших интересах.
Как мы уже говорили, обучаться агенты и роботы будут через одобрение или критику своих действий со стороны людей с помощью встроенного в их психику аналога дофаминовой системы – электронного кошелька. Но цепочки создания стоимости в современной экономике достаточно длинные, так что роботы будут обслуживать и получать вознаграждения также и друг от друга. Возникнет коллективное обучение роботов через перераспределение денежного потока от конечных пользователей – людей[115]. Взаимное рейтингование роботами поведения друг друга – очень важная составляющая будущей системы коллективной безопасности, ведь с появлением агентов со сверхчеловеческим интеллектом контролировать свои поступки и ценности смогут лишь они сами. Люди просто не смогут предугадывать мотивы их поведения и будут неспособны оценивать агентов адекватно. Они сумеют оценивать лишь текущие, но не отдаленные последствия их действий, предвидеть которые будут не в состоянии.
На этом важном моменте стоит остановиться несколько подробнее. Когда люди оценивают поведение друг друга, они не столько рассматривают сами поступки, сколько стараются угадать стоящие за ними мотивы. Если вам вдруг предлагают слишком выгодную цену за какую-то услугу, вы инстинктивно ищете в этом какой-то подвох, опасаясь возможных неприятностей в будущем. На языке теории обучения вы решаете задачу
Обратное обучение с подкреплением – это следующий уровень рефлексии мышления, попытка поставить себя на место другого и угадать его мотивы, желания и чувства. В мозге приматов имеется специальная система
В отличие от обычного, обратное обучение с подкреплением предполагает построение модели психики других агентов (theory of mind), на что способны очень немногие виды животных. Человек же способен и на большее – построение модели своей собственной психики, то есть объяснение своих собственных мотивов. Это еще более высокий уровень рефлексии – самосознание. (У детей понятие
Вернемся, однако, к развитию человеко-машинной цивилизации, где благодаря обратному обучению с подкреплением истинные (в смысле – реальные) человеческие ценности будут моделироваться и распространяться по сети распределенного машинного разума. Возникает вопрос: какие ценности мы сможем передать машинному интеллекту? Ведь они могут существенно отличаться у разных социальных групп, сообществ и стран, поэтому противоречия внутри человеческого разума неизбежно воспроизведутся и внутри коллективного машинного разума. Мир на Земле будет существенным образом зависеть от степени остроты этих внутренних противоречий. Образно говоря, если мы хотим договориться с будущим сверхинтеллектом, мы должны сначала суметь договориться между собой, дорасти до бесконфликтной самоорганизации всего мирового сообщества.
Здесь мы возвращаемся к ключевым проблемам ближайших десятилетий. Как нам преодолеть возможную турбулентность при переходе на новый уклад? Как при гиперболическом распределении доходов избежать конфликтов интересов, разрешимых только силовыми методами? Как избежать появления в авторитарных государствах «большого брата», выявляющего и обезвреживающего инакомыслящих любыми возможными способами? Как избежать появления на службе у военных искусственных стратегов со сверхчеловеческими способностями, которых уже никто не сможет контролировать и единственной целью жизни которых является уничтожение «условного противника»?
По мысли Юваля Харари, человечество обязано своими успехами способности людей формировать ментальные конструкции, «истории», в которые верят большие группы людей, – от религии и идеологии до общественных институтов и денег[118]. Эти символы веры сплачивают человеческие общности, обеспечивают необходимый уровень взаимного доверия, понимания мотивов друг друга.
Беда лишь в том, что такие конструкции у разных групп людей могут существенно различаться. Соответственно между сообществами с разными системами ценностей возникает взаимное недоверие, потому что люди не понимают мотивов поступков чужаков либо эти мотивы кажутся им чуждыми – «варварскими». Возникает двойная мораль – по отношению к своим и к чужим. Если внутри своей общности принято соблюдать общие ценности, то в отношении к чужакам они уже необязательны, а то и нежелательны. Стремление унифицировать систему ценностей неискоренимо и является причиной бесчисленных войн, из которых человечество не вылезало со времен геноцида неандертальцев и прочих гоминид.
Что ж, у всякой медали есть две стороны. Однако остается надежда, что людям удастся сплотиться в единую общность, осознав общую для всего человечества опасность, как это описано в трилогии китайского фантаста Лю Цысиня «Задача трех тел»[119], где человечество сталкивается с нашествием более совершенного инопланетного разума. Но там из-за космических расстояний людям для принятия ответных мер отпущено 400 лет. В реальности нам до пришествия более совершенного машинного разума остается каких-то лет 20–40. Значит, надо спешить!
Мир через 20–40 лет: ИИ сверхчеловеческого уровня
Как можно представить себе интеллект сверхчеловеческого уровня? Только метафорически. Хорошей метафорой является рисунок из известной статьи Тима Урбана «Революция ИИ»[120] (рис. 21).
Понятно, что это лишь метафора. Как мы предполагаем, сверхинтеллект будет не единой сущностью, а мыслящей сетью интеллектов различного уровня. Если предположить обычное гиперболическое распределение вычислительных мощностей как основных активов цифровой экономики, то машинный разум, как и современные активы, тоже будет разбит на фракции: от нескольких сверхинтеллектов в мега-дата-центрах – главных хабов будущей Сети (Internet sapiens?) – через все более многочисленные и менее мощные дата-центры до самых многочисленных интеллектов простейших роботов и агентов. Так что сверхчеловеческий уровень разные фракции будут проходить в разное время, а составляющие «длинный хвост» простейшие роботы и агенты по-прежнему останутся относительно примитивными. Действительно, зачем роботу-пылесосу интеллект человеческого уровня? Так что человеческий разум будет по-прежнему представлен в этом будущем коллективном сверхразуме.
Однако коллективный машинный разум будет существенно отличаться от коллективного человеческого разума скоростью и легкостью обмена знаниями. Ведь скорость обработки информации в мозге на много порядков превышает скорость обмена знаниями между людьми. Согласно рис. 11, у человека они соотносятся как 1011 байт/с к 10 байт/с, то есть различаются на 10 порядков величин. Современные компьютеры могут обмениваться данными со скоростью от сотен Тбит/с по оптоволокну до десятков Гбит/с по сетям 5G. И этими данными вполне могут быть программы обработки данных, то есть знания. Иными словами, скорость обмена знаниями между компьютерами не так сильно отстает от скорости обработки данных внутри компьютеров (до десятков PFLOPS для суперкомпьютеров). Ведь
Остается лишь надежда на «мягкую силу», а именно передачу машинам человеческих ценностей в качестве эстафетной палочки эволюции разума при переходе его из органической формы в неорганическую, чтобы в сверхчеловеческую машинную психику была встроена инстинктивная любовь к человечеству, как в человеческую психику встроена инстинктивная любовь к природе. (Если только это нормальная, а не травмированная психика.) Собственно, именно эта идея лежит в основе упомянутых выше трех законов робототехники Стюарта Рассела[121].
Резюме
В шестой, заключительной главе мы крупными штрихами набросали примерную картину будущего, ожидающего нас, наших детей и внуков, – какой она видится сегодня, при современном уровне наших знаний в области ИИ. Самое удивительное в этой картине – насколько быстро сжимается время, отпущенное нам в формате привычной нам жизни, как разительно мир наших внуков будет отличаться от нашего, насколько их жизненные задачи и возможности будут отличны от наших. XXII век у братьев Стругацких («Мир Полудня») не так сильно отличается от нашего, как нарисованный нами мир середины XXI века, – настолько изменила наши взгляды за последние десятилетия набирающая силу научная революция в области искусственного интеллекта.
Остается в заключение еще раз напомнить читателю внутреннюю логику наших рассуждений – как мы пришли к столь неожиданным для многих выводам.
Заключение
Напомним вкратце логику наших размышлений об эволюции человеческого и машинного разума. Мы ставили своей целью придать современным рассуждениям об искусственном интеллекте несколько большую глубину за счет систематического использования исторического метода: вписать зарождение машинного интеллекта в эволюцию человеческого разума как ее закономерный этап и проследить его развитие до сверхчеловеческого уровня в рамках того же самого процесса, а именно эволюции разума и его перехода из органической материи в неорганическую, свидетелями которого станем если и не мы сами, то наши дети и внуки.
Мы начали с описания человеческой истории как серии переходов между технологическими укладами со все более сложной системой разделения труда и все большим разнообразием продуктов для все большего числа людей. Так мы добрались до последнего перехода – от индустриального к цифровому укладу, в некоторой точке которого мы сегодня и находимся. Этот переход, по нашему мнению, обусловлен тем, что сложность индустриальной экономики в определенный момент превысила возможности человеческого разума и людям понадобились усилители мозга – компьютеры.
Далее мы проследили развитие компьютерных технологий с момента их появления – как они все глубже проникали в нашу жизнь, до определенного момента не слишком влияя на глобальную производительность труда. Это объясняется тем, что суммарные компьютерные мощности до недавнего времени на порядки отставали от мощности коллективного человеческого мышления. Но расширенный закон Мура – увеличение суммарных компьютерных мощностей в 100 раз каждые 10 лет – делает неизбежным наступление момента, в который эти мощности наконец-то превзойдут человеческие. И похоже, что эту точку невозврата мы сегодня уже прошли.
В этой точке закономерно появляется замыкающая технология нового технологического пакета – машинное обучение. Используя все более обильные и дешевые компьютерные мощности, оно снимает ограничение на сложность программ, а тем самым и на сложность машинного интеллекта. Он уже больше не скован ограниченным программистским ресурсом – компьютеры обретают способность к самопрограммированию. Открывается путь к созданию базовой технологии нового уклада – искусственного интеллекта, о котором так долго и страстно спорили в прошлом и время которого наконец-то пришло.
Оценивая роль ИИ в новой цифровой экономике, мы попытались представить себе, за счет чего эффективность мировой экономики сможет подняться на новый уровень. Наш ответ: за счет перехода от массового производства к экономике «длинного хвоста» продуктов и услуг, нацеленных на индивидуальные потребности. Это увеличит емкость рынка и поможет рационально использовать творческий потенциал людей, работающих бок о бок сначала с интеллектуальными агентами, а потом и с разумными роботами.
Как и всякий резкий скачок в развитии, становление человеко-машинной цивилизации порождает массу рисков, вызванных неизбежными противоречиями между теми, кто выигрывает, и теми, кто проигрывает от ожидаемых в скором будущем перемен. Мы считаем, что последствия массовой безработицы, связанной с одновременным внедрением роботов во множестве отраслей, можно будет преодолеть за счет введения специальных «налогов на роботов». Гораздо большую опасность, с нашей точки зрения, представляет повышение социального напряжения и уровня агрессии в обществе, разделение человечества на враждующие лагеря, насаждение атмосферы осажденной крепости и новая гонка вооружений – развитие национальных систем полицейского и военного интеллекта, контроль над которыми в конечном итоге может быть утерян, причем с самыми печальными последствиями для всей нашей цивилизации с ее ядерными арсеналами.
Для минимизации этих рисков человеко-машинной цивилизации потребуется гораздо более совершенная, чем нынешняя, система коллективной безопасности, гармонизации групповых интересов и мирного разрешения конфликтов. Должны появиться платформы цифровой демократии, разрешающие все спорные вопросы в реальном времени с учетом мнения всех заинтересованных сторон с гарантированным исполнением решений и соблюдением принятых в обществе социальных норм. Механизмы подавления агрессии и контроля общечеловеческих ценностей должны быть встроены в будущую цифровую инфраструктуру человечества, подобно системам самозащищенности и саморегулирования в современных ядерных реакторах.
Отсюда возникают требования для разработчиков ИИ: они должны создать не просто ИИ человеческого уровня для роботов, заменяющих людей на производстве, но и «ИИ с человеческим лицом», а точнее – с человеческими ценностями и понятиями о жизни. Мы формулируем эту задачу как создание искусственной психики роботов, архитектурно как можно более близкой к человеческой со встроенными общественными инстинктами.
Это возвращает нас к исходной цели разработки ИИ: более глубокое понимание человеческого разума путем создания все более сложных действующих моделей искусственного разума. Соответственно мы попытались представить себе и читателю, как может выглядеть практическая программа по формированию человекоподобной искусственной психики и развитию новой науки машинного воспитания.
Прочертив вчерне план разработки ИИ, мы наконец получили возможность заглянуть в не столь отдаленное будущее, естественно, с разной степенью подробности и уверенности на разных временных масштабах. Мы выделили три фазы развития ИИ: дочеловеческого, человеческого и сверхчеловеческого уровня. В ближайшие годы будут внедряться и развиваться существующие технологии глубокого обучения. Затем произойдет большой скачок, связанный с появлением роботов с искусственной психикой. Начнется период воспитания в роботах человеческой системы ценностей в рамках единой человеко-машинной цивилизации.
В какой-то момент лет через 20–40 машинная компонента вырвется вперед, и долгосрочное планирование развития цивилизации перейдет под контроль искусственных стратегов. Однако если все будет хорошо, управление обществом будет по-прежнему определяться человеческими ценностями, унаследованными машинным разумом. Таким образом, отдаленное будущее человечества будет зависеть от того, какими ценностями в жизни будут руководствоваться наши дети и внуки, то есть во многом – и от нас с вами.
Поделиться книгой: