Помоги проекту - поделись книгой:
У трех названных задач – справедливого распределения благ, управления внешними эффектами и гарантии гуманистического будущего – вряд ли есть простые решения по принципу «сверху вниз», через законодательное регулирование и благонамеренные правительственные инициативы. Сегодняшнее сочетание международных и государственных учреждений, рыночных структур, организованных и спонтанных социальных движений и стимулов вряд ли приведет к тому, что новые мощные технологии станут широкодоступными, безвредными и полностью ориентированными на интересы потребителей. Мир все еще борется со множеством проблем, связанных с предыдущими тремя промышленными революциями: средние зарплаты в развитых странах остановились или даже падают; развивающиеся страны все еще пытаются перевести экономический рост в широкомасштабное повышение уровня жизни, и все же каждый десятый живет в крайней нищете{8}. Перефразируя Мадлен Олбрайт (Madeleine Albright), мы пробуем понять технологии XXI века и управлять ими с помощью образа мыслей XX века и набора государственных институтов XIX века. Очевидно, что для решения новых задач необходимы институциональные преобразования. Необходима и адаптация образа мыслей к вызовам XXI века.
И история предыдущих промышленных революций, и динамика технологий Четвертой указывают на четыре принципа, крайне важных для формирования нового образа мыслей:
1. Системы, а не технологии. Велик соблазн сосредоточить все внимание на самих технологиях, но на самом деле важнее всего системы, обеспечивающие благосостояние людей. При наличии политической воли, инвестиций и совместной работы всех заинтересованных групп технологии могут создать условия для построения новых систем, которые будут лучше выполнять свои задачи. Без этого новые технологии могут усугубить недостатки существующих систем.
2. Расширять возможности, а не ограничивать их. Велик соблазн думать, что технологический прогресс невозможно контролировать или направлять и что нам неподвластны технологии, способные влиять на поведение людей. Системы на основе новых технологий должны предоставить людям больше выбора, перспектив, свободы и контроля над собственной жизнью. Это особенно важно, поскольку некоторые из новых технологий способны принимать решения и действовать без управления людьми, а также влиять на наше поведение как явными, так и скрытыми способами.
3. По замыслу, а не по умолчанию. Велик соблазн отвергнуть любые попытки влиять на социальные и политические системы, считая это бесполезным проявлением тщеславия, а сами системы слишком сложными. Но мы не должны мириться с существующими системами. Конструктивное мышление, особенно с применением техники и философии гуманистического подхода, а также системное мышление помогут нам понять структуры, управляющие нашим миром, и придумать, как новые технологии могут перевести их в новые конфигурации.
4. Ценности как достоинство, а не недостаток. Велик соблазн рассматривать технологии как простые инструменты, которые могут быть использованы для добрых или злых целей, а сами по себе нейтральны. Но в реальности все технологии несут в себе определенные ценности, которые встраиваются в них с самого появления начальной идеи и зависят от того, как проходит разработка и внедрение. Нам следует признавать этот принцип и обсуждать эти ценности на всех стадиях инновационного процесса, а не только тогда, когда вред от новых технологий становится заметен. Третья глава подробно рассматривает роль ценностей, а также определяет, какие из них принесут наибольшую пользу в контексте Четвертой промышленной революции.
Эти четыре принципа сформировались в результате сотен бесед и интервью с учеными, предпринимателями, лидерами гражданского общества, политиками, топ-менеджерами компаний и представителями СМИ. Вместе они составляют основу для оценки, обсуждения и контроля технологий, которые уже воздействуют на нас сегодня и будут менять мир в будущем.
Ваша роль в развитии Четвертой промышленной революции
Перечисленные принципы необходимы, потому что социальные, законодательные, технические и корпоративные нормы и стандарты, определяющие пути развития Четвертой промышленной революции, обсуждаются и формулируются именно сейчас, во всех странах, будь то Руанда, Швейцария или Китай. Доказательства существования трех описанных выше проблем – несправедливости, негативных внешних последствий и ограничения возможностей – уже проявляются в разных формах, от предвзятости алгоритмов до сдвигов на рынках труда, в результате которых работники лишаются социальной защиты.
Многие технологии, несущие преобразования, пока только начинают выходить из лабораторий, гаражей и научно-исследовательских отделов по всему миру, а необходимые для их регулирования законы еще только пишутся и дорабатываются. Поэтому именно сейчас активные граждане и лидеры из всех отраслей имеют возможность повлиять на развитие систем Четвертой промышленной революции. Если у нас получится, мы сможем обеспечить благополучие более широких слоев населения, ослабить неравенство и восстановить доверие, нехватка которого создает политическую напряженность и раскол в обществе. Четвертая промышленная революция может породить системы, способные сделать общество более благополучным, увеличить продолжительность жизни, поднять уровень экономической и физической безопасности, открыть новые возможности для полезной и интересной деятельности в устойчивой экологической среде.
В первую очередь необходимо составить полную картину и понять суть технологий, закладывающих фундамент Четвертой промышленной революции. Об этом мы расскажем в следующей главе.
Четвертая промышленная революция представляет собой новый этап в развитии человечества. Ее фундамент – три предыдущие промышленные революции, а движущая сила – растущая доступность новейших технологий. Эта революция только начинается, поэтому человечество может – и обязано – не только разрабатывать новые технологии, но и создавать более гибкие формы управления и позитивные ценности, которые изменят то, как мы живем, работаем и общаемся.
Новые технологии могут дать огромные преимущества экономике и обществу. Но опыт предыдущих промышленных революций показывает, что полностью воспользоваться их потенциалом можно только при условии решения трех важнейших задач. Чтобы прийти к процветающему будущему, мы должны:
1. Гарантировать, что блага Четвертой промышленной революции распределятся справедливо.
2. Контролировать риски и негативные последствия Четвертой промышленной революции.
3. Гарантировать, что Четвертая промышленная революция будет происходить в интересах и под контролем человека.
Как и прежде, руководителям придется справляться с неопределенностью, вызванной стремительным технологическим прогрессом, но гораздо важнее сформировать образ мыслей, учитывающий эффекты системного уровня и влияние на отдельных людей, при этом ориентированный на будущее и гармонирующий с общими ценностями всех заинтересованных групп.
Поэтому теперь, говоря о влиянии технологий, мы должны учитывать четыре важных принципа:
1. Системы, а не технологии.
2. Расширять возможности, а не ограничивать их.
3. По замыслу, а не по умолчанию.
4. Ценности как достоинство, а не недостаток.
Положения, нормы и структуры для новых мощных перспективных технологий уже разрабатываются и внедряются по всему миру. Время действовать уже наступило: наш гражданский долг – совместно работать, уверенно направляя развитие Четвертой промышленной революции.
Глава 2
Составляем полную картину
Чтобы оценить влияние передовых технологий Четвертой промышленной революции и научиться направлять их в позитивное русло, надо принять стратегию, которую Джон Хагел
Если лидеры сосредоточатся на «системах, а не технологиях», рассматривать технологические изменения Четвертой промышленной революции будет легче. Но сможем ли мы глубоко осознать, как технологии преобразуют важные для нас производственные, правительственные и общественные системы, не пытаясь проникнуть в суть этих технологий? С такой задачей сталкиваются многие из нас, и ее можно решить с помощью двустороннего подхода. Одна его сторона – узнать о каждой технологии столько, чтобы получить «минимальный уровень понимания» и найти для нее место в общей картине. Это облегчает обоснованные дискуссии с экспертами, проверку идей и поиск возможностей для создания ценностей. Часть 2 этой книги дает читателю именно такой уровень понимания 12 технологий, движущих Четвертую промышленную революцию.
Настоящая глава использует вторую сторону этого подхода. Мы постараемся составить полную картину и оценить динамику Четвертой промышленной революции, рассматривая общие тенденции и связи между новейшими технологиями. Это позволит понять их взаимодействие и совокупное влияние на наш мир. Он так быстро меняется, что нам особенно необходимы общие, фундаментальные знания, ведь актуальность сегодняшних технологических прорывов будет теряться при дальнейшем развитии и в будущих сферах применения. Эта глава посвящена только общим аспектам технологий Четвертой промышленной революции. Отложив рассмотрение деталей конкретных технологий, мы разберемся, что́ их объединяет и как они сочетаются, оказывая на нас комплексное влияние. Уменьшая масштаб и составляя полную картину, мы увидим, что эти новейшие технологии основываются на цифровых системах и расширяют их, быстро масштабируются благодаря цифровой совместимости, проникают в материальные объекты, включая нас самих, комбинируются неожиданными и иногда вредными способами, создавая как преимущества, так и проблемы.
Рисунок 3. Время, потребовавшееся технологиям и приложениям для приобретения 100 млн пользователей
Источники: Boston Consulting Group ITU; Statista; BCG research; mobilephonehistory.co.uk; Scientific American, Internet Live Stats; iTunes; Fortune; OS X Daily; VentureBeat; Wired; Digital Quarterly; TechCrunch; AppMtr.com
Самый понятный и очевидный аспект технологий Четвертой промышленной революции заключается в том, что они очень существенно расширяют и преобразуют цифровые системы. Технологии Четвертой промышленной революции связаны друг с другом тем, что все они основаны на цифровых технологиях и сетях, созданных во время Третьей промышленной революции. Те, в свою очередь, разработаны на основе электрических сетей, созданных при Второй промышленной революции. Ни одна из обсуждаемых здесь технологий не могла бы существовать без достижений в разработке методов обработки, хранения и передачи информации, изменивших мир за последние 60 лет. Из этого можно было бы сделать вывод, что все новые технологии – это просто продолжение цифровой революции. Но есть принципиальное отличие: технологии Четвертой промышленной революции способны разрушить даже сегодняшние цифровые системы и создать совершенно новые источники ценностей. Те цифровые технологические прорывы, которые с трудом воспринимаются сегодняшними предприятиями, превратятся в базовую инфраструктуру, которая в завтрашних бизнес-моделях будет приниматься как должное.
Сейчас мы понимаем, что к Интернету нельзя относиться просто как к способу применения электрических сетей. Несмотря на то что Интернет основан на передаче электрических сигналов, он стал совершенно новой экосистемой создания ценностей, которую невозможно было бы представить, оставаясь в рамках мышления Второй промышленной революции.
Рисунок 4. Слияния и поглощения компаний, занимающихся разработками в области искусственного интеллекта по состоянию на март 2017 г.
Источник: CB Insights (2017)
И точно так же вряд ли можно будет говорить об алгоритмах, обучающихся на неструктурированных данных, просто как о применении цифровых вычислительных мощностей. Четвертая промышленная революция породит такие экосистемы создания ценностей, которые невозможно представить, оставаясь в рамках мышления Третьей промышленной революции, и заставит нас смотреть далеко за пределы нынешних цифровых потрясений, в новые горизонты проблем и возможностей.
Второй аспект технологий Четвертой промышленной революции заключается в том, что они будут распространяться с экспоненциально растущей скоростью. Чем быстрее распространяется новая технология, тем острее перед нами стоит задача адаптации к ее деструктивным воздействиям. Технологии Четвертой промышленной революции проникнут в нашу жизнь гораздо быстрее, чем технологии предыдущих революций, потому что будут распространяться по цифровым сетям Третьей промышленной революции. Эти сети ускоряют даже производство материальной продукции, способствуя передаче знаний и идей, а полностью цифровые продукты и сервисы и вовсе тиражируются с крайне низкими издержками. Как показано на рис. 3, потребовалось 75 лет, чтобы число пользователей телефона достигло 100 млн, но число пользователей Интернета достигло этой отметки меньше чем за 10 лет. Чем быстрее распространяются технологии Четвертой промышленной революции, тем сильнее и их влияние на инвестиции, производительность труда, организационные стратегии, промышленные структуры и индивидуальное поведение. Как показано на рис. 4, компании, занимающиеся разработками в области ИИ, возникают и приобретаются в экспоненциально растущем темпе, при этом применение все более интеллектуальных алгоритмов быстро увеличивает производительность труда. Хороший пример – чат-боты для облегчения (и постепенной замены)«живой» поддержки и взаимодействия с потребителями.
Эти сущности могут распространяться по цифровым каналам, но технологии Четвертой промышленной революции будут действовать не только в виртуальной сфере. Третья промышленная революция позволила материальным продуктам дематериализоваться, абстрагироваться и полностью превратиться в код. Так произошел сдвиг от аналоговых виниловых и кассетных аудиозаписей к цифровым компакт-дискам, а затем к полностью цифровым объектам – файлам, которые можно распространять через Интернет. Технологии Четвертой промышленной революции значительно увеличат возможности обратных процессов, в которых информация используется для производства разнообразных материальных объектов, действий и услуг. Например, 3D-принтеры уже умеют создавать очень многое: от деталей двигателей до продуктов питания и живых клеток. Благодаря Интернету вещей мы сможем давать нашим персональным виртуальным помощникам команды, чтобы те гасили свет в комнате или включали отопление. Роботы, дроны и самоуправляемые машины уже учатся взаимодействовать с миром естественными способами. Компании встраивают эти новые возможности в свои продукты и предлагают новые категории услуг. Так, компания UPS сейчас предлагает услуги 3D-печати и сканирования почти в 100 магазинах по всей территории США, позволяя клиентам создавать прототипы, испытывать их и получать модели персональных аксессуаров, не покупая дорогое специализированное оборудование.
Технологии Четвертой промышленной революции не остановятся на проникновении во все объекты окружающего мира, они станут частью нас самих. Некоторые люди уже ощущают смартфоны продолжением себя. Современные внешние устройства, от носимых компьютеров до гарнитур виртуальной реальности, почти наверняка будут имплантироваться в человеческое тело и даже в мозг. Экзоскелеты и протезы увеличат нашу физическую силу, а достижения нейротехнологий помогут улучшить когнитивные способности. Мы научимся точнее манипулировать собственными генами и генами наших детей. Прогресс в этих направлениях поднимает важный вопрос: как провести черту между человеком и машиной? Что значит быть человеком?
Еще один общий аспект технологий Четвертой промышленной революции состоит в том, что их мощь усиливается, когда они комбинируются и производят инновации. Развиваясь и принося коммерческую выгоду, технологии всегда приводили к развитию других технологий. Так было еще в те времена, когда паровой двигатель помог автоматизации фабрик и распространению железных дорог. История показывает, что небольшое число фундаментальных общецелевых технологий оказывало огромное влияние на экономику по всему миру. На их основе создавалось множество более специализированных технологий и способов их применения.
У каких технологий наибольшие шансы стать фундаментом Четвертой промышленной революции? Никто не может с уверенностью предсказать это. Но более сотни мировых экспертов по новейшим технологиям считают, что это будут искусственный интеллект, распределенные реестры и новые вычислительные технологии. Кроме того, колоссальное влияние на другие сферы могут оказать энергетические и биологические технологии. Большой вклад могут внести и другие, часто недооцениваемые технологии, например передовые материалы, необходимые почти во всех сферах, и средства виртуальной и дополненной реальности, создающие новые способы восприятия мира. Такие прогнозы имеют смысл, поскольку легко представить, какие преимущества получат остальные технологии от применения более эффективных алгоритмов, более мощных компьютеров и физических материалов с новыми свойствами. Здесь надо учитывать множество потенциальных взаимодействий и обратных связей. Например, улучшенный ИИ на более мощных компьютерах ускорит получение новых материалов, которые позволят создавать еще более мощные компьютеры. Из новых материалов можно будет делать аккумуляторы с большей емкостью и меньшим весом, открывая все новые возможности для роботов и дронов – и так далее. На стыках технологий могут возникать все более удивительные и многообещающие прорывы. Это значит, что общественные и частные организации, неспособные изменить свои изолированные вертикально ориентированные организационные структуры, скорее всего, будут все меньше контролировать ситуацию.
Наконец, все технологии Четвертой промышленной революции объединяет то, что они будут создавать похожие преимущества – и похожие проблемы. Как отметил экономист Дон Будро (Don Boudreaux), сто лет назад даже богатейший человек мира не смог бы купить телевизор, билет на трансатлантический перелет, контактные линзы, противозачаточные таблетки или курс антибиотиков. А сегодня все это доступно для рядового жителя страны с развитой экономикой. Ценность этих новых продуктов и услуг сложно выразить в денежном эквиваленте. Технологии Четвертой промышленной революции столь же сильно расширят выбор для потребителей, сократив расходы и повысив качество. И будет так же сложно выразить созданную ими дополнительную ценность количественно.
Наверное, самое большое беспокойство по поводу Четвертой промышленной революции вызвано тем, что новые ценности могут распределяться несправедливо, а усиление неравенства приведет к подрыву социального единства. Одна из угроз, способных обострить неравенство в результате Четвертой промышленной революции, – это монополизация власти. Например, уже сейчас Google контролирует почти 90 % глобального рынка контекстной рекламы, Facebook – 77 % мобильного трафика социальных сетей, а Amazon – почти 75 % рынка электронных книг{9}. Как предупреждает ОЭСР, в будущем сложные самообучающиеся алгоритмы могут вступать в сговор для повышения цен так, что это будет невозможно доказать{10}. И если станет возможным создание универсального искусственного интеллекта, который разовьется до сверхинтеллекта, то первопроходцы в этой области смогут доминировать на многих рынках.
Беспокойство о возможном неравенстве можно несколько сгладить тем, что структура и возможности многих технологий Четвертой промышленной революции в разной степени децентрализованны. Например, блокчейн работает как распределенная платформа для прозрачных и анонимных транзакций, а 3D-печать в долгосрочной перспективе ведет к демократизации производства. Даже биотехнологии, позволяющие модифицировать геном, сейчас доступны людям со скромным финансовым положением. Демократизация в этом контексте означает, что технологии становятся доступнее по мере глобального распространения цифровой инфраструктуры и знаний. Означает ли это, что решения относительно технологий и их роли в промышленности и обществе тоже будут приниматься демократическим путем? Это нам еще предстоит увидеть. В главе 3 мы вернемся к этому вопросу, поговорив о том, как внедрять общественные ценности на этапе разработки технологий, как определять нормы и демократизировать процессы разработки и принятия решений, которые часто работают по принципу «черного ящика».
Рисунки 5 и 6. Подверженность автоматизации некоторых сфер профессиональной деятельности
Источники: Аутор (Autor), Леви (Levy) и Мурнейн (Murnane) (2003); Инвестиционный институт Blackrock (2014)
Еще одна важная и широко обсуждаемая проблема – влияние на уровень трудоустройства. Как показано на рис. 5 и 6, многие профессии подвержены риску автоматизации. Этот риск гораздо выше, чем во время предыдущих промышленных революций, а быстрое распространение технологий означает быструю потерю работы все большим числом людей. При этом новые рабочие места в передовых технологических сферах сегодня появляются реже, чем в предыдущие десятилетия{11}. Рабочие места в новых отраслях требуют технических знаний и физических навыков, что создает проблемы для работников с низкой квалификацией. В странах с развитой экономикой большинство новых рабочих мест занимают фрилансеры, временные сотрудники, работники с частичной занятостью и представители «гигномики». У них нет тех законодательных гарантий и социальных преимуществ, какие есть у штатных сотрудников. Например, в США 94 % новых рабочих мест, появившихся в 2005–2015 годах, созданы на условиях «альтернативной формы занятости» с ограничениями в социальной защите, трудовых правах и даже сколько-нибудь значимом контроле со стороны работников{12}. С этой точки зрения технологии Четвертой промышленной революции выглядят как угроза праву человека делать выбор и с пользой применять свои навыки и интересы, способная лишить новые поколения работников удовлетворенности и стабильности. Для решения этой проблемы потребуются новые нормативные требования к нестандартным условиям работы, инвестиции в обучение взрослого населения и упреждающая политика трудоустройства{13}.
Потребуются также новые подходы к системам социальной защиты и к роли трансфертных платежей. Как показано на рис. 7, в большинстве стран трансфертные платежи, чаще всего представленные в виде правительственных расходов и социальных программ, играют важную роль в перераспределении рыночных доходов. Например, структурное неравенство в Швеции больше, чем в США, Сингапуре, Мексике и Турции, но после вычета налогов и трансфертных платежей коэффициент Джини становится меньше, чем во всех этих странах. Предлагаются разные варианты решения этой проблемы, например универсальный основной доход, средства из которого можно получать с помощью налога на роботов, – известно, что такой законопроект рассматривается в Сан-Франциско{14}. Однако в отчете об инклюзивном росте[2] и развитии в 2017 году (Inclusive Growth and Development Report 2017), представленном на Всемирном экономическом форуме, говорится, что правительства должны более основательно подходить к вопросу усиления инклюзивного роста: возможности для проведения внутренних структурных реформ выходят далеко за пределы налогов и трансфертных платежей{15}.
Рисунок 7. Различная роль перераспределения в уменьшении неравенства
Источник: Всемирный экономический форум (2017)
Кроме потенциального влияния на экономическое неравенство, Четвертая промышленная революция может привести к серьезным негативным последствиям для целого ряда областей. Ниже перечислены некоторые из этих последствий, отмеченные экспертами в докладе о глобальных рисках и подробнее рассматриваемые в главах раздела 2:
• Технологии Четвертой промышленной революции могут открыть широкие возможности для создания оружия массового поражения, например биологического оружия на основе биотехнологий.
• Новые материалы, например полученные с помощью нанотехнологий, могут вредить окружающей среде или здоровью людей, и это может проявиться только при широком распространении этих материалов.
• Достижения в области экологически чистой энергии могут дестабилизировать геополитическое положение, подорвав экономику стран, зависящих от добычи ископаемых видов топлива.
• Попытки изменения климата посредством геоинжиниринга могут привести к неожиданным последствиям и нанести необратимый ущерб экосистеме.
• Достижения в области квантовых вычислений могут сделать бесполезными протоколы безопасности, используемые в Интернете.
• Широкое распространение ИИ, работающего по принципу «черного ящика», может сделать экономические системы более уязвимыми и нестабильными, скрыв механизмы подотчетности, необходимые для принятия решений, например, в конфликтных ситуациях.
• Достижения нейротехнологий могут скомпрометировать свободу выбора человека и открыть новые возможности для манипуляций, побуждающих людей переходить по ссылкам, покупать определенные товары или совершать другие поступки.
Управлять этими внешними последствиями будет невозможно, если мы продолжим полагаться на существующие модели управления – медленные и консервативные. Например, Федеральному управлению гражданской авиации США потребовалось восемь месяцев, чтобы предоставить компании Amazon «экспериментальное разрешение на полеты» для тестирования одной из моделей дронов. За это время модель устарела, а Amazon провела испытания в Канаде и Великобритании{16}. Как говорится в главе 3 и в заключении, миру срочно нужны новые подходы к управлению, пересматривающие не только содержимое нормативных актов и стандартов, но и сами механизмы их создания.
Необходимо найти новые подходы к управлению технологиями, служащие общественным интересам, отвечающие нуждам человека и, в итоге, позволяющие нам почувствовать себя частью действительно глобальной цивилизации. Чтобы достичь этого, мы в первую очередь должны решить, какие потребности человека связаны с технологиями и как нам внедрять общечеловеческие ценности в новые технологии, меняющие мир. Этот важнейший вопрос мы рассмотрим в следующей главе.
Эффективный способ глубже понять Четвертую промышленную революцию – использовать двусторонний подход, который можно назвать стратегией масштабирования (zoom-in, zoom-out). Важны обе стороны этого подхода:
1. Получить минимальный необходимый уровень понимания ряда технологий и их возможностей, чтобы лучше оценить их потенциал и способы применения.
2. Составить полную картину, разобравшись в связях между технологиями и вызванными ими системными изменениями.
Все технологии Четвертой промышленной революции имеют некоторые общие аспекты, связанные с теми системными изменениями, которые мы наблюдаем. Чтобы взглянуть на происходящее с общего, системного уровня, следует рассмотреть четыре общих аспекта динамики развития технологий:
1. Технологии Четвертой промышленной революции существенно расширяют и преобразуют цифровые системы.
2. Технологии распространяются с экспоненциальной скоростью, проникая в материальные объекты и в нашу жизнь.
3. Разрушительная мощь технологий усиливается по мере того, как они комбинируются и запускают очередной цикл инноваций.
4. Разные технологии создают похожие преимущества и проблемы.
Преимущества и проблемы перспективных технологий связаны с такими важными вопросами, как неравенство, безработица, демократия, суверенитет, экономическое развитие, здоровье и безопасность.
Чтобы успешно справляться со скоростью и масштабностью влияния технологий Четвертой промышленной революции, потребуются новые, более гибкие модели управления для частного сектора, общественных организаций, а также для правительств и традиционных регуляторов. Мы должны создать новые, более гибкие и приспособленные к будущим реалиям формы управления, включая нормы, стандарты и практики, которые будут учитывать всеобщие интересы.
Глава 3
Внедрение ценностей в технологии
В книге «Четвертая промышленная революция» (2016) утверждается, что для «продвижения вперед» необходим ценностно-ориентированный подход к сложной, неопределенной и переменчивой технологической среде{17}. В этой главе мы подробнее рассмотрим эту идею и определим те принципы и ценности, которые помогут нам двигаться вперед и сохранять роль общества в формировании технологического будущего.
Нельзя отрицать, что технологии повысили качество жизни и общее благосостояние населения планеты. Но они также породили немало проблем и опасных последствий. Например, многие цифровые платформы концентрируют богатство у все более узкого круга людей, делая положение рабочих нестабильным и уязвимым; новые способы добычи природного газа наносят ущерб окружающей среде, обогащая владельцев предприятий за счет всех остальных; с инвестициями в капитальное оборудование связывают до 83 % сокращений производственных рабочих мест в США, начиная с 1990 года, с последующим исчезновением целых сообществ{18}.
В последние 30 лет многие из этих внешних эффектов проявлялись медленно. Но в ходе Четвертой промышленной революции изменения ускорятся, и нам придется иметь дело с более разнообразными, сложными и разрушительными последствиями применения технологий. К чему это приведет, можно только предполагать, но многие эксперты всерьез озабочены возможными опасными эффектами. Как говорилось в конце второй главы, отчет о глобальных рисках (Global Risks Report), представленный на Всемирном экономическом форуме в 2017 году, показал, что особое беспокойство у экспертов вызывают биотехнологии, ИИ, геоинжиниринг и Интернет вещей{19}. Отчет о глобальных рисках на 2018 год показывает, что в прошлом году главным риском стали растущие киберугрозы, которым подвергаются все цифровые сущности, включая информационные массивы, инфраструктуру, персональные и идентификационные данные. Так можем ли мы говорить, что технологии Четвертой промышленной революции действительно улучшат мир и нашу жизнь? Стоят ли экономические и прочие преимущества потенциальных человеческих жертв? Сможем ли мы снизить сопутствующие риски? И чего мы на самом деле хотим от этих технологий?
Любая конкретная технология может дать удобства, развлечения, власть, продуктивность или комбинацию этих четырех элементов, но в итоге мы все хотим от технологий того же, чего от здоровой экономики, – улучшения нашей жизни. В первой главе мы отметили, что технологии должны расширять возможности, а не ограничивать их; что будущее должно формироваться людьми и для людей; что ценности должны быть достоинствами, а не недостатками технологий. На первом месте должно быть повышение уровня жизни. Если Четвертая промышленная революция приведет к усилению неравенства, бедности, дискриминации, нестабильности или вреда для окружающей среды; если произойдет маргинализация, порабощение или обесценивание людей, значит, мы пошли не тем путем.
К сожалению, усиливается ощущение, что весь мир идет на поводу у технического прогресса и экономических императивов, упуская из виду самое важное. Известные экономисты, такие как Эрик Бринолфссон (Erik Brynjolfsson) и Эндрю Макафи (Andrew McAfee), популяризовали идею «великого отделения» человеческого труда от продуктивности экономики в результате внедрения технологий{20}, и, по некоторым прогнозам, уже к 2020 году до 40 % рабочих мест перейдет на модель «гигномики», появившуюся благодаря технологиям{21}. Сокращение доли оплаты труда в национальном доходе стран – членов ОЭСР на 80 % связывают с влиянием технологий. Они способствуют усилению неравенства, и общественность все острее воспринимает политику, стимулирующую экономический рост в ущерб социальному единству и благосостоянию общества{22}. Вместо того чтобы спросить себя, чего мы хотим от технологических изменений, мы по-прежнему вынуждены бороться с их опасными последствиями.
Ценностно-ориентированный подход к технологиям поможет нам восстановить баланс и выйти из этого трудного положения. Во-первых, прямо признав политическую природу технологий, мы сможем сформировать требования к ответственному и эффективному управлению. Во-вторых, сделав приоритетом управления общественные ценности, мы сможем контролировать, как используются технологии и кому они несут выгоду. В-третьих, четко определив, где и как ценности становятся частью технологических систем, мы сможем лучше понять их и найти оптимальные стратегии внедрения ценностей в процесс разработки технологий.
Политика технологий
Связи между технологиями и ценностями нелегко сформулировать. Ценности абстрактны и неосязаемы, к тому же они сильно различаются у разных людей и обществ. А технологии распространились повсюду – от языков до космических ракет. При таких масштабах поиск связей становится сложной задачей. К сожалению, в попытках найти простое решение возникли две всем знакомые, но дезориентирующие позиции. Их можно вкратце изложить так:
Точка зрения № 1: технологии предопределяют будущее
Эта точка зрения предполагает, что технологии влияют на общество, мотивируя, направляя и ограничивая нас разными способами, а технический прогресс – это внешняя, почти неодолимая сила, которую нельзя изменить или остановить. Люди, принимающие эту точку зрения, часто говорят о технологиях так, будто они определяют историю и наши ценности, направляя нас к прогрессу или упадку, и считают, что нет смысла пытаться помешать этому.
Точка зрения № 2: технологии нейтральны по отношению к ценностям
Вторая точка зрения отрицает, что сами по себе технологии имеют какое-либо значимое влияние на общество, и характеризует их как нейтральные инструменты. Сторонники этой точки зрения утверждают, что на общество влияют отдельные личности, которые выбирают, как именно использовать инструменты. При этом обсуждение возможностей технологий и их влияния на людей несправедливо переключается на моральные качества исключительно пользователей, а не создателей и распространителей этих технологий.
Этих точек зрения недостаточно, чтобы задать направление Четвертой промышленной революции. Хотя в каждой из них есть зерно правды, обе они достаточно опасны в эпоху, когда технологии показывают динамику, описанную во второй главе, распространяясь все быстрее, предоставляя пользователям все больше власти, окружая нас со всех сторон и проникая в нас.
Сторонники первой точки зрения считают, что технологии находятся вне контроля общества, тогда как вторые снимают с общества ответственность за влияние, оказываемое технологиями. И те и другие упускают из виду, что технологии и общество формируют друг друга. Ядерные технологии – хороший пример, показывающий, как опасно полностью принять любую из этих точек зрения. Это определенно не «просто инструменты», ведь само существование ядерных технологий, позволяющих получать энергию и создающих угрозу ядерного уничтожения, создает огромную напряженность. Недавние обострения геополитических споров напомнили всем о ядерной опасности, а Нобелевскую премию мира в 2017 году присудили Международной кампании за запрещение ядерного оружия (International Campaign to Abolish Nuclear Weapons, ICAN). В то же время ядерные технологии не обязаны определять судьбу человечества, потому что общество способно решать, какие технологии разрабатывать, как это делать, кто при этом имеет право голоса и каким целям все это служит. И действительно, все больше стран решает отказаться от ядерной энергии, о чем свидетельствует обязательство правительства Германии закрыть к 2022 году последнюю ядерную станцию{23}.
Для продвижения по пути прогресса во время Четвертой промышленной революции требуется более вдумчивое и практичное отношение к технологиям, а также возможность подробно обсуждать их цели, риски и неопределенности. Необходима третья точка зрения: «Все технологии имеют политическую природу». О политике здесь говорится в описательном смысле. Мы не подразумеваем, что технологии олицетворяют правительства, связаны с определенной партией или каким-то образом вытекают из «левой» или «правой» идеологии. Мы имеем в виду, что технологии – это решения, продукты и воплощения идей, полученные в результате социальных процессов, поддерживающие и выражающие стремления людей и организаций, содержащие в себе целый ряд допущений, ценностей и принципов, которые, в свою очередь, могут повлиять (и влияют) на власть, структуру и состояние общества.
В итоге технологии связаны со всем, что мы знаем, с тем, как мы принимаем решения и как мы думаем о себе и других. Они связаны с нашей самоидентификацией, с нашим мировоззрением и вероятным будущим. Значение технологий, будь то ядерные разработки, космическая гонка, смартфоны, социальные сети, машины, медицина или инфраструктура, делает их политическими. Даже концепция «развитой» страны опирается на уровень применения технологий и на их экономическое и социальное значение.
Многие ученые и технологи уже признали политические аспекты технологий. Например, Институт инженеров по электротехнике и электронике (Institute of Electrical and Electronics Engineers, IEEE) в своей Глобальной инициативе по этическим соображениям относительно искусственного интеллекта и автономных систем (Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems) называет ИИ «социотехнической системой»{24}. Необходимость глубоких размышлений о ценности ИИ привела к появлению ряда общественных инициатив, координируемых академическими, правительственными и промышленными экспертами. Наффилдский совет по биоэтике определяет биотехнологии как «сочетание знаний, практик, продуктов и приложений»{25}. В объяснении этого определения указывается, что биотехнологии, как и люди, – это больше, чем сумма физических частей:
Любая технология несет в себе отражение ценностей, целей и убеждений ее создателей. И чем мощнее технология, тем важнее понимать то, что в нее заложено.
Чаще всего экономические мотивы диктуют, какие технологии целесообразно развивать, как их реализовывать и применять. Эти мотивы можно распознать по социальным последствиям. Например, недавно обсуждалось, этично ли (и сколько это будет стоить) фильтровать цифровой контент для борьбы с фальшивыми новостями. Это обсуждение непосредственно связано с экономическими императивами технологических компаний, с архитектурой их платформ, с их приемами отслеживания, сегментации и доставки контента группам потребителей. В среде цифровых социальных медиа, как и в традиционной индустрии газет, телевидения и радио, экономическое давление и методы управления продуктами определяют, что и как становится известно миллиардам людей. Открытая природа Интернета позволяет быстро масштабировать технологии социальных медиа, но при этом чрезвычайно усложняет мониторинг сетей в поисках контента, который считается «асоциальным».
Признавая, что технологии олицетворяют определенные социальные установки, интересы и цели, мы получим больше возможностей, чтобы инициировать изменения. Одновременно мы будем обязаны брать на себя ответственность, потому что не сможем ни винить в нежелательных последствиях только технологии, ни игнорировать их влияние на наши решения. Признать это – значит взять на себя три обязанности:
1. Определить ценности, связанные с конкретными технологиями.
2. Понять, как технологии влияют на наш выбор, на принятие решений.
3. Определить наилучшие способы влияния на развитие технологий для всех заинтересованных сторон.
В политических переговорах между представителями общества, технологий и бизнеса именно мы должны определять, какое внимание будет уделено общественным ценностям.
Приоритет общественных ценностей
Поскольку технологии тесно интегрированы в общество, на нас лежит ответственность за определение направления их развития и обязанность объявить приоритет общественных ценностей. Хотя технологии часто воплощают те ценности, которые заложены в их структуру и предназначение, непросто решить, какими должны быть эти ценности. Джон Хэвенс (John Havens) из IEEE сформулировал эту проблему так: «Как машины узна́ют, каковы наши ценности, если мы сами этого не знаем?.. …Мы не сможем улучшить благосостояние человечества, если не уделим время определению наших общих ценностей, чтобы создавать технологии, которые наверняка будут отвечать этим идеалам»{26}.
Разные люди и общества ценят разные вещи, поэтому всегда будут разногласия в социальных и культурных точках зрения на технологии. Тот факт, что разные культуры и типы ценностей ведут к различиям в приоритетах, не должен мешать ценностно-ориентированному подходу к технологиям. Наоборот, чем больше мы об этом думаем, тем лучше поймем, какие приоритеты критически важны для обществ, как технологии повлияют на ценности и как будут их поддерживать. Вполне возможно найти ряд ценностей, общих для большинства культур. В документе «Новое социальное соглашение» (A New Social Covenant) Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей в 2012–2014 годах определил «широкий консенсус между представителями различных культур, религий и философий относительно некоторых общечеловеческих стремлений», которые представляют «мощный объединяющий идеал» для «преданных друг другу личностей, уважающих будущие поколения»{27}.
Определение позитивных объединяющих ценностей – лишь первый шаг. Такое соглашение необходимо реализовать на практике. Один из способов это сделать – организовать ответственное и эффективное управление. Обычно организациям сложно угнаться за скоростью и масштабностью технологических изменений. Многие правовые системы плохо подготовлены для управления новыми рисками; мир только начал осознавать реальность широкого ряда беспрецедентных сценариев развития событий, угрожающих всему – от окружающей среды до прав человека. Кроме того, сложно предвидеть, какие внешние последствия будут иметь новые технологии в зависимости от выбранных способов их создания, применения и управления. Риски могут и будут неожиданно возникать на стыках технологических дисциплин. Стратегии управления должны быть достаточно гибкими и адаптивными, чтобы мы могли адекватно реагировать на риски, не блокируя работу организаций.
Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей (2012–2014).
Наш призыв таков: после целенаправленных глобальных размышлений мы должны принять важнейшие решения нашего времени. Один из способов помочь этим размышлениям – разработать Новое социальное соглашение.
Многие предыдущие попытки фокусировались на индивидуальных правах, которые, без сомнения, важны. Но мы сконцентрируемся на наших обязанностях по отношению друг к другу, как внутри государств, так и между ними… Когда дело касается ценностей, существует большое культурное разнообразие. Но есть и широкий консенсус – между культурами, религиями и философиями – по некоторым общечеловеческим стремлениям:
• Достоинство человека, независимо от расы, пола, происхождения и убеждений.
• Важность общего блага, превосходящая индивидуальные интересы.
• Необходимость разумного управления и заботы не только о нас самих, но и о наших потомках.
Чтобы привить эти ценности, важны как личные, так и коллективные усилия. Необходимо внедрить эти ценности в общественную жизнь, чтобы преодолеть разрыв между стремлениями и практикой. Обсуждения недостаточно – мы должны принимать решения. Успех зависит от трансформирующего ценностно-ориентированного лидерства во всех областях человеческой деятельности. Мы должны культивировать, поощрять и приветствовать новые модели поведения как на Всемирном экономическом форуме, так и вне его. Необходимо привлекать людей, которые смогут эффективно и продуктивно решать глобальные задачи, людей, которые построят и оставят после себя более справедливый, изобильный и жизнеспособный мир.
Примеры ценностно-ориентированного управления в действии уже существуют. Общий регламент по защите данных (General Data Protection Regulation, GDPR), принятый Евросоюзом, вступит в силу в середине 2018 года. Это постановление изменит правила получения согласия пользователя на обработку персональных данных и потребует предоставления соглашения с понятными условиями. Компании, управляющие данными, должны будут уведомлять пользователей об инцидентах безопасности[3], предоставлять информацию об использовании данных, соблюдать «право на забвение»[4], обеспечивать переносимость данных, при необходимости нанимать специалистов по защите данных и выполнять юридические требования к безопасности данных на этапе проектирования технологий и служб{28}.
Акцент GDPR на обеспечении конфиденциальности на этапе проектирования технологий демонстрирует тщательный подход к практической реализации ценностей: внедрение ценностей в процессы разработки технологий, чтобы их разработка отражала ценности общества, а не только их создателей. Вместо того чтобы пытаться решить проблемы, возникшие из-за принципа невмешательства в технологии и этику, лучше сразу решать вопросы этики, ценностей и социальных последствий на различных этапах технологической разработки. Этим мы окажем важное влияние на то, как технологии интегрируются и поддерживают стремление общества к всеобщему благосостоянию. Блокчейн, Интернет вещей, автономные системы, нейротехнологии и алгоритмы – это примеры технологий, которые создаются специализированными сообществами с узкими интересами, иногда в тех областях, где ценности еще предстоит явно определить.
К сожалению, интегрировать нужные ценности в процессы технологического развития не всегда легко. Это нельзя сделать, просто добавив некий «этический компонент», – для этого может потребоваться принятие новых методологий, формирование организационной культуры и даже изменение рыночного мышления, предполагающего, что двигателем прогресса является экономика. Другая сложность заключается в том, что многие технологии, особенно цифровые, можно использовать разными способами, а риски и потенциальные последствия их применения сложно оценить. Даже если сделать прогноз рисков, не все технологии предусматривают возможность «программирования». Например, неясно, как разрабатывать блокчейн-технологии, чтобы предотвратить их использование преступными организациями или уменьшить их экологический вред из-за чрезмерного потребления энергии. Тем не менее компаниям и организациям следует думать не только о проектировании и внедрении – они должны включаться в социально ответственные процессы с самого начала. На уровне инженерии и разработки продуктов следует учитывать не только экономические стимулы и технические требования к разработке и использованию технологий, но и влияние на общество{29}.
Внедрение ценностей в технологии
Успешно возвести общественные ценности в приоритет невозможно без нисходящего регулирования. Для этого необходимо поднять вопрос о ценностях и дать людям и организациям возможность перейти на новые модели поведения. Кроме того, требуется вдохновение и мотивация от общественных лидеров. Начало может быть положено во многих местах, о чем говорится далее, в разделе, посвященном переломным моментам, но в любом случае, чтобы помочь изменить поведение, повысить уровень осведомленности о широком влиянии технологий и способствовать возведению общественных ценностей в приоритет, можно использовать следующие подходы к технологиям.
Поделиться книгой: