Помоги проекту - поделись книгой:
Самое главное, чтобы люди и организации думали не только об обеспечении безопасности периметра ИТ-систем, на котором обычно сконцентрирована концепция кибербезопасности. Мы должны изменить образ мышления и учитывать также взаимозависимость и устойчивость, чтобы подготовиться к разным вариантам развития событий, при которых киберриски могут возникать и влиять на работу систем. В этом контексте киберустойчивость можно считать способностью систем и организаций противостоять киберсобытиям, которая измеряется временем работы на отказ, сложенным со временем на восстановление{117}.
Как показано на рис. 15, киберриски распространяются и на ресурсы, и на ценности и возникают на пересечении угроз с уязвимостями. Поэтому киберустойчивость – стратегически важный вопрос, который необходимо учитывать в комплексных бизнес-моделях и при выполнении всех операций.
Киберустойчивость также расширяет временны́е рамки для подготовки к неизбежным кибератакам. Чтобы отойти от подхода, основанного на защите периметра, необходимо тщательно и заранее продумать действия, которые должны выполняться до, во время и после кибератаки, в частности определить, кого следует информировать внутри и вне организации.
Рисунок 15. Инфраструктура киберрисков
Источник: Всемирный экономический форум
Если рассматривать системы, связанные с данными, а не с цифровыми операциями, то организации и отдельные люди должны обладать устойчивостью как минимум к следующим трем киберрискам: конфиденциальность данных, их целостность и постоянная доступность, необходимая для непрерывной поддержки бизнес-операций. Хотя утечка информации в результате кражи данных – наиболее обсуждаемый киберриск, все чаще встречаются атаки, направленные на нарушение доступности систем или данных, сопровождающиеся удалением информации или требованием выкупа, как в случае с шифровальщиком WannaCry, поразившим инфраструктуру службы здравоохранения Великобритании в мае 2017 года. Не меньшее беспокойство вызывает и возможность компрометации или изменения данных и крупных систем.
Ситуация еще больше усложняется, если учитывать интеграцию данных с цифровыми операциями и подключенными цифровыми системами, управляющими инфраструктурой или выполняющими действия в материальном мире. В таких случаях необходимо предусматривать риск потери управления важнейшими функциями системы, от которых могут зависеть жизни людей. Например, в 2015 году хакеры показали возможность удаленного перехвата управления трансмиссией и тормозами автомобиля Jeep Cherokee{118}. Еще одна сложность заключается в том, что подключенные системы могут создавать новые каналы для вторжения в другие аспекты функционирования этих систем или бизнеса. Один из примеров – взлом в 2013 году платежных систем компании Target, имеющей в США сеть магазинов розничной торговли, который начался с кражи учетных данных, предоставленных субподрядчикам, обслуживающим системы отопления и кондиционирования воздуха, используемые компанией{119}.
В массовой культуре, а потому и в представлении большинства людей укоренился образ хакера-одиночки, пытающегося проникнуть в защищенную систему в поисках славы или мести. Однако такая картина не соответствует тому, что в действительности происходит сегодня в сфере киберугроз.
Хотя одаренные хакеры-одиночки, несомненно, существуют, более распространены и опасны талантливые люди, входящие в организованные преступные организации, у которых расходы на подбор кадров, исследования и проведение операций значительно превосходят ресурсы, выделенные их жертвами на защиту. Кроме того, эти организации сосредоточивают усилия на получении финансовой выгоды посредством проведения атак: это может быть требование у компаний выкупа, продажа данных или способов проникновения в систему или использование взломанных систем для выполнения других действий, выгодных атакующим или их клиентам.
Поэтому важно изменить распространенное представление об источниках киберугроз в соответствии с действительным положением дел: это хорошо финансируемые и мотивированные злоумышленники, применяющие новейшие методы и оборудование, действующие системно и постоянно.
Неотъемлемая черта образа хакера-одиночки – его умение использовать технические средства для удаленного обхода систем безопасности. Такая картина создает впечатление, что основной линией обороны от кибератак должны быть ИТ-отдел и установленные им технические барьеры, такие как межсетевые экраны и надежные пароли.
Однако самый простой способ получить доступ к безопасной системе – просто попросить. Около 97 % вредоносных атак основаны на обмане пользователей, чтобы те сами предоставили доступ к своим системам, и лишь 3 % нацелены на эксплуатацию технических недостатков. Более 84 % хакеров используют социальную инженерию в качестве основной стратегии проникновения в системы{120}. Эта статистика отчасти объясняет тот факт, что многие взломы остаются незамеченными в течение длительного времени. Крис Пог (Chris Pogue), директор по информационной безопасности компании Nuix, утверждает, что для обнаружения утечки данных требуется в среднем 250–300 дней{121}.
Если учесть, что угрозы и уязвимости существуют как внутри, так и вне организации, управление киберрисками становится делом всех сотрудников. В свою очередь, меняются и стратегии реагирования. Теперь необходимо обучать персонал тому, как избегать фишинга и других атак с применением методов социальной инженерии, использовать средства защиты конечных точек для ограничения доступа и развертывать системы обнаружения аномального поведения пользователей и подозрительной сетевой активности.
На устойчивость влияют как особенности отдельных людей и организаций, так и эффекты системного уровня. По мере того как мир становится все более взаимосвязанным, киберриски становятся по-настоящему системными. Системные риски возникают не просто из-за возможности передачи вирусов между компаниями и государствами, а в результате повсеместной зависимости от данных и глобальных служб, на которые опирается мировая торговля, безопасность, финансовая и транспортная системы.
И наоборот, существует важная возможность для выработки более многостороннего и межобщинного подхода к усилению устойчивости к киберрискам. Более регулярный обмен важной информацией о киберактивности и атаках между индустриями и секторами экономики, а также между правительствами, бизнесом и гражданским обществом позволит быстрее реагировать на атаки и снизить риск их распространения. Учитывая нехватку специалистов, обладающих стратегическими и практическими навыками, необходимыми для обеспечения киберустойчивости, повсеместные инвестиции в развитие этих навыков благоприятно отразятся на ситуации во всех секторах экономики.
Мы постоянно прилагаем усилия для поддержания международного многостороннего диалога о киберустойчивости. Так, под эгидой Всемирного экономического форума в Женеве создается Международный киберцентр (Global Cyber Centre) – государственно-частная платформа для усиления киберустойчивости по всему миру. Другие примеры: Международный центр Интерпола по инновациям, начавший в Сингапуре работу по созданию платформы для обмена информацией, объединенная целевая группа Европола по противодействию киберпреступлениям и национальные инициативы, такие как партнерство по обмену информацией в области кибербезопасности (CiSP), созданное в Великобритании для повышения осведомленности британских организаций о киберугрозах. Однако для организации взаимодействия между разными индустриями и странами необходимо преодолеть недоверие между государственным и частным сектором, а также между государствами, не желающими делиться информацией о своих киберинструментах для атаки и защиты.
Это барьеры, которые необходимо преодолеть. Масштаб киберугроз в мире, зависящем от «жизненно важных» цифровых систем, требует инвестиций и действий на всех уровнях, от индивидуального образования и выработки нового поведения до организационных инвестиций, от принятия советами директоров новой ответственности до внутригосударственного и международного сотрудничества и выработки более гибких моделей управления.
Раздел 2. Преобразование физического мира
Глава 8
Искусственный интеллект и роботы[17]
Искусственный интеллект уже перестраивает цифровую экономику и вскоре изменит экономику материального мира. В начале XXI века ИИ помогает автономным механизмам ориентироваться в материальном мире и взаимодействовать с людьми. В будущем системы с искусственным интеллектом смогут решать комплексные системные задачи, такие как глобальные выбросы CO2 и управление международными потоками воздушного транспорта, в масштабе, превосходящем человеческие способности. Эксперты считают, что реальностью могут стать даже сценарии сегодняшних фантастических фильмов: интеллектуальные операционные системы и сопереживающие цифровые помощники. Возможно, однажды роботы смогут выполнять и базовые полицейские функции. ИИ уже обеспечивает мониторинг видеопотоков и данных, собранных множеством датчиков, и может предупреждать службы безопасности о подозрительной активности. Тем временем полиция использует роботов для проведения поисково-спасательных операций и даже для уничтожения вооруженных преступников{122}.
ИИ глубоко изменит мир, и в процессе этих изменений не избежать рисков. Например, роботы под управлением ИИ изменят уровень безработицы и навыки, необходимые для трудоустройства, создав напряженность в обществе, и это влияние сложно поддается прогнозированию. Кроме того, большинству людей остаются непонятными принципы работы алгоритмов машинного обучения, которые к тому же могут давать результаты, отражающие распространенные предубеждения, с которыми необходимо бороться. В долгосрочных прогнозах нельзя забывать об угрозах самому существованию человечества, которые возникнут, если нам не удастся добиться соответствия ценностей ИИ человеческим ценностям. Существуют и риски кибербезопасности, связанные с возможностью взлома или обмана искусственного интеллекта. В связи с этим исследователи пытаются начать обсуждение этических рамок и ценностей, которыми следует руководствоваться при разработке и внедрении ИИ и роботов. Что бы ни готовило нам будущее, нам придется уживаться с искусственным интеллектом, и отношения, которые мы с ним построим, будут иметь далеко идущие последствия.
Интеграция ИИ в человеческий мир
Никакая комбинация технологий не будоражила воображение общественности так, как ИИ и робототехника. В 1956 году Дартмутский колледж провел конференцию, положившую начало разработкам в области искусственного интеллекта, а первый промышленный робот появился в 1961 году. За десять лет в массовой культуре появилось множество фантазий на тему новых устройств и существ, которые облегчат нашу жизнь, таких как робот-домохозяйка Рози из мультсериала «Джетсоны» (The Jetsons), и немало пугающих сценариев технологического развития, ведущих к возникновению новых угроз, таких как взбунтовавшийся компьютер HAL 9000 из фильма Стэнли Кубрика «Космическая одиссея 2001 года» (2001: A Space Odyssey).
Сегодня ИИ приобретает все больше когнитивных способностей, которые мы привыкли приписывать только человеку, таких как общая обучаемость и высокоуровневая интеллектуальная деятельность. Программы, использующие машинное обучение, побеждают людей в играх, в которых, как некогда считалось, требуется человеческая интуиция. Компьютеры уже способны проходить простой тест Тьюринга, созданный, чтобы отличать человека от машины. В 2014 году чат-бот, представлявшийся 13-летним Женей Густманом (Eugene Goostman)[18], убедил более 30 % собеседников, что с ними общается живой человек{123}.
Достижения в области разработки передовых материалов и сенсорных технологий улучшили восприятие, движение и когнитивные способности машин. Дроны (летающие роботы) и промышленные роботы, например, используемые для сборки автомобильных деталей без участия человека, используют ИИ для решения сложных задач навигации и взаимодействия. Самоуправляемые роботы (автономные машины) могут делать то, что раньше было под силу только людям, например водить грузовики по автомагистралям{124}. Человекоподобные роботы начинают использоваться в качестве персональных помощников и компаньонов, превращая научную фантастику в реальность.
По всему миру появляется все больше учебных программ и исследований в области ИИ и робототехники{125}. Обрабатывая наборы данных, слишком большие для анализа человеком, приложения на основе ИИ решают такие проблемы, как моделирование климата, расчет сценариев ядерной угрозы и управление крупномасштабными сетями датчиков. Также они способны собирать новую финансово значимую информацию, анализируя большие объемы общедоступных данных. Например, компания Orbital Insight начала применять машинное обучение для обработки снимков низкого разрешения, полученных от спутников Landsat (в США) и Sentinel (в Евросоюзе). Это позволило точнее и быстрее идентифицировать объекты и получать важную информацию, например, о промышленности, выбросах веществ, инфраструктуре и индикаторах океанических процессов, что дает очевидную выгоду для бизнеса, общества и правительства. ИИ не только помогает обосновывать решения, но и может их самостоятельно принимать: по некоторым прогнозам, в будущем к ИИ перейдет функция управления хеджевыми фондами, и уже как минимум одна инвестиционная компания имеет в составе совета директоров программу с искусственным интеллектом{126}.
Чем лучше искусственный интеллект принимает решения, тем лучше работают вместе с человеком роботы, управляемые этими решениями, и наоборот. Если робот Рози когда-нибудь станет реальностью, машины должны учиться распознавать человеческие ценности посредством наблюдений. Пока роботы учатся все лучше обслуживать нас, обучать студентов, управлять летательными аппаратами, оперировать пациентов и проводить поисково-спасательные операции, вопросы доверия приобретают первостепенное значение. По мере того как мы привыкаем к ИИ в повседневной жизни, взаимодействие с ним может превращаться в тот инструмент, посредством которого мы интерпретируем мир вокруг нас, – это можно сравнить с управлением самолетом по приборам в плохую погоду. Если вдаваться в крайности, существует вполне реальная опасность военизации ИИ и роботов государствами и частными лицами, и различные международные группы уже исследуют практические и этические границы таких возможностей. При сохранении текущего направления развития комбинацию ИИ и робототехники необходимо будет рассматривать с позиций власти, ответственности и подотчетности, а значит, потребуется всестороннее управление.
Рисунок 16. Гонка за ИИ: крупные приобретения компаний, занимающихся разработками в области искусственного интеллекта, в 2011–2016 гг.
Источник: CB Insights (2017)
Признавая, что ИИ окажет на общество, планету и экономику огромное преобразующее влияние, лидеры в этой области, включая Microsoft, Amazon, Facebook, IBM, Google и DeepMind, создали «партнерство по ИИ во благо людей и общества». Цель этого партнерства – «изучать и формулировать рекомендации по технологиям искусственного интеллекта для улучшения понимания ИИ общественностью и создания открытой платформы для обсуждения и принятия решений относительно ИИ и его влияния на людей и общество»{127}. Во многих компаниях создаются подразделения и группы, занимающиеся вопросами этики, о чем свидетельствует DeepMind{128}. Эта дальновидная инициатива надеется убедить общественность, что индустрия ИИ понимает свою ответственность. Ее участники пытаются доказать это, инвестировав миллиарды долларов и приобретя сотни компаний за последние пять лет (рис. 16) в ответ на обеспокоенность мыслителей, таких как Стюарт Расселл, последствиями создания все более умного искусственного интеллекта{129}.
Стюарт Расселл (StuartRussell), профессор компьютерных наук Калифорнийского университета, Беркли, США
Исследования в области ИИ быстро продвигаются, новые возможности появляются все чаще и привлекают новые инвестиции в исследования. В этой области не так много специалистов, считающих, что возможности машинного интеллекта ограниченны, и еще меньше тех, кто верит в его самоограничение. Поэтому следует предусмотрительно предполагать, что машины превзойдут человека. Как заявил Алан Тьюринг в 1951 году: «Если машина сможет думать, она будет делать это лучше нас… Этой новой угрозой… …определенно стоит обеспокоиться»{130}.
Пока самый распространенный способ создания машин, обладающих общим интеллектом, заключается в предоставлении им целей, которых нужно достичь, и алгоритмов, позволяющих искать способы достижения этих целей. (Вместо этого можно жестко запрограммировать поведение машины, но это будет означать, что всю умственную работу проделали люди, что противоречит концепции искусственного интеллекта и просто невозможно, даже для таких простых задач, как игра в шахматы.) К сожалению, как убедился царь Мидас на своем печальном опыте, мы не знаем, как формулировать желаемые цели достаточно полно и точно, чтобы машина не смогла найти нежелательный путь их достижения. Это проблема соответствия ценностей: если достаточно способной машине даны цели, не соответствующие тому, что мы в действительности хотим, или даже просто неполные, то получается, что мы играем с машиной в шахматы, где доска – это мир, а наши фигуры – человечество. Тьюринг в качестве возможного решения предлагал «отключать питание в стратегически важные моменты», но сверхинтеллектуальная машина наверняка предпримет действия, чтобы предотвратить это – не из-за инстинкта самосохранения, а потому что не сможет достичь поставленных перед ней целей, будучи мертвой.
Мы должны исходить из того, что достаточно способная система решит любую поставленную перед ней задачу, поэтому необходимо определять задачи так, чтобы найденное машиной решение было доказуемо выгодным для человека. Звучит как оксюморон, но в действительности это возможно. Основная идея в том, что цель машины должна заключаться в максимально полном достижении выгодных для человека целей, но изначально она не будет знать, что это за цели. Именно эта неопределенность позволяет избежать однобокого и потенциально катастрофического преследования неполных или ошибочных целей. Первоначальную неопределенность машина может постепенно исправлять, наблюдая за действиями людей, получая информацию о настоящих, основополагающих целях. Как минимум в некоторых случаях человеку будет лучше с такой машиной, чем без нее. Возможно даже убедить машину, чтобы она позволила отключить себя (так что Тьюринг, может, был и прав): рационально мыслящий человек сделает такое только в том случае, если высок риск совершения машиной чего-то противоречащего истинной цели человека, которая по определению является также целью машины, так что и машине в таком случае будет выгодно ее отключение.
Эти идеи дают слабую надежду на то, что мы выработаем инженерную дисциплину, позволяющую найти безопасный подход к извлечению пользы из систем на основе ИИ. Разумеется, есть определенные сложности: люди – своенравные, иррациональные, непоследовательные, слабовольные, не поддающиеся расчетам и не похожие друг на друга существа, так что изучать человеческие ценности, наблюдая за человеческим поведением, – сомнительное занятие. С другой стороны, ближайшие перспективы разработки, такие как интеллектуальные персональные помощники и домашние роботы, дают очень сильный стимул к тому, чтобы разобраться с ценностями: помощники, заказывающие гостиничные номера по 20 тыс. долларов за ночь, и роботы, готовящие на ужин блюда из домашних питомцев, вряд ли приобретут популярность.
ИИ скоро будет учиться в процессе работы
Исследования в области ИИ имеют свои трудности. В настоящее время эталоны для сравнения устанавливаются путем грубого перебора и сопоставления шаблонов, и незначительные изменения во входных сигналах могут полностью нарушить модели машинного обучения. Возможно, текущие подходы имеют недостаточную конструктивную прочность, чтобы научить ИИ справляться с самыми сложными задачами, такими как решение проблемы «здравого смысла» или воссоздание ситуативных моделей. Исследователи хотели бы, чтобы машины могли действовать, исходя из ситуативного контекста, и делать общие выводы, не проходя предварительное обучение на огромных наборах данных, но пока это невозможно. Вероятно, новые технологии, такие как квантовые вычисления, смогут изменить подходы ИИ к получению информации о проблемах и позволят ему учиться посредством получения обратной связи, а может, даже имитировать человеческие когнитивные функции познания мира. Если это произойдет, искусственный интеллект сможет приносить экономическую выгоду, работая без свойственных человеку ошибок и усталости.
Даже без таких прорывов прогресс идет быстро, и надежды высоки. Разрабатываются роботы для полетов на Марс, для помощи медицинским работникам и даже для создания роботов{131}. Однажды могут появиться полчища крошечных роботов под управлением облачного ИИ, обеспечивающие интеллектуальные приложения на централизованных серверах данными, необходимыми для координации и распределения ресурсов. ИИ уже проникает в профессиональные области, требующие обширных знаний, такие как журналистика, медицина, бухгалтерия и юриспруденция. Даже если юристы и врачи не будут заменены полностью, интеллектуальные приложения, способные синтезировать и анализировать примеры из практики и диагностические снимки, изменят эти профессии. А пока ИИ активно улучшает себя, инвестиции в индустрию робототехники в 2019 году, по некоторым оценкам, превысят 135 млрд долл., что почти в два раза больше инвестиций 2015 года{132}. Автомобили не только станут ездить без водителей, но и, скорее всего, будут производиться без участия человека, особенно если учесть, что автомобильная промышленность стоит на первом месте по числу приобретаемых роботов (рис. 17){133}.
Рисунок 17. Число многоцелевых промышленных роботов (всех типов) на 10 тыс. рабочих в автомобильной и всех остальных индустриях, 2014 г.
Источник: Pittman (2016)
Во многих сферах экономики повышение уровня автоматизации может привести к созданию новых типов рабочих мест и исчезновению старых. Например, автоматизация грузоперевозок может привести к сокращению рабочих мест в сфере логистики{134}.
Усиление влияния ИИ и робототехники на рынок труда ожидается как в развитых, так и в развивающихся регионах. В США риску автоматизации подвергается от 10 % до 50 % всех рабочих мест{135}{136}. В Китае компания Foxconn за два года заменила роботами 60 тыс. рабочих на фабриках{137}. Автоматизация может отрицательно сказываться на индустриализации в развивающихся странах, уменьшая преимущества дешевой рабочей силы: если раньше многие производства было выгодно размещать в развивающихся странах, то теперь происходит отказ от этой практики{138}.
Последствия для глобальной экономики обширны и непредсказуемы. Экономисты создают возможные экономические модели, учитывающие автоматизацию труда, тогда как образовательные учреждения пытаются предсказать, какие навыки потребуются завтрашним работникам{139}. Необходимость многостороннего взаимодействия и сотрудничества никогда не была выше, чем сейчас, и, чтобы удовлетворить ее, законодатели, руководители коммерческих и общественных организаций должны искать компромиссы между экономическими и социальными целями. Внимания требуют также вопросы безопасности и уязвимости ИИ. Хотя специализированный искусственный интеллект предлагает обществу огромные возможности, его можно обмануть, взломать или ввести в заблуждение. Необходимо убедиться, что решения, принимаемые машинами, не подвержены посторонним влияниям и не могут быть изменены посредством кибератак.
В основе этой важнейшей проблемы лежит другая, имеющая еще более широкие последствия: механизмы принятия решений, используемые алгоритмами машинного обучения, часто остаются неясными для людей-разработчиков, что поднимает вопрос о приемлемости делегирования власти этим алгоритмам. В мире людей доверие глубоко связано с обоснованием решений. Например, даже если ИИ будет лучше людей прогнозировать, кто из заключенных снова нарушит закон или кто из заемщиков не выплатит кредит, мы не будем удовлетворены принимаемыми машинами решениями, если они не смогут объяснить их. Это особенно справедливо для алгоритмов, проявляющих предвзятость после обработки наборов данных, отражающих человеческую предвзятость. Они могут выявлять полезные закономерности, но без машинного понимания мы будем считать их решения некорректными. В первую очередь нам необходимо заняться следующими вопросами:
• Этические стандарты. Требуется создать принципы и руководящие положения, формирующие этические стандарты и нормативные ожидания, предъявляемые к автономным процессам и машинам. Различные органы и группы, включая Исследовательский совет по инженерным и физическим наукам Великобритании (EPSRC), предлагают «принципы робототехники», но общего глобального набора стандартов пока не существует{140}.
• Управление искусственным интеллектом и робототехникой. Недостаток общей компетентности в области исследования и применения ИИ затрудняет прогнозирование. Кроме того, сложно определить, какие органы должны принимать решения, определяющие политику относительно ИИ. Признание этих факторов поможет создать пространство для внедрения процедур инновационного управления и откроет возможности для создания новых типов комитетов, агентств и консультативных групп, чья власть еще не укрепилась.
• Разрешение конфликтов. В настоящее время нет установленных рамок или рекомендаций по разрешению конфликтов, связанных с применением систем ИИ. Разработке этих рамок мешают сложности с распознаванием потенциальных конфликтов. Например, исследования в области ИИ не регулируются, хотя продукты, использующие ИИ, могут регулироваться, в результате чего бремя регулирования возлагается на уровень производства продуктов.
Вопрос о том, насколько глубоко ИИ будет интегрирован в экономику, рынок труда и другие сферы, включая наши тела, только начал широко обсуждаться. Чтобы понять, к каким результатам может привести развитие ИИ и робототехники, необходимо думать о будущем и рассматривать эту проблему с самых разных точек зрения.
1. ИИ меняется со временем. Сегодня искусственным интеллектом чаще всего называют машинное обучение – программные подходы, использующие различные алгоритмы и методы, такие как линейная регрессия, деревья решений, Байесовы сети, эволюционные алгоритмы и искусственные нейронные сети. В 1960-х годах крупнейшим достижением ИИ были подвижные роботы, сегодня – победа над мастерами игры го. Наше представление о том, что такое искусственный интеллект, меняется с прохождением каждой важной вехи в этой области.
2. Универсальный искусственный интеллект пока не создан, но мы уже окружены «узкоспециализированным ИИ». Сегодняшние интеллектуальные системы все лучше справляются с выполнением конкретных, четко поставленных задач, но им все еще недостает понимания более широкого контекста и здравого смысла – того, что люди считают само собой разумеющимся. Тем не менее поисковые алгоритмы Google, способность вести диалог, которой обладает программа-помощник Siri, разработанная компанией Apple, и прогнозирование следующего слова, которое вы собираетесь напечатать на смартфоне, – все это примеры узкоспециализированного ИИ. Другие важные, но менее заметные применения ИИ – средства обеспечения кибербезопасности, контекстная реклама в Интернете, системы управления промышленными роботами и автономными автомобилями, методы обобщения текстовой информации и диагностики определенных заболеваний.
3. ИИ, роботы и люди работают лучше, когда делают это вместе. Люди, играющие в шахматы при помощи шахматных программ на основе ИИ, побеждают и других людей, и другие компьютеры, играющие без человеческой поддержки{141}. Интеллектуальные роботы тоже выигрывают от сотрудничества с людьми: Университет Карнеги – Меллона создал коллаборативных роботов CoBot, которые помогают посетителям найти место встречи и выполняют различные задания, например приносят документы. Эти роботы просят у людей помощи, когда им требуется, например, поднять объект, вызвать лифт или найти дорогу домой, если они потерялись.
4. Системам на основе ИИ требуется наша помощь в установке целей. Возможно, мы преувеличиваем угрозу появления в ближайшем будущем «искусственного сверхинтеллекта», но нельзя сомневаться в том, что интеллектуальные системы могут привести к вредным или непредвиденным последствиям, если мы не позаботимся о направлении их к нужным нам целям. Как сказал Стюарт Расселл, ключ к успеху – учить ИИ вести наблюдения за людьми и сопоставлять свои цели с целями и ценностями человека.
5. Многие из сегодняшних интеллектуальных систем работают по принципу «черного ящика». Мы не до конца понимаем, как некоторые из наиболее популярных алгоритмов машинного обучения, например искусственные нейронные сети и методы глубокого обучения, приходят к своим выводам. Разобраться в этих процессах технически возможно, но ИИ может изменить используемый подход во время принятия следующего решения. Это значит, что результаты проверить сложно, и это в некотором смысле ограничивает возможность людей учиться у машин, самостоятельно принимающих решения.
6. Ресурсы, на основе которых создается искусственный интеллект, открыты и общедоступны. Значительная часть инновационной работы в области машинного обучения выполняется исследовательскими отделами университетов и коммерческих организаций по всему миру. Немалая доля полученных знаний публикуется в открытых источниках, и на это есть веские основания: без прозрачности нам будет нелегко изолировать проблемы и вносить важные корректировки. Нужно всего несколько минут, чтобы найти расположенного в облаке интеллектуального «бота», который поможет в обработке естественного языка или распознавании изображений.
7. Для использования ИИ необходимо упорядочить данные. Хотя существуют системы ИИ, помогающие извлекать пользу из данных, полученных из открытых источников, для применения частных данных в машинном обучении необходимо соответствующим образом организовать и защитить их. Управление данными – одна из самых больших сложностей для многих организаций. К счастью, разрабатываются системы ИИ, помогающие искать данные в системах и на серверах компаний и подготавливать их для использования.
8. Даже лучшие интеллектуальные системы подвержены ошибкам и отклонениям. Точность и полезность любого алгоритма зависит как от особенностей самого алгоритма, так и от данных, используемых для обучения. Есть множество примеров того, как мощные алгоритмы давали сбои и приходили к совершенно неверным результатам из-за некорректных спецификаций или выбора неподходящих данных для обучения.
9. ИИ и робототехника не сделают человека ненужным, а изменят его задачи. За очевидными исключениями (такими как водители, доставляющие грузы, и кассиры в супермаркетах), полной автоматизации поддается довольно небольшой процент рабочих мест. Вместо этого, как показали исследования компании AlphaBeta, самым значительным влиянием ИИ и роботов на будущий рынок труда будет автоматизация ряда повторяющихся или технических задач, благодаря чему люди получат больше времени для творческой работы и межличностного взаимодействия.
10. Влияние ИИ и робототехники зависит от того, как мы будем использовать эти технологии. Определяющее значение будут иметь способы их практического применения для решения реальных проблем. Поэтому с расширением возможностей и влияния интеллектуальных систем и роботов будет расти и важность принимаемых директорами и менеджерами решений относительно того, где и когда их использовать.
1. В последние годы возможности ИИ быстро расширяются благодаря методам машинного обучения, использующим преимущества, предоставляемые постоянно увеличивающимися объемами доступных данных, многочисленными датчиками и растущими вычислительными мощностями. Машинное обучение достигло уровня, на котором стало возможно достаточно близко имитировать человеческие действия (или превосходить их) в определенных рамках, например, в компьютерных играх, обработке запросов потребителей, медицинской диагностике и управлении автономными автомобилями.
2. В последние десять лет потенциал робототехники вырос благодаря использованию ИИ для управления новыми физическими системами. Люди и машины, работая вместе, смогут сократить число задач, для выполнения которых необходимы специально обученные опытные специалисты – врачи, юристы, пилоты, водители грузовиков. Это создает беспокойство относительно того, какой будет роль человеческой компетенции и насколько нужны будут человеческие суждения и интеллект для выполнения многих функций, которые можно делегировать автоматизированным системам.
3. Инновационные компании и предприниматели, использующие искусственный интеллект для анализа больших наборов свободно доступных данных, таких как спутниковые снимки, превращают эти данные в новый источник ценности. Использование ИИ в качестве генератора новых идей на основе свободно доступных данных вносит важный вклад в экономику и науку и может приносить большую пользу для принятия решений в таких областях, как мониторинг и защита окружающей среды.
4. Этические вопросы использования ИИ и робототехники имеют высокий приоритет у многих людей и организаций, поскольку ИИ способен повлиять на все аспекты нашей жизни, от рынка труда до управления автомобилями и принятия решений о выдаче кредитов. Эти этические вопросы часто связаны с вопросами прозрачности, согласия пользователей и предвзятости, заложенной в алгоритмы, на основе которых работает ИИ.
5. В области ИИ и робототехники потребуются коллективные усилия по управлению, поскольку вопросы урегулирования конфликтов, определения этических стандартов, норм использования данных и общей политики приобретают приоритет в глобальном масштабе. Например, роботы под управлением ИИ, такие как смертоносное автономное оружие, вызывают глубокую обеспокоенность международных организаций, понимающих угрозу их использования в глобальных и местных конфликтах.
Глава 9
Передовые материалы[19]
Материалы – это строительные блоки для инноваций Четвертой промышленной революции. В следующие 20 лет умение манипулировать, в том числе на атомном уровне, базовыми элементами, из которых состоят материалы, поможет в решении многих насущных мировых проблем. Инновации будут возникать под влиянием цикла обратной связи: достижения в материаловедении помогут совершать прорывы в вычислительных технологиях, а те в свою очередь помогут ученым создавать новые продукты – от синтетических организмов до графеновых аккумуляторов.
Возможно, датчики научатся преобразовывать тепловые отходы в электричество, наноботы смогут доставлять лекарственные препараты в ткани для восстановления клеточных повреждений, а материаловедение поможет решить множество других проблем, но все это требует тщательных исследований и долгосрочных инвестиций. Впрочем, новые материалы и нанотехнологии могут принести не только пользу. Нанозагрязнения способны нанести огромный ущерб экологии, нанодатчики создадут большую угрозу для конфиденциальности и безопасности, а передовые материалы могут использоваться для создания более мощных взрывчатых веществ и химического оружия. Если мы хотим применять новые способы управления материальным миром с максимальной выгодой для бизнеса, общества и окружающей среды и минимальным непредвиденным ущербом, необходимы общие рамки управления и обширные исследования экологических последствий.
Слияние, расходы и временны́е рамки
Разработка передовых материалов повлияет на большинство, если не на все аспекты Четвертой промышленной революции (рис. 18). Достижения в этой области необходимы для развития технологий, относящихся к самым разным областям, таким как производство, хранение и передача энергии, очистка воды и создание потребительской электроники. Материалы могут быть незаметны, но они буквально создадут другой физический мир. Они реорганизуют цепочки поставок, преобразуют окружающую среду и изменят потребительское общество. Новые материалы нужны для удовлетворения постоянно растущих требований к производительности. Миру необходимо рациональное производство таких материалов для решения глобальных проблем человеческой цивилизации. Слияние технологий и отраслей науки поможет получить от передовых материалов и нанотехнологий максимум пользы. Например, разработка искусственного интеллекта и роботизированных платформ в сочетании со зрелыми экосистемами стартапов может значительно ускорить инновации в этом пространстве.
В идеале компоненты для создания передовых материалов должны добываться экологически ответственными способами, состоять из распространенных на Земле элементов и производиться с использованием экологически безопасных процессов, интегрированных в круговую экономику. Кроме того, они должны иметь низкую токсичность и наносить окружающей среде минимум ущерба. Тем не менее одних лишь рыночных стимулов, включая потребительский спрос и риск для репутации, может быть недостаточно, чтобы производители материалов приняли на себя ответственность за последствия для окружающей среды.
С появлением на рынке новых материалов необходимо разрабатывать стратегии их эффективной переработки, повторного и альтернативного использования. Кроме экономической мотивации и угрозы для репутации, для возложения на производителей ответственности за ущерб окружающей среде необходимо законодательное регулирование. К счастью, для обеспечения экологичности можно использовать инновационные решения, предлагаемые другими технологиями Четвертой промышленной революции. Например, технологии блокчейн позволяют создать международную базу надежных источников материалов и реестр записей о вторичном сырье. Кроме того, базы данных могут способствовать установлению связей между участниками для организации переработки и использования отходов производства.
Еще одна проблема, требующая внимания, – прибыльность новых технологий. Для массового производства материалов необходимы более высокие показатели эффективности и снижение расходов. Например, человечество никогда не хранило энергию в масштабах, необходимых для работы предприятий. Для перехода на возобновляемые источники энергии из-за присущей им нестабильности потребуются хранилища тераваттной емкости. Одна из инноваций, способных сократить расходы на хранение энергии, – проточные батареи. Это многообещающие хранилища энергии, но, чтобы они были конкурентоспособны на большинстве энергетических рынков, стоимость высокопроизводительных мембран должна снизиться на 50 %. К тому же в некоторых проточных батареях используются переходные металлы, такие как ванадий, которые недостаточно распространены в природе, чтобы их можно было использовать для массового хранения экологически чистой энергии.
Рисунок 18. Примеры передовых материалов и продуктов химической промышленности, используемых в разработке важнейших технологий
Источник: Всемирный экономический форум (2017 г.)
Для открытия, разработки и внедрения новых материалов всегда требовались большие капиталовложения. Кроме того, эти процессы занимают много времени: обычно новые технологии материалов выходят на рынок после 10 или 20 лет фундаментальных и прикладных исследований. Здесь тоже могут помочь другие технологии Четвертой промышленной революции. Роботизированные платформы, использующие искусственный интеллект и крупные базы данных о материалах, способны значительно ускорить разработку передовых материалов. Еще одну проблему, но в то же время и возможность ускорить открытие новых материалов представляет передача знаний между вертикалями индустрий. Для преобразования существующих механизмов открытия новых материалов и перехода на интегрированные платформы необходима поддержка правительства, бизнеса и стартапов. Прогресс в этой области требует непрерывных исследований, долгосрочных инвестиций и многостороннего диалога между участниками.
Бернард Мейерсон (BernardMeyerson), директор по инновациям корпорации IBM, США
Сказать, что передовые материалы прочно входят в нашу жизнь – все равно что ничего не сказать. В исторической перспективе видно, что новые материалы позволяли преобразовать жизнь человека, о чем свидетельствуют названия эпох: каменный век, бронзовый век, железный век. Одна только эволюция орудий труда приводила к революционным изменениям в жизни на планете в каждую из этих эпох, и в последнее время темп этой эволюции значительно ускорился.
Так, усовершенствования всего в одной области – полупроводниковых материалах – произвели революцию в современном обществе. Повсеместное распространение вычислительных и коммуникационных технологий стало возможным благодаря улучшению технологии производства полупроводников более чем в миллион раз за прошедшие четыре десятилетия. В результате огромных продвижений в материаловедении примерно за 40 лет мы прошли путь от отправки человека на Луну с помощью компьютеров, обладающих памятью около 4 Кбайт, до повседневного использования смартфонов, способных без проблем обращаться к 64 Гбайт данных. Проблема в том, что такие темпы нельзя сохранять вечно, а изменение давно сложившихся тенденций может вызывать большие сложности.
Стабильный прогресс привел к уменьшению толщины слоя полупроводниковых материалов в транзисторах до нескольких атомов. При таких размерах начинает проявляться действие законов квантовой механики, что делает следующее поколение материалов бесполезным для практического применения. Поэтому исследования в области передовых материалов направлены на поиск альтернативных путей. Понимая всю серьезность этой проблемы, мы уже можем утверждать, что нас ждут значительные сдвиги, связанные с потенциальными источниками дальнейшего прогресса в информационных технологиях и необходимыми для продвижений в этой сфере знаниями и навыками.
Практически все разработки в области передовых материалов имеют свои последствия для общества. Более того, взаимозависимости этих разработок и социальные последствия весьма значительны. Рассмотрим для примера задачу обеспечения питьевой водой мирового населения, которое в ближайшие двадцать лет вырастет на несколько миллиардов человек. По мере истощения существующих резервуаров и водоносных горизонтов жизненно важную необходимость приобретут энергоемкие методы получения воды, такие как обессоливание. Для широкомасштабного применения этого метода, основанного на очистке обратным осмосом, потребуются более эффективные мембранные материалы.
Однако даже при существенном улучшении мембран потребуются огромные объемы новых энергоресурсов. Передовые материалы помогут решить и эту проблему.
Чтобы получить возможность генерировать энергию, не усугубляя глобальное потепление, необходимы значительные продвижения в разработке материалов, применяемых в энергетических технологиях. Для более эффективного получения возобновляемой энергии с помощью ветрогенераторов, фотоэлектрических и гелиотермических установок требуются улучшенные материалы. Возможно, еще большее значение имеет способность эффективного хранения и извлечения такой энергии, а для этого необходимы материалы, позволяющие усовершенствовать аккумуляторы и повысить шансы на то, что возобновляемые источники заменят традиционные. Есть и другой вариант – инкапсуляция ядерного топлива для создания экономичных ядерных реакторов, использующих газовое охлаждение. При надежной системе удержания топлива и возможности использовать в случае аварии пассивное воздушное охлаждение такие реакторы будут достаточно безопасными.
Глобальные проблемы, с которыми общество сталкивается в условиях постоянно растущего спроса на истощающиеся природные ресурсы, требуют технических и социальных инноваций, позволяющих решать насущные вопросы. Большую помощь в поиске таких решений нам могут оказать достижения в области разработки новых материалов.
Мотивация, сотрудничество и капитальные инвестиции
Чтобы новые материалы и нанотехнологии приносили коллективную выгоду, необходимы общие усилия. Для формирования междисциплинарных групп, занимающихся исследованием, производством и интеграцией передовых материалов, потребуется поддержка академического сообщества, правительства и бизнеса. Чтобы решать стоящие на повестке дня вопросы относительно передовых материалов, необходимы международные коалиции. К счастью, в этой области уже есть примеры совместной работы: исследовательские проекты, такие как инициатива «Геном материалов» (Materials Genome Initiative), и международные коалиции, такие как Mission Innovation – группа, объединившая специалистов из 23 стран, работающих над созданием платформы для разработки передовых энергетических материалов.
Чтобы ускорить обнаружение и внедрение новых материалов, химическая промышленность уже использует инновационные модели из других областей. Например, в сфере разработки программного обеспечения объединение крупных промышленных игроков с предпринимательским капиталом и экосистемой стартапов привело к возникновению эффективного цикла разработки и развития. И хотя разработкой новых материалов занимается гораздо меньше стартапов, ситуация может измениться, если будут созданы инкубаторы, предоставляющие соответствующую инфраструктуру и мотивацию. Инвесторы, понимающие долгосрочность возврата вложений в эту область, должны осознавать и ее потенциал. При должной поддержке молодые компании смогут сосуществовать с крупными многонациональными консорциумами, придерживаясь соответствующих механизмов и культуры взаимодействия.
Такая среда разработки может приносить выгоду всем участникам, позволяя совершать революционные изменения и создавать материалы, которые станут основой для новых технологий и индустрий. В далеком будущем, когда станут обыденностью дальние космические полеты человека и ядерный синтез, для дальнейшего прогресса будут нужны материалы с ранее невозможными характеристиками, такими как устойчивость к высоким уровням радиации. Например, когда появятся космические колонии, им для производства всего необходимого из местного сырья потребуются миниатюрные модульные фабрики, которые будут иметь для человечества того времени то же значение, что и 3D-принтеры сегодня.
По мере развития Четвертой промышленной революции миру будут нужны новые материалы, и решать проблемы, связанные с этими материалами, должны будут коллективные лидеры, умеющие мыслить категориями долгосрочных перспектив, имеющие творческое мышление, способные фокусироваться на важнейших приоритетах снижения рисков.
Рисунок 19. Финансирование Национальной нанотехнологической инициативы США уже более 10 лет превышает 1 млрд долл.
Источник: Национальная нанотехнологическая инициатива США (2017)
В начале 2000-х годов нанотехнологии получили много внимания, в основном обращенного на потенциальные угрозы, связанные с наночастицами, нанозагрязнениями и пресловутой «серой слизью»[20]. С тех пор правительственное финансирование различных организаций увеличилось (рис. 19). Внимание к нанотехнологиям и всеобщее беспокойство привели к появлению международных рекомендаций, таких как инструкции Международного совета по управлению рисками (International Risk Governance Council) для косметической и пищевой отраслей промышленности. Однако сейчас обсуждается более широкий ряд вопросов, включающий новые угрозы конфиденциальности, предоставляемые нанодатчиками и наноботами, способными проникать в защищенные пространства, и риск применения наноматериалов для создания взрывчатки и химического оружия. К множеству вопросов, требующих нашего внимания, можно добавить возможность нанесения другими продуктами, содержащими искусственные материалы, непоправимого ущерба нашему здоровью и окружающей среде.
Из-за разнообразия областей, в которых можно применять передовые материалы и нанотехнологии, сложно создать универсальные нормативные рамки. Зависимость индустрий от материалов не оставляет другого выбора, кроме решения возникающих проблем. Для управления рисками и поиска мотивации к разработке инновационных материалов все заинтересованные стороны должны объединить усилия для решения следующих вопросов:
• Отсутствие консенсуса в отношении проблем, которые можно решить как с помощью технологий, так и с помощью изменения поведения и структур стимулирования. С учетом того, что разные страны находятся на разных этапах развития и имеют разную степень готовности к управлению рисками, возникающими в погоне за экономической выгодой, необходимо согласование приоритетов на международном уровне. Заинтересованные стороны должны организовать сотрудничество для установления международных связей и общих рамок управления.
• Недостаток знаний о влиянии новых материалов и нанотехнологий на окружающую среду и здоровье людей затрудняет создание стандартизированной политики. Чтобы успокоить страхи, связанные с потенциальным вредом нанотехнологий, потребуются всесторонние долгосрочные исследования и институциональные принципы, утверждающие приоритет человеческого здоровья и безопасности окружающей среды.
• Ограничения, связанные с правами на интеллектуальную собственность, затрудняют обмен информацией, позволяющей лучше понимать, что происходит в этой области. Отсутствие точной информации о том, что уже достигнуто, затрудняет также создание эффективной политики для снижения рисков и обеспечения безопасности. Уменьшение юридических препятствий для обмена знаниями поможет ускорить инновационную деятельность.
• Поскольку масштабное производство передовых материалов и нанотехнологий может быть экономически невыгодным, увеличивается риск возникновения нежелательных последствий для окружающей среды и здоровья людей, способных повлиять на межгосударственные отношения. Для контролируемого применения этих революционных технологий потребуются совместные усилия международных лидеров.
1. Достижения в области материаловедения увеличивают возможности технологий, формирующих наш мир и влияющих на наши жизни. Компоненты передовых материалов станут неотъемлемой частью технологий, применяемых в каждой индустрии, и должны производиться экологически безопасными способами. Производители должны принять ответственность за влияние на окружающую среду, а не передавать ее дальше по цепочке создания ценности.
2. Процесс разработки материалов, начинающийся поиском инвестиций и заканчивающийся выходом на рынок, обычно занимает очень много времени (до нескольких десятилетий) и требует больших капиталовложений. Эти сроки можно сократить с помощью создания баз данных материалов и применения машинного обучения, но недостаток мотивации к долгосрочным инвестициям может угрожать инновационному циклу.
3. В результате слияния технологий и получения новых возможностей для инноваций возникнет необходимость в совместных усилиях экспертов, правительства и бизнеса для решения важных вопросов относительно разработки передовых материалов. Например, с помощью открытого финансирования и применения других технологий, таких как распределенные реестры, можно создать и поддерживать базы данных надежных источников материалов и вести записи о происхождении сырья.
4. Необходимость в многостороннем сотрудничестве и риски, связанные с передовыми материалами и нанотехнологиями, ведут к возникновению ряда проблем и делают маловероятной возможность создания универсальных нормативных рамок. По реакции на развитие нанотехнологий, включая инвестиции, создание правовых норм и рекомендаций, можно судить о том, как общество, эксперты и регуляторы отнесутся к другим похожим проблемам.
5. К основным проблемам, связанным с разработкой передовых материалов, можно отнести отсутствие консенсуса по важным вопросам, недостаток сведений о влиянии на экологию, ограничения, связанные с правами на интеллектуальную собственность, риск ухудшения межгосударственных отношений и препятствия для обмена знаниями, необходимыми для развития этой области.
Поделиться книгой: