Помоги проекту - поделись книгой:
«Тест на грамотность» – название, намеренно искажающее смысл процедуры. В данном контексте это не имело никакого отношения к тестированию навыков чтения. Это были сложные тесты, разработанные таким образом, чтобы люди неизбежно их проваливали. Можно долго спорить об их конституционности, но самым неприятным моментом этой хакерской атаки было предоставление местным избирательным органам значительной свободы действий в определении того, какие потенциальные избиратели должны пройти провальный тест. Это позволяло должностным лицам избирательных комиссий отказывать в праве голоса по своему усмотрению. Сам луизианский тест на грамотность 1964 г.{178} можно легко найти в интернете. Например, вот одно из заданий (да-да, вы не сошли с ума): «Напишите в первой строке прописными буквами каждое второе слово из этой фразы, печатными буквами – каждое третье слово [строки были очень узкими], а каждое пятое слово напишите с заглавной буквы».
Перенесемся в день сегодняшний. Алабама по-прежнему использует различные тактики подавления избирателей, чтобы ограничить участие в выборах бывших преступников, представителей меньшинств, иммигрантов и сельских избирателей. Препятствия начинают возводиться уже на этапе регистрации избирателей. Штат не предлагает избирателям ни электронную регистрацию, ни регистрацию в офисах Департамента автотранспорта, ни вообще какую бы то ни было предварительную регистрацию. При этом не существует и системы автоматической регистрации избирателей. По закону штата для регистрации необходимо предъявить документ, подтверждающий гражданство, прямо на избирательном участке. В отношении этого закона проводится федеральное расследование, и, если его оставят в силе, это приведет к еще большей волне отказов в праве голоса представителям меньшинств, у которых часто просто нет паспортов или других документов. Канзас отстранил тысячи новых избирателей от участия в голосовании, используя аналогичное правило.
Исторически сложилось так, что в Алабаме большинство уголовников не имели права голоса. Эта политика также способствовала непропорциональному лишению меньшинств их избирательных прав. Хак заключался в ведении рядом южных штатов «черных кодов», которые классифицировали тривиальные правонарушения (например, кражу скота) как тяжкие уголовные преступления. Афроамериканцы, осужденные за такие преступления, навсегда лишались избирательных прав. В 2017 г. законодательный орган Алабамы отменил этот закон, предоставив почти 60 000 граждан возможность восстановить свое избирательное право. Однако госсекретарь штата не позаботился о том, чтобы предать это нововведение огласке, поэтому многие осужденные до сих пор не знают о своих правах. И даже те преступники, которые о них знают, сталкиваются с существенными трудностями при их реализации из-за административных сложностей и плохого понимания закона чиновниками штата и местными органами власти.
Людей также могут лишить права голоса, исключив в одностороннем порядке их имена из списков избирателей. Обычно при этом исключают тех, кто не голосовал на последних выборах. В основном этот хак работает, поскольку неактивные избиратели вряд ли вернутся на избирательные участки до того, как списки избирателей будут очищены. В Алабаме с 2015 г. из списков избирателей было удалено 658 000 редко голосующих избирателей.
Все это виды административного бремени, которое мы впервые затронули в главе 32. Как правило, подобные хаки не оказывают большого влияния на людей с деньгами и статусом. Но для рядовых граждан с ограниченными ресурсами или временем, инвалидов или тех, кто недостаточно знаком с политическом процессом, такие правила значительно усложняют возможность воспользоваться избирательным правом. Люди пытаются честно следовать этим правилам, но не могут и вынуждены оставить свой голос при себе. Чаще всего такие правила ограничивают участие в выборах представителей малоимущих слоев и меньшинств, которые в основном являются электоратом Демократической партии. В результате подобных хаков только 69 % жителей Алабамы, достигших избирательного возраста, регистрируются для голосования.
40
Другие предвыборные хаки
Еще один хак, посягающий на свободу действий, касается самого процесса голосования. Идея заключается в том, чтобы сделать голосование настолько сложным для имеющих право голоса зарегистрированных избирателей, которые не поддерживают вашего кандидата, чтобы они даже не потрудились прийти на избирательные участки. Многие из приведенных дальше примеров также могут быть классифицированы как административное бремя.
Сразу после ратификации Пятнадцатой поправки южные штаты ввели в действие ограничения на голосование, в которых прямо не упоминалась расовая принадлежность, но затрагивали они тем не менее в основном чернокожих американцев. Поправки включали в себя: подушный налог на голосование, который не могли себе позволить малоимущие, правила, наделявшие избирательным правом только тех, чьи деды имели право голоса до Гражданской войны, и, как уже упоминалось ранее, дьявольски продуманные, точечно применяемые и предвзято оцениваемые тесты на грамотность. Некоторые из этих хаков были запрещены{179} только после принятия Двадцать четвертой поправки, ратифицированной в 1964 г., Закона об избирательных правах 1965 г. и решения Верховного суда США 1966 г. по делу «Южная Каролина против Катценбаха». После того как в 2015 г. Верховный суд отменил ключевые положения Закона об избирательных правах, эта тактика вернулась в виде правил об удостоверении личности избирателя.
В Алабаме, например, потенциальные избиратели должны предъявить удостоверение личности с фотографией, выданное штатом, иначе их не допустят на избирательные участки. Казалось бы, простое и справедливое требование, но в Алабаме с этим не все так просто. Около 25 % избирателей, имеющих право голоса, живут на расстоянии более 10 миль от офиса Департамента автотранспорта, и многие из них не имеют автомобиля. Это наиболее бедные граждане штата, и часто они проживают общинами. Затем власти штата попытались закрыть 31 офис Департамента автотранспорта, в которых выдаются не только водительские права, но и обычные удостоверения личности. Все офисы располагались в шести округах, где афроамериканцы составляют более 70 % населения. После возражений со стороны министерства транспорта США этот план был отклонен. Тем не менее более 100 000 взрослых жителей Алабамы не имеют приемлемых удостоверений личности для голосования. И хотя это соответствует чуть менее 3 % от общего числа избирателей штата, эта цифра означает 10 % от числа избирателей-афроамериканцев.
Могут существовать законные разногласия по поводу необходимости введения административного барьера и поддержания относительного баланса между предоставлением возможности получения пособия тем, кто действительно в нем нуждается, и препятствованием его получения всеми остальными. Да, важно обеспечить возможность голосования только для тех избирателей, которые имеют право голоса. Но поскольку фактический уровень фальсификаций такого рода крайне низок (что было неоднократно подтверждено судами по всей стране), совершенно очевидно, что описанные выше меры направлены в первую очередь на то, чтобы лишить избирателей, имеющих право голоса, возможности проголосовать.
Наконец, людям может помешать банальное отсутствие избирательных участков рядом с домом{180}. Алабама с 2013 г. снижает число избирательных участков, причем в основном за счет закрытия оных в афроамериканских кварталах. Например, город Дафни с населением 28 000 человек в 2016 г. сократил количество избирательных участков с пяти до двух, и все три закрытых участка были расположены в преимущественно афроамериканских районах города.
Может сложиться впечатление, что в этих главах я решил разделаться с Алабамой, но на самом деле и другие штаты не менее агрессивны в подавлении избирателей, и это усиливающийся процесс. Джорджия, например, тоже требует от избирателей удостоверения личности и подтверждения гражданства штата, чистит списки избирателей, сокращает время досрочного голосования и закрывает избирательные участки, сосредоточенные в афроамериканских районах. О Флориде даже не буду заикаться. И, кроме того, сегодня по всей стране принимаются меры, направленные на подавление молодых избирателей, особенно идеалистически настроенных студентов, которые в основном поддерживают Демократическую партию.
Джерримендеринг – хак не новый. Это слово происходит от имени губернатора Массачусетса, подписавшего Декларацию независимости, Элбриджа Герри (Джерри), который в 1812 г. принял законопроект, согласно которому в штате был сформирован избирательный округ причудливых очертаний, напоминавших саламандру (gerrymander буквально означает «саламандра Джерри»). Такое произвольное манипулирование границами округа позволило консолидировать и усилить голоса федералистов и расколоть голоса Демократическо-республиканской партии. Основная идея здесь заключается в том, что, если вы можете контролировать пропорции избирателей в избирательных округах, вы прямо влияете на то, кто одержит победу, и таким образом добиваетесь доминирования в многоокружном законодательном органе. Вы подстраиваете демографические данные таким образом, чтобы ваша партия выиграла в большинстве округов с небольшим перевесом, скажем в 10 %, а другая партия набрала по 90 % голосов, но всего в нескольких округах.
Существует две тактики джерримендеринга. Первая – «упаковать» округ так, чтобы в него попало как можно больше избирателей оппозиционной партии. Это помогает правящей партии победить в соседних округах, где сила оппозиции ослаблена. Вторая тактика – «расколоть» округ, разделив скопления оппозиционных избирателей между несколькими округами так, чтобы в каждом округе их осталось меньше.
Основная проблема заключается в конфликте интересов: законодатели, отвечающие за формирование округов, являются теми, кто получает выгоду от их демографических характеристик. Решение, очевидное для любого, кто изучал этот вопрос, состоит в разделении полномочий. Округа должны формироваться независимыми комиссиями, члены которых не заинтересованы в результатах выборов. Мичиган в 2018 г. одобрил инициативу, предусматривающую именно такую процедуру. То, что республиканцы штата продолжали бороться с этой комиссией даже в 2020 г., свидетельствует о силе хакеров, занимающихся джерримендерингом.
Помимо вопросов о том, как и в каком округе голосуют граждане, существует бесчисленное множество рычагов, которые политики могут использовать для хакинга избирательного процесса. Государственные должностные лица часто имеют право планировать выборы по своему усмотрению, регистрировать и пересчитывать голоса, а также определять, какие кандидаты и предложения будут включены в избирательный бюллетень. На своих территориях избирательные комиссии могут даже дисквалифицировать кандидатов за несвоевременную подачу документов, недостаточную поддержку или другие технические проблемы. Выборочное использование этих полномочий однозначно является хакингом.
И последняя тактика: в 2018 г. губернатор Висконсина Скотт Уокер просто отказался назначать внеочередные выборы в законодательные органы штата, опасаясь, что их выиграют демократы. В итоге федеральный судья Апелляционного суда обязал его провести выборы. Губернаторы Флориды и Мичигана также пытались прибегнуть к такому методу. В том же 2018 г. Стейси Абрамс едва не проиграла губернаторские выборы в Джорджии Брайану Кемпу, который в то время курировал выборы в качестве госсекретаря и незадолго до них очистил списки от полумиллиона зарегистрированных избирателей.
41
Деньги и политика
Деньги могут контролировать информацию и выбор. За деньги можно купить свободу действий, то есть власть осуществлять изменения. Это политическое хакерство, поскольку оно подрывает цель демократического процесса голосования. В особенности это касается США, где выборы стоят неестественно дорого.
Причины такого положения дел довольно сложны, но все-таки я выделю четыре основные. Во-первых, избирательные циклы в США длятся долго: кандидаты начинают предвыборную кампанию более чем за год до самих выборов. Для сравнения: японские избирательные кампании длятся 12 дней от начала до конца, а французские – две недели. Выборы в Великобритании проходят в среднем после двух – четырех недель предвыборной кампании. Ни один австралийский или канадский предвыборный сезон никогда не превышал 11 недель, и этот экстремум имел место аж в 1910 и 1926 гг. Во-вторых, партийная дисциплина в США слабее, чем в других странах. Там, где партийная дисциплина сильна, не имеет смысла финансировать конкретных кандидатов и сталкивать их друг с другом на праймериз. В-третьих, США – большая страна с многочисленным населением, дорогими рынками телевизионной рекламы, и, в отличие от других стран, здесь отсутствуют ограничения на расходы избирательных кампаний. И в-четвертых, в законах США о раскрытии пожертвований достаточно лазеек, чтобы снизить политическую ответственность тех, кто принимает неправомерные пожертвования на избирательную кампанию (например, от лиц, не являющихся гражданами США).
Существует мощный стимул для хакинга систем, регулирующих финансирование избирательных кампаний, а также использование кандидатами своих избирательных фондов для взлома политического процесса.
Привилегированному классу нравится проворачивать подобные хаки и добиваться их легализации, поскольку они увеличивают политическое влияние. После принятия Федерального закона об избирательных кампаниях 1972 г. и поправок к нему 1974 г., ограничивающих добровольные пожертвования и расходы, постановление 1976 г. запретило расходы на поддержку партии или кандидата, не согласованные с самой партией или самим кандидатом{181}. Это привело к появлению так называемых
Конечно, деньги не гарантируют политический успех, но их отсутствие почти всегда гарантирует провал. Как утверждает профессор права из Гарварда Лоуренс Лессиг{182}, «чтобы иметь возможность баллотироваться на выборах, сначала нужно очень тщательно самому сделать выбор, связанный с деньгами». Деньги могут поддерживать кандидатов в таком длительном политическом процессе, как система президентских выборов в США. Мы видели это на республиканских праймериз 2012 г.{183}, когда миллиардеры Шелдон Адельсон, Фостер Фрисс и Джон Хантсман-старший оказали огромное влияние на процесс, единолично финансируя кандидатов. Это что-то вроде системы венчурного капитала для политики. Вам не нужно быть лучшим и умнейшим, вам просто нужно убедить богатых инвесторов в том, что ваша кандидатура – это хорошая ставка.
Деньги также могут помочь посеять хаос. В США де-факто существует двухпартийная система, поэтому одна из стратегий состоит в финансировании независимого или стороннего кандидата, который будет оттягивать голоса у вашего оппонента. Если вы республиканец, то можете профинансировать какого-нибудь независимого новичка-либерала, который будет конкурировать с демократом, лидирующим в гонке, и тем самым подорвать его позиции. Если вы демократ – финансируйте независимого кандидата от консерваторов, чтобы разделить голоса республиканцев.
В США такой хак с самовыдвиженцами провернуть довольно непросто, поскольку обе партии заинтересованы в устранении этой уязвимости. В некоторых штатах установлены ранние сроки подачи документов, предусмотрены штрафные санкции для кандидатов, поздно вступающих в гонку, или введены правила, усложняющие попадание в избирательный бюллетень кандидатов, не являющихся ни демократами, ни республиканцами. В 44 штатах действуют законы, которые не позволяют проигравшему на первичных выборах баллотироваться на всеобщих выборах в качестве независимого кандидата.
Однако это не значит, что подобное никогда не происходит. Увидев, как Ральф Нейдер повлиял на выборы 2000 г., республиканские активисты по всей стране попытались воспользоваться кандидатами от Партии зеленых{184}, чтобы переманить голоса от демократов. В Сиэтле 18-летний бывший волонтер Нейдера по имени Янг Хан подумывал о том, чтобы принять участие в выборах 2002 г. в Законодательное собрание штата. Некий «г-н Шор» помог Хану организовать кампанию, а также сделал пожертвование на нее. На самом деле этот человек был республиканским стратегом из Вашингтона, округ Колумбия. Его жена аналогичным образом поддерживала кандидата от Партии зеленых в предвыборной гонке в Сиэтле. Позже нечто подобное происходило в Аризоне в 2010 г., в Нью-Йорке в 2014 г. и в Монтане в 2018 и 2020 гг. Республиканцы помогли Канье Уэсту попасть в бюллетень президентских выборов 2020 г., надеясь, что он оттянет голоса у Джо Байдена. В итоге эти хакерские попытки провалились: в теории все куда проще, чем на практике.
С помощью хакинга можно также внести неразбериху и облегчить себе победу. В 2020 г. на выборах в конгресс во Флориде «бывший» республиканец по имени Алекс Родригес выдвинул свою кандидатуру против однофамильца{185}, сенатора-демократа от штата Флорида Хосе Родригеса, и присвоил себе коронную тему сенатора – изменение климата. Алекс не имел достаточного политического опыта и фактически не проводил полноценную кампанию, но в результате путаницы он получил целых 3 % голосов, и в результате после ручного пересчета с перевесом в 32 голоса победила республиканка Илеана Гарсия. Кампания Алекса Родригеса была поддержана пожертвованием в $550 000 от недавно созданных компаний Proclivity, Inc. и PAC, аффилированных с представителями Республиканской партии.
Стратегия разделения голосов может быть доведена до крайности. В Индии довольно часто простым гражданам с такими же именем и фамилией, как у политического оппонента, предлагают баллотироваться на тот же пост{186}. Например, на парламентских выборах 2014 г. 5 из 35 кандидатов, претендовавших на конкретный пост, носили имя Лакхан Саху, и только один из них был реальным политиком с законодательным послужным списком. Кандидат от основной противоборствующей партии назвал тот факт, что так много Лакханов Саху вступили в борьбу в одно и то же время, «простым совпадением».
В США общей уязвимостью является сама двухпартийная система, но не меньшую опасность в плане хакинга представляет система выборов, в которой победитель получает все. Поскольку мы не требуем, чтобы кандидаты набирали абсолютное большинство голосов, ограничиваясь большинством относительным, у кандидата меньше шансов на победу, если другой кандидат имеет схожий политический профиль (или даже просто похожее имя) и разделяет голоса потенциальных сторонников.
Одним из способов решения проблемы является
42
Хакинг на разрушение системы
В 1729 г. Париж объявил дефолт по своим муниципальным облигациям, поэтому правительство организовало лотерею, в которой каждый держатель облигаций мог купить столько билетов, сколько позволяли его облигации. Каждый билет стоил одну тысячную стоимости облигации, и каждый месяц правительство случайным образом выбирало одного победителя и выдавало ему номинальную стоимость облигации плюс бонус в размере 500 000 ливров.
Вольтер (тот самый) заметил, что размеры выплат превышали количество билетов в обращении, поэтому он пошел на хитрость и вместе с несколькими богатыми покровителями создал синдикат, чтобы скупить все необходимые облигации и билеты. Месяц за месяцем они получали свои выигрыши и менее чем за два года заработали около 7,5 млн франков ($100 млн в сегодняшних долларах).
Организаторы парижской лотереи в конце концов поняли, что большинство выигрышей уходит в руки одним и тем же людям. Вольтер, будучи Вольтером – то есть зная, что ничто хорошее не длится вечно, так почему бы не повеселиться, – на обратной стороне каждого билета оставлял загадки, что облегчило правительству выслеживание хакера. Министр финансов Франции подал на синдикат в суд, но, поскольку его участники не совершили ничего противозаконного, им разрешили оставить выигрыши себе. После этого случая парижское правительство просто закрыло лотерею{187} – мера эффективная, хотя и крайняя.
Совсем недавно в штате Огайо был создан веб-сайт, через который работодатели могли сообщать о сотрудниках, отказавшихся работать во время пандемии COVID-19, чтобы они не получали пособие по безработице. Некий хакер понял, что в процессе подачи отчета отсутствует аутентификация: его мог подать кто угодно. Поэтому, чтобы привлечь внимание к проблеме, он написал программу, которая автоматически отправляла поддельные отчеты{188} (преодолевая даже CAPTCHA), и разместил ее в интернете. Мы не знаем, сколько таких отчетов в результате было подано через онлайн-систему. Официальные лица штата Огайо утверждали, что им удалось их отсеять, но в итоге штат отказался от использования подобных отчетов для исключения людей из списков безработных.
В главе 10 я объяснил, почему хакеры – это паразиты. Как и любой паразит, хакер должен балансировать между подрывом системы и ее разрушением. Слишком много хакинга – и система рухнет. Иногда, как в случае с парижской лотереей, система упраздняется в результате того, что хак оказался слишком успешным. В других случаях, как в примере с сайтом по сбору данных о безработице, отключение системы как раз и являлось целью хакера.
Финансово мотивированные хакеры, как правило, не стремятся разрушить системы, которые взламывают. Если хакнуть слишком много банкоматов, они просто исчезнут как явление. Если спорт начнут хакать все кому не лень, он перестанет быть интересным, зачахнет и умрет. Большинство хакеров хотят сохранить систему, но добиваться при этом лучших результатов. Если они и разрушают систему, то обычно это происходит непреднамеренно.
Но бывают исключения, когда хакеры следуют каким-то моральным или этическим принципам. Они хакают систему, потому что она им не нравится, а не потому, что хотят извлечь выгоду. Как и в случае со взломом сайта по безработице в Огайо, их цель – снизить функциональность системы, подорвать ее эффективность или полностью уничтожить. Мы видели пример такого хакинга в 2020 г., когда пользователи TikTok скоординировали свои действия и создали поток фальшивых регистраций на предвыборный митинг Трампа в Талсе{189}, чтобы обеспечить полупустой стадион. Это был элементарный хак, поскольку для бронирования билета достаточно было ввести фиктивный адрес электронной почты и фиктивный номер телефона, полученный через Google Voice. Система продажи билетов в конечном итоге не была разрушена, но низкая явка смутила Трампа, и его штаб перешел на другие, менее уязвимые системы продажи билетов.
Какова бы ни была мотивация, хакерские атаки способны разрушать социальные системы в гораздо больших масштабах, чем лотерея Вольтера, билетная система Трампа или пособия по безработице в Огайо. Намеки на это мы видели в банковском кризисе 2008 г., когда неоднократные взломы системы чуть не разрушили всю финансовую сеть США. Намеки на это мы видим, наблюдая за финансированием американской политики, политической дезинформацией и социальными сетями. И это же происходит во время политических революций, когда все социальные механизмы хакаются с совершенно иными целями. Поэтому, хотя хакинг может быть полезен и даже необходим для эволюции системы, иногда его может быть слишком много.
Возьмем другой экономический пример – печатание бумажных денег. Бумажные деньги существуют по крайней мере с XI в., с эпохи правления династии Сун в Китае, и, вне всяких сомнений, являются хаком. Валюта должна представлять собой некую реальную экономическую ценность, но сегодня большинство правительств имеют возможность печатать столько валюты, сколько потребуется, независимо от того, сколько на самом деле производит экономика. Это означает, что правительства могут взламывать системы государственного финансирования, создавая достаточное количество новых денег для оплаты своих счетов, вместо того чтобы финансировать программы за счет налогов или частных инвесторов. В Европе этот хак впервые появился благодаря экономисту Джону Ло, который таким образом помог французскому королю Людовику XV оплачивать войны.
Бумажные деньги – это пример полезного хака, ставшего сегодня нормой. Возможность печатать деньги может иметь огромное значение во время экономических кризисов. Именно так правительство США финансировало интервенции, которые успокоили рынки в 2008–2009 гг., и ограничило экономические последствия пандемии и карантина в 2020 г. И это же помогло правительству США финансировать массовые военные мобилизации.
Но когда правительства начинают полагаться на печатный станок для обслуживания внешнего долга, все может пойти из рук вон плохо. Хотя гиперинфляция случается редко, она способна нанести невероятный ущерб в кратчайшие сроки. Когда в 2007 г. Зимбабве переживала гиперинфляцию{190}, зимбабвийский доллар за один год потерял более 99,9 % своей стоимости, средний уровень благосостояния местных жителей упал ниже уровня 1954 г., а денег, на которые когда-то можно было купить 12 автомобилей, перестало хватать даже на буханку хлеба. Венесуэлу гиперинфляция настигла в 2017 г.{191} и в итоге взвинтила цены настолько, что средней семье потребовалось зарабатывать в 100 с лишним раз больше значения минимальной заработной платы, только чтобы покупать самое необходимое. Это привело к тому, что более 10 % населения эмигрировало из страны.
Другие примеры хакерских атак с целью разрушения связаны с недавним приходом к власти ряда авторитарных правительств в таких странах, как Россия, Сирия, Турция, Филиппины, Венгрия, Польша, Бразилия и Египет. Выборы там все еще проводятся, и голоса все еще подсчитываются. Законодательные органы по-прежнему принимают законы, а суды обеспечивают их исполнение. Права на свободу слова и свободу ассоциаций часто остаются в силе, по крайней мере формально. Но все эти механизмы и институты были взломаны и поставлены на службу диктатурам.
И наоборот, некоторые системы необходимо взломать, чтобы уничтожить. Бойкоты и гражданское неповиновение в целом – это хакерские атаки: они нарушают правила рынка и привычной политики, чтобы выразить протест против несправедливости. Обратная реакция, которую они вызывают, делает явными скрытые в системах насилие и жестокость, сдвигая политическую повестку в сторону разрушения таких систем, как дискриминационные законы, которые долгое время считались нормой. Задача, с которой мы сталкиваемся, заключается в том, чтобы убедиться, что наши хаки разрушают плохое, оставляя при этом хорошее… и понимать, что из этого что.
Часть VI
Хакинг когнитивных систем
43
Когнитивные хаки
Вот хак, который я регулярно использовал в 1990-х гг., когда мы еще пользовались бумажными авиабилетами, чтобы сэкономить на перелетах. Получение бумажного посадочного талона было отдельным от покупки билета действием, его можно было получить за несколько недель до полета, и для этого нужно было пообщаться с реальным человеком.
В те времена я жил в Вашингтоне, округ Колумбия, и много летал по работе. Скажем так, у меня были причины проводить выходные в Чикаго, но работодатель не позволял делать дорогостоящую остановку. Однако у меня был хак. Скажем, у меня есть билет из Сиэтла в Вашингтон с пересадкой в Чикаго на воскресенье. Сначала я должен пойти в кассу авиакомпании и получить распечатанные посадочные талоны, которые агент прикрепляет степлером к моим билетам. Я откреплял их и прятал, а на другой день возвращался в кассу и менял оба рейса на пятницу (в те времена поменять билеты стоило недорого). Агент авиакомпании вводил изменения в компьютер и выдавал мне новую пару посадочных талонов, снова прикрепленных степлером к тому же билету. В пятницу, как и предполагалось, я летел из Сиэтла в Чикаго, затем проводил там выходные, а вернувшись в аэропорт в воскресенье, подходил к выходу на посадку на рейс Чикаго – Вашингтон с оригинальным билетом и первым посадочным талоном, который я сохранил. Несмотря на то что компьютер не показывал бронь на мое имя, у меня был билет с правильной датой и посадочный талон с воскресного рейса Сиэтл – Чикаго, чтобы показать, если у кого-то возникнут сомнения. Сбитый с толку, агент игнорировал то, что сообщал ему компьютер, выдавал новый посадочный талон и пропускал меня в самолет.
Это был отличный хак, и он работал до тех пор, пока авиакомпании не перешли на электронные билеты и не отказались от бумажных посадочных талонов. Но что именно я взламывал? Уж точно не систему бронирования авиабилетов. Компьютер четко сказал, что у меня нет брони на этот рейс. На самом деле я хакал самого агента авиакомпании, контролирующего посадку. Я был уверенным в себе белым мужчиной, совершающим деловую поездку, с надлежащим образом оформленным билетом и посадочным талоном в руках. Проблема могла быть связана с компьютерной ошибкой, – по крайней мере, именно такое предположение в итоге делал агент. Это может показаться странным, но хакал я не что-нибудь, а человеческий мозг.
Наш мозг – это система, которая развивалась в течение миллионов лет, чтобы поддерживать жизнь на уровне каждой особи и, что более важно (с точки зрения генов), – чтобы поддерживать воспроизводство вида. Он был оптимизирован благодаря постоянному взаимодействию с окружающей средой, но оптимизирован для людей, которые жили небольшими родовыми общинами на Восточно-Африканском плоскогорье 100 000 лет назад. Человеческий мозг не слишком хорошо подходит для жизни в Нью-Йорке, Токио или Дели XXI в. Чтобы приспособиться к современной социальной среде, он вынужден задействовать множество когнитивных функций, а значит, им можно манипулировать.
Будет упрощением говорить о том, что биологические и психологические системы человека являются системами «естественными», а затем заявлять, что хакинг подрывает их цели. Эти системы функционируют и развиваются незапланированно. Тем не менее такой упрощенный подход может дать полезную основу для обсуждения. Мы можем ссылаться на «цель» биологических и психологических систем – например, на цель поджелудочной железы или цель чувства доверия – без необходимости выходить за рамки эволюционных процессов. (Здесь уместна аналогия с экономическими и политическими системами, у которых тоже нет единого проектировщика.) Хакинг творчески подрывает эти системы. Как и взломы созданных человеком систем, когнитивные хаки используют уязвимость, чтобы подорвать цель когнитивной системы.
Когнитивные хаки обладают невероятной силой. Многие социальные системы, на которые опирается наше общество, – демократия, рыночная экономика и т. д. – зависят от людей, принимающих рациональные решения. В предыдущих главах мы рассматривали хаки, которые успешно ограничивали один из трех внешних аспектов этого процесса: информацию, выбор и свободу действий. В этой и следующих главах мы узнаем, как процесс принятия решения взламывается напрямую – непосредственно в нашем сознании.
Возьмем, к примеру, дезинформацию – хак, который подрывает наши системы свободы слова и свободы прессы. Дезинформация – понятие далеко не новое. Геббельс, гитлеровский министр пропаганды, однажды сказал{192}: «Одной из лучших шуток демократии навсегда останется то, что она дала своим смертельным врагам средства, которыми же и была уничтожена». Дезинформация подрывает многие когнитивные системы, о которых мы будем говорить дальше: внимание, убеждение, доверие, авторитет, трибализм[27], а иногда и страх.
В отличие от других хаков когнитивные хаки относятся к более высокому уровню общности. Фактически, они являются самыми общими в иерархии хаков. В то время как законы регулируют экономические операции и другие сферы жизни общества, законодательные органы и суды отвечают за создание и пересмотр законов, а Конституция страны (или аналогичный документ) устанавливает законодательный процесс и судебную систему. Но наши социальные системы – и системы технологические, в той мере, в какой они взаимодействуют с пользователями, – зависят от того, что люди думают и насколько задействуют свои когнитивные функции, чтобы разобраться в той или иной ситуации. Если вы можете хакнуть мозг, то сможете взломать и любую систему, управляемую человеком.
Когнитивные хаки так же стары, как и наш вид. Многие из них были нормализованы так давно, что мы даже не задумываемся о них, не говоря уже о том, чтобы считать их хаками. Поскольку мы sapiens, разработавшие теорию собственного сознания и обладающие способностью планировать далеко вперед, мы подняли хакинг как таковой до уровня сложности, не доступной ни одному из известных нам видов. Как и многие хакерские приемы, описанные в предыдущих главах, когнитивные хаки нацелены на информацию, выбор или свободу действий, которые необходимы людям для принятия обдуманных и эффективных решений.
Что изменилось за последние полвека, так это возможности для манипулирования восприятием других людей – компьютеры и компьютерные интерфейсы предоставляют нам их в широком ассортименте. В сочетании с компьютерными алгоритмами и поведенческими науками они повысили скорость и изощренность вмешательства в работу сознания, а это ведет уже к качественным изменениям.
Однако паниковать не стоит. Писатель и активист Кори Доктороу предостерегает нас{193} от слепой веры в то, что «высокие технологии использовали большие данные для создания луча, контролирующего наш разум, чтобы втюхивать людям спиннеры». То, о чем пойдет речь в следующих главах, – не более чем пища для размышлений. Однако я думаю, что игнорировать опасения в этой сфере не стоит: ИИ будет делать методы манипулирования все более эффективными.
Патчи, как правило, не работают с когнитивными системами, хотя осознание факта взлома уже само по себе является патчем. Защита от когнитивных хаков сводится к превентивным мерам и смягчению нанесенного ими ущерба. Многие мошеннические игры паразитируют на наших эмоциях – жадности, доверии, страхе и прочих. Взять и поставить заплатку на мозг невозможно, но можно использовать другую систему, чтобы объявить конкретные хаки незаконными – то есть выходящими за рамки приемлемого социального поведения – и обучить потенциальных жертв тому, как избегать их.
Хаки когнитивных систем очерчены не так четко, как хаки, описанные в предыдущих главах. Возьмем для примера дизайн интерфейса веб-страниц, которые кампания Трампа использовала, чтобы обманом заставить людей пожертвовать гораздо больше денег, чем они намеревались, причем для целей, выходящих за рамки политической кампании. Уловки были повсюду: предварительно отмеченные флажки, разрешающие еженедельное снятие средств с расчетного счета или кредитной карты; предустановленные суммы пожертвований, вбитые мелким шрифтом; еще более мелкий шрифт для сообщений о том, что пожертвование может быть использовано на личные расходы кандидата, и т. п. Все эти явные хаки являются примерами
44
Внимание и зависимость
Всплывающую рекламу ненавидят все{194}. Даже ее изобретатель, Итан Цукерман, публично извинился за свое детище. Но всплывающая реклама все равно проникла в большинство компьютерных устройств по той причине, что она прибыльна. А прибыльна она потому, что успешно привлекает внимание людей и увеличивает продажи рекламодателей.
В отличие от баннерной рекламы, которую мы, как правило, можем отключить, всплывающая реклама заставляет уделить ей внимание, хотя бы для того, чтобы просто смахнуть ее с экрана. Обычно он возникает прямо перед глазами, загораживая то, на что вы смотрели. Часто такая реклама включает в себя не только статичное изображение, но и звукоряд и даже видео. Чтобы закрыть окно рекламы, нужно предпринять действие, причем иногда бывает трудно понять, куда для этого надо нажать, или закрытие происходит не с первого раза. И да, все это работает. Удерживание нашего внимания даже в течение относительно короткого промежутка времени может иметь долгосрочный эффект.
Внимание – это когнитивная система, которая позволяет нам сосредоточиться на важных вещах. В любой момент времени вокруг и внутри нас происходит бессчетное множество событий. И хотя наш мозг – это мощный инструмент, его возможности ограниченны. Мы не можем обращать внимание сразу на все.
Учитывая это ограничение, мы используем внимание избирательно. Мы отдаем приоритет вещам и событиям, которые важны для выживания, и уделяем меньше внимания тому, чему уже доверяем. Наше внимание легче всего привлекают явления, которые могут указывать на присутствие хищника или иной угрозы: резкие движения, громкие звуки, яркий свет. Мы также отдаем приоритет явлениям, которые влияют на наше социальное выживание, таким как безопасность и положение в группе, или связанным с привлечением и удержанием сексуальных партнеров. Еще мы обычно обращаем внимание на явления, которые способствуют нашему благополучию и уровню комфорта. Вот почему все, что обещает нам потенциальное вознаграждение, – будь то еда, деньги, наркотики, игрушка в киндер-сюрпризе или просто лайк в цифровом профиле, – привлекает наше внимание. Мы не всегда можем осознанно выбирать, как и на чем фокусировать свое внимание, потому что большая часть этой системы встроена в наш мозг с неизменяемыми настройками.
Реклама сама по себе не привлекает наше внимание, поэтому рекламодателям приходится взламывать когнитивные системы потенциальных потребителей. В 1860-х гг. французский литограф Жюль Шере изобрел новую форму рекламного плаката{195}: яркие контрастные цвета, красивые полуодетые женщины, динамичные сцены – в общем, то, что невозможно игнорировать. Позже художник-плакатист Леонетто Каппьелло начал рекламировать потребительские товары с помощью потрясающих огромных изображений, созданных специально для того, чтобы пассажиры недавно открытого парижского метрополитена могли разглядеть их, проносясь мимо на большой скорости.
Рекламодатели всегда стремятся как можно более эффективно привлечь наше внимание. Именно поэтому супермаркеты и даже магазины канцелярских товаров или товаров для дома выкладывают конфеты в прикассовой зоне – хак, известный как «размещение в точке продажи». Именно поэтому телевизионные рекламные ролики еще не так давно звучали громче, чем шоу, которые они перебивали, пока Федеральная комиссия по связи США в 2012 г. не запретила эту практику. И именно по этой причине у нас есть всплывающая реклама.
Если рекламные кампании, получившие развитие в 1950-х гг., были основаны на маркетинговых исследованиях и психологии, то современные рекламные кампании все чаще используют микротаргетинг, чтобы хакнуть каждого из нас лично. При этом рекламодатели и брокеры данных накапливают и монетизируют гигантские массивы личной информации, угрожая нашей частной жизни в попытке завладеть вниманием.
Еще один хак схем нашего внимания, который распространен в современных социальных сетях: стимулирование ажиотажа. Facebook использует алгоритмы для оптимизации вашей ленты. Цель компании – удержать вас на платформе: чем дольше вы находитесь на сайте, тем больше рекламы увидите и тем больше денег заработает компания. Поэтому она старается показывать интересный для вас контент, с которым можно демонстрировать сопутствующую рекламу. (Не забывайте об этом: весь смысл этих систем заключается в продаже рекламы, которая манипулирует вами для совершения покупок.)
Аналогичным образом Google хочет, чтобы вы продолжали смотреть видео на YouTube. (YouTube является дочерней компанией Google.) Алгоритм YouTube выяснил, что все более поляризующий специализированный контент привлекает пользователей. Этот неожиданный хак оказался весьма выгодным. Facebook и YouTube поляризуются не потому, что так было задумано, а потому, что, во-первых, алгоритм оптимизировал себя для подачи все более специализированного контента на основе интересов пользователя и, во-вторых, руководство решило проигнорировать потенциальные проблемы, которые это создало. Применительно к политике такие схемы имеют тенденцию к поляризации пользователей, поскольку им проще занять идеологическую нишу, в которой уже есть люди, разделяющие их мировоззрение, и отдавать предпочтение материалам, вызывающим наибольший ажиотаж. Ускоряя и отлаживая задачу поиска и показа специализированного поляризующего контента, автоматизированные системы рекомендаций сокращают количество неотфильтрованных взаимодействий, которые помогают нам учитывать разные мнения и пересматривать собственные убеждения.
Одним из решений этой проблемы, по крайней мере в части рекламы, является регулирование информации, используемой рекламодателями для микротаргетинга. После выборов 2020 г. компания Google внедрила политику, согласно которой было решено ограничить таргетинг предвыборной рекламы общими категориями: возраст, пол и местоположение на уровне почтового индекса. Такие простые меры защиты, скорее всего, окажутся эффективными – если, конечно, Google будет их придерживаться. Однако члены обеих партий сделают все возможное, чтобы подорвать их, поскольку микротаргетинг стал неотъемлемой частью современной политики.
Лучшее решение – применить против гигантских сетей антимонопольное законодательство. С таким количеством контента, собранным в одном месте, гиперспециализация становится легкодоступной (хотя и технически сложной). Напротив, формат небольших социальных сетей, каждая из которых содержит меньший объем контента, ограничит возможности специализации. Обратите внимание, что гиперконсервативные социальные сети, появившиеся после того, как Дональду Трампу запретили пользоваться Twitter[28], не имеют и близко такой власти, как крупные транснациональные компании социальных сетей.
Логической крайностью хакинга внимания является зависимость – самая эффективная форма удержания внимания. Хак заключается не в самом физиологическом процессе зависимости, а в том, как заставить кого-то стать зависимым. Создавая свои продукты так, чтобы они вызывали привыкание, производители и разработчики гарантируют, что клиенты и пользователи будут продолжать их использовать. Иногда зависимость бывает физиологической, но чаще всего она начинается как поведенческая фиксация, закрепляемая с помощью эндорфинов, адреналина и других нейрохимических веществ, выброс которых вызывает такое поведение.
Базовая методология поведенческой зависимости хорошо иллюстрируется на примере игрового автомата. Мы знаем, что переменные вознаграждения вызывают большее привыкание, чем вознаграждение фиксированное, а азартные игры по своей природе предоставляют именно такой вид вознаграждения. На первом этапе процесса возникает триггер – пусковой механизм, который привлекает наше внимание. Игровые автоматы нарочито яркие и шумные. Они шумят и тогда, когда ими никто не пользуется, и тогда, когда кто-то выигрывает. Второй этап представляет собой действие, которое запускает ожидание вознаграждения. Эту роль выполняет ставка – когда-то это была монета, опущенная в слот, сегодня достаточно нажать кнопку. Третий этап – переменное вознаграждение: вы то выигрываете, то проигрываете. На четвертом этапе начинаются эмоциональные инвестиции, которые увеличивают склонность игрока к повторному входу в цикл. Все любят победителей. Еще одно нажатие кнопки, и – кто знает? – может быть, джекпот будет вашим.
Онлайн-игры тоже относятся к аддиктивным процессам с переменным вознаграждением, особенно игры с
Информационные продукты, такие как приложения для смартфонов и сайты социальных сетей, специально созданы для того, чтобы аналогичным образом вызывать привыкание. Триггерами служат оповещения, которые привлекают наше внимание: звуковые сигналы, звонки, вибрация, push-уведомления. (Не правда ли, прямо по Павлову?) Действием становится клик, который приносит с собой предвкушение награды. Переменные вознаграждения – это лайки, посты, комментарии, изображения и все остальное, что появляется в ленте.
Ничто из этого не является случайным. Цифровые платформы могут обновлять свои страницы автоматически, без вмешательства пользователя, если бы так решили их разработчики. Но принуждение пользователей к нажатию кнопок или пролистыванию страниц, чтобы увидеть больше сообщений, имитирует поведение игрового автомата и создает иллюзию контроля, которая приучает вас делать это снова и снова. Аналогичным образом, любого рода пакетные уведомления – когда все новые уведомления показываются один раз в день – снижают эффект переменного вознаграждения, а значит, и аддиктивность. Вот почему эта удобная и простая функция никогда не предлагается ни одной из платформ социальных сетей, основанных на рекламе.
При всей склонности людей считать зависимость недостатком, гораздо полезнее рассматривать ее как хак – надежный и очень эффективный. Мы знаем, что именно делает поведение аддиктивным. Компании повсеместно внедряют такие хаки, причем зачастую настолько скрытно, что потребители не замечают этого. И, как мы увидим дальше, алгоритмы и экспресс-тестирование делают цифровые платформы все более аддиктивными при все меньшем вмешательстве в этот процесс человека.
45
Убеждение
В 2014 г. боты, выдававшие себя за женщин в приложении для знакомств Tinder, отправляли текстовые сообщения пользователям-мужчинам, вели с ними банальную светскую беседу, упоминая в ней мобильную игру Castle Clash, в которую они якобы играли, и затем давали ссылку. С точки зрения хакерского мастерства это было довольно неубедительно. Игра велась на разных мужских эмоциях, включая доверие и сексуальное желание, но новая «подруга», если вы хоть немного включали критическую оценку, явно была ботом. Достоверно неизвестно, насколько успешно эти поддельные аккаунты убеждали людей скачать и поиграть в игру, пока Tinder не удалил их.
Этот пример не уникален. Чат-боты регулярно используются для манипулирования человеческими эмоциями и убеждениями людей в коммерческих и правительственных целях. В 2006 г. армия США развернула SGT STAR, чат-бота, призванного убеждать людей вступать в армию. Технологии ИИ и робототехники делают подобные усилия намного эффективнее.
В 1970-х г. Федеральная торговая комиссия попросила руководителей рекламных агентств объяснить им, что такое маркетинг. До этого у членов комиссии было довольно примитивное представление об отрасли. Они полагали, что реклама – это средство, с помощью которого компании объясняют потенциальным потребителям преимущества своей продукции. Но, конечно, реклама уже тогда была чем-то большим, а современные рекламные технологии, направленные на взлом когнитивных систем, и подавно.
Убеждение – дело непростое. Из-за страха перед манипуляциями и просто опасаясь перемен люди часто противятся попыткам изменить их мнение или поведение{196}. Но, несмотря на наше осознанное и неосознанное сопротивление, бесчисленные уловки незаметно меняют наше мнение. Многие из этих хаков до смешного просты, например
Капельное ценообразование – еще один пример. Оно широко распространено в сфере авиаперевозок и гостиничного бизнеса, поскольку цена – это первый атрибут, на который люди обращают внимание при выборе туристических услуг. Хак заключается в том, чтобы сначала показать низкую цену, а затем накрутить дополнительные сборы в надежде, что покупатель не обратит на них внимания. Исследование, проведенное на базе StubHub, онлайн-площадки по продаже билетов, показало, что капельное ценообразование заставляет людей потратить{197} в среднем на 21 % больше, чем прямое выставление цены.
Некоторые продавцы используют
В интернете для убеждения часто прибегают к
Темные паттерны – это термин, обозначающий подрывные хаки в дизайне интерфейса, которые используют общепринятые элементы, чтобы подтолкнуть пользователей к определенным действиям. Обычно стандартизированный дизайн помогает нам в процессе различных онлайн-взаимодействий; это визуальный язык, которому мы доверяем. Например, при таком привычном виде активности, как вождение автомобиля, зеленый цвет означает движение, а красный – остановку. Эти же цвета постоянно используются в качестве ориентиров в пользовательских интерфейсах. Но они превращаются в темный паттерн, когда ряд зеленых кнопок «Продолжить» внезапно прерывается кнопкой такого же цвета, ведущей на страницу продажи, как это сделано, к примеру, в мобильной игре TwoDots. Или когда зеленая кнопка той же формы, что и предыдущие кнопки перехода между страницами, оказывается кнопкой загрузки какого-нибудь программного обеспечения. Поэтому сохраняйте бдительность – слишком часто кнопки подсовывают вам не то, что вы ожидаете.
У Intuit есть бесплатная программа для заполнения налоговых деклараций под названием Free File, но разработчик предпочел спрятать ее подальше от пользователей и обманом заставить их платить за функции заполнения налоговых деклараций в своем продукте TurboTax. (Соглашение о признании вины, заключенное в 2022 г. между несколькими штатами, заставило Intuit выплатить $141 млн в качестве компенсации; посмотрим, изменит ли это поведение Intuit в будущем.) Баннерная реклама от компании Chatmost выглядит на сенсорном экране как пылинка – когда обманутые пользователи пытаются смахнуть ее, они вынужденно нажимают на рекламу.
В 2019 г. сенаторы США Марк Уорнер и Деб Фишер представили проект закона о запрете темных паттернов. Увы, он не прошел. Но если в будущем его все же примут, спонсорам этого проекта лучше хорошенько подумать над тем, как сформулировать определение темного паттерна, потому что само оно станет мишенью для взлома, когда хакеры будут пытаться обойти закон.
46
Доверие и авторитет
19 марта 2016 г. Джон Подеста, в то время председатель президентской кампании сенатора Хиллари Клинтон, получил электронное письмо якобы от Google. Это было предупреждение о безопасности, и в нем содержалась ссылка на страницу, похожую на страницу входа в Google. Подеста спокойно ввел свои учетные данные, но позже оказалось, что эта страница вовсе не была страницей Google. На самом деле она управлялась ГРУ, российской военной разведкой. Как только оперативники по ту сторону экрана получили пароль Подесты от сервиса Gmail, они завладели по меньшей мере 20 000 его электронных писем, а затем слили их в WikiLeaks для публикации. Это был хакинг с помощью средств социальной инженерии.
Социальная инженерия – весьма распространенный способ взлома компьютерных систем. По сути, это убеждение человека, имеющего особый доступ к системе, в том, чтобы он использовал его не по назначению. Более 20 лет назад я написал: «Только любители атакуют машины; профессионалы нацелены на людей»{198}. Это утверждение верно и сегодня. И в первую очередь оно касается хакерских методов, основанных на доверии.
Один из таких методов представляет собой звонок на линию техподдержки сотового оператора под видом другого человека с целью убедить сотрудника перевести номер этого человека на телефон, который вы контролируете. Эта атака, известная как
Существует гигантское количество вариаций на тему социальной инженерии. Они могут выглядеть как телефонный разговор с сотрудником – именно так в 2020 г. хакеры завладели 130 аккаунтами Twitter{200} – или как переписка по электронной почте. Термином
В главе 12 я рассказал о компрометации деловой электронной почты. Хакер получает доступ к электронной почте руководителя компании, а затем пишет подчиненному что-то вроде: «Здравствуйте. Это генеральный директор. Да, это непривычно, но я в командировке и не имею обычного доступа к сети. Мне нужно, чтобы вы прямо сейчас перевели $20 млн на этот иностранный счет. Это важно. От этого зависит крупная сделка. Я пришлю вам необходимые бумаги, когда вернусь в отель». В зависимости от того, насколько хорошо хакеру удастся сделать детали правдоподобными, насколько сотрудник будет рассеян и доверчив и как все вместе впишется в реальную ситуацию, этот хак может оказаться весьма успешным. В 2019 г. компания Toyota потеряла $37 млн из-за подобной аферы, пополнив длинный список ее жертв.
В 2015 г. сирийские женщины-агенты, флиртуя по Skype с доверчивыми повстанцами, сумели выведать у них планы сражений, а также личные данные высокопоставленных руководителей. Российская разведка использовала ту же тактику, пытаясь выведать секретную информацию у военнослужащих США.
Технологии облегчают подобные махинации. Сегодня преступники используют технологию дипфейк для совершения атак методами социальной инженерии. В 2019 г. генерального директора британской энергетической компании обманом заставили перевести{201} €220 000, подделав голос его босса из материнской компании и подтвердив телефонный звонок электронным письмом. В этом хаке использовалась только цифровая обработка голоса, но и видеоизображение уже на подходе. Известен случай, когда мошенник использовал силиконовую маску для записи видео{202} и обманом заставил людей перевести ему миллионы долларов.
Этот вид мошенничества может иметь и геополитические последствия. В рамках научного исследования были созданы очень убедительные видеоролики, в которых политики говорят то, чего они не говорили, и делают то, чего не делали. В 2022 г. видео, на котором президент Украины Владимир Зеленский призывает украинские войска сдаться, было развенчано самим Зеленским. Хотя ролик сделан кое-как и в нем легко можно распознать фальшивку, со временем при развитии технологий такие подделки станут намного лучше.
Одного существования такой технологии уже достаточно для того, чтобы подорвать наше доверие к аудио– и видеодокументам в целом. В 2019 г. видеозапись давно пропавшего с экранов действующего президента Габона{203} Али Бонго, который, как считалось, находился в тяжелом состоянии или уже умер, была названа его противниками «глубокой подделкой» и послужила спусковым крючком для военного путча, оказавшегося, впрочем, неудачным. Это было настоящее видео, но откуда неспециалист мог знать, какое из утверждений является правдой?
Объедините эти методы с уже существующими и будущими технологиями ИИ, которые позволят ботам создавать и убедительно воспроизводить реалистичные тексты – сообщения, монологи и диалоги, – и вы получите технологии, которые полностью хакнут наше представление о том, кто или, точнее, что является или не является человеком.
Мы видели подобные подделки в действии во время президентских выборов в США в 2016 г. BuzzFeed обнаружил 140 фальшивых новостных сайтов{204} с доменными именами, похожими на настоящие ресурсы, и сенсационными заголовками, которые пользовались большим успехом в Facebook. Это стало началом волны новых сайтов, замаскированных под авторитетные источники информации. Такие доменные имена, как BostonTribune.com, KMT11.com и ABCNews.com.co, выглядели вполне официально и обманули многих читателей, заставив поверить в дезинформацию. Такие сайты, как The Tennessee Star, Arizona Monitor и Maine Examiner, были созданы, чтобы выглядеть как традиционные газеты, но распространяли при этом политическую пропаганду.
Поделиться книгой: