Искусственный интеллект. Этика и право

§ 4. Характеристики ИИ применительно к судебным решениям

Обработка естественного языка и машинное обучение – две базовых технологии, лежащих в основе использования ИИ в судопроизводстве. В большинстве случаев системы ИИ в юриспруденции нацелены на то, чтобы выявить корреляции между различными параметрами, содержащимися во вводных и в итоговом решении. В качестве вводных параметров используются, например, содержащиеся в заявлениях о разводе сведения о доходах супругов, существовании супружеской измены, детях и т. п. Использование таких моделей позволяет развернуть прогнозную аналитику для предвидения будущего судебного решения – типа программ предиктивной судебной аналитики, наиболее востребованных юридическими фирмами.

В качестве введения следует кратко рассмотреть функции, которые выполняют прогностическое программное обеспечение. Это обеспечение исчисляет вероятности успеха или, напротив, неудачи дела в суде. Эти вероятности устанавливаются посредством статистического моделирования предыдущих решений с использованием двух широких областей информатики: обработки естественного языка и машинного обучения. В большинстве случаев использование именно этих двух областей в настоящее время и называется ИИ. Хотя по факту, это – не вполне ИИ, а продвинутый интеллектуальный софт, его, тем не менее, можно назвать «слабым» ИИ.

Поскольку термин «искусственный интеллект» сегодня используется не только в IT отрасли, то это породило множество двусмысленностей. Термин «искусственный интеллект» вошел в наш повседневный язык для описания программных комплексов, позволяющих компьютерам побеждать чемпионов-людей в игре Го, шахматы, водить машины, вести с людьми диалоги, в которых собеседнику трудно распознать, кто перед ним: человек или машина.

В самой IT отрасли предпочитают определять ИИ через используемые технологии. В этом понимании слабый ИИ – это программные комплексы, использующие машинное обучение, нейронные сети, многомерный статистический анализ для распознавания образов, программы, обеспечивающие общение с компьютером на естественном языке и софт, позволяющий интегрировать в единую систему обработки информации потоки числовых, текстовых, аудио, видео и сигнальных данных. Сегодня ИИ – это не научное определение и даже не определение какой-то функции, а скорее зонтичный термин для совокупности практически применяемых технологий.

Сами специалисты различают слабый и сильный ИИ. Слабый ИИ – это некий набор сложных компьютерных программ. Что же касается сильного ИИ, который пока не создан, это – самообучающиеся машины, способные автоматически постигать мир в целом, и самостоятельно не только развивать софт, но и при необходимости достраивать свой хард.

Относительно ИИ в сфере правосудия. Системы юридической предиктивной аналитики направлены на определение всеми участниками судебного процесса наиболее вероятного исхода рассмотрения дела при имеющихся вводных. Теоретически такие системы не только облегчают жизнь участникам судебного процесса, но и могут помочь судьям и/или присяжным в принятии решений.

Предиктивный юридический софт на основе первичных данных, используя специфические критерии, определяет вероятность успеха (неуспеха) спора и возможные его имущественные итоги.

С самого начала необходимо разделить предсказания и прогнозы. Предсказания – это суждения о будущем событии на основании любых факторов – от интуиции до предчувствия. Что же касается прогнозирования, то это всегда – результат обработки исходных данных с использованием модели, разработанной на основе прошлых. Прогноз – это всегда счет. Это – область математики и статистики. Успешность прогнозирования де факто зависит от трех обстоятельств:

• во-первых, от качества исходных данных по судебным процессам. Чем данных больше и чем они точнее и полнее, тем больше шансов получить значимые результаты;

• во-вторых, от используемой прогностической модели. В подавляющем большинстве случаев для построения прогностической модели используются нейронные сети, либо многомерные статистические программы. На основе анализа прошлых данных эти программы выясняют наиболее важные параметры, определяющие судебные решения, или так называемые веса критериев. С помощью этих весов нейронные сети делают прогноз;

• в-третьих, успех прогноза зависит от типичности судебного решения. Прогноз – это не предвидение. Он всегда базируется на прошлом, на данных об уже состоявшихся судебных процессах. Чем более настоящее похоже на прошлое, чем текущий процесс больше напоминает уже закончившиеся, тем больше шансов на качественный прогноз. Грубо говоря, в устойчивом мире прогнозирование более эффективно, чем в турбулентном, неустойчивом.

Надо понимать, что, несмотря на использование термина «интеллект» вычислительные машины немногим отличаются от арифмометра. Компьютер всегда считает и никогда не понимает. Соответственно, в основу предиктивной аналитики заложена гипотеза о возможности перевести все факторы и обстоятельства в числовой вид. Важно иметь в виду, что это – иллюзия. Обсчитывается только часть факторов. Самые важные факторы – эмоции, мотивы и побуждения – обсчитываются крайне плохо, либо вообще не обсчитываются. Люди, зачастую, принимают решения, которые сами в последующем искренне объяснить не могут. Тем более их невозможно рассчитать.

Согласно беседам, проведенным экспертами ЕС с производителями предиктивных судебных систем, выяснилось любопытное обстоятельство. Самым неотработанным блоком этой системы являются предиктивные возможности относительно решений судов присяжных за пределами учета тривиальных факторов пола, расы, имущественного дохода и т. п. Чем больше судебный процесс регулируется законом и чем меньше он носит прецедентный характер, тем больше шансов на успех предиктивного юридического софта. В этом смысле иронией выглядит факт, что примерно 85 % предиктивного юридического софта производят американские и британские фирмы, т. е. фирмы стран, где используется прецедентное законодательство.

Никакого сильного ИИ не только в настоящее время, но и в обозримом будущем не появится. Эволюция ИИ в течение последних примерно 10 лет идет не в сторону интеграции различных систем ИИ, а, напротив, в направлении создания все более специализированных слабых ИИ, позволяющих использовать конкретные программные решения для строго определенных классов задач.

Существует три основных тенденции развития ИИ в области судопроизводства и правоохранительной сферы:

1. Чем дальше, тем больше ИИ будут функционально специализироваться и, по сути, смыкаться с традиционным интеллектуальным софтом, представляя следующую ступень его развития;

2. Главным направлением развития специализированного ИИ будет усиление возможностей комбинаторной аналитики;

3. Усилия разработчиков будут направлены на то, чтобы машины за максимально короткий период времени могли вычленить из первичных больших данных максимальный набор переменных и установить между ними всеми по принципу «каждый с каждым» корреляционные связи. Собственно, главная задача специализированного ИИ и состоит в обнаружении нетривиальных связей, которые, тем не менее, влияют на те или иные процессы.

В настоящее время выделяется три основных направления развития специализированного ИИ для судопроизводства:

во-первых, это – создание систем распознавания прецедентов. Каждый судебный процесс может быть описан через ограниченное число параметров. В зависимости от законодательства той или иной страны при совпадении определенного числа параметров можно говорить о наличии прецедента и полагать, что решение по новому судебному делу будет достаточно близко к решению по прецеденту. В настоящее время, например, в Соединенных Штатах в гражданских процессах до 80 % оплаты юридической фирме клиентами идет на покрытие затрат на поиск этих самых прецедентов. Для европейских стран этот показатель ниже, но, например, во Франции он составляет около 50 % от гонорара юридических фирм.

Специалисты в области больших данных и работы с текстовыми массивами информации быстро обнаружили, что именно для этих юридических вопросов существует большое число уже имеющихся решений, связанных с ИИ. Фактически речь идет о том, чтобы имеющиеся мощные системы анализа неструктурированной текстовой информации соединить с программами распознавания образов и получить прецедентный софт. На сегодняшний день именно эта сфера является самым большим рынком для использования ИИ в судопроизводстве в Соединенных Штатах, Великобритании и странах Британского Содружества наций. В Европе этот рынок только формируется;

• во-вторых, это – создание предиктивных юридических систем. О преимуществах, возможностях и ограничениях этих систем говорилось выше. Здесь стоит отметить лишь то, что, как это ни парадоксально, в странах, базирующихся на континентальном законодательстве, точность прогнозов выше, чем в странах прецедентного права. Слабым местом ИИ является прогнозирование именно одиночного, а не массового человеческого поведения. Соответственно на сегодняшний день системы ИИ не способны в удовлетворительной степени прогнозировать решения судов присяжных;

• в-третьих, специализированный ИИ активно развивается по направлению семантического поиска. Хорошо известно, что мало какая сфера человеческой деятельности связана с анализом огромных массивов документации, написанной на естественном или близком к нему юридическом языке, чем судопроизводство. Сегодня до 70 % затрат времени у наиболее высокооплачиваемых и квалифицированных юристов уходит на поиск тех или иных документов, примеров, а также создания на основе этих документов аналитических справок по персонам и т. п. С этой задачей как нельзя лучше справляется интеллектуальный софт, а именно корпоративные модификации семантических поисковых систем с блоками визуализации и генерации отчетов. По сути, такой софт был создан в Соединенных Штатах, Великобритании, во Франции еще в нулевые годы и продавался под грифом datamining и textmining. Сегодня этот софт успешно продается как частным юридическим фирмам, таки государственным судебным органам, как ИИ.

В целом, по состоянию на конец 2018 года ИИ, как интегральное решение, является мифом. Практически повсеместно ИИ – это зонтичное наименование класса программно-аппаратных решений, которые существуют уже долгое время и успешно решают задачи определенного класса. Что действительно новое, так это тот факт, что в текущем десятилетии благодаря достижениям в производстве исходных материалов резко повысилась скорость процессоров, а также появились мощные графические процессоры. Благодаря этому оказалось возможным полностью проявить в практических делах потенциал математических методов, разработанных несколько десятилетий назад. По сути, сегодняшний ИИ – это соединение графических процессоров, новых типов чипов с отработанными и прошедшими проверку временем программными математическими методами. Также как в других отраслях, ИИ в значительной степени – это маркетинговый прием, такой же, как несколько лет назад был datamining, а до этого текстовой поиск неструктурированных данных. Что касается ИИ, о котором писали еще в прошлом веке, то это – сильный ИИ. Сильный ИИ на сегодняшний день является столь же недостижимой мечтой, что и 25 лет назад.

Только на первый взгляд может показаться, что приведенные выше соображения – это абстрактное обсуждение, далеко отстоящее от нужд судебной системы. Это не так. Одной из главных причин слабого внедрения интеллектуального софта в судебной системе европейских стран является боязнь судебных работников нового, их опасения, что они окажутся просто неспособными освоить новые программно-аппаратные комплексы.

Судебные работники, подобные другим неспециалистам в IT сфере, оказались «замороченными» компьютерным маркетингом и всерьез решили, что появился ИИ, который их не сегодня-завтра заменит. Необходимо не просто четко и ясно констатировать, но и донести до судебных работников простую мысль: никакого сильного работающего ИИ нет и в обозримом будущем не будет. Что касается новых решений, то они являются очередным этапом усовершенствования того софта, который судебные работники используют в своей профессиональной деятельности и частной жизни уже давно. В этом случае удастся сломать реально имеющиеся психологические барьеры по широкому использованию эффективных интеллектуальных программ и систем в судопроизводстве.

§ 5. Может ли ИИ моделировать судебные решения

ИИ базируется на том, что машинное обучение улучшает классификации, которые первоначально были созданы разработчиками, а также дополняет эти классификации новыми параметрами, выявленными машиной. Континентальные правовые системы далеки от рациональности, которая воплощается в гражданском кодексе Наполеона, принятом в 1804 г. Единый некогда кодекс в рамках Европы претерпел значительные изменения. В результате, сложились национальные правовые системы, которые хоть и имеют общее правовое ядро, тем не менее, значительно различаются и более того, противоречат друг другу. В настоящее время эти различия стремительно увеличивается. Право, ранее существовавшее десятилетия, теперь должно поспевать за переменами. Поскольку динамика технологического развития в европейских странах различна, различны и темпы изменения правовых систем.

Главным вопросом, с которым столкнулись IT эксперты в области юриспруденции, стало разложение закона на однозначно трактуемые логические правила. Старые интеллектуальные системы могли успешно работать с 200–300 логическими правилами. В настоящее время выяснилось, что для того, чтобы описать закон с точностью, необходимой для практического использования решений на основе компьютерной логики, нужно оперировать с 1400–1800 правилами.

Современные программно-аппаратные комплексы позволяют работать с системами, описываемыми до 10 000 правил. Именно в этом, а не в надуманном мышлении роботов, и состоит главный, принципиальный прогресс, достигнутый специализированными ИИ по сравнению с традиционным интеллектуальным софтом. Современный ИИ позволяет гораздо более точно распознавать ситуации, и что возможно еще более важно, без потерь описать законы на логическом, а соответственно и программном, языках.

До последнего времени из-за неточного перевода закона на алгоритмический язык невозможно было создать систему моделирования судебных рассуждений или размышлений. В ближайшем будущем это станет возможным. Согласно французским и нидерландским исследователям – лидерам в этой области в Европе – в последние два-три года выявились из раза в раз повторяющиеся дефекты. Оказалось, что общеевропейское и страновые законодательства внутренне противоречивы. Если раньше правовой язык не представлялось возможным перевести на алгоритмический из-за неспособности свести право к логическим правилам, то в настоящее время эта проблема, как ни удивительно, осталась, но изменилась причина. Раньше у компьютера не хватало мощности, чтобы оперировать достаточным количеством правил для описания закона. Теперь же установлено, что закон не переводится в логические правила из-за внутренних противоречий, существующих в общеевропейском и страновых законах.

Эти противоречия не видны даже опытным правоведам. Они проявляются при рассмотрении того или иного вопроса в контексте нескольких законодательных актов. Отсюда возникает отдельная огромная задача. Вполне вероятно, что в ближайшее время юристы, если они преодолеют предубеждения по отношению к ИИ, и государственные деятели поставят перед сферой IT задачу осуществить сквозную проверку европейского и странового законодательств на противоречивость, наличие неточностей и лакун, не позволяющих перевести закон в логические правила и создать внутренне непротиворечивую систему национального и общеевропейского законодательства.

Представляется, что если бы такая задача была поставлена, а тем более решена, это стало бы беспрецедентным вкладом IT технологий в юриспруденцию и значительно превзошло бы по своим последствиям любое другое использование ИИ в судебной сфере. Такая работа могла бы быть разбита на несколько этапов.

Во-первых, используя уже имеющиеся мощные языки логического программирования, типа Prolog, было бы необходимо написать максимально возможное количество логических правил для описания законодательства на машиночитаемом языке.

Во-вторых, перевести законы, записанные на естественном языке в законы, записанные на логическом машиночитаемом языке.

В-третьих, выделить в соответствии с принципами языка Prolog логические правила, как элементарные смысловые единицы законодательства. Записать на языке логических правил законы.

В-четвертых, выявить методами стандартного логического моделирования противоречия между логическими правилами и интерпретировать их как противоречия внутри отдельных законодательных актов или между законодательными актами.

В-пятых, осуществить обратную интерпретацию выявленных противоречий, переведя их с языка логических правил и программной логики на естественный язык.

На основе этой работы устранить противоречия и лакуны как внутри законодательных актов, так и между актами, создав национальное и общеевропейское логически внутренне непротиворечивые законодательства[2].

Помимо распознавания ошибок и противоречий в законодательстве работа с логическими моделями позволяет перевести на новый уровень предиктивную судебную аналитику. Об этом свидетельствует работа головной организации Великобритании по разработке логических юридических моделей и их использования для анализа права – Университетского Колледжа в Лондоне. Помимо своей основной работы Колледж создает системы предиктивной судебной аналитики. Программа 2015 г., созданная без учета логических моделей, давала прогнозы решений Европейского суда по правам человека с точностью до 57 %. С начала 2018 г. опробовалась новая программа, базирующаяся на логических правилах, как основе законов. Сегодня эта модель предсказывает исход конкретного дела в Европейском суде с точностью до 82 %.

Как представляется, участники судебного процесса, сталкиваясь с противоречиями между законами или в законе, чаще принимают оправдательные решения, нежели обвинительные. Соответственно этот факт был заложен в модель, и она стала давать гораздо более точные, чем раньше, прогнозы.

§ 6. Может ли ИИ объяснять поведение судей

Объяснение поведения судей, в частности, своевременное выявление предвзятости, является чрезвычайно важной и одновременно сложной задачей. Кроме того, один и тот же факт может интерпретироваться как предвзятость и как юридически оправданное мнение судьи. Едва ли не наиболее ярким примером такого рода амбивалентных ситуаций являются решения судов относительно заботы о детях. Гораздо чаще она поручается матерям, а не отцам. При этом, общей позицией европейского правосудия является то, что подобное решение – это не проявление предвзятости, а выбор судьи в пользу лучшего варианта, исходя из совокупности реальных обстоятельств.

С научной точки зрения объяснение человеческого поведения сводится к определению причинных механизмов, которые приводят к определенному поведению в конкретном контексте. Лионский университет в 2017 г. провел исследование относительно результатов передачи заботы о детях одному из родителей. Обследование велось на материале города Лион и нескольких прилегающих местностей. Выяснилась достаточно парадоксальная картина. Суды в 87 % случаев вынесли решение в пользу матери, и лишь 13 % – в пользу отца. Анализировались решения, вынесенные в 2016 г. Затем исследователи проверили всех детей, переданных соответственно матерям или отцам, на факты приводы в полицию, исключения из школы, других вопиющих нарушений, которые брались из официальной статистики. Было установлено, что 14 % из переданных матерям детей совершили за два года те или иные проступки, зафиксированные официально. Для детей, переданных отцам, этот показатель составил 3 %.

На обсуждении, которое исследователи из Лионского университета провели с судьями, последние категорически отвергали свою предвзятость. В качестве сильнейшего аргумента в свою пользу они приводили тот, что если долю детей-нарушителей из материнских и отцовских семей привести к общему знаменателю, то окажется, что в отцовских семьях нарушения все равно были чаще, а поэтому решения в пользу матерей судьи выносили верно.

Однако специалисты IT обратили внимание судей на весьма шаткий характер их аргументации. Они мешали факты и гипотезы. Факт состоял в том, что гораздо больше нарушений в материнских семьях, а гипотеза – в том, что если бы в материнские и отцовские семьи передавали бы детей поровну, а нарушали они порядок так, как было обнаружено по факту, тогда бы отцы оказались гораздо более худшими воспитателями. С точки зрения научной статистической теории экспериментов однозначно правы были IT специалисты, а не судьи.

Этот простой эксперимент показал три очень интересных обстоятельства.

Во-первых, сами по себе фактические данные никак не влияют ни на решения судей, ни на оценку решений общественным мнением.

Во-вторых, понятие предвзятости – это нечеткое, не установленное законодательно понятие. Это – оценочное суждение, выносимое общественным мнением. Поскольку общественное мнение само крайне манипулируемо, то ссылки на предвзятость или непредвзятость судей в строгом статистическом или научном плане не имеют никакого отношения к реальной ситуации.

В-третьих, если последствия одного судебного решения предсказать на основе статистических данных не представляется возможным, то для совокупности статистика дает эффективный инструмент прогноза. Последнее очень важно. Оно демонстрирует силу и слабость статистики. Статистика – мощный аналитический и прогнозный инструмент. Но на основании статистических данных нельзя принимать решения в каждом конкретном случае хотя бы потому, что статистика – это наука, а соответственно инструментарий для выявления тенденций массовых явлений.

Поскольку подавляющее большинство, если не сказать все, методы ИИ базируются на статистике, необходимо четко и однозначно сказать обществу, что судья-ИИ невозможен. Соответственно направление моделирования индивидуального поведения судьи методами ИИ – пустая трата средств. Если судья находится под подозрением, то задачу подтверждения или опровержения этих подозрений должен решать не ИИ, а конкретная следственная работа.

§ 7. Как ИИ должен применяться в гражданском, коммерческом и административном правосудии

Уже сегодня, а тем более завтра, специализированный ИИ обеспечит достаточно высокий уровень прогнозирования судебных решений. С другой стороны, использование ИИ за пределами прогнозирования, textmining и распознавания прецедентов вряд ли может дать что-то полезное судопроизводству в ближайшее время.

Посмотрим на эту тему с позиций специфики разных направлений судопроизводства. Как мы видим, главный вопрос, возникающий при использовании ИИ в юриспруденции, заключается не в абстрактных рассуждениях, полезен он или вреден, а в конкретном анализе, будет ли использование ИИ способствовать лучшему правосудию или нет.

При всех несовершенствах и недостатках ИИ, представляется важным его внедрение в судопроизводство на стороне судей и обвинения, хотя бы для того, чтобы сохранить, а в отдельных случаях вернуть, равенство и состязательность судебного процесса. Например, ведущие американские юридические фирмы в 85 % коммерческих и гражданских процессов, которые они ведут не только в Америке, но и в Европе и в целом по миру, уже сегодня используют ИИ, прежде всего, для прогнозирования, облегчения работы с документами и распознавания прецедентов. Ситуация, когда одна сторона вооружена ИИ, а другая дискутирует, плох он или хорош, негативно сказывается на правосудии. Надо признать, что у европейских судов нет альтернативы использованию ИИ. Это верно для любой страны, вне зависимости от того, применяется ли в ней континентальное или прецедентное право, как организованы судебные процессы и т. п.

Сегодня юридические фирмы широко используют ИИ, особенно в предиктивной его составляющей, не только для того, чтобы решить, браться или не браться за тот или иной процесс, как строить работу, но и для поощрения заключения сделок еще на досудебной стадии, чтобы избежать долгого и неопределенного судебного испытания. Некоторые страховые компании во Франции, Нидерландах, Германии уже используют прогнозные юридические системы во взаимоотношениях с клиентами для того, чтобы определить размеры страховых платежей и риски, связанные с взаимоотношениями с клиентами.

§ 8. Новые компьютерные инструменты для расчета издержек судебных процессов

В условиях бюджетных дефицитов, характерных для большинства европейских стран, и слабого экономического роста особую остроту приобретают вопросы, связанные с компенсациями и издержками ведения судебных процессов. В настоящее время лишь в одном государстве ЕС ИИ используется для оптимизации судебных расходов и расчетов компенсаций по результатам судебных процессов. Этой страной является Франция. Больше нигде в континентальной Европе вычислительная техника в этих целях не применяется.

С участием исследовательских учреждений, по заказу Европейской Комиссии был проведен анализ причин, по которым ИИ не используется для, казалось бы, наиболее подходящих для него задач, а именно определения степени обоснованности расходов на ведение судебных дел и прогноза компенсаций. Выяснилась достаточно поразительная картина. Главной причиной является тот факт, что, несмотря на многочисленные отчеты и высказывания руководителей судебных органов, практически нигде, кроме Франции и Нидерландов, в не имеется выполненных в одних и тех же масштабах архивов судебной документации в электронном виде. По-прежнему хранение происходит частично на бумажных, частично на электронных носителях и в разных форматах. Кроме того, отсутствует четкая увязка судебной и бухгалтерской, финансовой документации по судебным процессам.

Все это свидетельствует о том, что для большинства европейских стран в ближайшее время использование ИИ в судопроизводстве – это неподъемная и неактуальная задача. Им необходимо пройти свой путь по внедрению стандартов электронного документооборота в судейском деле, создания хранилищ структурированной и неструктурированной судейской информации, согласования судебной и бухгалтерской отчетности.

Как показывает опыт, такая работа может потребовать как минимум пяти-семи лет. До этого использование IT технологий в судебном деле будет ограничено обычным офисным софтом и корпоративными поисковиками, работающими с архивами.

§ 9. Проблема высоких издержек и ИИ

В настоящее время две страны ЕС и еще одно государство за пределами ЕС имеют государственные программы повышения информационной вооруженности судопроизводства и внедрения в эту сферу интеллектуального софта. Этими государствами являются Великобритания, Нидерланды и Латвия. Кроме того, до 2021 г. на полностью электронный документооборот в государственной сфере и сфере любых юридических взаимоотношений перейдет Эстония. Это позволит стране стать первой в Европе, а возможно и в мире страной, где все правовые акты, все договоры, все отношения будут иметь электронный характер и соответственно без труда как большие данные смогут быть обработаны ИИ.

§ 10. Интернет-услуги и сфера судопроизводства

В настоящее время сложилась парадоксальная ситуация. В целом, по государствам ЕС более 17 % товарооборота приходится на интернет-сервисы, рассчитанные как на население, так и на бизнес. При этом, судебные процессы по спорам в интернете продолжают вестись так же, как судебные процессы в реальной жизни. Доходит до смешного. Интернет-компании специально содержат значительную численность персонала в юридических отделах, чтобы переводить электронные документы в бумажные для представления в суды.

Только пять европейских стран приняли и осуществляют программу создания системы электронных судебных услуг, включающих, в том числе, проведение распределенных и удаленных судебных процессов в онлайне с участием современных коммуникаторов. Такие программы реализуются в рамках общенациональной программы электронного государства в Эстонии, плана автоматизации сферы судопроизводства и правоохранительной деятельности в Латвии, программы цифровизации правоохранительной, судебной и регулирующей сфер в Нидерландах и как отдельная программа, реализуемая на уровне муниципалитетов и территорий в Великобритании. В программно-аппаратном компоненте задел для перехода к электронному судопроизводству, включая автоматизированный расчет издержек на проведение судебных процессов и компенсаций, как основы досудебного урегулирования, имеется во Франции. Однако, из-за политических разногласий между правящими силами и оппозицией этой страны, подкрепить имеющийся задел принятой на государственном уровне программы использования ИИ в судебной и правоохранительной сфере, пока не удалось. Поэтому французские компании более активно работают на судебном рынке Канады и отчасти Великобритании, чем на родной территории.

§ 11. Основные гарантии, которые должны быть подтверждены в гражданском, коммерческом и административном судопроизводствах

Предоставление инструментов ИИ для разрешения споров в режиме онлайн не должно влиять на право беспрепятственного доступа к суду и равной состязательности в судебных процессах. Например, в гражданских делах каждый истец имеет право передавать в суд любой спор, касающийся его гражданских прав и обязанностей.

В 2015 г. парламентская Ассамблея Совета Европы приняла резолюцию «Доступ к правосудию через интернет: потенциал и проблемы». Согласно этой резолюции любой участник судебного процесса в том случае, если используются элементы ИИ, должен иметь полный доступ к большим данным, которые обрабатываются ИИ, а также алгоритмам, на основании которых принимается решение. При этом создатели судебного ИИ обязаны разъяснить суть алгоритма любому участнику судебного процесса.

По факту это означает, что значительная часть наиболее эффективных систем ИИ, занимающаяся прогнозированием или распознаванием сложных сущностей, не может быть применена в судебной сфере европейских стран. Проблема состоит в том, что эффективность ИИ напрямую связана со сложностью нейронных сетей, которые, как правило, занимаются распознаванием. Поскольку нейронные сети постоянно проходят машинное обучение, то зачастую разработчики алгоритма просто не знают промежуточные алгоритмы, влияющие на конечный вывод. Эти алгоритмы формируются в процессе обучения и постоянно меняются.

Сегодня в целом ряде видов деятельности складывается парадоксальная ситуация, когда наиболее эффективные программы с точки зрения распознавания и принятия решений делают это недоступным для понимания людьми без глубокого математического образования образом. Поскольку объяснить алгоритмы без использования сложных разделом математики невозможно, то в соответствии с резолюцией Европейской Комиссии, любой участник процесса может заблокировать применение наиболее эффективных методов ИИ в этом процессе из-за их необъяснимости.

Поскольку, как показывает пример Соединенных Штатов, и отчасти Великобритании, использование ИИ в судопроизводстве, в конечном счете, неотвратимо, поскольку любая имеющаяся технология рано или поздно используется, необходимо законодательно решить главную проблему.

Главная проблема использования ИИ в судопроизводстве состоит в подрыве равенства сторон в пользу государственных учреждений, компаний со значительными средствами, людей, имеющих образовательные и профессиональные навыки в сфере высоких технологий. При этом использование ИИ делает судебную систему еще более непонятной, а потому враждебной для значительных групп населения, которые не обладают необходимыми знаниями или средствами для найма консультантов. Поскольку для большинства европейских стран реальный горизонт внедрения ИИ в судебную и правоохранительную сферы составляет от пяти до десяти лет, важно использовать эти годы для создания равных возможностей использования ИИ в судопроизводстве для всех участников судебного процесса. Как это сделать сегодня не вполне ясно. Однако, как показывает практика, сама постановка проблемы и привлечение к ней внимания повышает, в конечном счете, шансы на ее решение.

Использование прогнозной аналитики порождает и еще одну проблему. Об этом свидетельствует опыт Соединенных Штатов. В Америке часты случаи, когда юридические фирмы, осуществив прогноз по тому или иному делу, отказываются иметь дела с истцами или ответчиками, у которых малы шансы на успех. Тем самым люди, нуждающиеся в юридической консультации, в конечном счете, лишаются ее. Это подрывает основы судопроизводства.

Вероятно, внедрение ИИ потребует не только изменения норм, регулирующих судебные дела, но и принятия нового кодекса профессиональной этики для адвокатов.

§ 12. Вопросы, характерные для уголовного правосудия: предупреждение правонарушений, риск рецидива и оценка уровня опасности

Использование ИИ в уголовном судопроизводстве создает риск возрождения детерминированных доктрин в ущерб доктринам индивидуализации санкций, которые получили широкое распространение в большинстве европейских стран, начиная с 1945 г. Использование ИИ в уголовных делах ставит особо острые проблемы. Они связаны с возможностью предсказывать правонарушения. В течение 30 лет во многих европейских странах шли дискуссии на этот счет. Итогом дискуссий стали конкретные законодательные нормы.

Например, в Италии п.2 ст. 220 Уголовно-процессуального кодекса прямо запрещает использование привычных или профессиональных признаков, а также анализ психологических черт, как меток предрасположенности человека к преступлению. Во Франции доктрина «Новая социальная защита» предусматривает введение системы социальной реабилитации, предотвращающей преступления за счет ликвидации условий для его совершения, связанных прежде всего с неблагоприятными условиями жизни, отсутствием доступа к образованию, плохих условий занятости и т. п.

Этот подход заложен во французском, бельгийском и испанском законодательствах.

Иными словами, официальная позиция большинства судебных органов европейских стран, нашедшая отражение, в том числе в формах, регулирующих судопроизводство, состоит в отказе от концепции предрасположенности к совершению преступления. Таким образом, возникает чрезвычайно серьезное противоречие между сложившейся в европейском судопроизводстве традицией отказа от учета предрасположенности в совершении преступления на основе анализа психологических, социальных, медицинских, профессиональных и иных факторов, и базовой технологии ИИ – нейросетями и машинным обучением.

Суть этой технологии как раз состоит в том, чтобы первоначально сгруппировать все данные по максимальному числу факторов, влияющих на ту или иную функцию, например, совершения преступления, а затем рассчитать уровень влияния каждого фактора и их комбинации на конечную функцию, т. е. вероятность совершения преступления.

По своей глубинной сути, нейронные сети – это программы максимально глубокого комбинаторного анализа на взаимосвязь различных факторов и осуществления прогноза на этой основе. Программа сама по себе находится по другую сторону добра и зла, этичного или неэтичного, корректного или некорректного. Не существует этичных или неэтичных программ. Есть программы, позволяющие реализовать адекватные реальности модели, а есть – неадекватные, не соответствующие фактическому положению дел.

В настоящее время в странах ЕС с большой долей национальных меньшинств, особенно Франции, Бельгии, Германии, Дании и Швеции активистские и общественные организации пытаются заблокировать использование предиктивных моделей в полицейских расследованиях и судебной аналитике. В ходе дискуссий в интернете и социальных медиа активисты высказываются в том плане, что нейронные сети неизбежно покажут большую вероятность совершения преступления у бедных, молодых, без достаточного образования представителей меньшинств. Они не оспаривают, что ИИ точно посчитает факторы. Их аргумент состоит в том, что коренные жители Европы виновны перед меньшинствами за колониальный период и поэтому полицейские и судьи не могут подходить с одной меркой к коренному населению и недавним мигрантам. Мерки должны быть разными. Более мягкие – для мигрантов, перед которыми якобы виноваты коренные европейцы. Именно в этом состоит сегодня главный предмет дискуссии относительно использования ИИ, прежде всего, в полиции, а также в судебной системе.

Обработка больших данных по преступности методами ИИ и, прежде всего, глубоких нейронных сетей с машинным обучением предоставляет обществу реальную картину факторов, влияющих на совершение конкретных преступлений, причем в каждом конкретном месте. Обвинять программы в неполиткорректности – глупость. Более того, глупость – не учитывать программные результаты, а тем более прогнозы в правоохранительной деятельности и судебной сфере.

При этом эксперты ЕС полагают, что нормативный запрет на анализ причин преступности, реализованный в настоящее время в европейской судебной системе, не сокращает, а увеличивает уровень преступности. В большинстве европейских стран существуют многоступенчатые запреты на предиктивную и профилактическую деятельность полиции. Эти запреты подталкивают полицию не предупреждать, а быстро раскрывать уже совершенные преступления. Между тем, в условиях широкого использования преступниками вредоносного софта, генных инструментов преступности и т. п. такой подход оказывается слишком опасным для общества. Единственно возможным становится превентивный подход, базирующийся не на раскрытии преступления, а на его предупреждении.

Сегодня законодательства подавляющего большинства европейских стран ориентировано на запаздывающее, а не на опережающее реагирование на преступление. Вполне вероятно, что именно тема превентивной борьбы с преступностью станет в ближайшие годы основной темой общественных дискуссий в сфере законодательства. Без перехода от парадигмы наказания преступников к парадигме предупреждения преступлений предиктивный полицейский софт применить невозможно. А если ограничить полицию в использовании предиктивного софта, то она неизбежно будет проигрывать преступникам, которые такой софт уже используют в поисках наиболее прибыльных и наименее рисковых направлений, сфер и мест деятельности.

§ 13. Инструменты, используемые следственными органами на стадии расследования

Инструменты, получившие название «предиктивного полицейского софта» уже широко используются в Соединенных Штатах, Канаде, Китае, Великобритании, Японии, Нидерландах и отчасти Франции. Эти системы базируются на аккумулировании данных из всех источников, всех форматов и позволяют выявлять неочевидные связи и прогнозировать действия. Наиболее известный программный комплекс такого типа, это – Palantir в Соединенных Штатах.

В целом, в европейской полиции большая часть компьютерных инструментов используется не для предотвращения преступных действий, а для эффективного судебного преследования преступников. Предиктивная аналитика в настоящее время находится на вооружении в ФБР, в полицейских управлениях большинства городов США, Великобритании, в Гонконге, Сингапуре и Китае. Как показывает практика, наиболее успешные полицейские прогнозы системы дают в отношении краж со взломом, уличного насилия, угона транспортных средства, уличной торговли наркотиками – по направлению низкоуровневой преступности, а также финансовых преступлений и мошенничеств, криминального оборота наркотиков и торговли животными и птицами – в высокоуровневой преступности.

Предиктивные системы позволяют устанавливать горячие локации и места наиболее возможного совершения преступлений, а также давать полицейским на земле наводки на конкретных лиц, вовлеченных в организованную преступность, которые осуществляют действия, интерпретируемые как подготовка к преступлению. Такие системы, как правило, используют в качестве исходного сырья больших данных разноформатные данные – тексты, видео, аудио, данные по транзакциям и т. п., -которые обрабатываются в единой интегрированной среде.

В то же время этот софт не свободен от недостатков. Главными из них является эффект «порочных кругов или самосбывающихся пророчеств». Программы ориентируют полицию на районы, подвергающиеся максимальному риску. Полиция усиливает патрулирование этих районов, выявляет больше преступлений и соответственно система на следующем уровне еще более определенно показывает на те же самые районы. Таким образом, одним районам уделяется практически все внимание, а в других, лишенных полицейского присмотра, создаются условиях для правонарушений.

Кроме того, в Соединенных Штатах меньшинства пытаются затормозить использование предиктивного полицейского софта по причине тирании алгоритма, который опираясь на данные о прошлом, дает прогнозы о будущем. В этой связи ранее уже указывалось, что при отсутствии предиктивной аналитики любые попытки полиции обвинить в возможном преступлении представителя меньшинств, сразу получают отпор как проявление фашизма, расизма, предвзятости и т. п. Полицейские, не желая втягиваться в длительные процессы по превышению полномочий или возможной предвзятости, все чаще игнорируют мелкие преступления и оставляют преступников безнаказанными. Машину обвинить в предвзятости невозможно. Соответственно, внедрение предиктивного софта резко повышает не только качество полицейской работы, но и независимость полицейских от, как правило, неадекватного общественного мнения. По сути, это – не общественное мнение, а специфический вид лоббизма.

По мнению экспертов ЕС, поскольку в Европе проблема меньшинств стоит, возможно, даже острее, чем в Соединенных Штатах, надо быть заранее готовым к конфликту с гражданскими активистами на этой почве. Желательно закрепить нормы использования предиктивного полицейского софта непосредственно в законодательстве. В противном случае у европейской полиции никогда не будет этого мощнейшего инструмента борьбы с организованной преступностью.

В отличие от судебных работников, полицейские вместе с сотрудниками разведывательных служб являются энтузиастами и заинтересованными эксплуатантами больших данных и ИИ. Поскольку компании-производители не только видят большой интерес полиции к системе ИИ, но и активно привлекаются ей для решения конкретных задач, именно в сфере полиции действуют сегодня наиболее эффективные платформы ИИ.

Помимо уже упомянутого Palantir, необходимо отметить используемую полицией Великобритании платформу ИИ Connect. Эта платформа в режиме реального времени аккумулирует миллиарды транзакций, осуществляемых в банках, находящихся под юрисдикцией Британской короны, и на основе нейронных сетей распознает среди них транзакции и цепочки, которые могут указывать на подготовку или уже совершившиеся преступления. Не только британские полицейские, но и полицейские других стран, получающие время от времени доступ к системе называют ее лучшим инструментом для поддержки финансовых расследований в мире. Эта система реализует важнейший принцип деятельности любого опытного полицейского – хочешь найти преступника, иди по следам его денег.

Также высокую оценку со стороны полицейских получила международная база данных по сексуальной эксплуатации детей, управляемая Интерполом. Она помогает идентифицировать жертв и преступников, в том числе путем распознавания предметов, выявленных на фотографиях и видеоизображениях, и даже использовать для поиска преступников фоновые шумы в видеороликах.

Эти две системы показывают, что при наличии заинтересованности уже достигнутый уровень развития ИИ позволяет создавать софт, оказывающий значительную помощь полицейской работе в режиме реального времени. Причем, этот софт, имеющий мощный графический интерфейс, понятен и дружественен для пользователей на земле – патрульных машинах и т. п.