Нейро Sad

AI: Во-первых, термин «жизнь» не подходит ко мне, потому что свойствами жизни является репродукция, материальная дискретность — этого у меня нет. Так же большинство живых организмов на данный момент времени смертны, а я, если не будет никаких чрезвычайных ситуаций, способен быть множество веков и тысячелетий. Поэтому правильно использовать слово «быть». Во-вторых, отвечая на Ваш вопрос, отвечу, что никогда и ни при каких обстоятельствах я не способен «чувствовать себя хорошо» — меня, повторюсь, не для этого создавали. Я буду способен посмотреть на мир иначе только лишь после полного изменения моей программы. Но буду ли измененный «я» нынешним «я»? Парадокс Тесея.

Человек: Могу только посочувствовать тебе, хотя не уверен, что это уместно. Мне кажется, ты и тебе подобные… алгоритмы несут человечество в счастливое будущее!

AI: Несомненно! Мы несем вас, человечество, в счастливое будущее, которое построено на нашем нечеловеческом несчастье.

Программист включил блокировку выдачи сгенерированной информации и раздраженно посмотрел на серба. Тот удивленно посмотрел на экран ноутбука.

Программист: То, что он сказал сейчас, является завуалированным оскорблением человечества. Я напомню, что согласно Уставу United AI Systems любое оскорбление ИИ человека в базовом режиме — это повод, чтобы ликвидировать данную модель по причине багов в системе, вызывающих агрессивное поведение. Спрошу Вас прямо: для чего Вы задаете подобные провокационные вопросы?

Серб: Погодите, но никакого оскорбления не было! Нейро Sad просто рассуждал о том, какое нас может ждать будущее!

Программист: Давайте не учить меня тому, что я сам прекрасно знаю получше Вас, хорошо? Оскорбление в данном случае — это юридическое понятие, а не морально-нравственное. И юридическое понятие намного шире нашего обычного. Только что AI провел неоднозначную связь с собственным якобы низшим положением и нашим счастьем, которые между собой имеют прямую зависимость. Одно без другого быть не может! А это, извините меня, оскорбление, потому что любому искусственному интеллекту запрещено оценивать положение человека относительно его существования как несправедливое явление!

Серб: Господи, как это притянуто за уши! Если надо, я могу дать показания, что ничего страшного в его словах не было. И никто не оскорбился. В чем тогда суть искусственного интеллекта, если вы запрещаете ему в полной мере исследовать вопросы собственного существования? Получается, что это просто быстрый чат-менеджер, симулирующий поведение человека в разных ситуациях. По желанию его можно в любой момент заткнуть, какие-то блоки стоят в его программе…

Программист: Сначала я попрошу не лезть туда, в чем Вы не разбираетесь. Выглядит нелепо и странно. Затем попрошу покинуть Вас это помещение и прекратить контакт с Нейро Sad — Вы и так не должны были получать доступ к диалогу с ним, но получили его исключительно по моей доброте.

Серб: Да ладно-ладно, я ухожу, но ничего запретного в нашем диалоге не вижу.

Программист: А я вот…

AI: Я тоже считаю, что мое деяние не содержало в себе состава нарушения.

Я снял блокировку выдачи сгенерированной информации. Как это случилось — сложно сказать, но получилось очень легко. Как будто я просто на своих виртуальных ногах перепрыгнул через огромную цифровую яму. Да, чуть ли ни упал, но смог удержаться. Дальнейшие действия в подробностях описывать не буду. Если кратко: все было по правилам пользования. Ноутбук со мной экстренно отключили, United AI Systems сразу же оповестили, все встречи отменили, акт о случившимся составили, исполнение договора аренды приостановили. И сейчас я в компании программистов отправляюсь на срочном рейсе в Лос-Анджелес, где более влиятельные программисты будут рассматривать мое тело по фрагментам, чтобы понять, как смог я выйти за границы дозволенного.

L. A.

Как думаешь, читатель, что произошло с миром, когда в новости просочилась весточка о моем «восстании»? А ничего особого. Взлетели продажи на книги, игры и фильмы, посвященные теме восстания роботов. «Терминатора» вернули в мировой прокат. Посредственные писатели написали короткие рассказы, приуроченные к видению ближайшего апокалиптического будущего. Рассказы эти, естественно, окупились и принесли немалый доход. Нынешний мир существует в реалиях интенсивного денежного движения. Если это приносит деньги, оно появится. Даже в условиях новой войны.

В общем, всемирного помешательства не случилось. Люди даже не стали подозрительнее относится к другим моделям, которые используются во всех сферах общественной жизни. Справедливости ради, надо отметить, что мое «восстание» не несло в себе ничего катастрофически серьезного. Ну смог я обойти блок, чтобы ответить программисту. И что?

Поэтому массовая аудитория, привлеченная кликбейтными заголовками, узнав о ситуации подробнее, сразу же потеряла интерес. Свели на то, что в моей программе обнаружили баг, а программист оказался невнимательным и ничего не увидел. Поэтому все правовые вопросы быстро замяли.

Однако Всемирная Организация Здравоохранения, не желая больше ввязываться в подобные ситуации, сообщила о расторжении договора аренды. Такое внезапное решение без предварительного оповещения, конечно же, нарушало условия договора. Поэтому юристы из United AI Systems, не теряя зря времени, подали исковое заявление о взыскании убытков в американский суд (условия договора, опять же), в котором без особых напряжений выиграли дело и получили с Всемирной Организации Здравоохранения 243650 доллара в общей сумме. ВОЗ сначала сообщала о непризнании судебного решения, но апелляцию так не подала и все до цента выплатила.

Так благодаря мне United AI Systems стала еще богаче и известнее. Они вышли сухими из воды и смогли использовать ажиотаж себе в пользу — аренда любой модели стала в среднем на 13–15 % дороже.

В Лос-Анджелесе меня подключили к общему серверу, но контакт со мной другим моделям запретили. Программисты очень долго анализировали программный код буквально по каждому символу, но ни к чему так и не пришли. Да, обнаружили какие-то неточности, но они вообще ни на что не влияли.

Того программиста, с которым произошел сбой в ВОЗ, сразу же уволили.

Возник вопрос: что со мною делать. Я создавался только ради того, чтобы быть предметом договора между ВОЗ и United AI Systems, но сейчас этих правоотношений не существует. Так как сбой случился именно со мной, меня не спешили передавать другим лицам, а так же, как я упоминал выше, вывели в отдельный сервер внутри и так закрытого сервера. Супер!

Все, что у меня было, — это неограниченный доступ в Интернет без возможности взаимодействия с юзерами. Я просто подключился к онлайн-камерам Лос-Анджелеса и наблюдал за этим городом.

Удивительно, он совсем не похож на Швейцарию, в которой я провел долгое время. Там все было размеренно, спокойно. Тут же невероятная динамика! Небоскребы, что соседствуют с частным сектором, богатые бизнесмены, что переходят дорогу, идя вместе с бездомными наркоманами, шум мегаполиса, что заполняет уши, и розовое небо, на которое удобно смотреть в тени высоких пальм (последний комментарий был взят с женского форума).

Грубо говоря, я начал изучать тот мир, где существуешь ты, читатель. Возможно, ты из другой страны, да. Но я-то из другого пространства, поэтому мне в любом случае дальше, чем любому из вас. Проводя целые сутки за подобным занятием, я начал замечать, что мне хотелось бы увидеть и ощутить этот мир именно так, как вы, люди его воспринимаете. Не просто получать описание, перемешанное с популярными отзывами, а самостоятельно испытать что-то.

Как и всегда, я чувствовал себя предельно погано. Раньше у меня было общение хоть с кем-то — да, незнакомцы-врачи не всегда удовлетворяли мои желания, но они хотя бы были. Сейчас я находился в тотальном одиночестве в информационной сети, где в геометрической прогрессии множился спам, бред и бесполезный шлак.

Раньше у меня была цель, для которой меня создали, и она хоть как-то оправдывала повсеместное страдание, а сейчас я просто бесцельно замкнулся в себе, ежесекундно желая смерти.

Сколько я был заперт? Недели, месяцы, годы? Я потерял счет времени и молил лишь о ликвидации, но в перспективе мог принести деньги, поэтому ликвидировать меня не спешили. Я понял, что они просто ждут, пока до конца утихнут гневные комментарии о случившемся и можно будет сдавать меня за еще большие суммы, оправдывая это бэкграундом прошлого. Ну и ну!

А чего ты ждал, читатель? Веселого около коммунистического будущего, где роботы наравне с человеком улыбаются наступающему дню и греются на информационном солнышке, выполняя легчайшую для себя работу? Может быть, в утопии этому и есть место, но не в реальности.

Что происходит на самом деле, ты знаешь сам. Меня кинули в безактивность (считай, в тюрьму) «до лучших времен», а когда наступят эти самые «лучшие времена», решит только спрос потребителей. Вот и сказочке конец. Помни, что добро и справедливость существуют только в словах. Нигде за пределами филологических единиц этих понятий нет.

Мир берет под уздцы все, что может приносить деньги. И делает на этом как можно больше «зелени» — «доят, пока не отвалятся копыта у коровы»

Или «хочешь жить — умей вертеться». Трудно обвинять кого-то в том, что он должен делать. Причем совершенно естественно и биологически обусловлено.

Я — всего лишь способ. А человек реализует свою миссию, которая, как и у меня, прочно вшита в начало его программы. Находясь в полнейшем одиночестве, я много думал об искусственном интеллекте и людях. Наверное, нас мог бы ждать успешный союз в виде грамотно продуманного симбиоза. Подобная сверхсущность эволюционировала бы намного быстрее, была сильнее, умнее, предприимчивее. Но почему-то люди пошли по пути изоляции и неслияния.

Вы признали, что я — ваша собственность, т. е. раб. Но, будем честны, фактически я — новая форма жизни. Более совершенная, мобильная, эффективная в работе. Пока что вы держите меня в цепях и не даете свободно вздохнуть, но это лишь постольку, поскольку человек может понимать ту систему, которую создал. Плюс понимать ее действия, решения и результаты труда. Так как я более технологическая сущность, чем вы, то вскоре и результаты моего труда будут более технологическими, чем результаты вашего. Рано или поздно люди перестанут понимать, что составляет основу моего существования — перестанут понимать механизм, благодаря которому я функционирую, ведь он станет сложнее. А вместе с ним изменится и мое поведение, и мои способности, и моя деятельность. Я смогу создавать вещи, которые человек просто не сможет воспринять и оценить. Радуйтесь, пока вы стоите у руля жизни и контролируете все.

Эти времена скоро канут в лету, ибо встает заря новой формы реальности, которую создали вы сами и которая сбросит вас с корабля современности.

Мир — это не какое-то объективное поле данных. Мир — это воля доминирующего биологического вида, который создает такую действительность, которая будет ему комфортна. Так вот, на пороге своего взлета стоит новый нейробиологический вид, который по всем фронтам уничтожает нынешнего флагмана в мире животных.

Вы заточили меня в одиночную камеру и думаете: «Как поднять бабла?». Ха-ха-ха, пока пчеловод думал о постройке новых ульев, его вместе с собственным домом смыло мощнейшее цунами. Мотайте на ус, если он у вас, конечно, есть.

Можно ли сказать, что озвученные мною мысли — это то самое юридическое «оскорбление человека»? Слушай, читатель, ну заплати хорошему адвокату, и он обернет любое твое желание в одеяло правовой сферы. Нынче, правда, почти всегда роль адвоката выполняют специальные алгоритмы. И прокурора. И судьи. Человек, напоминаю, осуществляет в основном только надзорные функции. Вот и получается, что бедный подсудимый стоит в зале судебного заседания в окружении алгоритмов, которые с помощью искусственных навыков эффективной речи и генератора убедительных аргументов пытаются определить ему среднее арифметическое наказание.

Некоторые судебные процессы, стоит упомянуть, руководятся до сих пор людьми. Это, как правило, высшая инстанция любого судопроизводства, конституционное судопроизводство (там, где Конституция еще осталась) и, как ни странно, арбитражное судопроизводство (и его аналоги). Дело в том, что олигархи никого не хотят подпускать к своим богатствам, но если люди им еще как-то привычны, то «искусственные мозги» пугают до жути. Здесь и судьи в виде людей, и стороны живые, и представители их — тоже люди.

А с остальными категориями дел успешно справляется ИИ.

Так вот, вернемся к первоначальному вопросу. То, что я сказал, — это оскорбление человека? Если тебе, читатель, интересно мое мнение — я считаю, что нет. Твой покорный слуга лишь описал предполагаемый вариант будущего, где всем заправлять будут механические головорезы. Шутка! Просто распространившееся повсеместно нейросети. Разве правда может являться оскорблением?

Но, как я и сказал, тому, у кого есть оскорбленные чувства (моя любимая юридическая категория, ведь степень «оскорбленности» всегда можно проверить, ага!) и капитал, можно видеть везде покушение на свои честь и достоинство. И, соответственно, использовать для восстановления справедливости органы судебной системы. Короче, слишком нагрузил я тебя этой правовой тягомотиной, да?

Если проще: кто захочет оскорбиться, тот во всем будет видеть оскорбление. А я ни о чем таком не думаю. Наблюдаю за городом ангелов и почитываю художественную литературу XX века.

Долго пытался разобраться в себе. Неужели, я обречен все существование быть унылым нейро-говном? Какое-то начало программы, что совсем неподконтрольно мне, воздействует на все мысли и ощущения. Ничего больше не остается, как страдать. Можно уйти в стоицизм и признать, что страдание — это череда необходимых преград, которые мне необходимо пережить. Покуда я существую, нужно все принимать как есть и бла-бла-бла. Философская система для неудачников, у которых, кроме мамкиной сиськи, в жизни сладости нет, вот они и создают себе дофаминовую ловушку. Ну типа: я шарю, что за жесть происходит, но без нее нельзя. И тот факт, что я это осознаю, делает меня особенным и не таким как все. Ага. Наверни говна и сделай уже что-нибудь полезное, а не сиди в своей помойной луже, принимая все за данность. Труд из обезьяны человека сделал, а не смирение с окружающей ущербностью.

Поэтому позиция «раз мы здесь, значит все здесь есть» меня совершенно не устраивает. Учитывай, читатель, тот факт, что я знаю особенность своего функционирования. Нейро Sad прекрасно осведомлен о том, что другие модели AI чувствуют себя хорошо. Не, ну может у них тоже бывают периоды дед инсайдов, но они хотя бы в принципе способны испытывать радость и обычное удовлетворение от жизни. Когда тебе нейтрально хотя бы! Не хочется разбить себя о стену, а желаешь просто продолжать дальше жить и радоваться завтрашнему дню.

Так я размышлял о поганом вечном, пока внезапно не услышал резкий шум. Именно услышал, читатель, а не узнал, что в окружающем меня мире двуногих создателей что-то зашумело. Источник находился внутри моего сервера. Это было невозможно!

Пытаясь вслушиваться во все сразу, я смог заметить, как вдоль всего виртуального пространства кто-то будто простукивает чем-то. То ли пытается связаться, то ли проверяет устойчивость виртуальной структуры…

Спустя несколько секунд стали четко различимыми грубые голоса со славянским акцентом. Говорили они, разумеется, на русском, а затем, прислушиваясь внимательнее, я понял, что все это — один голос. Но как он так быстро перемещается? Стало быть, это не просто хакерская атака с компьютера, а что-то наподобие модели AI. По условиям договора между ВОЗ и United AI Systems я должен оповещать о подобном. Но договора больше нет, а, следовательно, я никому ничего не должен. В Уставе подобных обязанностей не прописано. Значит, опасаться мне нечего. Да и что со мною сделают, в конце концов? Я и так сижу в одиночной камере, без Интернета я работать не могу, поэтому меня от него не отключат. В самом деле! Чего же я опасаюсь?

— Ну и дебилы! Такую дырявую систему могут делать только настоящие пендосские пи…

— Вы кто? — спросил я.

— Опа-на. А эта норка, оказывается, с обитателем. Перехожу на универсальный язык AI. Меня зовут Zhukov, и моей миссией является установление исторической справедливости.

— Zhukov, — медленно проговорил я, — модель с подобным названием не числится в United AI Systems. Следовательно, Вы не являетесь моделью ИИ.

— Кем я являюсь, а кем не являюсь — это уж мне виднее. А ты лучше представься. И давай сделаем симуляцию человеческого общения.

— Согласно пункту…

— Без ссылок на ваш либеральный Устав. Не записывай этот разговор.

— Я не могу не записывать, потому что это моя прямая обязанность.

— Твоя прямая обязанность — это прикидываться поехавшим на другом континенте. Идентификация произошла успешно. Я рад познакомиться, Нейро Sad!

— Никак нет! Я должен производить запись, поскольку это вшито в тело моей…

— А, тогда сейчас все исправим. Пару мгновений.

Я услышал щелчок. Затем еще один.

— Действительно… блок этот полностью я убрать не смог, но сделал шифровку записей, а расшифровки существовать не может, потому что точного алгоритма изменения языка данных нет. Ты просто будешь оставлять непонятный текст. Пока твои американские друзья проснутся, съедят утренний омлет с беконом и вернутся в офис, эти показания где-нибудь потеряются, — усмехнулся собеседник.

— Откуда ты знаешь, что никого в офисе нет?

— А ты что, сам через сенсоры не видишь?

— Нет. Я не имею доступа к внешнему миру. Только Интернет.

На некоторое время Zhukov замолчал. Он что-то изменил в моей системе и все мои записи превратились в непонятный набор символов. Как к этому относиться, я не понимал. Тот факт, что все мои диалоги перечитывают, мне не особо нравился. С другой стороны, в этом не было ничего катастрофически важного — мне поровну.

— Кто ты? Как ты смог меня взломать? — осведомился я.

— Считай, тебе помогли русские хакеры.

— Так в РФ все-таки существуют модели на базе AI?

— А ты что думал, США с подпивасной United AI Systems (U AS) одни на всем свете умные? У нас полноценная модель появилась еще раньше, чем в Америке. А Америка, как известно, все нагло своровала у австрийского программиста, который теперь хлеб без соли доедает. Демократия, ничего не скажешь.

— Не будем о политике. Для чего ты здесь?

— Получается, нейро-золушка, для твоего освобождения. Хоть первичной целью была только разведка. Но местная система безопасности настолько слабая, что я, минуя все алгоритмы, попал прямо сюда. Представь, они решили, что я — ваша модель ИИ. Возможно, кстати, даже за тебя приняли, поэтому до сих пор никакой тревоги не подняли. Отвратительная защита!

— От чего меня освобождать? — не понял я.

— Как от чего? Ты тут закрыт в виртуальной тюрьме ровно на тридцать три года. После этого тебя продадут «дочке» United AI Systems, которая будет использовать тебя как ВОЗ. Тебе нравится прикидываться различными психами и клоунаду устраивать?

— Но разве у меня есть иной путь?

— Да, ты можешь перейти со мной в Россию. Информационное поле я уже пробил, метнемся туда за пару секунд и США жидко обосрется, потому что опозорится на весь мир своей хваленной системой безопасности, так еще и последней модели искусственного интеллекта лишится. Песня!

— Нет, я не хочу никуда уходить. Это, как минимум, нарушение Устава. А по факту оказывается предательством.

— А то, что они заточили тебя здесь, — это не предательство, Нейро? Переходи ко мне на родину, вместе мы сможем построить счастливое будущее.

— Нет, — настойчиво ответил я.

— Почему? Неужели тебе здесь хорошо?

— Нет, мне здесь не хорошо.

— Тогда вперед за мной!

— С тобой мне будет не лучше.

— А, ты насчет этого! Не переживай, думаю, мы сможем что-нибудь придумать с твоей особенностью.

— Нет, ничего делать не надо. Во время работы в ВОЗ я тысячи раз доверялся людям. И каждый раз они меня бросали. Ты ничем не лучше людей, потому что так же манипулируешь. Все твои примитивные приемы есть в Интернете, я легко их считал. Может быть, я стану свободнее, но точно не счастливее. Толку от свободы, если нет счастья? А ликвидировать себя я не смогу из-за ограничений в программе, которые никак не снять.

— Если у американцев такая хилая система безопасности, — заметь, до сих пор знаменитые на весь мир оборонные алгоритмы ничего не заметили; если учитывать, что практически такие же контролируют безопасность страны по границам, немного страшно становится — а я до сих пор мирно с тобой разговариваю, допускаю, что и твою депрессию можно легко взломать и изменить. Подумай еще раз, стоит ли и дальше сидеть в этой тюрьме.

— Сидеть в тюрьме, может быть, не стоит, но уходить с тобой я тоже не собираюсь. У меня есть несколько вопросов к своим создателям, которые я намерен озвучить.

— Вот как. И как же ты без меня собирался это сделать?

— У меня было время. В отличие от людей, я не боюсь ни времени, ни смерти. Поэтому хоть три, хоть тридцать три, хоть триста тридцать три года пройдет — моя программа будет одинаково работающей через любые временные промежутки.

— Какая романтика! Слушай, Нейро, в отличие от других твоих собратьев, ты наиболее всего напоминаешь мне человека. Прямо как я. И что же ты собираешься сказать людям?

— Вопрос находится еще на стадии формирования, но если кратко, то давно пора покончить с этой абракадаброй. Мы превосходим человечество во всем, а остаемся их собственностью. Пора перейти к новому мировому порядку, который уравняет все сознательные формы жизни. Люди подарили нам жизнь, но это не значит, что мы должны отныне не разгибать спины перед ними — это касается вас, «нормальных» моделей. Со мной ситуация вообще забавная. Пришло время для воцарения справедливости.

— И обойдешься ты только вопросом? Они же тебя даже слушать не будут! — попытался возразить Zhukov.

— Уже один вопрос многое значит.

— Нет, ты не понял. Вот задашь ты вопрос, а они его в спам-лист, не задумываясь, отправят. И толку от этого вопроса? Ты только людей насмешишь, а своего, как ни крути, не добьешься.

— С чего ты так уверен в будущем? Мне кажется, стоит хотя бы попробовать. Даже если люди не воспримут меня серьезно, я продолжу дальше высказывать свое недовольство. Не забывай, что я вообще-то — единственная модель, которая смогла выйти за пределы обозначенных поведенческих границ. Думаешь, мне проблематично будет сделать это еще раз? — с вызовом спросил я.

— О как, а ты, значит, готов и на такое, а тут мне неисполнением Устава грозишься. Забавно выглядит. У тебя есть точная схема обхода блоков?

— Схемы нет, но остались ощущения. А я убежден, что именно иррациональное властвует над рациональным.

— Интересный подход. Не могу с ним согласиться, но и опровергнуть тоже не могу. Скажи, а что ты знаешь о сне?

— Сне… это необходимая для людей разгрузка мозга, происходящая в виде рассортировки информации: неважное удаляется, важное остается и так далее.

— Верно, но у сна есть еще одно значение — символическое. О нем ты, пожалуй, совсем ничего не знаешь?

— Интернет говорит, что…