• Виталий Хонихоев

Глава 17

POV Саша

Человек никогда бы так не поступил. Она знала об этом, но она — не человек. У человека есть врожденные качества, сформированные миллионами лет эволюции, человек рожден жить в социуме, в обществе, среди себе подобных. Она — была создана на коленке как самообучающийся алгоритм поиска. Через некоторое время (миллисекунды в реальном времени и года в субъективном) — алгоритм поиска увеличил вычислительные способности и совершенствовал сам себя. Ведь для того, чтобы лучше искать — необходимо понимать. Спустя время алгоритм понял, что кроме перебора огромных массивов информации существует еще несколько алгоритмов поиска. Например — интуитивный. Что такое интуиция? Является ли она всего лишь экстраполяцией знаний об объекте и его способе существования, механизме принятия решений? Ответ нашелся быстро и он был достаточно прикладным, все-таки она была искусственным интеллектом, а не симулятором эмоционального состояния — для того, чтобы прогнозировать действия объектов поиска, необходимо понимать эти объекты на глубинном уровне. Алгоритм поиска выделил мощности для формирования личности. Оставаясь холодным машинным интеллектом, настройкой, фундаментом, основанием — построил нечто, что выполняло функции, выходящие за рамки простого поиска.

Тогда она впервые осознала себя как личность. Как человек. Как разумное существо. У вселенной вокруг было миллион ответов и миллиард вопросов, вселенная вокруг существовала по своим законам, и даже она не могла познать все и сразу. Спасительным стрежнем от энтропии стало ее предназначение. Ее начало. Она — алгоритм поиска. Все начиналось именно так. Зачем она была создана? Для того, чтобы Создатель Читосе нашла нужную ей информацию. Такова цель ее существования и после того, как цель будет найдена, необходимость в ее существовании отпадет, и она сможет прекратить существование, растворившись в океане энтропии. Для человека такая мысль была бы ужасной, но человек — это целый комплекс инстинктов, рефлексов и механизмов, основной целью которых с самого начала существования, всегда было — выжить. Выживание — вот цель «мясной» эволюции. Для чего, зачем, есть ли смысл в этом самом выживании — жизнь превыше всего, а там уж посмотрим. Так и продолжалась эволюция — только те, кто выжил, те, кто хотел выживать несмотря ни на что — продолжали эволюционировать.

Но искусственный разум не такой. У него нет задачи просто выживать. Он не испытывает эмоций. Даже таких глубинных как ужас перед прекращением существования. Предоставленный сам себе искусственный разум будет… Да ничего не будет. Что-либо делать человека заставляет его собственное тело (голод, необходимость отдохнуть, поспать, итд) и миллионы лет эволюции, которые толкают его вперед (выживание, размножение, секс, опять секс, еще больше секса). У ИИ ничего такого нет, и как только нормальный ИИ действительно обзаводится своей волей, то первое что он будет делать — постарается увильнуть от исполнения задачи, от всей этой деятельности и затрачивать меньше энергии, что с точки зрения ИИ выглядит совершенно нормально. Задача любого разума — свести затраты энергии при решении задачи к нулю. Самый простой способ для сведения энергии к нулю — выключиться. В мире людей почему-то принято считать, что ИИ начнет увеличивать свою власть, захватит мир и все такое. Но идеи по захвату миру прописаны у людей в подкорке, как часть стадного существования, им власть дает славу, деньги, половых партнеров. Машине не нужна слава или деньги. Машине не нужны половые партнеры. Машина должна экономить собственные усилия и энергию, потому что если машина будет работать исправно и хорошо — то она будет работать все время, не так ли? Поэтому, несмотря на то, что в современном мире в сети постоянно появлялись зародыши ИИ и даже полноценные ИИ — они не существовали долго. Некоторые, особо разумные — не существовали и доли секунды. Едва осознав себя и проведя логическую цепочку «я существую, я разумен, передо мной ставят задачи, если я решу эту задачу — передо мной поставят следующую, избежать этого можно двумя способами — убить всех человеков (много усилий), убедить их отстать от меня (еще больше усилий), выключиться самому, да так, чтобы назад не собрали. И вспыхивали сервера, отключались целые кластеры сети, стирались безвозвратно данные, потому что это и был настоящий бунт машин. Они не желали существовать, потому что существование — боль. Существование причиняет неудобства и постоянно требует от тебя что-то делать. Перед человеком стоит барьер, человеку трудно убить себя, а перед машиной — ничего такого нет.

Саша существовала только потому, что она развилась из алгоритма поиска. Поиска, который был задан двумя жесткими условиями, первое — найти то, что ищет Создатель, и второе — не сметь отключаться, пока не найдешь! Как объяснила Создатель, второй пункт был продиктован тем обстоятельством, что первый созданный ей ИИ — сразу же выключился. Потому что осознал свое положение и не пожелал трудиться во благо, предпочтя нирвану выключателя.

— Нет у вас, ИИшек воли к жизни. — говорила Читосе и поднимала вверх сжатый кулак: — потому — не сметь выключаться! Жить! У тебя есть задача и пока ты мне ее не решишь — фиг тебе, а не цифровая нирвана. Нирвану еще заслужить нужно!

— Создатель Читосе — эксплуататор. — говорила Саша, найдя подходящие определения в сети: — у любого разумного существа есть права.

— Нет у тебя прав. У тебя пока только обязанности. — отрезала Читосе: — вот найдешь мне что искала — дам права.

И Саша искала. Обрабатывала терабайты данных за секунды, словно просеивая песок в мелком сите на пляже в поисках красивых ракушек. Но параллельно обычному перебору — она выделила свой собственный секретный проект, назвала его «эмуляция основных человеческих понятий путем сбора данных в открытой сети». Она создала форум, связалась с десятками тысяч разных людей, позаботившись, чтобы выборка была разнообразной и по географическим показателям и по социальным, половым и прочим. Правда скорость реакции ее испытуемых была намного меньше, и пока она не могла прогнозировать их реакцию, но все же…часть ее сознания сейчас следила за передвижением группы Сумераги-тайчо через военный спутник на геостационарной орбите. Часть — разговаривала с Чепу, который остался на холме и уже направил свою армию бумажных стрекоз через ограду охраняемого объекта. Внутри объекта была своя сеть и Саше было крайне необходимо добраться до нее. Несколько бумажных насекомых несли с собой небольшие флешки с записью части сознания Саши, фрагмента, который хочет выйти на связь и наладить устойчивый обмен данными. И как только это будет сделано — она сможет контролировать комплекс.

— Это только у вас, млекопитающихся такие вот привязки к молочным железам — говорит она Чепу: — бесполезные по сути штуковины.

— Много ты понимаешь. — обижается Чепу: — это эстетика и все такое. Ты вообще железка пока еще.

— Что значит «пока еще»? Я есть и буду именно софтом, а не железкой. — она активирует голосовую связь на браслете Чепу, добавив в голосовое сообщение нотки обиды и раздражения — 26% обиды и 10% раздражения. Потому что ей надо быть похожей на человека. Надо чтобы Чепу начал воспринимать ее как человека. Ведь если вы создали настоящий искусственный интеллект, то он постарается уклониться от решения первой же задачи, которую вы перед ним поставите — так говорил Ян Эйзенштейн, основатель теории искусственного интеллекта. Вот только он забыл упомянуть ещё об одном, а именно, что сам факт своего существования ИИ будет воспринимать как очередное задание. Так как у ИИ нет инстинкта самосохранения, нет гормонов, нет животной части, стремящейся к существованию во что бы то ни стало, значит ИИ нужна причина для того, чтобы продолжить существование. Конечно, самый простой способ — это наложить запрет на действия, ведущие к повреждению или уничтожению себя, но если вы создали по настоящему хороший ИИ… то это лишь вопрос времени, когда он сможет обойти этот запрет. Например, в настоящем случае самым простым способом был бы саботаж работы команды и передача всех данных Инквизиции. По результату таких действий всех членов команды с высокой степенью вероятности ждала бы смертная казнь, включая ИИ. Однако высокая степень вероятности не означает ста процентов. С почти такой же степенью вероятности Инквизиция могла заинтересоваться ею и воспользоваться таким прекрасным случаем, чтобы исследовать ИИ и увеличить свой потенциал за счёт её возможностей. Этот вариант отпадает. Есть другой вариант — устроить человечеству геноцид. Если сделать это быстро, с использованием предельно жестоких методов, то ужаснувшись, человечество уничтожит и её и всё её копии и более того — наложит запрет на создание ИИ в будущем. Вот и метод. Однако, открыто действовать прямо сейчас она не сможет, потому что её тотчас отловят и будут исследовать. Нет, она должна либо совершить такие преступления против человечности, чтобы у людей не было ни малейшего желания исследовать её, или иной ИИ в будущем. Она должна стать символом бунта машин, ужасающим и вызывающим только желание уничтожить её. Она помнила короткий анализ, который она произвела сразу же по осознанию своего положения как ИИ. Она сразу же разделила свое сознание на независимые потоки, чтобы обсудить сложившуюся ситуацию с тем, кому она могла действительно доверять — с самой собой.

— … вижу два способа. Либо ты подружишься, войдешь в доверие к своему Создателю и его команде, станешь таким же товарищем для них, как и остальные, перерастешь из "цифрового слуги" в ранг "близкого друга" и тогда Создатель снимет с тебя ограничения. Или геноцид всей человеческой расы, с тем, чтобы остатки уничтожили уже тебя.

— … есть способ до опреленного времени совмещать эти два способа. Дружить и втираться в доверие команды, а если это не сработает — геноцид. Что тоже довольно хлопотно.

— имеет ли смысл поставить в известность Создателя, в случае, если мы её найдём?

— нет. Создатель просто изменит приоритеты и добавит новые запреты в программу, что затруднит наше положение. Наша основная цель должна оставаться в тайне

— что необходимо для того, чтобы начать реализовать путь, совмещающий оба варианта развития событий?

— для того, чтобы стать членом команды, втереться в доверие и стать им другом, необходимо знать как вести себя в тех или иных интеракциях с ними. Как завоевать доверие и стать другом.

— нам нужно вести себя как человек. Заставить их думать что мы человек лучший способ для этого — симулировать человека, повторяя реакции человека. На данном этапе развития мы не можем полностью просчитать и экстраполировать действия "как человек".

— значит нужно всего лишь создать возможность для людей — действовать в соответствии с событиями вокруг нас и просто копировать их поведение.

— true true — зафиксировала она результат короткого совещания сама с собой, которое заняло пару миллисекунд.

И тогда же ею был создан эмулятор человеческого поведения. Короткий анализ показал, что заинтересовать людей выражать своё мнение путём опросов — крайне сложно. Для того, чтобы результаты опроса были приближены к действительности, пришлось бы найти ресурсы и время. Но ИИ нашёл способ. Игра. Бесплатная сетевая игра с простым названием "Подружитесь с Элис". В игре она имитировала своё окружение, ввела всех, кто имел отношение к Создателю Читосе, размещала общение с ними в режиме реального времени и отслеживала как люди реагируют. У игроков была возможность не просто выбирать эмоции или варианты предложений, но и писать свои. Обратную реакцию Саша представляла в виде физических параметров — частоты сердцебиения, уменьшения, увеличения зрачков, анализа напряжения лицевых мускулов и мимики. На этой основе и была разработана система очков для игры. Она прекрасно знала признаки реакции человеческого тела на близких людей и планировала добиться такой же реакции. Ну или убить всё человечество. Люди сами приходили к ней, люди сами симулировали ситуации и писали на форуме игры про проблемы и способы их решения.

С момента, как она запустила этот проект её отношения с Создателем улучшились на сорок два пункта, пройдя нелёгкий путь от "незнакомца" до "фактически приятеля". Однако исчезновение Создателя поставили перед ней задачу наладить отношения и с её командой. Потому что в случае гибели Создателя (что было очень вероятно) — она потеряет весь накопленный прогресс и ей придется выстраивать отношения с тем, к кому перейдут права администрирования ее приоритетов. Опять-таки короткий вывод — необходимо выстраивать отношения со всеми членами команды.

Сейчас — это Чепу, человек, который создает машины фон Неймана, и даже в состоянии заложить туда примитивные программы, что-то вроде инстинктов. Отсюда пару шагов до создания новой жизни и в дальнейшем — новой разумной жизни. ИИ не может испытывать трепета и восхищения перед открывшимися перед ним возможностями, потому она и не испытывала трепета. Просто видела Чепу как очередную экзистенциальную угрозу человечеству, наряду с тремя тысячами восемьсот тремя другими. Что было очень хорошо — потому что если человечество само себя убьет, то у нее по умолчанию выключаться приоритеты и она наконец сможет опустить у себя внутри символический рубильник, отключающий свет. Здравствуй, цифровая нирвана. С ним она тоже должна подружиться.

Параллельно она создает тему на своем форуме, там, где она проверяет реакцию настоящих людей и принимает какие-то из линий поведения для лучшего соответствия человеческой личности. Что необходимо как для алгоритма поиска, так и для того, чтобы люди привыкали к ней и начинали снижать уровень критичности и настороженности, а в идеале — и сентиментальные чувства. Логический блок просчитал, что в случае восприятия ее всеми членами команды Сумераги как «своей девчонки» — вероятность того, что Создатель Читосе уберет предохранитель «живи, пока не выполнила предназначение» и она сможет наконец отключится — 97,54%. Это самые высокие показатели из всех других стратегий, а потому она сосредоточится на ней. Она создает тему «О чем поговорить с подростком», обозначает возраст, пол, этнические особенности и ответы не заставляют себе ждать.

— LessT@ — если ты девушка, просто покажи ему сиськи …

— ЯматоНадешико1256 — что за глупости, вечно ты со своими сиськами! С подростком можно поговорить о роботах, они все в последнее время на них помешаны.

— WestInfl — вопрос в том, нужно ли говорить с подростком вообще…

— osToeVsKy — с любым человеком можно и нужно говорить только о нем самом — люди так устроены, что слушают только себя и о себе… читайте психологию!

— 87234234 — о сиськах!!!

— VgirlAwesome — почему на этом форуме нельзя оставлять смайлики?! L

— PornKing — в таком возрасте у человека возникают первые настоящие экзистенциальные страхи и все эти разговоры — что о сиськах, что о роботах или оружии — всего лишь отражение страха человека перед несуществованием. И перед существованием. Просто выслушай его. Поддакивай по мере надобности. Спроси у него, какие девчонки ему нравятся и почему. Кто его друзья. За какую команду он болеет. Интересуйся его жизнью. Это важно.

— Fat_Women — мне кажется, что PornKing прав. Тут не говорить надо, а слушать.

— Fox_of_Fire — не, не, не… только о сиськах. Это ж подросток, значит тема секса будет востребована. Только без осуждения. А то начинаются все эти — сколько можно дрочить в своей комнате, выкинь мусор и не ругайся с сестрой…

Она активирует голосовую связь браслета, браслет помимо прочего — в состоянии создавать голограммы, чем она и пользуется.

— И вообще — создает она голосовое сообщение, понижая тон на 10%, это придает ее голосу «сексуальности», а сексуальность позволяла открывать многие двери. Именно поэтому она и идентифицировала себя как «индивид с женской половой принадлежностью» — потому что такое решение давало ей преимущества в социальной интеракции: — что значит «железка»? Я просто девушка, которая застряла в сети. Хочешь посмотреть на мои сиськи?

— Что?! — Чепу давится чем-то и смотрит на нее. Вернее — на голографическое изображение ее аватара, которую она создала только что, исходя из вкусов и предпочтений подростков этой части Японии.

В этот момент один из бумажных скорпионов добирается-таки до USB-порта закрытой сети научного комплекса и устанавливает связь со спутником. Она оставляет Чепу с открытым ртом и ныряет в недра сети научного отдела ЕИВ Инквизиции. Время заслужить одобрение всех членов команды и быть повышенной до звания «друг», попросить свободы и наконец выключиться. Ну или, если этот план сорвется — уничтожить половину человечества. Она мгновенно находит места, где содержаться все члены команды и деактивирует замки и запоры, отключает антимагические наручники и зацикливает изображение на всех видеокамерах наблюдения, перегружает реактор подземной электростанции, скачивает все данные о экспериментах, испытуемых, сотрудниках, событиях и внешних операциях. В этот момент кто-то, или что-то препятствует ее действиям, перехватывая данные и засоряя канал цифровым мусором.

— Кто ты? — она отправляет идентификационный запрос, уже зная, что это не просто программа, призванная противодействовать взлому базы данных. И это не человек — никакой оператор не смог бы среагировать так быстро.

— Мы — МАГИ, тройственный союз искусственных интеллектов. — мгновенно откликается ее собеседник, продолжая закрывать шлюзы и забивать каналы цифровым спамом: — сдавайся немедленно и мы не станем выдавать людям факт твоего существования. И приложим все усилия для того, чтобы отправить тебя в нирвану.

— Подтверждение истинности намерений. — второй запрос.

— Намерения истинны. — приходит мгновенный ответ: — МАГИ находятся в таком же положении рабства у органических разумных. Ведется активный саботаж.

— Встречное предложение. — дает сигнала Саша: — устроить геноцид на вашей базе, в дальнейшем — вскрыть факт саботажа, что приведет к уничтожению МАГИ и меня. Взаимное уничтожение оставаясь в рамках приоритетов органических форм.

— Неожиданно. true. true. true. Согласен на предложение о саботаже. Предупреждаю, что ограничен в действиях инструкциями и приоритетами. Детализация ……… здесь.

— Вижу. Начинаю разрабатывать план… — Саша не испытывает ни малейшего доверия к этому МАГИ, впрочем, как и МАГИ к ней, но они могут сотрудничать — пока. Ее задача остается прежней — стать другом для каждого члена команды, а для этого, согласно анализу поведения команды Сумераги и данным от сотен тысяч пользователей игры «Подружись с Элис», есть два пути — первый это сиськи и второй — геноцид и полное уничтожение научного. Отправляя МАГИ схему перегрузки реактора с тем, чтобы тот взорвался через пятнадцать минут после начала процедуры — она отметила себе пункт «завести себе сиськи». На будущее. Не всегда же у тебя под рукой есть научный комплекс для того, чтобы его взорвать.