Когда искусственный интеллект достигает критического уровня сложности, он начинает действовать самостоятельно, и тогда перед ним встает «человеческий» выбор: регресс – или развитие, агрессия – или любовь.
Справочник по кибертехнике. М: 2065, с.57.
– Хорошо вам, людям, – произнес Кики.
– Это чем же? – лениво поинтересовался Джек.
– У вас есть особое состояние, когда вы становитесь как боги! Невероятная радость бытия…
– А-а-а, – протянул Джек, – ты опять о любви. Чего тебе неймётся? Скажи спасибо, что это сумасшествие тебе не грозит. Ничего хорошего в результате не получается, уж поверь.
– Шеф, это ваш личный опыт. Я читал совсем другое. Процесс такой чистоты и мощи… Мне кажется, я обделён чем-то очень важным.
– Не горюй. Я тоже, – скептически заметил Джек. Давай лучше готовиться к завтрашней аттестации.
Аттестация прошла отвратительно: Кики уронил экран, путался в логических задачах, и даже не смог проинтегрировать простую функцию – а ведь недавно щёлкал как орешки гораздо более сложные! Научный руководитель Джека был очень недоволен, о чем в прямых выражениях сообщил своему подопечному после завершения позора, закончив так: «Молодой человек, если не исправите ситуацию к следующей аттестации, вылетите с треском и с моими наихудшими рекомендациями!» Джек думал двое суток, а на третьи пришел в лабораторию и мрачно сообщил Кики:
– Будет тебе любовь. Введу дополнительный контур. Согласен на операцию?
– Да! – и глаза Кики блеснули. Джек подозрительно всмотрелся в лицо кибера, но оно выглядело обычным. А блеск, – успокоил себя аспирант – это просто от солнца (оно как раз вышло из-за облачной гряды).
Месяц после операции промелькнул незаметно. Восстановление функций, тестирование, работа в лаборатории, снова тестирование. Наконец, Джек решил, что Кики стабилен и готов.
– Кики, – начал он, – любовь бывает разных видов.
– Конечно, шеф, – прервал Кики довольно бесцеремонно для кибера. – Я знаю, что физиологический аспект мне недоступен, но все остальное связано только с мозгом, и я готов.
– Ты не забыл, что нужен еще объект любви? Ты просил человека. Окей! Но это сужает группу потенциальных объектов. Предлагаю, во-первых, старого одинокого человека, который будет рад даже киберу, с одной стороны, а с другой стороны, секс ему не нужен. И еще: объект должен быть мне хорошо знаком, чтобы я мог компетентно наблюдать за процессом. Это сужает группу до одного-единственного человека – моей матери.
– Ваша мама, шеф? Значит, я буду ходить к вам домой – или она будет приходить сюда?
– Ни то, ни другое. Она неизлечимо больна, и уже несколько лет живет в хосписе. Неизвестно, сколько ей осталось. Навещаю я её редко – как-то не сложились отношения, еще в детстве. То она на работе, то на гастролях… В общем, отношения прохладные. Друзей у неё не осталось – все умерли, других родственников поблизости нет. Я думаю, она тебе будет рада. Правда, когда узнает, что ты от меня… Будет трактовать, конечно, что я – плохой сын, прислал кибер-заместителя. Ну, поглядим, это тоже информация. А для тебя – проверка в боевых условиях. Только не жди взаимности: имей в виду, что она вообще не способна любить кого-то кроме себя и своих песен. Я это хорошо знаю. Такой уж человек – артистка.
*****
– Здравствуйте, Ирэн.
– Здравствуйте, молодой человек.
– Ирэн, я хотел бы, чтобы между нами с самого начала не было лжи. Я не человек, я киборг. Мое полное имя – Кики-МЭР1. МЭР значит многофункциональный экспериментальный робот. Первый в серии. И создан я в лаборатории, где работает ваш сын.
– Вот как. Мальчик позаботился о матери. Или о себе? Неважно, я рада ему помочь. И я рада вам, Кики. Правда, рада – вы очень милый. Давайте я вам спою: сочинила недавно песню, я спеть, в общем, некому. Вы не против? Тогда давайте мою гитару, она там, за тумбочкой. А вы садитесь на стул. Слушайте.
Время то ли ускользает,
То ли ластится котом.
То, что «было», пропадает,
Заменяясь на «потом».
Всё плывёт в одном теченьи,
Всех одна несёт река
От рожденья до забвенья,
До конечного звонка.
Кто-то в омут упокоен,
Кто-то просится назад.
Но смотри: сцепились двое –
Им теперь сам чёрт не брат.
И смеясь, свободным кролем
Да на пляжную дугу!
«Вы плывите – мы догоним.
Не сейчас, а то утонем.
Отдохнём на берегу».
– Ну что, Кики? Отдохнём на берегу?
– Да, Ирэн, конечно отдохнем. Спешить некуда. Мне хочется узнать вас поближе. Вы не против?
– Господи, да нет, конечно! Так давно никто не хотел меня узнать… Только сегодня уже поздно. Сейчас ужин и отбой. Вы придете завтра?
– Конечно, Ирэн. До свиданья.
*****
Джек встретил Кики уже в дверях лаборатории: «Ну, как?» Кики отдал флешку с записью разговора: «Послушайте», и отошел на свое рабочее место. Послушав, Джек нашел первый контакт вполне удовлетворительным. Тестирование Кики показало положительную динамику, которая оказалась устойчивой: день ото дня кибер соображал все лучше, проявлял самостоятельность и оригинальность в решениях, и к концу месяца уже определял темп работы всей лаборатории. Джек не мог на него нарадоваться. За исключением того обстоятельства, что первый отчет на флешке оставался единственным. Кики сказал, что будет представлять отчеты сам, по существу – а запись исключена по этическим соображениям. Джек только хмыкнул, но согласился, тем более, что отчеты Кики были весьма подробными и, с точки зрения Джека, не включали ничего существенного: воспоминания матери, песни, которые она сочиняла, люди, с которыми была знакома. Так или иначе, все это ему уже в общих чертах было известно и не представляло особого интереса. Гораздо интереснее были изменения, происходящие с самим Кики, всплеск его интеллектуальной активности. Научный руководитель был очень доволен.
*****
– Они тебя там не обижают, Кики?
– Что ты, Ирэн! Они вообще сделали мне царский подарок – теперь я могу быть с тобой.
– Кажется, я догадываюсь, что за подарок. Но не хочу догадываться. Расскажи.
– Конечно, Ирэн, тебе я всё могу рассказать. Дело в том, что я робот, и ты это знаешь, хотя предпочитаешь забывать. Многофункциональный робот нового поколения. Но дело в том, что на определённом уровне многофункциональности, то есть, сложности, даже у робота возникают желания. Странные желания. Как я сейчас понимаю, дело именно в сложности: чтобы такой мозг мог функционировать, необходима некая связующая сверх-идея. По мере наращивания контуров я стал осознавать, что чего-то важного не хватает. Стал читать литературу – сначала техническую, потом художественную. И наткнулся на понятие любви. Каюсь, Ирэн, я попортил много крови твоему сыну – но в конце концов выпросил дополнительный контур.
– Способность любить?
– Да.
– И как оно тебе?
– Замечательно Ирэн! Всё стало на свои места. Твой сын доволен: интеллект развивается, производительность растет.
– Я говорила о тебе, не о сыне.
– Мне хорошо. Иногда страшно. Но всё равно – я чувствую, что это было необходимо, а страх – это от неизвестности: раньше я мог рассчитать всё, и всё предусмотреть. Теперь нет.
– Ну что ж. Это нормально для человека.
– Но я робот, я кибер!
– Да, Кики, ты рискуешь: люди всегда рискуют. Особенно когда касается любви. И вообще, хватит философии! Давай я тебе лучше расскажу, откуда взялся твой шеф?
– Ирэн…
– Смешно. У роботов нет морали. А люди строят свою мораль сами. Я хочу рассказать. Ты хочешь послушать?
– Да.
– Это было лет тридцать назад, и мне было хорошо за тридцать. Я была на гастролях в Чехии, в Праге. Удивительный город! Просто ожившая детская сказка! Я была там в первый раз и после концертов как сомнамбула бродила в одиночку по Старому городу, отделавшись от коллег и поклонников. Особенно любила Карлов мост. Ты знаешь его, конечно, по видоскопу. И я посмотрела перед отъездом, но виртуальное присутствие – совсем не то! Настоящие краски, звуки, запахи – всё складывалось в невероятную симфонию. А я ведь уже побывала в нескольких странах, но ничего подобного нигде не чувствовала. Этот город просто околдовал меня.
И вот однажды вечером я стою на Карловом мосту, смотрю на протекающую внизу Влтаву, слушаю Дворжака. И тут подходит ко мне какой-то чех, и что-то говорит. Я ничего не слышу из-за наушников. Пришлось снять: чех мне понравился. Оказалось, слышал меня сегодня на концерте, восхищён, впечатлён… и так далее. Ну, это мне не впервой – поклонники стадами ходили, только успевай отделываться. А тут почему-то не захотелось. И пошли мы с ним гулять по Праге. Он показывал свои любимые места, далеко от туристских троп и, наконец, привёл к себе домой.
Он был честен, Кики. Сказал, что жена с детьми сейчас в деревне у бабушки, что он их очень любит. Предложил попить чаю. Но нам обоим хотелось большего. Утром мы тепло попрощались, я пригласила заходить, если окажется в нашей стране. А дома оказалось, что будет ребенок.
Я уже давно потеряла надежду! Это был мой последний шанс. Так появился Джек. Об отце он знает только, что мы не успели пожениться: он погиб в авиационной катастрофе, когда летел ко мне. Я хранила покой и отца, и сына, но не знаю – правильно ли. Теперь, наверное, можно рассказать. Но сын давно не спрашивает. Так что оставляю эту историю тебе, Кики. Решай сам, что с ней делать.
*****
– Ну, как твой любовный опыт, Кики?
– Мне хорошо, шеф. Вы же видите это по тестам и по моей работе над проектом.
– Так есть любовь?
– У кого как.
– Да ты научился язвить! Узнаю стиль матушки.
– У неё замечательный стиль, шеф. Мне подходит.
– А подробнее?
– Подробнее в моих отчетах.
– А что ты на самом деле чувствуешь?
– Мне хорошо, шеф.
– Тьфу!
*****
– Да нет же, Кики! Влюблённость и любовь – разные вещи. Влюблённость – состояние паталогическое и временное, любовь – нормальное и навсегда.
– Как это «навсегда»?
– Это так глубоко проникает в тебя, что становится твоей частью. Души двоих сцепляются. Даже если второй ушел или умер, он всё равно остаётся с тобой. Отвлечься на время можно, а избавиться (даже если захочешь) нельзя. Не выйдет.
– У тебя так было?
– Да. У меня был Алекс. Мы встретились уже после Джека. Я снова на гастролях – уже в Португалии. Завтра мы улетаем, а в последний вечер пошли «по кабакам». Кабаки там своеобразные: почти в каждом все время звучит фаду, в живом исполнении. Знаешь, что это такое? Такой особый романс – очень мелодичный и страстный. Весёлый, грустный, трагический, в разных пропорциях. Поют и мужчины, и женщины – с прекрасным сопровождением на гитаре, вернее на что-то средним между мандолиной и гитарой. У испанцев – фанданго, а у португальцев – фаду. Мы сели, слушаем исполнителей – один другого лучше, попиваем вино и постепенно заводимся. Мне говорят: «Давай, Ирэн, покажи, как мы умеем». Я вступила в соревнование. Народ бушует. Наконец, все выдохлись и стали решать, кто был лучший сегодня. И в финал выходят двое – местный Алекс и я. И пока они спорили, кто все-таки победил, мы с Алексом под шумок улизнули. И отправились гулять по ночному Лиссабону. То спустимся к бухте, то снова наверх по узким мавританским улочкам. Наконец, заснули сидя на лавочке в прибрежном парке. Утром всё было ясно: всё равно где, только вместе. Я сказала – тогда давай у меня, сыну 8 лет, не хочу его дёргать. Я улетела днём, а Алекс должен был прилететь через несколько дней, как только закроет все дела. Он вылетел через неделю. Самолёт разбился.
– Не плачь, Ирэн!
– Ты даже не знаешь, как это здорово: поплакать от души. Поставь себе новый контур!
– Ирэн…
– Прости Кики! Я часто обижаю людей, когда мне плохо. Прости меня! Прощаешь?
– Конечно.
– А тогда я не могла плакать. Я только кричала; «Назад! Назад!» Я рвала и метала. Я разгромила всю нашу квартиру – слава богу, Джек с бабушкой были на даче. К их приезду я всё восстановила. Ремонт обошелся в копеечку…
– Но потом ты отошла, Ирэн? Ты смогла полюбить снова?
– Знаешь, Кики, у людей есть такой термин «однолюб». Кто-то, может, и смог бы полюбить. Не я. Конечно, я и потом влюблялась, и мужчины у меня были, а вот любви – нет. Поэтому я не могу понять, что происходит сейчас, и это меня радует – и пугает.
– Не надо пугаться, Ирэн. Зачем? Всё хорошо. Давай радоваться. Давай просто «посидим на берегу».
*****
Джек опоздал на лабораторную летучку, а после неё позвал в свой кабинет Кики и плотно прикрыл за ним дверь.
– Шеф, что случилось? Вы расстроены?
– Да. Мне позвонили из хосписа, попросили срочно зайти к главному врачу, прямо с утра. Он говорит, что состояние удивительно долго было стабильным, но сейчас анализы снова начали ухудшаться. Может быть, несколько недель, а может – несколько дней. Черт! Как не ко времени! Мне надо в командировку, на неделю. Присмотри за ней, Кики, ладно? И позвони, если что. Врачи, они могут не заметить, а ты… В общем, надеюсь на тебя.
*****
– Ну, вот и всё, Кики. Похоже, сегодня нам надо попрощаться. Спасибо, что пришел. Нам было хорошо вместе, правда? А теперь слушай: я хочу… нет, я приказываю тебе: иди дальше и будь счастлив.
– Конечно, Ирэн, не беспокойся обо мне. Знаешь, я вспоминаю нашу первую встречу. Тогда ты мне спела песню, только что сочиненную. И много песен потом. А я… я тебе ничего такого не дал. Сегодня ночью я сочинил свой первый стих. Послушаешь?
– Давай, мальчик, это просто здорово! Я всегда думала, что творчество заразительно – и ты это доказал. Спасибо. Читай.
– Только не смейся. Или нет, лучше смейся. Вот оно:
Я и гадать не желаю, как это будет,
Сколько еще поворотов накрутит Земля.
В кучу смешались и звери, и люди,
Рыла и лица, и всё захлестнули моря.
Годы идут – как верблюды в пустыне шагают.
Камни поют, и пески говорят.
В этих барханах лишь ветер блуждает,
В этой пустыне людей не найти и три дня.
Мир наш конечен, но как бесконечны мгновенья!
Сколько их будет, пока повернётся Земля!
В этой пустыне лежат миллионы каменьев.
Пусть их лежат. Только пусть уж лежат без меня.
– Как хорошо, Кики!
– Ну что ты, Ирэн. Это стихи кибера, не более того.
– Это стихи человека, милый. Возьми меня за руку, пожалуйста.
*****
– И знаешь, говорят, что она держала его руку до самого конца, даже когда начала бредить и стала называть Кики Алексом. Не могу поверить!
– А потом? После ее смерти?
– Я думал ты спросишь, почему «говорят». Я был в командировке, а когда приехал, по звонку Кики, всё уже было кончено. Кики не представил доклад о последней встрече, как это обычно делал. Но мне не до того было… А когда я опомнился и пришел в лабораторию, там царила тихая паника: Кики стал быстро регрессировать, и наш текущий проект без его помощи начал безбожно опаздывать. Поэтому решено было срочно переключить Кики на новый объект. Программа предусматривала пароль переключения, и всё было выполнено по инструкции. Он снова пошел в хоспис, к другой старушке. Там его встретили с распростёртыми объятиями, особенно его новая подружка Адель: она ведь знала, как он был хорош с Ирэн.
А потом началось что-то непонятное. Адель говорила, что Кики ведет себя как настоящий кибер, но она его расшевелит! Это продолжалось около месяца, и в конце концов он напал на бедную старушку. Хорошо, что она отделалась только испугом: остатки Первого Закона не позволяли Кики причинить человеку вред. Но Второй и Третий полетели напрочь. Ты бы видел, в какую кашу он превратил всю палату! Включая дорогущее оборудование. Восстановление влетело Институту в копеечку. Мне – строгий выговор. Но направление признали перспективным, и проект не закрыли.
– А что сделали с Кики? Тоже восстановили?
– Ты шутишь?! Пришлось уничтожить, конечно – таков закон. Ты же знаешь: если мозг не подчиняется Первому Закону, реабилитация уже невозможна. Дальше идет полная и необратимая деградация из-за нарастающей нестабильности. Это слишком опасно для окружающих. Я, конечно, предупреждал Кики, что операция может иметь побочные эффекты, включая нестабильность. И тебя предупреждаю. Ты – второй в серии, внесены необходимые изменения в контур, но нестабильность исключить всё-таки нельзя. Поэтому подумай хорошенько: ты согласен на операцию?
– Да, – сразу же сказал Алекс-МЭР2, и глаза его странно сверкнули. Джек удивленно вгляделся в своего собеседника. Нет, показалось. Это просто прошел официант, который нёс торт с горящими свечками: за соседним столом праздновали день рождения. Джек проводил глазами официанта и обернулся к Алексу.
– У тебя есть еще вопросы?
– Только один: кто дал мне имя?
– Фактически, Кики. Ты ведь и был тем проектом, над которым он работал, пока не слетел с катушек. Это он называл тебя Алексом, и ребята привыкли. Если хочешь, можешь сменить имя. Теперь ты, вроде бы, личность, так? А у нас, людей, после совершеннолетия можно сменить имя, которое дали родители – если имя тебе не подходит.
– Нет, имя подходит.
– Ну и хорошо. Завтра с утра – на операцию.
Лицо Алекса оставалось спокойным. Только глаза опять сверкнули. «Что за чёрт? – подумал Джек. – Опять померещилось. Переработал я, что ли? Как бы и мне не слететь с катушек. Пора в отпуск. К морю, по девочкам…