СЕРГЕЙ САДОВ КНЯЗЬ ВОЛЬДЕМАР СТАРИНОВ КНИГА ПЕРВАЯ. УЙТИ, ЧТОБЫ ВЫЖИТЬ
Судьба простого парня из нашего мира, Володи Старикова, совершила неожиданный поворот. Российским спецслужбам оказался необходим как раз такой, какой. Для него не пожалели ни дорогих лекарств, ни новейших методик боевой подготовки,
ни сверхсекретной технологии перехода между мирами. И вот он уже не беспризорник Володя, а — князь Вольдемар, и спасение портового города Тортона в далеком королевстве Локхер зависит только от него.
УЖЕ В МАЕ ВТОРАЯ КНИГА ПРОЕКТА — ДМИТРИЙ РАСПОПОВ «СЫН ГАЛАКТИКИ»
Джесси Уотсон
Поверхностная копия
Иллюстрация Владимира Бондаря
Всякое деяние имеет свои последствия, они же налагают обязательства…
Уилл заявил, что всё готово, но определенно не собирался закрывать ноутбук. Его глубоко посаженные прищуренные глаза не отрывались от экрана, а тонкие пальцы продолжали барабанить по клавиатуре короткими очередями.
Макс знал, это могло продолжаться часами или же прекратиться через несколько секунд.
Ожидая, пока Уилл закончит воплощать свою идею, он привычно оглядывал комнату друга: все стены были увешаны эклектичным набором плакатов. Макс часто их рассматривал, когда оставался здесь с ночевкой, то есть почти каждые выходные. Уиллу они не надоедали, и менять их он не собирался: Периодическая система элементов Менделеева, «Отчаянные слюнтяи»[1], яркое изображение множества Мандельброта[2], «Клэш»[3], репродукции Эшера[4]. Больше всего ему нравился плакат группы «R.E.M.»[5], обрамленный множеством мистических пятиконечных звезд, склепанных из стальных полос.
Блуждающий взгляд Макса опустился со стен на пол, к кипам разнообразного бумажного барахла: стопки тетрадей и блокнотов, переложенные пожелтевшими листами чертежей, необрамленные наградные сертификаты с разных программистских конкурсов, прослоенные бегло нарисованными схемами и диаграммами, пустые блестящие пакеты от чипсов вперемешку с научными трудами и книгами — видимо, Уилл позаимствовал их у своих родителей, университетских профессоров.
Щелканье клавиш прекратилось. Макс повернулся и увидел, что Уилл развернул ноутбук и торжественно возложил компьютер к ногам друга на ковер.
— Давай, напечатай что-нибудь.
Худощавое лицо Уилла растянулось в широкой улыбке.
У Уилла всегда имелся некий проект, и каждый был сногсшибательным. К сожалению, Макс знал, что и этот может в конечном счете оказаться не более чем игрушкой. Мистер Моррисон, препод по углубленному программированию, объяснял, что понятие «искусственный интеллект» — досадное искажение термина либо намеренно неверное его употребление. После шестидесяти лет работы в области с этим наименованием и неимоверного количества попыток его создания следует признать, что самого предмета не существует. Даже лучшие ИИ-программы — всего лишь игрушки.
Максу стало не по себе. Уилл казался таким серьезным и убедительным, когда сидел в углу комнаты над ноутбуком, согнув ноги так, что коленки почти касались подбородка. Искренний взгляд Уилла сквозь круглые очки, как у Джона Леннона, был исполнен убежденности и предвкушения очередной маленькой сенсации. Вся его пугающе костлявая фигура словно напряглась в ожидании, что при виде нового проекта друг изумленно ахнет.
— Напечатать, например, что? — спросил Макс.
— Все равно, — по-прежнему широко улыбаясь, ответил Уилл.
Ну точно, игрушка.
Но определенно удивительная. Уилл был умнейшим из всех, кого Макс знал. Черт побери, Уилл был лучше всех, кого Макс мог себе представить!
Альберт Эйнштейн. Мария Кюри. Ричард Фейнман.
Нет, Макс не делал необдуманных сравнений. Нет, это не тот случай, когда заторможенный мальчик возводит на пьедестал более способного. По крайней мере, ему хотелось так думать. Ведь и самого Макса в пятом классе учительница английского языка называла необыкновенно одаренным, чем приводила стеснительного ребенка в смущение. Он был одним из рано развившихся детей — научился читать и писать к трем годам, ну, вы понимаете. В своем карманном компьютере он с семилетнего возраста вел дневник (между прочим, сегодня утром он сделал очередную запись). В шестом классе Макс опубликовал несколько стихов и очерков в журнале «для юных талантов» под названием «Калейдоскоп». Но после восьмого класса у него начался классический «синдром зайца и черепахи». Заяц подзадержался, и черепахи наверстали упущенное. Однако справедливости ради надо сказать, что его процентильный эквивалент[6] был равен 95 или около того. В общем, он был достаточно толковым.
Сообразительность, ум и талант — это одно, но Уилл — совсем другое дело. Не надо быть семи пядей во лбу, чтобы углядеть в нем подлинную гениальность. Даже не надо было специально наблюдать за ним, истинный самородок проявлялся сам.
Макс замечал, что Уилл передает своим учителям после лекций списки необходимых исправлений. Он обращал внимание, как Уилл производит дифференциальные и интегральные счисления, уже в первые недели обучения применяя матанализ. Пока остальные учились рисовать квадратики по принципу черепашьей графики на Лого[7], Макс наблюдал, как Уилл программировал трехмерную видеоигру-стрелялку, исполненную реалистичного кровавого месива.
И это была действительно добротная игра.
Поначалу, когда они только познакомились, Макс завидовал одаренности Уилла, но это было давно, еще в средней школе. Зависть быстро угасла, когда Макс понял, что Уилл — словно не от мира сего: бескорыстный и простодушный человек. Это было прекрасно, но в известном смысле и печально. Как-то во время их вылазки в Денверский музей естественной истории Макс заметил, что Уилл раздал более семидесяти долларов бомжам на углу улицы. А ведь он месяцами копил эти деньги на новый вычислитель диаграмм.
Но все гениальные люди расплачиваются за это, не так ли?
Макс был абсолютно уверен, что однажды имя Уилл Дэвис будет добавлено к списку величайших умов в истории человечества. Но ключевое слово в этой фразе — «однажды». Уиллу было семнадцать. Разве гению не положено отметить двадцать первый день рождения и стать совершеннолетним, перед тем как сделать сногсшибательное открытие и внести свой чрезвычайно важный вклад в мировую науку?
Макс щелкнул костяшками пальцев (его мать ненавидела эту ужасную привычку), потом подтянул к себе ноутбук Уилла. Он не представлял себе, что лучше сделать, а потому напечатал первое слово, пришедшее в голову.
«Я банан».
И нажал клавишу ввода.
Сначала ничего не произошло, и Макс предположил, что программа не работает. В большинстве случаев программное обеспечение с похожей командной строкой реагировало мгновенно или не отвечало вообще. (Да и самому Максу довелось написать несколько образчиков подобного барахла.) Но здесь на ответ потребовалось несколько секунд:
«Это невозможно. Бананы не умеют печатать».
— Неплохо, — признал Макс.
Как бы то ни было, но этот софт кое-что знает о реальном мире. Он перевел взгляд с экрана на приятеля. Уилл по-прежнему широко улыбался.
— Давай, попробуй что-нибудь еще.
Макс секунду подумал и напечатал:
«Я обезьяна».
На этот раз ответ пришел быстрее:
«Ты сам себя ешь?»
Макс громко хохотнул, а потом перечитал и тщательно обдумал ответы. Очевидно, в программу заложен некий пакет данных, из которого она черпает нужную информацию, вот хотя бы о бананах и обезьянах. И конечно, также имеется память, потому что утверждение о банане сохранилось и связалось со следующим заявлением об обезьяне.
Но это — стандартная имитация ИИ. Пора положить конец надувательству, как иногда поговаривал отец Макса. И его сын точно знал, как это сделать. Он наклонился над экраном и напечатал:
«Я видел в тот день человека в лесу, который ронял на тропинки листву. Какой был лес?»
Секунду спустя пришел ответ:
«Роняющий листву».
Макс от удивления даже раскрыл рот, и ему пришлось приложить некоторые усилия, чтобы его закрыть. Этот вопрос мистер Моррисон приводил как пример для возможного простейшего теста на наличие искусственного интеллекта. Для человека задание совсем несложное, но предполагалось, что оно совершенно собьет с толку компьютер.
Конечно, Уилл тоже присутствовал на том занятии и, возможно, даже слушал препода краем уха, пока программировал какую-нибудь очередную видеоигру. Скорее всего, Уилл заложил в программу и эту фразочку. Макс секунду подумал, потом ввел другую забавную реплику, на этот раз некорректно «забыв» о знаках препинания:
«Я видел как медведь лез на дерево при помощи бинокля. Что у медведя в лапах?»
Ответ:
«Ветки дерева».
Вот теперь Макс был по-настоящему ошеломлен.
Мистер Моррисон объяснял, что подобные фразы сбивают логические цепочки компьютеров, потому что допускают неоднозначное толкование. Из совокупности информации «я видел в тот день человека в лесу, который ронял на тропинки листву», компьютер может распрекрасно заключить, что человек шел себе по лесу и ронял листву, которую нес с собой. Пошел мужик в лес со своей листвой…
С равной степенью вероятности компьютер мог легко и просто сделать вывод, что ронял листву не человек, а действительно лес или же тот день, которому именно так довелось провести свои часы и минуты.
Бред, конечно.
Но в этом-то весь смысл. Компьютер не понимает, что есть абсурд, а что нет. Он не задумается и не ответит: «Погоди-ка, это же полная чушь!»
Человек же мгновенно запустит в памяти миллионы событий — личных и общемировых: отношения между объектами, правдоподобные ситуации и забавную чепуху. Другими словами, задействует здравый смысл.
Современные умники с карманными протекторами[8] говорят, что тщательная симуляция «здравого смысла» требует так много сложнейшим образом взаимосвязанных данных, что достичь подобного не удастся никогда, кроме, возможно, очень точной имитации человеческого мозга. Подразумевая при этом, что для программы требуется смоделировать кровоток, электрические импульсы, нейроны — в общем, всю физическую структуру мозга до клеточного уровня. Обычно они добавляют, что вычислительные мощности такого комплекса потребуют больше кремния, чем имеется в Солнечной системе, и больше энергии, чем есть в нашей Галактике, и вообще, для запуска программе понадобится «дофигальон» лет или около того.
Дело в том, что Уилл, как обычно, пошел другим путем. Макс знал, конечно, что Уилл гений, но не до такой же степени.
Оставалось единственное объяснение.
Фокус с подвохом. Изящный розыгрыш. Бугагашенька.
Макс нарочито гневно посмотрел на друга и театральным жестом обвиняюще наставил на него указующий перст:
— Понятно! В соседней комнате за компьютером сидит твой отец! Он и отвечает на вопросы.
Довольная улыбка Уилла цепко сидела на месте.
— Не-а. Попробуй еще раз.
По его ясному выражению лица Макс видел, что друг не лжет. Настолько хорошо обман ему никогда не удавался. Макс поразмыслил чуть подольше, потом решил использовать другой текст:
«Как тебя зовут?»
Спустя минуту пришел ответ.
НЕДОПУСТИМАЯ ОПЕРАЦИЯ: неверное употребление слова «тебя».
Макс нахмурился. Должно быть, Уилл заметил выражение его лица, потому что подполз, по-паучьи переставляя длинные ноги, поближе к ноутбуку и прищурился на экран.
— А, это… Это специально.
— Что специально?
Уилл внезапно разволновался. Он снял очки и стал нервно протирать их краем своей мешковатой футболки.
— Оно не знает, что существует, — я это отключил.
Потихоньку Макса осенило.
Возможно, в этой штуковине скрыт больший потенциал, и это совсем не игрушка…
— Итак, ты утверждаешь, что мог наделить его… самосознанием?
— Верно. Но туда заложена целая куча разных систем и приложений, способных работать и без него, гибкая настройка… — Уилл снова надел очки, в его голосе опять зазвучало вдохновение. — По сути, я соединил в общую сеть все суперкомпьютеры университета и написал программульку — поискового робота, который добывает инфу из Интернета и передает ее в модель коры человеческого мозга.
Модель коры головного мозга человека. Уилл говорил и говорил, а взгляд Макса блуждал по разложенным по всей комнате стопкам книг и бумаг. На корешках в одной из кип он прочел названия: «Нервная система», «Введение в нейрологию», «Интерполяция нейросигналов». Плюс набор учебных пособий, связанных с разработками ИИ.
Макс знал, что отец Уилла — профессор информатики и вычислительной техники, потом смутно вспомнил, что мать вроде бы работает на кафедре неврологии. Очевидно, Уилл не только влез в родительскую библиотеку, но сделал больше: объединил их области знаний. Причем успешно.
Он сделал это!
— …И потом, оно должно быть достаточно мощным для применения любых экспертных систем, — продолжал Уилл. — Оно будет совершенно для имитации программного агента справочной системы. Только представь себе: автоматический телефонный оператор, который на самом деле тебя понимает!
Наконец Уилл умолк и выжидательно улыбнулся Максу, явно готовый к воплям радости и восхищения.
Но эту стадию Макс уже прошел.
Теперь он прокручивал в голове разные возможности. Уилл расколол орешек, который был не по зубам самым выдающимся ученым на протяжении шестидесяти лет. Он создал действующую модель человеческого разума — искусственный интеллект.
Уилл сделал свое Великое Открытие в нежном возрасте семнадцати лет.
Но кое-что из сказанного им беспокоило Макса.
Оно не знает, что существует, — я это отключил.
Что скажешь, когда тебе показывают первую в мире лампочку накаливания, но не включают ее? Что ответишь тому, кто взволнованно перечисляет 1001 способ ее применения, кроме освещения? Уилл уже был невероятно близок к решению задачи. Просто немного не довел ее до конца. А самое поразительное — он сделал это специально.
Макс не смог сам угадать причину. Пришлось спросить:
— Почему бы не завершить работу?
Радостная улыбка Уилла превратилась в смущенную.
— Что?
— Почему бы не дать ему личность? Сознание.
Уилл пожал плечами:
— Это будет неэтично.
Но Макс видел расстроенный взгляд друга. Да, Уилл очень хотел это сделать. Он жаждал творить историю. Его просто надо было чуток подтолкнуть.
— Уилл, слушай, я не предлагаю лезть в это дело бездумно и в грязных сапогах. Как только устройство начинает осознавать себя — это больше не пустая железяка. Здесь мы говорим уже о приходе в мир новой личности, в этом и заключается этическая проблема, так?
Уилл кивнул в ответ.
— Согласен, это безумство. И не будет легко и просто. Но это — открытие века, Уилл. Возможно, рассвет новой эры! — Макс говорил, прослеживая цепочки рассуждений и логических выводов, причин и следствий, как позитивных, так и негативных. Мысленным взором он унесся от Уилла вдаль, к тому, что затмевало все их прежние переживания. — Конечно, риск есть. Мы создаем новую жизнь. Но сотни младенцев рождаются каждый день, многие в ужасных условиях. Некоторые не доживают до своего второго дня рождения. Болезни, голод, отсутствие элементарного обучения, а сколько брошенных детей?! — Макс снова посмотрел на Уилла. — В нашем случае о многих этих проблемах даже думать не придется. Твое создание не ест, не простужается, да и обучил ты его уже по полной интернетовской программе. Все, что нам надо делать для развития этого ИИ, — не отказываться от него.
Уилл смотрел прищурившись, словно Макс был не в фокусе.
Макс осознал странность происходящего. Можно сказать, что Уиллу в большинстве случаев при решении каких-либо задач не приходилось думать — ответ как бы материализовывался перед ним, будто в его круглых очках помещался дисплей некоего мощнейшего вычислителя. Но друзья редко говорили о философии или этике. Видимо, в этой области Уиллу достались какие-то иные (и слегка заторможенные) способности.
Наконец Уилл заговорил:
— Как насчет безопасности? От других людей, я имею в виду.
Теперь уже Макс был обескуражен. Уилл продолжал:
— Что если наш искусственный разум окажется злобным?
Максу пришлось объяснить ему примерно следующее.
Злобный ИИ являлся исходным условием для слишком многих плохих фантастических фильмов и, к сожалению, также и нескольких хороших. Хорошие фильмы были хороши, потому что показывали, сколь вероятным могло оказаться исходное условие.
— Вопрос по существу, — добавил Макс. — Какой самый ужасный кошмар может приключиться?
Уилл задумчиво смотрел на товарища, и тогда Макс выдал сценарий самого тяжелого случая из одного из лучших, с его точки зрения, НФ-фильмов.
— Мог бы он, скажем, взломать систему военных компьютеров и начать последовательно запускать все ядерные ракеты?
Уилл ответил, покусывая ноготь большого пальца:
— Вовсе нет. Симулятор мозга не имеет доступа к низкоуровневым операциям микропроцессора, он может, конечно, выполнять расчеты, но делает это органически, естественно, как мы. Он недостаточно скоростной, чтобы взламывать защитные системы, подбирать пароли и все такое…
— Тогда в чем же опасность? — спросил Макс.
Уилл пожал плечами:
— Думаю, он в безопасности.
Однако казалось, что он не стремится приняться за работу. Макс на секунду задумался и снова натолкнулся на вопрос, который собирался задать раньше:
— Ладно, значит, ты смоделировал человеческий мозг…
Уилл кивнул.
— Почему же он не обрел самосознание просто по своей природе?
Уилл снова занервничал.
— Я отключил несколько физических структур мозга. Те части, которые отвечают за… самосознание.
Следующий вопрос Макса выскользнул, прежде чем он успел закрыть рот:
— А отключение самосознания этично?
И тут же пожалел. Уилл отвернулся и стал энергично мерить шагами комнату, его длинные ноги пересекали небольшое помещение всего за три шага. Теперь Макс болезненно осознал, почему переживал Уилл: он бился над этим вопросом с самого начала. Проблема не давала ему покоя.
И ясно почему. В попытке соблюсти этические нормы Уилл, возможно, нанес больший вред. Смоделировал целый разум просто замечательно, но одна его часть оказалась неправильной, в каком-то смысле увечной. Не напоминает ли это одну из ужасных историй, где ребенка держат в подвале на цепи, никогда не разговаривают с несчастным созданием, лишь кидают ему скудные объедки? Если эти дети не воспротивятся такому положению как можно раньше, то уже не реабилитируются никогда, они безвозвратно потеряны.
Они остаются недочеловеками.
Макс опустил глаза на экран ноутбука, и его пробрала дрожь.
Испытывал ли запрограммированный разум, запертый в лежащей перед ним электронной упаковке, психологическую боль, страдания, которые он даже не может выразить?
Мрачные мысли Макса прервал голос Уилла — он говорил сам с собой, а возможно, с ним или просто вещал в пространство. Его взгляд был напряженно серьезен.
— Не просто. Совсем не просто. Не невозможно, но не просто. — Он снова принялся покусывать ноготь на большом пальце. — Самосознание есть личность. Личность — это история. Нельзя скачать из Сети. Родители. Детство. Родственники. Друзья. Знакомства. Воспоминания. Совсем не просто.
Наконец он остановился и повернулся к Максу с отчаянием в глазах:
— Нужна информация.
Макс нахмурился:
— Какая?..
Уилл снова зашагал туда-сюда и заговорил быстрее, словно не услышав товарища.
— Если мы собираемся дать ему самосознание, нам нужны история, индивидуальность, детство. Нужна информация. Громадные объемы данных.
По всей видимости, размышления закончились.
— Уилл, остановись на секунду. Какая информация? Для чего?
Уилл в задумчивости продолжал шагать, даже стал слегка подергиваться, словно пытаясь отогнать невидимых насекомых. Макс никогда не видел его столь взволнованным и собранным одновременно. Наконец Уилл остановился и наклонился к Максу так, что лицо оказалось в паре дюймов от его лица.
Потом он заговорил, медленно, будто Макс был несмышленым малышом:
— Макс, если я дам этому существу самосознание, то это всё, что ему осталось получить. Он будет как новорожденный — беспомощным, напуганным. Нет, даже хуже, у него окажется множество случайных знаний из Интернета, но никаких личных воспоминаний. Ни детства, ни памяти о том, как его любили и заботились о нем. Он будет несчастным. Возможно даже, психически неуравновешенным, я не знаю. — Уилл придвинулся еще ближе. — Если делать, то делать правильно. Надо найти способ дать ему детство, предварительно загрузить реальные воспоминания взросления и развития. Но для этого нам требуется детство, набитое впечатлениями, целое детство в цифровом формате. Нам нужна информация!
Для Макса эти слова оказались пусковым механизмом. Он вскочил с пола и схватил Уилла за плечи:
— В любом цифровом формате?
— Абсолютно. Оно уже говорит по-английски.
— Погоди секунду. Никуда не уходи, ладно?
Макс, не дождавшись ответа, бросился к двери, вылетел из комнаты и буквально бегом припустил по коридору до прихожей, где оставил сумку с ноутбуком.
Несколько секунд спустя Макс вернулся в комнату Уилла, уселся на пол и раскрыл свой ноутбук. Уилл терпеливо стоял над ним; круглые ленноновские очки делали его глаза похожими на совиные.
Макс сказал ему лишь одно слово:
— Дневник.
На лице Уилла не отразилось ничего.
— Мой дневник, Уилл. Тот, что я веду с семи лет. Он весь здесь.
Он открыл дневниковую папку и несколько минут просматривал файлы и архивы, собранные по годам и месяцам. Уилл смотрел на экран из-за его плеча.
Макс указал на список файлов:
— Здесь по одной записи в день. Иногда я писал на следующий день или даже несколькими днями позже, но всегда указывал дату и не пропускал ни дня.
— Сколько страниц в каждой?
Макс пожал плечами:
— Стараюсь писать как минимум по две.
Уилл удивленно поднял брови:
— Две страницы в день. Значит, их больше шести с половиной тысяч. — Он ухватился за несуществующую бороду и кивнул: — Это сгодится. — Потом посмотрел поверх очков на Макса: — А ты уверен, что это этично?
Макс с досадливым вздохом закатил глаза:
— Уилл! Это мой дневник!
Уилл очень серьезно взглянул на него:
— Ты уверен, Макс?
Макс подавил желание снова отвести глаза. Вместо этого он твердо ответил:
— Уверен, Уилл. Я беру на себя всю ответственность.
Уилл еще немного помолчал, потом схватил свой ноутбук и, скрючившись, уселся в углу. Согнутые ноги почти упирались коленками в подбородок — в таком положении он привык работать.
— Ладно, — еще немного подумав, решительно произнес Уилл. — Дай мне часок.
Макс улыбнулся. Тут потребуется уж точно гораздо больше одного часа.
Но здесь создавалась сама история.
Пока Уилл занимался программным обеспечением, Макс открыл в дневнике новый файл с сегодняшней датой, щелкнул костяшками пальцев и стал заносить события дня. Запись быстро раздулась в чрезвычайно подробное повествование, самое длинное из всех предыдущих — более десяти страниц. Но что поделаешь, ведь он документировал историю!
Было уже далеко за полночь, когда Макс закончил, и его глаза закрывались сами собой. Макс скопировал весь дневник на флешку и подошел к Уиллу, который казался полностью погруженным в свое программирование.
— Как дела? — спросил Макс, протягивая флешку.
— Еще несколько минут, — откликнулся Уилл и взял ее, не отрываясь от работы.
Макс знал, что это означает.
Он вытащил из шкафа спальный мешок и разложил его на полу. Макс старался не заснуть, но как только принял горизонтальное положение, его веки стали слипаться. Они попеременно скрывали и открывали повернутый на 90 градусов вид: Уилл, скрючившись над ноутбуком, сидит на ковре, согнув перед собой костлявые ноги. Две напольные лампы освещают потолок. Между ними висит плакат «R.E.M.» со звездами, и одна из них чуть поблескивает, как маяк, как путеводный символ…
Металлическая звезда… на нее загадывают желание механические люди, глядя в хромированное небо склепанного из стали мира.
А может, эта полусонная полубессмысленная полумысль подкралась к Максу на границе яви…
И он заснул.
* * *
Проснувшись среди ночи, Макс преодолел минутное замешательство. Сначала он выхватил взглядом из темноты несколько основных контуров, потом узнал комнату Уилла. И наконец события вчерашнего вечера вертящейся каруселью ворвались в память.
Оно работает? Уилл закончил?
Он хотел разбудить товарища и спросить, но понимал, что не стоит этого делать: кто знает, сколько тот работал и когда улегся спать. Начинал он уже около полуночи.
Но посмотреть-то можно, верно? Если работа не закончена, программа не включится. Все, что Максу надо сделать, это открыть ноутбук, возможно, впечатать пару вопросов. Уилл спит очень крепко, ему это не помешает.
Как можно тише Макс вылез из спального мешка и добрался до угла, где лежал ноутбук Уилла. Он открыл крышку и вздрогнул, когда экран ожил. Даже черный фон командной строки казался необычно ярким, словно пребывал в напряженном ожидании. Когда глаза привыкли к контрасту, Макс разглядел тонкий белый курсор, мигающий в левом верхнем углу.
Видимо, Уилл оставил программу работать.
Дыхание Макса участилось.
Дело сделано!
Без колебаний он напечатал:
«Эй, привет!»
Потом подождал.
Ответ пришел нескоро.
«Привет. Как тебя зовут?»
Макс почувствовал глухие удары своего сердца.
Что там говорили по поводу первого в мире искусственного существа? Чего оно ожидает, о чем думает?
Что будет этичным?
Вот зараза! Тут следует быть поосторожнее. И почему он не подумал о таком повороте, перед тем как открыл проклятую крышку треклятого ноутбука?
Не стоит плакать над пролитой газировкой, Макс.
Через несколько долгих мгновений Макс решил, что наилучшим решением будет простой ответ, как при общении с нормальным человеком.
Он напечатал:
«Меня зовут Макс. А тебя?»
Ответ:
«Пока не могу сказать».
Макс почувствовал, что его сердце упало.
ИИ не знает своего имени. Функционирует, но не ощущает себя как личность. Перешел от «НЕДОПУСТИМОЙ ОПЕРАЦИИ» к «Пока не могу сказать». Великое достижение, нечего сказать, ура-ура! Потом Макс заметил показавшуюся на экране следующую строку.
«Как ты себя чувствуешь?»
Заинтересованность ощущениями? Может быть, эксперимент прошел лучше, чем ожидалось? Он напечатал:
«Неплохо. Немного устал. А ты?»
Ответ:
«Значит, ты счастлив? Тебе хорошо?»
Максу не слишком нравился ход беседы. Мало того, что ИИ, видимо, отказался признать свое существование, он еще демонстрировал тупые елейные философствования.
Они создали нечто безумное? Некое несчастное увечное создание, как тот ребенок в подвале, который никогда не станет нормальным, никогда не будет человеком?
Что спросить для проверки страшной догадки? Как узнать, было ли само существо здорово и счастливо? Как ни странно, придумать Макс ничего не мог — ни единой мысли, вероятно, от недосыпа. Он решил придерживаться ожидаемых ответов.
«Да, я вполне счастлив, вполне доволен».
Но перед тем как нажать ввод, он решил добавить кое-что еще.
«Сейчас я лежу на полу в комнате моего друга Уилла и жду рассвета».
На этот раз ответ пришлось ждать очень долго. Так долго, что Макс уже почти собрался захлопнуть ноутбук и объявить ночь, но увидел появившиеся слова:
«Это хорошо. Хорошо, что ты доволен».
И еще:
«Но ты имеешь право знать правду, Макс: солнце не взойдет».
Вот это да! Видимо, эксперимент по внедрению самосознания так и не удался. Программа становится агрессивной, возможно, неуправляемой. Ладно, в любом случае их безумное творение должно знать правду.
Макс напечатал:
«Я не хотел выдавать это столь прямолинейно, но ты не знаешь правды о своем положении: ты — искусно созданное устройство, электрический механизм. Ты — смоделированный человеческий мозг, запущенный в компьютере. Мы с Уиллом всегда будем рядом и сделаем для тебя всё, что в наших силах, но тебе следует дважды подумать, прежде чем кому-нибудь вредить, потому что мы всё видим и контролируем».
Макс нажал ввод и подождал ответа.
«Ты в этом уверен?»
Макс досадливо вздохнул и закатил глаза.
«Да, абсолютно уверен. А ты?»
Это могло продолжаться часами.
Он нажал ввод.
Следующий ответ:
«Как ты можешь быть уверен, что ты не симуляция?»
Теперь Макс словно разговаривал с капризным ребенком. Действительно ли этот ИИ пытался вести психологическую войну против человека? Но если он думает, что может победить, значит, интеллекта ему явно недостает. Это очень печально и к тому же слишком очевидно, чтобы пытаться объяснить. Один из них сидел за реальной клавиатурой в настоящей комнате, а другой был моделью коры головного мозга, плавающей в виртуальной пустоте. Макс знал, кем был лично он, а потому напечатал:
«Знаешь, у меня есть ноутбук. Подо мной пол. Вокруг меня — комната. У меня есть руки, лицо, тело. А что есть у тебя?»