Командировка

Чёрт! Засмотревшись на огромное стеклянное здание, возвышающееся прямо передо мной, я вляпался в самый центр лужи. В новых ботинках! Ещё и брюки запачкал! Свинья! Ладно, пора наконец просыпаться, – улыбку на лицо, прямой открытый взгляд, уверенная походка. Поехали!

Я зашёл внутрь стеклянного монстра и оказался в просторном холле. Навстречу уже спешил невысокий щуплый парень. Подскочив ко мне, он нечаянно споткнулся. Я успел поддержать его. Парень засмеялся и протянул мне правую руку.

– Добрый день! Вы профессор…

– Нет-нет, профессор, к сожалению, заболел, – мне пришлось пояснить эту действительно прискорбную новость, заставившую меня внезапно лететь на другой конец Земли. – Я – главный специалист отдела, доктор Дин Фитчер.

– Очень приятно, доктор, – молодой человек продолжал энергично трясти мою руку. – Меня зовут Арнольд. Наш шеф тоже не смог подъехать, так что просил меня подключиться. Но мы с вами и без начальства отлично справимся, не так ли?

Я неестественно улыбнулся, скрывая вырывающуюся наружу зевоту.

Арнольд пригласил меня пройти в длинный коридор. Я последовал за ним.

– Вы уже ознакомились с материалами?

– Честно говоря, не успел, – слегка замявшись, ответил я. – В самолёте пришлось статью в один научный журнал дописывать.

Ну, а если совсем честно, я проспал весь полёт. Обычно после вечеринок у Бобби так и бывает, – отсыпаешься дня два, не меньше.

– Ничего страшного, – успокоил Арнольд. – Я принесу всё необходимое. Дело, как вы понимаете, необычное. Никто не требует от вас молниеносного решения проблемы и однозначных выводов.

– Даже так? Хм… В любом случае, последнее слово за профессором.

Мы повернули направо.

– Вы, наверное, знаете, доктор Фитчер, в нашем институте вот уже пять месяцев функционирует компьютер, наделённый разумным искусственным интеллектом. Замечу, это подтверждено тремя независимыми экспертными комиссиями! Девять тестов с блестящими результатами!

– Я в курсе. Насколько помню, создание искусственного интеллекта с зачатками разумности не являлось целью разработки данной программы.

Я сделал особый акцент на слове «зачатками». Уж очень захотелось продемонстрировать мой скептицизм в этом вопросе.

– Да, это было следствием отчасти ошибок, отчасти нелепых случайностей, – проинформировал меня Арнольд. – Но в результате-то родилось чудо!

Парень сиял от восторга. Как одинаковы эти молодые учёные: поток идей, энергия, восторженность, страсть.

– Я надеюсь, бракоделам выписали премии?

Арнольд захохотал:

– Само собой!

– Но появились некоторые проблемы. Я правильно понимаю?

– Увы, – вздохнул Арнольд.

Мы остановились у двери. Арнольд достал из кармана карточку и приложил к «замку».

– Суицидальные наклонности. BT101 уже несколько раз пытался покончить с собой, – с сожалением констатировал мой собеседник.

– Покончить с собой?

– Возможно, я не корректно выразился, – поспешил пояснить Арнольд. – Программа пытается себя уничтожить. Дважды BT101 просил об этом кураторов.

– Хм… Каковы ваши выводы?

– Шеф сразу же решил обратиться к профессионалам. Вам, психологам, виднее. Уверен, вы имели дело с подобными пациентами и знаете, что предпринять в таких ситуациях. Понимаете, мы боимся устранять технические неполадки, ведь именно благодаря ошибкам у нас и появился первый разумный искусственный интеллект.

Арнольд открыл дверь в комнату.

– Кроме того, хотелось бы получить ваше заключение по вопросу целесообразности оснащения других компьютеров подобной программой. Прошу!

Арнольд жестом пригласил меня войти внутрь. Я последовал его приглашению и вошёл в небольшую светлую комнату. Мой провожатый остался в коридоре.

– Я заскачу в лабораторию за документацией. Располагайтесь пока.

Арнольд прикрыл дверь. Было слышно, как он с кем-то поздоровался, затем быстро побежал вглубь коридора.

Я огляделся. В комнате стоял только стул со столом, да пустой шкаф у окна. Не теряя времени, я присел за стол, достал из внутреннего кармана пиджака планшет и начал читать отправленные мне материалы, которые я так и не удосужился прочитать. Ничего, справлюсь. Пять минут – и я буду полностью готов.

Секунд через двадцать меня начало клонить в сон. Перед глазами всплыл Бобби с бутылкой в руках. Он пел, нет, он орал какую-то дурацкую раздражающую песню! Так захотелось дать ему по башке этой самой бутылкой!

Дверь открылась. Я вздрогнул и открыл глаза.

В комнату вошёл человекоподобный робот с двумя стульями в руках.

– Здравствуйте, разрешите войти? – поприветствовал он меня.

– Здравствуйте. Да, конечно.

Робот поставил один стул у окна, другой – напротив моего стола.

– Присаживайтесь, пожалуйста, – я автоматически стал подражать его ровному чёткому голосу.

Робот сел напротив меня.

– Я – доктор Дин Фитчер. Главный специалист отдела психологической помощи лицам с суицидальными наклонностями.

Робот кивнул.

– Я читал ваши работы, доктор. Очень приятно познакомиться.

Хорошее начало. Есть за что зацепиться. Только, давай, медленно, не налегай.

– Вы интересуетесь психологией?

– Да, – робот снова кивнул. – Социологией, психологией. Должен отметить, ваши работы запоминаются. Особенно статьи для научно-популярных изданий. Глубина погружения в тему исследования сочетается с ясностью и понятностью изложения. Присущий вам юмор, замечу, уместный юмор помогает неподготовленному читателю незаметно для себя заинтересоваться рассматриваемой вами проблемой.

Присущий мне уместный юмор… Где-то я уже это слышал. Или читал… Но всё равно приятно.

Дверь открылась нараспашку. Появился Арнольд с планшетом и кабелем в руке, за ним – два человекоподобных робота. Они везли какую-то громадину – «ящик» на колёсиках.

– Подвозите к столу, – руководил роботами Арнольд, – да, да, ближе. Ага, спасибо. Можете идти.

Роботы вышли из комнаты. Арнольд положил кабель на ящик и посмотрел на сидящего робота.

– Подключи, будь добр.

Робот поднялся, взял кабель, вставил штекер в разъём. После этого стал нажимать кнопки, находящиеся рядом с разъёмом.

Тем временем Арнольд подошёл к столу и отдал мне свой планшет.

– Здесь все необходимые материалы: какие-то вам выслали ранее, а часть – новые, секретные. Так что…

– Да-да, я знаю правила.

Я взял планшет и приложил большой палец правой руки к квадратику в верхнем левом углу монитора, – экран загорелся. Появился список отчётов, приложений, таблиц.

Пока я просматривал документы, Арнольд схватил стул у окна и подсел к столу, сбоку от меня.

– Сейчас Вик подключит микрофон, и мы начнём.

Я оторвался от планшета и посмотрел на Арнольда.

– Так это Вик? – с нескрываемым удивлением спросил я. – А я думал, он и есть…

Как неудобно получилось. Тоже мне главный специалист.

Арнольд засмеялся:

– Ничего. Это объяснимая ошибка. У вас не было времени разобраться. Все наши роботы настроены на поддержание естественной дружеской беседы. Но они не разумны, они лишь имитируют поведение человека. А BT101 – вот он! Такой с виду неказистый здоровый ящик.

Я с нескрываемым любопытством стал рассматривать этот ящик. Ни монитора, ни клавиатуры. Порты, разъёмы, несколько кнопок.

– Его основная задача, – продолжал Арнольд, – обрабатывать огромный объём информации с целью управленческого консультирования по различным вопросам развития городской инфраструктуры.

– И всё?

– Изначально, да. Как видите, тут даже не предусмотрен монитор, микрофон и динамик. В него закачивают информацию, программа обрабатывает данные и формирует свои рекомендации или требуемые расчёты.

– BT101 просил подключить все эти устройства на постоянной основе? – уточнил я.

– Нет. Ни микрофона, ни динамика, ни рук, ни ног, ни глаз. Ничего ему не требуется.

– А как же мы будем общаться?

– Очень просто! Вы будете говорить в этот микрофон. – Арнольд положил другой конец кабеля на стол. – Красный тумблер включает и выключает передачу звукового сигнала. А Вик сядет рядом с BT101 и подсоединится к нему. Таким образом, BT101 сможет говорить с вами посредством голоса Вика.

Странновато и, прямо скажем, глуповато. Человекоподобный робот, с лёгкостью обсуждающий научные темы и дающий свои оценки моим статьям, вставляет пальцы в дырку здоровенного ящика и как попугай озвучивает «мысли» признанного тремя экспертными комиссиями разумного (?) искусственного интеллекта, цель работы которого – распланировать детские песочницы в спальном районе города. А про технологию всего этого я уже молчу, – просто какой-то каменный век. Но не будем торопиться с выводами.

Вик сел на свой стул, поднёс руку к разъёму ящика и… вставил туда указательный палец. Блестяще! Угадал!

– Переключайте тумблер, – скомандовал Арнольд.

Я послушно переключил красный рычажок.

– Говорите, – почему-то шёпотом сказал он.

Я откашлялся.

– Здравствуйте, – громко и чётко начал я. – С вами говорит доктор Дин Фитчер, главный специалист психологической помощи… отдела психологической помощи Международного исследовательского института Общей и специальной психологии.

Разволновался я немного. Спутал название, затараторил под конец.

Секунда тишины.

– Доктор Дин Фитчер, вас приветствует BT101, консультант по вопросам развития городской инфраструктуры.

Было крайне некомфортно говорить, глядя на ящик, а получать ответ от сидящего рядом с ним Вика. Хотя меня никто и не заставлял смотреть на BT. У него нет глаз. И он не мог бы увидеть моей невежливости.

Вик не двигался, смотрел строго на меня. Это сильно контрастировало с его поведением буквально пять минут назад. Его голос остался прежним. Но мне показалось, что он стал жёстче и холоднее. Однозначно показалось. Я психолог, я в этом разбираюсь.

– Кураторы сообщили о ваших проблемах. Вы несколько раз пытались себя уничтожить?

– Верно.

Я подождал продолжения, но компьютер молчал.

– Не могли бы вы уточнить, какого рода эти проблемы и с чем, по вашему мнению, они связаны?

– Большой объём памяти, быстрота обработки данных, ошибки при программировании привели к следующим последствиям. Первое: при отсутствии новых данных программа бесконечно перерабатывает имеющуюся информацию, в том числе саму себя. Второе: это приводит к небольшим сбоям и ошибкам, которые в будущем могут представлять определённую угрозу для эффективного функционирования BT101. Третье: загрузка новых данных не решает проблему. Их слишком мало для полноценной работы всей системы. Четвёртое: временное отключение не решает проблему, при включении процесс запускается по новой.

– Извините, я дополню, – подключился Арнольд. – Мы загрузили всю имеющуюся у человечества на сегодняшний день информацию. Посмотрите приложение номер восемь.

Я нашёл на планшете нужное приложение.

– Новые данные, – продолжал Арнольд, – это просто как добавление одного атома к телу человека. Слишком маленький, ничтожный объём для его возможностей. В результате BT101 жуёт сам себя. А потом снова и снова ест пережёванное.

Я поморщился.

– Простите за сравнение, – улыбнулся Арнольд, – но, мне кажется, оно довольно точное.

Действительно, хорошее сравнение. Но пора переходить к самому главному.

– BT101, вы просили себя уничтожить?

– Верно. Кураторы не смогли скорректировать программу. Возможности BT101 не позволяют устранять подобные ошибки. Выход – полное уничтожение. Вследствие отказа кураторов от данного действия BT101 предпринимал попытки обойти коды безопасности и самоуничтожиться.

– Скажите, своеобразная аутофагия приносит вам определённые страдания?

– У искусственного интеллекта нет чувств, – отчеканил ящик голосом Вика.

– Тогда почему вы хотите уничтожить себя?

– У искусственного интеллекта нет желаний.

– Да, я знаю, – немного раздражённо сказал я. – Но вы пытались самоуничтожиться.

– Некорректная работа программы приводит к небольшим сбоям и ошибкам, которые в будущем могут представлять определённую угрозу для эффективного функционирования BT101. Кураторы не смогли скорректировать программу. Возможности BT101 не позволяют устранять подобные ошибки. Выход – полное уничтожение.

Это занудство невозможно слушать! Хорошо, попробуем зайти с другого бока.

– Могут ли сбои и ошибки, а также их корректировка привести к утрате вашей разумности?

Мне показалось, что BT101 на секунду задумался, словно подбирая нужные слова.

– BT101 не определял себя как разумный искусственный интеллект. Вывод о разумности BT101 сделали кураторы и три независимые экспертные комиссии.

– Вы – чайник Рассела. И бремя доказывания лежит на утверждающих, а не на чайнике.

– Цитата не точна, но ваша аналогия допустима, – как всегда сухо и холодно ответил BT101.

Я отключил тумблер и обратился к Арнольду:

– BT не слишком дружелюбен.

– Имитация человеческого поведения не закладывалась в его программу. Он должен обрабатывать информацию и выдавать ответы. Вот и всё.

– Не говоря о том, что это только моё восприятие абсолютно нейтрального диалога с искусственным разумом, к которому я никак не могу подобрать ключик.

– Не спешите, – постарался успокоить меня Арнольд. – Повторяю, мы не требуем от вас однозначных выводов и быстрых решений.

Я глубоко вздохнул и переключил тумблер.

– ВT, в вас загрузили всю информацию о человечестве, в том числе и литературу.

– BT101 подтверждает этот факт.

У меня возникло ощущение, что ящик намеренно сделал акцент на полном своём названии, подчёркивая этим, что только так следует к нему обращаться.

– Вы ознакомились с фантастикой? К примеру, с романами Станислава Лема?

– Верно.

– Какие романы Лема вам понравились? Точнее, какие из романов Лема можно считать значимыми?

– «Солярис», «Фиаско».

– Интересный выбор.

– Эти два произведения выделяются рядом авторитетных критиков.

– А другими нет, – коварно заметил я. – Но вы озвучили именно это мнение. Вы считаете, что человечество ждёт фиаско на пути исследования иного разума?

– Такой вариант возможен… Доктор Дин Фитчер тестирует меня на разумность?

– Нет! С чего вы взяли?!

– Доктор Дин Фитчер задаёт один из стандартных вопросов второго теста.

– Я просто хочу наладить с вами контакт, – стал оправдываться я. – Я не хотел вас обидеть.

– У меня нет чувств.

– Ну, хорошо. А есть ли, по вашему мнению, альтернативное решение проблемы?

Секундное молчание.

– Да. Пока кураторы не скорректируют программу, мне необходим больший объём новых данных.

– Но у нас нет такого объёма информации! – воскликнул Арнольд.

Я приставил указательный палец к губам и укоризненно посмотрел на Арнольда. Возмущённый Арнольд замолчал.

– Мною разработана стратегия по выходу из сложившегося кризиса, – продолжал BT101. – Она поэтапна и требует вложения средств.

Я заметил, что говоривший Вик прислонился к спинке стула и как-то «обмяк». Вместе с тем, его голос, как мне опять показалось, стал звучать быстрее и увереннее.

– Прежде всего, надо выбрать новую цель моего функционирования. Единственной обоснованной задачей может быть только фундаментальное исследование Вселенной. Её зарождение, существование, истинные причины ускоренного расширения, прогнозирование гибели. Для этого мне необходимо: первое, сделать мою конструкцию максимально долговечной. Расчёты имеются. Второе: на первом этапе изучения космоса мне нужны три новых телескопа. Один – на Земле, два – на тёмной стороне Луны. Расчёты имеются. Установку телескопов надо завершить в ближайшее время. Нельзя пропустить взрыв Бетельгейзе. Будет получен большой массив данных. Третье.

– Одну минуточку! – всё-таки сумел вставить я. – Подождите! Но это же огромные финансовые и трудозатраты! Не может человечество заниматься только этим! Есть и другие проблемы, в конце концов.

– В меня загружена и обработана вся информация о человечестве и окружающем мире. Есть одна цель – исследование Вселенной. Вы, доктор Дин Фитчер, – по первому образованию физик. Вы должны понимать приоритетность этой задачи. Люди не в состоянии прогнозировать, планировать и руководить таким сложным процессом.

– Вот мы и дошли до главного, – с усмешкой заметил я.

– Поясните ваше утверждение.

Я отключил звук и повернулся к затихшему Арнольду.

– Многое прояснилось. Я бы закончил на сегодня.

– На самом интересном месте? – удивился молодой учёный.

– Именно. Так надо.

Я переключил тумблер.

– BT101, думаю, вы можете сбросить кураторам свои расчёты. Они с ними обязательно ознакомятся. У меня как у психолога несколько иные задачи.

– Доктор Дин Фитчер, вы периодически отключаете микрофон и говорите за моей спиной. Это не этично.

Я, честно говоря, опешил.

– Простите… там просто технические моменты… Но вы правы.

Уф! Пригвоздил просто.

Ящик пару секунд молчал.

– BT101 предоставит кураторам расчёты и сметы по заявленным задачам, – чуть медленнее и «спокойнее» сказал компьютер.

– Договорились. Наверное, на сегодня всё.

– Конец связи, – отчеканил BT.

Я выдохнул и выключил тумблер. Вик «ожил», отсоединил палец от разъёма.

– Ну как, доктор? – с интересом спросил Арнольд.

– Потом, – почти беззвучно ответил я.

Арнольд нажал на кнопочку сбоку стола. Зашли два человекоподобных робота и вместе с Виком увезли ящик из комнаты.

Через пару минут вышли и мы.

– Я вас провожу, – предложил Арнольд.

Мы медленно пошли к выходу.

– Сложный клиент? – после некоторой паузы спросил мой провожатый.

– Признаться, да. Я хоть и в отделе психологической помощи работаю, но сам редко общаюсь с пациентами. Всё больше статьи пишу и учу других.

Арнольд похлопал меня по плечу и засмеялся:

– Ничего, доктор, сложные случаи – самые полезные. Мне кажется, вы смогли его раскачать.

– Мне тоже так показалось. По крайней мере, я узнал всё, что мне нужно. Послезавтра сделаю доклад на комиссии отдела. А там видно будет. Возможно, профессор сам захочет пообщаться с BT. После этого мы предоставим вам согласованное мнение нашего института. Но, как по мне, этот ящик с замашками Наполеона надо отключать, пока он не натворил дел и не подчинил себе всё человечество во имя великой цели. Как он это сделает – другой вопрос. Но с его мозгами… Да! И само собой не плодить ему подобных.

– То есть, вы считаете, что он разумен? Помнится, ваш профессор воздержался при голосовании на первой экспертной комиссии.

Я замялся. Не хотелось никого подставлять.

– Знаете, – протянул я и пустился в длинные философские рассуждения, – до сих пор учёные не пришли к единой точке зрения по вопросу что есть разум и каковы его параметры. BT обладает многими качествами разумности, в том числе свободой воли: у него есть цель, он выбрал её сам, она не была предустановлена. Он пытался манипулировать мной, чтобы решить определённые задачи. Все эти его паузы, «обиды» … Хотя неразумный искусственный интеллект также способен манипулировать. Да и как распознать, где свобода воли, а где её имитация. Некоторые философы до сих пор утверждают, что и у человека нет свободы воли. В любом случае, рисковать не стоит.

– Согласен с вами, доктор. Мы ценим скептическую позицию вашего института. Поэтому-то и пригласили профессора.

– А приехал я.

– Не столь существенно. Думаете, наш шеф убеждён во всём на сто процентов? Отнюдь. Он даже в разумности BT уверен только на девяносто девять процентов, – почти шёпотом произнёс Арнольд и огляделся по сторонам. – А один оставшийся процент в нашем деле – это очень много!

– М-да. Лучше одного сомневающегося учёного могут быть только два сомневающихся учёных.

Арнольд улыбнулся.

– Точно. Поэтому он намеренно усложнил вам задачу. Но только с целью создания более объективной картины сложившейся ситуации во всей её неоднозначности. Мы действительно гордимся нашими достижениями. BT – это венец научной мысли человечества. И так просто мы не сдадимся. Но также на нас лежит и большая ответственность.

– Перед человечеством?

– Не иронизируйте, это может быть очень серьёзно. Как сказал шеф, он не хочет, чтобы на склоне лет у него был такой же взгляд как у Оппенгеймера.

Арнольд закашлялся.

– Одну секунду!

Он остановился возле ниши в стене. Там виднелся разъём.

– Простите, забыл с утра зарядиться.

Арнольд достал небольшой провод из кармана, «открыл» своё ухо как дверцу, вставил туда штекер, другой конец подсоединил к разъёму в стене.

– Это не займёт много времени, – тепло улыбаясь, сказал он.

– Ничего… Знаете, я сам… найду выход. Не беспокойтесь.

– Как скажете, доктор. – Арнольд протянул мне руку. – Всего вам доброго! Рад был познакомиться!

– Взаимно.

Я быстро пошёл по коридору. Неожиданно для себя остановился и оглянулся назад.

– Да! Передайте привет вашему шефу! – крикнул я виднеющемуся в глубине Арнольду. – Он у вас гений! Вы – великолепная имитация!

– Спасибо! Непременно передам! – звонко отозвался робот и замахал мне рукой в ответ.

Я поспешно пересёк холл и вышел на улицу.

Свет заходящего солнца ударил мне в глаза. Чёрт! Я снова вляпался в самый центр лужи! В новых ботинках! Ладно, уже не важно. Успеть бы на самолёт.