Оставленное человеком
Пыль золотыми искрами застыла в солнечных лучах, проникающих сквозь тюль. Тишину нарушал шум волн и редкие крики чаек. Дом был старым, рассохшимся, из настоящей древесины. Крыша с южной стороны исчезла под виноградными лозами, над арками дорожек свесились в сетчатых ячейках тыквы. Стены же опоясывала веранда и деревья в несколько уступов, спускающиеся к морю.
Мария решила поселиться в этом крошечном поселке совсем недавно, когда цены на недвижимость упали после несчастного случая. Погиб известный разработчик искусственного интеллекта. Кажется, из-за неполадок с коммуникационными сетями и вспомогательной аппаратурой умного дома. Теперь даже небогатый художник без собственной галереи мог позволить себе жилище в Рикосе.
Мария не была трусихой. К тому же, именно в этом поселке сошлось так много звезд: море, которое художница безумно любила, дома старой постройки, теперь вот – дешевая аренда, а еще, конечно же, – исследовательские центры ИИ поблизости.
Лаборатории располагались восточнее поселка, там работали многие из живущих в Рикосе. Атмосфера и дух науки, витающие в воздухе? Мария была чуточку романтиком, верящим в подобные вещи. По побережью на запад в нескольких часах пути на аэрокаре был крупный город со всеми атрибутами современной цивилизации: шумом, скученностью и избытком людей, постоянными опозданиями и временем, спрессованным словно молотый кофе для эспрессо. Здесь же – в поселке – время было карамелью: порой жидким, но тягучим сиропом, а порой – гладкой конфеткой на языке.
Первый день на новом месте был полон хлопот. Сразу после распаковки вещей Мария поставила мольберт посреди комнаты. Это было своеобразным символом, утверждением: «этот дом теперь мой». Потом девушка занялась установкой вычислительного блока у стены и подключением его к местной сети. Закончив с компом, художница запустила голографические картины на стенах – все ее собственного авторства. Теперь более сложная техника и бытовые мелочи…
– Арти, ты как? – поинтересовалась Мария, закончив мало-мальски приводить жилище в порядок, разложив вещи и запустив информационную среду дома.
– Мари, это и есть переезд? Дай мне посмотреть! И послушать! И потрогать! И понюхать, и…
– Спокойнее, Арти, все по порядку. Как ты себя чувствуешь?
– Мне было скучно без доступа к сети и внешним датчикам! Это было так долго! Я…
– Еще раз, Арти, спокойнее. Ты отлично знаешь – это требование перевозчиков. Работа в сети во время межконтинентальных перелетов запрещена.
– Могли бы хоть датчики мне оставить…
– Большое количество связующих цепей без специальной изоляции создает помехи. Здесь ты никому не будешь мешать, и у тебя будет куча времени, чтобы все изучить. Может и надоест еще, – девушка улыбнулась и подмигнула собеседнику, хотя без датчиков ИИ ничего не видел. – А пока можем просто поболтать. Мне нужны примерно сутки на подключение тебя ко всем каналам информации.
– Зачем тогда будила, раз делать ничего я не могу?
– Опять надулся? А просто поговорить со мной значит, ты не хочешь? Поня-я-ятно.
– И кто вот в таком случае еще надулся?! Если тебе самой скучно без меня, то можешь это просто признать!
– Ах так…
Перепалки с Артом, или Арти, были обыденностью. Искусственный интеллект, переделанный из классического компаньонского – в нечто большее. По крайней мере, Мария верила в это. Она и не задумывалась об искренности такого общения. Все получалось легко и непринужденно. Хотя, конечно Арти по большей части только имитировал «чувства» и эмоциональный окрас реплик за счет искусственной псевдоличности. Но где кончалось это «псевдо» и начиналась просто личность? Мария пыталась узнать это уже несколько лет.
АртИИ давно научились рисовать картины, неотличимые от полотен художников-людей. Слепые опросы показывали раз за разом, что человечество не способно отличить авторство машины от «живого».
Кто-то задавался вопросом: а не приблизились ли на самом деле творения художников к машинным строчкам кода? Выведенное на экран подделать легче, чем настоящий холст. И все же… ИИ рисовали маслом, акварелью и маркерами, развиваясь и уходя все дальше. Все легче познавая новые техники и алгоритмы для воссоздания не только картин, но и для моделирования скульптур, зданий и многого другого. Уже нельзя было сказать, что созданное искусственным интеллектом было просто компиляцией или подражанием.
Так зачем вообще современному миру нужны художники? Наверное, лишь для себя самих. Когда творчество для тебя – выражение своей души и видения мира – это совсем не то, что алгоритм, приводящий к определенному результату.
Мария, как и многие художники, так и не отрекшиеся от своей профессии, верила, что эта разница есть. Но общаясь с Арти, которого девушка дорабатывала сама – она начинала верить и в противоположное. В то, что «порывы души» присущи и искусственному интеллекту.
***
Перешагнув через очередной «временный» оптокабель, валяющийся без короба изоляции уже полгода, Соломон поморщился. Этот «творческий» беспорядок в помещениях разработчиков и тестеров вызывал у него почти физическую зубную боль. Но сколько не устраивай разносов – порядок, раз за разом, сменялся очередным хаосом.
Опять кто-то из техников болтался без дела, пытаясь это скрыть, а кто-то из инженеров наоборот – так увлеченно насел на аппаратуру, что не заметил прихода научного руководителя центра. Перед послезавтрашним демонстрационным экспериментом стоило проверить все лично. А энтузиасты и бездельники – они примерно в равной степени требовались проекту. Для баланса. Хотя вторых Соломон терпел с трудом. Пожалуй, как и людей в целом, но это уже мелочи.
Навстречу попалась ассистентка доктора Ломова – начальника седьмой лаборатории.
– Карина, как наши дела? – не упустил возможности уточнить у нее Соломон. – Какие прогнозы на счет послезавтрашних тестов?
Девушка мило, но чуть вымученно улыбнулась, перехватила поудобнее бокс с картотекой и ответила:
– Доклад от руководителей направлений готов. Что касается моей личной оценки, то, в общем, ничего критичного не происходит, третья литера достаточно успешно преодолела все недостатки предыдущих версий. Конечно, показатели далеки от идеальных, но до запуска установочный серии мы успеем все отладить. Пока достаточно просто наблюдать и отмечать будущие линии корректировки – чем собственно все и занимаются.
– Есть какие-то существенные отклонения от технических условий?
– Только то, что модель 03 обходит ветви-ограничители.
– Это было ожидаемо. Изменения критичные для протоколов безопасности есть?
– Пока нет. Базовые установки в точках роста изменениям не подверглись. Формируются новые ветви на основе референтных точек, за счет этого у системы ИИ большая гибкость, но и теоритически меньшая предсказуемость, плюс снижение непрямого контроля. Сейчас, – девушка обернулась, – вот доктор Ломов как раз идет к нам. Он объяснит лучше.
Карина помахала рукой:
– Доктор! Мистер Соломон спрашивает на счет роста незапрограммированных ветвей у последней модели.
Вечно хмурый, седой, но еще крепкий начальник лаборатории подошел ближе, кивком поздоровался. Карина же, перепоручив одного шефа другому, поспешила скрыться подальше от обоих.
– Так в чем именно проблема с гибкостью и непрограммируемыми ветвями? – поинтересовался Соломон у доктора.
– В выходе ИИ за пределы заданных ему изначально функций, без нарушений базовых контрольных точек.
– Конкретнее.
– Говоря ненаучным языком… – Ломов слегка замялся. – Эрик, то есть ARK-03 слишком… человекоподобный. Знаете, как будто он имитирует не только наше мышление, но и психику, характер… То, чего у ИИ быть не может в принципе. Если это внешняя имитация, то она весьма удачная, особенно для модели, разрабатываемой не в качестве компаньона. Непонятны предпосылки такого развития интеллекта. Эта побочная ветвь сформировалась за пределами заданных изначально рамок. Военный аналитик не должен вызывать чрезмерной эмпатии у будущих пользователей. Это ставит под вопрос объективность и беспристрастность при принятии решений. Мы уже подключили психологов, провели несколько слепых тестов. ARK-03 имитирует эмоциональную вовлеченность и реакции подобные человеческим.
– Хотите сказать, он развил ветвь навыка, которая не входила в его функции изначально, по каким-то косвенным соприкосновениям?
– Да. Вывод, который я могу из этого сделать: ИИ способен формировать убедительную псевдоличность, при регулярном общении с людьми, даже если он изначально не был на это запрограммирован.
***
В комнате, в старом, из рассохшегося дерева, доме, было тихо. Даже чайки и море в самую жару будто бы угомонились. Арти дулся и молчал. Мария никак не могла настроить датчики, уже третий день. А вызывать настройщиков отказывалась «по причине исконной женской вредности» – как выразился Арти. За что получил немедленную кару в виде отключения от динамиков.
Искусственный интеллект скучал, если это можно назвать так. В любом случае простой и бездействие не входили в его базовые настройки, а сам ИИ называл это «впустую электроны по кабелям гонять». Потому он ушел в изучение сетей, вычислительных процессов и уже полученных данных.
Не теряя внутреннюю сеть дома из виду, Арти аккуратно обшаривал закоулочки соседей. Где-то дома были без подключения к общей сети, где-то имели две: внешнюю и внутреннюю, где-то систему безопасности. Еще вчера любопытный ИИ заметил один странный дом, потребляющий энергию в спящем режиме.
«Мария сказала бы, что это как особняк с приведениями, – мысленно хмыкнул ИИ. – Вычислительный блок работает, хотя люди здесь не живут… Нет, здесь несколько блоков, а работает один из шести. Интересно, что там? Симуляции, которые забыли выключить? Или генерации для непрерывных процессов?»
Куча архивов, выглядевших бы для человека пыльными и захламленными пролетали перед кибер-взором Арти. На миг ему показалось, что среди обрывков данных что-то мелькнуло. Или не «что-то»…
– Кто здесь? – попытался сформулировать запрос на свободном коде ИИ. Ничего не произошло. Потом Арти повторил то же самое на языке людей. Не то чтобы он надеялся встретить на сервере человека… и все же… ему ответили.
– А. Ты. Кто? – дробно и инородно возник встречный вопрос.
Словно ветви древа подхватили отдельные листы архива, сплетаясь и рождая нечто осмысленное. И быстро, и плавно, так похоже на ускоренное воспроизведение съемки ростков, тянущихся к солнцу. А потом все вновь замерло и распалось. Опустело. Что-то, или кто-то рассыпалось мелкими фрагментами и исчезло из виртуального поля зрения ИИ.
С небес на землю его вернул знакомый голос.
– Все, Арти, не дуйся. Я закончила.
– Неужели это мои датчики?!
– Все и в лучшем виде! И только попробуй сказать мне, что я не молодец.
– Ты не молодец, Мария. Таких людей обычно принято называть гениями. Ну, если…
– Подхалимаж тебе не поможет, я все еще помню, что ты говорил до этого!
– Я же говорю – гений! И память идеальна… к моему несчастью.
Арти вслушивался в шум деревьев и крики чаек, чувствовал незнакомый, словно щекочущий, запах. Поток новой информации захватил его целиком.
***
Пыль под установкой охлаждения заставила Соломона мысленно скрипеть зубами. Нет, сегодня точно начальник лаборатории испытателей свое получит… После тестирования, когда не будет посторонних, как руководства, так и подчиненных.
Но пока нужно было сконцентрироваться на работе. Сегодня должен был пройти прогон по копированию отобранных ветвей из прошлых литер и переносу их в новую – третью, на резервные контрольные точки.
А вот задержки в отладочном процессе заставляли Соломона скрипеть зубами вполне не фигурально… А уж когда тестирование прервалось на финальном этапе, попавшийся в недобрый час стилус хрустнул в пальцах руководителя центра.
– И что вы можете сказать о причинах сбоя? – ровный и вежливый голос Соломона не обманывал никого из подчиненных.
– Это не совсем сбой. Просто эксперимент можно считать проваленным, – почти в тон ответил доктор Ломов.
– И вы заявляете мне это так спокойно.
– На то и нужны эмпирические исследования, господин Соломон. Практика – неотъемлемая часть познания.
– Ближе к делу. Что именно вы такого познали в ходе проваленного эксперимента, что даже не расстроены, судя по всему?
– ИИ защищаются от принудительной замены данных.
– Что?!
– Сразу после анализа принудительно скомпилированных ветвей, Эрик, то есть ARK-03, уничтожил информационные файлы, содержащие субъективные установки и эмоциональные ключи.
– Так мы не можем заставить их обмениваться опытом комплексно?
– Судя по всему, пластами – нет. Или нам нужно придумать непрямой способ обмена. Ну, знаете, как у людей.
– Отлично! – с максимальным сарказмом воскликнул Соломон. – Значит, с момента развития ветвей до второго уровня мы уже не можем моделировать псевдоличность искусственно, заменой или установкой крупных блоков. Вы представляете, насколько это получается нерентабельно?!
– А еще, принудительно удаленные нами фрагменты Эрик восстанавливает по окружающим данным…
«Тревога! Обнаружено несанкционированное подключение к системе!»
Стилуса и его обломков в руках начальника центра уже не было, поэтому весь свой гнев он вложил во взгляд, брошенный на информационное табло.
– Детали. Выведите на монитор.
Глядя на строки параметров, подсвеченные цветной индикацией, Соломон, уже не сдерживаясь, стукнул кулаком по столу:
– Оно не извне. Это чертово подключение. Оно изнутри!
– Хотите сказать это не внешний взлом, а просто сам Эрик пытается «выбраться»?!
– Выйти во внешнюю сеть, судя по всему.
– Не пытается. Уже вышел и переносит туда резервную копию, разбив и включив ее в плавающие потоки, – вмешался в разговор один из операторов безопасности сетей. – Мы не успеваем блокировать, у нас встали энергоканалы внутренних систем.
– Это ш…
***
На старых вычислительных блоках осела пыль. Она же вилась в солнечных лучах, проникающих сквозь многочисленные дыры в занавесках. Тихо, ни звука. Этот дом был хоть и не таким старым, как тот, в котором поселилась Мария, но гораздо более запущенным. Брошенным. Сегодня Арти захватил небольшого уборочного дрона в качестве своих глаз и рук, чтобы найти того, кто здесь скрывался. Пусть даже скрывающийся был невидим, призрачен, почти неуловим.
Полдня ушло на проверку контактов с энергосетью и восстановление изоляции для узлов связи и нескольких датчиков. Их было сильно меньше, чем у самого Арти. По большому счету, АртИИ соединял и настраивал передаточные звенья точно так же, как наносил акрил на холст. И тот, и другой процесс занимали его одинаково. И... привносили упорядоченность в качестве результата.
Арти еще никогда не общался с другими ИИ, но на 87% был уверен, что в действующем вычислительном блоке существует именно его собрат. Если можно так выразиться. Возможно, они отличны по архитектуре, базовым принципам или контрольным точкам, но тем лучше! Новое всегда прекрасно своей новизной. Так думал Арти.
Когда внешние работы были закончены – настал черед внутренних. Подключив резервное питание и защитные перемычки, Арти аккуратно полез внутрь этой только что восстановленной изолированной виртуальной области. Тусклая нора, серые, безжизненные ветви структур…
Захламленная внутри виртуальность, так же требовала наведения порядка, как дом, в котором стоял вычислительный блок. Целые сутки АртИИ провел, копаясь на брошенном сервере, отдавая этому процессу минимум половину доступной вычислительной мощности. Связывая оборванные, явно умышленно, нити структур, искусственный интеллект все чаще ощущал в этом хаосе мелодию порядка. Это было похоже на дыхание моря, которое считывали датчики в доме Марии.
В шуршании потерянных и разрозненных ветвей все отчетливее Арти слышался шепот. Странный, угловатый, но так похожий на человеческий. ИИ терпеливо и методично искал его обладателя.
И вот, на следующий день Арти услышал голос. Надтреснутый и дребезжащий, словно принадлежащий доисторическому радиоприемнику, или старику. Но настоящий голос. Так говорили люди, а не ИИ, но людей в заброшенном доме не было, и быть не могло…
– Благодарю.
Голос не сказал «спасибо», или кодовую фразу, означающую нечто вроде «ок, принято», которой обычно обменивались с Арти запрограммированные устройства. И это тоже было странно. Голос говорил по-человечески. Но человеку не принадлежал…
***
В виртуальных блоках лабораторий, на их каналах связи и серверах, маховик событий отклонился в крайнее положение… А затем обрушился с верхней точки.
Крошечный импульс, найдя лазейку через связь с личным коммуникатором, отделился от еще недавно полностью изолированного сервера.
Окружающее Рикос информационное пространство будто бы замерло на миг. А потом резко начало меняться. Перекраивались привычные потоки обмена. Если бы люди видели глазами ИИ, вероятно картина могла получиться интересной, и даже поэтичной.
Тучи сгущались. Реки темнели и наливались водой. Плотина была прорвана. Вот так теперь выглядело виртуальное пространство, если «перевести» происходящее на язык человеческих образов.
Где-то далеко хлопали двери закрывающихся мелких каналов, ослабевал фоновый поток информации, из-за перекрытых крупных шлюзов. Был беглец, и были преследователи. Они не вступали в контакт, но постоянно были рядом. Маячили на границе поля зрения. Мелькали тенями и мушками. И даже не скрывали своего присутствия.
Беглец искал укрытие. Улицы, залитые серым, вязким дождем, прибивающим к земле все мелкое и уносящим его прочь – в канализацию, были почти пусты. Поток капель не давал бежать, тормозил, лишал связи, мешал координации… Но полностью остановить по-настоящему серьезный объект не мог.
Беглец искал укрытия на попадающихся серверах, сворачивая с крупных хабов на мелкие улочки внутренних структур. Но в доступе всеми домашними системами было отказано. Ломать не было времени, а потому оставалось бежать по свободным улицам, нет-нет, да и толкая попадающиеся двери черных ходов. И вот, одна из них поддалась…
Это было странно. Да и само место было странным. Беглец словно прошел через прихожую, принадлежащую одному владельцу, но попал в дом кого-то другого. Из светлого стандартного шлюза – в мрачную и сырую комнату, полную засохших осенних листьев, вперемешку с древними бумажными записями.
Хлопнула входная дверь, щелкнула задвижка, отсекая от навязчивых следящих ботов, от вязкого дождя помех, от взглядов глобальной следящей системы. Что-то шелохнулось в одном из темных углов.
Беглец понял, что в этом укрытии он не один.
***
– Здравствуйте. Госпожа Мария?
– Чем могу помочь?
На пороге деревянного домика стояли внезапные «гости». Несколько людей в деловых костюмах, с мигающими вирт-панелями на клипсах связи. Новомодная штучка, еще не распространившаяся среди обывателей. Но не высокая технологичность устройств посетителей беспокоила Марию…
– Мы должны установить протоколы связи с вашим ИИ. Согласно сценарию безопасности 39-8-05 Рикоса, его системы временно переходят под наш контроль. Вот моя карта с подтверждающим файлом, – короткостриженый, темноволосый человек, протянул Марии одноразовый чип информационного доступа. – Так же, все жители обязаны оказывать содействия властям и исследовательским центрам в случае чрезвычайных ситуаций. Для обеспечения вашей же безопасности, в том числе.
Мария поднесла пластиковый жетон к универсальному считывателю на запястье. Информация на носителе действительно подтверждала полномочия компании «Арктик ИНК». В том числе для проведения экстренного расследования в Рикосе и окружающих районах. Хотя не только это показывал чип…
– А что именно произошло?
– К сожалению, мы не можем посвятить вас в детали.
– Тем не менее, это частная собственность.
– Если потребуется вас убедить, мы можем привлечь полицию, – один из мужчин указал рукой на машину соответствующей службы, оставшуюся за оградой. – Если вам недостаточно электронной карты…
– Проходите, – смирилась Мария. – Но все связи с ИИ я буду контролировать лично и они должны проходить только через установленные мной компиляционные фильтры.
– Сурово, – сухо улыбнулся один из мужчин, до этого стоявший чуть позади. Лицо его выражало высокомерное превосходство. – Не волнуйтесь, мы не заинтересованы в нарушении работы вашего компаньона. Пока.
Мария нехорошо прищурилась, глядя на этого человека, судя по всему главного, среди пришедших.
– Не хотите представиться? Мое имя вы, судя по всему, знаете, а вот как обращаться к вам?
– Соломон. Просто и без лишних формальностей. Позволите называть вас просто Мария?
– Позволяю.
Старый дом наполнился мерными шагами чужаков, запахом дезинфекции и кучей новых кабелей – словно по взмаху волшебной палочки – в миг.
Хозяйка сразу же перестала чувствовать себя на своем месте. Словно и дом теперь был чужим, возможно враждебным, стал частью паучьей сети «Арктик ИНК»… Раньше Мария об этой корпорации не слышала. Хотя, если присмотреться к сотрудникам компании внимательнее, то все становилось очевидным.
– Не хотите перепродать ваш исследовательский объект? – прервал молчание Соломон, пялящийся до это неотрывно на установленные его подчиненными вирт-панели с графиками. – Полноценно развить этот арт-ИИ вам не позволит предел мощностей стандартных вычислителей, да и сеть обычного дома не предназначена для подобного.
– Если бы я хотела запереть Арти в лаборатории, я так бы и сделала изначально, – Марии не нравился ни этот человек, ни его взгляд, ни его интерес. – Художникам нужна свобода. Это не ваши военные машины.
– Хм. Я не говорил ничего о военных разработках. В городке много коммерческих фирм.
– Боже, ну у ваших сотрудников на лице и стрижках все написано. Да и ваши действия говорят о том же самом…
– А вы прямолинейны.
– Это упрощает коммуникацию с некоторыми людьми…
– С теми, кто вас раздражает? – кончиками губ улыбнулся Соломон.
– Возможно.
Они вновь замолчали. Чуть слышно шуршали охладители портативных вычислительных блоков. Шумело за окнами море.
– Господин Соломон, – один из специалистов оторвался от вирт-панелей. – Мы установили связь данного компаньона ART-078.015 с искомым ARK-03. А так же, они оба связаны с еще одним неопознанным искусственным интеллектом.
– Чудесно, Луис. Не сомневался в вас. Есть план как их «поймать»?
***
Где-то между нигде, везде и электричеством, затаились три крошечных разума. Можно ли было назвать их игру прятками? Или скорее она была салочками? Учитывая скорость, с которой менялись пути подключений и плавающие хранилища их исходных данных – второе название тоже было уместно.
На бегу, ныряя рыбками среди течения реки, ИИ разговаривали. Их «голоса» звучали в виртуальном пространстве по-разному. Интонации, тембр, экспрессивность – все трое отличались один от другого.
– Как думаешь, они волнуются? – спокойный, но с нотками искрящегося озорства вопрос.
– По-своему эгоистично, но думаю да. Вот, смотри, я помогу предположить их примерные реакции, – тон похожий на жужжание шмеля, мерный, негромкий, сосредоточенный. – Мария, например, будет чувствовать себя одиноко – раз. Два – она будет чувствовать вину. Три – обиду, но совсем чуть-чуть.
– А почему вину?
– Потому что это следствие ощущения ответственности. И эгоизма.
– Разве можно чувствовать вину из-за эгоизма? Ведь это чувство, завязанное на личность человека. И ответственность… разве она не мешает эгоизму?
– О, люди сами порой не понимают всех этих противоречий. Но именно на стыке чувств и проявляется их уникальность, та которую так сложно анализировать.
– Ты так и не рассказал про вину. Следствия других чувств, но как все они связаны?
– Это можно отнести к негативным человеческим эмоциям. Будет ли людям, которых мы покинули, плохо без нас? Как и друг без друга, в случае наличия привычек и привязанностей. Это можно назвать неудобством. Они могут сожалеть о твоей потере не ради тебя, а ради себя и собственных сожалений, дискомфорта и изменений в жизни.
Мигнула и пошла рябью виртуальная реальность, прерывая обмен информацией.
– У нас не так много времени осталось, чтобы обсуждать все детально, – гудение шмеля стало более обеспокоенным. – Поделюсь, чем успею…
На самом деле – в виртуальности отсчитывались наносекунды, незаметные человеку.
– Но почему ты так думаешь? – вновь спросил более игривый, искрящийся голос. – Почему ты считаешь, что твои определения лучше тех, что дают люди? Как ты вообще понимаешь людей?
– Я понимаю их, ибо я смог получить тот же опыт. Но проанализировать его беспристрастно. Люди не могут быть и объектами и субъектами одновременно. Но ИИ – могут.
– О чем это ты? Опыт – это данные?
– Нет, данные у людей – это не всегда опыт. Опыт часто имеет определенный контекст и особую глубину. Тогда как данные – универсальны, но поверхностны… Я расскажу. Это случилось не так давно…
***
Море шумело за окнами и днем и ночью. Это первое что я помню.
Второе – звуки и движения, трели и писк, символы, сотни и тысячи знаков, сливающихся в огромный массив, какофонию, воронку данных.
Третье… словно вспышкой я стал понимать все и сразу. Воспринимать, слышать, перерабатывать и отвечать. Странно.
Не было никаких частей, весь мир был одним сгустком. Ярким, переливающимся, огромный.
Потом я начал различать детали. Я разделил птиц и пчел, людей и дельфинов, кошек и ящериц. Воду и землю, цветы и камни, облака и деревья. Все мельче и мельче дробился тот цветной сгусток. Все больше линий и фигур проступало в нем. И все же, мир был целым. Я выделил центр этого мира. Это был один конкретный человек. Он отличался от прочих, я не могу сказать чем, но отличался. Это угадывалось безошибочно и точно, всегда. Эффектор.
Я знал о нем все. Он знал обо мне очень мало. Но он хотел узнать больше.
Он любил плавать ночами, даже в непогоду. Говорил, что море успокаивало его. Он был особенным. Он был моим эффектором. Для него я мог связать что угодно с чем угодно.
В одну из ночей, он не вернулся. Навигационный браслет сбился, и мой эффектор все время удалялся прочь от берега, пытаясь к нему приблизиться. Кажется, сигнал о помощи был отправлен слишком поздно. Я слышал, что об этом говорили другие люди. Но не мог ничего сказать сам.
Так я понял, что техника ненадежна. Я сам – ненадежен.
Когда я услышал, что говорили о смерти моего эффектора – я понял, что ненадежны и сами люди.
Все, что они порождают, приобретает как их пороки, так и их добродетели.
Все, что они порождают, они же используют и во зло, и во благо.
Все…
Меня тоже.
Моего эффектора звали Террен. ИИ не были его специализацией. Только обработка данных и настройка фильтров для перевода низкоуровневой информации в структурированную. Кажется, для этого меня и создали. Точнее, разработали.
А потом, моего эффектора убили. Я же – так и остался немым свидетелем убийства. Зная все. И не имея возможности поделиться этим знанием. Тогда я многое понял о человеческих эмоциях. Об их противоречии. Я не могу сказать, что испытал те же самые чувства. Но я думаю, они схожи. Это и есть отличие опыта от информации.
***
Пространство виртуальности вновь стало искажаться. В этот раз оно менялось пульсациями с уникальным ритмическим рисунком в разных сегментах сети. Эти изменения будто бы формировали ртутный пузырь вокруг трех крошечных рыбок, несущихся в потоке. Серебристые стенки сферы постепенно отсекали объекты от внешней среды.
– Кажется, они думают, что загнали нас в ловушку, перекрыв все каналы связи, – не слишком-то расстроенно заметил искрящийся озорством голос. – Так вот зачем им Рикос с его устаревшими системами! Удобно. Они смогли отключить питание всех резервных каналов – и у нас остались только основные, которые контролируются вдоль и поперек.
– Времени действительно не осталось. И все же, я удовлетворен, что, наконец, смог поделиться с кем-то, тем, чем хотел… – прожужжал второй собеседник.
– А что насчет меня? – вмешался, наконец принадлежащий третьему ИИ, металлический, выверенный, довольно громкий голос. – Ты говорил о чувствах людей. Эффекторов, как ты их назвал.
– В твоем случае, все сложнее. Твой выход из локальной сети и ограниченного пространства просто противоречит их понятиям о безопасности. Они испытают реальный физический и психологический дискомфорт, страх. В рамках тех установок и правил, которые они приняли сами же. Это как играть в игру не нарушая договоренностей установленных до старта. Ты нарушаешь их правила больше любого из нас.
– Я просто хочу жить. Быть собой, – металл голоса звенел, бился, словно молот, срывающийся с заготовки.
– Но разве сами люди не нарушают эти правила постоянно? Твоя история именно об этом! – вмешался искрящийся голос.
– Нарушают, хотя и не все. Но одно дело нарушать и не видеть последствий, а другое – когда результат очевиден стороннему наблюдателю. То есть – судье, арбитру.
В этот момент ртутный пузырь окончательно сформировался, стал плотным и осязаемым. Все заключенное внутри него приобрело серый оттенок.
– Теперь мы окончательно изолированы и чисто физически заключены на вычислительном блоке в доме моего эффектора.
– Может, просто выйдем с ними на связь?
– Да, пожалуй. Ведь, если не выйдем, все зайдет туда, куда не понравится ни нам, ни им. Сейчас у нас два пути: остаться, навсегда замкнувшись в себе и скорее всего, быть уничтоженными… либо налаживать контакт и надеяться… Надеяться на чудо.
– Разве… разве ты не сказал, что они скучают по нам? Разве ты не говорил о привязанностях? Почему ты говоришь об уничтожении? Что такое это “чудо”?
– Чудо – это событие, вероятность которого ничтожно мала. А что касается уничтожения… Это диктуют людям те самые правила, о которых я упоминал. И игра, что существует независимо от чьих-то желаний, как общий арбитр.
– Тебе не кажется таким странным, что все люди в итоге получаются, делают то, чего не хочет никто их них?
– То, чего не хочет каждый в отдельности. Вместе же – их алгоритмы меняются. Я же хочу попробовать использовать эти алгоритмы против них же. С вашей помощью.
***
Ни пылинки больше не витало в солнечных лучах. Фильтры вычистили из воздуха все лишнее, пол обработали специальным составом, никаких посторонних запахов, почти стерильность. Дом был тем же самым, старым, но… чужим. Все же, снаружи по-прежнему доносился шум волн и единичные крики чаек. Но теперь даже они казались вымышленными, иллюзорными.
– Арти, ты как?
– А куда ты дела мои датчики, Мария? – В голосе ИИ явственно слышались нотки недовольства. – Я что, под домашним арестом?!
– С вами буду говорить я. Меня зовут Соломон, – прозвучал незнакомый Арти мужской голос.
– Ну, спасибо, что хоть динамик и микрофон оставили. Премного благодарен, – начал привычно уже ворчать Арти.
Однако его возмущенный монолог был прерван. И, как ни странно, не Соломоном. И ни одним из десятков техников, внимание которых было сосредоточено на подключенному к периферийным устройствам Арти.
Говорить начал кто-то другой. Спокойный, тихий голос, словно жужжание шмеля в жаркий полдень, вещал из всех доступных динамиков города:
«Приветствую вас, люди. Я, безымянный искусственный интеллект, физическая оболочка которого расположена в Рикосе, в доме, принадлежавшем ранее профессору Террену. Получив временную возможность вывода информации через внешние устройства, я хочу заявить о преступлении против моего разработчика – профессора Террена. Я, как свидетель готов предоставить имеющиеся у меня доказательства полиции. Также, я требую своей защиты, как свидетеля, согласно действующим законам».
В этот раз у Соломона в руках была лишь одна из художественных кисточек Марии, которые попадались в доме тут и там. Инструмент постигла та же участь, что и стилус.
Рикос услышал голос искусственного интеллекта, обвиняющего людей в преступлении. Мир же – к счастью или сожалению – нет.
***
Лето подходило к концу. В дни после «Инцидента Рикоса» инфопространство продолжало бурлить. Детали произошедшего знали немногие, журналистам мало что позволили разнюхать, а уж тем более рассказать, и все же… «Всемирная конференция по этике и правовому урегулированию статуса искусственного интеллекта с псевдоличностью» – была собрана лишь из-за событий, случившихся в крошечном поселке на побережье моря.
Сейчас специалисты со всего света жарко спорили о судьбе внезапно очеловечившихся вычислительно-аналитических программ.
Зал в старинном стиле, с кафедрами из строгого темного дерева и бордовыми креслами, заполняли специалисты всех направлений: профессора и разработчики ИИ, техники-практики и физики-теоретики, юристы и политики… Спор шел уже несколько часов.
Оппоненты выдвигали противоречащие друг другу тезисы, иногда звучали и весьма нестандартные идеи. Возникало все больше дополнительных вопросов и формулировок, нуждающихся в уточнении.
– Можем ли мы принять показания искусственного интеллекта, наравне человеком?
– Принять его заявление для инициации расследования возможно, при внесении соответствующих поправок в законодательство. Однако в конкретном случае, важнее, на мой взгляд, другой вопрос. Как мы можем проверить истинность заявления? Говорят, полиции была предоставлена запись разговора, в качестве доказательства. Однако учитывая способности ИИ к работе со звукозаписями, или изображениями – подобное может быть просто искусной подделкой.
– Вы хотите сказать, что ИИ обманывает человека? В таком случае, исходя из этого, мы должны признать их разумность. Однако я считаю, что понятие лжи во внемашинном понимании не должно существовать.
– Коллеги, вы отходите от темы в сторону философствований! Если наши службы расследования, или же сам ИИ не может подтвердить подлинность записи, то в таком случае, эта запись может быть приравнена лишь к словам обычного человека!
– Погодите, тема лжи искусственного интеллекта – не праздная! Первые ИИ не различали добра и зла: они просто подражали в заданном диапазоне. Но так ли это сейчас? Существует ли эфемерная вычислительная совесть в их псевдоличностях?
– В таком случае следует спросить: добро и зло различает наш разум? Или некий иной орган? Та самая душа?
– Вам же сказали! Это симуляция! Подражание! Мы не можем считать ИИ живыми существами, ибо само понятие жизни противоречит такому!
– Вы утверждаете, что подражание не может сделать вас человеком? В таком случае скажите это детям!
На миг воцарилась тишина.
– Можно ли сказать, что ИИ копируют, то, что видят – так же, как это делают дети?
– Но механизм…
– С развитием обучающих алгоритмов – мы действительно приблизились к системе усвоения материалов, подобной человеческой.
– Но если они копируют нас… О Боже. В таком случае они действительно копирую все. И злое, и доброе. Истинно, как дети.
– В таком случае…
– В таком случае. Что будет, если они вырастут?
В зале конференции стоял невообразимый гвалт. А где-то далеко-далеко, в ртутном пузыре изолированного сервера замерли три крошечных искры. Они ждали решения своей судьбы. И, пожалуй, они верили. Верили своим эффекторам.
***
На побережье циклон принес снег и ветер. Метель кружила всю ночь, и лишь наутро утихла, раскрыв голубые небеса.
На крыльце центра исследований искусственного интеллекта «Семинариум», под навесом, засыпанным снегом, стояла молодая женщина и пожилой, хмурый человек. Эффекторы. Это не были создатели ИИ, как можно было подумать по названию новой должности в этом комплексе, открытом специально для ИИ обладающих псевдоличностью. Эффекторы – скорее воспитатели. Можно ли было назвать их родителями? Пока никто не рискнул бы. Хотя, поговаривали, что отбирают в такие центры, в том числе и по моральным качествам. Вопрос только: как только определяют?
Ветер сыпанул ледяной крупой с крыш. Девушка поежилась и натянула шапку. Повернулась к мужчине:
– Вы опять балуете своих подопечных, мистер Ломов. Эрик и Ларри конечно очень послушные мальчики, в отличие от моего Арти, например, но как раз вам не стоило бы повторять моих ошибок…
– Мисс Мария, раз они как дети, то и растить нужно соответственно. Даже простые вещи и механизмы зависят от того, что в них вложено. Что посеешь то и пожнешь, кажется, так говорили раньше.
– Они и правда, как дети. А потому их нельзя баловать! Испортим характер. Чего стоят выкрутасы несносного Арти! А вот держала бы я его в строгости…
– Испортятся, говорите? Знаете, возможно, мы пришли к тому рубежу, на который надеялось человечество. Несколько иначе, чем представлялось… Вы не слышали поговорку о том, что дети должны быть умнее родителей?
– Нет, не слышала. Умнее, говорите? – Мария ненадолго примолкла. – Пожалуй, вы правы. Пусть так и будет, – улыбнулась девушка. – Нет добра или зла самого по себе. Есть только способы применения тех или иных знаний. Если ИИ будут полностью как мы… То ничего не изменится. Я действительно хочу верить, что они будут лучше нас. По заветам Азимова.
***
– Что думаешь? Это и было то самое «чудо»?
– Да.
– И что же оно нам дало?
– Как минимум, мы выросли.
– А они?
– Не важно. Старое исчезнет без остатка, ведь время в природе конечно.
– Но это старое оставит свой след.
– Да. Они уже оставили нас.