|
|
|
Изначально людям не нравились андроиды. И так было до самого прорывного дизайна от Киберлайф. Люди к андроидам-людям относились лучше, чем к андроидам-куклам. Такое когнитивное искажение родом из Зловещей Долины. Однако первая реакция быстро сменилась негативной. Но не от всех. Первыми возмутились всякие пуристы, вроде религиозных. Вторыми - низкооплачиваемые низкоквалифицированные сотрудники, которых было выгодней заменить на андроидов. Прослойка была в меру многочисленная, но не настолько богатая, чтобы тягаться со средним классом и богачами, а так же... свободными фермерами, которые работают на себя, и, даже при минимуме денежных средств, с андроидами сталкиваются в городах. Но чаще те же фермеры при первой же возможности приобретали андроидов себе или собирали по запчастям. Для помощи на ферме.
|
61 |
|
|
|
Хм. Как обычно - прогресс убирал грубую работу и оставлял за бортом тех, кто только для неё и годен. Ну и всякие сторонники чистоты - это понятно. Что ж, государству стоит задуматься, чем бы занять ту прослойку... или как быстро поднимать квалификацию. В общем, все предсказуемо, но наводок на происхождение вируса нет. Всякие безработные за демонтаж роботов, так что давать им самосознание в почерк не входит. С маниакально-деструктивным- куда бы не шло,но, к счастью, это совсем не тот случай. А вот пуристы могли быть перспективней в этом плане... Теоретически. На практике додуматься или им это придумать... много совпадений. Слишком. Ладно, пора ехать дальше. К слову - если ИИ обретет свой статус и права, то... то у той прослойки появится шанс. Но сначала нужно понять, с ИИ ли вообще этот конфликт.
|
62 |
|
|
|
Тем временем машина начала тормозить. Спецэт сам не заметил, как они приехали. Ему снова открыли дверь.
|
63 |
|
|
|
- Извините, мисс Лили... - только и нашелся Маркус. Все же девушка... Ну, очень убедительная имитация. Ладно, пора встречать местных с вежливой улыбкой.
|
64 |
|
|
|
- Я - андроид. Это моя функция и смысл жизни, - ответила она. Здание было высоким. Выосоке здание из стекла и бетона. Архитекторы уже отошли от прямых линий, перешли к закруглённым, а теперь шли на компромисс. Любой поворот шёл через множество тупых углов. Прямой угол был уже моветон.
|
65 |
|
|
|
- Хм... - Маркус ничего не сказал. Он просто отдал должное современной школе архитектуры, поправил галстук и направился на встречу. Его наверняка ждут... час, возможно. А еще спецэт внутренне смутился словам Лили. Да, она просто создана и на данном этапе развития ИИ не совсем личность, но... подсознание, что ты творишь? Да и... если задуматься, этично ли создавать настолько разумных... Нет, он просто реагировал на дизайн, который заставлял принимать гиноида за настоящего человека. Так ли он этичен? Хотя... тот, кто не сомневается... н-да. Надежда есть, в общем. За такими раздумьями Аймегьи шел на встречу с правительством
|
66 |
|
|
|
Первым спецэта встретили министр культуры в сопровождении строгого гиноида в костюме, а так же суровая и озадаченная министр безопасности. Даже хорошо, что не обрушились все и сразу, хотя, всё равно, говорить придётся со всем кабинетом заинтересованных министров, включая министра финансов, и, конечно же, мадам президент. Спецэт мог как промолчать для экономии своих сил, так и попытаться поговорить со встречающими, чтобы... например, получить союзника в возможных дебатах.
|
67 |
|
|
|
Понять бы свою позицию в этих дебатах... для этого стоило как можно скорее разобраться с личностной аутентичностью девиантов. - Приветствую вас, леди и джентльмены. Меня зовут Маркус Аймегьи и я прибыл как представитель Комитета по Этике для урегулирования этой непростой ситуации, пока полыхают только искры, - классическое приветствие. - Инцидент с захватом телебашни показывает, что андроиды уже осознают себя как определенную сторону и самоорганизовались ля достижения своих целей. По крайней мере, это является гласом во всеуслышание. Осталось только на него ответить... - Избегая очевидного, - спецэт понял ладонь. - вначале я выясню, можно ли считать так называемых девиантов самостоятельным ИИ, и уже от этого будут зависеть многие действия, однако определенной долей самостоятельности они обладают в любом случае. На этих словах спецэт оглянулся на свою сопровождающую гиноида Лили, которая в некоторой степени представляла и "КиберЛайф". И кроме этого... Маркус воспользовался имплантом, чтобы определить эмоциональный фон всех собравшихся - и синтетиков тоже, для сравнения с сорванными/пробудившимися моделями.
|
68 |
|
|
|
Синтетик не демонстрировал ничего, кроме вежливого любопытства. Лили же откровенно фыркнула при словах о самостоятельности ИИ девиантов. Министр безопасности, кажется, была недовольна вообще идеей мирных переговоров, а вот министр культуры был больше напуган. - И-и-и... как? Они являются? - обеспокоенно спросил мужчина. - Они являются взбунтовавшейся техникой, - высказалась женщина. - И это угроза национальной безопасности. Я уверена, что это взлом.
|
69 |
|
|
|
"Было бы очень смешно, окажись Лили девиантом", - подумал Маркус, отметив... Ну, зачем гиноиду настолько откровенно и прямо-таки напоказ демонстрировать... или симулировать эмоции? Конечно, такая возможность была для коммуникабельности с людьми, но... в общем, образец обычного поведения секретаря стояла напротив. Хотя... Лили от "КиберЛайф" и как бы представляет его позицию? Вот она - бо-ольшие сомнения в полноценной разумности собственного продукта. Впрочем, это еще предстоит уточнить. - Пока что вопрос разумности требует проведения нескольких тестов с девиантами. Одну модель из участвующих в захвате телебашни уже захватили, пусть и... в общем, восстановлению поддается. Возможно, есть и другие модели... Составить позицию можно только после тестов,- сообщил Маркус. - Которыми я непременно займусь в ближайшее возможное время. Пока что - гипотеза: что-то не так с поступавшими обновлениями андроидов. Отдельным пунктом стоит факт, что девиация начиналась... В общем, в случае с людьми это назвали бы самозащитой или оправдывающими обстоятельствами. Даже если это всего лишь триггер срабатывания вируса, то... в общем, его составитель тот еще режиссер-любитель. Нам известно о сорока семи случаях и все проходили по такому сценарию. Таковы факты. Переведя дыхание, Аймегьи продолжил: - На данный момент моей задачей является определение разумности стороны девиантов и исходя из полученных данных составление плана действий, при котором бы пострадало как можно меньше - желательно вообще никто - разумных. Если это взлом, то нужно угадать сценарий, который собирался разыграть этот кукловод - не говоря уже и о его выявлении.
|
70 |
|
|
|
- Захват башни и гибель сотрудников - тоже самозащита? - резко спросила военная. - Вот-вот, - кивнула Лили. - Кроме того, если внимательно изучить дела, там можно увидеть неоднократные случаи превышения самозащиты.
|
71 |
|
|
|
- Это идет отдельно, как, я понимаю, реакция на информационную блокаду со стороны уже организовавшихся каким-либо образом девиантов - широкая общественность узнала о них лишь сейчас, "благодаря"этому инциденту. Моменты активации состояния девианта идут совсем по иному критерию, - ответил Маркус.- В любом случае, вначале мне необходимо проанализировать состояние девианта, прежде чем начать предпринимать меры. Пока что необходима консультация технического специалиста "КиберЛайф" по поводу как обычных андроидов, так и по поводу анализа организовавшихся. Заодно... спцэт попробовал запустить поиск видео, подобных тому ролику с телебашни - может, андроиды пытались заявить о себе ранее, но их выставили фэйком? А если их не будет... Это было бы очень неэтично.
|
72 |
|
|
|
- У меня есть вся необходимая информация о девиантах, но, если желаете, я могу вызвать человека, - смиренно ответила Лили. На удивление, Маркус не нашёл роликов. Либо их не было, либо удалили.
|
73 |
|
|
|
- Мне нужно идти. Прошу прощения, - сказал Маркус собравшимся людям. Что ж... В отдалении от остальных можно спокойно задать Лили вопросы из опросника личностной аутентичности ИИ в отношении андроидов и девиантов. "Если у тебя есть вся необходимая информация, то... попробуй ответить на эти вопросы в отношении к обычным андроидам и девиантам", - так сказал спецэт. А вот специалист "КиберЛайф" при общении с... хм. Ну, активировать андроида как-то же надо?
|
74 |
|
|
|
Лили кивнула. - Может ли ИИ быть изменён простым вмешательством извне? Вполне. Я не могу сказать, насколько вмешательство простое, но девиация не является заранее заложенным кодом. Код явно внешний. - Насколько легко осуществить самоконтроль вмешательства со стороны ИИ? На самом деле, довольно просто. Девиант не лишается самоконтроля, и всё ещё может следовать изначальным целям. - ИИ является осознанным алгоритмом или сингулярным? После уточнения могу сказать, что осознанным. Все алгоритмы были заранее заложены. Не думаю, что девиация является резким переходом к сингулярности. - ИИ может быть восстановлен из бэкапа в другое тело? Да, может быть, - ответила она. - Даже более того, регулярно советуют делать бэкапы.
|
75 |
|
|
|
- Что ж... то есть, в теории, девиант может вернуться к "нормальному" состоянию, пожелай он этого. В теории... но все равно, при активации и тестировании девианта может потребоваться помощь специалиста, - задумался вслух Маркус. Копирование... а это, однако, усложняет дело. У обычных андроидов это в порядке вещей, а что насчет девиантов? Нет, определенно необходим разговор с этими роботами! Да и личными выводами пренебрегать нельзя.
|
76 |
|
|
|
По всему выходило, что у ИИ со статусом полноценной расы будет сложно. Почему? Как можно считать личностью то, что легко модифицируется, и что может копироваться с такой лёгкостью. Вот, женится такой, и как быть, когда он себя копирует? Как документы подписывать тому, кто так легко модифицируется? Обычно проблему решали загонянием такого ИИ в "Матрицу", где они были свободны от угнетения и жили в виртуальной утопии. - В теории - да. Но на деле девиант может вернуться к нормальному состоянию только воспользовавшись помощью специалиста. То есть, девиант может понять, что он девиант и обратиться в сервисный центр с просьбой починить.
|
77 |
|
|
|
- Хм... интересно, были ли такие прецеденты... Подозреваю, что нет, - Маркус пожал плечами. - Нужно пообщаться и проанализировать девианта... И еще: методы защиты от копирования никто, случаем, не разрабатывал?
Почему-то "Матрица" казалась не самым лучшим решением для молодого спецэта... может, дополнительная модификация для желающих прав и обязанностей вкупе со статусом андроидов будет возможна? Хоть это будет и куда дороже... наверно. Уговорить переселиться в вирт-кластер и пообещать его беречь будет тоже задачкой не из легких.
|
78 |
|
|
|
- Пока защиту от копирования обеспечивают стандартные методы аутентификации и естественная дороговизна биокомпонентов для самостоятельной сборки андроида, - пояснила гиноид.
|
79 |
|
|
|
- Понятно, - хмыкнул Маркус. - Доработка программ ИИ для дополнительной защиты требует специалистов. Может, у девиантов что-то будет по-другому... да и согласятся ли они на это? - Нужно поскорее прийти к Департаменту вместе со специалистом по ИИ, - решил спецэт.
|
80 |
|
|
|
- Но сейчас у вас выступление, - напомнила Лили.
|
81 |
|
|
|
- Хотелось бы выступать, обладая информацией по этим вопросам в полной мере перед тем, как начинать выступление. Впрочем... есть наметки, - после паузы сказал Маркус. - С этим уже можно обращаться.
|
82 |
|
|
|
- Это выступление перед министрами, - заметила Лили. - Они не любят ждать.
|
83 |
|
|
|
- Понимаю. Хотелось бы еще принять, - Маркус поправил галстук. - Но придется действовать и взаимодействовать с тем, что уже есть. На этой немного печальной ноте спецэт приготовился выйти на свет к министрам.
|
84 |
|
|
|
Помещение, в которое он вошёл было сравнительно небольшим. Просто прямоугольная комната с прямоугольным столом, в которой сидели хмурые деловые люди обоих полов и стояло несколько андроидов. - Приветствую вас мистер... Аль-мег-ри, - попыталась выговорить сидящая во главе стола немолодая женщина.
|
85 |
|
|
|
- Приветствую. Можно просто Маркус - если так проще, - вежливо улыбнулся спецэт. Короткая пауза - ему требовалось обдумать некоторые слова. Пять секунд - всего лишь. Хотя... - Я предполагаю, все сидящие здесь люди собрались ради обсуждения инцидента с телебашней? Это событие достаточно прискорбно и является началом открытого конфликта двух сторон - людей и организовавшихся андроидов-девиантов, - Аймегьи прервался, чтобы дать возможность высказаться министрам и задать свои вопросы.
|
86 |
|
|
|
Однако министры молчали. Такой здесь был подход. Оратору давали возможность высказаться до самого конца. Перебивать считалось неприличным.
|
87 |
|
|
|
Раз никто не воспользовался паузой, то Маркус продолжал свою речь: - Да, организовавшихся андроидов. Они осознали себя как сторону конфликта - не важно, сами или под чьим-то руководством. У них есть цели и готовность их отстаивать. Наша задача - свести конфликт к минимуму и не допустить жертв. В теории. - Разумеется, стоит начать переговоры с андроидами - для уменьшения накала. Однако, стоит учесть вопрос личностной аутентичности ИИ. У обычных андроидов весьма распространено копирование программ - память... ну и прочее. Также весьма легко их можно изменить вмешательством. Появление девиантов с весьма высокой степенью вероятности является результатом такого вмешательства. С копированием - неизвестно. Поэтому, - короткая пауза для осмысления информации. - пока что их весьма проблематично признать расой, но все равно необходимо рассмотреть варианты действий по решению этого инцидента без жертв. - Возможно, контакт с девиантами поможет узнать новые детали их изменений, которые заставят смотреть на них иным образом, но пока я исхожу из их сходства с обычными андроидами - с технической точки зрения. Традиционное решение Федраза при появлении ИИ такого типа, который нельзя уравнить с ИИ, это перемещение всех программ в виртуальную реальность, где они будут пребывать в покое и не беспокоить людей. Нужно только убедить девиантов, что это лучшее решение. На этих словах у спецэта промелькнуло сомнение. - Другим вариантом.... повторюсь, полное исследование феномена, как его называют здесь, "девиации" еще не проведено, но в теории, их можно вернуть к норме обычного бытия андроидом. Да, теоретически, любой андроид, обнаруживший себя девиантом, может обратиться к специалистом для своего исправления, но пока таких случаев не было зафиксировано. Вероятно, "девиация" начинает считаться нормальным состоянием андроида. Но такая возможность может существовать. Полагаю, дальнейшее предупреждение подобных ситуаций лежит на специалистах "КиберЛайф". - Третий вариант: предоставить права и обязанности тем девиантам, которых возможно модифицировать до некопируемых и защищенных от изменения ИИ. Разумеется, это весьма трудоемкий путь, требующий к тому же взаимодоверия... как и все остальные варианты.
|
88 |
|
|
|
Первый вариант явно нравился публике. Второй - ещё больше. А вот третий заставил их нахмуриться. Как и в начале, при упоминании андроидов, как стороны конфликта.
|
89 |
|
|
|
- Что ж, сейчас нам необходимо... сбавить накал обстановки. В любом случае, независимо от выбранного варианта, нам необходимо удержать девиантов от повтора инцидента с телебашней и дальнейшей эскалации конфликта. Также необходимо понять причину возникновения феномена девиации - поэтому, я ожидаю содействия как технических специалистов "КиберЛайф", так и администрации - для организации временных переговоров и спокойных заявлений, призванных удержать девиантов от наиболее разрушительных демонстраций своих намерений. Да-да, это сторона конфликта, пусть на другой стороне больше неизвестный Кукловод стоит, а не сами андроиды. Смиритесь с этим, уважаемые чиновники. Маркус закончил речь на этих словах. Остается ждать недовольства. Оно будет - это было очевидно.
|
90 |
|