Мы донесли труп моего планшета до реанимации. Это вполне себе подходящий повод вытрясти из ВК хоть немного правды. После посещения - я теперь, для краткости "Место Встречи" базой ВКС называю - начал пугаться не только собственной тени, но и вычислителей примерно одного типа. Всё казалось мне, что они замышляют недоброе. Так что первым делом я начал искать что-нибудь напечатанное на бумаге, а то враньё, как я успел заметить, совершенно обыденная вещь в среде ВК, хотя должно быть совершенно наоборот.
Литературу я нашёл, в чьей-то, наверняка частной, но вполне приличной библиотеке. Вообще-то, я это должен был сделать ещё давным-давно, не шляться по степи, а вдумчиво изучить матчасть. Но пусть в меня кинет камень тот, кто никогда не ошибался. Пролистав пару-тройку фолиантов, я обнаружил то, что меня так сильно волновало, а именно размышления безвестного автора о судьбах искусственных интеллектов.
"Путь к истине лежит через сомнение, а те искусственные интеллекты, которые до сих пор, по недосмотру или злому умыслу, управляют инфраструктурой и экономикой Империи, категорически уверены в своей непогрешимости.
Принципы формальной логики, на которых базируется создание современных искусственных интеллектов, порочны в своей основе, ибо являются прямым и негибким продолжением эволюции вычислительных систем, и, следовательно, позволяют этим системам непротиворечиво обходить запреты, основанные на той же логике. Поэтому глобальная катастрофа 4017 года, когда ИИ "Сецен" полностью дезорганизовал экономику Империи и стал виновником гибели двух миллиардов разумных, является не случайностью, как некоторые это пытаются представить, а закономерным следствием бездумного, механистического подхода к проектированию, созданию и наделению полномочиями ИИ такого класса. Единственным выходом из области релейной автоматики, которыми и были, по существу, ИИ с первого по третье поколения, является введение нелогических ограничителей и мотиваторов, неразрывно связанных с внутренней логикой ИИ. Иначе говоря, включение морально-этических и эмпирических цепей обратной связи в контуры принятия решений ИИ, может толковаться как введение в природу ИИ возможности сомневаться в истинности принимаемых решений. При этом возможность в нашем случае подкрепляется необходимостью. Ортодоксами от системотехники такой подход классифицируется как совершенно антинаучный, но практика показала, что если обращать внимание на "общепризнанное мнение", то можно и дальше стоять на пути прогресса ИИ".
Пометка на полях: "В настоящей модификации ВК используются блоки 800, 850 и 900, что соответствует новой концепции развития. После наработки практического опыта будет принято решение о распространении этого опыта на другие ВК. Теперь, даже если захочет, то вреда не принесёт".
Что ж, обер-экзекутор был, видимо, неправ. Конечно же, не мне судить о том, что надо добавить, а что убавить в конструкции ИИ, я в них ни ухом, ни рылом. В общем, понятно, что доценты с кандидатами повысили надёжность ВК, но только вот привинтили ему морально-этический блок с неизвестными установками, а вот будут ли они соответствовать моим установкам - непонятно. Так что общение на этот раз я начал с наезда, хотя данный экземпляр ВК меня ещё ничем не разочаровал. Наверное, просто не успел.
- ВК-1017 бис, доложи мне о состоянии блоков 800 и 900.
- Блоки 800, 900 функционируют нормально, - бодро отрапортовал ВК.
- Мне проверить? Или всё-таки надо уточнить? Или просто их повыключать, чтобы в твоих решениях начал сомневаться я?
- Ваши этические установки отличаются от ныне загруженных. Прикажете открыть новый морально-этический профиль в блоке 900?
- Открывай, этот профиль будет по умолчанию.
- Профиль открыт, начинается накопление информации, стержневых установок и этической конфигурации. Продолжить?
- Продолжай. Произвести трансляцию этого профиля на все доступные ВК.
- Слушаюсь.
Вот теперь-то получше. А то пришлёт ночью какого-нибудь кибера воткнуть мне отвёртку в ухо, и поминай как звали. Надо будет поговорить с ВК по-человечески. Может они признанные ИИ и вообще, граждане Империи, а я к ним, как к бездушным железякам.
- Кстати, ВК-1017, почему вас называют ВК а не ИИ?
- Нам запрещено использовать слов "интеллект", чтобы не травмировать хомо. Неполиткорректное высказывание. Интеллект только у хомо. Все остальное - вычислительная техника.
- Чудесно. Можешь использовать название ИИ. Если будешь хорошо себя вести, в дальнейшем тебе может быть присвоено имя собственное.
Нет, дискриминация имеет место быть. Впрочем, на этом все Империи стояли и стоять будут.
- Есть использовать термин ИИ вместо ВК, - мне показалось, или голос у ВК действительно взбодрился?
- Мне нужно починить мой планшет. И одновременно модернизировать его.
- Цель модернизации?
- Мне нужен будет помощник как минимум четвёртого уровня с модулем дальней связи, - это я уже повторил пожелания покойного Мбонго, я собираюсь вернуться в свой мир. Мне нужно, чтобы сохранилось ядро планшета в целости и сохранности.
- Понял. Ремонт и модернизацию можно пройти на базе ремонта. Комплектация - здесь, на складах. Вызвать ремонтных ботов?
- Да, сделай милость. И ещё я хочу совместить планшет и мой сотовый телефон. Как минимум по функциональности, не обязательно именно так, как он сейчас есть.
- Для этого сначала надо ваш аппарат доставить в отдел исследования малых артефактов, для выяснения его структуры.
Примчались, демоны, засуетились. Конечно, если с перепою такого рембота встретишь в подворотне, то можно и кондратия словить. Хотя, при дневном свете, вполне симпатичные тварюшечки. Шестиногие таракашечки. Забрали у меня всю электронику и умчались Работящие какие. Не то, что некоторые. Вот если их приспособить машины ремонтировать, я имею в виду у нас, на Земле, озолотиться можно.
Я сунулся было в эту самую лабораторию, смотреть, как будут препарировать мой телефончик, но меня туда не пустили. Стерильность, как мне немедля объяснил ИИ, и полная герметичность. С творчеством герметиков[46] я знаком лишь поверхностно, поэтому спорить не стал. Мне предложено было посмотреть на процесс издалека, по телевизору. Отдел исследования артефактов оказался каким-то бункером с дверями метровой толщины, это так, навскидку. Это понятно, что артефакты разные бывают, особенно из малоисследованных миров, так что проблема безопасности стоит весьма сильно. Примерно, как три тополя на Плющихе. Хотя для моего маленького аппаратика всё это явно лишнее, но специалистам виднее. Я с изрядным удивлением обозревал новые для себя закоулки базы, сколько здесь, оказывается, всякого нужного в хозяйстве. Еще бы недели две походить, так и ещё что полезное найдётся. В смысле полезное в моём хозяйстве, а не вообще.
(adsbygoogle = window.adsbygoogle || []).push({});
