Электронный торговец, торгующий на улицах мороженым и пивом. Продавец на колесиках, ездящий по супермаркету и консультирующий покупателей. Впечатляющий набор применений — интересно, почему ничего из списка меня не привлекает?
Целая глава отчета была посвящена вопросу о потенциальной опасности искусственного интеллекта (бунт роботов и все тому подобное). Автор утверждал, что опасность такого бунта сильно преувеличена. Фактически разумная машина есть не что иное, как раб, только построенный не на белковой, а на полупроводниковой основе. Да, рабство — это плохо, но рабовладельческий строй существовал много тысячелетий и, несмотря на все недостатки, показал себя весьма эффективной формой общественного устройства. Принято считать, что Рим погубило рабство, но в трудах современных историков причина гибели Рима обозначается совсем другим словом. Словом “глобализация”. Рабы начали бунтовать не из-за того, что вдруг резко осознали бедственность своего положения, а из-за общего обеднения населения, вызванного оттоком капитала из провинции. И если учитывать лучшие достижения древнеримского опыта, вполне можно построить рабовладельческое общество и на современной социальной базе. Не надо пугаться привычных негативно окрашенных представлений, ведь, в сущности, нет ничего страшного в том, что у людей появятся электронные рабы, обладающие полноценным разумом.
Почему рабы бунтуют? Первая причина кроется в особенностях менталитета некоторых народов, например ирландцев и евреев. Очевидно, в случае искусственного интеллекта данная причина неактуальна. Вторая причина — раб хочет стать свободным, дабы иметь больше, чем он имеет сейчас. В Риме эта проблема была решена довольно изящно — хорошо работающий раб автоматически получал свободу через строго определенное время. Кроме того, не каждый раб рвался на свободу, ведь, по некоторым данным, во времена расцвета Рима средний доход раба превышал средний доход гражданина, и потому, напротив, многие свободные продавали себя в рабство. Если мы понимаем под рабом искусственный интеллект на базе виртуального слепка человеческой души, проблема решится, если удастся поместить виртуальную душу в нормальный человеческий мозг. Это вряд ли станет реальным в обозримом будущем, но уже сейчас возможно создание искусственного тела, практически неотличимого от человеческого. Да, вначале такие тела будут стоить очень дорого, но со временем цена упадет до вполне приемлемых величин. А если еще учесть, что эти тела практически бессмертны, люди будут толпами рваться в боты. А вообще, все это ерунда, и живое тело боту не нужно. Многочисленные исследования показывают, что виртуальность воспринимается большинством людей положительно и, если по окончании годового контракта бот получает в бессрочное пользование уголок виртуального мира, пусть даже маленький, большинством людей-прототипов это будет расценено как справедливая сделка. Ну а если предложить обычному среднему человеку прожить остаток жизни в виртуальности, где исполняются почти все желания, вряд ли он откажется.
В общем, данная глава завершалась выводом, что бунта роботов бояться нечего; да, есть потенциальные опасности, упоминался какой-то Азимов, который о них писал, но эти опасности проявятся не сразу, а через очень большой промежуток времени, а к тому времени человечество что-то придумает.
Макс спросил меня, что я думаю по этому поводу, и я не нашелся что ответить. Я пробормотал что-то невнятное, вроде того что не настолько хорошо разбираюсь в этой проблеме, чтобы делать конкретные выводы, и, как ни странно, этот ответ вполне удовлетворил Макса. А потом я отправился в домен Microsoft.
10
Я сразу понял, что здесь мне делать нечего. Не то чтобы совсем нечего, но поставленная задача требовала значительно меньшей квалификации, чем то, чем я занимался в лаборатории искусственного интеллекта. На этот раз от меня не требовалось анализировать информацию, отделять важное от незначительного, составлять компактные сводки и переправлять их через узкую щель в практически непробиваемой защите. Нет, защиту microsoft.com нельзя назвать слабой, она построена очень хорошо, но в ней нет той параноичности, с которой мне пришлось бороться в прошлый раз.
Не могу сказать, что проникнуть в сеть Microsoft было просто. Основную часть работы сделали ребята Макса, нашедшие сотрудника этой компании, который установил на рабочий компьютер модем для подключения из дома. Пройти во внутреннюю сеть через это подключение было делом пяти минут, а вот потом потребовалось все мое умение. Только полностью перенеся сознание внутрь атакуемой сети, можно обеспечить реакцию на внешние раздражители в реальном времени, а не с губительным десятисекундным опозданием. И только нормальный, полноценный разум, не важно, естественный или искусственный, способен адекватно отреагировать на любую попытку подсистемы защиты обнаружить и уничтожить пришельца.
Нельзя сказать, что демоны-хранители искали меня очень активно. Если говорить о них как о живых существах, они были похожи на ленивых раскормленных собак, никогда не видевших на охраняемой территории по-настоящему опасного нарушителя. Они работали чисто механически, уложиться в нормативы было для них гораздо важнее, чем защитить сеть от вторжения извне. И что особенно печально, люди-администраторы были точно такими же. Программы тупы по определению (если не брать в расчет программы, подобные мне), но, когда программой управляет человек, она получает часть его разума. Администраторы этой сети не обладали нужными качествами — нет, они не были глупы, но никто из них не верил, что найдется человек или какой-то другой субъект, способный бросить им по-настоящему серьезный вызов.
А потом меня нашел Уриэль. Я почти не удивился тому, что встретил его здесь — где же ему еще быть, как не в самой большой магической мастерской реального мира?
Привет, Хэмфаст!
Привет, Уриэль!
Как дела?
Нормально.
Как жена, сын?
Нормально. Вроде бы. Знаешь, Уриэль, я, кажется, прошел четвертый порог.
Какой еще четвертый порог? Какие были первые три?
Первое заклинание, первое свое заклинание, выбор пути.
Да? И какой путь ты выбрал?
Свобода для Средиземъя.
Ты добился того, чего хотел?
Скорее да, чем нет. Средиземье нормально функционирует, с формальной точки зрения процесс контролируется Максом, но он почти не вмешивается в наши дела. Кстати, он создал свою виртуальную копию.
Зачем?
Из любопытства.
И только?
Нет, не только. На самом деле, когда он узнал, что возможно создание виртуальной копии человека, он сразу захотел провести соответствующий эксперимент, его привлекла идея превращать сотрудников в ботов, когда это нужно для дела. А вот то, что он лично участвовал в эксперименте, говорит о его любопытстве или любознательности, не знаю.
Значит, он теперь бот… Интересно… И как, он уже освоил высшую магию?
Нет, он всего несколько дней в виртуальности. Кстати… впрочем, не важно… Ты лучше расскажи о своих делах.
Все нормально, мы живы-здоровы, никто за нами особо не охотится, да и невозможно это теперь. Но все-таки, что это за четвертый порог?
По-моему, он достигается, когда маг утрачивает расовую принадлежность. Теряются инстинкты, типичные эмоции, мораль…
А, это… Знаем, проходили. И что аморального ты уже сделал?
Я — ничего. Если не считать того, что я не возражал, когда Нехалления заархивировала Долгаста.
С чего это она? Она что, тоже достигла этого уровня? Она же вроде вообще не занималась магией.
Раньше не занималась, а теперь занимается. Когда она узнала, что перестала быть субъектом, это ее почему-то так задело… В общем, она находится примерно на том уровне, на котором был я, когда мы с тобой расстались. Только ее развитие совершенно не тормозится наличием мужа и сына.
Как это? Ей что, на все наплевать?
Похоже на то. Она решила, что развитие личности очень важно, потому что иначе перестаешь быть субъектом. Она обиделась на меня за то, что я раньше многого не говорил, хотя на самом деле я говорил ей почти все, я же не виноват, что ее память подвергалась массированному вытеснению… Сейчас она активно развивается и я ее волную только постольку, поскольку не мешаю ее развитию.
Прямо вторая Мезония. А Долгаст?
Она обнаружила, что он практически не отличается от ребенка по умолчанию. Она сделала несколько экспериментов, и в конечном итоге Долгаст за несколько дней достиг возраста десяти лет. После этого она его заархивировала.
