В девятнадцатом – двадцатом веках разразились националистическо-империалистические войны, и самым важным стал вопрос о переделе мира в борьбе за рынки сбыта и источники сырья между странами Европы. Тогда казалось, что мир не может существовать, не будучи поделенным между Англией, Францией и Германией. Но никакие войны не привели к тому, чего в конце концов добились сами неевропейские страны, когда в них выросли национально-освободительные движения и они решили, что запросто проживут без всякой Европы. Итак, мы имеем четкую картину…
– Да, Стивен, ваши доводы доказательны, хотя и нельзя сказать, что это особенно глубокие умозаключения.
– Неглубокие, согласен. Но, увы, самые очевидные вещи как раз хуже всего и доходят до сознания людей. И вот в двадцатом веке, Сьюзен, началась новая полоса войн. Как их назвать? Идеологические? Не знаю. Религиозные страсти наложились на экономические воззрения, и снова войны стали «неизбежны», и на этот раз на сцену истории вышло атомное оружие. Казалось, человечество не выживет, будет катиться все ниже и ниже под уклон неизбежности, И тогда были созданы позитронные роботы.
Они появились как раз вовремя, и примерно тогда же были начаты межпланетные перелеты… И сразу стало совершенно безразлично, кто умнее – Адам Смит или Карл Маркс.
– «Бог из машины» явился – в прямом и переносном смысле, – сухо прокомментировала. Сьюзен Кэлвин.
– Никогда раньше не слышал от вас каламбуров, Сьюзен, но вы правы. Но и теперь мы не гарантированы от опасностей. Разрешение одной проблемы всегда неминуемо влекло за собой появление другой. Наша всемирная роботизированная экономика не застрахована от проблем, и поэтому были созданы Машины. Экономика Земли стабильна, и останется стабильной, будучи основанной на решениях Машин, которые производят расчеты и дают рекомендации, исходя исключительно из соображений пользы для человечества, руководствуясь при этом Первым Законом Роботехники.
И хотя Машины представляют собой, – продолжал Координатор, – сложнейшие конгломераты вычислительной техники, когда-либо существовавшие, тем не менее в свете Первого Закона они – такие же роботы, и потому вся земная экономика существует и развивается в соответствии с жизненными интересами человечества. Население Земли знает, что ему не грозит безработица, перепроизводство, недостаток чего-либо. Нищета, голод – слова из учебников истории. Таким же архаизмом становится и понятие собственности на средства производства. Кто бы ими ни владел (если это еще имеет смысл) – человек, группа людей, нация или все человечество, – любые средства производства могут быть использованы только в соответствии с указаниями Машин. Не потому, что людей принудят поступить так или иначе, а потому, что Машины всегда выбирают самый мудрый, самый оптимальный путь, и люди об этом знают.
Это означает, что всем войнам на свете – конец. Если только…
Координатор умолк, и Сьюзен Кэлвин нетерпеливо поторопила его:
– Если только…
– Если только, – закончил Координатор, – Машины не перестанут выполнять свои функции.
– Ясно. Значит, именно этим вы объясняете все эти загадочные неполадки – в сталепрокатной промышленности, гидропонике и так далее?
– Да, Сьюзен. Подобных ошибок не должно быть! Но… доктор Силвер сказал мне, что и не может быть!
– Он что, отрицает очевидное? Не похоже на него.
– Нет, Сьюзен, факты он не отрицает. Я, наверное, не так выразился. Он наотрез отказывается признать, что Машины могут давать неверные ответы. Он утверждает, что Машины устроены так, что сами исправляют собственные ошибки, и что наличие ошибки в соединениях и реле может быть следствием лишь нарушения основных законов природы. Но все-таки я ему сказал…
– Но все-таки вы сказали: «Пусть ваши мальчики все проверят еще разок».
– Сьюзен, вы читаете мои мысли. Именно так я ему и сказал, но он ответил, что это невозможно.
– Что, слишком занят?
– Нет, дело не в этом. Он сказал, что на это не способен ни один человек. Он был со мной откровенен. Он мне объяснил, и я искренне надеюсь, что понял его правильно, что Машины представляют собой колоссальную экстраполяцию. То есть: бригада математиков несколько лет упорно трудится над созданием позитронного мозга, способного производить определенные расчеты. С помощью результатов этих расчетов они потом создают еще более сложный мозг, который предназначен для произведения еще более сложных расчетов и создания еще более сложного мозга, и так далее. Судя по тому, что мне сказал доктор Силвер, то, что мы называем Машинами, является результатом десяти таких последовательных операций.
– Д-да, дело знакомое, – кивнула Сьюзен. – Какое счастье, что я не математик. Бедный Винсент. Он еще так молод. У руководителей исследовательского отдела до него таких трудностей не было. И у меня тоже. Мне кажется, сегодня Роботехники плохо разбираются в своих собственных творениях.
– Пожалуй, вы правы. Машины – это вовсе не простой супермозг, как о них пишут в воскресных приложениях. Ситуация такова, что собирая и анализируя бесконечное количество данных за немыслимо короткое время, они лишили людей возможности их проверить.
Тогда я решил предпринять другую попытку. Я сделал запрос самой Машине. В обстановке строжайшей секретности мы ввели в машину исходные данные, которые она сама в свое время использовала для принятия решения в области сталепрокатной промышленности, ее собственный ответ и информацию о последствиях принятого решения – то бишь о перепроизводстве, – и попросили объяснить случившееся.
– Ну, и каков же был ответ? – с нескрываемым интересом спросила Сьюзен Кэлвин.
– Я могу процитировать вам его слово в слово. «Ответ на вопрос недопустим».
– И что на это сказал Винсент?
– Он сказал, что возможны два варианта. Либо мы не дали Машине достаточно данных, чтобы она могла дать более четкий ответ, что, естественно, маловероятно. Это доктор Силвер сам признал. Либо Машина не могла признать, что ее ответ, противореча Первому Закону Роботехники, нанес вред людям. А потом доктор Силвер порекомендовал мне посоветоваться с вами.
Сьюзен Кэлвин устало усмехнулась,
– Стара я уже, Стивен. Было время, помните – вы хотели назначить меня руководительницей исследовательского отдела, и я отказалась, Я и тогда была немолода, и мне не хотелось брать на себя такую ответственность. Тогда на этот пост пригласили молодого Силвера, и меня это устроило. Но видно, толку мало, раз меня все равно втягивают в эти дела.
Позвольте мне, Стивен, изложить свою точку зрения. Проводимые мной исследования действительно касаются поведения роботов в свете Трех Законов Роботехники. В данный момент мы говорим о достигших невероятной сложности Машинах. Они – позитронные роботы и, следовательно, повинуются Законам. Однако они не являются личностями, то есть функции их чрезвычайно ограничены. Так и должно быть, поскольку они узкоспециализированы. Это почти не оставляет места для взаимодействия Законов, и мой метод исследования тут практически бесполезен. Короче говоря, не думаю, что могу помочь вам, Стивен.
(adsbygoogle = window.adsbygoogle || []).push({});
