Это уже не война людей и роботов, а столкновение двух непохожих типов мышления. Компьютеры… что-то бесконечно далекое, полярное по отношению к человеку. Враждебны ли они, агрессивны, властолюбивы? Не всегда. Но бесчеловечны — по определению.
Безусловно, самый яркий образ — это электронный мозг ХАЛ — 9000 из знаменитого фильма Стэнли Кубрика (и, соответственно, романа Артура Кларка) "2001: космическая одиссея". Беззлобный злодей (в фильме он даже говорит мягким, почти задушевным голосом — так уж постарались конструкторы) пошел на хладнокровное убийство человека отнюдь не вследствие бунтарского нрава и каких-то демонических "франкенштейновых" страстей. Просто компьютеру показалось, что люди на борту космического корабля ведут себя неразумно, например замышляют отключить ХАЛ совсем. И ХАЛ принимает меры предосторожности. Он искренне "хочет как лучше", беда только, что логика, система ценностей и установки компьютера кардинально отличаются от человеческих.
И все же к какому бы исходу не приводил конфликт человека и машины, трезвомыслящие фантасты солидарны в одном: вины на механических помощниках человека нет. Да и само понятие "вины" — очень уж человеческое. Виноват в первую очередь он сам, слишком понадеявшийся на творение рук своих.
В злой пародии на технократическую утопию — романе "Рояль механический" (1952, в русском переводе — "Утопия-14") Курт Воннегут уже ясно расставил все акценты. Вовсе не электронный супермозг ЭПИКАК-XIV — так и хочется сказать: Его Величество Эпикак Четырнадцатый! — захватил власть над людьми. Те сами ее отдали, причем добровольно. В придачу к тягостным обязанностям — думать, выбирать, принимать решения. Воннегут хлестко, беспощадно набрасывает приметы мира, где трудовой деятельностью заняты всего 10 процентов населения, а технократическая элита превратилась по сути в жреческую касту, прислуживающую новоявленному божеству.
Роман Воннегута — не обвинение компьютеру, разящие сатирические стрелы предназначены скорее для "своих" же… Ведь при всей своей невообразимой сложности ЭПИКАК начисто лишен таких качеств, как жажда власти, эгоизм, зависть. И хотя на сцене вроде бы вновь мелькнула оскаленная пасть Машины из "Метрополиса", теперь оскал уже не тот: при виде обленившегося, деградировавшего человечества Машина кривится в презрительной усмешке…
В цикле произведений о вымышленном кибернетизированном государстве Модеран американский писатель Дэвид Банч рисует общество, граждане которого вовсе не вытесняются и не закабаляются машинами просто потому, что сами неотвратимо превращаются в механизмы, элементарные винтики более сложной машины! Вполне подойдут на роль биореле или биотранзисторов гигантского компьютера и члены общества, изображенного советским писателем Севером Гансовским в повести "Три шага к опасности". Они живут в полностью изолированной от внешнего мира "нише", и все их мысли, желания и поступки предусмотрительно включены в программу функционирования государства-компьютера.
Что их ждет в конце?
Из-за кулис слышится реплика Станислава Лема: "Если компьютер создан для регулирования жизни общества, то кто будет регулировать этот компьютер?" Как он умеет задавать вопросы!..
В своих ответах писатели-фантасты единодушны: судьба общества, переложившего полностью задачу самоуправления на машину, предрешена — его ждет неизбежное духовное вырождение. Ведь с точки зрения компьютера, запрограммированного на поддержание общественного гомеостаза, все гениальные или хотя бы просто творчески одаренные члены общества, все "неконформные" его элементы представляют потенциальную опасность программе, ибо способны на непредвиденные мысли и поступки. И электронный контролер начнет изыскивать возможность устранения потенциальных нарушителей порядка…
Так, вероятно, поступит компьютер, который будет действовать по раз и навсегда вложенной в него программе. Ну, а если киберсистема в своем развитии эволюционирует до появления разума, тогда ей вообще, по-видимому, больше дела не будет до людей. И не станет она задумываться, вмешиваясь в человеческие проблемы, — задумываемся ли мы, нечаянно наступая на божью коровку?
Впрочем, еще до того, как может возникнуть опасность электронной тирании, новейшими достижениями кибернетики не преминут воспользоваться вполне реальные, из плоти и крови, претенденты на трон. В наше время одному управлять сложнейшим государственным механизмом — это значит неустанно следить, предотвращать, искоренять… А не нуждающийся в отдыхе электронный мозг идеально подходит на традиционную в научной фантастике роль Большого Брата!
Если "нелояльную" машину можно просто выключить, как в романе Кэйдина, то что делать с гражданами, которых, к примеру, не устраивает система частного предпринимательства или же хваленая буржуазная "демократия"? Можно, предполагает Станислав Лем в рассказе "Эдип", построить систему, которая способна улавливать "антиамериканские" мысли и настроения и сообщать "куда надо". А если такую систему соединить с датчиками, вживленными в мозг каждого члена общества, то с ее помощью можно осуществлять и карательные меры: человек, в мозгу которого едва успела зародиться крамольная мыслишка, тут же получает чувствительный удар током (рассказ Ларисы и Михаила Немченко "НМ"). Следующим шагом будет, вероятно, электронное моделирование капиталистического производства и совершенствование способов эксплуатации людей — такой вариант описан Анатолием Днепровым в сатирическом памфлете "Мир, в котором я исчез".
Пророческие слова о "механических перчатках человечества" произнес когда-то Норберт Винер. Действительно, не от перчаток зависят действия, а от рук, на которые перчатки надеты!
Впрочем, не все смотрят на будущее интеллектроники столь мрачно: даже если очередной электронный кандидат в мировые диктаторы "взбрыкнет", можно будет отыскать управу и на него.
В рассказе Гордона Диксона "Палки в колеса" и повести Евгения Войскунского и Исая Лукодьянова "Формула невозможного" с обезумевшим компьютером справляется в первом случае обыкновенная человеческая логика, а во втором — внутренне присущий электронному "буриданову ослу" дефект: неспособность принимать нелогичные решения. Программист, герой романа Джона Браннера "Оседлавший волну шока" (1975), сам подключается к машине-Диктатору и ее же "руками" разрушает бесчеловечную систему. Роберт Хайнлайн в романе "Луна — суровая хозяйка" (1966) описывает, как восставшие в лунной исправительной колонии просто "перевербовывают" большой компьютер. А мозг-гигант из романа Ричарда Каупера "Тупик" (1972), задумавший было истребить выжившие после ядерной катастрофы остатки человечества (оно, по мнению компьютера, недостойно продолжать дело разума!), переубеждают простыми уговорами…
И сколько таких примеров.
Естественно, возникает вопрос: а так ли неизбежен этот конфликт человека будущего с неизбежной, видимо, сверхкомпьютеризацией? Перед лицом тех невообразимо усложнившихся задач, которые встанут перед нашими далекими потомками, сверхкомпьютеры окажутся незаменимы — разве что человек научится считать быстрее ЭВМ. И все страхи сродни страусовой политике прятания головы в песок: без помощников нам уже не обойтись, вопрос, как оставить их только помощниками?
Можно только позавидовать человеческому сообществу, в котором каждый член его, каждый человек Земли денно и нощно оберегается персональной Охранительницей — вживленной кибернетической ячейкой, соединенной с Большой Машиной. Охранительница подскажет ответ на любой вопрос, даст сигнал бедствия, когда с хозяином случится беда, быстро свяжет его с любым другим человеком на Земле. Такими описал их Сергей Снегов в своем романе "Люди как боги" (1966). А какие новые возможности для самоусовершенствования открываются перед человеком в рассказах Генриха Альтова "Клиника "Сапсан" и "Опаляющий разум"! Представим себе: мгновенное усвоение любого объема знаний, минуя трудоемкую процедуру чтения, полная перестройка структуры памяти — вот когда интеллектуальное соревнование человека и машины из утопий сверхоптимистов превратится в ежедневную умственную зарядку.
Человек даже в состоянии замахнуться на собственную биологическую природу. И вот Владимир Савченко в романе "Открытие себя" (1967) описывает биокибернетическую систему, которая способна творить человеческих двойников — точные копии или же улучшенные модели. А где-то на отдаленных окраинах Солнечной системы конструкторы уже строят совершенно фантастическую Машину Открытий, которую столь ярко описал Генрих Альтов в научно-фантастическом эссе, так и названном: "Машина Открытий".
Да мало ли сфер применения "умных машин" можно насчитать!
Увы, постановщики драмы, конец которой близок, пока сумели использовать до обидного мало. Да и как ни оптимистичны были последние картины, в целом это действие оставило, видимо, впечатление тягостное. Были они чужими, чужими и остались, эти наши гипотетические помощники; а на душе не перестают скрести: помощники ли — не наследники? В любом случае, ясно, что найти с ними общий язык будет делом нелегким. Хотя придется, никуда не денешься.
