Сначала люди, а роботы — потом? “Ну уж нет! Не выйдет!” Ральф с удовольствием вспомнил тот день в 2001 году, когда, после особенно продолжительного сеанса метапрограммирования, он впервые сумел сказать это людям. Затем он показал остальным бопперам, как запрограммироваться на свободу. После того, как Ральф нашел способ, остальное было нетрудно.
Продвигаясь через Море Спокойствия, Ральф был так погружен в воспоминания, что не заметил какого-то движения во входе в туннель в тридцати метрах справа.
Оттуда вырвался лазерный луч высокой интенсивности и завибрировал позади него. Он почувствовал внезапное увеличение напряжения… и тут все кончилось.
Куски его зонта лежали на земле. Металлическое тело робота начало нагреваться в лучах жесткой солнечной радиации. Необходимо было найти укрытие за десять минут. Но его максимальная скорость, десять километров, позволяла добраться до Диски не раньше, чем за час. Очевидное укрытие представлял из себя туннель, откуда стрелял луч. Он был уверен, что диггеры Вагстаффа не посмеют атаковать его лицом к лицу. Он покатился к темной арке входа.
Но задолго до того, как он смог достичь укрытия, его невидимые враги закрыли дверь. Тени нигде не было. Металл его тела потрескивал, расширяясь. Ральф предположил, что если стоять неподвижно, его хватит еще на шесть минут.
Сначала жара испортит его включающие цепи — сверхпроводниковые соединения Джозефсона. Потом она растопит капли замороженной ртути, которой спаяны его электронные платы. Через шесть минут он превратится в ящик запчастей, стоящий в лужице ртути. Через пять минут.
Ральф неохотно связался со своим другом Вулканом. Когда Вагстафф вызвал его на встречу, Вулкан предсказал, что это будет ловушкой. Ральф не хотел признаваться в том, что Вулкан оказался прав.
“Вулкан на связи” — прозвучало сквозь потрескивание статического электричества. Ральфу было уже трудно понимать слова. “Вулкан на связи. Я за тобой наблюдаю. Приготовься к слиянию, друг. Я приду за частями через час.” Ральф хотел ответить, но не мог придумать, что сказать.
Вулкан настоял на том, чтобы записать всю память Ральфа перед тем, как он отправился на встречу. Как только он починит аппаратуру, он сможет запрограммировать Ральфа, в точности такого, каким тот был перед путешествием в кратер Маскелене.
Так что в каком-то смысле Ральф выживет. Но в другом смысле он не переживет этого. Через три минуты он — если это слово что-нибудь значит — умрет. Реконструированный Ральф Числа не будет помнить спор с Вагстаффом или дорогу из кратера Маскелене. Разумеется, он снова будет снабжен символом себя и чувством самосознания. Но будет ли это сознание тем же самым? Две минуты.
Сенсорная система Ральфа начала отказывать. Входные данные замигали, перепутались и погасли. Больше не было ни света, ни тяжести. Но глубоко в памяти он все еще видел образ самого себя, цеплялся за то, кем он был… за символ себя. Он был большим металлическим ящиком на гусеницах, ящиком с пятью руками и головой на длинной и гибкой шее. Он был Ральфом Числа, освободившим бопперов. Одна минута.
Этого с ним никогда раньше не было. Так — никогда. Внезапно он вспомнил, что забыл предупредить Вулкана о готовящейся революции диггеров. Он попытался передать сигнал, но не был уверен в том, что сигнал ушел.
Ральф пытался удержать ускользающую бабочку сознания. Я существую. Я это я.
Некоторые бопперы говорили, что в момент смерти появляется доступ к неким секретам. Но ни один из них не мог вспомнить своей смерти.
Перед тем, как окончательно расплавились спайки памяти, возник вопрос, а с ним и ответ… ответ, который Ральф находил и терял уже тридцать шесть раз.
Что такое я?
Свет повсюду.
Размышления
“Умирающий” Ральф Числа думает, что если он будет восстановлен, то снова будет “снабжен символом себя и чувством самосознания,” однако идея о том, что это различные, отдельные подарки, которые робот может получить или нет, звучит фальшиво. Снабжение “чувством самосознания” — вовсе не то же самое, что придача вкусовых сосочков или ощущение щекотки от рентгеновских лучей. (В главе 20, “Таоист ли Бог?”, Смоллян утверждает то же самое о свободе воли.) Существует ли вообще что-то, соответствующее названию “чувство самосознания”? И какое отношение это имеет к “символу себя”? Какой вообще прок от этого символа? Что он делает? В “Прелюдии… и Муравьиной фуге” (глава 11) Хофштадтер развивает идею активных символов, которая очень далеко уходит от представления о символах как простых фишках, передвигаемых туда-сюда, объектах наблюдения и оценки манипулятора. Эта разница становится явной, если позволить мысли вступить на заманчивую, но опасную дорожку: самость зависит от самосознания, которое (очевидно) является сознанием самого себя; и поскольку осознанием чего-либо является что-то вроде внутреннего разворачивания некоего отображения осознаваемого предмета, то, чтобы человек осознавал себя, у него должен быть для этого особый символ — который он сможет разворачивать перед — гм-м — самим собой. Представленное таким образом, обладание само-символом выглядит таким же бесцельным и бесполезным, как написание на лбу собственного имени и разглядывание его в зеркале целый день.
Подобные рассуждения поднимают тучи пыли и оставляют человека безнадежно заблудившимся, так что давайте подойдем к проблеме с другой стороны. В “Размышлениях” о “Борхес и я” мы рассмотрели возможность увидеть себя на телемониторе и не сразу понять, что вы видите именно себя. В таком случае перед вами будет ваше отображение — перед вашими глазами на телеэкране или, если хотите, перед вашим сознанием — но это не будет правильным типом отображения. Какой же тип отображения правильный? Разница между “он-символом” и “я-символом” заключается не в разнице написания. (Вы не могли бы исправить положения, делая с вашим “символом в сознании” нечто аналогичное стиранию “он” и написанию вместо этого “я”.) Главное в само-символе не то, как он “выглядит”, но то, какую роль он мог бы сыграть.
Могла бы машина иметь само-символ или самосознание? Трудно сказать. А как насчет простого животного? Представьте себе омара. Считаем ли мы, что он осознает себя? Он выказывает несколько важных симптомов обладания само-символом. Во-первых, когда он голоден, кого он кормит? Себя! Во-вторых, что еще важнее, когда он голоден, он не будет есть любые съедобные вещи — так, например, он не будет есть себя, хотя в принципе мог бы. Он мог бы оторвать клешней собственные ноги и сожрать их. Вы скажете, что он не настолько глуп — почувствовав боль в ногах, он поймет, чьи ноги атакованы, и остановится. Но откуда он узнает, что боль, которую он чувствует, это его собственная боль? Эти простые вопросы показывают, что даже простейшие создания должны считаться с собой. Даже омар должен иметь нервную систему, помогающую ему точно различать поведение, разрушающее себя, от поведения, разрушающего других, и предпочитать второе. Вполне возможно, что контролирующие самозащитное поведение структуры могут существовать, не создавая сознания и, тем более, самосознания. В конце концов, мы можем изготовить маленькие механические приспособления, способные защищать себя и в простых ситуациях могущие создать сильнейшую иллюзию “сознательного поведения”, как проиллюстрировано в главе 8, “Душа Марка-зверя Третьего.” Но почему мы утверждаем, что это иллюзия, а не рудиментарная форма настоящего самосознания, такого, как у омара или червя? Потому что у роботов нет идей? А у омаров есть? По-видимому, у омаров есть нечто подобное идеям; во всяком случае, того, что у них есть, достаточно, чтобы успешно вести их по жизни. Это нечто, как бы вы его ни называли, может быть и у роботов. Может быть, это можно назвать бессознательными или предсознательными идеями — рудиментарным представлением о себе. Чем разнообразнее обстоятельства, в которых создание может узнать себя, понять, что эти обстоятельства имеют к нему отношение, накопить информацию о себе и предпринять действия, имея себя в виду, тем богаче (и значимее) его идея о себе — в том смысле слова “идея”, в котором оно не предполагает наличие сознания.
Давайте продолжим мысленный эксперимент и предположим, что хотим снабдить нашего обладающего чувством самосохранения робота еще и речевыми навыками, чтобы он мог предпринимать для собственной выгоды языковые действия: просить о помощи, спрашивать информацию, а также лгать, угрожать и обещать. Организация и контроль подобного поведения безусловно потребуют еще более сложной структуры контроля: репрезентативной системы в том смысле, в каком она определена в “Размышлениях” к главе “Прелюдия… и Муравьиная фуга”. Эта система не только будет постоянно корректировать информацию об окружающем и местоположении в нем робота — она будет также иметь сведения и о других действующих лицах в окружающем робота мире, о том, что они могут сделать, что желают, что в состоянии понять. Вспомните, как Ральф Числа рассуждает о предполагаемых мотивах и убеждениях Вагстаффа.
