ПАТ: Может быть — но ведь это не равносильно мышлению, не так ли? Мне кажется, что машина, выдержавшая тест Тьюринга, докажет только то, что она отлично умеет подражать мышлению.
КРИС: Я совершенно согласен с Пат. Мы все знаем, что сейчас есть сложнейшие программы, имитирующие самые разные явления. Например, в физике мы имитируем поведение частиц, атомов, твердых веществ, жидкостей, газов, галактик и так далее. Но никто не принимает эти имитации за сами явления!
СЭНДИ: У Дэниэля Деннетта в его книге “Мозговая атака” есть похожее сравнение, только там он говорит об имитации ураганов.
КРИС: Это тоже отличный пример. Ясно, что когда компьютер симулирует ураган, внутри у него никакого урагана нет, память машины не разрушается от ветра, дующего со скоростью 200 миль в в час, на полу в компьютерной лаборатории нет дождевой воды и так далее.
СЭНДИ: Да ну вас! Это нечестное сравнение! Во-первых, программисты и не утверждают, что создают настоящий ураган. Это всего лишь имитация некоторых его аспектов. А во-вторых, неправда, что в симулированном урагане нет ливня и ветра со скоростью 200 миль в час. Для нас, разумеется, их нет — но если бы программа была разработана во всех деталях, она могла бы включать симулированных людей на земле, которые испытывали бы дождь и ветер так же, как мы, когда на нас налетает ураган. В их мыслях — или, если вам так больше нравится, в их симулированных мыслях — ураган был бы не имитацией, а настоящим явлением, несущим потоп и разрушение.
КРИС: Ну и ну! Что за фантастический сценарий! Теперь мы уже дошли до симуляции целых народов, а не только одного-единственного разума.
СЭНДИ: Я только хотела показать тебе, почему твой довод о том, что симулированный предмет — это не то же самое, что настоящий предмет, не годится. Он основан на молчаливом допущении того, что любой наблюдатель симулированных объектов, достаточно знакомый с предметом наблюдения, способен определить, что происходит. На самом деле, для этого может понадобиться наблюдатель с определенной точкой зрения. В таком случае, ему будут нужны специальные “компьютерные очки”, в которые он сможет увидеть ветер, дождь и так далее.
ПАТ: “Компьютерные очки”? О чем ты?
СЭНДИ: Я хотела сказать, что для того, чтобы увидеть ливень и ветер этого урагана, наблюдатель должен быть способен взглянуть на него с правильной точки зрения.
КРИС: Нет, нет и нет! Никакого ливня в симулированном урагане нет. Неважно, насколько мокрым ураган кажется симулированным людям, он никогда не будет по-настоящему мокрым! И никакой компьютер никогда не будет разрушен ураганным ветром!
СЭНДИ: Разумеется, нет — но ты путаешь разные уровни. Законы физики не разрушаются настоящими ураганами. В случае симулированного урагана, если ты посмотришь в память компьютера, надеясь найти там разорванные провода и так далее, тебя ждет разочарование. Но посмотри на правильный уровень — на те структуры, которые закодированы в памяти. Ты обнаружишь, что некие абстрактные связи порваны, некоторые значения переменных радикально изменились и тому подобное. Вот это и есть те самые потоп и разрушение — и все это настоящее, только спрятано и труднонаходимо.
КРИС: Извини, но я в это не верю. Ты настаиваешь, что я должен искать новый вид разрушения, который никогда раньше не ассоциировался с ураганами. Выходит, можно считать ураганом любое явление, если только его результат, увиденный через специальные “очки”, может быть назван “потопом и разрушением”.
СЭНДИ: Именно так — ты правильно понял! Ураган узнается по его результатам. Тебе никогда не удастся забраться в самый центр урагана и найти там его “бесплотную сущность”, “душу урагана”. Мы узнаем ураганы по существованию некоей схемы: спиральный шторм со штилем в центре. Разумеется, чтобы называться ураганом, явление должно удовлетворять многим условиям.
ПАТ: Тебе не кажется, что “атмосферное явление” — необходимая составляющая определения урагана? Как можно назвать ураганом нечто, происходящее внутри компьютера? По-моему, симуляция — это симуляция и ничего больше!
СЭНДИ: Тогда ты, наверное, считаешь, что и расчеты, производимые компьютером, — всего лишь подделка. Это не настоящие расчеты. Только люди могут считать по-настоящему, не так ли?
ПАТ: Компьютеры получают верные ответы, так что их расчеты нельзя назвать подделкой — но все равно, это всего лишь определенные схемы. Компьютер не понимает, что он делает. Возьми, например, кассовый аппарат. Можешь ли ты серьезно утверждать, что, когда его колесики крутятся, он чувствует, что совершает расчеты? Насколько я понимаю, компьютер — это тот же кассовый аппарат, только посложнее.
СЭНДИ: Конечно, кассовый аппарат не чувствует себя, как школьник, решающий арифметические задачки — тут я с тобой согласна. Но разве “расчеты” означают именно это? Разве это — необходимая часть расчетов? Если это так, то нам придется пересмотреть наши взгляды и написать сложнейшую программу для совершения настоящих расчетов. Разумеется, такая программа иногда будет ошибаться, или писать ответы небрежно, или в задумчивости рисовать на бумаге каракули… Она будет не надежнее, чем почтовый работник, складывающий числа от руки. Вообще-то я считаю, что когда-нибудь подобная программа может быть написана. Тогда мы узнаем много интересного о том, как работают почтовые служащие и школьники.
ПАТ: А я не верю, что подобное будет когда-нибудь возможно!
СЭНДИ: Может быть, да, а может быть, и нет — но не в этом дело. Ты говоришь, что кассовый аппарат не способен считать. Твое утверждение напоминает мне еще об одном моем любимом отрывке из “Мозговой атаки” Деннетта. Этот отрывок довольно ироничен, за что он мне и нравится. Деннетт пишет примерно так: “Кассовые аппараты не могут считать по-настоящему — они могут только вращать колесиками. Однако, сами они и колесики не могут крутить — они могут лишь следовать законам физики.” У Деннетта это сказано о компьютерах; я же применяю это к кассовым аппаратам. И ту же логику можно применить и к людям: “На самом деле, люди не могут считать по-настоящему — они лишь манипулируют мысленными символами. Но и символами они не манипулируют, а только возбуждают различные нейроны в разных сочетаниях. Однако они не могут самостоятельно возбуждать собственные нейроны; им приходится позволять законам физики делать это за них”. И так далее. Видишь, как это вдохновленное Деннеттом reductio ad absurdum может заставить тебя заключить, что вычислений не существует, ураганов не существует… и вообще нет ничего выше уровня частиц и законов физики? Что ты выигрываешь, утверждая, что компьютер всего лишь манипулирует символами и не вычисляет по-настоящему?
ПАТ: Не будем ударяться в крайности; я только хотела подчеркнуть, что между настоящими явлениями и их имитацией имеется огромная разница. Это верно в случае ураганов и еще вернее в случае мышления.
СЭНДИ: Не хочу застревать на этом аргументе, но позволь привести еще один пример. Представь себе, что ты — радиолюбитель. Ты слушаешь другого радиолюбителя, передающего сообщение морзянкой, и отвечаешь ему на том же коде. Тебе не показалось бы странным говорить о человеке “на другом конце провода”?
ПАТ: Пожалуй, нет, хотя существование человека на другом конце провода было бы допущением.
СЭНДИ: Да, но ты вряд ли отправилась бы проверять это лично. Ты готова признать человечность, передающуюся по этим, довольно-таки необычным каналам. Тебе не надо видеть тело этого человека и слышать его голос; тебе достаточно абстрактной манифестации, некоего кода. Вот к чему я веду: чтобы “увидеть” человеческое существо за точками и тире, ты должна быть готова произвести некую расшифровку, некую интерпретацию. Здесь задействовано не прямое восприятие, а косвенное. Тебе придется снять несколько оболочек, пока ты дойдешь до спрятанной под ними действительности. Ты надеваешь “очки радиолюбителя”, чтобы “увидеть” человека за точками и тире. То же самое приложимо и к имитации урагана! Ты не видишь, как от него темнеет в компьютерной лаборатории — тебе приходится декодировать машинную память, надевать специальные “очки для расшифровки памяти”. Тогда и только тогда ты увидишь ураган!
ПАТ: Ха-ха! Кто кого теперь дурачит? В случае коротковолнового радио, где-то там на островах Фиджи или где-нибудь еще, находится настоящий человек. Моя дешифровка просто показывает мне, что этот человек существует — это похоже на то, как по тени я могу догадаться о реальном предмете, который ее отбрасывает. Но никто не спутает тень с самим объектом! А в случае урагана, никакого настоящего урагана, поведение которого повторяет компьютер, за сценой нет. Здесь мы имеем дело только с ураганом-тенью, в отсутствие настоящего урагана. Я отказываюсь принимать тени за реальность.
