Мы имеем в виду такой тип замкнутой петли, при котором настоящая репрезентативная система воспринимает собственное состояние в терминах ее собственного концептуального репертуара. Например, воспринимая состояние собственного мозга, мы ощущаем не то, какие нейроны соединены друг с другом и какие из них в данное время возбуждаются. Мы воспринимаем идеи и выражаем их словами. Мы видим собственный мозг не как набор нейронов, но как склад убеждений, чувств и идей. Мы “считываем” наш мозг на этом уровне, когда говорим что-то вроде: “Я немного нервничаю, потому что она отказывается идти на вечеринку”. Высказанное вслух, это замечание затем снова входит в систему как материал для обдумывания. Разумеется, все это происходит обычным путем, а именно — путем возбуждения миллионов нейронов. Петля, которая при этом замыкается, гораздо сложней и запутанней, чем телевизионная петля, какой бы красивой и интригующей та ни казалась.
Важно заметить, что в последнее время наибольший прогресс в работе над искусственным интеллектом был достигнут при попытках снабдить программу набором понятий о ее собственных внутренних структурах и способом реагировать на определенные замеченные в них изменения. На сегодняшний день подобные само-понимающие и само-наблюдающие способности программ весьма рудиментарны, но эта идея возникла как одно из ключевых требований к настоящей гибкости, синониму интеллекта.
В настоящее время в разработке искусственного разума существуют две основных трудности: одна из них связана с моделированием восприятия, другая — обучения. Восприятие мы уже определили как фильтрация мириад реакций на низшем уровне до получения окончательной их интерпретации на уровне концептуальном. Таким образом, это проблема пересечения уровней. Грубо говоря, здесь задается вопрос: “Как мои символы программируют мои нейроны?” Как те движения пальцев, которые вы повторяете снова и снова, когда учитесь печатать, постепенно превращаются в изменения в синаптических структурах? Каким образом когда-то сознательная деятельность переходит на совершенно бессознательный, автоматический уровень? Уровень мысли из-за постоянного повторения каким-то образом “просочился вниз” и перепрограммировал саму аппаратуру, на которой он основан. То же самое происходит при изучении музыкальной пьесы или иностранного языка.
На самом деле в любую минуту нашей жизни мы постоянно меняем структуру синапсов: мы “записываем” случающиеся с нами ситуации под некими “ярлыками”, чтобы иметь возможность вспомнить их в будущем (и наш бессознательный разум должен быть чрезвычайно ловким, поскольку очень трудно предусмотреть, в каких именно будущих ситуациях нам может понадобиться вспомнить данный момент настоящего).
Увиденная с этой точки зрения, личность представляет собой непрерывно документирующую себя “мировую линию” (четырехмерный след, оставляемый предметом, перемещающимся во времени и пространстве). Человек является физическим объектом, сохраняющим внутри себя историю своей мировой линии; более того, эта сохраненная мировая линия определяет мировую линию этого предмета в будущем! Эта крупномасштабная гармония между прошлым, настоящим и будущим позволяет вам воспринимать собственное “я”, несмотря на его изменчивую и многоликую природу, как некое единство с некой внутренней логикой. Если сравнить личность с рекой, текущей сквозь пространство-время, то надо отметить, что повороты ее русла определяется не только ландшафтом берегов, но и собственными желаниями реки.
С одной стороны, сознательная деятельность мозга создает постоянные побочные эффекты на нейронном уровне; с другой стороны, верно и обратное: кажется, что наши сознательные мысли поднимаются, как пузыри, из подземных пещер разума; неизвестно откуда взявшиеся образы и идеи внезапно возникают у нас в голове. Однако, когда мы их публикуем, мы ожидаем, что авторами будут считать нас, а не наше подсознание. Эта дихотомия творческой личности на сознательную и бессознательную части является одним из труднейших аспектов проблемы понимания разума. Если, как мы только что предположили, лучшие наши идеи поднимаются, подобно пузырям, из таинственных подземных источников, тогда кто мы такие на самом деле? Где обитает дух творчества? Творим ли мы с помощью волевого усилия, или же мы всего лишь автоматы, сделанные из биологической аппаратуры, с рождения до смерти глупой болтовней создающие идею наличия у себя “свободной воли”? Если мы действительно обманываем себя по поводу подобных материй, то кого — или что — мы обманываем?
Здесь таится петля, заслуживающая глубоких исследований. Рассказ Черняка написан легко и занимательно, но тем не менее автор попадает точно в цель, рассматривая труды Гёделя не как аргумент против механизмов, но как иллюстрацию изначальной петли, которая, как кажется, имеет самое прямое отношение к загадке сознания.
Д.Р.Х.
V
СОЗДАННОЕ САМОСОЗНАНИЕ И СВОБОДНАЯ ВОЛЯ
18
СТАНИСЛАВ ЛЕМ
Путешествие седьмое, или как Трурля собственное совершенство подвело
Вселенная бесконечна, но ограничена; поэтому световой луч, в каком бы направлении он ни путешествовал, через миллиарды столетий вернется к исходной точке, если у него достанет сил; так же бывает и со слухами, что носятся по космосу от звезды к звезде, посещая каждую планету. Однажды до Трурля дошли издалека слухи о двух могущественных конструкторах-благодетелях, таких мудрых и совершенных, что им нет равных; с этой новостью он помчался к Клапауциусу. Тот объяснил, что речь идет не о таинственных соперниках, но о них самих, поскольку слава о них, облетев космос, вернулась обратно. Однако слава имеет тот недостаток, что помалкивает о неудачах, даже когда эти неудачи — результат великого совершенства. Кто в этом сомневается, пусть припомнит последнее из семи путешествий Трурля, которое он предпринял один, так как Клапауциуса задержали дома неотложные дела.
В те дни Трурль был чрезвычайно спесив и принимал все знаки почести и восторга, ему оказываемые, как должное и как нечто совершенно обычное. Он направлялся в своем космическом корабле на север, потому что этот район знал хуже всего. Долго летел он сквозь пустоту, минуя планеты, где гремела война, и планеты, которые, наконец, обрели совершенный мир полного опустошения, пока случайно не наткнулся на крохотную планетку, больше похожую на кусочек материи, затерявшийся в пространстве, чем на настоящую планету.
По этому обломку камня кто-то бегал взад-вперед, подпрыгивая и размахивая руками самым диковинным образом. Удивленный сценой такого полного одиночества и обеспокоенный этими дикими жестами отчаяния или гнева, Трурль поскорее опустился на планету.
К нему тотчас приблизился исполин, весь иридиево-ванадиевый, бряцающий и звякающий, и представился Эксцельсиусом Тартарейским, правителем Панкреона и Циспендеры. Поведал он Трурлю, что обитатели этих королевств в припадке цареубийственного безумия свергли Его Величество с трона и выслали на этот бесплодный астероид, вечно кружащийся в темных водоворотах гравитационных течений.
Узнав, в свою очередь, кто его посетил, принялся этот свергнутый монарх настаивать, чтобы Трурль — можно сказать, профессиональный вершитель добрых дел — немедленно восстановил его на троне. От мысли о таком обороте событий глаза монарха зажглись пламенем мести, а его железные пальцы скрючились в воздухе, словно сжимая шеи возлюбленных подданных.
Трурль вовсе не намеревался выполнять просьбу Эксцельсиуса, поскольку это привело бы к неописуемому злу и страданиям; все же он хотел как-то успокоить и утешить униженного правителя. Поразмыслив пару минут, он понял, что даже и в этом случае не все потеряно, поскольку можно сделать так, чтобы и король был доволен, и подданные его целы. Засучив рукава и призвав на помощь все свое умение, Трурль сконструировал для Эксцельсиуса совершенно новое царство. В нем было полным-полно рек и гор, лесов и ручьев, а над ними — небо с облаками. Множество городов, замков и крепостей, храбрые воины, бряцающие оружием, и прекрасные леди, и их служанки; шумные ярмарки, залитые солнцем; дни, полные тяжкого труда, и ночи с танцами и пением до зари. Осторожно вмонтировал Трурль в новое царство великолепную столицу, всю из мрамора и алебастра, с советом старейшин, зимними дворцами и летними виллами, заговорами и конспираторами, лжесвидетелями, кормилицами и доносчиками, породистыми рысаками и алыми плюмажами, колышащимися на ветру. Затем пронизал он воздух государства серебряными звуками фанфар и артиллерийскими салютами, подсыпал по горсти предателей и героев, добавил по щепотке пророков и провидцев, одного мессию и одного великого поэта. Потом, наклонившись, он включил свое произведение, ловко внося последние поправки микроскопическими инструментами; он придал женщинам этого царства красоту, мужчинам — угрюмую молчаливость и тягу к пьяным ссорам, чиновникам — спесь и услужливость, астрономам — страсть к звездам, а детям — крикливость. Все это, соединенное, установленное и точно подогнанное, умещалось в ящике, не слишком большом, а таком, чтобы его легко можно было носить с собой. Трурль вручил все это Эксцельсиусу в вечное пользование и владение; но сначала он показал ему, где находятся вход и выход этого нового, с иголочки, царства, как программировать войны, подавлять восстания и налагать поборы и подати. Он объяснил также про критические пункты и переходные периоды этого миниатюрного государства, иными словами, про максимум и минимум дворцовых переворотов и революций. Трурль так доступно все это изложил, что король, издавна привыкший к тираническому правлению, на лету схватил все инструкции и тут же, на глазах у конструктора, издал на пробу несколько указов, соответствующим образом нажимая и поворачивая украшенные императорскими орлами и королевскими львами ручки контроля. Этими указами он объявлял чрезвычайное положение, комендантский час и особую подать. Когда в королевстве истек год, а для Трурля и короля не прошло и минуты, актом величайшего милосердия — то есть нажатием пальца на кнопку — Эксцельсиус помиловал одного приговоренного к смерти, уменьшил подать и отменил чрезвычайное положение. Из ящика вырвались громкие крики благодарности, словно писк мышат, которых поднимают за хвост. Сквозь выпуклое стекло было видно, как на пыльных дорогах и на берегах спокойных рек, в которых отражались пушистые облака, народ радовался и прославлял несравненное великодушие своего государя.
