Задаю положенные вопросы о здоровье. Саша односложно отвечает. Смотрю температурный листок, анализы и назначения. Ничего не изменилось, все достаточно плохо: моча идет только с мочегонными, все время сердечные средства, ограничение жидкости, строгий постельный режим. При этих условиях удается кое-как поддерживать кровообращение.
Знаю, что недолго это продлится. Створки клапанов делаются все тверже и тверже, крови пропускают все меньше.
И он знает.
Нужно положить конец неизвестности. Чем бы это ни кончилось, как бы ни было истолковано, я должен использовать последние шансы.
Все это хорошо. Я долблю себе об этом уже два месяца. Но не могу. Даже не потому, что боюсь разговоров, лишних поводов для комиссий... Э, брось — и это тоже. Копни поглубже. Может быть, немножко. Главное — я не верю. Потерял веру в себя, в свое право решать. Вот это и стоит между нами.
— Как идут занятия?
— Идут. До последнего вздоха. (Намек? Помолчу.) Вот видите, закончил работу «Общие принципы моделирования сложных систем». Помните, рассказывал? Теперь написано и перепечатано.
Показал рукопись. Не толстая, страниц полсотни. Может быть, я должен попросить прочесть?
— Есть у вас копия, почитать?
— Через пару дней. Я выправлю текст, тогда.
Тем лучше. Наверное, там трудно, и я едва ли пойму. С возрастом все труднее становится разбираться в новых вопросах. Хотя я уже немного привык к терминам.
Нет, я еще не могу сегодня пообещать операцию.
— Главное — это моделирование человеческой личности и отношений между людьми. Помните, я говорил о «полных», «частных» и «обобщенных» моделях систем? Это же относится к человеку и обществу. Полная модель человека способна воспроизводить его действия в том же темпе и полноте, как и сам человек. Будет как настоящий.
Пауза. Ему тоже хочется рассказывать даже не очень квалифицированному слушателю. Скучает.
— Самое главное, что я вижу, знаю основные программы поведения человека и их взаимодействие. Если бы еще... впрочем, нужно еще много лет. Может быть, двадцать, может, все пятьдесят.
Молчу. У него тоже взор ушел куда-то. Если был бы здоров, то мог бы дожить. Нужно бы подбодрить, но язык не поворачивается. Почему-то всегда стыдно обманывать очень умного человека, думаешь: «Все равно догадывается». Но коллеги говорят, что нужно врать и умному. Что больной все равно попадает на удочку, если верит врачу. Воздержусь. Отвлеку.
— Робот станет независим?
— Ну, можно предусмотреть его подчиненность. Заложить контролирующие структуры, все равно как искусственные инстинкты. Чтобы человека не трогал, например. Но только в некоторых пределах, не больше. Ведь самое интересное — сделать робота умнее человека. Искусственный мозг неограничен.
— Помните «Законы роботехники» у Азимова?
— Совершенно верно. Эти законы можно удержать только на нижних ступенях развития искусственного интеллекта. Если у робота не будет «программы бунта», то он никогда не будет истинно творческой личностью. Следовательно, останется ниже человека. А это неинтересно. Вот создать выше человека — это да!
— Направить бунт только в сторону науки.
— Нет, это невозможно. Наука — это и есть все. Никакой другой сферы вообще нет. Политика, наука, искусство — это все одно и то же.
Замолчал.
Сколь велика сила человеческого духа! Смотришь на него и удивляешься: в чем душа держится, а он мечтает, работает, будто перед ним — вечность...
Нет, я должен сделать попытку. Сказать? Есть силы?
Может быть, он еще и год протянет в такой тепличной обстановке. Еще придумает много интересного.
Не протянет. А ты просто боишься.
— Вам не тяжело писать?
— Немножко. Но в резерве есть еще магнитофон. Буду диктовать.
Все знает. Уходить? Нет, еще.
— Значит, нельзя сделать робота-творца для какой-то узкой сферы деятельности? Чтобы он не мог посягнуть на человека?
Подумал. Видимо, ищет слов.
— Не то чтобы совсем нельзя, однако это будет малое творчество на низком этаже. Сейчас ЭВМ манипулирует ограниченной информацией, программы имеют мало этажей. Не очень умная машина, много глупее человека. Если сделать умнее, то ограничить нельзя. Нужно программировать «интерес», а значит, она будет соваться, куда и не ожидаешь.
Угробят они человечество, эти фанатики.
— Послушайте, Саша. Ведь это опасно — создавать такие машины. Улыбнулся.
— Я знаю. Но как можно удержаться? И это еще так далеко... даже для здоровых. Знаете, такое странное противоречие. Для управления обществом уже нельзя обойтись без машин.
— Обществом?
— Ну конечно. Возьмем экономику. Разнообразие современной техники столь велико, что нельзя удовлетворительно управлять экономической жизнью страны без машин. Никакие Госпланы не смогут. Машины нужны уже не только для экономии человеческого труда, они необходимы для самого существования системы, так же как без ЭВМ нельзя управлять спутником. Понимаете?
— Ну, на здоровье. Пусть считают граммы, метры, рубли. Какая же здесь угроза?
— Пока нет. Хотя, как только будет создана единая автоматическая система, управляющая экономикой, — это уже первая степень закабаления человека. Управляющий аппарат из людей будет уничтожен, и если представить себе, что автоматы откажутся работать, мир испытает колоссальные потрясения, люди не смогут обеспечить себе существование.
— Не пугайте. Это же невозможно — чтобы отказались. Нельзя же представить себе, чтобы электростанция отказалась вырабатывать ток. Тоже страшные последствия, но это нереально.
Во как я его поймал. Что скажешь?
— Учтите, что этой системой уже нельзя будет легко произвольно командовать. Будет задан общий алгоритм35, критерии оценки эффективности, и вмешательство будет затруднено.
— Это даже хорошо — поменьше будет вредных экспериментов, все по науке.
Может быть, ему вредят эти споры? Возбуждение, адреналин? Но положительные эмоции полезны. Не знаю. Посмотрю.
— Вот-вот. Но чтобы планировать экономику «по науке», нужно создавать научные задания для машины. Откуда эти задания? Потребности людей в одежде, пище, жилищах, предметах культуры. А как их определить? Причем не только на сегодняшний день, но и вперед, потому что планировать нужно и для будущего общества. Вот тут и возникают вопросы воспитания, социальной структуры общества, гигиены, оценки стимулов деятельности, компонентов счастья. Эти вопросы нельзя решить так, с кондачка, как раньше делалось. Нужна наука. Очень сложная наука, призванная учесть массу факторов — как они повлияют на человека. То есть нужна новая психология и социология. Не умозрительная, а количественная. Ну, в общем уже повторяюсь.
Конечно. Давно и много говорил. Разговор исчерпан. Нет. Слушай.
— Это все вот к чему: нужны модели человека и общества. Эти модели обязательно должны приближаться к оригиналу. Следовательно, в них нужно воссоздавать самые сложные программы человеческой психики — сознание, увлекаемость, творчество и прочее. Значит, нужны мыслящие машины. Они необходимы для обеспечения гармонического общества и в то же время таят в себе опасность бунта. Это и есть противоречие.
— Тогда не надо их делать. Будем жить по старинке.
— По старинке невозможно. Плохое управление человечеством может привести к катастрофе. Все было не опасно, пока ученые не сделали этих страшных бомб.
Молчу. Мрачную картину нарисовал.
— Нет, Саша, мне все еще не верится. Неужели это такой закономерный процесс, который нельзя остановить?
Смеется. Такая приятная физиономия. Наверное, в это время забывает, что он больной. Нравится дурачить меня.
— Я тоже не шибко уверен, но думаю, что будет так. Учтите все ту же увлеченность. Человек не может остановиться перед интересными задачами. Помните слова Ферми об испытании бомбы: «В конце концов это просто очень хорошая физика». И наши думают так же, мне приходилось беседовать.
— Интересно.
Неужели «общество машин» — не пустые бредни фантастов?
— У человека достаточно ума, чтобы изобретать всякие штуки, но мало, чтобы оценить их последствия... Так?
— Да, так... Вы скоро будете совсем кибернетик.
— Не смейтесь. Однако, дорогой друг, я все слышу рассуждения, «общие принципы» и так далее. Знаете, есть некоторое недоверие ко всяким общим декларациям. Их уже много выдавали за историю человечества. Как бы это все пощупать? Чтобы быть уверенным, что они правильные, эти принципы.
Задумался. Вот какую задачу задал. А может быть, просто соображает, как объяснить популярно. Все-таки мой уровень не ахти какой. Нога выглядывает из-под одеяла — отеки появились. Еще недавно не было. Шансы уменьшаются. А я?..
— Ваши сомнения мне понятны. Философов было много, все обещали... Но без «принципов» нельзя, как хотите. Мои — ничему не учат. Я же не говорю об управлении, пока только о понимании мира. Моделирование — это познание. И лишь как непременный компонент управления.
