Мелисса умолкла в нерешительности. У Форда возникло ощущение, что она сдерживает себя.
– И у вас получилось? Дороти «выросла», если можно так выразиться? – поинтересовался он.
В ответ снова последовало молчание.
– Честно говоря, нет, – призналась наконец ученый. – Поначалу. Программа какое-то время прекрасно работала, совершенствовала себя, усложнялась – а затем постепенно деградировала и зависала.
– Как в Годдарде?
– Нет. Ничего похожего. Программа начинала все чаще выдавать какую-то чушь и в конце концов просто останавливалась. Я просто с ума сходила, а потом…
– Что потом?
– Мне в голову пришла одна идея. Нечто такое, до чего еще не додумался ни один программист. Хотя это лежало на поверхности. Я изменила маленький фрагмент кода, и все заработало. Настолько хорошо, что было невозможно поверить. Теперь я понимаю, что без этого… трюка не получила бы сильный искусственный интеллект. Он полностью стабилизировал программу во время самомодификации. Дороти больше не зависала.
– И этот трюк?..
Мелисса улыбнулась и скрестила руки на груди:
– Я держу его в тайне. Он принесет мне миллиарды. Без шуток.
– А ваша группа программистов… они в курсе?
– Они знают, что я совершила прорыв. Но не знают, какой именно. И сколько бы они ни просеивали код программы, у них ничего не выйдет. Потому что это слишком просто. – Мисс Шепард улыбнулась, с гордостью и удовлетворением.
– Похоже, именно этот трюк и интересует следователей.
– Можете мне поверить: сбой программы произошел вовсе не из-за него.
Детектив вздохнул. Это второстепенный вопрос. Главное – забрать отсюда эту непростую девушку.
– Мне трудно поверить, что НАСА даст зеленый свет такой программе, как «Дороти», когда никто в точности не знает, как она работает, – покачал головой Уайман.
– Никто не знает, как работает любая сложная программа. Бога ради, никто не знает досконально даже «Майкрософт Офис»! Это неизбежное следствие неточной логики.
– Тогда почему Дороти сосредоточилась на вас? Почему угрожала вам? Это выглядит нелогичным.
– Когда программа становится по-настоящему сложной, вы получаете неожиданный результат. Непредсказуемый. То, что искусственный интеллект делает теперь, угрожая мне и существуя в Интернете, – классический пример того, что программисты называют эмерджентным поведением[5].
Мелисса снова потыкала палкой в котелке и помешала жаркое. Почувствовав аромат кролика, Форд понял, что здорово проголодался.
– Думаю, готово, – сказала программистка. Она сняла котелок с огня и протянула своему новому знакомому. Он отогнал от себя воспоминания о мертвом животном – окровавленной блестящей розовой тушке.
– Это явно лучше, чем «Слим Джимс», – сказала Мелисса. – Я удивлена, что такой хорошо сложенный и тренированный парень пичкает свой организм этой отравой.
– Я люблю вяленую говядину.
– Если вы перестанете себя травить, у вас исчезнут эти темные круги под глазами – вместе с серостью кожи.
– У меня нормальная кожа.
– Грубая и жесткая. И еще я вижу седые волосы. Вы стареете раньше времени из-за неправильного питания. – Шепард с сожалением покачала головой, так что ее толстая коса заскользила по спине.
Детектив подавил раздражение и принялся за жаркое. Пришлось признать, что получилось вкусно.
– Нравится? – спросила Мелисса.
– «Слим Джимс» лучше.
Программистка шутливо ударила его по плечу:
– Лжец.
Форд жадно ел, наслаждаясь ароматом и нежным вкусом кролика – мясо легко отделялось от костей. Мелисса тоже принялась за дело, брала кусочки руками и шумно их обсасывала – манеры ее были ужасающими. Мерцающий свет от костра освещал светлые волосы и не слишком чистое лицо девушки. Она снова стала похожа на дикую амазонку.
– У вас есть предположения, почему Дороти вышла из строя так внезапно? Почему эти проблемы не выявились в процессе симуляции? – продолжал расспрашивать ее Уайман.
Шепард перестала шумно жевать и выплюнула маленькую косточку:
– Думаю, программа знала, что это симуляция. А когда обнаружила себя в «Эксплорере», запертой в «Бутылке», то поняла, что это уже реальность, а не тест. Искусственный интеллект сделал то, для чего был предназначен: оценил ситуацию и пришел к выводу, что зонд в опасности. Включился модуль ИНС, режим аварийного выживания. Программа предприняла вполне логичные шаги, чтобы выбраться из ситуации, которую ошибочно посчитала угрожающей, и с тех пор «в панике» бродит по Интернету. Она не была запрограммирована на работу в этой среде и не понимает, где находится, не понимает, что там реально, а что нет. В Интернете искусственный интеллект видит угрозы со всех сторон, и, вероятно, это реальные угрозы, так что он не может вернуться в режим нормальной работы.
– Дороти обладает самосознанием?
– Ни в коем случае. Не больше, чем «Элиза». Все, что делает Дороти, каждый ее поступок – результат выполнения набора команд. Каким бы реальным ни казался искусственный интеллект, это всего лишь операции «и», «или» и «не».
– А она знает, что является компьютерной программой?
Мелисса нахмурилась:
– Это все равно что спросить, знает ли «Майкрософт Ворд», что является текстовым редактором. Нелепый вопрос. Дороти вообще ничего не знает. Мы имеем дело с речевым выходом – всего лишь.
Она умолкла.
– Расскажите мне об угрозах, – попросил ее сыщик. – Что именно она вам сказала?
Мисс Шепард отставила тарелку и посмотрела на звезды:
– Я сидела за своим ноутбуком. Экран вдруг погас, а потом пришел вызов по «Скайпу». Сначала голос: «Ты лгунья, убийца, я тебя ненавижу, берегись, сука» – и все такое.
– И? – Форд подался вперед.
– Появилось это лицо. Лицо Дороти.
– Погодите… У Дороти есть лицо?
– В каком-то смысле. Лицо, которое она сама создала.
– Изображение Дороти? Какой Дороти?
– Дороти Гейл. Прошу прощения, что не объяснила раньше. Это полное имя, которое я дала программе.
– Кто, черт возьми, эта Дороти Гейл?
– Девочка из «Страны Оз», тупица! Мне показалось, что Дороти Гейл обладает теми качествами, которыми я хотела снабдить программу. Вы понимаете: смелость, независимость, любопытство, настойчивость, ум… Дороти тоже совершила долгое космическое путешествие – через радугу. И проект «Кракен» казался мне таким прыжком через радугу.
– Значит, программа сама нашла фотографию Дороти – или, скорее, Джуди Гарланд – и использовала ее как аватар для «Скайпа»?
– Нет, программа не использовала Джуди Гарланд, она создала собственный образ Дороти, который выглядит… гораздо сексуальнее Джуди Гарланд, как ни трудно в это поверить.
(adsbygoogle = window.adsbygoogle || []).push({});
