инженеров. Если бы весь персонал Google работал в этом здании, это было бы чрезвычайно ценное здание. Оно было бы настолько ценное, что вам захотелось бы построить еще одно точно такое же здание. Потом еще одно. И еще. У вас будет такая мотивация продолжить строительство, сказал он, что вы не сможете остановиться.
По другую сторону Атлантики, в новом лондонском здании Google, расположенном рядом со станцией Сент-Панкрас, Шейн Легг и Демис Хассабис описывали будущее несколько проще. Но смысл был примерно тот же. Как объяснил Легг, DeepMind шла по той же траектории, которую он и Хассабис наметили, когда десятью годами ранее впервые представили свою компанию Питеру Тилю. «Оглядываясь на то, что мы писали о нашей миссии в первые дни существования компании, я вижу, как это невероятно похоже на сегодняшнюю DeepMind, – говорит он. – Все то же самое». Совсем недавно они отказались от той части бизнеса, которая не вполне соответствовала их основной миссии. Еще весной 2018 года Мустафа Сулейман сообщил кое-кому в DeepMind, что намерен в скором времени перевести медицинский проект лаборатории под крыло Google, и той осенью об этом переводе было объявлено официально637. Год спустя он и сам покинул DeepMind и перешел в Google. Его взгляды всегда были ближе к философии Джеффа Дина, нежели Демиса Хассабиса, и теперь он сам и его любимый медицинский проект, наиболее практичная и приземленная часть деятельности DeepMind, окончательно расстались с Хассабисом и Леггом. Отныне лаборатория DeepMind более чем когда-либо была устремлена в будущее. И хотя она сохраняла достаточную степень независимости, использовать обширные ресурсы Google она могла без ограничений. С момента приобретения DeepMind компания Google инвестировала в эти исследования уже 1,2 миллиарда долларов638. К 2020 году, в дополнение к сотням компьютерщиков и программистов, работавшим в лондонской лаборатории, Хассабис нанял команду из более чем пятидесяти нейробиологов для изучения внутренней работы головного мозга.
Многие задавались вопросом, как долго продлится этот ажиотаж. В том же году Ларри Пейдж и Сергей Брин, со стороны которых DeepMind получала самую мощную поддержку, объявили о своем уходе на пенсию639. «Будет ли DeepMind и дальше получать такие крупные суммы от Alphabet для таких долгосрочных исследований? – послышались голоса. – Или их заставят заняться более неотложными задачами?» Алан Юстас, человек, который стоял за приобретением DeepMind и созданием Google Brain, всегда остро осознавал противоречия между краткосрочными технологическими интересами компании и далекой мечтой. «Может случиться так, что внутри Google у них будет доступ к более интересным и насущным проблемам, но это может замедлить их движение к долгосрочной цели. Сохранение же их самостоятельности в структуре Alphabet ухудшает для них возможности коммерциализации своих технологий, но эффективнее в долгосрочном плане, – говорит он. – Решение этой головоломки стало бы важным шагом в истории машинного обучения». Но определенно можно сказать, что философия, лежащая в основе деятельности DeepMind, не изменилась. После продолжавшейся несколько лет суматохи, когда технологии ИИ совершенствовались с такой удивительной скоростью, проявляли себя так, как никто не ожидал, и вплетались в игру могущественных и непреклонных корпоративных сил, лаборатория DeepMind, как и OpenAI, сохранила свой курс и по-прежнему стремится к созданию по-настоящему умной машины. Больше того, ее основатели видят в этой суматохе своеобразное подтверждение своей правоты. Ведь они когда-то предупреждали, что эти технологии могут иметь непредсказуемые последствия.
Во время одной из видеоконференций, которую Хассабис проводил из своего офиса в Лондоне, он сказал, что его взгляды находятся где-то на полпути между взглядами Марка Цукерберга и Илона Маска. По его словам, взгляды Цукерберга и Маска представляют собой две крайности. Сам он верит, что сверхразум может быть создан и что это может быть опасно, но он также уверен, что до этого еще далеко. «Нам нужно использовать это время некоторого затишья, чтобы спокойно подготовиться к серьезным ситуациям, которые могут возникнуть в ближайшие десятилетия, – сказал он. – Время, которое у нас сейчас есть, очень ценно, и мы должны его максимально использовать». Проблемы, возникшие в последние годы по вине Facebook и других компаний, служат предупреждением о том, что эти технологии необходимо создавать осторожно и вдумчиво. Но это предупреждение, добавил он, не помешает ему достичь своей цели. «Мы занимаемся этим, – сказал он. – Мы не валяем дурака. Мы делаем это, потому что действительно верим, что это возможно. О временных рамках можно спорить, но, насколько нам известно, не существует никаких физических законов, которые препятствовали бы созданию AGI».
Глава 21
Х-фактор. «История повторяется. Я так думаю»
В кабинете Джеффа Хинтона на пятнадцатом этаже здания Google в центре Торонто на шкафу у окна стоят две белые объемные фигуры. Каждая размером с коробку из-под обуви. Вытянутые, с острыми краями и треугольными гранями, они походят на две модернистские мини-скульптуры из магазина IКЕА. Когда кто-нибудь впервые оказывается в его кабинете, Хинтон протягивает ему эти две фигуры, объясняет, что это две части одной пирамиды, и просит сложить их так, чтобы получилась целая пирамида. Это кажется легкой задачей. Каждый кусок имеет всего пять граней, и достаточно просто найти две грани, которые совпадут. Но, как ни странно, мало кому удается решить эту загадку. Хинтону особенно нравится рассказывать, что с ней не справились даже двое профессоров Массачусетского технологического института. Один отказался даже пробовать. Другой представил доказательства того, что это невозможно.
Но это возможно, говорит Хинтон, и быстро это продемонстрирует, сложив пирамиду. Он объясняет, что большинство людей не могут пройти этот тест, потому что головоломка сбивает их с толку, нарушает их понимание такого объекта, как пирамида, – или чего-либо еще, с чем они могут столкнуться в физическом мире. Они не могут распознать пирамиду, глядя на нее сначала с одной стороны, потом с другой, сверху, снизу. Они представляют себе, какое место занимает пирамида в трехмерном пространстве. И из-за того, что пирамида разрезана надвое, объясняет Хинтон, ее не получается представить в трех измерениях – как обычно. Этой головоломкой Хинтон хочет показать, что зрение – более сложный феномен, чем может показаться, и что люди воспринимают то, что находится перед ними, не так, как это делают машины. «Это важный факт, который игнорируют разработчики компьютерного зрения, – говорит он. – И в этом их огромная ошибка».
Он хорошо знает недостатки технологии, которую он сам помогал создавать последние четыре десятилетия. По его словам, разработчики компьютерного зрения теперь полагаются на глубокое обучение, но это решает только часть проблемы. Если нейронная сеть проанализирует тысячи фотографий кофейных чашек, она сможет
