способна делать
все, что может делать человеческий мозг, только лучше, и это позволит осуществить ту самую мечту, которая вдохновляла первопроходцев компьютерной эры. Никто не может сказать, когда такая машина появится. Но даже в обозримой перспективе распространение «умных» – хоть еще и далеких от настоящего интеллекта – машин будет иметь колоссальные социальные последствия. Эти могущественные технологии всегда пленяли и пугали людей, и человечество время от времени пыталось играть с ними. На этот раз ставки настолько высоки, что даже самые выдающиеся умы не представляют, куда это может нас завести. Развитие методики глубокого обучения знаменовало фундаментальные изменения в самом построении цифровых технологий. Вместо того чтобы тщательно предопределять, как должна вести себя машина – правило за правилом, команда за командой, – инженеры приступили к созданию машин, которые учатся решать задачи на своем собственном опыте, и этот опыт охватывает совершенно колоссальные массивы цифровой информации, которые неспособна уместить в себе никакая человеческая голова. В результате возникнет новая порода машин, которые будут не только более могущественными, чем все предыдущие, но также более таинственными и непредсказуемыми.
Когда эта технология обучения только начинала распространяться в интернете, никто еще толком не сознавал, что обучающиеся машины впитывают в себя также и все предрассудки своих создателей. Ученые, первоначально занимавшиеся их созданием, – это по преимуществу белые мужчины, и все нюансы проблематики они оказались способны уловить только тогда, когда им на них указали представители нового поколения исследователей, включающего в себя женщин и небелых. По мере того, как эта технология продвигается все дальше и глубже – в системы здравоохранения, государственной безопасности и в вооруженные силы, – этот перекос может иметь серьезные последствия. Технология глубокого обучения обладает внутренней силой, которую до конца не способны контролировать даже сами разработчики этой технологии, особенно когда эта сила попадает в руки компаний-гигантов, движимых ненасытным стремлением к прибыли.
После того как аукцион, организованный Хинтоном, завершился и подошла к концу конференция NIPS, Кай Юй самолетом отправился в Пекин. На борту он наткнулся на научного сотрудника Microsoft, урожденного китайца по имени Ли Дэн, который тоже сыграл свою роль в аукционе. Юй и Дэн знали друг друга много лет по конференциям и семинарам, посвященным проблематике ИИ, и вот в самолете их места оказались рядом. Хинтон позаботился о том, чтобы ни одна компания, участвовавшая в аукционе, не знала, кто еще участвует, а знать очень хотелось. Дэн любил пообщаться, и они на протяжении всего многочасового перелета бурно обсуждали тему подъема технологии глубокого обучения. Но что касается их участия в аукционе, то здесь они были привязаны клятвой верности своим работодателям и потому, напрямую не говоря об этом, ходили вокруг да около, пытаясь выведать секреты друг у друга и при этом не выдать себя. Да они и без лишних слов понимали, что новая конкурентная война уже началась. Их компаниям так или иначе предстояло дать достойный ответ на этот прорыв Google. Так уж устроен мир интернет-технологий. Это было начало глобальной гонки вооружений, и эта гонка очень скоро приведет к таким последствиям, которые еще несколько лет назад казались немыслимыми.
А Джефф Хинтон тем временем возвращался поездом в Торонто. Через некоторое время он переберется в калифорнийский Маунтин-Вью, где располагается головной офис Google, но, даже став штатным сотрудником этой компании, он сохранит за собой должность профессора Университета Торонто и будет продолжать держаться за свою систему принципов и убеждений, служа примером для многих других ученых, которые вслед за ним пополнили ряды крупнейших технологических компаний. Когда его годы спустя спросили, какие все-таки компании участвовали в том аукционе, он ответил как всегда своеобразно. «Я подписал контракты, которые запрещают мне разглашать, с кем мы вели переговоры, – сказал он. – Один такой контракт я подписал с Microsoft, другой с Baidu, третий с Google. Так что лучше не будем об этом». DeepMind он не упомянул. Но это другая история. После аукциона на озере Тахо Демис Хассабис, основавший лондонскую лабораторию DeepMind, во многом пошел по стопам Хинтона. В чем-то его открытия вторили открытиям последнего, в чем-то он проникал в будущее даже еще дальше. Очень скоро Хассабис тоже вовлекся в глобальную гонку вооружений.
В этой книге рассказывается о Хинтоне, Хассабисе и других ученых, которые стояли у истоков этой гонки, о небольшой, но весьма разношерстной группе исследователей со всего земного шара, которые десятки лет вынашивали свою идею, порой преодолевая неприкрытый скептицизм, пока эта идея не вызрела и не вызвала невероятную, неожиданную суматоху, которая затронула жизненные интересы крупнейших мировых корпораций.
Часть первая
Машина нового типа
Глава 1
Генезис. «Мыслящее чудовище Франкенштейна, родившееся в недрах ВМС»
Седьмого июля 1958 года несколько человек3 собрались в офисе Бюро погоды США, расположенного в Вашингтоне, в пятнадцати кварталах от Белого дома. Они обступили электронную машину шириной и высотой с холодильник, но вдвое большую по глубине. Впрочем, это была лишь одна из частей огромного компьютера, другие части которого заполняли комнату, словно мебельный гарнитур. Машина была покрыта серебристым пластиком, отражавшим свет, а передняя панель – усеяна рядами маленьких круглых лампочек, красных квадратных кнопок и толстых пластиковых тумблеров, частично белого, частично серого цвета. Обычно эта электронно-вычислительная машина стоимостью в 2 миллиона долларов4 выполняла расчеты для Бюро погоды, предшественника нынешней Национальной метеослужбы, но в тот день ее позаимствовали5 специалисты из научно-исследовательского управления ВМС и тридцатилетний профессор Корнеллского университета по имени Фрэнк Розенблатт.
Как сообщает присутствовавший там газетный репортер, Розенблатт и сопровождавшие его военно-морские инженеры6 вставили в машину две белые карточки, одна из которых была помечена маленьким квадратиком слева, а другая – таким же квадратиком справа. Поначалу машина не могла их различить7, но после прочтения еще полусотни таких карточек8 ситуация изменилась. Почти в каждом случае машина правильно определяла, где расположена отметка – слева или справа. Как объяснил Розенблатт, машина освоила этот навык вполне самостоятельно9 – благодаря математической системе, моделирующей работу человеческого мозга. Он назвал эту систему «Перцептроном»10. В будущем, говорил он, эта система научится распознавать11 печатные буквы, слова, написанные от руки, голосовые команды и даже человеческие лица. Она сможет переводить12 слова и тексты с одного языка на другой. И теоретически, добавлял он, она сможет сама себя клонировать13 на сборочном конвейере, исследовать далекие планеты и перейдет границу, разделяющую электронные компьютеры и живой разум.
«ВМС представили эмбрион14 будущего электронного компьютера, который, как ожидается,
