просто еще один механизм выживания, отличный от наших пищеварительной и иммунной систем, тоже поразительно сложных. Интеллект возник потому, что нам требовалось осмыслять мир вокруг, планировать наперед и тем самым справляться со всевозможными неожиданностями – и выживать. Однако, если вспомнить Декарта, мы, люди, определяем собственное существование способностью мыслить[149]. Поэтому неудивительно, что в антропоморфическом отношении наши опасения по поводу ИИ отражают эту веру в особость человеческого интеллекта.
Но если вернуться назад и оценить историю развития жизни на Земле, мы поймем, что отнюдь не являемся наиболее приспособленным видом. Если нам и суждено когда-либо очутиться в подчиненном положении, нашими властителями станут те или иные старейшие формы жизни на планете – скажем, бактерии, способные жить где угодно, от Антарктиды до глубоководных термальных источников, температура которых выше точки кипения, или в кислотной среде, мгновенно растворяющей человеческую плоть. Потому, когда меня спрашивают, куда мы идем, я отвечаю, что нужно ставить этот вопрос в более широком контексте. Я не знаю, какое будущее принесет ИИ, превратит ли он людей в своих слуг или вовсе уничтожит – или окажется полезным и желанным расширением наших возможностей и обогатит нашу жизнь. Но я вполне уверен, что компьютеры никогда не станут повелителями бактерий.
Глава 19
Человеческая стратегия
Алекс (Сэнди) Пентленд
профессор-стипендиат и профессор медиаискусства и наук в МТИ, директор научно-исследовательской лаборатории «Человеческая динамика и связь» и руководитель программы предпринимательства «Media Lab», автор книги «Социальная физика».
Алекс Сэнди Пентленд, представитель направления, которое он сам именует «социальной физикой», интересуется разработкой эффективной экологии взаимодействия ИИ с человеком. Кроме того, его тревожит потенциальная угроза, исходящая от систем принятия решений, в которых данные фактически передаются машинам в полное владение, а человеческое творчество отодвигается на задний план.
По его мнению, пришествие больших данных открыло перед нами возможность заново изобрести нашу цивилизацию: «Теперь мы можем реально изучить подробности социального взаимодействия, проанализировать, как они разворачиваются, и нам нет нужды ориентироваться на средние величины, будь то рыночные индексы или результаты выборов. Это поразительное изменение. Способность видеть подробности поведения рынков и мельчайшие детали политических революций заодно со способностью предсказывать их и контролировать, – это, безусловно, новый прометеевский огонь, которым можно воспользоваться во благо или во зло. Большие данные ведут нас в интересные времена».
На встрече нашей группы в Вашингтоне, штат Коннектикут, Алекс признался, что читать винеровские работы по контурам обратной связи для него «сродни чтению собственных мыслей».
«После Винера люди обнаружили тот факт – и сосредоточились на нем, – что имеются действительно хаотические системы, которые действительно непредсказуемы, – говорит он. – Но, если посмотреть на человеческие социально-экономические системы, мы увидим большой процент вариаций, которые можно объяснить и предсказывать… Сегодня мы получаем данные от множества цифровых устройств, фиксирующих все наши действия. Тот факт, что «датируется» все вокруг, означает, что мы можем проводить измерения в реальном времени и учитывать большинство аспектов человеческой жизни, а рано или поздно придем к изучению вообще всех аспектов. У нас имеются поразительные компьютеры и методы машинного обучения, из чего следует, что возможно строить прогностические модели человеческих систем, ранее попросту немыслимые».
За последние полвека идея искусственного интеллекта и интеллектуальных роботов утвердилась в размышлениях об отношениях между людьми и компьютерами. Частично это объясняется тем, что довольно просто придумывать истории об ИИ и роботах, а частично проистекает из ранних успехов дисциплины (например, вспомним устройства доказательства теорем, основанные на постулатах «Principia Mathematica» Рассела и Уайтхеда[150]) и обильного финансирования этих исследований со стороны военных. Раннее, более широкое представление о кибернетике, трактовавшее искусственное как часть крупного контура обратной связи и взаимного влияния, фактически забылось, если говорить об осведомленности социума.
Впрочем, в минувшие годы кибернетика сама по себе постепенно проникала в коллективное знание и незаметно достигла нынешнего положения, когда она оказалась «у всех на устах». Современные исследования в большинстве инженерных дисциплин опираются на системы обратной связи, динамические и регулируемые потоками энергии. Даже ИИ ныне представляется как человекомашинная система-«советчик», а военные приступили к крупномасштабному финансированию этой области исследований (возможно, этот факт должен беспокоить нас больше, чем беспилотники и самостоятельные человекоподобные роботы).
Но, по мере того как наука и техника осваивали эту «кибернетическую» позицию, становилось ясно, что даже кибернетическое видение слишком заужено. Первоначально оно фокусировалось на встроенности отдельного актора, а не на формирующихся свойствах сети акторов. Это не вызывает удивления, поскольку математика сетей возникла лишь относительно недавно, так что количественное изучение сетевого поведения было невозможно. Теперь мы знаем, что изучение индивида не обеспечивает понимания системы в целом, за исключением некоторых простых случаев. Успехи последнего времени в этой области были предопределены осознанием того факта, что «хаос», наряду со «сложностью», есть типический пример поведения системы, а сегодня мы уже можем выйти за рамки таких статистических представлений.
У нас мало-помалу появляется возможность анализировать, прогнозировать и даже проектировать формирующееся поведение сложных гетерогенных сетей. Кибернетическое представление о «вовлеченном» индивидуальном акторе может быть расширено и охватывать сложные системы «вовлеченных» индивидов и машин, а понимание на основе подобного более широкого представления принципиально отличается от картины, основанной на базовом кибернетическом представлении. Мыслить о сети – все равно что мыслить о цельной экосистеме. Как бы вы заставили некую экосистему развиваться в правильном направлении? Что вы подразумеваете под «правильным» направлением? Такие вопросы выходят за рамки традиционного кибернетического мышления.
Возможно, наиболее важным является осознание того, что люди уже начинают использовать ИИ и машинное обучение для управления цельными экосистемами, включая человеческие экосистемы, и тем самым создают экологию взаимоотношений человека и искусственного интеллекта. Ныне, когда все становится «датируемым», мы можем проводить измерения большинства аспектов человеческой жизни – и стремимся к измерению вообще всех ее аспектов. С учетом появления новых и успешных техник машинного обучения это означает, что мы можем создавать модели указанных экологий, ранее невозможные. Хорошо известными примерами здесь выступают модели прогнозирования погоды и дорожного движения, расширяемые до прогнозирования глобального климата и планирования роста и обновления городов. Автоматизированное проектирование экологии уже сделалось реальностью.
Развитие экосистем человеко-искусственного интеллекта, возможно, на самом деле неизбежно для социального вида наподобие нас с вами. Мы социализировались еще в начале нашей эволюции, миллионы лет назад. Мы начали обмениваться информацией друг с другом, чтобы оставаться в живых и улучшать нашу приспосабливаемость. Мы создали письменность для обмена абстрактными и сложными идеями, а сравнительно недавно спроектировали и сотворили компьютеры для улучшения наших коммуникаций. Сейчас мы разрабатываем модели искусственного интеллекта и системы машинного обучения для
