Легко, конечно, представить одну группу как героев, а другую – как злодеев, но последствия слишком многогранны, чтобы делить все на черное и белое. Это лишь два полярных видения перспектив искусственного интеллекта и робототехники, а между ними лежит будущее, которое может вести к утопии, антиутопии или еще бог знает куда. Стоит ли добиваться повышения уровня жизни и избавления от тяжелой работы, если это также означает отказ от свободы и неприкосновенности частной жизни? Существуют ли правильный и неправильный подходы к разработке этих систем? Я думаю, что ответ зависит от самих разработчиков. Одна группа создает мощные машины, которые позволяют людям выполнять то, что ранее казалось немыслимым, вроде роботов для исследования космоса, а другая пытается заменить людей машинами, как это делают создатели искусственного интеллекта, позволяющего роботам выполнять работу врачей и адвокатов. Важно, чтобы эти два лагеря не теряли контакта друг с другом. То, как мы разрабатываем все более автономные машины и взаимодействуем с ними, определяет характер нашего общества и экономики. От этого все в большей мере зависит каждый аспект современного мира, начиная с того, будем ли мы жить в более или менее стратифицированном обществе, и заканчивая тем, какой смысл мы будем вкладывать в понятие «человек».
Соединенные Штаты находятся в самом центре вновь вспыхнувшего спора о последствиях развития искусственного интеллекта и робототехники и их влиянии на занятость и качество жизни. Мы живем в удивительное время – автоматизация поражает ряды рабочих мест белых воротничков с такой же стремительностью, как она изменяла заводские цеха в начале 1950-х гг. Но возобновление «великого спора об автоматизации» спустя полвека после его начала напоминает сцены из фильма «Расёмон»: все видят одно и то же, но интерпретируют по-разному, кому как выгоднее. Несмотря на все более громкие предупреждения о страшных последствиях компьютеризации, количество работающих американцев продолжает расти. Аналитики на основании одних и тех же данных Бюро трудовой статистики предрекают одновременно и глобальное сокращение числа рабочих мест, и новый трудовой ренессанс. Независимо от того, что происходит с живым трудом, исчезает он или видоизменяется, ясно одно – новая эра автоматизации оказывает глубокое влияние на общество. Менее понятно, несмотря на огромное количество сказанного и написанного, куда в действительности идет технологическое общество.
У тех немногих, кто имел дело с огромными мейнфреймами выпуска 1950-х и 1960-х гг., нередко возникало ощущение зловещего контроля с их стороны. В 1970-х гг. появились персональные компьютеры, которые стали восприниматься как нечто более дружественное, – их можно было потрогать, а значит, и управлять ими. Сегодня мы являемся свидетелями рождения «интернета вещей», и компьютеры вновь начинают «исчезать», становясь частью предметов повседневного пользования, которые в результате приобретают магические свойства – детекторы дыма умеют говорить и слышать, телефоны, аудиоплееры и планшеты имеют более значительные возможности, чем суперкомпьютеры всего несколько десятилетий назад.
Со «сплошной компьютеризацией» мы вошли в век умных машин. В ближайшие годы искусственный интеллект и робототехника изменят мир сильнее, чем персональные компьютеры и интернет за прошлые три десятилетия. Автомобили будут ездить сами, а роботы возьмут на себя работу служащих FedEx и, конечно, врачей и адвокатов. Новая эра сулит нам огромные физические и вычислительные возможности, однако вновь ставит вопрос, впервые возникший больше 50 лет назад: кто кого будет контролировать, мы эти системы или они нас?
Джордж Оруэлл сформулировал этот вопрос предельно красноречиво. Его роман «1984» известен описанием государства тотального надзора, но там есть также идея о том, что государственный контроль можно осуществлять, сжимая письменную и устную речь, чтобы было труднее выражать и, соответственно, воспринимать альтернативные идеи. Оруэлл ввел в обращение вымышленный язык, «новояз», который эффективно ограничивал свободу мысли и самовыражения.
Имея интернет с его миллионами каналов, мы на первый взгляд сегодня как никогда далеки от оруэлловского кошмара, однако все чаще умные машины принимают решения за нас. Если бы такие системы просто давали советы, вряд ли это можно было бы считать «контролем» в оруэлловском смысле. Но так превозносимый в наши дни мир «больших данных» сделал интернет совсем не таким, каким он был всего десятилетие назад. Интернет расширил сферу использования компьютерной техники и начал трансформировать нашу культуру. Фактически мы получаем неооруэлловское общество с более мягкой формой контроля. Интернет несет с собой беспрецедентные свободы и одновременно, как это ни парадоксально, выводит контроль и надзор далеко за пределы того, что предполагал Оруэлл. Каждый шаг и каждое высказывание теперь отслеживаются и регистрируются если не Старшим братом, то растущей армией коммерческих «младших братьев». Интернет стал всепроникающей технологией, которая касается каждого аспекта нашей культуры. Сегодня смартфоны, ноутбуки и настольные компьютеры слушают нас вроде бы по нашему желанию, а их камеры наблюдают за нами, надо думать, с лучшими намерениями. Нарождающийся «интернет вещей» вводит в наши дома незаметных, всегда находящихся в состоянии готовности и, наверное, полезных роботов, подобных Echo компании Amazon и Jibo Синтии Бризил.
Будет ли мир, за которым присматривают те, кого поэт 1960-х Ричард Бротиган назвал «машинами благодати и любви», свободным? Свободным в смысле «свободы слова», а не «бесплатного пива»{1}. Лучший способ получить ответ на вопрос о контроле в мире, полном умных машин, – понять ценности тех, кто фактически создает эти системы.
В Кремниевой долине среди оптимистически настроенных специалистов популярно мнение, что сочетания силы инноваций и закона Мура – удвоения вычислительной мощности каждые два года – достаточно для объяснения технического прогресса. Мало кто задумывается о том, почему одна технология берет верх над другими или почему та или иная технология появляется в определенный момент. Это представление – полное отрицание того, что социологи называют «социальным конструированием технологии», т. е. понимания того, что мы формируем наши методы, а не они нас.
Мы уже не один век сосуществуем с машинами вроде экскаватора, которые заменяют работников физического труда, но умные машины, приходящие на смену белым воротничкам и работникам умственного труда, – явление новое. Информационные технологии не просто заменяют людей, они демократизируют определенные процессы. Использование персонального компьютера не только позволяет обходиться без секретаря. Интернет и сеть значительно уменьшили стоимость, например, новостных изданий, они не только полностью изменили издательский процесс, но и коренным образом трансформировали сбор информации и представление новостей. Аналогичным образом технологии коррекции тона позволяют петь любому, просто нажав на кнопку, без обучения, а множество компьютеризированных музыкальных систем дают возможность каждому желающему стать композитором и музыкантом. От того, какими будут эти системы, зависит, что нас ждет – невиданный ренессанс или нечто мрачное, мир, где профессии людей будут полностью переданы машинам. Идеи Маккарти и Энгельбарта привели к началу новой эры, в которой компьютеры должны преобразовать экономику и общество в такой же мере, в какой это сделала промышленная революция.
Недавние эксперименты с гарантированным «базовым доходом» для беднейшей части мира также могут пролить свет на будущее работы в условиях наступления блистательных машин. Результаты этих экспериментов оказались поразительными, поскольку они опровергли широко распространенную идею о том, что экономическая защищенность подавляет желание работать. Эксперимент в нищей индийской деревушке в 2013 г., гарантировавший удовлетворение базовых потребностей, дал противоположный результат. Бедные не расслабились, получив правительственные субсидии, а стали более ответственными и эффективными. Не исключено, что у нас скоро появится возможность провести такой же эксперимент в промышленно развитых странах. Идея обеспечения базового дохода уже включена в политическую повестку дня в Европе. Эта идея, родившаяся в 1969 г. в администрации Никсона в форме отрицательного подоходного налога, в настоящее время политически неприемлема в Соединенных Штатах. Однако ситуация быстро изменится, если технологическая безработица распространится достаточно широко.
Что произойдет, если наша рабочая сила больше не будет нужна? Что, если рабочие места складских рабочих, мусорщиков, врачей, адвокатов и журналистов займут роботы? Конечно, никто не знает, каким именно окажется будущее, но, на мой взгляд, общество увидит, что у людей внутренне заложено желание работать или иным образом производить что-то, имеющее ценность. Новая экономика создаст рабочие места, которые невозможно представить себе сегодня. Писатели-фантасты, впрочем, уже хорошо поработали в этой области. Почитайте «Мать штормов» (Mother of Storms) Джона Барнса или «Аччелерандо» (Accelerando) Чарли Стросса, чтобы представить, как может выглядеть экономика будущего. Простой ответ заключается в том, что творческий потенциал человека безграничен, и если о наших базовых потребностях будут заботиться роботы и искусственный интеллект, то мы найдем возможности развлекаться, учиться и заботиться друг о друге новыми способами. Ответы могут быть туманными, но вопросы становятся все более четкими. Кем будут эти взаимодействующие с нами и заботящиеся о нас интеллектуальные машины – нашими союзниками или поработителями?
