наибольшую выгоду получат те, кто владеет машинами.
В долгосрочной перспективе искусственный интеллект также представляет для человечества катастрофический риск9. В какой-то момент интеллектуальные машины, вероятно, превзойдут людей в выполнении всех возможных задач. Вскоре после этого разрыв между их способностями и нашими станет таким же, как разрыв между нами и нашими домашними животными. Когда это произойдет, будет крайне важно, чтобы эти машины разделяли наши ценности и были готовы мирно сосуществовать с человечеством.
Последнее в мире селфи. Художественное изображение, созданное системой искусственного интеллекта DALL-E
Вышедший из-под контроля искусственный интеллект, пожалуй, представляет собой самую крупную долгосрочную угрозу для будущего человечества. Но еще одна ключевая уязвимость связана с изменением климата. У экономистов есть понятие «хвостового риска» – так называют крайне малый шанс на крайне негативный исход событий. В случае глобального потепления «хвостовые» риски возникают потому, что мы не знаем, сколько углерода будет выброшено в атмосферу в будущем и как на это отреагирует планета. Дополнительная неопределенность возникает из-за потенциально связанных с этим негативных событий, таких как таяние ледникового покрова Гренландии или исчезновение тропических лесов Амазонки. Мы догадываемся, что изменение климата не принесет ничего хорошего – но в действительности оно может оказаться поистине катастрофическим10.
В частной жизни, предвидя некоторую вероятность катастрофы, мы задействуем экономическое мышление и покупаем страховку, чтобы, выплачивая небольшой ежегодный взнос, застраховаться от возможной потери жилья или смерти основного кормильца. Аналогичным образом в случае общих рисков для человечества нам лучше уже сейчас потратить скромную сумму на обучение искусственного интеллекта этике и сокращение выбросов углекислого газа, а также снижение других экзистенциальных рисков, включая биотерроризм и угрозу ядерного конфликта.
Предотвратив катастрофу, человечество сможет использовать инструменты экономики для решения более прозаических проблем. Из-за пробок на дорогах средняя скорость движения в Лондоне, Бостоне, Париже и Брюсселе сегодня составляет около 18 км/ч, что примерно соответствует скорости лошади, бежавшей по этим улицам в XIX веке11. Пробки на дорогах в среднем отнимают у водителя в Германии 40 часов в год, в США – 51 час в год и в Великобритании – 80 часов в год12. От Торонто до Мехико сокращение пробок на дорогах означало бы серьезное улучшение качества жизни миллионов горожан.
Каков худший вариант развития событий?
Большая часть дискуссий о рисках, связанных с развитием искусственного интеллекта, сосредоточена на «негативных» результатах этого развития, к которым относят дезинформацию, алгоритмическую дискриминацию и потерю рабочих мест из-за автоматизации. Но еще одним источником опасности является вероятность катастрофы. Как только искусственный интеллект превзойдет человеческий, машины начнут все быстрее удаляться от нас в развитии, как это уже сделали компьютеры, научившиеся играть в настольные игры, такие как шахматы и го. Искусственный интеллект станет последним изобретением человечества.
Невозможно знать, что находится за пределами этой точки перехода, которую ученые называют сингулярностью. На что будет похоже наше будущее – на сериал «Звездный путь» или фильм «Терминатор»? Сможет ли повышенная производительность обеспечить всем безмятежную жизнь, или сверхразумные машины сочтут человечество ненужным для своих целей?
Экономисты, изучающие неопределенность, отмечают, что, изучая возможности, полезно рассматривать весь их спектр, не ограничиваясь наиболее вероятными. Для этого экономисты используют понятие ожидаемой ценности, для определения которой умножают итоговые затраты или выгоды на вероятность рассматриваемого результата. Если существует 1 % вероятности выиграть $100 млн, ожидаемая ценность в данном случае составляет миллион долларов. Аналогичным образом, если вы хотите застраховать предмет стоимостью $100 млн, вероятность потери которого равна 1 %, справедливый страховой взнос составит миллион долларов.
По результатам опроса специалистов, занятых изучением искусственного интеллекта, исследователи в среднем ожидают наступления сингулярности в 2059 году13. Среднестатистический исследователь считает, что существует 5 % вероятности «чрезвычайно негативного исхода (например, вымирания человечества)». Две трети исследователей искусственного интеллекта считают, что общество должно уделять безопасности искусственного интеллекта больше внимания. С точки зрения ожидаемой ценности даже минимальная вероятность катастрофы может в итоге обойтись очень дорого.
С макроэкономической точки зрения самое большое разочарование вызывает то, что почти сто лет спустя после Великой депрессии экономисты так и не смогли взять под контроль цикл подъемов и спадов. Мы, как представители профессии, должны с грустью признать: современная экономика по-прежнему каждые 10–20 лет порождает новый экономический кризис. Антикризисное управление составляет значительную часть работы современных правительств. Если нам удастся навсегда оставить рецессию в прошлом, это станет крупнейшим достижением в экономике.
Живя в капиталистической экономике, легко воспринимать рынки как нечто само собой разумеющееся. Когда мы приходим в супермаркет, мы ожидаем увидеть там большой выбор нужных нам товаров и продуктов. Во время кризиса COVID люди были по-настоящему поражены, столкнувшись с тем, что из магазинов ненадолго исчезла туалетная бумага. Через несколько недель поставки вернулись в норму, хотя масштабы пандемии только нарастали. Работа «невидимой руки рынка» когда-то приводила в замешательство коммунистических чиновников. После распада Советского Союза один российский чиновник связался с британским экономистом и спросил: «Кто отвечает за снабжение хлебом населения Лондона?»14 В XXI веке экономика России и Китая перешла от коммунизма к капитализму, однако обе страны еще далеки от открытой демократии.
В 1946 году американский журналист Генри Хэзлитт написал книгу «Экономика за один урок» – урок заключался в том, что рыночные цены отражают скрытые издержки. Спустя 70 лет Джон Куиггин из Университета Квинсленда написал книгу «Экономика в двух уроках» (Economics in Two Lessons) – второй урок заключался в том, что иногда рыночная цена не совпадает с истинной стоимостью продукта. Хэзлитт показал, каким образом рыночные отношения стимулируют экономический рост (и это ключевая причина, почему в странах с капиталистической экономикой уровень жизни выше, чем в коммунистических странах). Куиггин объяснил, что рынкам свойственны недостатки, вызывающие загрязнение окружающей среды, безработицу и рост агрессивных монополий. В этой книге вопрос рассмотрен с обеих сторон: мы обсудили, как открытые рынки смогли вывести миллионы людей из нищеты и почему для процветания экономики важно устранять недостатки рынка. Капитализм не гарантирует благополучие тем, у кого нет капитала.
Говоря о роли правительства, мы можем представить его как специалиста по управлению рисками, обеспечивающего социальное страхование от разнообразных рисков – землетрясений, болезней, рецессии. Но способы снижения рисков не ограничиваются только стандартными государственными выплатами. В некоторых странах вместо обычных кредитов на обучение выдают кредиты с выплатами, зависящими от будущего дохода и наступающими только тогда, когда доход заемщика превышает определенный разумный порог. Некоторые экономисты предполагают, что кредиты с выплатой, зависящей от будущего дохода, можно также использовать
