посвятил этой теме больше полутора тысяч слов.
Сложно оспорить то, что благодаря языку мы стали хозяевами планеты. Способность выражать мысль словами понятно — уникальное свойство человека и наиболее универсальное. Благодаря речи мы обладаем возможностью манипулировать идеями, играть со смыслами и прошивать человеческий культурный код. Харари уместно привел в качестве примера деньги. По большому счету это не более чем бумажка с символами или код из нолей и единиц, если речь идет о цифровых деньгах. Они сами по себе не несут ничего, но благодаря речи и смыслу, заложенному в фундамент монетарной системы, человек получил универсальный инструмент обмена ценностями.
Речь — это в первую очередь способ передачи ценности и смыслов и один из способов скрыть что-нибудь за набором непонятных или мутных терминов. Человек достиг мастерства в игре словами и понятиями. И теперь это универсальное и уникальное свойство принадлежит не только нам. Вся наша культура — продукт речи. Все, что предстает нашему взору, наделено словесным смыслом, который мы же и заложили. Если мы не знаем, как что-то называется, или если это новый феномен, мы в первую очередь придумываем, как обозначить его в речи. Любой физический объект обладает лингвистическим смыслом. Благодаря языку мы можем манипулировать смыслами не только физически доступных объектов, но и абстрактных концепций, таких как теория относительности, теория вероятности, логика, математика (хотя в последнем случае это спорно: есть мнение, что мы биологически предрасположены к овладению математикой благодаря пальцам).
История человечества — это не события с датами, а мотивы и причины поступков, которые выражены словами, зафиксированы в летописях, народных сказаниях и фольклоре. Если нам нужно что-то выяснить, мы обращаемся к Google (или к другому поисковику) и вводим словесный запрос, который нам поможет. Когда тема необъятная и Google не дает ответа, удовлетворяющего потребность, мы идем в библиотеку. Поиск — это манипуляция со словами. Библия — это вера, выраженная в письменной форме, слова, которые мы наделили смыслом. Идея — это образ, который для успешного воплощения необходимо сформулировать в словах, письменно.
И вот нам дали поиграться с ChatGP T. О боже! Эта балаболка умеет играть словами, манипулировать идеями, отвечать на вопросы, сохраняя контекст. Не удивлюсь, если в какой-то версии она способна пройти «тест Тьюринга». Неужели Харари, Маск и прочие технолуддиты думают, что мы из-за этого теряем способность владеть языком? Эссе Харари, интервью Маска у Такера Карлсона говорят, на мой взгляд, именно об этом. О страхе, что теперь словами может манипулировать не только человек, но еще и компьютерный алгоритм. GPT делает это быстрее, точнее и аккуратнее, чем раньше это делал человек. Мы боимся, что кто-то, манипулируя алгоритмом, повлияет на наши действия, решения. Более того, Харари пишет о том, что мировоззрение может быть изменено, если не проконтролировать умную машину, а если не остановить развитие GPT, то свободе слова придет конец (это его последний аргумент). Все это сказано в будущем времени, позиция четкая: если мы не остановим ИИ, то нашей цивилизации будет плохо.
Но Харари и Маск опоздали. Мы потеряли контроль давно, когда появились социальные сети и всеми любимый ютьюбчик, где выдача контента происходит алгоритмизированно. В момент, когда мы позволили системе или тем, кто ею управляет, пессимизировать поисковую выдачу, мы отдали свободу. Харари, Маск и прочие техногиганты, подписавшиеся под письмом, опоздали. Нами управляют алгоритмы, и эти люди боятся утратить возможность влиять и контролировать алгоритм. «Демократия под угрозой» — так они говорят. Она давно сгинула, а все, кто о ней говорит как о чем-то существующем, глумятся над бренным ее трупом. Ну да ладно, пусть живут в своей иллюзии.
Я сейчас попробую посмотреть на ИИ и все, что с ним связано, как на нечто другое. Харари писал, что «взломан код цивилизации». Что история — это продукт деятельности операционной системы человека, ключевым элементом которой стала речь. По его мнению, она и способность коммуницировать взломаны ChatGPT. Но почему он решил, что может наступить конец истории человека? Я именно так интерпретировал его статью. Почему это не новый виток? Возможно, история перестанет принадлежать исключительно человеку, мы ее разделим между машиной и собой. Конечно, это все розовые мечты футуристов, но если размышлять широко, то почему бы не настолько масштабно?
С появления первой летописи мы считали, что история — это описание событий, произошедших в прошлом. Обычно они связаны с деятельностью человека как существа, обладающего свободой воли. Это крайне спорно, хотя бы потому, что поступки и действия человека становятся следствием биохимических процессов, происходящих в организме. Когда в нас бушует ураган гормонов, мы ли принимаем решения? Может, обстоятельства диктуют последовательность действий? Мы думаем, что обладаем свободой воли, и делаем предположение, будто история пишется биологическим существом, нами, доминирующим видом на этой планете. Однако теперь нам вдруг стало страшно, что вместе с нами историю может писать и машина. Сама или совместно с нами.
Если рассматривать технологический вид жизни как нечто потенциально возможное, то с таким отношением, которое есть сейчас, его существование действительно оказывается под вопросом. Нам необходимы еда и партнер для размножения, а машине этого не нужно. Роботы, заменившие человека в некоторых потенциально опасных профессиях, не обладают хрупким телом, им не требуется девяти месяцев на написание кода и десятки лет на воспитание мозга и декодирование и перенос культуры с буквенного выражения в смысловой. Им не нужны осознание и долгое обучение. Мы боимся этого: что машина станет разумной, что бы это ни значило. Но если вдруг это произойдет, что дальше? Отключать ИИ или оставить все как есть и наблюдать за происходящим? Для меня ответ очевиден: наблюдать.
Причем наблюдать не за машиной, а за человеком и его реакцией на то, что она делает. Видеть, как создается новый культурный объект, наделенный смыслом (мы, кстати, не знаем, существует ли уже что-то подобное). А вдруг машина создаст новую, уникальную идею, смысл который мы пока понять не в состоянии ввиду ограниченности вычислительной мощности мозга. Начнем ли мы жить в новой истории? Истории машины и человека? За всеми заявлениями о безопасности ИИ стоит звериный страх потери контроля. Как так, на Земле может появиться кто-то кроме нас, способный думать и, возможно, размышлять?! Важно отметить, что до этого еще очень далеко, даже рано об этом размышлять сколько-нибудь серьезно. Но раз все переживают о том, как не дать ИИ возможности развиваться, позволю себе рассмотреть другую сторону и порассуждать о причинах невозможности иного сценария. ИИ будет развиваться. Искусственное торможение технологии, возможно, замедлит, но не остановит этот процесс.
Пристегнитесь и наслаждайтесь поездкой
