Чем грозит человечеству компьютеризация всей нашей жизни

Смартфоны, роботы и компьютеры облегчают нашу жизнь, но, может быть, мы что-то при этом теряем? Корреспондент побеседовал с американским писателем Николасом Карром об опасностях и даже угрозах чрезмерной автоматизации.

Распространено мнение, что автоматизация всего и вся повышает качество нашей жизни. Компьютеры помогают нам достичь максимальной производительности. Программные приложения позволяют выполнять задачи быстрее и проще. Роботы берут на себя нудную и тяжелую работу. Постоянный поток инноваций из Кремниевой долины лишь укрепляет веру людей в то, что новые технологии делают жизнь лучше.

Однако есть и другое мнение. Писатель Николас Карр подвергает постулаты современного цифрового мира беспристрастному анализу. Его очерк "Делает ли нас Google глупыми?", опубликованный в журнале Atlantic в 2008 г., до сих пор вызывает ожесточенные споры, как и последовавший за ним в 2010 г. бестселлер "Пустышка" (The Shallows).

Приверженцы теории, гласящей, что технологии спасут наш мир, видят в Карре одного из самых влиятельных противников. А те, кто с опаской относится к последствиям технологического прогресса для человечества, уважают его за взвешенность аргументации.

Сейчас Карр заинтересовался новым вопросом: стоит ли нам опасаться, что постепенно в мире не останется для нас трудных задач? Не станет ли наша жизнь чересчур эффективной благодаря новым технологиям?

Некоторое время назад я встретился с писателем, чтобы поговорить о его новой книге "Стеклянная клетка: Автоматизация и мы" (The Glass Cage: Automation and Us) и о том, что заставило его написать ее.

1. Развенчивая главный миф о новых технологиях

"Мы привыкли считать, что эффективность и комфорт - это по умолчанию хорошо.Такой подход довольно наивен"

Том Чэтфилд: Если я правильно понял, в книге "Стеклянная клетка" вы делаете попытку развенчать миф о том, что упрощение нашей жизни благодаря технологическому прогрессу - это обязательно положительное явление.

Николас Карр: Как на персональном, так и на институциональном уровне мы привыкли считать, что эффективность и комфорт - это по умолчанию хорошо, а их максимизация является безусловно достойной целью. Мне кажется, что такой подход к технологии во всех ее формах, особенно в виде компьютерной автоматизации, довольно наивен. Это касается и наших собственных желаний, и реальной жизни в современном мире.

Заменят ли когда-нибудь компьютеры людей?

Т.Ч.: И все же большинство адептов технологического прогресса придерживаются утилитарной точки зрения, согласно которой самые крупные ошибки мы совершаем из-за пренебрежения эффективностью и логикой и фактически сами не знаем, что именно для нас хорошо. Поэтому, с их точки зрения, задачей технологического прогресса является определение недостатков человеческого мышления, а затем и создание систем, которые компенсировали бы эти недостатки. Ошибочно ли такое мнение?

Н.К.: С одной стороны, многие инновации в сфере развития компьютерной техники и разработки автоматизированных систем не имеют ничего общего с огульным утверждением о том, что люди очень несовершенны по сравнению с компьютерами. Да, компьютер можно запрограммировать на бесконечное выполнение определенных операций с неизменным качеством. И это правда, что человек на такое не способен.

Но некоторые заходят еще дальше и утверждают, что люди слишком несовершенны, что их роль необходимо максимально ограничить, а за все основные задачи должны отвечать компьютеры. Речь тут идет не просто о попытках компенсировать недостатки человека - идея в том, чтобы вообще убрать человеческий фактор, в результате чего, как утверждается, наша жизнь станет гораздо лучше.

Т.Ч.: Кажется, это не самая удачная идея. А существует ли оптимальный уровень автоматизации?

Н.К.: На мой взгляд, вопрос не в том, нужно ли нам автоматизировать ту или иную сложную задачу. Вопрос в том, каким образом нам использовать автоматизацию, как именно применять компьютеры с целью дополнения человеческих знаний и умений, компенсации изъянов в человеческом мышлении и поведении, а также для стимулирования людей к максимальному использованию собственного опыта для достижения новых высот.

Чрезмерная зависимость от программного обеспечения может превратить нас в наблюдателей за компьютерными мониторами и операторов по заполнению технологических карт. Компьютеры способны играть очень важную роль, поскольку мы всего лишь люди - мы можем пасть жертвой предубеждений или упустить важную информацию. Но опасность состоит в том, что слишком легко отдать компьютерам на откуп вообще все наши функции, что, по моему мнению, было бы неправильным решением.

2. Нужно ли приближать реальную жизнь к сценарию видеоигры?

Т.Ч.: Я с удовольствием отметил, что в своей книге вы приводите видеоигры в качестве примера взаимодействия в системе "человек-машина", при котором смысл состоит в преодолении трудностей, а не избегании их. Самые популярные игры представляют собой своего рода работу, выполнение которой приносит игроку чувство удовлетворения. Остается только посетовать на то, что та работа, которую многие из нас вынуждены выполнять каждый день, требует гораздо меньше мастерства и приносит нам гораздо меньше удовольствия.

Н.К.: Видеоигры весьма интересны тем, что их концепция идет вразрез с общепринятыми принципами создания программного обеспечения. Цель компьютерных игр состоит вовсе не в том, чтобы избавить пользователя от неудобств. Наоборот, они стимулируют игрока на то, чтобы прилагать дополнительные усилия и максимально задействовать мозг. Мы получаем удовольствие от видеоигр именно потому, что они ставят нам задачи, сложность которых постоянно увеличивается. Мы постоянно оказываемся в сложных ситуациях – но не в таких, которые вызывают отчаяние. Преодоление каждого нового уровня только оттачивает наше мастерство.

Этот процесс очень похож на то, как человек обретает жизненный опыт в реальной жизни. Как нам известно, для развития способностей человеку необходимо снова и снова сталкиваться с серьезными препятствиями и раз за разом преодолевать их, задействуя все свои знания и умения. Постепенно человек достигает нового уровня, после чего сложность препятствий увеличивается.

Я думаю, что людям нравятся видеоигры по той же причине, по которой они получают удовлетворение от приобретения нового опыта и преодоления препятствий. Решение трудной задачи, в процессе которого обретаются новые знания, необходимые для преодоления новых, еще более сложных трудностей, доставляет человеку большое удовольствие.

Одно из основных опасений, которые я высказываю в книге, связано с тем, что наше отношение к прогрессу связано с желанием максимально избегать решения сложных задач. Мне кажется, такая точка зрения противоречит самой концепции удовлетворения жизнью и самореализации.

3. Упразднят ли компьютеры нужду в людях?

Т.Ч.: В отличие от видеоигр, в реальном мире тяжелая работа вовсе не обязательно вознаграждается. Реальный мир несправедлив и несбалансирован. Возможно, самая тревожная тенденция здесь - это то, что интересы отдельного человека (в психологическом, личностном плане и даже с точки зрения выживания) все чаще перестают совпадать с корпоративными и государственными понятиями целесообразности. Не опасаетесь ли вы того, что компьютеры окончательно заменят людей?

Н.К.: Когда я собирал материал для книги, меня очень напугала статья (цитаты из которой я привожу в тексте), написанная специалистом по военной стратегии. По его словам, учитывая растущие масштабы применения компьютерных технологий на поле боя, очень скоро в военном деле для человека может просто не остаться места. Скорость принятия решений настолько выросла, что люди просто не успевают за компьютерами. Мы неизбежно движемся в сторону полностью автоматизированных боевых действий: беспилотные летательные аппараты будут сами решать, когда выпускать ракеты по целям, а солдаты-роботы на земле будут сами решать, когда открывать огонь.

На мой взгляд, такая ситуация наблюдается не только в военном деле, но и во многих других сферах – например, в мире финансов. Люди просто не успевают за компьютерами при торговле финансовыми инструментами, например.

Что же нас ждет? Мы можем не просто утерять отличающую нас от компьютеров способность к критической оценке собственных действий – возможно, мы будем внедрять подобные системы бездумно, полагая, что главное - это скорость принятия решений. А потом, если мы убедимся в том, что были неправы, обнаружим, что пути назад уже нет. Очень часто встроить человека в систему, изначально построенную на компьютерных технологиях, оказывается невозможным.

Т.Ч.: Я тоже ужаснулся, прочитав в вашей книге пассаж относительно автоматизированного ведения боевых действий. У меня возникло чувство, что процесс, который приведет нас к полностью автономным боевым системам, невозможно остановить. Отчасти мой ужас вызван воспоминаниями о финансовом кризисе 2008 г., который фактически уничтожил триллионы долларов. По крайней мере, теперь люди более ответственно относятся к своим финансам. Но если подобное произойдет в военной сфере, уничтожены будут уже не доллары, а человеческие жизни.

Кроме того, мне кажется, что здесь содержится мысль, отсылающая к вашей предыдущей книге "Пустышка": сегодняшние люди в биологическом смысле не сильно отличаются от наших предков, живших сотни лет назад, но мы живем в совершенно новом мире.Скорость, с которой наступают последствия тех или иных действий, уже давно превышает скорости, к которым мы привыкли. То же относится и к новым изобретениям - они сами, в виде информации и алгоритмов, а также их последствия, распространяются ошеломительными темпами.

Будущее без людей?

Н.К.: Дело не только в том, что новые технологии, в особенности технологии в области программного обеспечения, сегодня можно реплицировать и очень быстро распространять. Дело еще и в том, что все эти процессы происходят в конкурентной среде. Говорим ли мы о гонке вооружений или о деловой конкуренции, как только кто-либо из соперников получает кратковременное преимущество за счет той или иной технологии, тут же эту технологию начинают внедрять где только можно - потому что никто не хочет оставаться в невыгодном положении.

Я думаю, в данной ситуации слишком просто упустить из виду тот факт, что мы по сути являемся животными. Люди прошли эволюционный путь длиной в тысячелетия ради возможности жить и выживать. Роль человечества, равно как и наши ощущения удовлетворения и самореализации, тесно связаны с нашим опытом жизни в мире, задающем привычный нам темп.

Поэтому когда мы противопоставляем человека, со всеми его физическими достоинствами и недостатками, быстрому и точному компьютеру, возникает желание отдать на откуп компьютерам всю нашу жизнь. Однако мы забываем, что тотальное подчинение компьютеру приведет нас к жизни, в которой останется мало места для самореализации.

4. Как же нам автоматизировать мир?

Т.Ч.: Я полагаю, что нам необходимо критически относиться к новым технологиям, но меня беспокоят люди, превращающие излишние трудности и антитехнологическую "аутентичность" в фетиш. Существует такая современная школа мысли, воспевающая тяжелый физический труд и утверждающая, что все, что мы делаем, должно быть кустарным и аутентичным. На мой взгляд, такая позиция отдает снобизмом и не учитывает огромное количество позитивных достижений, которые принесла с собой демократизация технологического прогресса.

Н.К.: Я с вами совершенно согласен. В одном из интервью меня спросили, как мое осторожное отношение к прогрессу поможет, к примеру, людям, работающим в тяжелых условиях на мясоперерабатывающих комбинатах. Я ответил, что, разумеется, автоматизации производства всегда найдется место там, где условия труда людей необходимо улучшать. Просто можно внедрять инновации по-умному, а можно делать это необдуманно; мы можем найти способ учитывать ценность человеческого опыта и важность самореализации, или же мы можем просто превозносить способности компьютеров. Сделать правильный выбор непросто. Если воспринимать эту задачу исключительно в черно-белых тонах - либо мы слепо ратуем за тяжелый, изматывающий физический труд в любых ситуациях, либо, наоборот, видим смысл жизни в сибаритстве, - это делу не поможет.

Люди постоянно создают и используют орудия труда. Испокон веков нам приходится принимать решения, связанные с разделением труда, с разделением объема работ между человеком и инструментами, которыми он располагает. И мне кажется, что потрясающая эффективность компьютеров в выполнении широкого круга задач только усложняет процесс принятия таких решений.

5. Что же нас ждет?

"Нужно стремиться к тому, чтобы компьютеры обогащали наш жизненный опыт, а не превращали нас в пассивных наблюдателей за экранами мониторов"

Т.Ч.: Так куда же движется человечество?

Н.К.: Историк естествознания Томас Хьюз, скончавшийся в прошлом году, предложил концепцию "технологического толчка" (technological momentum). Он полагал, что технологии, внедренные в социальные структуры и процессы, начинают развиваться сами по себе, увлекая за собой общество. Вполне возможно, что наша траектория уже задана и что мы будем продолжать идти теперешней стезей, не задаваясь вопросами о том, в правильном ли направлении движемся. На самом деле я не знаю, что произойдет. Максимум, на что я способен, - это пытаться рассуждать об этих действительно сложных вопросах в меру моих способностей.

Надеюсь, что мы как личности и как члены общества сможем сохранить определенный уровень понимания того, что с нами происходит, а также определенный уровень любопытства, и будем принимать решения, исходя из наших долгосрочных интересов, а не из привычных нам концепций удобства, скорости, точности и эффективности.

Мне кажется, нам нужно стремиться к тому, чтобы компьютеры обогащали наш жизненный опыт и открывали нам новые возможности, а не превращали нас в пассивных наблюдателей за экранами мониторов. Я все-таки думаю, что если мы будем добиваться большего от новых технологий, они смогут делать то же, что делали технологии и инструменты на протяжении всей истории человечества - создавать более интересный окружающий мир и помогать нам самим становиться лучше. В конечном счете, все зависит от нас самих.