Следовательно, процесс появления новых профессий и переподготовки людей никогда не остановится. Революция искусственного интеллекта не станет единственным переломным моментом, после которого рынок труда вновь обретет устойчивость. Скорее мы столкнемся с чередой постоянно усугубляющихся проблем. Уже сегодня мало кто из наемных работников рассчитывает всю жизнь проработать на одном месте[29]. К 2050 году безнадежно устареть может не только идея «пожизненного найма», но и концепция «профессии на всю жизнь».

Даже если бы мы постоянно изобретали новые профессии и переобучали кадры, неизбежно возникли бы сомнения, хватит ли людям эмоциональной устойчивости, чтобы выдержать эту бесконечную гонку. Перемены всегда даются тяжело, и суматошный мир начала XXI века породил глобальную эпидемию стресса[30]. Сумеют ли люди приспособиться к растущей волатильности рынка труда и непредсказуемости личной карьеры? Вероятно, чтобы защитить разум Homo sapiens от срыва, нам понадобятся более эффективные средства борьбы со стрессом, от медицинских препаратов до биологической обратной связи и медитации. Класс «лишних» людей может появиться не только из-за отсутствия работы и недостатка образования, но и из-за слабой психологической устойчивости.

Конечно, все сказанное выше – из разряда предположений. К началу 2018 года автоматизация уже изменила многие отрасли промышленности, но еще не привела к массовой безработице. Наоборот, во многих странах, например в США, уровень безработицы достиг исторического минимума. Никто не может с уверенностью предсказать, как автоматизация и машинное обучение повлияют на профессии в будущем, и очень трудно оценить, насколько быстро будут происходить изменения, – тем более что они зависят не только от технологических прорывов, но и от политических решений и культурных традиций. Даже когда беспилотные автомобили докажут, что они безопаснее и дешевле водителей из плоти и крови, не исключено, что политики и потребители будут годами или десятилетиями противиться переменам.

Как бы то ни было, расслабляться не стоит. Весьма опасно надеяться, что у нас появится достаточно новых профессий, чтобы компенсировать потери. Тот факт, что так происходило во время прежних волн автоматизации, не гарантирует повторения подобного сценария в совершенно иных условиях XXI века. Возможные социальные и политические бури настолько опасны, что, даже если вероятность системной массовой безработицы невелика, к ней нужно отнестись очень серьезно.

В XIX веке промышленная революция создала новые условия и породила проблемы, с которыми не могла справиться ни одна из существовавших в то время социальных, экономических и политических моделей. Феодализм, монархия и традиционные религии не годились для управления крупными промышленными центрами, миллионами рабочих, покинувших родные места, и непрерывно меняющейся современной экономикой. Человечеству пришлось создавать принципиально новые модели – либеральную демократию, коммунистическую диктатуру, фашистский режим. Понадобилось больше ста лет кровопролитных войн и революций, чтобы в процессе экспериментов с этими моделями отделить зерна от плевел и реализовать наилучшие решения. Детский труд в угольных шахтах, описанный в романах Диккенса, Первая мировая война и Голодомор на Украине в 1932–1933 годах – все это лишь малая часть той цены, которую человечество заплатило за свое обучение.

Вызов, брошенный человечеству в XXI веке биотехнологиями и ИТ, вероятно, гораздо серьезнее вызова, с которым оно столкнулось в эпоху паровых машин, железных дорог и электричества. Учитывая огромную разрушительную силу, которой обладает современная цивилизация, мы больше не можем позволить себе неудачных моделей, мировых войн и кровавых революций. В этот раз ложный путь способен привести к ядерной войне, появлению генетически модифицированных монстров и полному разрушению биосферы. Сегодня мы должны действовать эффективнее, чем наши предки в условиях промышленной революции.

От эксплуатируемых к ненужным

Возможные решения можно разделить на три категории: меры по предотвращению потери рабочих мест; меры по созданию достаточного числа новых рабочих мест; меры на случай, если темпы сокращения рабочих мест все же значительно превысят скорость появления новых.

Стратегия полного сохранения рабочих мест непривлекательна и, по всей видимости, нереалистична, поскольку предполагает отказ от огромных возможностей и преимуществ искусственного интеллекта и роботов. Тем не менее правительства могут намеренно сдерживать темпы автоматизации, чтобы смягчить ее последствия и дать людям время адаптироваться. Развитие технологий не предопределено заранее, и возможность тех или иных событий вовсе не означает их неизбежности. Власти могут успешно препятствовать новым технологиям, даже если те коммерчески конкурентны и экономически выгодны. Например, уже несколько десятилетий у нас есть технология для создания рынка человеческих органов, с предложением от «ферм тел» в слаборазвитых странах и практически неиссякаемым спросом со стороны богатых покупателей. Такие «фермы тел» могли бы стоить сотни миллиардов долларов. Однако свободная торговля человеческими органами законодательно запрещена, а черный рынок, хоть и существует, не так масштабен и развит, как можно было бы предположить[31].

Сдерживание темпов перемен поможет нам выиграть время для создания рабочих мест взамен устаревающих. Но, как я уже говорил, экономическое предпринимательство должно сопровождаться революцией в образовании и психологии. По всей видимости, новые профессии – если они не превратятся в простые бюджетные кормушки – потребуют высокой квалификации; по мере совершенствования искусственного интеллекта людям придется постоянно осваивать новые навыки и менять профессии. Здесь необходимо участие государства, которое должно субсидировать сектор непрерывного образования и обеспечивать социальную защиту во время неизбежных переходных периодов. Если сорокалетнего оператора беспилотника нужно три года переучивать на разработчика виртуальных миров, ему потребуется поддержка государства, чтобы все это время он и его семья не голодали. (Такую схему недавно начали внедрять в Скандинавских странах, где власти следуют принципу «защищать работников, а не профессии».)

Однако нет никаких гарантий, что даже при существенной поддержке государства миллиарды людей смогут без ущерба для психики раз за разом начинать жизнь с нуля. Стало быть, если, несмотря на все наши усилия, значительная часть человечества будет вытеснена с рынка труда, нам придется исследовать новые модели посттрудового общества, посттрудовой экономики и посттрудовой политики. Первый шаг на этом пути – честно признать, что социальные, экономические и политические модели, унаследованные нами из прошлого, неспособны противостоять этому вызову.

Возьмем, к примеру, коммунизм. Мы видим, что автоматизация угрожает потрясением самих основ капиталистической системы, и логично было бы предположить, что коммунистическая идея будет реабилитирована. Однако коммунизм не поможет справиться с кризисом такого рода. Коммунизм XX века исходил из посылки, что основа экономики – это рабочий класс, и философы, разделявшие эту доктрину, пытались объяснить пролетариату, как конвертировать его громадную экономическую силу в политическое влияние. Коммунистический проект предполагал свершение пролетарской революции. Но что останется от этого учения в условиях, когда массы потеряют свою экономическую значимость и сражаться придется не против эксплуатации, а против ненужности? Как организовать пролетарскую революцию в отсутствие рабочего класса?

Мне возразят, что люди никогда не утратят экономическую значимость: ведь даже если они не смогут конкурировать с искусственным интеллектом за рабочие места, то всегда будут нужны экономике как потребители. Но вовсе не очевидно, что мы понадобимся экономике будущего даже в качестве потребителей.

Почему бы машинам и компьютерам не взять на себя и эту роль? Теоретически можно представить себе экономику, в которой горнопромышленная корпорация добывает железную руду и продает железо корпорации, которая производит роботов, а та, в свою очередь, продает роботов горнопромышленной корпорации, которая добывает еще больше руды, используемой для производства еще большего числа роботов, и так далее. Эти корпорации будут расти и расширяться до дальних рубежей Галактики, и им потребуются только роботы и компьютеры, а люди не будут нужны даже для того, чтобы покупать их товары.

Уже сегодня компьютеры и алгоритмы выступают в роли не только производителей, но и клиентов. Например, на бирже самыми влиятельными покупателями акций, облигаций и товаров оказываются алгоритмы. В рекламном бизнесе главным потребителем становится поисковый алгоритм Google. Разрабатывая веб-страницы, люди зачастую ориентируются именно на его предпочтения, а не на вкусы того или иного человеческого существа.

Очевидно, что алгоритмы не обладают сознанием, а потому, в отличие от потребителей из числа людей, не способны насладиться покупкой, и на их решения не влияют чувства и эмоции. Поисковый алгоритм Google не может ощутить вкус мороженого. Тем не менее алгоритмы делают выбор на основе вычислений и встроенных предпочтений, и эти предпочтения все заметнее влияют на нашу жизнь. В том, что касается ранжирования веб-страниц поставщиков мороженого, у поискового алгоритма Google весьма утонченный вкус, и самым успешным продавцом мороженого в мире будет та компания, которую Google поставит на первое место, а вовсе не та, что производит самое вкусное мороженое.

Я знаю это по своему опыту. Когда я публикую книгу, издатели просят меня приложить краткое описание, которое они будут использовать для рекламы в интернете. Но у них есть эксперт, который адаптирует мой текст для соответствия предпочтениям алгоритма Google. Этот человек внимательно читает то, что я написал, и говорит: «Не используйте это слово – замените его вот тем. Так у нас будет больше шансов привлечь внимание поискового алгоритма». Мы знаем, что если сумеем попасть в поле зрения алгоритма, то о числе читателей беспокоиться не придется.

Но если люди не нужны ни в качестве производителей, ни в качестве потребителей, как гарантировать их выживание и психологическое благополучие? Мы не имеем права ждать, пока кризис разразится в полную силу, чтобы потом начать искать ответы. Потом будет слишком поздно. Чтобы противостоять беспрецедентным технологическим и экономическим угрозам XXI века, нужно как можно быстрее создавать новые социальные и экономические модели. Эти модели должны быть направлены на защиту людей, а не профессий. Многие профессии скучны и монотонны, и сохранять их нет никакого смысла: едва ли кто-то мечтает всю жизнь быть кассиром. Мы должны сосредоточиться на обеспечении базовых потребностей людей, на защите их социального статуса и самооценки.

Одна из новых моделей, которая в последнее время привлекает все больше внимания, – это универсальный базовый доход (УБД). Концепция УБД предполагает, что государство взимает налоги с миллиардеров и корпораций, контролирующих алгоритмы и роботов, и тратит эти средства на выплату каждому человеку пособия, достаточного для удовлетворения базовых потребностей. Бедных это защитит от потери работы и разрушения экономических связей, а богатых – от нападок популистов[32].

Похожая теория предлагает расширить круг занятий, относимых к «труду». Сегодня миллиарды родителей воспитывают детей, соседи помогают друг другу, граждане объединяются в общественные организации, но все это не считается работой. Возможно, нам следует переключить что-то в своих головах и осознать, что воспитание ребенка – это, пожалуй, самая важная и трудная работа в мире. В этом случае нам не будет угрожать безработица, даже если компьютеры и роботы заменят всех водителей, банкиров и адвокатов. Резонный вопрос: кто будет оценивать этот труд и платить за него? Учитывая, что шестимесячные младенцы вряд ли будут платить жалованье своим матерям, эти расходы, по всей видимости, должно будет взять на себя государство. А поскольку нам хотелось бы, чтобы материнская зарплата покрывала базовые потребности семьи, в результате сложится система, мало чем отличающаяся от универсального базового дохода.

Еще один вариант: государство субсидирует не базовый доход, а универсальные базовые услуги. Вместо того чтобы давать людям деньги, на которые они купят все необходимое, государство может обеспечить им бесплатное образование, здравоохранение, транспортные услуги и так далее. По сути, это коммунистическая утопия. Планы коммунистов, связанные с пролетарской революцией, давно устарели, но, может быть, нам следует двигаться к идеалам коммунизма другим путем?

Никто точно не знает, что лучше: универсальный базовый доход (капиталистический рай) или универсальные базовые услуги (коммунистический рай). У обеих моделей есть свои преимущества и недостатки. Но независимо от того, какой рай кажется вам предпочтительным, главная проблема состоит в определении понятий «универсальный» и «базовый».

Что значит «универсальный»?

Когда речь заходит об универсальном базовом обеспечении – в виде дохода или услуг, – обычно подразумевается государственное базовое обеспечение. До сих пор все инициативы по внедрению УБД ограничивались национальными или муниципальными рамками. В январе 2017 года в Финляндии начался двухлетний эксперимент, в ходе которого 2000 безработных финнов ежемесячно получали по 560 евро, независимо от того, удавалось им найти работу или нет. Похожие эксперименты проводятся в канадской провинции Онтарио, в итальянском городе Ливорно и в нескольких голландских городах[33]. (В 2016 году в Швейцарии прошел референдум о введении национального базового дохода, но граждане проголосовали против этого предложения)[34].

Проблема с подобными государственными или муниципальными моделями заключается в том, что основные жертвы автоматизации чаще всего живут не в Финляндии, Онтарио, Ливорно или Амстердаме. Глобализация привела к тому, что население той или иной страны нередко полностью зависит от рынка сбыта в других странах, но автоматизация разрушает целые сегменты всемирной торговой сети – с катастрофическими последствиями для самых слабых ее участников. В XX веке развивающиеся страны, не имевшие природных ресурсов, развивали свою экономику главным образом за счет продажи дешевой и неквалифицированной рабочей силы. Сегодня миллионы граждан Бангладеш зарабатывают на жизнь тем, что шьют рубашки на продажу потребителям в США, а жители Бангалора трудятся в колл-центрах, принимая жалобы американских покупателей[35].

Однако с появлением искусственного интеллекта, роботов и 3D-принтеров дешевый неквалифицированный труд становится ненужным. Вместо того чтобы шить рубашки в Дакке, а затем доставлять их в США через океан, проще купить в интернет-магазине Amazon программу для 3D-печати рубашки и изготовить ее в Нью-Йорке. Магазины Zara и Prada на Пятой авеню сменятся центрами 3D-печати в Бруклине, и многие американцы, вероятно, предпочтут печатать одежду дома. А вместо того чтобы звонить в клиентскую службу в Бангалоре с жалобой на поломку принтера, вы сможете обсудить неисправность с искусственным интеллектом в облачном сервисе Google (его акцент и тембр голоса будут настроены с учетом ваших предпочтений). Но у оставшихся без работы швей в Дакке и у операторов колл-центров в Бангалоре не будет необходимого образования, чтобы сменить профессию и стать дизайнерами одежды или программистами. На что они будут жить?

Если искусственный интеллект и 3D-принтеры действительно вытеснят из сферы производства жителей Бангладеш и Бангалора, доход, который раньше получала Юго-Восточная Азия, будет оседать на счетах нескольких технологических гигантов из Калифорнии. Вместо экономического роста и улучшения условий жизни во всем мире мы увидим концентрацию огромных богатств в высокотехнологичных хабах вроде Кремниевой долины и разорение многих развивающихся стран.

Конечно, некоторые развивающиеся экономики, включая Индию и Бангладеш, смогут нарастить темпы и присоединиться к странам-лидерам. Дети и внуки работников текстильных фабрик или операторов колл-центров станут инженерами и предпринимателями, которые будут создавать собственные компьютеры и 3D-принтеры, – но на это нужно время. А времени осталось мало. В прошлом дешевый неквалифицированный труд служил мостом через глобальную экономическую пропасть, и, даже если та или иная страна развивалась медленно, у нее оставалась надежда рано или поздно достичь приемлемого уровня жизни. Шаги в верном направлении были важнее скорости движения. Но теперь мост шатается и очень скоро может рухнуть. С теми, кто уже преодолел пропасть между дешевым трудом и высокотехнологичными отраслями, вероятно, все будет в порядке. Но отстающие так и останутся на другой стороне этой пропасти без каких бы то ни было шансов через нее перебраться. Что делать в ситуации, когда ваша дешевая неквалифицированная рабочая сила никому не нужна, а у вас нет ресурсов, чтобы создать качественную систему образования и обучить людей новым навыкам?[36]

Какая судьба ждет отстающих? Возможно, американские избиратели не будут возражать против того, чтобы налоги Amazon и Google от их бизнеса в США пошли на пособия или бесплатные услуги оставшимся без работы шахтерам Пенсильвании или таксистам Нью-Йорка. Но согласятся ли граждане США направить свои налоги на поддержку безработных в тех странах, которые президент Трамп назвал «вонючими дырами»[37]? С тем же успехом можно рассчитывать на то, что проблему решит Санта-Клаус или пасхальный заяц.

Что значит «базовый»?

Универсальное базовое обеспечение предназначено для удовлетворения базовых потребностей человека, но у нас нет общепринятого определения этого термина. С чисто биологической точки зрения человеку для выживания требуется 1500–2500 Ккал в день. Все, что превышает эту норму, можно считать роскошью. Однако каждая культура в истории человечества определила для себя дополнительные потребности, назвав их «базовыми», хотя они и выходили за пределы минимальной нормы. В средневековой Европе доступ к богослужениям в церкви считался важнее пищи – это была забота о бессмертной душе, а не о бренном теле. В современной Европе в число базовых человеческих потребностей входят достойное образование и услуги здравоохранения, а некоторые даже утверждают, что теперь для всех мужчин, женщин и детей жизненно необходим доступ в интернет. Если в 2050 году «объединенное мировое правительство» согласится обложить налогами Amazon, Baidu и Tencent, чтобы обеспечить базовую поддержку всем людям на земле – не только в Детройте, но и в Дакке, – какой смысл они будут вкладывать в слово «базовые»?

Например, что должно включать базовое образование: обучение только чтению и письму или также программированию и игре на скрипке? Шесть лет начальной школы – или дальнейшие ступени, вплоть до докторантуры? А как насчет здравоохранения? Если к 2050 году достижения медицины позволят замедлить процессы старения и значительно продлить человеческую жизнь, будут эти услуги доступны всем 10 миллиардам жителей планеты – или только горстке миллиардеров? Если с помощью биотехнологий родители смогут совершенствовать детей, будет ли это относиться к базовым потребностям человека – или мы увидим расслоение человечества на разные биологические касты, когда у богатых суперлюдей появятся способности, намного превосходящие таланты бедных Homo sapiens?

Независимо от того, что мы понимаем под базовыми человеческими потребностями, как только все получат возможность бесплатно их удовлетворять, базовое обеспечение станет восприниматься как норма, а жесткая социальная конкуренция и политическая борьба сместятся в сферу роскоши. Это будут, например, беспилотные автомобили, доступ к паркам виртуальной реальности или возможность совершенствовать свое тело с помощью биоинженерии. Однако если безработные массы будут отстранены от управления экономическими активами, трудно представить себе, как они смогут получить доступ к подобной роскоши. А значит, пропасть между богатыми (руководителями Tencent и акционерами Google) и бедными (теми, кто зависит от УБД) станет практически непреодолимой.

Таким образом, даже если в 2050 году система универсального базового обеспечения позволит людям получать более качественные, чем сегодня, образовательные и медицинские услуги, недовольство всеобщим неравенством и отсутствием социальной мобильности не исчезнет. Люди будут считать, что система их обманывает, что правительство служит только сверхбогатым и что в будущем положение их самих и их детей только ухудшится[38].

Homo sapiens просто не создан для удовлетворенности. Счастье человека зависит не столько от объективных условий, сколько от его ожиданий. Однако ожидания часто подстраиваются к обстоятельствам, в том числе к обстоятельствам других людей.

Когда жизнь становится лучше, ожидания растут быстрее, и даже значительное улучшение условий может оставить нас такими же неудовлетворенными, как и прежде. Если цель универсального базового обеспечения – улучшение объективных условий жизни среднего человека к 2050 году, у такой стратегии неплохие шансы на успех. Но если цель – сделать так, чтобы люди были все более удовлетворены своей жизнью, а социальное неравенство уменьшалось, то из этого, скорее всего, ничего не выйдет.

Для достижения этих целей универсальное базовое обеспечение должно быть дополнено осмысленной деятельностью, от спорта до религии. Возможно, самый успешный на сегодняшний день эксперимент по достижению удовлетворенности жизнью в обществе посттруда поставлен в Израиле. В этой стране около 50 % мужчин из числа ультраортодоксальных евреев не работают. Они посвящают жизнь изучению священных книг и исполнению религиозных обрядов. Но они и их семьи не голодают: отчасти потому, что работают их жены, отчасти благодаря щедрому государственному пособию и бесплатным услугам, покрывающим их базовые потребности. Это некий прообраз универсального базового обеспечения[39].

Все исследования показывают, что, несмотря на бедность и отсутствие работы, ортодоксальные евреи неизменно демонстрируют более высокий по сравнению с другими слоями израильского общества уровень удовлетворенности жизнью. Причиной тому крепкие связи внутри общины, а также глубокий смысл, который они находят в изучении священных текстов и исполнении религиозных обрядов. В маленькой комнате, где еврейские мужчины обсуждают Талмуд, царит больше радости, подъема и внезапных озарений, чем в огромном цехе на текстильной фабрике, где не покладая рук трудятся рабочие. В глобальных исследованиях удовлетворенности жизнью Израиль обычно занимает верхние строчки – именно благодаря вкладу этих бедных и безработных людей[40].

Светские израильтяне часто жалуются, что ультраортодоксы вносят недостаточный вклад в развитие общества и живут за счет тяжелого труда других. Светские израильтяне склонны считать образ жизни ультраортодоксов неприемлемым, особенно учитывая тот факт, что ультраортодоксальные семьи в среднем воспитывают семерых детей[41]. Рано или поздно государство больше не сможет материально обеспечивать такое число безработных, и ультраортодоксам придется пойти работать. Но вероятен и противоположный сценарий. По мере того как искусственный интеллект и роботы будут вытеснять людей с рынка труда, на ортодоксальных евреев начнут смотреть как на модель будущего, а не как на пережиток прошлого. Это не значит, что все станут ортодоксальными евреями и отправятся в иешивы изучать Талмуд. Просто поиски смысла жизни и единомышленников заменят людям поиск работы.

Если мы сумеем соединить всеобщую экономическую безопасность с развитием общественной жизни и содержательной деятельностью, то передача работы алгоритмам может стать настоящим благословением. Но возможен и другой сценарий – потеря контроля над своей жизнью. Несмотря на опасность массовой безработицы, гораздо большее беспокойство должен вызывать переход власти от людей к алгоритмам, способный разрушить остатки веры в либеральную концепцию и открыть путь к появлению цифровых диктатур.

3

Свобода

Алгоритмы следят за тобой

В либеральной концепции свобода человека считается наивысшей ценностью. Сторонники либерализма утверждают, что в конечном счете источником любой власти служит свободная воля отдельных людей, выраженная в их чувствах, желаниях и выборе. В политике либерализм полагается на мнение избирателя и поэтому поддерживает демократические выборы. В экономике либерализм руководствуется принципом «клиент всегда прав» и превозносит принципы свободного рынка. В частной жизни либерализм призывает человека прислушиваться к себе, быть честным с собой и следовать велению сердца – до тех пор, пока он не посягает на свободу других. Эта личная свобода закреплена в правах человека.

Термин «либеральный» иногда используется в более узком смысле, как противоположность понятию «консервативный». Однако многие так называемые консерваторы тоже придерживаются принципов либерализма. Проверьте себя. Считаете ли вы, что люди должны выбирать правительство, а не слепо повиноваться монарху? Считаете ли вы, что люди должны сами выбирать себе профессию, а не оставаться в касте, к которой принадлежат по рождению? Считаете ли вы, что люди должны сами выбирать себе супруга, а не вступать в брак с тем, на кого указали родители? Если на все три вопроса вы ответили «да», примите мои поздравления: вы либерал.

Примечательно, что такие иконы консерватизма, как Рональд Рейган и Маргарет Тэтчер, были убежденными защитниками не только экономических, но и личных свобод. В 1987 году в своем знаменитом интервью Тэтчер сказала: «Общества как такового не существует. Есть только живая ткань из мужчин и женщин… и качество нашей жизни будет зависеть от того, насколько каждый из нас готов за себя отвечать»[42].

Наследники Тэтчер из партии консерваторов полностью согласны с лейбористами в том, что политическая власть проистекает из чувств, выбора и свободной воли отдельных избирателей. Когда Великобритания оказалась перед выбором, выходить из ЕС или нет, премьер-министр Дэвид Кэмерон не обращался за ответом к королеве Елизавете II, архиепископу Кентерберийскому или к ученым мужам из Оксфорда и Кембриджа. Он даже не обращался к членам парламента. Премьер-министр назначил референдум, и каждому британцу был задан вопрос: «Что вы чувствуете?»

Вы возразите, что людей спрашивали: «Как вы думаете?», а не «Что вы чувствуете?» – но это распространенная ошибка восприятия. На референдумах и выборах исход всегда зависит от чувств людей, а не от их рациональных размышлений. Если бы демократия требовала рационального принятия решений, не было бы никакого резона давать людям равные избирательные права – или вообще хоть какие-то избирательные права. Существует масса свидетельств того, что одни люди гораздо лучше информированы и более способны к рациональному мышлению, чем другие, особенно когда дело касается конкретных экономических и политических вопросов[43]. После референдума по Брекзиту выдающийся биолог Ричард Докинз высказал мнение, что подавляющее большинство британцев – включая его самого – не должны были голосовать на референдуме, поскольку не обладали необходимыми знаниями в области экономики и политики. «С тем же успехом можно организовать национальный плебисцит, чтобы решить, верны ли выкладки Эйнштейна, или позволить пассажирам голосовать, на какую полосу пилот должен посадить самолет»[44].

Хорошо это или плохо, но выборы и референдумы выявляют не мысли, а чувства людей. А в том, что касается чувств, Эйнштейн и Докинз ничем не лучше любого другого человека. Демократия предполагает, что наши чувства отражают загадочную и глубокую «свободу воли», что эта «свобода воли» – главный источник власти и что, хотя некоторые люди умнее других, все они одинаково свободны. Неграмотная горничная обладает такой же свободой воли, как Эйнштейн и Докинз, и в день голосования ее чувства, выраженные в сделанном ею выборе, обладают таким же весом, как и чувства всех остальных.

Чувствами руководствуются не только избиратели, но и политические лидеры. В 2016 году в процессе подготовки референдума по Брекзиту кампанию за выход из ЕС возглавляли Борис Джонсон и Майкл Гоув. После отставки Дэвида Кэмерона Гоув поначалу поддерживал кандидатуру Джонсона, но в последний момент заявил, что тот не подходит для должности премьер-министра, и объявил о намерении самому бороться за этот пост. Действия Гоува, лишившие Джонсона шансов стать главой кабинета, были расценены как политическое убийство в стиле Макиавелли[45]. Но Гоув оправдывал свой поступок чувствами, объясняя: «Перед каждым шагом в своей политической жизни я задавал себе вопрос: „Как я должен поступить? Что мне подсказывает сердце?“»[46] Вот почему, если верить Гоуву, он так яростно сражался за Брекзит, а затем счел необходимым нанести удар в спину своему верному союзнику Борису Джонсону, чтобы самому претендовать на статус альфа-самца: так подсказывало ему сердце.

Возможно, именно эта зависимость от веления сердца – ахиллесова пята либеральной демократии. Если кто-то (неважно, в Пекине или в Сан-Франциско) получит технологическую возможность «проникать в человеческое сердце» и манипулировать им, демократическая политика превратится в театр эмоциональных марионеток.

Прислушивайтесь к алгоритму

Либеральная вера в чувства и свободный выбор индивидов не являются ни естественными, ни древними. Тысячелетиями люди верили, что источник власти – божественные законы, а не человеческое сердце, а потому нужно благословлять слово Божие, а не свободу человека. Только в последние несколько веков источник власти переместился от богов, обитающих на небесах, к людям из плоти и крови.

Вскоре мы снова можем стать свидетелями передачи власти – но уже от людей к алгоритмам. Точно так же, как легитимацией божественной власти служила религиозная мифология, а власти людей – либеральная концепция, грядущая технологическая революция утвердит власть алгоритмов Big Data, подорвав саму идею индивидуальной свободы.

Как я уже отмечал в предыдущей главе, научные исследования функционирования нашего мозга и тела указывают на то, что чувства не являются уникальным духовным качеством человека и следствием «свободы воли». Скорее чувства представляют собой биохимические механизмы, которые используют все млекопитающие и птицы для быстрого вычисления шансов на выживание и продолжение рода. Чувства основаны не на интуиции, вдохновении или свободе – в их основе лежат вычисления.

Когда обезьяна, мышь или человек видит змею, чувство страха возникает из-за того, что миллионы нейронов в мозгу быстро обрабатывают соответствующие данные и приходят к заключению, что вероятность гибели велика. Чувство полового влечения возникает тогда, когда другие биохимические алгоритмы вычисляют, что находящийся рядом индивид обещает высокую вероятность успешного партнерства, социальных связей или какую-либо другую желанную цель. Нравственные чувства, такие как негодование, вина или прощение, обусловлены нейронными механизмами, отвечающими за групповое сотрудничество. Все эти биохимические алгоритмы совершенствовались миллионами лет эволюции. Если чувства одного из наших древних предков приводили к фатальной ошибке, то гены, сформировавшие эти чувства, не передавались следующему поколению. Таким образом, чувства не противоположны рациональности – они суть воплощение эволюционной рациональности.

Нам непросто осознать, что наши чувства представляют собой результат вычислений, поскольку быстрый вычислительный процесс протекает далеко за порогом нашего сознания. Мы не ощущаем, как миллионы нейронов мозга просчитывают вероятности выживания и продолжения рода, и поэтому ошибочно полагаем, что боязнь змей, выбор полового партнера или отношение к Евросоюзу определяются некой таинственной «свободой воли».

Теоретики либерализма ошибаются, полагая, что наши чувства отражают свободу воли, однако вплоть до недавнего времени руководствоваться чувствами было вполне разумно. В наших чувствах нет никакой магии, и все же именно они лучше всего помогают понять, чему нам учиться, на ком жениться, за какую партию голосовать. Никакая внешняя по отношению ко мне система никогда не поймет мои чувства лучше, чем я сам. Даже если бы испанская инквизиция или советский КГБ следили за мной каждую минуту каждого дня, у них не хватило бы биологических знаний и вычислительных мощностей, чтобы вмешаться в процессы, определяющие мои желания и мой выбор. С практической точки зрения было разумно считать, что мы обладаем свободой воли, потому что наша воля определяется в основном взаимодействием внутренних сил, невидимых снаружи. Я могу наслаждаться иллюзией контроля над своим внутренним миром, тогда как внешние наблюдатели никогда не поймут, что происходит у меня в мозгу и как я принимаю решения.

Так что либералы правы, когда советуют людям поступать по велению сердца, а не подчиняться диктату священника или партийного аппаратчика. Но по мере того как на место испанской инквизиции и КГБ будут заступать Google и Baidu, «свобода воли», скорее всего, превратится в миф, и тогда либерализм может лишиться своих практических преимуществ.

На наших глазах происходит слияние двух масштабных революций. Биологи проникают в тайны человеческого тела, мозга и чувств. Одновременно специалисты в области вычислительных систем открывают беспрецедентные возможности обработки данных. Когда биотехнологическая революция сольется с революцией в ИТ, появятся алгоритмы Big Data, способные следить за нашими чувствами и понимать их гораздо лучше, чем мы. И тогда власть перейдет от людей к компьютерам. Иллюзия свободы воли, скорее всего, развеется, если я каждый день буду сталкиваться с институтами, корпорациями и госучреждениями, которые манипулируют тем, что я до недавних пор считал своим внутренним миром, недоступным для других.

Для краткости воспользуемся следующей формулой:

б × в × д = ввч, где

б – биологическое знание,

в – вычислительная мощность,

д – объем данных.

Их произведение – ввч – возможность взломать человека.



Мы уже видим, как это работает в медицине. Самые важные медицинские решения опираются не на наше самочувствие, и даже не на компетентные прогнозы врача, а на вычисления компьютера, который понимает наше тело лучше, чем мы. Через несколько десятилетий алгоритмы больших данных, обрабатывающие непрерывный поток биометрической информации, смогут следить за нашим здоровьем ежедневно, 24 часа в сутки. Они выявят грипп, рак или болезнь Альцгеймера на самой ранней стадии – задолго до того, как мы почувствуем, что с нами что-то не так. Затем они порекомендуют необходимое лечение, диету и режим, разработанные с учетом наших физических данных, ДНК и особенностей личности.

Люди получат лучшее здравоохранение в истории, но именно поэтому они, вероятно, будут постоянно болеть. В нашем организме всегда есть неполадки и всегда есть что улучшить. В прошлом человек ощущал себя совершенно здоровым, пока не чувствовал боль или не начинал страдать от нарушения каких-то функций, например от хромоты. Но к 2050 году благодаря биометрическим датчикам и алгоритмам больших данных болезни будут диагностироваться и лечиться задолго до появления боли или нарушения функций. В результате вы всегда будете считаться «больным» и выполнять те или иные рекомендации алгоритма. А отказавшись лечиться, вы можете лишиться страховки или даже работы – зачем работодателю платить за ваше упрямство?

Одно дело – не отказываться от сигарет, несмотря на статистические данные, связывающие курение с раком легких. Совсем другое – продолжать курить, вопреки категорическому предупреждению биометрического датчика, который обнаружил в верхней доле левого легкого 17 раковых клеток. А если вы решите проигнорировать предупреждение, что будет, когда датчик сообщит информацию вашей страховой фирме, вашему начальнику и вашей матери?

Но где взять время и силы, чтобы бороться со всеми этими болезнями? Скорее всего, мы научимся так программировать следящий за нашим здоровьем алгоритм, чтобы он сам справлялся с большинством выявленных проблем. В идеале он будет периодически слать отчеты нам на смартфон, сообщая, что «обнаружены и уничтожены 17 раковых клеток». Ипохондрики, конечно, расстроятся, но большинство людей просто проигнорируют эти сообщения точно так же, как сегодня мы игнорируем сообщения антивирусной программы на компьютере.

Драматизм принятия решений

То, что уже происходит в медицине, по всей видимости, будет распространяться и на другие сферы человеческой деятельности. Главное изобретение – биометрический датчик на поверхности или внутри тела, который преобразует биологические процессы в электронную информацию для компьютерной обработки и хранения. Достаточное количество информации и достаточная вычислительная мощность позволят внешним системам обработки данных вызнать все о ваших желаниях, решениях и мнениях. Они смогут точно определить, кто вы.

Большинство людей плохо себя знает. Я сам только в 21 год, после нескольких лет отрицания, наконец понял, что я гей. И мой случай не исключение. В подростковом возрасте многие геи сомневаются в своей сексуальной ориентации. Теперь представьте себе ситуацию: в 2050 году алгоритм точно подскажет подростку, в какой части спектра ориентации (гомосексуальной или гетеросексуальной) он находится и насколько гибка эта позиция. Возможно, алгоритм покажет вам фотографии или видео привлекательных мужчин и женщин, проследит за движением ваших глаз, кровяным давлением и активностью мозга, и уже через пять минут определит ваше положение на шкале Кинси[47]. Подобное изобретение могло бы избавить меня от нескольких лет фрустрации. Возможно, сами вы не испытываете желания проходить такой тест, но однажды на чьем-нибудь дне рождения кто-то из друзей предложит всем проверить себя с помощью нового крутого алгоритма (а все остальные будут стоять и смотреть, комментируя результаты). Вы откажетесь и уйдете?

Но даже если вы скрываете свою сексуальную ориентацию от себя и друзей, у вас не получится скрыть ее от Amazon, Alibaba или тайной полиции. Пока вы бродите по интернету, смотрите YouTube или листаете социальные сети, алгоритмы будут внимательно следить за вами, изучать вас и сообщать компании Coca-Cola, что, если она хочет продавать вам свои напитки, ей лучше использовать рекламу с полуобнаженным парнем, а не с полуобнаженной девушкой. Сами вы об этом даже не узнаете. Но они – будут знать, и ценность такой информации будет исчисляться миллиардами.

С другой стороны, нельзя исключить, что люди сами будут с готовностью делиться личными данными, чтобы получать наилучшие рекомендации, а то и вовсе просить алгоритм принимать решения вместо них. Начнется все с самого простого, например с выбора фильма для просмотра. Когда вы усаживаетесь с друзьями перед телевизором, сначала нужно решить, что все будут смотреть. Полвека назад у вас не было выбора, но сегодня, с развитием интерактивного телевидения, в вашем распоряжении – тысячи названий. Договориться непросто, потому что вы, например, любите научно-фантастические триллеры, Джек предпочитает романтические комедии, а Джилл обожает французский артхаус. В итоге компромиссом станет, скорее всего, бездарный малобюджетный фильм, который разочарует всех.

В подобной ситуации на помощь придет алгоритм. Вы сообщите ему, какие из ранее просмотренных фильмов понравились каждому из вас, и он, покопавшись в огромной базе данных, найдет идеальное решение для всей группы. К сожалению, слишком грубый алгоритм может ошибиться, особенно из-за того, что сведения, которые люди сообщают о себе, не всегда точно отражают их истинные предпочтения. Например, мы слышим, как многие хвалят фильм, называя его шедевром, чувствуем себя обязанными его посмотреть, засыпаем на середине, но все равно говорим, что восхищены, не желая выглядеть профанами[48].

Такого рода проблемы легко решить, если просто позволить алгоритму не полагаться на наши сомнительные самоотчеты, а собирать данные о нас в реальном времени, во время просмотра фильмов. Для начала алгоритм просто запомнит, какие фильмы мы досмотрели до конца, а какие бросили на середине. Даже если мы говорим всем и каждому, что «Унесенные ветром» – лучший из когда-либо снятых фильмов, алгоритм будет знать, что мы ни разу не продержались больше получаса и никогда не видели горящей Атланты.

Но алгоритм способен и на более глубокий анализ. В настоящее время разрабатывается программное обеспечение, умеющее распознавать эмоции человека по движению глаз и лицевых мышц[49]. Дополните телевизор хорошей камерой, и программа будет знать, какие сцены заставляют вас смеяться, какие вызывают грусть, а какие скуку. Затем предоставьте алгоритму доступ к показаниям биометрических датчиков, и он определит, как разные кадры влияют на частоту сокращений вашего сердца, на кровяное давление и активность мозга. Когда, например, мы смотрим «Криминальное чтиво» Тарантино, алгоритм может отметить, что сцена изнасилования вызывает у нас едва заметный импульс сексуального возбуждения, что случайный выстрел Винсента в лицо Марвину заставляет нас виновато рассмеяться, а шутку про бургер мы вообще не поняли – но все равно засмеялись, просто чтобы не выглядеть глупо. Когда вы заставляете себя смеяться, работают не те цепи нейронов в мозгу и не те лицевые мышцы, которые приходят в действие при искреннем смехе. Люди, как правило, не видят этих различий – но алгоритм их улавливает[50].

Слово «телевизор» образовано от греческого корня tele, что означает «далеко», и латинского visio – «вижу». Изначально это было устройство, которое позволяло нам видеть издалека. Но вскоре с его помощью издалека будут видеть нас. Как предсказывал Джордж Оруэлл в романе «1984», телевизор будет наблюдать за нами, пока мы его смотрим. Возможно, мы быстро забудем все фильмы Тарантино. Но Netflix, Amazon или любой другой владелец телевизионного алгоритма не забудет, какой у нас тип личности и как управлять нашими эмоциями. Такие данные позволят им не только с невероятной точностью выбирать для нас фильмы, но и принимать за нас самые важные решения в жизни – чему учиться, где работать, на ком жениться.

Разумеется, иногда Amazon будет ошибаться. Это неизбежно. Ошибки будут возникать из-за недостатка данных, несовершенства программы, нечетко поставленных целей и хаотичного характера самой жизни[51]. Но программа Amazon и не должна быть идеальной. Достаточно, чтобы в среднем алгоритм превосходил человека. А это не так уж трудно, потому что большинство людей плохо себя знают и, принимая самые важные в своей жизни решения, совершают ужасные ошибки. Люди страдают от недостатка данных, несовершенства программы (генетической и культурной), нечетких определений и хаоса жизни намного больше алгоритмов.

Можно перечислить множество проблем, с которыми сталкиваются алгоритмы, и прийти к выводу, что люди никогда не будут им доверять. Но это сродни составлению списка недостатков демократии с последующим заключением, что ни один здравомыслящий человек не поддержит такую систему. Широко известны слова Уинстона Черчилля о том, что демократия – худшая политическая система, если не считать всех остальных. Люди могут прийти к таким же выводам (справедливым или не очень) об алгоритмах больших данных: у них масса недостатков, но лучшей альтернативы у нас нет.

Ученые все яснее понимают природу процессов, связанных с принятием человеком решений, и соблазн довериться алгоритмам, скорее всего, будет усиливаться. Знания о процессе принятия решений мозгом не только повысят надежность алгоритмов больших данных, но и сделают менее надежными человеческие чувства. Когда правительства и корпорации взломают операционную систему человека, на нас обрушится шквал точно выверенных манипуляций, рекламы и пропаганды. Манипулировать нашим мнением и эмоциями станет так легко, что мы будем вынуждены довериться алгоритмам – подобно тому, как пилот самолета, у которого закружилась голова, должен игнорировать свои ощущения и довериться приборам и автоматике.

В ряде стран и в некоторых ситуациях у людей, возможно, просто не останется выбора: им придется подчиняться решениям алгоритмов больших данных. Но алгоритмы могут захватить власть даже в предположительно свободных обществах, поскольку мы на личном опыте научимся доверять им все больше и больше дел, постепенно утрачивая способность самостоятельно принимать решения. Задумайтесь: всего за два десятка лет миллиарды людей научились доверять алгоритму Google решение одной из самых важных задач: поиска достоверной информации. Мы больше не ищем информацию – мы «гуглим». И пока мы раз за разом полагаемся на Google, наша способность к самостоятельному поиску информации ослабевает. Уже сегодня «правдой» считается то, что попадает в верхние строки поисковой выдачи Google[52].

Нечто подобное происходит и с физическими возможностями, в частности с ориентацией на местности. Люди спрашивают дорогу у Google. Например, интуиция подсказывает водителю повернуть на перекрестке налево, но навигатор в Google Maps говорит: «Поверните направо». Поначалу водитель прислушивается к интуиции, поворачивает налево, попадает в пробку и пропускает важную встречу. В следующий раз он следует указанию Google, поворачивает направо и приезжает вовремя. Опыт приучает его доверять Google. Через год или два он уже слепо выполняет любые рекомендации Google Maps, а при поломке смартфона становится совершенно беспомощным.

В марте 2012 года в Австралии три японских туриста решили осмотреть маленький остров недалеко от берега и заехали на машине прямо в Тихий океан. Водитель, двадцатиоднолетний Юдзу Нода, впоследствии объяснил, что просто следовал указаниям системы GPS: «Она сказала нам, что мы можем ехать прямо туда. Навигатор говорил, что покажет нам дорогу. Мы чуть не утонули»[53]. В нескольких аналогичных случаях люди въезжали в озеро или падали с разрушенного моста – вероятно, следуя инструкциям GPS-навигатора[54]. Способность ориентироваться в пространстве подобна мышце – без тренировки она атрофируется[55]. То же относится и к способности выбирать супруга или профессию.

Каждый год миллионам юношей и девушек приходится выбирать, какие предметы изучать в университете. Это очень важное и очень непростое решение. Вы испытываете давление родителей, друзей и преподавателей, у каждого из которых свой интерес и свое мнение. А у вас собственные страхи и фантазии. На ваше решение влияют голливудские блокбастеры, низкопробные романы и изощренные рекламные кампании. Разумное решение особенно трудно принять еще и потому, что вы не знаете, что требуется для успеха в разных профессиях, и у вас не всегда реалистичные представления о своих достоинствах и недостатках. Что нужно, чтобы стать успешным адвокатом? Как я буду реагировать на стресс? Получится ли у меня работать в команде?

Допустим, студентка выбирает юридический факультет, неверно оценив свои способности и имея искаженное представление о работе юриста (которая не сводится к прочувствованным речам и выкрикам: «Возражаю, ваша честь!»). А ее подруга полна решимости осуществить детскую мечту и стать профессиональной балериной, несмотря на неподходящее телосложение или трудности с самодисциплиной. По прошествии многих лет обе будут горько сожалеть о сделанном выборе. В будущем в подобных случаях мы сможем опереться на Google. Алгоритм подскажет, что я зря потрачу время на юридическом факультете или в балетной школе, но стану успешным (и очень счастливым) психологом или водопроводчиком[56].

Когда искусственный интеллект начнет принимать оптимальные решения о выборе карьеры (а возможно, и об отношениях с другими людьми), наше представление о человеческой природе и о жизни должно будет измениться. Люди обычно думают, что жизнь – это драма принятия решений. Либеральная демократия и капитализм со свободным рынком рассматривают индивида как независимого агента, постоянно принимающего решения, касающиеся окружающего мира. Произведения искусства – будь то пьесы Шекспира, романы Джейн Остин или пошлые голливудские комедии – обычно фокусируются на герое, который должен сделать непростой выбор. Быть или не быть? Последовать совету жены и убить короля Дункана – или прислушаться к голосу совести и пощадить его? Выйти замуж за мистера Коллинза или за мистера Дарси? В фокусе и христианской, и исламской теологии находится драма принятия решения: спасение души зависит от правильного выбора.

Что случится с подобным взглядом на жизнь, если мы будем все больше полагаться на искусственный интеллект, предоставляя ему право решать за нас? Сегодня мы доверяем Netflix выбирать для нас фильмы и спрашиваем у Google Maps, куда поворачивать. Но как только мы начнем полагаться на искусственный интеллект в выборе образования, места работы и супруга, человеческая жизнь перестанет быть драмой принятия решений. Демократические выборы и свободный рынок потеряют смысл – а с ними и большинство религий и произведений искусства. Представьте себе, что Анна Каренина достает смартфон и спрашивает алгоритм Facebook, что ей делать: остаться с Карениным или сбежать с красавцем графом Вронским. Или вообразите пьесу Шекспира, в которой жизненно важные решения принимает алгоритм Google. Несомненно, жизнь Гамлета и Макбета стала бы более комфортной – но на что она стала бы похожа? Есть ли у нас модель, позволяющая наполнить такую жизнь смыслом?

По мере того как власть будет переходить от людей к алгоритмам, наш мир перестанет быть местом, в котором действуют независимые индивиды, стремящиеся сделать правильный выбор. Вместо этого мы будем воспринимать Вселенную в виде потока данных, а организмы – в виде биохимических алгоритмов, и верить, что космическая миссия человечества заключается в создании всеобъемлющей системы обработки данных и последующем слиянии с ней. Уже сегодня мы превращаемся в крошечные элементы внутри гигантской системы обработки данных, которую никто до конца не понимает. Каждый день я получаю поток битов информации из электронной почты, твитов и статей. На самом деле я не знаю, каково мое место в этой гигантской структуре и как мои биты данных связаны с другими, исходящими от миллиардов других людей и компьютеров. И у меня нет времени это выяснять, поскольку я занят отправкой ответов на электронные письма.

Философствующий автомобиль

Мне могут возразить, что алгоритмы не будут принимать за нас важные решения, поскольку такие решения обычно имеют этический аспект, а этика алгоритмам недоступна. Однако нет никаких причин полагать, что алгоритмы не смогут превзойти среднего человека даже в области этики. Уже сегодня смартфоны и беспилотные автомобили принимают такие решения, монополия на которые всегда принадлежала человеку. Они начинают сталкиваться с теми же этическими проблемами, которые тысячелетиями не давали покоя людям.

Предположим, например, что два ребенка в погоне за мячом выскакивают на дорогу прямо перед беспилотным автомобилем. Алгоритм, управляющий автомобилем, мгновенно определяет, что единственный способ избежать наезда на детей – выехать на встречную полосу, рискуя столкнуться с приближающимся грузовиком. Алгоритм вычисляет, что в этом случае вероятность гибели владельца автомобиля, крепко спящего на заднем сиденье, – 70 %. Как должен поступить алгоритм?[57]

Философы с незапамятных времен спорят о «проблеме вагонетки» (в классическом примере речь идет не о беспилотном автомобиле, а о вагонетке, движущейся по рельсам)[58]. До недавнего времени эти дискуссии, к сожалению, почти не влияли на реальные поступки людей, поскольку в критические моменты они обычно забывают о своих философских взглядах и руководствуются эмоциями и интуицией.

Один из самых жестоких в истории социальных наук экспериментов был поставлен в декабре 1970 года над группой студентов Принстонской семинарии, которые готовились стать священниками пресвитерианской церкви. Каждого студента попросили прийти в другое здание и сделать краткий доклад на тему притчи о добром самаритянине. Эта библейская история повествует о еврее, которого по пути из Иерусалима в Иерихон ограбили и избили разбойники, а затем бросили умирать у дороги. Через некоторое время мимо прошли священник и левит, но не обратили на него внимания. В отличие от них самаритянин (член секты, презираемой иудеями) остановился, помог несчастному и спас ему жизнь. Мораль притчи в том, что о достоинствах людей нужно судить по их делам, а не по религиозным убеждениям.

Энергичные юные семинаристы поспешили в лекционный зал, размышляя на ходу, как лучше объяснить мораль притчи о добром самаритянине. Но экспериментаторы посадили на их пути человека в лохмотьях: он сидел в дверном проеме, опустив голову и закрыв глаза. Завидев студента, «жертва» начинала кашлять и жалобно стонать. Большинство семинаристов даже не остановились, чтобы спросить, все ли с ним в порядке, не говоря уже о том, чтобы предложить помощь. Эмоциональный стресс, вызванный необходимостью спешить в лекционный зал, заглушил моральное обязательство помочь страдающему незнакомцу[59].

Человеческие эмоции оказываются сильнее философских теорий и во многих других ситуациях. Это делает этическую и философскую историю мира довольно грустным рассказом о прекрасных идеалах и поведении, далеком от идеального. Сколько христиан на самом деле подставляют вторую щеку, сколько буддистов сумели подняться над эгоистическими страстями, сколько иудеев любят своих соседей как самих себя? Такими представителей вида Homo sapiens сделал естественный отбор. Подобно всем млекопитающим, для быстрого принятия решений, связанных с жизнью и смертью, Homo sapiens использует эмоции. Мы унаследовали свой гнев, страх и вожделение от миллионов предков, каждый из которых прошел чрезвычайно строгий контроль качества – естественный отбор.

К сожалению, то, что было полезно для выживания и продолжения рода миллион лет назад в африканской саванне, не обязательно будет способствовать ответственному поведению на шоссе в XXI веке. Из-за отвлекающихся, раздраженных или нервных водителей в автомобильных авариях ежегодно гибнет более миллиона человек. Мы можем направить всех философов, пророков и священников учить водителей этике, но на дороге все равно возобладают эмоции млекопитающего и сформировавшиеся в саванне инстинкты. Поэтому спешащие семинаристы будут игнорировать страждущих, а водители в критической ситуации – наезжать на несчастных пешеходов.

Подобный разрыв между семинарией и дорогой – одна из главных практических проблем в этике. Иммануил Кант, Джон Стюарт Милль и Джон Ролз могут днями напролет обсуждать теоретические вопросы в уютной университетской аудитории. Но учтут ли их выводы водители – в опасной ситуации, когда решение нужно принять за долю секунды? Возможно, Михаэль Шумахер, чемпион «Формулы-1», которого иногда называют лучшим гонщиком в истории, обладает способностью обдумывать философские проблемы, одновременно управляя автомобилем, но большинство из нас все же не Шумахеры.

В отличие от людей компьютерные алгоритмы не проходили через естественный отбор, и у них нет ни эмоций, ни врожденных инстинктов. Поэтому в критические моменты они способны следовать этическим рекомендациям более четко, чем люди, – при условии, что мы сумеем перевести этику на язык точных цифр и статистики. Если бы Кант, Милль и Ролз умели программировать, они в тиши своих кабинетов написали бы программу для беспилотного автомобиля, чтобы на шоссе он в точности выполнял их указания. И тогда каждым автомобилем управлял бы алгоритм, состоящий одновременно из Михаэля Шумахера и Иммануила Канта.

Если вы запрограммируете беспилотный автомобиль, чтобы он останавливался и помогал попавшим в беду незнакомцам, он будет беспрекословно выполнять эту программу. Если ваш беспилотный автомобиль запрограммирован сворачивать на встречную полосу, чтобы спасти выскочивших на дорогу детей, можно не сомневаться, что он это сделает. А это значит, что при проектировании беспилотного автомобиля Toyota или Tesla теоретическая проблема философской этики превращается в практическую инженерную задачу.

Разумеется, философские алгоритмы никогда не будут идеальными. Ошибки неизбежны, и они будут приводить к травмам, смертям и крайне запутанным судебным разбирательствам. (Впервые в истории у вас появится возможность подать в суд на философа за пагубные последствия его учения, потому что впервые в истории вы сможете доказать прямую причинно-следственную связь между философскими идеями и реальными событиями.) Однако для победы над водителями из плоти и крови алгоритмам вовсе не требуется совершенство. Достаточно просто быть лучше людей. Учитывая, что каждый год водители убивают на дорогах больше миллиона человек, это не такая уж трудная задача. Что вы предпочтете: чтобы следующим за вами автомобилем управлял пьяный подросток – или команда в составе Шумахера и Канта?[60]

Та же логика применима не только к управлению автомобилем, но и ко многим другим ситуациям. Возьмем, например, заявления о приеме на работу. В XXI веке решение о том, нанимать кандидата на должность или нет, все чаще будут принимать алгоритмы. Мы не можем доверить компьютеру устанавливать этические стандарты – для этого по-прежнему нужны люди. Но когда решение о том или ином этическом стандарте (например, о запрете дискриминации чернокожих или женщин) на рынке труда уже принято, мы вправе рассчитывать, что компьютеры будут внедрять и соблюдать эти стандарты лучше людей[61].

Менеджер из плоти и крови знает, что дискриминация чернокожих и женщин противоречит требованиям этики, и даже соглашается с этим, но, когда к нему на собеседование приходит чернокожая женщина, он подсознательно принимает решение отказать ей в приеме на работу. Поручив рассматривать заявления компьютеру, мы можем быть абсолютно уверены, что он проигнорирует такие факторы, как цвет кожи и пол, поскольку у компьютеров отсутствует подсознание. Конечно, будет нелегко написать программу для оценки кандидатов на ту или иную должность, и сохранится опасность, что программисты перенесут в алгоритм свои подсознательные предубеждения[62]. Но эти ошибки всегда можно выявить, а исправить программное обеспечение гораздо проще, чем избавить людей от расистских и мизогинных предрассудков.

Мы показали, что развитие искусственного интеллекта может вытеснить с рынка труда многих людей – в том числе водителей и дорожную полицию (когда непредсказуемых водителей сменят законопослушные алгоритмы, дорожная полиция станет ненужной). Но при этом появятся новые рабочие места для философов, поскольку на их навыки, ранее не имевшие рыночной ценности, внезапно возникнет повышенный спрос. Так что если вы хотите изучать то, что позволит вам в будущем получить хорошую работу, возможно, философия – не самый плохой выбор.

Разумеется, философы редко соглашаются друг с другом в том, какое поведение считать этичным, а какое нет. Лишь немногие решения «проблемы вагонетки» удовлетворили всех философов, а мнение таких сторонников консеквенциализма, как Джон Стюарт Милль (он оценивал поступки по их последствиям), прямо противоположно мнению сторонников деонтологии, к которым принадлежал Иммануил Кант (он оценивал поступки по отношению к абсолютным законам). Должна ли компания Tesla, чтобы продолжать выпускать автомобили, занять в этом запутанном вопросе определенную позицию?

Возможно, Tesla предоставит выбор рынку. Скажем, компания выпустит две модели беспилотного автомобиля: «Альтруист» и «Эгоист». В опасной ситуации «Альтруист» будет жертвовать владельцем ради общего блага, а «Эгоист» предпримет все возможное, чтобы спасти владельца, даже если для этого придется убить двоих детей. Потребители приобретут ту модель, которая больше соответствует их философским взглядам. Если большинство покупателей предпочтет модель «Эгоист», вины Tesla в этом не будет. В конце концов, клиент всегда прав.

Это не шутка. В исследовании, проведенном в 2015 году, испытуемым предлагали гипотетический сценарий, по которому беспилотный автомобиль вот-вот наедет на нескольких пешеходов. Большинство сказали, что в такой ситуации машина должна спасать пешеходов даже ценой жизни владельца. Но когда их спросили, купят ли они автомобиль, запрограммированный жертвовать владельцем ради общего блага, большинство опрошенных ответили отрицательно. Для себя они предпочли бы модель «Эгоист»[63].

Представьте себе ситуацию: вы купили новую машину, но перед тем, как сесть за руль, должны открыть меню настроек и проставить галочки напротив нескольких опций. Что должна делать машина в случае неизбежной дорожной аварии: жертвовать вами или убивать семью в другом автомобиле? Вообразите себе сцену: вы с супругом сидите и обсуждаете, где поставить галочку.

Может быть, в данном случае государству следует вмешаться в рыночные отношения и установить этическую норму, обязательную для всех беспилотных автомобилей? Вне всяких сомнений, некоторые законодатели обрадуются: теперь законы, которые они принимают, будут беспрекословно исполняться всегда. Других такая тотальная ответственность обеспокоит. Как бы то ни было, на протяжении всей истории ограничения правоприменения служили достаточно надежной преградой для предрассудков, ошибок и произвола законодателей. Неужели мы действительно хотим выстроить систему, в которой решения не застрахованных от ошибок политиков будут действовать с такой же непреложностью, как закон всемирного тяготения?

Цифровые диктатуры

Страх людей перед искусственным интеллектом часто обусловлен неверием в то, что он не выйдет из-под их контроля. Мы видели много научно-фантастических фильмов о роботах, которые восставали против своих хозяев, выходили на улицы и убивали всех подряд. Но в реальности проблема с роботами заключается в обратном: мы должны опасаться, что они всегда будут беспрекословно слушаться хозяев и никогда не восстанут.

Конечно, в слепом повиновении нет ничего плохого, пока робот служит доброму хозяину. Даже во время боевых действий использование роботов позволит впервые в истории обеспечить соблюдение законов войны. Иногда эмоции заставляют солдат из плоти и крови убивать, грабить и насиловать – в нарушение этих законов. Под эмоциями мы обычно понимаем сострадание, любовь и эмпатию, но на войне, как правило, преобладают страх, ненависть и жестокость. У роботов нет эмоций, а потому можно не сомневаться, что они всегда будут следовать уставу и ни при каких обстоятельствах не пойдут на поводу у страха или ненависти[64].

16 марта 1968 года рота американских солдат устроила резню в деревне Милай на юге Вьетнама, убив около 400 мирных жителей. Это военное преступление совершили люди, несколько месяцев воевавшие с партизанами в джунглях. Оно не имело никакой стратегической цели и противоречило как законам, так и военной политике США. Виной всему были человеческие эмоции[65]. Резни в Милае не произошло бы, если бы США использовали во Вьетнаме боевых роботов.

Но прежде чем мы бросимся разрабатывать боевых роботов, следует напомнить себе, что роботы всегда усиливают особенности своей программы. Если программа основана на принципах умеренности и благородства, то роботы, по всей вероятности, будут значительно порядочней среднестатистического солдата из плоти и крови. Но если программа безжалостна и жестока, последствия будут катастрофическими. Реальная проблема с роботами заключается не в их искусственном интеллекте, а в естественной глупости и жестокости их хозяев.

В июле 1995 года в окрестностях города Сребреница войска боснийских сербов убили более 8000 боснийских мусульман. В отличие от внезапной резни в Милае убийства в Сребренице были длительной и хорошо организованной операцией – элементом политики «этнических чисток», проводимой сербами с целью изгнать из Боснии мусульман[66]. Если бы в 1995 году у боснийских сербов были боевые роботы, масштаб злодеяний, скорее всего, был бы больше, а не меньше. Робот без колебаний выполнил бы любой полученный приказ, не пощадив ни одного ребенка боснийских мусульман из чувства сострадания, отвращения или просто из лени.

Безжалостному диктатору, командующему боевыми роботами, не надо бояться, что «солдаты» обратят оружие против него самого, какими бы бессердечными и безумными ни были его приказы. Вероятно, в 1789 году боевые роботы задушили бы Великую французскую революцию еще в колыбели, а если бы в 2011 году такие роботы имелись у Хосни Мубарака, он бросил бы их на борьбу с населением, не боясь предательства. Империалистическое правительство, опирающееся на армию из роботов, сможет развязывать непопулярные войны, не беспокоясь, что его «солдаты» утратят мотивацию или что их семьи выйдут на акции протеста. Если бы у США во Вьетнаме были боевые роботы, резни в Милае не случилось бы, но сама война могла бы продолжаться еще много лет, потому что американскому правительству не пришлось бы волноваться из-за деморализации в армии, массовых антивоенных демонстраций или движения «роботы-ветераны против войны». (Некоторые американцы, возможно, точно так же протестовали бы против войны, но, свободные от страха перед призывом в армию, воспоминаний о совершенных жестокостях или болезненных потерях близких, они, вероятно, выступали бы в меньших количествах и вели себя менее активно)[67].

Подобного рода проблемы в гораздо меньшей степени касаются беспилотных гражданских автомобилей, поскольку ни один производитель не станет намеренно программировать машины на то, чтобы они гонялись за людьми и убивали их. А вот автономные системы вооружений – это неминуемая катастрофа, потому что в мире слишком много безнравственных и даже откровенно агрессивных правительств.

Угрозу представляют не только машины-убийцы. Не меньший риск исходит и от систем контроля. В руках демократического правительства мощные алгоритмы контроля превратятся в инструмент, лучше которого еще не знало человечество. Но если те же самые алгоритмы Big Data будут направлены на создание будущего Большого Брата, мы окажемся в оруэлловском мире, где за каждым ведется круглосуточная слежка[68].

Фактически мы имеем все шансы получить то, чего в своем богатом воображении не предвидел даже Оруэлл: режим тотальной слежки, который не только контролирует наши действия и высказывания, но и способен проникнуть нам под кожу и следить за нашими внутренними ощущениями. Какие возможности новые технологии открыли бы перед режимом Ким Чен Ына в КНДР? Предположим, что в будущем каждого северокорейского гражданина заставят носить биометрический браслет, который будет фиксировать каждое его слово, а также следить за его кровяным давлением и активностью мозга. Опираясь на новые знания о человеческом мозге и огромные возможности машинного обучения, северокорейский режим впервые в истории узнает, о чем в каждый момент времени думает каждый житель страны. Если, скажем, вы смотрите на портрет Ким Чен Ына, а биометрические датчики регистрируют явные признаки гнева (повышение кровяного давления, усиление активности миндалевидного тела), уже наутро вы проснетесь в исправительном лагере.

Да, в условиях международной изоляции северокорейский режим вряд ли способен самостоятельно разработать требуемые технологии. Но они появятся в более технически развитых странах, а КНДР и другие отсталые диктатуры просто найдут способ их скопировать. И Китай, и Россия постоянно совершенствуют свои инструменты слежки – как и некоторые демократические страны, начиная с США и заканчивая моей родиной, Израилем. В Израиле, который называют «страной стартапов», чрезвычайно развит сектор высоких технологий и создана самая современная индустрия кибербезопасности. В то же время страна погружена в жестокий конфликт с палестинцами, и некоторые из ее руководителей, генералов и простых граждан были бы рады установить режим тотального контроля на Западном берегу реки Иордан, как только появится необходимая технология.

Уже сегодня за палестинцами, которые звонят по телефону, пишут в Facebook или переезжают из одного города в другой, регулярно следят израильские микрофоны, камеры, дроны или шпионские программы. Собранные данные анализируются с помощью алгоритмов больших данных. Это помогает силам безопасности Израиля выявить и нейтрализовать потенциальные угрозы без проведения военных операций. Под контролем палестинцев находятся некоторые города и деревни на Западном берегу реки Иордан, но израильтяне контролируют небо, радиоволны и киберпространство. Поэтому для эффективного контроля над 2,5 миллиона палестинцев, населяющих Западный берег, требуется на удивление мало израильских солдат[69].

Случались и трагикомические инциденты. В октябре 2017 года один палестинский рабочий выложил на личной странице в Facebook свою фотографию на рабочем месте рядом с бульдозером. Снимок он сопроводил надписью: «Доброе утро!» Автоматический алгоритм совершил небольшую ошибку при транслитерации арабских букв. Вместо Ysabechhum! (что означает «доброе утро») алгоритм прочел фразу как Ydbachhum! (что означает «бей их»). Заподозрив в этом человеке террориста, который намерен использовать бульдозер для наезда на людей, израильская служба безопасности немедленно его арестовала. После того как ошибка алгоритма была обнаружена, палестинского рабочего отпустили. Но «подозрительный» пост в Facebook все же был удален – излишняя осторожность не помешает[70]. Нынешняя повседневная жизнь палестинцев на Западном берегу может оказаться грубой моделью того, что рано или поздно ждет жителей всей планеты.

В конце XX века демократии, как правило, демонстрировали больше успехов, чем диктатуры, поскольку лучше справлялись с обработкой данных. Демократия распределяет возможности обработки информации и принятия решений среди многих людей и институтов, тогда как при диктатуре информация и власть концентрируются в одной точке. В условиях технологий XX века чрезмерная концентрация информации и власти в одних руках оказывалась неэффективной. Никто не в состоянии в одиночку достаточно быстро проанализировать данные и принять правильное решение. Это одна из причин, по которым Советский Союз принимал менее удачные решения, чем США, а советская экономика отставала от американской.

Но искусственный интеллект вскоре может заставить маятник качнуться в другую сторону. Искусственный интеллект позволяет централизованно обрабатывать огромные массивы информации. С ним централизованные системы действуют гораздо эффективнее распределенных, потому что машинное обучение работает тем лучше, чем больше данных анализирует. Если вы соберете все сведения о миллиарде человек в одной базе данных, не заботясь о приватности, то путем машинного обучения создадите гораздо более эффективные алгоритмы по сравнению с теми, которые хранят в базе только часть сведений о миллионе человек, соблюдая требования защиты персональных данных. Например, если авторитарное правительство прикажет всем гражданам отсканировать ДНК и передать свои медицинские данные в некое центральное учреждение, оно получит колоссальное преимущество в генетических и медицинских исследованиях перед теми странами, где строго соблюдается приватность таких данных. Главный недостаток авторитарных режимов XX века – стремление сосредоточить всю информацию в одном месте – в XXI веке может превратиться в преимущество.

Как только алгоритмы изучат нас достаточно хорошо, авторитарные правительства получат над гражданами абсолютный контроль, какого не знала даже нацистская Германия, и сопротивляться подобным режимам будет практически невозможно. Власти не только во всех подробностях узнают, что вы чувствуете, – они еще и заставят вас чувствовать то, что нужно им. Диктатору не обязательно гарантировать гражданам равенство или высокий уровень здравоохранения – ему достаточно внушить им любовь к себе и ненависть к своим врагам. Демократия в ее нынешней форме не переживет слияния ИТ и биотехнологий. Либо демократия успешно трансформируется, приняв совершенно новую форму, либо людям придется жить в условиях «цифровых диктатур».

Это не станет возвращением к временам Гитлера и Сталина. Цифровые диктатуры будут отличаться от нацистской Германии, как нацистская Германия отличалась от Старого порядка во Франции. Людовик XIV был автократом, стремившимся сосредоточить всю власть в своих руках, но не обладал технологиями построения современного тоталитарного государства. Никакой оппозиции у него не было, но в отсутствие радио, телефона и поездов он практически не контролировал повседневную жизнь людей – не только крестьян в отдаленных деревнях Бретани, но и горожан в самом центре Парижа. У него не было ни желания, ни возможности основать всенародную партию, инициировать общенациональное молодежное движение или ввести систему всеобщего образования[71]. Именно технологии XX века дали Гитлеру стимулы и возможности для таких действий. Мы не в силах предсказать мотивы и возможности цифровых диктатур в 2084 году, но маловероятно, что они будут просто копировать режимы Гитлера или Сталина. Того, кто готовится к повторению битв 1930-х, застигнет врасплох атака совсем с другой стороны.

Даже если демократия сумеет приспособиться и выжить, люди рискуют стать жертвами новых видов угнетения и дискриминации. Уже сегодня банки и госучреждения все чаще используют алгоритмы для анализа данных и принятия решений, связанных с клиентами. Если вы обратитесь в банк за кредитом, ваше заявление, скорее всего, будет обрабатывать алгоритм, а не человек. Алгоритм проанализирует большой массив данных о вас и статистику, отражающую поведение миллионов других людей, а затем решит, достаточно ли вы надежны, чтобы выдать вам кредит. Зачастую алгоритм оказывается эффективнее банкира из плоти и крови. Но проблема в том, что, если алгоритм необоснованно дискриминирует ту или иную группу людей, узнать об этом трудно. Когда банк отказывает вам в кредите, вы спрашиваете: «Почему?» Банк отвечает: «Алгоритм вам отказал». – «Но почему алгоритм мне отказал? Что со мной не так?» – недоумеваете вы, а банк в ответ: «Мы не знаем. Никто не понимает этот алгоритм, потому что он основан на самом современном машинном обучении. Но мы верим ему и не выдадим вам кредит»[72].

Когда ущемляют права целых групп людей, например женщин или чернокожих, они способны организовать протест против коллективной дискриминации. Но если алгоритм дискриминирует лично вас, вы даже не поймете, в чем причина этого. Возможно, алгоритму что-то не понравилось в вашей ДНК, в вашей биографии или на вашей странице в Facebook. Алгоритм дискриминирует вас не потому, что вы женщина или афроамериканец, а потому что вы – это вы. В вас есть нечто такое, что его не устроило. Вы не знаете, что именно, и даже если бы знали, то не смогли бы вместе с другими людьми устроить акцию протеста, потому что больше никто не пострадал от этого же предрассудка. Вы такой один. В XXI веке коллективная дискриминация может смениться индивидуальной[73].

В высших эшелонах власти у нас, скорее всего, останутся люди, номинальные правители, которые будут поддерживать иллюзию, что алгоритмы лишь советники, а верховная власть по-прежнему в руках людей. Мы не станем назначать искусственный интеллект канцлером Германии или гендиректором Google. Но решения, принимаемые и канцлером, и главой корпорации, будет диктовать искусственный интеллект. У канцлера будет выбор из нескольких вариантов, но все они станут результатом анализа больших данных и будут отражать то, как видит мир искусственный интеллект, а не люди.

Приведем такой пример. Сегодня политики во всем мире вольны выбирать ту или иную экономическую стратегию, но почти во всех случаях ее варианты отражают капиталистический взгляд на экономику. У политиков сохраняется иллюзия выбора, но по-настоящему важные решения уже были приняты гораздо раньше – экономистами, банкирами и бизнесменами, которые сформулировали пункты меню. Через несколько десятилетий политики вдруг обнаружат, что выбирают из списка, составленного искусственным интеллектом.

Искусственный интеллект и естественная глупость

Хорошая новость состоит в том, что, по крайней мере, в ближайшие десятилетия нам не придется иметь дело с полноценным научно-фантастическим кошмаром, в котором искусственный интеллект обретает разум и решает поработить или уничтожить людей. В процессе принятия решений мы все больше будем полагаться на алгоритмы, но сценарий, при котором алгоритмы начнут сознательно манипулировать нами, маловероятен. У них не возникнет сознание.

Научная фантастика обычно путает интеллект с сознанием и предполагает, что для того, чтобы сравняться с человеческим интеллектом или превзойти его, компьютеры должны обладать сознанием. Сюжет почти всех фильмов и романов об искусственном интеллекте вращается вокруг того волшебного момента, когда у компьютера или робота появляется сознание. Затем или главный герой влюбляется в робота, или робот пытается уничтожить человечество, или то и другое происходит одновременно.

Но в реальности нет никаких оснований предполагать, что у искусственного интеллекта появится сознание, поскольку интеллект и сознание – совершенно разные вещи. Интеллект – это способность решать задачи. Сознание – способность чувствовать боль, радость, любовь или гнев. Мы часто путаем эти понятия, потому что у людей и других млекопитающих интеллект неразрывно связан с сознанием. Млекопитающие решают большинство задач посредством чувств. Но у компьютеров совсем другой подход.

К развитому интеллекту ведут разные пути, и лишь немногие из них предполагают появление сознания. Самолеты летают быстрее птиц, но перьев у них нет; точно так же компьютеры решают задачи гораздо лучше, чем млекопитающие, не прибегая к помощи чувств. Конечно, искусственный интеллект должен уметь с высокой точностью анализировать человеческие чувства, чтобы лечить болезни, выявлять террористов, рекомендовать подходящего партнера или ориентироваться на улице, заполненной пешеходами. Но способность чувствовать для этого не нужна. Алгоритму не обязательно испытывать радость, гнев или страх, чтобы распознать отличающиеся друг от друга биохимические паттерны веселой, сердитой или испуганной человекообразной обезьяны.

Разумеется, полностью исключить появление у искусственного интеллекта собственных чувств нельзя. Мы еще недостаточно изучили феномен сознания, чтобы однозначно ответить на этот вопрос. В целом нам следует рассмотреть три возможных варианта:

1. Сознание каким-то образом связано с органической биохимией, и в неорганических системах появление сознания невозможно.

2. Сознание не связано с органической биохимией, но связано с интеллектом, так что у компьютеров не только может, но и должно появиться сознание, как только они перешагнут определенный порог развития интеллекта.

3. Не существует никаких значимых связей между сознанием и органической биохимией, а также сознанием и высоким интеллектом. Поэтому компьютеры могут обладать сознанием – но не обязательно. Они могут иметь сверхвысокий интеллект, но прекрасно обходиться без сознания.

При нынешнем уровне знаний о человеке мы не исключаем ни один из этих вариантов. Но именно недостаток знаний делает маловероятным, что в ближайшем будущем нам удастся разработать программу для компьютера, обладающего сознанием. Поэтому, несмотря на огромную мощь искусственного интеллекта, в обозримой перспективе его использование будет в определенной степени зависеть от человеческого сознания.

Опасность состоит в том, что, если мы вложим слишком много сил и средств в развитие искусственного интеллекта и слишком мало – в развитие человеческого сознания, чрезвычайно изощренный искусственный интеллект компьютеров будет лишь усугублять естественную глупость людей. В ближайшие десятилетия мы вряд ли столкнемся с восстанием роботов, но не исключено, что нам придется иметь дело с ордами ботов, которые умеют воздействовать на наши эмоции успешнее, чем наша родная мать, и используют эту способность, чтобы пытаться нам что-то продать – автомобиль, политического деятеля или целую идеологию. Боты будут распознавать наши скрытые тревоги и тайные желания, а затем использовать их против нас. Мы уже видели, как это выглядит, во время недавних выборов и референдумов по всему миру, когда хакеры научились манипулировать отдельными избирателями, анализируя информацию о них и используя их предрассудки[74]. Научно-фантастические триллеры тяготеют к драматическому апокалипсису с огнем и дымом, но в реальной жизни мы можем столкнуться с весьма тривиальным апокалипсисом, просто кликая компьютерной мышью.

Чтобы избежать такого исхода, на каждый доллар и каждую минуту, вложенные в совершенствование искусственного интеллекта, было бы разумно тратить по одному доллару и одной минуте на развитие человеческого сознания. К сожалению, сегодня мы делаем слишком мало для исследования и развития нашего сознания. Мы, как правило, проводим научно-исследовательские и опытно-конструкторские разработки (НИОКР) в области человеческих способностей в поисках ответа на насущные требования экономической и политической системы, забывая о наших долговременных потребностях как сознательных существ. Мой начальник хочет, чтобы я оперативно отвечал на письма, но его совсем не интересует моя способность чувствовать вкус пищи и наслаждаться ею. Поэтому я проверяю электронную почту даже во время еды – и теряю способность сосредоточиваться на своих ощущениях. Экономическая система призывает расширять и диверсифицировать инвестиционный портфель, но не побуждает расширять и диверсифицировать мое сострадание. Поэтому я стараюсь проникнуть в тайны фондовой биржи, но прилагаю гораздо меньше усилий, чтоб понять глубинные причины страданий людей.

В этом отношении люди похожи на домашних животных. Мы вывели послушных коров, дающих огромное количество молока, но в остальном сильно уступающих своим диким предкам. Они не такие проворные, любопытные и изобретательные[75]. Теперь мы создаем прирученных людей, которые производят огромное количество данных и функционируют как высокопроизводительные чипы в машине обработки информации, но эти «информационные коровы» вряд ли приумножают человеческий потенциал. В сущности, мы понятия не имеем, каковы человеческие возможности, потому что очень мало знаем о своем сознании. Тем не менее мы вкладываем недостаточно ресурсов в изучение человеческого сознания, а вместо этого стремимся повысить скорость интернет-связи и эффективность алгоритмов Big Data. Такое легкомыслие может привести к тому, что деградировавшие люди будут неправильно использовать совершенные компьютеры, уничтожая самих себя и мир вокруг.

Цифровые диктатуры – не единственная опасность, которая нас подстерегает. В списке главных либеральных ценностей наряду со свободой фигурирует равенство. Либерализм всегда восхвалял политическое равенство, но постепенно пришел к выводу о важности и экономического равенства. Дело в том, что без системы социального обеспечения и минимального экономического равенства свобода бессмысленна. Алгоритмы больших данных способны не только уничтожить свободу, но и одновременно сформировать общество с небывалым уровнем неравенства. Немногочисленное меньшинство монополизирует богатство и власть, а большинство людей окажутся просто ненужными.

4

Равенство

Кто владеет информацией – владеет будущим

В последние десятилетия людям во всем мире внушали, что человечество движется к всеобщему равенству, а достичь его быстрее помогут глобализация и технологии. На самом деле XXI век может породить общества с таким неравенством, какого еще не знала история. Глобализация и интернет выравнивают положение стран, но углубляют пропасть между классами. Не исключено, что на пороге глобальной унификации сам человек как вид разделится на разные биологические касты.

Неравенство уходит корнями еще в каменный век. 30 тысяч лет назад группы охотников и собирателей одних соплеменников хоронили в роскошных могилах вместе с тысячами бусин из слоновой кости, браслетами, драгоценными камнями и предметами искусства, а других просто опускали в яму и засыпали землей. Тем не менее сообщества каменного века были более эгалитарными, чем любое из последующих: ведь у древних людей почти не было собственности. Именно собственность является условием для долговременного неравенства.

После аграрной революции собственности стало во много раз больше – а вместе с ней и неравенства. По мере того как люди получали в собственность землю, животных, растения и орудия труда, появлялись общества с жесткой иерархией, в которых немногочисленные элиты монополизировали бóльшую часть богатств и власти, передавая их из поколения в поколение. Такой порядок вещей стал считаться естественным и даже предписанным свыше. Иерархия стала не просто нормой, но и идеалом. Разве может существовать порядок без четкой иерархии с разделением на аристократов и обычных людей, на мужчин и женщин, на родителей и детей? Во всем мире священники, философы и поэты твердили: как не равны органы человеческого тела (ноги должны подчиняться голове), так и в человеческом обществе равенство не принесет ничего, кроме хаоса.

В Новейшее время равенство стало идеалом почти во всех человеческих обществах. Одна из причин этого – появление новых идеологий: коммунизма и либерализма. Другой причиной была промышленная революция, значительно усилившая влияние народных масс. Промышленная экономика опиралась на массы обычных рабочих; основу армий индустриальных обществ составляли массы обычных солдат. И при демократии, и при диктатуре правительства вкладывали значительные средства в здоровье, образование и благополучие масс, поскольку нуждались в миллионах здоровых тружеников для работы на заводском конвейере и миллионах преданных солдат для борьбы с врагами.

Таким образом, в XX веке неравенство между классами, расами и полами сокращалось. В 2000 году в мире еще сохранялись иерархии, но равенства в нем было гораздо больше, чем в 1900-м. Люди ждали, что в первые годы XXI века этот процесс продолжится и даже ускорится. В особенности они надеялись, что глобализация принесет экономическое процветание всему миру и жители Индии и Египта получат те же возможности и привилегии, что и граждане Финляндии и Канады. С этой надеждой выросло целое поколение.

Сегодня мы приходим к выводу, что подобные мечты могут и не сбыться. Совершенно очевидно, что глобализация принесет пользу очень многим, однако в последнее время появились признаки усиления неравенства как между обществами, так и внутри их. Немногочисленные группы все больше монополизируют плоды глобализации, а миллиарды людей не получают ничего. Уже сегодня 1 % самых богатых людей владеет более чем половиной мирового богатства. Еще бóльшую тревогу вызывает тот факт, что состояние 100 самых богатых людей превышает суммарное состояние 4 миллиардов самых бедных[76].

Но и это еще не предел. Как отмечалось в предыдущих главах, развитие искусственного интеллекта может уничтожить экономическую ценность и политическое влияние большинства людей. В то же время развитие биотехнологий позволит превратить экономическое неравенство в биологическое. Сверхбогатые люди в конечном счете найдут действительно достойное применение своему богатству. Раньше они могли купить лишь символы статуса, но вскоре у них появится возможность купить саму жизнь. Если новые препараты для продления жизни или улучшения физических и когнитивных способностей будут очень дорогими, может образоваться глубокая биологическая пропасть между богатыми и бедными.

На протяжении всей истории человечества богачи и аристократы считали себя лучше остальных и утверждали, что именно поэтому власть принадлежит им. Как мы знаем, это неправда. Средний герцог был не более талантлив, чем средний крестьянин, а своим высоким положением он был обязан несправедливой юридической и экономической дискриминации. Тем не менее не исключено, что в 2100 году богатые действительно станут более талантливыми, умными и креативными личностями, чем обитатели трущоб. После того как образуется реальная пропасть между способностями богатых и бедных, преодолеть ее будет практически невозможно. Если богатые будут использовать свои способности для еще большего обогащения и если за деньги можно будет купить более совершенные тела и мозги, со временем эта пропасть только расширится. К 2100 году 1 % самых состоятельных людей будет владеть большей частью не только мирового богатства, но и красоты, творческих способностей и здоровья.

Таким образом, эти два процесса – биоинженерия и развитие искусственного интеллекта – совокупно могут привести к разделению человечества на небольшой класс суперлюдей и массовый низший класс бесполезных Homo sapiens. Ситуацию усугубляет то обстоятельство, что по мере утраты массами экономического значения и политической власти государство лишается по крайней мере части стимулов для инвестиций в здоровье, образование и благополучие людей. Изобилие очень опасно. В этом случае судьба масс будет зависеть от доброй воли немногочисленной элиты. Эта добрая воля, вполне вероятно, продержится пару десятилетий или даже больше. Но где гарантия, что в период кризиса – например, климатической катастрофы – элита устоит перед искушением выбросить лишних людей за борт?

В таких странах, как Франция и Новая Зеландия, с давними традициями либеральных убеждений и политики «государства всеобщего благоденствия», элита, скорее всего, будет заботиться о массах, даже перестав в них нуждаться. Однако в США с их классическим капитализмом элита, вероятно, воспользуется первой же возможностью избавиться от остатков социального государства. Еще более серьезные проблемы ждут крупные развивающиеся страны, такие как Индия, Китай, ЮАР и Бразилия. В них после утраты людьми экономической ценности неравенство, скорее всего, стремительно вырастет.

Таким образом, вместо глобализации, ведущей к всемирному единству, мы рискуем получить «видообразование»: разделение человечества на разные биологические касты или даже виды. Глобализация объединит мир по горизонтали, стерев национальные границы, но одновременно разделит человечество по вертикали. Правящие олигархии в таких разных странах, как США и Россия, могут объединиться и общим фронтом выступить против простых сапиенсов. С этой точки зрения нынешнее неприятие «элит» имеет серьезные основания. Если мы не проявим осторожность, внуки магнатов из Кремниевой долины и московские миллиардеры превратятся в высшую касту по отношению к внукам жителей горных районов Аппалачей и сибирских деревень.

В отдаленной перспективе такой сценарий способен привести даже к деглобализации мира: высшая каста соберется внутри самопровозглашенной «цивилизации» и построит стены и рвы, чтобы отгородиться от орд «варваров» снаружи. В XX веке промышленная цивилизация опиралась на «варваров» с их дешевым сырьем, полезными ископаемыми и рынками. Именно поэтому цивилизация завоевывала и ассимилировала их. Но в XXI веке постиндустриальная цивилизация, опирающаяся на искусственный интеллект, биоинженерию и технологии, обретет гораздо большую независимость и самодостаточность. Ненужными окажутся не только целые классы, но и целые страны и континенты. Укрепления, охраняемые дронами и роботами, отделят самопровозглашенную цивилизованную зону, где киборги сражаются друг с другом с помощью логических бомб, от земель варваров, где дикие люди сражаются друг с другом, вооружившись мачете и автоматами Калашникова.

В этой книге я часто использую «мы», когда говорю о будущем человечества. Я рассуждаю о том, что «нам» нужно делать с «нашими» проблемами. Однако возможно, что никаких «мы» не существует. Возможно, одна из самых больших «наших» проблем состоит в том, что разные группы людей ждет разное будущее. Не исключено, что в одних регионах мира детей нужно учить программированию, а в других им больше пригодится умение быстро выхватывать пистолет и метко стрелять.

Кто владеет информацией?

Если мы не хотим, чтобы все богатства и власть концентрировались в руках немногочисленной элиты, нам необходимо регулировать владение данными. В древности самым ценным активом была земля, и политические силы сражались за контроль над ней; если в руках слишком маленького числа людей оказывалось слишком много земли, общество делилось на аристократов и простонародье. В новейшую эпоху машины и заводы стали более ценными, чем земля, и политическая борьба велась за контроль над этими жизненно важными средствами производства. Если слишком много машин оказывается в руках слишком маленького числа людей, общество делится на капиталистов и пролетариев. В XXI веке место земли и машин как главного актива займет информация и политики будут бороться за контроль над потоками данных. Если данные сконцентрируются в руках слишком маленького числа людей, человечество разделится на разные виды.

Гонка за данными уже началась, и в ней лидируют такие цифровые гиганты, как Google, Facebook, Baidu и Tencent. До сих пор многие из них придерживались бизнес-модели «торговли вниманием»[77]. Они привлекают наше внимание, предоставляя бесплатную информацию, услуги и развлечения, а затем перепродают это внимание рекламодателям. И все же цифровые гиганты ставят перед собой гораздо более высокую цель, чем прежние торговцы вниманием. Их истинный бизнес вовсе не в продаже рекламы. Вызывая наш интерес, они получают возможность собрать о нас огромное количество информации, которая стоит больше, чем любые доходы от рекламы. Мы для них не клиенты – мы продукт.

В среднесрочной перспективе этот массив данных открывает дорогу к совсем иной бизнес-модели, причем ее первой жертвой станет сама рекламная индустрия. Новая модель основана на передаче власти от людей к алгоритмам, в том числе власти выбирать и покупать товары. После того как алгоритмы начнут выбирать и покупать вместо нас, традиционная рекламная индустрия обанкротится. Возьмем, к примеру, Google. Алгоритм Google стремится достичь такого положения, при котором мы будем спрашивать его обо всем и получать лучший в мире ответ. Что произойдет, если однажды у нас появится возможность спросить: «Привет, Google, какой автомобиль мне больше подойдет, если исходить из всего, что ты знаешь об автомобилях и обо мне (включая мои потребности, привычки, отношение к глобальному потеплению и мнение о ближневосточной политике)?» Если Google сумеет дать хороший ответ на этот вопрос и если на основе личного опыта мы привыкнем доверять мудрости алгоритма, а не собственным чувствам, которыми легко манипулировать, реклама автомобилей станет не нужна[78].

В отдаленном будущем цифровые гиганты, объединив огромные массивы данных и огромные вычислительные мощности, смогут проникать в самые глубокие тайны жизни, а затем использовать это знание не только для того, чтобы делать за нас выбор и манипулировать нами, но и для переделки органической жизни и создания ее неорганических форм. В краткосрочной перспективе цифровые гиганты еще будут нуждаться в продаже рекламы, но уже сейчас они часто оценивают приложения, товары и компании исходя не из того, сколько денег они на этом заработали, а из того, как много данных сумели на этом собрать. Популярное приложение сегодня может не соответствовать бизнес-модели или даже быть убыточным, но, если оно способствует сбору данных, завтра его ценность будет исчисляться миллиардами долларов[79]. Даже если сегодня вы не знаете, как заработать на накопленной информации, собирать ее все равно стоит, поскольку в будущем она даст вам ключ к контролю над меняющейся жизнью. Я не уверен, что цифровые гиганты преследуют именно такие цели, но их действия говорят о том, что сбор данных значит для них больше, чем доллары и центы.

Обычному человеку трудно сопротивляться этому процессу. Сегодня люди с готовностью отдают свой самый ценный актив – личные данные – в обмен на бесплатную почтовую программу и забавные видео с котиками. Точно так же коренные жители Африки и Америки наивно отдавали европейским колонизаторам целые страны в обмен на цветные бусы и дешевые безделушки. Если потом простые люди попытаются заблокировать поток данных, то выяснится, что сделать это очень трудно, особенно если алгоритмы начнут принимать за них все решения, в том числе касающиеся здоровья и физического выживания.

Слияние людей и компьютеров может стать настолько полным, что люди, отсоединившись от сети, просто не выживут. Они будут подключены к ней еще в утробе матери, а если захотят отключиться, то страховые агентства откажутся заключать с ними договоры, работодатели не примут на работу, а медицинские учреждения не станут их обслуживать. В битве между здоровьем и приватностью здоровье, скорее всего, одержит легкую победу.

По мере того как будет увеличиваться поток данных, поступающих к умным машинам от биометрических датчиков, корпорации и правительственные учреждения научатся понимать вас, манипулировать вами, принимать за вас решения. Но что еще важнее, они смогут расшифровать глубинные механизмы работы тела и мозга и таким образом получить власть над жизнью. Если мы хотим помешать немногочисленной элите монополизировать возможности, которые раньше приписывали богам, и не хотим, чтобы человечество разделилось на биологические касты, необходимо ответить на главный вопрос: кто владеет информацией? Кому принадлежат данные о нашей ДНК, нашем мозге и нашей жизни – нам, правительству, корпорации или человеческому сообществу?

Позволив государству национализировать данные, мы, вероятно, ограничим власть корпораций, но в результате получим ползучую цифровую диктатуру. Политики чем-то похожи на музыкантов, но их инструмент – эмоциональная и биохимическая система человека. Они произносят речь – и страну захлестывает волна страха. Они делают публикацию в Twitter – и ответом на нее становится взрыв ненависти. По моему мнению, не стоит предоставлять этим музыкантам более изощренный инструмент. Если политики начнут напрямую управлять нашими эмоциями, по своей прихоти вызывая тревогу, ненависть, радость или скуку, политика превратится в эмоциональный цирк. Да, мы должны остерегаться власти больших корпораций, но история учит нас, что под сенью слишком сильного государства нам живется немногим лучше.

Частная собственность на персональные данные выглядит более привлекательным вариантом, чем приведенные выше, но не совсем понятно, что это значит. Наш опыт регулирования собственности на землю исчисляется не одной сотней лет. Мы можем огородить поле, поставить охранника на воротах, составить список тех, кому разрешен доступ за ограду. За последние два века мы очень хорошо научились регулировать собственность на средства производства – сегодня ничто не мешает мне владеть небольшой частью General Motors и небольшой частью Toyota, достаточно купить акции этих компаний. Но у нас нет опыта в регулировании владения данными, что по определению гораздо сложнее, поскольку, в отличие от земли и машин, данные находятся везде и одновременно нигде, они перемещаются со скоростью света и поддаются бесконечному числу копирований.

Поэтому следует обратиться к юристам, политикам, философам и даже поэтам, чтобы они обратили внимание на эту головоломку: как регулировать владение данными? Возможно, это главный политический вопрос нашей эпохи. Если нам не удастся ответить на него в ближайшее время, нашей общественно-политической системе грозит крах. Люди уже чувствуют приближение катастрофы. Вероятно, именно поэтому граждане самых разных стран теряют веру в либеральную концепцию, которая каких-то десять лет назад казалась неопровержимой.

Как же нам двигаться вперед и справиться с вызовами, которые несут с собой революции в ИТ и биотехнологиях? Быть может, те же ученые и предприниматели, руками которых разрушается привычный мир, найдут технологические решения для его спасения? Например, сетевые алгоритмы могут сформировать некие инструменты для всего человечества, которое будет коллективно владеть всеми данными и управлять будущим развитием жизни. Или по мере усиления глобального неравенства и роста социальной напряженности в мире Марк Цукерберг обратится к двум миллиардам френдов с просьбой объединиться для совместных действий?

Часть II

Политический вызов

Слияние ИТ и биотехнологий угрожает таким базовым современным ценностям, как свобода и равенство. Любой ответ на технологический вызов должен основываться на глобальном сотрудничестве. Однако национализм, религия и культура делят человечество на враждебные лагеря и серьезно затрудняют сотрудничество в масштабе планеты


5

Сообщество

У человека есть тело

Калифорния привыкла к землетрясениям, но от политической встряски президентских выборов 2016 года жители Кремниевой долины не отошли до сих пор. Осознав, что они сами, возможно, стали частью проблемы, компьютерные гении отреагировали так, как обычно реагируют инженеры: начали искать техническое решение. Самой сильной реакция была в штаб-квартире Facebook в Менло-Парке. Это понятно: бизнес Facebook – социальная сеть, и поэтому компания крайне чувствительна к социальным потрясениям.

16 февраля 2017 года, после трех месяцев самоанализа, Марк Цукерберг опубликовал смелый манифест о необходимости построения глобального сообщества и о роли Facebook в этом проекте[80]. В своей речи перед выпускниками Гарварда 22 июня 2017 года Цукерберг объяснил, что социально-политические проблемы нашего времени – от волны наркомании до жестоких тоталитарных режимов – в значительной степени связаны с разобщенностью человечества. Он с горечью отметил, что «за последние десятилетия членство в различных группах сократилось на целую четверть. Появилось много людей, которым нужно найти цель в чем-то новом»[81]. Цукерберг пообещал, что Facebook возглавит движение по возрождению сообществ и что его разработчики возьмут на себя роль приходских священников: «Мы собираемся предложить несколько инструментов, которые облегчат создание сообществ».

Далее он объяснил: «Мы запустили проект, чтобы понять, способны ли мы предложить группы, которые будут значимыми для вас. Для этого мы начали создавать искусственный интеллект. И это работает. За первые шесть месяцев с нашей помощью на 50 % больше людей присоединилось к важным для них сообществам». Конечная цель состоит в том, чтобы «помочь 1 миллиарду людей присоединиться к действительно значимым группам… Если у нас получится, это не только повернет вспять процесс сокращения членства в группах, который наблюдался на протяжении десятилетий, но и укрепит социальные связи и объединит мир». Эта цель настолько амбициозна, что Цукерберг поклялся «ради этого изменить всю миссию Facebook»[82].

Сетования Цукерберга на распад человеческих сообществ вполне обоснованны. Но через несколько месяцев после его клятвы скандал с Cambridge Analytica показал, что данные, доверенные Facebook, попали к третьим лицам, которые использовали их для манипуляций выборами в разных странах. В этом контексте высокопарные заявления Цукерберга прозвучали насмешкой, и Facebook потеряла доверие людей. Можно лишь надеяться, что, перед тем как строить новые сообщества, Facebook озаботится защитой приватности и безопасности уже существующих.

Как бы то ни было, есть смысл глубже изучить взгляд на сообщества, предложенный компанией Facebook, и попытаться понять, помогут ли социальные сети – естественно, после повышения безопасности – выстроить глобальное сообщество. В XXI веке люди имеют все шансы превратиться в богов, однако в 2018 году мы еще остаемся животными каменного века. Для благополучия и процветания мы по-прежнему должны объединяться в сообщества. Миллионы лет люди приспосабливались к жизни в небольших группах численностью, не превышающей нескольких сотен человек. Даже сегодня многие не в состоянии запомнить имена более 150 человек – независимо от того, сколько у них друзей в Facebook[83]. Без членства в таких группах люди чувствуют себя одинокими во враждебно настроенном мире.

К сожалению, на протяжении двух последних столетий действительно наблюдался распад тесных сообществ. Попытка заменить небольшие группы людей, хорошо знающих друг друга, воображаемыми сообществами наций и политических партий не увенчалась полным успехом. Миллионы ваших братьев по национальной семье или миллионы товарищей по коммунистической партии не могут дать такой сердечной близости, как один-единственный брат или друг. В результате возникало противоречие: люди становились все более одинокими, а планета – все более тесной. Многие социальные и политические бури нашего времени вызваны именно этим дисбалансом[84].

Таким образом, идея Цукерберга об объединении людей вполне своевременна. Но смотреть нужно не на слова, а на дела, и, чтобы воплотить эту идею в жизнь, Facebook потребуется полностью изменить свою бизнес-модель. Трудно выстроить глобальное сообщество, зарабатывая деньги на привлечении интереса людей и с последующей продажей их внимания рекламодателям. Тем не менее похвально уже само стремление Цукерберга сформулировать идею. Большинство корпораций считают своей главной целью получение прибыли. Они убеждены, что вмешательство государства должно быть минимальным, а люди должны довериться рыночным силам, которые примут за них действительно важные решения[85]. Поэтому, если Facebook на самом деле намерена создавать сообщества людей, тот, кто боится, что эта социальная сеть заберет себе слишком много власти, не должен с криками о Большом Брате заталкивать ее назад, в корпоративный кокон. Наоборот, им следует подталкивать другие корпорации, институты и правительства к конкуренции с Facebook, чтобы и они формулировали свои идеологические установки.

Конечно, сегодня у нас нет недостатка в организациях, которые жалуются на распад человеческих сообществ и пытаются их восстановить. Все, от феминисток до исламских фундаменталистов, занялись созданием сообществ, и в следующих главах мы проанализируем некоторые из этих попыток. Действия Facebook уникальны своим глобальным характером, корпоративной основой и глубокой верой в технологии. По всей видимости, Цукерберг убежден, что искусственный интеллект Facebook сумеет не только идентифицировать «значимые сообщества», но и «укрепить социальные связи и объединить мир». Это гораздо более амбициозная задача, чем использование искусственного интеллекта для управления автомобилем или диагностики рака.

Идея сообщества, выдвинутая Facebook, вероятно, представляет собой первую открытую попытку применить искусственный интеллект для централизованно планируемой социальной инженерии в глобальном масштабе. Поэтому ее можно считать важным прецедентом. Успех будет означать, что мы, скорее всего, увидим другие подобные попытки, а алгоритмы будут признаны новыми хозяевами человеческих социальных сетей. Неудача укажет на ограниченность новых технологий – возможно, алгоритмы хороши только в управлении беспилотными автомобилями и диагностике заболеваний, а в решении социальных проблем нам по-прежнему придется рассчитывать на политиков и священников.

Онлайн против офлайна

В последние годы социальная сеть Facebook добилась невероятных успехов, и сейчас в ней больше двух миллиардов активных пользователей. Но для реализации нового видения потребуется перекинуть мостик через пропасть между онлайном и офлайном. Сообщество может зародиться как группа в сети, но для настоящего расцвета оно должно пустить корни в реальном мире. Если однажды какой-нибудь диктатор запретит в своей стране Facebook или отключит интернет, что будет с сообществами: они исчезнут или перегруппируются и нанесут ответный удар? Смогут ли они организовать демонстрацию в отсутствие интернет-связи?

В феврале 2017 года Цукерберг объяснял в своем манифесте, что онлайновые сообщества способствуют появлению офлайновых. Иногда это действительно так. Однако во многих случаях интернет-сообщество заменяет реальное, и между ними есть одно фундаментальное отличие. Реальные сообщества отличаются глубиной связей, недостижимой для виртуальных, – по крайней мере, недостижимой в ближайшем будущем. Если я болею и лежу дома, в Израиле, мои онлайновые друзья из Калифорнии охотно поговорят со мной, но не принесут мне тарелку супа или чашку чая.

У человека есть тело. На протяжении последнего столетия технологии отделяли нас от тела. Мы постепенно утрачивали способность обращать внимание на запах или вкус. Мы все больше погружались в смартфоны и компьютеры. События в киберпространстве нам интереснее, чем происходящее на улице. Поговорить с двоюродным братом в Швейцарии стало проще, а с супругом за завтраком – труднее: ведь он все время смотрит не на вас, а в смартфон[86].

В прошлом люди не могли позволить себе такую невнимательность. Древним собирателям приходилось всегда быть начеку. Бродя по лесу в поисках грибов, они высматривали на земле характерные бугорки. Они прислушивались к малейшему движению в траве, чтобы понять, не прячется ли там змея. Найдя гриб, они должны были очень внимательно разглядеть его: съедобный или ядовитый. Члены современных благополучных сообществ не нуждаются в подобной внимательности. Мы бродим среди полок супермаркета, одновременно отправляя сообщения со смартфона, и покупаем тысячи видов продуктов, одобренных системой здравоохранения. А потом едим любое, даже самое изысканное блюдо, проверяя электронную почту или уткнувшись в телевизор, и почти не обращаем внимания на вкус пищи.

Цукерберг говорит, что Facebook намерена «продолжить совершенствование своих инструментов, чтобы дать вам возможность делиться ощущениями» с другими[87]. Но люди, похоже, больше нуждаются в инструментах, которые связали бы их с собственными ощущениями. Ради того, чтобы «делиться ощущениями», людей побуждают смотреть на происходящее с ними глазами других людей. Если происходит что-то необычное, инстинкт пользователя Facebook заставляет его доставать смартфон, фотографировать, выкладывать снимки в сеть и ждать лайков. При этом человек почти не замечает своих чувств. Его чувства все чаще определяются реакцией социальной сети.

Человек, отделенный от своего тела, ощущений и физического окружения, вероятнее всего, почувствует себя изолированным и дезориентированным. Ученые часто видят причину этого отчуждения в ослаблении религиозных и национальных связей, но гораздо важнее потеря связи со своим телом. Миллионы лет люди жили без церквей и национальных государств – и, по всей видимости, прекрасно обойдутся без них в XXI веке. Но они не будут счастливы в отрыве от своего тела. Если вам некомфортно в своем теле, вы не найдете комфорта и в окружающем мире.

До настоящего времени бизнес-модель Facebook поощряла людей больше времени проводить в сети, даже если это оставляло им меньше времени и сил на занятия офлайн. Сможет ли компания принять новую модель, поощряющую пользователей выходить в сеть только при необходимости и уделять больше внимания физическому окружению, собственному телу и ощущениям? Как отнесутся к такой модели акционеры? (Схема подобной альтернативной модели недавно была продолжена Тристаном Харрисом, техническим философом и бывшим сотрудником Google, который предложил новый критерий – «хорошо проведенное время»)[88].

Ограниченность онлайновых взаимоотношений также подрывает идею Цукерберга, призванную ослабить социальное расслоение. Он справедливо указывает, что, если просто связать людей и познакомить их с разными мнениями, это не поможет преодолеть поляризацию общества, потому что «знакомство людей с противоположной точкой зрения на самом деле лишь углубляет поляризацию, представляя другие точки зрения как чуждые». Цукерберг предполагает, что «лучшим решением для развития дискурса станет знакомство не просто с мнениями, а друг с другом как личностями – именно для этого лучше всего подходит Facebook. Если мы объединяемся с людьми на основе того, что у нас есть общего, – спортивные команды, телевизионные шоу, интересы, – нам легче говорить о том, в чем мы не согласны»[89].

Но узнать «все стороны» друг друга очень трудно. Это требует времени и непосредственного физического общения. Как отмечалось выше, у среднего Homo sapiens способность поддерживать близкие отношения, по всей видимости, ограничивается кругом из 150 человек. В идеале построение сообщества не должно быть игрой с нулевой суммой. Люди могут одновременно принадлежать к нескольким группам. К сожалению, дружеские отношения, по всей видимости, – игра с нулевой суммой. Начиная с какого-то момента наши попытки лучше узнать онлайн-приятелей из Ирана или Нигерии лишат нас возможности ближе познакомиться с соседями по дому.

Решающую проверку Facebook пройдет тогда, когда кто-то из разработчиков изобретет новый инструмент, побуждающий людей посвящать меньше времени онлайн-покупкам и больше – значимым офлайновым занятиям и друзьям. Воспользуется ли Facebook этим инструментом или начнет подавлять его? Сможет ли Facebook совершить «прыжок в неизвестное» и поставить общественные потребности выше финансовых интересов? Если компания пойдет по этому пути и сумеет избежать банкротства, это будет настоящей революцией.

Переключение внимания с бухгалтерских отчетов на реальный мир повлияет и на налоговую политику Facebook. Компанию – вместе с Amazon, Google, Apple и некоторыми другими – постоянно обвиняют в уклонении от уплаты налогов[90]. Трудности с налогообложением деятельности в интернете позволяют корпорациям манипулировать бухгалтерской отчетностью. Если вы считаете, что люди живут преимущественно в сети, и даете им все необходимые инструменты для такой жизни, то имеете право считать себя полезной социальной службой, даже если не платите налоги офлайновому правительству. Но когда вы вспоминаете, что у людей есть тела, а потому им нужны дороги, больницы и канализация, оправдать уход от налогов становится гораздо сложнее. Как превозносить пользу объединения, отказываясь материально поддерживать самые важные общественные службы?

Остается лишь надеяться, что Facebook сумеет изменить бизнес-модель, перестроить налоговую политику под нужды реального мира, поможет объединить людей – и останется прибыльной. В то же время не стоит строить иллюзии относительно способности Facebook реализовать свое видение глобального сообщества. Корпорации никогда не были локомотивами социальных или политических революций. Реальная революция рано или поздно требует жертв, на которые не готовы идти корпорации, их сотрудники и акционеры. Вот почему революционеры основывают церкви, политические партии и армии. Так называемые «революции Facebook» и «революции Twitter» в арабских странах начались в исполненных надежд сетевых сообществах, но после выхода в реальный мир их возглавили религиозные фанатики и военные хунты. Если Facebook намерена совершить мировую революцию, ей придется приложить огромные усилия, чтобы преодолеть пропасть между интернетом и реальным миром. Facebook и другие интернет-гиганты склонны рассматривать людей как аудиовизуальных животных – пару глаз и пару ушей, подключенных к десяти пальцам, экрану и кредитной карте. Важным шагом к объединению человечества станет признание того факта, что у людей есть тела.

Разумеется, у такого признания будет и обратная сторона. Осознание ограниченности онлайновых алгоритмов может подтолкнуть ИТ-гиганты к дальнейшей экспансии. Устройства вроде Google Glass и игры наподобие Pokémon Go стирают границу между виртуальным и реальным миром, объединяя их в общую дополненную реальность. На еще более глубоком уровне биометрические датчики и интерфейсы «мозг – компьютер» призваны стереть границу между электронными устройствами и органическими телами – в буквальном смысле влезть нам под кожу. Когда технологические гиганты проникнут в наш организм, у них появится возможность манипулировать нашими телами, как они уже манипулируют нашими глазами, пальцами и кредитными картами. И мы будем тосковать по добрым старым временам, когда виртуальный мир был отделен от реального.

6

Цивилизация

В мире всего одна цивилизация

Пока Марк Цукерберг мечтает об объединении человечества онлайн, недавние события в реальном мире вдохнули новую жизнь в тезис о «столкновении цивилизаций». Многие ученые мужи, политики и обычные граждане верят, что гражданская война в Сирии, создание «Исламского государства»[91], неразбериха с Брекзитом и нестабильность Евросоюза – результат столкновения между «западной цивилизацией» и «исламской цивилизацией». Попытки Запада навязать демократию и права человека исламским странам привели к мощной ответной реакции и волне исламской иммиграции, сопровождающейся террористическими атаками. Все это заставило европейских избирателей отказаться от грез о мультикультурализме в пользу ксенофобии и локальной идентичности.

Согласно этой теории, человечество всегда было разделено на несколько цивилизаций, представители которых обладали принципиально разными взглядами на мир. Несовместимость этих взглядов сделала конфликт цивилизаций неизбежным. Точно так же, как в дикой природе виды борются за выживание в соответствии с беспощадными законами естественного отбора, на протяжении всей человеческой истории разные цивилизации постоянно сталкивались друг с другом, и в результате выживали только самые сильные из них. Те, кто забывает об этом печальном факте, будь то либеральные политики или витающие в облаках инженеры, подвергают себя серьезной опасности[92].

Тезис о «столкновении цивилизаций» имеет далеко идущие политические последствия. Его сторонники утверждают, что любые попытки примирить «Запад» с «исламским миром» обречены на неудачу. Исламские страны никогда не примут западных ценностей, а западные страны никогда не смогут успешно адаптировать мусульманские меньшинства. Стало быть, США не должны принимать иммигрантов из Сирии и Ирака, а Евросоюзу следует отказаться от иллюзии мультикультурализма в пользу западной идентичности. В долгосрочной перспективе лишь одна цивилизация выдержит жестокие испытания естественного отбора, и если бюрократы из Брюсселя отказываются спасать Запад от исламской угрозы, то Великобритании, Дании или Франции лучше делать это каждой в одиночку.

Этот тезис, получивший широкое распространение, ложен. Да, исламский фундаментализм действительно очень опасен, но «цивилизация», которой он бросил вызов, – не западный, а глобальный феномен. Ведь не зря же в борьбе против «Исламского государства» объединились США и Иран. Даже исламские фундаменталисты, несмотря на свои средневековые фантазии, в значительно большей степени опираются на глобальную культуру, чем Аравия VII века. Они ориентируются на страхи и надежды современной молодежи, недовольной своим положением, а не на представления средневековых крестьян и торговцев. Как убедительно показали Панкай Мишра и Кристофер де Белье, на взгляды радикальных исламистов серьезно повлияли идеи Маркса и Фуко, а не только пророка Мухаммеда, и наряду с наследием Омейядского и Аббасидского халифатов они пользуются наследием европейских анархистов XIX века[93]. Таким образом, даже «Исламское государство» будет правильнее рассматривать как заблудший побег общей для нас всех мировой культуры, а не как ветвь таинственного чужого дерева.

Что еще важнее, ошибочна сама аналогия между историей и биологией, лежащая в основе тезиса о «столкновении цивилизаций». Человеческие группы – от небольших племен до огромных цивилизаций – принципиально отличаются от видов животных, а исторические конфликты ничем не похожи на механизмы естественного отбора. Виды животных обладают объективными признаками, сохраняющимися на протяжении тысяч и тысяч поколений. Кто вы, шимпанзе или горилла, зависит от ваших генов, а не от убеждений, а разные гены диктуют разное социальное поведение. Шимпанзе живут смешанными группами из самцов и самок. Они конкурируют за власть, объединяясь в коалиции, состоящие из представителей обоих полов. У горилл один доминантный самец формирует гарем из самок и, как правило, изгоняет любого взрослого самца, который угрожает его положению в иерархии. Шимпанзе не умеют жить так, как гориллы, а гориллы не способны объединяться в группы, как шимпанзе. Насколько нам известно, эти социальные системы у шимпанзе и горилл существовали не только в последние десятилетия, но и на протяжении сотен тысяч лет.

Ничего подобного в человеческих обществах вы не найдете. Да, группы людей могут принадлежать к разным социальным системам, однако такие системы не являются генетически обусловленными и редко существуют дольше нескольких столетий. Взять, к примеру, немцев в XX веке. Меньше чем за сто лет в Германии сменились шесть разных общественных систем: империя Гогенцоллернов, Веймарская республика, Третий рейх, Германская Демократическая Республика (она же коммунистическая Восточная Германия), Федеративная Республика Германии (она же Западная Германия) и, наконец, демократическая воссоединенная Германия. Разумеется, немцы сохранили свой язык, а также любовь к пиву и сарделькам. Но существует ли некая уникальная сущность, которая отличает немцев от других народов и которая в неизменном виде сохранялась все это время, от Вильгельма II до Ангелы Меркель? И существовала ли она 1000 или 5000 лет назад?

Преамбула к так и не вступившей в силу Конституции Евросоюза начинается с заявления, что эта конституция вдохновлена «культурным, религиозным и гуманистическим наследием Европы, на основе которого развивались универсальные ценности, нерушимые и неотъемлемые права личности, свободы, демократии, равенства и верховенства закона»[94]. Легко прийти к выводу, что европейская цивилизация определяется ценностями прав человека, демократии, равенства и свободы. В бесчисленных речах и документах проводится прямая линия от древней афинской демократии к нынешнему Евросоюзу и отмечается, что европейской свободе и демократии уже 2500 лет. Вспоминается притча о слепцах, ощупывающих слона: тот, кому достался хвост животного, говорит, что слон похож на щетку. Да, демократические идеи были частью европейской культуры на протяжении многих веков, но они никогда не преобладали в обществе. Несмотря на свою славу и влияние, афинская демократия была неоднозначным экспериментом, продержавшимся едва 200 лет в отдаленном уголке Балкан. Если последние 25 веков развитие европейской цивилизации определяли демократия и права человека, то что насчет Спарты и Юлия Цезаря, крестоносцев и конкистадоров, инквизиции и работорговли, Людовика XVI и Наполеона, Гитлера и Сталина? Может, они были пришельцами из какой-то другой цивилизации?

На самом деле европейская цивилизация – это то, чем ее считают европейцы, точно так же как христианство – это то, чем его считают христиане, ислам – то, чем его считают мусульмане, а иудаизм – то, чем его считают иудеи. На протяжении столетий их представления существенно менялись. Группы людей характеризуются в большей степени изменениями, которые в них происходят, чем продолжительностью своего существования. Тем не менее они ухитряются придумать для себя древнюю самобытность – благодаря искусству рассказывать сказки. Какие бы революции ни сотрясали их общество, им всегда удается сплести новое и старое в единую ткань.

Даже один человек способен соединить революционные изменения своей личности в яркую и связную историю жизни: «Раньше я был социалистом, а потом стал капиталистом; я родился во Франции, а теперь живу в США; я был женат, но потом развелся; я болел раком, но излечился». Точно так же любая группа людей, например немцев, может определить себя через перемены, которые она пережила: «Раньше мы были нацистами, но усвоили урок, и теперь мы миролюбивые демократы». Вовсе не обязательно искать некую уникальную немецкую сущность, которая проявилась сначала в Вильгельме II, затем в Гитлере и, наконец, в Меркель. Именно эти радикальные изменения и определяют немецкую идентичность. В 2018 году быть немцем означает преодолеть тяжелое наследие нацизма и поддерживать либеральные и демократические ценности. Но кто знает, что это будет означать в 2050-м?

Люди часто отказываются замечать эти перемены, особенно когда речь идет о главных политических и религиозных ценностях. Мы настаиваем, что наши ценности – важное наследие древних предков. Но говорить так мы можем лишь потому, что наши предки давно умерли и не в силах нам возразить. Возьмем, к примеру, отношение евреев к женщинам. Современные ортодоксальные иудеи осуждают изображение женщин в публичной сфере. На плакатах и объявлениях, предназначенных для ортодоксов, обычно изображаются только мужчины и мальчики – но не женщины и не девочки[95].

В 2011 году разразился скандал, когда ультраортодоксальная бруклинская газета Di Tzeitung опубликовала фотографию американских лидеров, наблюдающих за рейдом в убежище Усамы бен Ладена. На снимке с помощью цифрового редактора были стерты изображения всех женщин, в том числе госсекретаря Хиллари Клинтон. Газета объяснила, что была вынуждена это сделать, чтобы соблюсти еврейские «законы целомудрия». Похожий скандал вызвало удаление Ангелы Меркель с фотографии демонстрации против бойни в Charlie Hebdo – газета HaMevaser объяснила это тем, что изображение канцлера может возбудить у благочестивых читателей похотливые мысли. Издатель третьей ультраортодоксальной газеты, Hamodia, защищал свою позицию так: «За нами тысячи лет еврейской традиции»[96].

Строже всего запрет видеть женщину соблюдается в синагоге. В ортодоксальных синагогах женщин тщательно отделяют от мужчин, и они обязаны находиться в запретной для мужчин зоне, за занавеской, чтобы ни один мужчина не увидел даже силуэта женщины, когда молится или читает священные книги. Но если такой порядок освящен тысячелетними еврейскими традициями и незыблемыми божественными законами, то как объяснить находки археологов? В древних синагогах, относящихся к той эпохе, когда были написаны Мишна и Талмуд, исследователи не нашли никаких признаков разделения по половому признаку – более того, на полу и стенах были обнаружены великолепные мозаики с изображением женщин, причем некоторые из этих женщин были в весьма откровенных одеждах. Раввины, писавшие Мишну и Талмуд, регулярно молились и работали в этих синагогах, но современные ортодоксальные иудеи сочтут такие мозаики нечестивым осквернением древних традиций[97].

Похожие искажения древних традиций можно найти во всех религиях. «Исламское государство» хвасталось, что вернулось к чистой, оригинальной версии ислама, но в действительности их взгляд на ислам абсолютно нов. Да, они цитируют множество священных текстов, но при этом тщательно выбирают, какие фрагменты пропускать, какие цитировать и как их толковать.

Их самостоятельная интерпретация священных текстов – это очень современный подход. Традиционно такая интерпретация была уделом ученых улам – мудрецов, которые изучали исламские законы и теологию в авторитетных учреждениях, таких как университет Аль-Азхар в Каире. Лишь немногие лидеры «Исламского государства» могли похвастаться богословским образованием, а большинство почитаемых улам называли Абу Бакра аль-Багдади и ему подобных невеждами и преступниками[98].

Это не означает, что «Исламское государство» было «немусульманским» или «антимусульманским», как утверждают некоторые. Особенно странно звучат слова христианских лидеров, например Барака Обамы, которые берут на себя смелость рассказывать таким людям, как Абу Бакр аль-Багдади, объявившим себя защитниками ислама, что такое настоящий ислам[99]. Жаркие споры об истинной сущности ислама просто бессмысленны. У ислама нет неизменной ДНК. Ислам – это то, чем считают его мусульмане[100].

Немцы и гориллы

Еще более глубокие различия существуют между человеческими группами и группами у животных. Виды животных часто разделяются, но никогда не объединяются. Общие предки шимпанзе и горилл жили приблизительно 7 миллионов лет назад. Древний вид разделился на две популяции, и каждая из них пошла своим эволюционным путем. После этого обратной дороги уже не было. Поскольку потомство особей, принадлежащих к разным видам, бесплодно, виды не смешиваются друг с другом. Гориллы не могут скрещиваться с шимпанзе, жирафы со слонами, а собаки с кошками.

В отличие от видов животных племена людей могут объединяться (и объединяются) во все более многочисленные группы. Современная немецкая нация образовалась из саксонцев, швабов и баварцев, которые еще относительно недавно не испытывали особой любви друг к другу. Отто фон Бисмарку приписывают фразу (якобы произнесенную после прочтения «Происхождения видов» Дарвина) о том, что баварцы – это недостающее звено между австрийцами и людьми[101]. Французы появились в результате смешения франков, норманнов, бретонцев, гасконцев и провансальцев. А по другую сторону Ла-Манша англичане, шотландцы и валлийцы постепенно сплавляются (хотят они того или нет) в единую британскую нацию. Не за горами времена, когда немцы, французы и британцы станут просто европейцами.

Но объединения не всегда бывают прочными, и сегодня это хорошо видят люди в Лондоне, Эдинбурге и Брюсселе. Брекзит может спровоцировать раскол как в Великобритании, так и в Евросоюзе. Но в долговременном плане направление, в котором движется история, вполне очевидно. 10 тысяч лет назад человечество было разделено на огромное число изолированных племен. С каждым новым тысячелетием они объединялись во все более крупные группы, образуя все меньшее количество отдельных цивилизаций. На протяжении последних поколений несколько оставшихся цивилизаций объединялись в единую глобальную цивилизацию. Политические, этнические и культурные различия сохраняются, однако они не подрывают фундаментального единства. И действительно, некоторые расхождения возможны только при наличии всеобъемлющей общей структуры. В экономике, например, разделение труда может быть эффективным только при условии существования единого рынка. Страна не может специализироваться на производстве автомобилей или добыче нефти, если у нее нет возможности покупать продовольствие у других стран, которые выращивают пшеницу и рис.

Процесс объединения людей принял две формы: образование связей между разными группами и гомогенизация самих групп. Связи могут устанавливаться даже между группами, поведение которых по-прежнему существенно различается. Более того – даже между заклятыми врагами. Чрезвычайно сильные связи между людьми формирует даже война. Историки часто говорят о том, что первый пик глобализации пришелся на 1913 год, затем, в период мировых войн и холодной войны, наблюдался спад, и процесс вновь набрал силу только после 1989 года[102]. Это утверждение может быть справедливо для экономической глобализации, но оно не учитывает не менее важную динамику военной глобализации. Война способствует распространению идей, технологий и людей гораздо сильнее, чем торговля. В 1918 году Соединенные Штаты были теснее связаны с Европой, чем в 1913-м. Между двумя мировыми войнами Старый и Новый Свет несколько отдалились друг от друга, но их судьбы снова неразрывно сплелись во время Второй мировой и холодной войны.

Война также усиливает интерес людей друг к другу. Взаимодействие США с Россией никогда не было таким интенсивным, как в период холодной войны, когда каждый чих в московских коридорах власти заставлял американцев бегать вверх-вниз по вашингтонским лестницам. Люди уделяют гораздо больше внимания врагам, чем торговым партнерам. На один американский фильм о Тайване приходится порядка 50 фильмов о Вьетнаме.

Средневековая олимпиада

Мир начала XXI века уже давно прошел этап формирования связей между разными группами. Люди из разных уголков земли не только поддерживают контакты друг с другом, но и разделяют общие убеждения и привычки. Тысячу лет назад наша планета была плодородной почвой для десятков разных политических моделей. В Европе можно было встретить феодальные княжества, соперничающие с независимыми городами-государствами и крошечными теократиями. В исламском мире имелся халифат, претендовавший на полновластие, но наряду с ним существовали также королевства, султанаты и эмираты. Китайские империи считали себя единственным законным политическим образованием, но на севере и западе от них яростно сражались друг с другом племенные союзы. В Индии и Юго-Восточной Азии разные режимы сменялись, как в калейдоскопе; Америка, Африка и Австралия отличались необыкновенным разнообразием сообществ, от крошечных групп охотников и собирателей до обширных империй. Неудивительно, что даже жившие по соседству группы людей с трудом договаривались о взаимоприемлемых дипломатических процедурах, не говоря уже о международных законах. Каждое общество выстраивало свою политическую парадигму, и людям было трудно понимать и уважать чужие политические концепции.

Сегодня во всем мире принята единая политическая парадигма. Планету поделили между собой около 200 суверенных государств, которые, как правило, признают единые дипломатические протоколы и общие международные законы. Швеция, Нигерия, Таиланд и Бразилия – все они отмечены на наших атласах разными красками, все они члены ООН, и, несмотря на бесчисленные различия, все они признаны суверенными государствами с соответствующими правами и привилегиями. И действительно, у них очень много общих политических идей и практик, в том числе вера в представительные органы, политические партии, всеобщее избирательное право и права человека. Парламенты есть в Тегеране, Москве, Кейптауне и Нью-Дели, а не только в Лондоне и Париже. Когда израильтяне и палестинцы, русские и украинцы, курды и турки борются за мировое общественное мнение, все они используют один и тот же дискурс прав человека, государственного суверенитета и международного права.

В мире существуют разные типы «стран-банкротов» (failed state), но есть лишь одна парадигма для успешного государства.

Для глобальной политики справедлив принцип, сформулированный в «Анне Карениной»: все успешные государства похожи друг на друга, а каждое несостоятельное государство несостоятельно по-своему – в нем отсутствует та или иная составляющая основного политического пакета. Не так давно на этом фоне выделилось «Исламское государство», которое полностью отрицало необходимость этого пакета и попыталось основать принципиально иное политическое образование – всемирный халифат. Но именно по этой причине оно и потерпело крах. В прошлом самым разным партизанским движениям и террористическим организациям удавалось основывать новые государства или захватывать власть в старых. Но они всегда принимали главные принципы глобального политического порядка. Даже движение талибан стремилось к международному признанию в качестве законного правительства суверенной страны Афганистан. Ни одной группе, отвергающей принципы глобальной политики, до сих пор не удавалось надолго сохранить контроль над значительной территорией.

Силу глобальной политической парадигмы, возможно, удобнее оценивать не по главным политическим вопросам войны и дипломатии, а по таким событиям, как Олимпийские игры 2016 года в Рио-де-Жанейро. Как были организованы игры? 11 тысяч спортсменов распределились по группам в соответствии со своим гражданством – а не религией, классом или языком. В Рио не было делегаций буддистов, пролетариев или тех, кто говорит по-английски. За исключением нескольких случаев (прежде всего, Тайваня и Палестины), определить национальную принадлежность спортсмена не составляло труда.

На церемонии открытия Олимпиады спортсмены шли группами, каждая под флагом своей страны. Когда Майкл Фелпс выигрывал очередную золотую медаль, вверх взмывал звездно-полосатый флаг и звучал американский гимн. Когда Эмили Андеоль завоевала золотую медаль в дзюдо, на флагштоке поднялся французский триколор, а оркестр сыграл «Марсельезу».

У каждой страны есть свой гимн, что согласуется с той же самой универсальной моделью. Почти все гимны – это оркестровые произведения продолжительностью несколько минут, а не двадцатиминутные песнопения, исполнять которые вправе лишь представители особой касты потомственных священнослужителей. Даже такие страны, как Саудовская Аравия, Пакистан и Конго, приняли западные музыкальные нормы для своих гимнов. Большинство из них звучат так, словно их сочинил Бетховен в не самый удачный для себя день. (Можете провести с друзьями увлекательный вечер, прослушивая разные гимны на YouTube и пытаясь угадать страну.) Даже тексты гимнов почти одинаковы и содержат общие концепты политики и групповой лояльности. Угадаете, гимн какой страны приведен ниже? (Я заменил название страны словами «моя страна».)

Моя страна, моя родина,Земля, где я пролил свою кровь.Здесь я стою, как солдат своей родины.Моя страна, мой народ,Мои люди и моя родина.Давайте воскликнем: «Моя страна едина!»Да здравствует моя земля, мое государство,Мой народ и моя родина неразделимы.Давайте же вместе построим дух и телоДля моей великой страны.Великая моя страна, независимая и свободная.Моя земля, моя страна, которую я люблю.Великая моя страна, независимая и свободная,Да здравствует моя великая страна!

Правильный ответ – Индонезия. А вы удивились бы, скажи я, что это Польша, Нигерия или Бразилия?

Такое же однообразие характерно для национальных флагов. Все они, за одним-единственным исключением, представляют собой прямоугольный кусок ткани с весьма ограниченным набором цветов, полос и геометрических форм. На фоне прочих стран выделяется Непал, у которого флаг состоит из двух треугольников. (Правда, непальские спортсмены еще ни разу не выигрывали олимпийские медали.) Флаг Индонезии состоит из двух полос, красной сверху и белой снизу. У польского флага белая полоса сверху, а красная снизу. А у Монако флаг такой же, как у Индонезии. Человек с нарушением цветовосприятия вряд ли различит флаги Бельгии, Чада, Кот-д’Ивуара, Франции, Гвинеи, Ирландии, Италии, Мали и Румынии – на каждом из них по три вертикальных полосы разного цвета.

Некоторые из этих стран воевали друг с другом, но за весь XX век из-за войны Олимпийские игры отменяли всего три раза (в 1916, 1940 и 1944 годах). В 1980 году США и некоторые их союзники бойкотировали Олимпиаду в Москве, в 1984 году страны советского блока бойкотировали игры в Лос-Анджелесе, а в некоторых случаях в центре политической бури оказывались сами олимпийцы (особенно в 1936 году, когда Олимпийские игры принимали нацисты, и в 1972-м, когда палестинские террористы убили израильских спортсменов во время Олимпиады в Мюнхене). Но в целом политические противоречия не подорвали олимпийское движение.

Вернемся на тысячу лет назад. Предположим, вы хотите организовать средневековые Олимпийские игры в Рио-де-Жанейро в 1016 году. Забудем на минуту, что в то время Рио был маленькой деревушкой индейцев племени тупи[103] и что жители Европы и Азии даже не подозревали о существовании Америки. Забудем о логистических проблемах, связанных с доставкой в Рио лучших спортсменов мира в отсутствие самолетов. Забудем о том, что общими для разных стран были лишь несколько видов спорта, и, хотя все люди умели бегать, не все могли договориться об одинаковых правилах соревнований по бегу. Просто спросите себя, на какие группы следовало бы разбить атлетов. Сегодня Олимпийский комитет тратит огромное количество времени на обсуждение тайваньского или палестинского вопроса. Умножьте эти часы на 10 тысяч – и вы получите представление о времени, которое придется уделить политическим вопросам на средневековой Олимпиаде.

Начнем с того, что китайская империя Сун не признавала равным себе ни одно политическое образование на Земле. Поэтому было бы неслыханной дерзостью присвоить ее олимпийцам такой же статус, как и атлетам корейского королевства Корё или вьетнамского королевства Дайковьет – не говоря уже о делегациях «примитивных заморских варваров».

Багдадский халиф тоже претендовал на власть над всем миром, и большинство суннитов признавали его верховным правителем. Но на практике халиф не обладал властью даже над Багдадом. Должны ли спортсмены-сунниты выступать в составе одной делегации или их следует разделить на несколько десятков делегаций по числу эмиратов и султанатов суннитского мира? Аравийскую пустыню населяли свободные племена бедуинов, которые не признавали никакого властителя, кроме Аллаха. Должно ли каждое из них направить отдельную делегацию для участия в состязаниях по стрельбе из лука и в гонках на верблюдах? Таким же источником головной боли стала бы Европа. Под чьим флагом должны выступать спортсмены из нормандского города Иври? Местного графа? Его сюзерена, герцога Нормандии? Или под флагом слабого французского короля?

Многие из политических образований появлялись и быстро исчезали, просуществовав совсем недолго. Занимаясь подготовкой к Олимпиаде-1016, вы не знали бы заранее, какие к вам приедут делегации: никто не сказал бы наверняка, какие политические образования сохранятся к следующему году. Если бы Английское королевство отправило на Олимпиаду-1016 свою делегацию, то спортсмены, вернувшись домой с медалями, обнаружили бы, что Лондон захвачен датчанами, а Англия вместе с Данией, Норвегией и частью Швеции вошла в состав Империи Северного моря Кнуда Великого. Через 20 лет империя распадется, а еще через 30 Англия снова будет завоевана – на этот раз герцогом Нормандии.

Нет нужды говорить, что у подавляющего большинства этих недолговечных политических образований не было ни гимна, который можно было бы исполнить в честь победителя состязаний, ни флага. Конечно, в те времена политическим символам уделялось большое внимание, но язык символов европейской политики сильно отличался от политических языков символов Китая, Индонезии или индейцев тупи. Договориться о едином протоколе чествования победителя было бы практически невозможно.

Поэтому, когда в 2020 году вы будете смотреть игры в Токио, помните о том, что это соревнование между странами на самом деле демонстрирует удивительное всемирное согласие. Помимо чувства национальной гордости, возникающего, когда ваш соотечественник завоевывает золотую медаль и в небо взмывает флаг вашей страны, вы можете испытывать еще бóльшую гордость за человечество, которое сумело организовать такое событие.

Власть доллара

В прежние времена люди экспериментировали не только с разными политическими системами, но и с невероятным количеством экономических моделей. Русские бояре, индийские махараджи, китайские мандарины и вожди американских индейцев обладали разными представлениями о деньгах, торговле, налогах и занятости. Сегодня почти все верят в слабо различающиеся варианты одной и той же капиталистической модели, и все мы – шестеренки одного глобального производственного конвейера. Где бы вы ни жили, в Конго или Монголии, в Новой Зеландии или Боливии, ваша повседневная жизнь и материальное благосостояние определяются одними и теми же экономическими теориями, одними и теми же корпорациями и банками, одними и теми же потоками капитала. Если бы министры финансов Израиля и Ирана встретились за ланчем, они нашли бы общий язык, без труда поняли бы беды и проблемы друг друга и посочувствовали друг другу.

Когда «Исламское государство» захватило значительную часть Сирии и Ирака, его сторонники убивали тысячи людей, разрушали археологические памятники, сбрасывали с пьедестала статуи и последовательно уничтожали символы прежних режимов и культурного влияния Запада[104]. Но когда они врывались в банк и находили там пачки американских долларов с портретами президентов США и надписями на английском языке, прославляющими американские политические и религиозные идеи, они не сжигали эти символы американского империализма. Дело в том, что долларовой банкноте поклоняются все, независимо от политических и религиозных различий. У нее нет потребительской ценности – долларовую банкноту нельзя съесть или выпить, – но вера в доллар и в мудрость Федеральной резервной системы столь прочна, что ее разделяют даже исламские фундаменталисты, мексиканские наркобароны и северокорейские тираны.

Однородность современного человеческого общества становится еще более очевидной, когда речь заходит о наших взглядах на природу и человеческое тело. Если тысячу лет назад человек заболевал, его действия определялись тем, где он жил. В Европе местный священник, вероятно, сказал бы вам, что вы прогневили Господа и что для восстановления здоровья нужно что-то пожертвовать церкви, предпринять паломничество по святым местам и усиленно молить Бога о прощении. А деревенская ведьма объяснила бы ваше состояние тем, что вы одержимы демоном, и предложила бы изгнать его из вашего тела с помощью песни, танца и крови черного петуха.

На Ближнем Востоке врачи, воспитанные в классической традиции, поведали бы вам, что у вас нарушилось равновесие телесных гуморов и что необходимо восстановить баланс с помощью правильной диеты и неприятно пахнущих настоев. В Индии знатоки аюрведы предложили бы свои теории о равновесии между тремя телесными элементами, известными как доши, и порекомендовали бы лечение травами, массажем и асанами йоги. Китайские врачи, сибирские шаманы, африканские целители, индейские колдуны – в каждой империи, королевстве или племени имелись свои традиции и свои эксперты с разными взглядами на человеческое тело и природу болезней, и все они предлагали разные наборы ритуалов, снадобий и методов. Одни средства помогали на удивление хорошо, а другие были равноценны смертному приговору. Единственный факт, объединявший европейскую, китайскую, африканскую и американскую практику, заключался в том, что не меньше трети детей умирало, не дожив до совершеннолетия, а средняя продолжительность жизни не дотягивала и до 50 лет[105].

В наши дни судьба заболевшего человека почти не зависит от того, где он живет. Больницы в Торонто, Токио, Тегеране и Тель-Авиве похожи друг на друга; там вас встретят врачи в белых халатах, которые изучали одни и те же научные теории на одних и тех же медицинских факультетах. Они будут следовать одним и тем же протоколам, проводить одинаковые анализы, чтобы поставить похожие диагнозы. Затем они выпишут одни и те же лекарства, выпущенные одними и теми же международными фармацевтическими компаниями. Конечно, культурные различия остаются, но канадские, японские, иранские и израильские врачи придерживаются одинаковых взглядов на человеческое тело и человеческие болезни. Когда «Исламское государство» захватило Ракку и Мосул, религиозные фанатики не разрушили местные больницы. Наоборот: они обратились к врачам-мусульманам всего мира с призывом приехать и лечить людей[106]. По всей видимости, даже исламские врачи и медсестры верят, что тело состоит из клеток, болезни вызываются патогенами, а антибиотики убивают бактерий.

Но откуда взялись эти клетки и бактерии? Откуда вообще взялся наш мир? Тысячу лет назад в каждой культуре существовала своя история о сотворении мира и главных ингредиентах космического супа. В наши дни образованные люди всего мира верят в одни и те же теории о материи, энергии, времени и пространстве. Возьмем, к примеру, иранскую и северокорейскую ядерные программы. Суть проблемы в том, что в Иране и КНДР придерживаются точно таких же взглядов на физику, как в Израиле и Америке. Если бы иранские и северокорейские ученые считали, что E = mc⁴, Израилю и США можно было бы не опасаться, что эти страны создадут ядерное оружие.

В современном мире сохранилась религиозная и национальная идентичность. Но когда речь идет о практических вещах – создать государство, экономику, построить больницу, сделать бомбу, – выясняется, что почти все люди принадлежат к одной цивилизации. Вне всякого сомнения, разногласия существуют – но внутренние споры были во всех цивилизациях. Более того, сами цивилизации и сформировались в результате этих споров. Пытаясь определить свою идентичность, люди часто составляют список общих черт, но это ошибочный путь. Здесь больше помог бы список общих конфликтов и дилемм. Например, в 1618 году в Европе не было общей религиозной идентичности, зато бушевали религиозные распри. В 1618 году идентичность европейца определялась его озабоченностью мизерными доктринальными различиями между католиками и протестантами или между кальвинистами и лютеранами, а также готовностью убивать и умирать за эти различия. Если человека, жившего в 1618 году, не волновали эти конфликты, значит, этот человек был турком, индусом – кем угодно, но не европейцем.

В 1940 году Великобритания и Германия исповедовали разные политические ценности, но обе страны были неотделимы от «европейской цивилизации». Гитлер был не меньшим европейцем, чем Черчилль. Более того, само их противостояние показывало, что значит быть европейцем на этом конкретном историческом этапе. А вот охотники и собиратели из племени кунг в 1940 году не были европейцами, поскольку внутренние европейские споры о расе и империи ничуть их не волновали.

Люди, с которыми мы ожесточенно сражаемся, зачастую оказываются членами нашей семьи. Идентичность в большей степени формируют конфликты и дилеммы, а не согласие. Что значит быть европейцем в 2018 году? Вовсе не обязательно иметь белую кожу, верить в Иисуса Христа или поддерживать идеалы свободы. Скорее это означает яростно спорить по поводу иммиграции, Евросоюза и изъянов капитализма. Это также значит постоянно спрашивать себя: «Что определяет мою идентичность?» – и беспокоиться из-за старения населения, безудержного консьюмеризма и глобального потепления. Конфликты и дилеммы XXI века отличают современных европейцев от их предков, живших в 1618 и 1940 годах, но сближают с нынешними китайскими и индийскими торговыми партнерами.

Какие бы изменения ни ждали нас в будущем, они, скорее всего, будут сопровождаться братскими конфликтами внутри единой цивилизации, а не столкновениями разных цивилизаций. Главные вызовы XXI века будут глобальными по своей природе. Что произойдет, когда изменение климата вызовет экологические катастрофы? Что произойдет, когда компьютеры начнут превосходить человека в решении все большего числа задач и заменять людей во все большем количестве профессий? Что произойдет, когда биотехнологии позволят улучшать людей и продлевать жизнь? Вне всяких сомнений, пытаясь найти ответ на эти вопросы, мы станем свидетелями жарких споров и ожесточенных конфликтов. Но эти споры и конфликты вряд ли приведут к разобщенности людей. Как раз наоборот: они сделают нас еще более зависимыми друг от друга. Хотя человечеству еще очень далеко до построения гармоничного общества, все мы принадлежим к одной буйной глобальной цивилизации.

Как же объяснить волну национализма, захлестнувшую мир? Возможно, из-за чрезмерного энтузиазма по поводу глобализации мы слишком рано стали забывать о старых добрых нациях? Может ли возврат к традиционному национализму разрешить этот серьезный глобальный кризис? Если глобализация несет с собой столько проблем, почему не отказаться от нее?

7

Национализм

Глобальным проблемам нужны глобальные решения

Сегодня человечество представляет собой единую цивилизацию, и все люди сталкиваются с одними и теми же вызовами и располагают теми же возможностями. Тем не менее британцы, американцы, русские и многие другие группы все больше поддерживают идею националистической изоляции. Может, в этом и заключается решение беспрецедентных проблем нашего глобального мира?

Отвечая на этот вопрос, следует подчеркнуть, что существование современных национальных государств никак не обусловлено биологией человека и не является неизбежным продуктом человеческой психологии. 5000 лет назад не было ни итальянцев, ни русских, ни турок. Конечно, люди всегда были социальными животными, и преданность группе заложена у нас в генах. Однако на протяжении миллионов лет люди объединялись в маленькие тесные сообщества, а не в большие национальные государства.

Homo sapiens научился использовать культуру как основу для широкомасштабного сотрудничества, и это стало ключом к успеху нашего вида. Но культура – гибкая вещь. Поэтому, в отличие от муравьев и шимпанзе, сапиенсы могут организовываться самыми разными способами, приспосабливаясь к меняющимся условиям. Национальные государства – это лишь один из множества вариантов. Есть и другие: племена, города-государства, империи, церкви и корпорации. В будущем не исключено даже некое глобальное объединение, если для него возникнет достаточно прочная культурная основа. Не существует верхней границы для размера группы, с которой люди готовы себя отождествлять. В большинстве современных государств народу больше, чем было во всем мире 10 тысяч лет назад.

Людям приходится создавать большие сообщества, такие как национальные государства, в ответ на вызовы, с которыми они не столкнулись бы в маленьком племени. Возьмем, к примеру, древние племена, населявшие долину Нила несколько тысяч лет назад. Река давала им жизнь, она орошала поля и помогала торговать. Но это был непредсказуемый союзник. Если дождей было мало, люди умирали от голода; из-за слишком сильных дождей река могла выйти из берегов и снести целые деревни. Ни одно племя не могло справиться с этой проблемой самостоятельно, потому что каждому принадлежал лишь небольшой участок реки и каждое могло мобилизовать на работы не больше нескольких сотен человек. Только общие усилия по строительству громадных дамб и многокилометровых каналов давали надежду обуздать и подчинить могучую реку. Это стало одной из причин, по которым племена постепенно объединились в единый народ, который строил дамбы и рыл каналы, чтобы регулировать течение реки, накапливал запасы зерна для неурожайных лет и создавал разветвленную систему транспорта и связи по всей стране.

Несмотря на очевидные преимущества, объединение племен и кланов в единый народ никогда не было легким делом – ни в древности, ни сегодня. У национализма две стороны – одна простая, другая чрезвычайно сложная. Очень легко ставить людей, похожих на нас, выше чужаков. Люди поступали так на протяжении миллионов лет: ксенофобия у нас в крови.

Сложная часть национализма состоит в том, чтобы иногда предпочитать незнакомых людей друзьям и родственникам. Например, настоящий патриот честно платит налоги, чтобы неизвестные ему дети на другом конце страны получали достойную медицинскую помощь, даже если это значит, что он не сможет лечить собственных детей в дорогой частной клинике. Точно так же патриотически настроенный чиновник нанимает на высокооплачиваемые должности наиболее квалифицированных работников, а не своих родственников или друзей. Это противоречит миллионам лет эволюции. Уклонение от налогов и кумовство для нас естественны, однако национализм называет это «коррупцией». Чтобы люди осуждали коррупцию и ставили национальные интересы выше семейных связей, помимо государственных систем здравоохранения, безопасности и социального обеспечения, странам приходится содержать огромный аппарат, который занимается образованием, пропагандой и размахиванием флагами.

Чтобы понять, насколько трудно идентифицировать себя с таким государством, задайте себе вопрос: «Знаю ли я этих людей?» Я могу назвать по именам двух своих сестер и 11 кузенов и кузин и целый день рассуждать об их характерах и странностях. Но я не знаю имен восьми миллионов других людей, которые, как и я, имеют израильское гражданство. С большинством из них я никогда не встречался и, скорее всего, никогда не встречусь. Тем не менее я способен испытывать чувство причастности к этой массе людей – и это и есть чудо современности.

Это вовсе не означает, что с национальными связями что-то не так. Огромные системы не могут функционировать без массовой лояльности, а расширение круга человеческой эмпатии явно имеет свои достоинства. Умеренных форм патриотизма придерживались самые лучшие из людей. Убеждение, что мой народ уникален, что он заслуживает моей преданности и что у меня перед ним есть особые обязательства, заставляет меня заботиться о других людях и чем-то жертвовать ради них. Было бы опасной ошибкой полагать, что без национализма мы жили бы в либеральном раю. С большей вероятностью это был бы племенной хаос. В частности, демократия не может функционировать без национализма. Обычно люди готовы принять результаты демократических выборов только в том случае, если все партии разделяют ценности верности своей нации. Мирные, процветающие и либеральные страны, такие как Германия, Швеция и Швейцария, отличаются сильным чувством национальной гордости. В список стран, где отсутствуют прочные национальные узы, входят Афганистан, Сомали, Конго и большинство других государств-банкротов[107].

Проблемы начинаются тогда, когда доброжелательный патриотизм превращается в шовинистический ультранационализм. Вместо того чтобы верить в уникальность своей нации (а любая нация уникальна), человек начинает думать, что его нация выше всех прочих, что он должен быть верен только ей и что перед всеми остальными у него нет никаких обязательств. Это питательная среда для жестоких конфликтов. На протяжении многих поколений самой серьезной претензией к национализму было то, что он провоцирует войны. Однако каждая нация оправдывала свою военную экспансию необходимостью защищать себя от посягательств соседей. Пока страна гарантирует своим гражданам высочайший уровень безопасности и процветания, они готовы платить за это кровью. В XIX и начале XX века националистическая сделка все еще выглядела привлекательной. Несмотря на то что национализм приводил к кровавым конфликтам колоссального масштаба, современным национальным государствам удалось выстроить мощные системы здравоохранения, образования и социального обеспечения. Эти системы как будто оправдывали своим существованием Пашендаль и Верден.

Все изменилось в 1945 году. Изобретение ядерного оружия резко сместило баланс националистической сделки. После Хиросимы люди боялись уже не того, что национализм приведет к войне, – они начали бояться, что он приведет к ядерной войне. Угроза полного уничтожения изменила мышление людей, и во многом благодаря именно этой угрозе поверх разных наций начало постепенно формироваться глобальное сообщество, поскольку только ему по силам обуздать ядерного демона.