Цифровизация и когнитивные войны

скачать Авторы: 
- Алексеев А. П. - подписаться на статьи автора
- Алексеева И. Ю. - подписаться на статьи автора
Журнал: Философия и общество. Выпуск №4(101)/2021 - подписаться на статьи журнала

DOI: https://doi.org/10.30884/jfio/2021.04.02

Алексеев Александр Петрович, доктор философских наук, профессор, заведующий кафедрой философии гуманитарных факультетов философского факультета МГУ имени М. В. Ломоносова more

Алексеева Ирина Юрьевна, доктор философских наук, ведущий научный сотрудник Института философии РАН more

Авторы рассматривают феномен когнитивной (информационно-психологической) войны в контексте процессов цифровизации, охвативших едва ли не все сферы жизни человека и общества. Проводится различие между, с одной стороны, начавшейся семь десятилетий назад цифровизацией как применением электронно-вычислительной техники и, с другой стороны, родившимся несколько лет назад мемом «цифровизация». Особое внимание уделяется двум показательным текстам, опубликованным в последние годы. Это отчет RAND «Чрезмерное напряжение и разбалансирование России: Оценка эффективности вариантов», характеризующий стратегию когнитивной войны США против Российской Федерации, а также опубликованная в «НАТО ревью» статья «Противодействие когнитивной войне: осознание и гибкость», посвященная способам возможного использования цифровых технологий в когнитивной войне против стран альянса. Делается вывод о том, что любое общество, подвергающееся «цифровым трансформациям», сталкивается со специфическими опасностями фрагментации, блокировки интеллектуальных способностей и зависимости от манипуляций. В этих условиях необходимы стратегии интеллектуального развития, определяющие определенные требования к цифровым технологиям и определяющие способы их использования.

Ключевые слова: цифровизация, информационная война, когнитивная война, ментальная война, информационно-психологическая безопасность, разбалансирование России, стратегии интеллектуального развития.

Digitalization and Cognitive Wars

Alekseev A. P., Alekseeva I. Yu. 

The authors consider the phenomenon of cognitive (information and psychological) warfare in the context of digitalization processes that have involved almost all spheres of human life and society. A distinction is made between digitalization, which began seven decades ago as the use of electronic computing technology, and the meme “digitalization”, which was born a few years ago. Special attention is paid to two illustrative texts published in recent years. The first is the RAND report “Overextending and Unbalancing Russia: Assessing the Impact of Cost-Imposing Options”, characterizing the strategy of the cognitive war of the United States against the Russian Federation. The second is the article “Countering cognitive warfare: awareness and resilience” published in the NATO Review, devoted to the ways of possible use of digital technologies in the cognitive war against the alliance countries. We come to the conclusion that any society undergoing “digital transformations” faces specific dangers of fragmentation, blocking of intellectual abilities and dependence on manipulation. In this situation, intellectual development strategies are needed that would set certain requirements for digital technologies and determine how to use the technologies.

Keywords: digitalization, information warfare, cognitive warfare, unbalancing Russia, intellectual development strategies.

Слово «цифровизация» активно используется сегодня в осмыслении сложной совокупности проблем, порождаемых конвергентным развитием информационно-вычислительных и телекоммуникационных технологий. Многие из таких проблем достаточно давно обсуждаются как проблемы компьютеризации и информатизации общества, компьютерной (цифровой) революции, информационного общества, общества знаний. «Цифровизация» как мем (единица культурно значимой информации) является продуктом и инструментом своего рода ребрендинга упомянутых концептуальных комплексов. Следует подчеркнуть, что «цифровизация» как относительно недавно возникший мем не тождественна процессам цифровизации, которые начались с введением в регулярную эксплуатацию электронно-вычислительных машин в середине XX в., а сегодня охватывают едва ли не все сферы общества и человеческой жизни. История цифровизации как история производства и все более широкого применения быстро прогрессирующих цифровых электронно-вычислительных устройств и технологий насчитывает семь десятилетий.

Что же касается мема «цифровизация», то годом его рождения можно без особых сомнений считать 2016-й. Именно в этом году тема цифровизации стала предметом обсуждения на Всемирном экономическом форуме в Давосе. Широкую известность приобрели посвященные данной теме выступления Клауса Шваба, основателя и бессменного председателя упомянутого форума. Накануне форума 2016 г. в журнале «Foreign Affairs» была опубликована статья Шваба «Четвертая промышленная революция: что это значит и как отвечать» [Schwab 2015], а после форума – одноименная книга, озаглавленная, как и статья, «Четвертая промышленная революция» [Idem 2016]. В том же 2016 г. вышел в свет русский перевод этой книги с предисловием Германа Грефа, президента и председателя правления «Сбербанка» [Шваб 2016]. К. Шваб писал о том, что человечество находится на пороге четвертой промышленной революции, которая произойдет благодаря слиянию технологий и размыванию границ между физическим, цифровым и биологическим мирами (первая промышленная революция произошла благодаря появлению парового двигателя, вторая – благодаря электричеству, а третья – компьютеру). Шваб также подчеркивал, что четвертая промышленная революция, беспрецедентная по ширине и глубине, произойдет на основе третьей, «цифровой революции» (digital revolution), начавшейся в середине прошлого столетия. Приведем характерное высказывание из упомянутой статьи: «Безграничны возможности миллиардов людей, соединенных мобильными устройствами с беспрецедентной вычислительной мощностью, емкостью памяти и доступом к знаниям. Эти возможности будут многократно усилены новыми прорывными технологиями – такими как искусственный интеллект, робототехника, интернет вещей, беспилотные транспортные средства, 3D-принтеры, нанотехнологии, биотехнологии, новые материалы, накопители энергии, квантовые компьютеры» [Schwab 2015].

Следует отметить, что подобного рода заявления не были новыми, – в нулевые и первой половине десятых годов нынешнего столетия вышло в свет немало работ, посвященных перспективам конвергенции нано-, био-, инфо- и когнитивных наук и технологий (НБИК) [Converging… 2003], а также участию в этих процессах социогуманитарных наук и технологий (НБИКС). Был даже предложен термин «НБИКС-революция» [Алексеева и др. 2013]. Значимость публикаций Шваба определялась не новизной содержания, а статусом автора как председателя Всемирного экономического форума.

Свой вклад в формирование мема «цифровизация» внес Всемирный банк, опубликовавший в 2016 г. доклад «Цифровые дивиденды» [World… 2016]. Речь здесь шла не о собственно банковских дивидендах, а о благах и рисках, которые несет человечеству продолжающаяся цифровая революция, о необходимости «цифровых трансформаций» (“digital transformations”).

Соответствующие шаги были сделаны на национальном уровне. 1 декабря 2016 г. в Послании Президента Российской Федерации было заявлено о необходимости сосредоточиться на цифровых технологиях и запустить программу развития цифровой экономики [Послание…].

Следующее пятилетие ознаменовалось переименованием административных структур (с заменой таких слов, как «информатизация», «информационные технологии», «телекоммуникации», «связь», на «цифровизация», «цифровое развитие», «цифровая экономика» и т. п.), созданием и реализацией соответствующих программ, появлением множества научных (в том числе философских) публикаций с заглавиями, содержащими те или иные слова с корнем «цифр». Экономист В. В. Иванов и математик Г. Г. Малинецкий отмечали условный характер термина «цифровая экономика». «С тех пор, как люди научились считать и, тем более, придумали деньги, экономика стала “цифровой”, – писали они. – По сути, в современном понятии “цифровая экономика” речь идет об изменении технологической базы экономики, что позволит автоматизировать рутинные операции. Это значительно меняет скорость реализации многих процессов, предоставляет новые возможности, но не меняет базовых основ экономики. Наверное, правильнее было бы говорить о компьютерной экономике. Но, чтобы не создавать путаницы, будем говорить о “цифровой”, имея в виду компьютерную экономику» [Иванов, Малинецкий 2017: 6].Что касается философских исследований, то не будет преувеличением сказать, что мем «цифровизация» стал настоящим подарком философам, поскольку открыл широкие возможности переосмысления в новых технологических контекстах онтологических, теоретико-познавательных, этико-аксиологических, социально-философских и других проблем. Сегодня мало кого удивят такие выражения, как «оцифрованный мир», «цифровизация общества», «цифровая личность» и т. п.

Прогресс в области цифровых технологий, их быстрое распространение, дающее впечатляющие примеры «срастания» с технологиями социальными (социальные сети, социальные медиа), учитываются не только в рассмотрении новых возможностей сотрудничества, но и в анализе проблем соперничества и противоборства, прежде всего информационного. В ранее опубликованных работах, включая те, что вышли в журнале «Философия и общество» [Алексеев 2017], мы писали о видах информационных войн, различающихся по характеру участников, используемым средствам и объектам воздействия. В качестве одного из таких видов мы указывали информационно-психологические войны, которые может вести одно государство против другого (или других). Эти войны называют также «войнами нервов», «войнами за умы», психологическими, когнитивными, ментальными войнами.

Независимо от акцентов, характерных для тех или иных синонимов «информационно-психологической войны», как и независимо от изменений в информационно-технологической сфере, этот вид информационной войны неизменно предполагает, как отмечал М. Либицки еще в середине 90-х гг., проведение операций против национальной воли (“national will”) [Libicki 1996: 35]. «Психологическую войну» (Либицки использовал именно этот термин) данный автор связывал также с борьбой культур (“cultural warfare”) и даже употреблял в ее характеристике немецкое слово “kulturkampf”. Следует подчеркнуть, что слово «война» вовсе не обязательно присутствует в описании систематических враждебных действий, направленных на ослабление (а в пределе – уничтожение) определенного государства. Так, ведение информационной войны явно предусматривает опубликованный в 2020 г. отчет корпорации RAND «Чрезмерное напряжение и разбалансирование России: Оценка эффективности вариантов» (“Overextending and Unbalancing Russia: Assessing the Impact of Cost-imposing Options”) [Overextending…]. В отчете представлены результаты исследований, проведенных при подготовке в 2019 г. экспертно-аналитического доклада «Напряжение России: Конкуренция с выгодных позиций» (“Extending Russia: Competing from Advantageous Ground”) [Extending…].

Корпорация RAND тесно связана с правительством США и военными структурами этой страны. RAND имеет большой опыт в области разработки стратегий сдерживания и уничтожения государств, которые рассматриваются как угрожающие США или неугодные по каким-либо иным причинам. Примечательно, что упомянутый доклад представляет собой не тайное «концептуальное оружие», а вариант информационного оружия, предназначенного для публичного ознакомления. Авторы пишут: «Действия, предпринимаемые для того, чтобы Россия надорвала свои силы, могут иметь желаемый эффект только при условии, что об этих действиях будет известно российскому руководству (а во многих случаях и российскому народу), и если эти действия будут так или иначе учитывать оценку собственных уязвимостей (США и других стран Запада. – Авт.) и побуждать к дальнейшей работе» [Extending…: xiv]. В докладе отмечается, что историческим аналогом предлагаемой стратегии «напряжения» (или, в буквальном переводе слова “extend”, – «растягивания») России являются стратегии долгосрочной конкуренции в годы холодной войны. При этом упоминается опубликованный в 1972 г. Э. Маршаллом доклад RAND «Долгосрочная конкуренция с Советами: основы анализа», где предлагались изменения в стратегическом мышлении Соединенных Штатов, связанные с тем, что к началу 1970-х гг. СССР преодолел отставание от США в военной сфере. Маршалл доказывал, что в этих условиях следует не стремиться к превосходству над СССР во всех отношениях, но контролировать конкуренцию и направлять ее в те сферы, где США имеют неоспоримые преимущества: это побудило бы Советский Союз тратить свои ограниченные ресурсы на те направления, в которых он заведомо не мог быть опасным конкурентом для США.

Доклад (как и отчет) содержит часть, специально посвященную информационной политике, направленной на «перенапряжение» («перерастягивание») и разбалансирование России. В докладе это пятая глава, которая называется «Идеологические и информационные действия» (“Ideological and Informational Measures”). Здесь обозначены основные направления подрывной информационной кампании (“Western in formation campaign that helped to undermine key aspects of the regime’s claim to legitimacy”) и «информационно-идеологической» политики, имеющей целью дестабилизацию российского общества. Авторы доклада утверждают, что новая стратегия основывается на анализе опасений и уязвимостей современного российского государства и что предусмотренные этой стратегией действия США не являются самоцелью, но направлены на то, чтобы усиливать страхи и опасения России, толкая страну на пути, где она надорвет свои силы, как военные, так и экономические. Упомянутый текст не является, конечно же, единственным, характеризующим направленность действий в информационно-психологической («когнитивной») войне против России.

А. М. Ильницкий вводит выражение «ментальная война», понимая под ним имеющее информационную и психоэмоциональную составляющие «агрессивное комплексное воздействие, которое направлено не только на информационное поле, но также на образование и воспитание» [Ментальная… 2021]. Очевидно, речь в данном случае идет о сложной системе воздействий, осуществляемых разными субъектами, в числе которых – структуры и лица, определяющие политику в области образования. Следует подчеркнуть, что такая политика не представляется официально (а зачастую и не осознается) теми, кто ее проводит, как направленная на ослабление и/или «перенапряжение» России, но, напротив, подается (и осознается) как направленная на повышение конкурентоспособности страны в целом и новых поколений россиян в особенности. Новый спектр проблем открывает политика цифровой трансформации образования, и следует проявлять предельную осторожность, пытаясь определить в этом контексте, кто или что выступает в качестве субъекта (или агента) формирования и реализации информационно-психологических (ментальных, когнитивных) стратегий, несущих угрозы российскому обществу.

Трудно представить себе современную информационную кампанию, не использующую цифровые информационно-телекоммуникационные технологии, включая социальные сети и СМИ. А. С. Баканова правомерно обращает внимание на трудности своевременного выявления информационных угроз в сфере традиционных и «новых» СМИ, играющих ключевую роль в распространении информации. «Быстрота, с которой осуществляются операции в рамках информационной войны, и степень нанесенного ими ущерба, – пишет эта исследовательница, – требуют от государства способности не столько отражать уже выпущенные в медиаполе провокационные вбросы или дезинформацию, сколько работать на “упреждение”. Такая задача, в частности, подразумевает формирование системы раннего реагирования на потенциальные информационно-психологические операции, что позволит минимизировать ущерб от подобных действий. Вместе с тем, процесс мониторинга и выявления этих угроз осложняется рядом трудностей. <…> Во-первых, это связано с отсутствием четкого определения самого понятия “информационная угроза”, если речь идет об анализе публикаций и материалов в СМИ и глобальной сети Интернет. Что считать угрозой, что элементом естественного информационного ряда по той или иной теме, а что примером так называемого “информационного шума”, призванного усыпить бдительность на фоне готовящейся информационной операции?» [Баканова 2020: 80]. С подобными вопросами сталкиваются как исследователи, так и практики, разрабатывающие стратегию и тактику информационных войн.

На таком фоне закономерным выглядит создание для обнаружения и отслеживания информационных кампаний искусственных интеллектуальных систем, использующих алгоритмы машинного обучения и распознавания образов. Например, авторы, озабоченные возможными агрессивными информационными действиями в отношении стран НАТО, пишут: «Такая система поможет определить начало когнитивной информационной кампании и проследить ее осуществление. Она может содержать устройство, которое интегрирует данные из широкого круга сайтов социальных медиа, социальных сообщений, социальных сетей. Это позволит наблюдать развитие предполагаемой кампании на географической и социально-сетевой карте» [John Hopkins… 2021]. Предполагается, что, поскольку существуют шаблоны информационных кампаний, технологические средства дадут возможность распознать когнитивную войну, источники ее финансирования, возможные цели, «подписи» действующих лиц, по которым последние могут быть идентифицированы.

Примечательно, что в цитируемой статье, опубликованной в 2021 г. на сайте «НАТО ревью» с заголовком «Противодействие когнитивной войне: осознание и гибкость», речь идет именно о тех подрывных информационных технологиях, которые достаточно давно обсуждаются российскими авторами как используемые в действиях стран НАТО против нашей страны. Что же касается авторов статьи, то они рассматривают эти технологии как такие, которые кто-либо может применить против стран альянса. Такое совпадение отнюдь не случайно. Дело в том, что возможности, открываемые развитием цифровой среды, и порождаемые ею же опасности имеют глобальный характер. По-видимому, следует согласиться с теми, кто утверждает, что более всего подвержены такого рода опасностям люди в тех странах, где цифровые информационные технологии достигли наибольшего развития и распространения. В целом же уязвимости, перечисленные в статье, присущи любому обществу, подвергшемуся «цифровым трансформациям» в большей или меньшей степени. Не выглядит вымыслом опасность раскола и фрагментации общества, члены которого проводят все больше времени в «цифровых пузырях», объединяющих тех, кто имеет сходные интересы, вкусы и пристрастия. Тенденция формирования «общества меньшинств», состоящего из относительно небольших групп, объединенных какого-либо рода факторами, отмечалась социологами еще в середине прошлого столетия. Интернетизация лишь углубила соответствующие процессы. Цифровые следы, неизбежно оставляемые современным человеком, несут информацию не только о товарах, которые он предпочитает покупать, но также об информации, которая его интересует, а нередко и о позиции, которую он занимает по тем или иным общественно значимым вопросам. Социальные медиа и сети открыли новые возможности для разжигания конфликтов, поляризации мнений и радикализации групп, распространения негативных эмоций.

Обсуждая проблемы современной когнитивной войны как разновидности войны информационной, уместно вспомнить, что накануне XXI в. Российская Федерация внесла в ООН предложения по разработке международных принципов предотвращения информационных войн. При этом информационная война определялась как «противоборство между государствами в информационном пространстве с целью нанесения ущерба информационным системам, процессам и ресурсам, критически важным структурам, подрыва политической и социальной систем другого государства, а также массированной обработки населения и дестабилизации общества» [Документы… 2001: 304]. Указанные предложения РФ не были приняты США, разрабатывавшими программы информационного преобладания (“information superiority”) как части «доминирования по всему спектру» (“full-spectrum dominance”). Информационное преобладание над любым возможным противником, конкурентом или оппонентом понимается как реальная возможность накапливать, обрабатывать и беспрепятственно распространять информацию, затрудняя при этом выполнение подобных функций соперником или используя действия и ресурсы последнего в своих интересах. При этом предусмотрен целый набор способов информационного воздействия, в числе которых: информационный мониторинг, информационное давление и информационное сдерживание [Роговский 2009]. В идеале субъект информационного доминирования обладает огромной осведомленностью и самыми эффективными методами использования всей доступной информации для прогнозирования меняющейся ситуации в мире и влияния на будущие события. Субъект информационного доминирования увеличивает имеющийся потенциал, принимая и выполняя решения быстрее и лучше, чем это может сделать кто-либо другой, и при этом изменяя в собственных интересах восприятие окружающей реальности противником.

Возвращаясь к статье о когнитивной войне, отметим, что один из ее разделов называется «Наши ослабленные умы» (“Our Weakened Minds”). Речь здесь идет о том, что современные коммуникативные технологии стимулируют реактивное и эмоциональное «быстрое мышление» в противоположность рациональному и основательному «медленному мышлению». При соотнесении этих двух типов мышления авторы ссылаются на изданную в 2012 г. книгу Д. Канемана «Мышление быстрое и медленное» [Kahneman 2012; Канеман 2020]. Ситуацию, характерную для 2021 г., авторы описывают так: «Скорость сообщений, необходимость быстро на них реагировать побуждает “думать быстро” (реактивно и эмоционально) вместо того, чтобы “думать медленно” (рационально и благоразумно). Даже авторитетные новостные издания теперь помещают эмоциональные заголовки, чтобы обеспечить вирусоподобное распространение своих новых статей. Люди тратят меньше времени на чтение статей, чем на их распространение. Опускаются важные контексты и нюансы. Преднамеренно и непреднамеренно распространяются неверные истолкования информации. Краткость постов в социальных медиа в сочетании с эффектными визуальными образами затрудняет понимание читателем мотивов и ценностей других людей» [John Hopkins… 2021]. Нельзя не признать, что подобные тенденции наблюдаются и в российском обществе.

Проблемы выживания и развития человека и общества в условиях когнитивных войн относятся к спектру, для обозначения которого используется термин «информационно-психологическая безопасность». Этот термин был введен российскими учеными-гуманитариями в середине 90-х гг. XX в. В 1995 г. Институтом психологии РАН была проведена 1-я научно-практическая конференция по проблемам информационно-психологической безопасности, а за прошедшее после этого время накоплен серьезный опыт их изучения [Войскунский 2010; 2016]. В качестве основных факторов, определяющих информационно-психологическую безопасность, исследователи выделяют такие как психологический потенциал личности (или социума, если речь идет о безопасности последнего) и адекватная информационно-ориентировочная основа жизнедеятельности. Очевидно, что и то и другое предполагает наличие интеллектуального потенциала, его развитие и соответствующее использование.

Проблемы предотвращения деградации естественного интеллекта человека и интегрального интеллекта общества не могут решаться без использования современных цифровых технологий. Вместе с тем цифровизация и «цифровые трансформации» сами по себе не являются средством решения таких проблем. К настоящему времени имеется множество примеров негативного влияния современных информационно-коммуникационных технологий на интеллект человека, накоплен и опыт изучения соответствующих тенденций психологами, педагогами, философами. Речь должна идти о разработке стратегий интеллектуального развития, в рамках которых используются имеющиеся технологические средства или создаются новые.

Литература

Алексеев А. П. Общество в условиях информационной войны: вопрос интеллектуального суверенитета // Философия и общество. 2017. № 2. С. 18–27.

Алексеева И. Ю., Аршинов В. И., Чеклецов В. В. «Техно-люди» против «постлюдей»: НБИКС-революция и будущее человека // Вопросы философии. 2013. № 3. С. 12–20.

Баканова А. С. Информационные угрозы национальной безопасности России в эпоху современных информационных войн // Информационные войны. 2020. № 1(53). С. 79–83.

Войскунский А. Е. Информационная безопасность: психологические аспекты // Национальный психологический журнал. 2010. № 1. С. 48–53.

Войскунский А. Е. Поведение в киберпространстве: психологические принципы // Человек. 2016. № 1. С. 36–49.

Документы Генеральной ассамблеи ООН по вопросу международной информационной безопасности // Информационные вызовы национальной и международной безопасности / под общ. ред. А. В. Федорова, В. Н. Цыгичко. М., 2001. С. 273–331.

Иванов В. В., Малинецкий Г. Г. Цифровая экономика: мифы, реальность, возможности. М. : РАН, 2017.

Канеман Д. Думай медленно… решай быстро. М.: АСТ, 2020.

Ментальная война России. Статья в журнале «Военная мысль». 2021. № 8 // Сайт Андрея Ильницкого [Электронный ресурс]. URL: https://amicable.ru/news/2021/08/02/19513/russia-mental-war/#_ftn24 (дата обращения: 01.01.2021).

Послание Президента Российской Федерации от 01.12.2016 г. б/н (О положении и основных направлениях внутренней и внешней политики государства) [Электронный ресурс]. URL: http://www.kremlin.ru/acts/bank/41550/page/3 (дата обращения: 14.05.2021).

Роговский Е. А. Американская стратегия информационного преобладания // Россия и Америка в XXI веке. Электронный научный журнал. 2009. № 3 [Электронный ресурс]. URL: http://www.rusus.ru/?act=archive&amp;amp;edition=18 (дата обращения: 09.11.2020).

Шваб К. Четвертая промышленная революция. М. : Эксмо, 2016.

Converging Technologies for Improving Human Performance // Nanotechnology, Biotechnology, Information Technology and Cognitive Science. NSF / DOC-sponsored report / ed. by M. Roco, W. Bainbridge. Dordrecht : Kluwer Academic Publishers, 2003.

Extending Russia: Competing from Advantageous Ground. Santa-Monica, CA : RAND, 2019 [Электронный ресурс]. URL: https://www.rand.org/pubs/
research_reports/RR3063.html (дата обращения: 01.02.2021).

John Hopkins University & Imperial College London. Countering Cognitive Warfare: Awareness and Resilience [Электронный ресурс] : NATO Review. 2021. May 20. URL: https://www.nato.int/docu/review/articles/2021/05/20/countering-cognitive-warfare-awareness-and-resi... (дата обращения: 05.08.2021).

Kahneman D. Thinking, Fast and Slow. New York : Farrar, Straus a. Giroux, 2013.

Libicki M. What is Information Warfare? Washington, D.C. : National Defense University, 1996.

Overextending and Unbalancing Russia: Assessing the Impact of Cost-Imposing Options [Электронный ресурс]. URL: https://www.rand.org/pubs/research_briefs/RB10014.html (дата обращения: 01.02.2021).

Schwab K. The Fourth Industrial Revolution: What it Means, How to Respond // Foreign Affairs. 2015. December 12 [Электронный ресурс]. URL: https://www.foreignaffairs.com/articles/2015-12-12/fourth-industrial-revolution (дата обращения: 12.03.2020).

Schwab K. The Fourth Industrial Revolution. Geneva, 2016.

World Development Report 2016: Digital Dividends [Электронный ресурс]. URL: https://www.worldbank.org/en/publication/wdr2016.