Философия, роботы, автоматы и зримое будущее

скачать Автор: Ракитов А. И. - подписаться на статьи автора
Журнал: Философия и общество. Выпуск №3(92)/2019 - подписаться на статьи журнала

DOI: https://doi.org/10.30884/jfio/2019.03.03

В настоящее время в развитых и быстроразвивающихся странах интенсивно ведутся исследования полноценных систем искусственного интеллекта. Это стимулирует создание высокоэффективных автоматизированных систем и внедрение роботов в образование, в промышленность, в сферу услуг и в быту, в повседневной жизни. В литературе интенсивно обсуждаются как позитивные, так и негативные последствия этих процессов в ближайшем будущем. Выдвигается мысль о реальной неэффективности знаменитых законов А. Азимова, направленных на минимизацию и даже полное исключение негативных последствий «сплошной» роботизации. Рассматриваются позитивные и негативные последствия широкого внедрения оцифрованных образовательных программ и проектов. Роботизация основных функций человека в производственной сфере и в системе социально значимых услуг может привести к массовой безработице. Высказываются сомнения о возможности полной компенсации негативных последствий роботизации в обозримом будущем. На основе анализа современных тенденций роботизации и внедрения автономных автоматических систем обсуждается предположение, что роботы, оснащенные универсальным человекоподобным интеллектом (УЧИ) и искусственным суперинтеллектом (ИСИ), уже в нашем столетии смогут составить серьезную конкуренцию человеку и даже сделать его дисфункциональным во всех сферах жизнедеятельности. Это должно привести к тому, что проблемы роботизации и компьютеризации всех сфер общественной и индивидуальной жизни станут важнейшим предметом философского дискурса середины и второй половины XXI в. Особый вопрос составляет компьютерная или, как ее часто называют, киберпреступность. Хакерские атаки, хищения с их помощью интеллектуальной собственности являются серьезной проблемой для государств и частных корпораций. Все это представляет определенное поле для философского анализа, включая задачу модернизации понятия «война» в связи с развертыванием кибервойн.

Ключевые слова: роботы, автономные автоматы, андроиды, безработица, дисфункциональность человека, компьютерный оптимизм, компьютерный алармизм, кибербезопасность, дистанционное образование, искусственный суперинтеллект, универсальный человекоподобный интеллект.

Today many developed and developing countries actively conduct studies of AI systems. This gives impetus to creation of highly efficient automatic systems and introduction of robots into education, industry, service, and everyday life. There are intensive debates concerning both positive and negative consequences of these processes in the nearest future. The author of the article speaks about actual failure of Isaac Asimov’s famous laws aimed at minimizing and even elimination of negative effects of total robotization. The article also considers positive and negative impacts of wide introduction of digital educational programs and projects. Robotization of main human functions in industry and service may provoke a wave of mass unemployment. The author doubts the possibility of a complete compensation of negative effects of robotization in the nearest future. Analyzing the modern tendencies of robotization and introduction of autonomous and automatically-controlled system, the author supposes that robots with universal humanlike intellect (UHI) and artificial super-intellect (ASI) can seriously challenge the humans already in the current century and even make them dysfunctional in all life spheres. This may lead to the fact that issues of robotization and computerization of all spheres of social and individual life will become the most important subjects of the philosophical discourse of the middle and second half of the 21st century.

A cybercrime presents a peculiar problem in this respect. The hacker attacks, misappropriation of intellectual property are serious challenges both for states and corporations. So this makes a peculiar challenge for contemporary philosophical analysis including the necessity to modernize the notion of war in relation to cyberwars.

Keywords: robots, automatic machines, androids, unemployment, human disfunctionality, computer optimism and alarmism, cyber security, problems of cyber wars, distant education, artificial super-intellect, universal humanlike intellect.

Ракитов Анатолий Ильич, главный научный сотрудник ИНИОН РАН  more

В молодости и даже в зрелые годы мне нередко попадались книги, относящиеся к жанру так называемой научной фантастики. Я употребляю выражение «научная фантастика» с некоторой осторожностью, потому что, как правило, в таких произведениях фантастики бывало намного больше, чем научности. В основном роботы и высокоинтеллектуальные автоматы играли в них негативную, разрушительную роль [Брэдбери 2017; Уилсон 2012; Силверберг 1990]. А сами эти книги по типу своему относились в подавляющем большинстве случаев к «ужастикам» и «страшилкам». Но здесь я считаю важным, и это существенно с философской точки зрения, что люди, особенно в высокоразвитых сообществах, с глубокой древности мечтали о создании искусственных мыслящих аналогов живого человека, наделяя, по крайней мере в фантазиях, если не в реальности, таких существ интеллектом, чувствами, желаниями, воображением, различными умениями и другими особенностями, специфическими именно для человека. Для подтверждения сказанного я сошлюсь на целую серию автоматов и даже кукол-роботов, изобретенных и созданных знаменитым греческим математиком и инженером Героном Александрийским в I в. н. э.

В Новое время, особенно в XX – начале XXI в. в Европе, Японии и США быстрое развитие математических инженерно-технических знаний привело к тому, что исполнение отдельных операций и целых систем деятельности, в течение тысяч лет выполнявшихся людьми, стало передаваться отдельным техническим устройствам – автоматам и роботам. При этом под роботом я понимаю автоматическое инженерно-техническое устройство, наделенное интеллектуальными способностями, присущими человеку. Я думаю, что не ошибусь, если скажу, что конечная и, возможно, не столь уж отдаленная цель создателей современных роботов состоит в конструировании и построении полностью автоматических систем. Такое понимание роботов требует некоторых дополнительных пояснений, связанных с тем, что в действительности мы до сих пор не знаем в точности и в полном объеме, что такое интеллект.

Нам до сих пор в должной степени неизвестны нейропсихические механизмы взаимодействия рационального, особенно формализованного строгого научного, мышления, мышления бытового, обыденного с нейропсихическими механизмами выработки ощущений, воображения, фантазий, впечатлений, вкусовых предпочтений и т. д., без которых на самом деле не существует никакая реальная интеллектуальная деятельность. К сказанному также следует добавить, что проблема создания совершенно антропоморфных роботов и автоматов тесно связана с вопросом реализации на технических устройствах искусственного интеллекта (ИИ) и зависит в первую очередь от его решения.

В настоящее время исследования, посвященные созданию ИИ, ведутся полным ходом во многих, особенно высокоразвитых, странах. По существу, речь идет о роботах-андроидах, интеллект которых не просто сопоставим с человеческим, но по многим (если не по всем) видам интеллектуальной деятельности сможет превосходить человека. В середине второго десятилетия XXI в. в мире (по открытой статистике) разрабатывалось 106 проектов создания андроидов, в том числе в Японии – 49 таких проектов; в США и Южной Корее – по 11 проектов, в Германии – 9, в Китае – 7; в Швеции – 2; в России, Турции, Австрии, Испании, Австралии, Канаде, Иране, Италии – по 1 [Бабкина и др. 2018]. И в этой сфере имеются определенные достижения. Так, например, существуют высокоинтеллектуальные компьютерные системы, позволяющие ЭВМ выигрывать шахматные партии у знаменитых гроссмейстеров и даже чемпионов мира. Существует высокоинтеллектуальная система, способная доказывать сложные теоремы в хорошо формализованных математических теориях.

Имеются также интеллектуальные компьютерные системы, выполняющие функции переводчиков с одного языка на другой, в том числе и в режиме реального времени. Достижений подобного рода уже сейчас не перечесть, в том числе и в сферах бытовой техники, в области реализации промышленных и офисных работ.

В связи с этим я считаю очень важным обратить внимание на то, что уже с начала XX в. (но особенно ближе к его концу) и в первые десятилетия XXI столетия авторы уже упоминавшейся научно-фантастической литературы усиленно муссировали тему опасности роботов для человека. Ходы рассуждений укладываются в несколько строк, сводящихся к следующему: если автоматические технические устройства будут полностью имитировать мышление и деятельность человека, то не исключено, что люди потеряют свою функциональную и интеллектуальную значимость и станут излишними, никому не нужными обитателями нашей планеты, уступающими роботам по многим позициям.

Так, скажем, роботам не нужна пища, они могут обходиться без сна, не нуждаются в заработной плате, отдыхе в выходные и праздничные дни, отдельных квартирах, коммунальных удобствах и т. д. Хорошо сконструированные и построенные роботы вместе со вспомогательными устройствами, предназначенными для их технического обслуживания, смогут вообще обходиться без людей. Самые разнообразные работы, в том числе по ремонту роботов, выбывших по той или иной причине из строя, смогут выполнять высококвалифицированные роботы-ремонтники. В связи с этим все те же авторы фантастических повестей и романов не раз пытались предложить систему условий, которые сделали бы роботов безопасными для человека и человечества и предотвратили бы всякую конкуренцию и борьбу за жизненно важные ресурсы между людьми и высокоинтеллектуальными автоматами. В этом смысле наиболее популярными барьерами на пути к господству роботов и ограничением их конкурентоспособности в борьбе с реальными живыми людьми являются знаменитые законы Айзека Азимова [1963]. Их три, и сводятся они к следующему.

Первый закон гласит: робот не должен причинять вред человеку и человечеству. Второй утверждает: робот должен выполнять приказания человека при условии, что это не противоречит первому закону. И, наконец, третий постулирует, что робот должен заботиться о собственной безопасности при условии, что это не противоречит двум предшествующим законам.

Здесь сразу же обнаруживаются противоречия, которые уже сегодня делают весьма проблематичной реальную выполнимость этих законов, несмотря на всю их, казалось бы, бесспорную привлекательность.

Дело в том, что уже в наши дни в высокоразвитых в экономическом, научном и инженерно-техническом отношении странах максимум государственных затрат, особенно в военно-оборонных исследованиях, приходится на создание военных боевых роботов. Эти роботы предназначены для непосредственного уничтожения либо потенциального или реального противника, либо сложных наступательных и оборонительных систем, управление которыми осуществляется живыми людьми.

Таким образом, первый и второй законы Азимова нарушаются уже сегодня. Нечего и говорить, что компьютерный алармизм, предупреждающий об опасности широкого применения высокоинтеллектуальных роботов в будущем, имеет довольно серьезные основания. При этом даже вполне «миролюбивое» применение антропоморфных высокоинтеллектуальных роботов может вполне спокойно уживаться с их вредоносным использованием.

Еще 35 лет назад автору этой статьи довелось побывать в США на одном из головных предприятий известной американской фирмы «Кодак» в городе Рочестер (штат Нью-Йорк) и наблюдать за работой вполне мирных роботов в погрузочно-разгрузочном блоке этого предприятия. Автоматизированные платформы, наделенные вполне специфичным узкоориентированным интеллектом, подъезжали к одной стенке хозяйственного блока, вдоль которой проходила конвейерная лента, привозившая упакованные в элегантные коробки изделия, необходимые для фотографирования и оснащенные «разумными» подъемными кранами. С их помощью робот-грузчик снимал упаковки, переносил их на платформу, укрепленную на его «спине», пересекал погрузочно-разгрузочный блок в направлении противоположной стены, обходя по дороге встречавшиеся препятствия, снимал со своей платформы груз и устанавливал его на другом конвейере, выносившем упаковки за пределы заводских стен, где другие роботы вновь захватывали их и устанавливали в кузовах грузовиков, развозивших заводскую продукцию в торговые залы оптовых и розничных продавцов готовых изделий фирмы «Кодак». Нетрудно понять, что такие «миролюбивые» роботы с успехом могут использоваться и для транспортировки военных изделий.

Обобщая приведенный пример, можно без всякой натяжки утверждать, что почти все роботы, выполняющие полезные и вполне мирные функции, присущие деятельности человека, могут с таким же успехом выполнять функции, в значительной мере имеющие вредные для человека или человечества последствия.

Для подтверждения сказанного я сошлюсь на уже имеющийся опыт частичной роботизации офисной деятельности. Известно, что в настоящее время значительная часть трудозанятого населения высокоразвитых в социально-экономическом отношении стран немалую долю своих финансовых ресурсов тратит на содержание постоянно растущего аппарата служащих. В то же время уже сейчас существуют роботы-секретари, роботы-референты, роботы-диспетчеры, управляющие в крупных учреждениях с сотнями служащих, выполняющие операции по распределению потоков посетителей, входящих и исходящих документов и телефонных переговоров. Нетрудно понять, что все эти операции являются ежедневными обязанностями десятков и даже сотен тысяч сотрудников в офисах конкурирующих маленьких фирм, средних и крупных корпораций, а также соперничающих государств или политических группировок и иных организаций. Еще в 90-е гг. прошлого столетия до 80 % трудозанятого населения США работало в сфере услуг, включая здравоохранение, образование, науку, массмедиа и офисную деятельность коммерческих организаций и государственных учреждений.

Теперь заметим, что в сфере, например, офисной деятельности роботизация наиболее трудоемких операций даже в самых развитых странах находится в своей начальной стадии. Представим себе ситуацию, в которой офисная роботизация «захватит» половину выполняемых функций, которые роботы осуществляют не только с успехом, но даже, возможно, в целом лучше людей. Если такая роботизация коснется хотя бы половины служащих, занятых конторской деятельностью, то только в США на улицу будут выброшены несколько десятков миллионов человек.

Компьютерные оптимисты утверждают, что в общем и целом сокращение одного рабочего места в такой высокоразвитой стране, как США, сопровождается созданием примерно 2–3 рабочих мест в развивающихся странах, в которые импортируются целые промышленные предприятия. Такой «импорт» имеет двоякое значение. Для развитых стран, с одной стороны, это плюс, благодаря тому, что он улучшает экологическую обстановку, уменьшая загрязнение окружающей среды, но с другой стороны, это большой социальный минус, так как он приводит к потере рабочих мест и увеличению безработицы. Это существенно повышает социальную напряженность в странах-донорах, экспортирующих часть своей промышленности и порождающих ряд связанных с этим проблем. Наиболее острым в данном контексте является вопрос: что делать с освободившейся рабочей силой, как обеспечить ее занятость и сохранить определенный уровень ее благосостояния?

Компьютерные оптимисты почти единодушно утверждают, что, во-первых, выход из положения дает переквалификация освободившихся офисных сотрудников, а во-вторых, расширение сферы среднего и высшего профессионального образования предполагает, что в стране к нужному времени возникнет огромное количество свободных рабочих мест для вновь подготовленных профессионалов, а это с учетом реальных тенденций в экономике высокоразвитых стран малоправдоподобно.

Чтобы более или менее объективно оценить как достоинства, так и слабые места компьютерного оптимизма, а тем более оптимизма, касающегося грядущей в обозримом будущем роботизации и автоматизации наиболее важных видов экономической, социально-культурной, политической и бытовой деятельности, рассмотрим сначала проблемы современного компьютерного образования и зримую перспективу его автоматизации и роботизации, если вообще можно представить, как это может выглядеть на самом деле.

По вопросу информатизации и, точнее, компьютеризации образования и в зарубежной, и в отечественной литературе за последние годы было опубликовано множество статей и монографий [Вайндорф-Сысоева, Грязнова 2015; Ганичева 2017; Миронов 2017]. И не будет натяжкой сказать, что все они окрашены в тона умеренного, а иногда и не совсем умеренного оптимизма [Минделл 2017], хотя довольно часто сопровождаются некоторыми скептическими и даже пессимистическими оговорками. Рассмотрим их несколько подробнее.

В чем видится преимущество компьютерного вообще и дистанционного в частности образования? Первое преимущество по отношению к традиционным образовательным формам заключается в том, что электронное образование в чисто практическом отношении не имеет пространственных ограничений. Учащиеся средней школы или университетские студенты, коль скоро они находятся в электрифицированном помещении и имеют в своем распоряжении компьютеры или другое современное мобильное устройство, могут воспользоваться любым электронным курсом по тому или иному вузовскому или школьному предмету. Такие курсы уже сейчас в огромном количестве имеются в больших накопителях университетских лекций, школьных учебниках, лабораторных тренингах и контрольных экзаменационных тестах [Косолапова 2018; Магомедов 2015]. А научиться ими пользоваться – дело не столь уж продолжительного времени.

Плюсы такого обучения можно кратко сформулировать в нескольких пунктах. Первый: достаточно легкая доступность практически из любого населенного пункта страны. Второй: относительная дешевизна создания подобных образовательных курсов. Третий: низкая плата за их использование, причем во многих случаях такое использование уже сейчас является вообще бесплатным. Четвертый: возможность выбора учащимися наиболее понятных и популярных образовательных курсов, соответствующих официальным учебным программам [Бабкина и др. 2018]. Пятый: возможность быстрого перехода от одного электронного образовательного курса к другому. Шестой: легкость объективного самоконтроля за адекватностью и качеством усвоения учебного материала.

Но наряду с этими плюсами есть и отрицательные моменты. Первый из них заключается в отсутствии коллектива соучеников, в котором можно было бы на равных основаниях обсуждать учебный материал, выявлять спорные или неявные моменты, а также с помощью дискуссии обнаруживать возможные проблемы, связанные с получением учебной информации. Второй: отсутствие обратной связи с обучающим; невозможность диалога обучаемого с обучающим.

Эти недостатки усилятся при переходе к стадии роботизации и автоматизации образовательных процессов. В настоящее время для перехода к таким роботизированным и автоматизированным учебно-образовательным программам школьного, а тем более вузовского образования нет ни формальных, ни содержательных подходов. Но с учетом скорости, с которой совершенствуются, усложняются и развиваются ИКТ, можно допустить, что в зримом будущем в масштабе нескольких десятилетий, по крайней мере в последней четверти нашего столетия, роботизация и автоматизация образования станут реальностью. И тогда автоматизированные и роботизированные заведующие кафедрами, деканы и ректоры вузов, а также директора средних учебных заведений будут сами комплектовать полностью электронные программы целых факультетов, университетов и средних учебных заведений. В этом случае можно с определенной долей правдоподобия допустить, что роботы-преподаватели, роботы-деканы, заведующие кафедрами, директора школ и т. д. будут создавать учебные проекты, охватывающие целые комплексы компьютеризированных образовательных программ, так сказать, «под себя». И тем самым сразу же будут нарушены и первый, и второй законы Азимова. А это, в свою очередь, означает, что эра господства человека на планете закончится.

Сегодня такое допущение может представляться очередным «ужастиком» или «страшилкой». Однако полезно вспомнить, что в конце 20-х гг. прошлого столетия сама мысль об электронном образовании, о компьютеризированных электронных курсах или семинарских занятиях показалась бы чудовищным вымыслом. Тем не менее сегодня такие «страшилки» все чаще становятся фактом социальной реальности [Бриньолфсон, Макафи 2017].

Согласно официальным данным, в настоящее время в России действует около трехсот полностью оцифрованных образовательных программ. Число их пользователей составляет примерно полмиллиона человек. При этом прогнозируется, что к 2025 г. и число оцифрованных образовательных программ, и число их пользователей возрастет на порядок [Булгакова 2018]. Нетрудно представить себе, что в развивающихся отраслях народного хозяйства, в системах корпоративного государственного, регионального и муниципального управления цифровой штурм наиболее важных видов социально значимой деятельности будет происходить еще быстрее.

Компьютерные оптимисты приветствуют такой ход событий, считая, что дальнейшая автоматизация и роботизация рабочих мест в промышленности и сфере услуг приведет не только к негативным последствиям, прежде всего безработице, но и позволит существен-но сократить продолжительность рабочего дня, благодаря чему появятся новые рабочие места.

Кроме того, выдвигается тезис, что увеличение продолжительности свободного от работы времени приведет к росту культуры. Люди смогут уделять больше времени потреблению искусства, чтению художественной литературы, разумно организованному отдыху и общению друг с другом. Но при этом умалчивается, откуда они будут брать средства для поддержания достаточно высокого уровня жизненного благополучия, здоровья, оплаты медицинских услуг и качественного бытового комфорта. Еще сомнительнее, что свободное время будет использоваться для развития индивидуального и коллективного творчества в разных его ипостасях. И здесь полезно заметить, что большинство людей, насколько можно судить по опыту сегодняшнего дня, вообще не склонны к творчеству, так как оно – удел немногих.

Предположение же, что освободившееся в результате роботизации время «сокращенные работники» будут эффективно использовать для переквалификации и повышения своего образовательного уровня, также представляется в значительной степени сомнительным, так как совсем не очевидно, что рост роботизации в промышленности и в сфере услуг будет сопровождаться повышением спроса на вновь «переквалифицированных» специалистов.

Рассмотрим теперь, как обстоит дело с роботизацией, особенно в трудоемких отраслях в наиболее развитых в научно-техническом отношении странах. В настоящее время в мире насчитывается около 1,5 млн промышленных роботов. Ежегодное число поставок роботов в США растет в среднем на 7 %. В 2015 г. в США работало около 230 тыс. промышленных роботов, что поставило страну
на второе место по их использованию в промышленности после Японии [Толкачев, Кулаков 2016].

Исходя из анализа современной ситуации, можно предположить, что темпы роботизации не только в промышленности, но и в сфере услуг в ближайшее десятилетие возрастут и примут экспоненциальный характер. Это означает, что к середине столетия в промышленности и в других сферах жизнедеятельности количество роботов, особенно автономных, и целиком автоматизированных систем разного рода будет исчисляться десятками, если не сотнями миллионов. А это, как нетрудно догадаться, вызовет качественные радикальные изменения во всех сферах жизнедеятельности людей. Поэтому можно предположить, что к середине столетия основными антагонистами в глобальном масштабе будут не исламские страны и Израиль, не Россия и США, а человечество как единое целое и роботы вкупе с полностью автоматизированными системами деятельности. Несмотря на всю фантастичность и максимализм этого утверждения, следует иметь в виду следующее.

Осознание того, что промышленный капитализм стал лидером общественного развития в глобальном масштабе, в полной мере произошло в середине XIX в., то есть спустя примерно два столетия после начала становления индустриального экономического уклада. Осознание того, что плановая экономика в масштабе крупных государств и национальных сообществ была реальным социальным фактом, потребовало всего нескольких десятилетий, и сейчас важно, чтобы не только преимущества, но и опасности, связанные с возникновением полностью роботизированного общества, были осознаны до того, как оно станет универсальным и необратимым фактом социальной реальности.

С философской же точки зрения очень важно понять и сделать достоянием общественного сознания в глобальном масштабе следующее: в ближайшее время может произойти настоящая революция в сфере исследований и реализаций искусственного интеллекта. Я имею в виду создание систем с так называемым универсальным человекоподобным интеллектом (УЧИ) и с искусственным суперинтеллектом (ИСИ) [Ракитов 2016].

Создание программ УЧИ и ИСИ, возможно, произойдет ближе к концу нашего столетия. Это означает, что оснащенные данными программами роботы и автоматизированные автономные системы смогут решать задачи и реализовывать проекты, которые в наши дни по силам только человеку. Однако современные темпы развития науки и технологии, особенно таких дисциплин, как нейрофизиология, когнитология и информатика, дают основание полагать, что в течение нескольких ближайших десятилетий самые фантастические разработки в области искусственного интеллекта «из сказки станут былью» [Росс 2017].

В связи с этим я считаю полезным заметить, что упомянутая быль может оказаться не только позитивной. Алек Росс отмечает, что в первые полтора десятилетия XXI в. появилось такое значимое в глобальном масштабе явление, как киберпреступность. Хакеры взламывают банковские счета, стремятся по собственной инициативе или по желанию заказчиков проникнуть в корпоративные, военные, государственные тайны, влиять на важные в социальном отношении экономические, финансовые и другие процессы.

Роботы и автономные автоматы, оснащенные программами УЧИ и ИСИ, смогут принимать решения, способные повлиять на весь ход социальной жизни и радикально изменить общественное сознание [Каку 2015], в том числе и в сфере самооценки человеком своего особого «человеческого начала», своей геоисторической миссии в развитии планеты Земля. Вот почему роботизация, автоматизация и развитие всех форм искусственного интеллекта [Брокман 2017; Баррат 2015] должны стать центральной проблемой философского дискурса современности.

Литература

Азимов А. Черный столб. М. : Знание, 1963.

Бабкина В. А., Бурлакова И. И., Вишневская Е. М. и др. Создание и реализация дистанционных образовательных программ: опыт университетов стран мира и России. М. : ГАОУ ВО МГПУ, 2018.

Баррат Дж. Последнее изобретение человечества: Искусственный интеллект и конец эры Homo sapiens. М. : Альпина нон-фикшн, 2015.

Бриньолфсон Дж., Макафи Э. Вторая эра машин. М. : АСТ, 2017.

Брокман Д. Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте. М. : Альпина Диджитал, 2017.

Брэдбери Р. 451° по Фаренгейту. М. : Эксмо, 2017.

Булгакова Н. Меняйся или уходи. Цифровое образование бросает вызов преподавателям вузов // Поиск. 2018. № 1–2. 12 января.

Вайндорф-Сысоева М. Е., Грязнова Т. С. Виртуальная реальность современного образования: сб. науч. ст. М. : МГОУ, 2015.

Ганичева Е. Информатизация образования: обновление технологий и организационных форм обучения. Вологда : Вологодский гос. ун-т, 2017.

Каку М. Будущее разума. М. : Альпина нон-фикшн, 2015.

Косолапова И. В. Применение массовых открытых онлайн-курсов профессиональных образовательных организаций при реализации образовательных программ // Безопасность информационно-образовательной среды: материалы III Международной научно-практической конференции «Среднее профессиональное образование в информационном обществе». Челябинск : ГБУ ДПО ЧИРПО, 2018. C. 103–106.

Магомедов Ш. Г. Применение электронных курсов в обучении как способа модернизации образовательного процесса // Современные информационные технологии в профессиональной деятельности: СИТ-2015: Международная научно-практическая конференция, 11 ноября 2015: сб. ст. Т. 1. М. : МФЮА, 2015. C. 65–69.

Минделл Д. Восстание машин отменяется! Мифы о роботизации. М. : Альпина нон-фикшн, 2017.

Миронов В. Современные технологии в процессе обучения. Рязань : BookJet, 2017.

Ракитов А. И. Постинформационное общество // Философские науки. 2016. № 12. С. 7–19.

Росс А. Индустрии будущего. М. : АСТ, 2017.

Силверберг Р. Железный канцлер // Сборник англо-американской фантастики. Вып. 3. М. : ИМА-Пресс, АПН, 1990.

Толкачев С., Кулаков А. Роботизация как направление неоиндустриализации (на примере США) // Промышленная политика. 2016. № 2. С. 79–87.

Уилсон Д. Роботы Апокалипсиса. М. : Астрель, 2012.