Люди и роботы: сбывающиеся прогнозы. Шаг длиной в столетие

скачать Автор: Майленова Ф. Г. - подписаться на статьи автора
Журнал: Философия и общество. Выпуск №3(92)/2019 - подписаться на статьи журнала

DOI: https://doi.org/10.30884/jfio/2019.03.07

В преддверии столетнего юбилея термина «робот», появившегося благодаря автору пьесы «R.U.R.» Карелу Чапеку в 1920 г., представляется актуальным сопоставление прогнозов ученых и фантастов прошлого столетия относительно «умных машин» с современными реалиями. Некоторые сбываются с невероятной точностью, и это касается прогнозов как ученых, так и писателей, причем нередко действительность даже превосходит мечты фантастов прошлого века. Однако социальные и моральные последствия внедрения в нашу жизнь роботов с искусственным интеллектом неоднозначны, особенно настораживает чрезмерная зависимость человека от предметов с искусственным интеллектом и опасность утраты им определенных ментальных навыков и способностей.

Возможно, сегодняшние ученые и фантасты смогут помочь человечеству увидеть горизонты будущего и предостеречь от возможных ошибок и последствий реализации проектов мечты.

Ключевые слова: робот, искусственный интеллект, интерфейс «мозг – компьютер», этика роботов, взаимоотношения человека и машины.

On the eve of the centennial anniversary of the term ‘robot’, which was introduced in Karel Čapek's play ‘R.U.R.’ in 1920, it seems interesting to make a brief analysis of the forecasts of scientists and science fiction writers of the last century about ‘smart machines’ in terms of modern realities. Some forecasts have come true with incredible accuracy, and this refers to the forecasts of both science fiction writers and scientists, and often the reality even surpasses the fantasy dreams of the past. However, the social and moral consequences of introducing robots with artificial intelligence into our lives are ambiguous, and there is peculiar concern regarding the excessive dependence of humans on the objects with artificial intelligence.

Perhaps today's scientists and science fiction writers can help humanity see the horizons of the future and warn against possible mistakes and consequences of implementation of dreams projects.

Keywords: robot, artificial intelligence, brain-computer interface, robotic ethics, human-machine relationship.

Майленова Фарида Габделхаковна, доктор философских наук, ведущий научный сотрудник сектора гуманитарных экспертиз и биоэтики Института философии РАН more

Введение

В преддверии столетнего юбилея термина «робот» представляется интересным сопоставление прогнозов ученых и фантастов прошлого столетия относительно «умных машин» с современными реалиями. Некоторые сбываются с невероятной точностью, и это касается прогнозов как ученых, так и писателей, причем нередко действительность даже превосходит мечты фантастов прошлого. На примере ставшей пророческой статьи «Симбиоз человека и компьютера» бывшего сотрудника Массачусетского технологического университета Джозефа Карла Робнетта Ликлайдера, одного из идейных отцов Всемирной сети, можно убедиться, что, как он и предсказывал в 1960 г., связь человеческого интеллекта с искусственным становится сегодня все теснее, но последствия такого симбиоза неоднозначны. Особенно настораживает опасность утраты человеком определенных ментальных навыков и способностей.

Ученые и фантасты прошлого не только предсказали множество открытий и внедренных технологий, но и увидели в непростых взаимоотношениях человека и робота с искусственным интеллектом (ИИ) отголоски будущих социальных и моральных проблем, которые сегодня стали еще более актуальными. Будем надеяться, что до восстания роботов и полного уничтожения ими человечества, как это описано в пьесе Чапека, пока что далеко, однако чрезмерная зависимость человека от предметов с искусственным интеллектом тревожит уже сегодня. Возможно, современные ученые и фантасты смогут помочь нам увидеть горизонты будущего и предостеречь от возможных ошибок и последствий реализации проектов мечты.

Роботы – друзья или рабы?

Слово «робот» появилось в нашем словаре в 1920 г. благодаря пьесе чешского писателя Карела Чапека «R.U.R.» (Rossum's Universal Robots), принесшей ему мировую известность. Строго говоря, автором термина является даже не сам писатель, а его брат, Йозеф Чапек, который придумал это слово, когда Карел спросил у него совета, как назвать своих персонажей – искусственных рабочих. Слово образовано не от всеохватывающего слова «работа» (по-чеш-ски – práce), а от чешского же robota, что означает «повинность», «каторга», «тяжелая работа», «барщина», то есть более узкое понятие неоплачиваемого труда крепостных и рабов с отрицательной коннотацией. После экранизации этой пьесы слово «робот» стало общепризнанным в качестве названия для машины, подобной человеку и выполняющей за него работу.

В ноябре 1920 г. научно-фантастическая пьеса «Россумские универсальные роботы» вышла отдельной книгой в издательстве «Авентинум» [Чапек 1920], а 2 января 1921 г. ее поставила любительская труппа в Градец-Кралове. 25 января того же года состоялась премьера пьесы в Пражском национальном театре. В 1923 г. пьеса была переведена с чешского на английский Полом Селвером и адаптирована для английской сцены Найджелом Плейфейером, и с тех пор термин «робот» стал чрезвычайно популярным. Этой пьесой драматург открыл ставшую очень популярной в мировом искусстве ХХ в. тему – взаимоотношения человека и машины, выход последней из-под контроля своего создателя, бунт машин.

Социальные психологи знают, что от первого посыла в самом начале общения, особенно от ценностных установок участников, зависит, как будет развиваться вся коммуникация в целом. Возможно, по этим законам и развивалась история взаимоотношений людей и роботов в знаменитой пьесе. Их создавали как рабов, которые возьмут на себя всю трудную и неблагодарную работу и освободят людей для более интересных и достойных занятий. Однако эти роботы оказались столь хороши и умны, что обладали не только разумом, но, как выяснилось в итоге, и чувствами, хотя никаких гражданских прав они не имели и считались просто живыми машинами, которые созданы для обслуживания людей, и при необходимости их всегда можно выключить или демонтировать. При этом они были созданы внешне неотличимыми от людей (сегодня бы их, скорее всего, назвали андроидами), их делали из искусственной живой ткани, и в пьесе даже есть сцена, где герои, пришедшие на фабрику роботов, не могут различить их и людей [Чапек 1920].

Сама по себе идея создания кого-то, подобного человеку, но при этом не равного ему, для унизительной роли раба, морально порочна и таит в себе зародыш серьезных коллизий. Когда роботы начали осознавать свое положение, они стали придерживаться весьма невысокого мнения о человечестве. В третьем действии пьесы робот Дамон заявляет: «Надо убивать и властвовать, если хочешь быть, как люди. Читайте историю! Читайте книги людей! Надо властвовать и убивать, чтобы быть людьми!» В итоге, научившись у людей убивать и властвовать, роботы выходят из повиновения. Беззастенчивая эксплуатация порождает бунт механических, но умных и осознающих несправедливость рабов, в то время как высокомерное человечество, полностью разучившееся работать и погрязшее в лени, не сразу осознало опасность и в результате было полностью перебито, а на Земле остались только роботы… К сожалению (или к счастью?), цивилизация роботов тоже оказалась обречена, так как были утеряны чертежи, по которым их когда-то изготовили люди.

Вслед за Чапеком тема восстания машин стала очень популярной в искусстве, в ХХ в. было снято огромное количество кинокартин (художественных и научно-популярных), написаны сотни книг, статей, так или иначе затрагивающих проблему взаимоотношений человека и роботов. А знаменитые три закона роботехники А. Азимова [1979], вдохновившие многих других писателей и философов XX в., в веке нынешнем легли в основу нового раздела философии – этики роботов [Майленова 2017а; 2017б].

К. Чапеку удалось не просто задеть всех за живое, но и предвидеть революционные изменения в жизни человечества, сегодня многие фантазии становятся реальностью. Внедрение в жизнь роботов идет полным ходом, и можно лишь изумляться дару предвидения фантастов прошлого столетия, настолько картины сегодняшней реальности порой похожи на те, которые они рисовали в своем воображении. Впрочем, риски и опасения также становятся все актуальнее.

Сбывающиеся пророчества

Идеи некоторых ученых, казавшиеся не менее невероятными, нежели произведения писателей-фантастов, также оказались пророческими. В марте 1960 г. Дж. Ликлайдер опубликовал свою статью «Симбиоз человека и компьютера», где, говоря о грядущей роли вычислительных машин, писал, что связка «человек плюс компьютер» превзойдет по своим интеллектуальным возможностям самого умного человека. Ликлайдер верил, что уже в ближайшем будущем «человеческий мозг и вычислительные машины станут тесно сопряжены, в результате их союз будет мыслить, как человеческий мозг никогда не мыслил, и обрабатывать данные способами, недоступными известным нам машинам» [Licklider 1960].

Отсюда, по его мнению, неизбежен путь ко все более тесному партнерству с ЭВМ, переходящему в симбиоз. Также Ликлайдер предвидел, описывая свойства компьютера будущего, что связь с ним должна будет поддерживаться наиболее естественным путем (via the most natural means), то есть для симбиоза с людьми компьютер должен распознавать речь и уметь говорить. И если в 1960-е гг. говорящая и понимающая человеческую речь ЭВМ была смелой мечтой, сегодня прогноз Ликлайдера сбывается: как в том, что мы уже имеем компьютеры, которые умеют не только слушать и говорить, но и понимать иностранные языки и переводить целые фразы, так и в том, что, следуя логике его рассуждений, мы можем заглянуть в наших прогнозах еще дальше и увидеть иные способы сопряжения мозга и компьютера.

Программы, распознающие речь человека, сегодня уже стали привычными, их широко используют в обычной повседневной жизни, практически каждый время от времени общается с навигатором, с Siri или голосовыми переводчиками, и это уже перестало казаться удивительным. Однако несмотря на то, что эти программы постоянно совершенствуются, данный канал связи имеет свои ограничения, сопряженные уже с человеческими особенностями использования языка. Зачастую оттенки смыслов, чувств, интуитивных озарений, сложных переживаний удается передать только приблизительно, а на другой стороне, как правило, их понимают с искажениями. Каждый человек при восприятии информации, особенно когда она эмоционально заряжена, привносит свой собственный опыт, тем самым неизбежно изменяя ее, порой на прямо противоположную, дополняя, упрощая или, наоборот, усложняя воспринимаемую информацию. Именно на этой особенности психики основан феномен ложного понимания, а также опущения информации, когда выясняется, что человек услышал только некую часть сказанного (и сделал выводы сообразно услышанному), понял в итоге все неправильно, и это зачастую является причиной многих конфликтов. Так что речевой канал в том виде, каков он есть, хотя и является для нас наиболее привычным, имеет серьезные недостатки. «Как сердцу высказать себя? Другому как понять тебя? Поймет ли он, чем ты живешь? Мысль изреченная есть ложь» [Тютчев 2008: 368].

Те же самые (а возможно, и гораздо бо́льшие) сложности ожидают нас при речевом общении с компьютерами, особенно когда мы имеем дело со сложными задачами, требующими интеллектуального участия многих людей. Кроме упомянутых выше нюансов, сегодня мы имеем новые, доселе небывалые аспекты проблемы понимания, связанные с возрастающей сложностью среды нашего обитания, которая к тому же постоянно меняется и обновляется в темпе, за которым мы не всегда в силах уследить. Что касается цифровой среды, там темпы изменений еще выше, а уровень сложности технологий зачастую превышает наше понимание. Обычный пользователь, как правило, мало что знает не только об устройстве и принципах работы «умных машин», в том числе имеющихся у каждого персональных компьютеров и смартфонов, он зачастую даже не успевает изучить и освоить их свойства к моменту появления еще более новых и совершенных устройств, которые, скорее всего, также останутся не вполне им изучены, поняты и освоены.

Мир с чертами VUCA

Мы вынуждены беспрестанно обновлять свои навыки и знания во всех областях нашей деятельности, так как потоки новой информации буквально накрывают современного человека, и все равно ему физически невозможно уследить даже за самыми важными для него элементами, в том числе потому, что с еще большей скоростью растет количество факторов отвлечения внимания, в разы снижающих способность к сосредоточению. В то же время системы, создаваемые нами, будь то крупные проекты, тот же Интернет или управление городом, экономикой, климатом, являются крайне сложными для моделирования, отследить все цепочки причинных связей и принять правильное решение возможно, лишь используя коллективный мозг, так как один человек, будь он даже сверхталантлив и гениален, все меньше способен охватить и понять все, что необходимо.

Наступление нового, постоянно меняющегося и усложняющегося мира эксперты обозначили аббревиатурой VUCA [VUCA…], сокращением из английских слов volatility (изменчивость, неустойчивость), uncertainty (неопределенность), complexity (сложность) и ambiguity (неясность, неоднозначность). Термин впервые был использован в 1987 г., и сегодня его актуальность стала еще выше. С каждым годом привычный нам мир все больше обретает описанные VUCA черты, и возрастающую сложность взаимосвязей и событий, меняющихся к тому же с нечеловеческой скоростью, будет способен охватить лишь интеллект более совершенный, чем наш, гораздо более мощный, быстрый, выносливый, не поддающийся стрессам и усталости. Либо это будет искусственный интеллект, либо – союз человеческого интеллекта с искусственным.

В любом случае для того, чтобы суметь совладать с созданной им технологией, человек будет вынужден повысить качество своего интеллекта, так как, кроме перечисленных опасностей, его поджидает еще одна, а именно вытеснение его искусственным интеллектом. Захват власти над человечеством ИИ на сегодняшний день кажется элементом фантастики, но уже завтра способен стать зловещей реальностью.

Модификация человеческого мозга

Кристоф Коф, директор Института Аллена по изучению мозга, утверждает, что для выживания человечеству необходимы высокотехнологичные мозги, иначе мы рискуем отстать от ИИ и попасть в зависимость от него.

Когда ИИ станет по-настоящему мощным – а это вопрос пары десятилетий, – мы рискуем, делегировав ему слишком многое (что с неизбежностью происходит уже сегодня), утратить понимание происходящего вокруг, превратившись в тех слепых мудрецов из притчи, каждый из которых ощупывал хобот, хвост или ногу слона, притом что цельной картины ни у кого из них не было. Увы, в связи со все более узкой специализацией наук мы и сегодня порой бываем похожи на тех слепцов, однако пока еще в состоянии сопоставить разные картины мира и стремиться к взаимопониманию в рамках междисциплинарных проектов.

Прибегая к помощи средства техносферы, сегодня мы воспринимаем ее как вспомогательный элемент в исследованиях, однако распределение сил может измениться уже совсем скоро, так как мощность и скорость ИИ могут стать несопоставимыми с человеческими возможностями анализа, синтеза и творчества. Биология, создавшая человека, может оказаться не в силах совладать с творением человека – технологией, если мы не сумеем повысить качество нашего интеллекта. «Только так, – говорит Кох, – мы сможем продолжать оставаться в игре на фоне собственного творения» [Koch 2017].

Решение проблемы повышения сложности человеческого аппарата мышления сводится в целом к двум вариантам, которые, впрочем, не исключают друг друга и могут быть взаимодополняемы.

Первый – технологичный – предполагает усиление мозга экзокортексом, связав его с устройствами, улучшающими качество его работы; можно сказать, что это путь к киборгизации человека. Отношение к собственному телу как к проекту, стремление его изменять, улучшать и модифицировать, в том числе с помощью новейших достижений биомедицинских технологий, представляется сегодня многим весьма вдохновляющим и привлекательным. С развитием технологий некоторые люди пытаются стать неким подобием киборгов, «взломать» свое тело и расширить возможности. Это направление получило название «биохакинг». Биохакер Амаль Граафстра [Custom…] имплантировал между пальцев чипы RFID, которые позволяют ему отпирать двери и включать компьютер. На одном из чипов в его руке также хранится зашифрованный ключ к электронному кошельку. Хотя в целом имплантация чипов – все еще весьма редкое явление, экстравагантные личности склонны изменять свои тела не столько по медицинским показаниям, сколько из любознательности, стремления к риску и желания эпатировать. Возможно, уже в ближайшем будущем биохакинг станет столь же распространенным среди модников и модниц, как татуировки или пластические операции. Не за горами день, когда люди будут добровольно вживлять имплантаты в мозг с целью улучшить свои ментальные возможности.

В то же время можно лишь порадоваться за таких оригинальных и позитивных людей, как канадский режиссер и продюсер Роб Спенс, который лишился глаза в 9 лет, а теперь заменил косметический имплант миниатюрной видеокамерой [Киноглаз…] и с ее помощью снимает свое оригинальное кино. Способность трансформировать недостаток или увечье в преимущество и возможность творчества восхищает и позволяет верить, что будущее, даже такое причудливое, не будет лишено человечности и чувства юмора.

Второй сценарий, более гуманитарный, но не менее перспективный на фоне развивающихся нейронаук, предполагает усиление работы мозга с помощью новейших психотехник и нейротехнологий. Человечество не одно тысячелетие стремилось улучшить мозг, получить доступ к знаниям, лежащим в глубинах нашего «Я», используя молитвы, медитации, специальные ритуалы, диеты и упражнения, применяя с этой целью специальные вещества, запахи, звуки и т. п. Современная психология пытается осмыслить опыт поколений и взять на вооружение удачные техники, в частности, в гипнотерапии используются психотехники, заложенные в основу работы с сознанием и телом в практиках йоги, буддизма, цигун, трансцендентальной медитации. Стремясь выделить во всех этих способах осознания себя те, которые могут подойти современному человеку для повышения уровня саморегуляции, современные исследователи и психологи-практики не просто помогают пациентам справляться с их проблемами, но и обучают их в дальнейшем делать это самостоятельно, с помощью самогипноза, самовнушения, техник активации сознания.

Если же сочетать эти техники саморегуляции и самомодификации с технологиями, позволяющими использовать возможности компьютера и искусственного интеллекта, можно получить совершенно нового человека с небывалыми качествами и способностями.

Заключение

Поражающую воображение скорость изменений в жизни современного человека, связанную с прогрессом технологий, можно иллюстрировать фразой Михаила Эпштейна: «Если вторая половина ХХ в. была окрашена подъемом science fiction, то сейчас наступил период fiction science. Сама наука становится все более фикциональной, фантастической из-за того, что границы эмпирической реальности, наблюдаемой и верифицируемой, оказались размытыми. К началу XXI в. наука совершила столь много прорывов, что добралась до “изнанки” мироздания, где неожиданно натолкнулась на те тайны и чудеса, которые исконно считались прерогативой искусства и религии. Открытие Большого взрыва, расширяющейся Вселенной, генетического кода, энергетических и информационных полей в основе материи…» [Будущее… 2012]. В том же интервью он говорит, что «вполне мыслимо сотрудничество философских отделений университетов и отделений компьютерных технологий», и возможно, именно такой и станет философия будущего, способная соединить гуманистику, фантастику и современные технологии, включая робототехнику и искусственный интеллект, в единое живое целое современного знания о мире, человеке и его месте в нем. Какова будет картина будущего человечества, сумеет ли оно сохранить и приумножить возможности своего интеллекта, не утратив творческого начала и человечности, зависит от того, какой путь оно выбирает сегодня.

Литература

Азимов А. Три закона роботехники. Авторский сборник. М. : Мир, 1979.

Будущее гуманитарных наук: интервью [Электронный ресурс] // Радио Свобода. 12 ноября 2012. URL: https://www.svoboda.org/a/24769034. html (дата обращения: 15.09.2018).

Чапек К. Р.У.Р. Прага : Авентинум, 1920.

Киноглаз. Снимать как видеть [Электронный ресурс]. URL: https:// www.popmech.ru/technologies/12034-kino-glaz-snimat-kak-videt/ (дата обращения: 08.10.2017).

Майленова Ф. Г. Роботы и люди: этика взаимодействия // Философские проблемы биологии и медицины. Вып. 11. Образы социального и витального в биомедицине: сб. ст. Тверь : Твер. гос. ун-т, 2017а. С. 130–133.

Майленова Ф. Г. Человеческое в нечеловеческом: Может ли человеческая этика продолжиться в искусственном интеллекте? // Институт человека: Идея и реальность / отв. ред. Г. Л. Белкина, ред.-сост. М. И. Фролова. М. : Ленанд, 2017б. С. 291–301.

Тютчев Ф. И. Silentium! / Ф. И. Тютчев // Как сердцу высказать себя… Wie schwer spricht. М. : Вагриус, 2008.

Custom Gadgetry for the Discerning Hacker [Электронный ресурс]. URL: http://amal.net/ (дата обращения: 08.10.2017).

Koch Ch. To Keep Up with AI, We’ll Need High-Tech Brains. 2017. October 27 [Электронный ресурс]. URL: https://www.wsj.com/articles/to-keep-up-with-ai-well-need-high-tech-brains-1509120930 (дата обращения: 01.09.2018).

Licklider J. C. R. Man-Computer Symbiosis [Электронный ресурс] : IRE Transactions on Human Factors in Electronics. 1960. Vol. HFE-1. March. Pp. 4–11. URL: https://groups.csail.mit.edu/medg/people/psz/Licklider.html.

VUCA: Volatility, Uncertainty, Complexity and Ambiguity [Электронный ресурс]. URL: https://en.wikipedia.org/wiki/Volatility,_uncertainty,_complexity_and_ambiguity.