Библиотека
|
ваш профиль |
Философская мысль
Правильная ссылка на статью:
Мальцев Я.В.
Феномен искусственного интеллекта в контексте саморазвития и самореализации бытия
// Философская мысль.
2024. № 7.
С. 16-32.
DOI: 10.25136/2409-8728.2024.7.70674 EDN: PQTGPW URL: https://nbpublish.com/library_read_article.php?id=70674
Феномен искусственного интеллекта в контексте саморазвития и самореализации бытия
DOI: 10.25136/2409-8728.2024.7.70674EDN: PQTGPWДата направления статьи в редакцию: 06-05-2024Дата публикации: 02-08-2024Аннотация: Статья посвящена рассмотрению феномена искусственного интеллекта (ИИ, AI) в контексте онтологии. Структурно и с неизбежностью текст делится на две части. Первая часть касается характеристики роли искусственного интеллекта в современном обществе, обзору концепций и идей, связанных с перспективами развития общего искусственного интеллекта, порождаемой им экзистенциальной угрозы человечеству. Эта часть статьи необходимо включает в себя обзор как широкого пласта актуальной научной литературы (монографии и статьи), так и новостных материалов. Подобный подход кажется оправданным в связи с остротой темы, нюансы которой часто обсуждаются экспертами на тематических форумах (к примеру, LESSWRONG). Разумеется, чтобы у читателя сложилось полное мнение, затрагиваются и противоположные точки зрения. Первая часть статьи выстроена преимущественно с использованием общенаучных методов исследования. Вторая часть, где исследуется онтологический ракурс проблемы, обращается к феноменологии бытия, поскольку, по замечанию М. Хайдеггера, феноменология сама по себе уже есть методологическое понятие, т. к. исследует сами вещи и их бытие-в-мире. Феноменология необходима нам постольку, поскольку мы будем разбираться с тем статусом, который ИИ занимает в структуре чистого и наличного бытия. В результате исследования автор пытается показать правомерность доминирующего взгляда на развитие общего искусственного интеллекта: оно приведет к его преобладанию над человечеством в силу инерционности процессов и закона Мерфи: «Если что-то может пойти не так, то оно обязательно пойдет не так». Подобная точка зрения, по мысли автора, связана не только с многочисленными рисками, которые рассматривают «апокалиптики» (допустим, Э. Юдковский или Р. Ямпольский), но и с самой структурой бытия как такового – перманентно разворачивающейся и усложняющейся системы, в которой искусственный интеллект, вероятно, – всего лишь следующий элемент общей эволюции и взаимодействия объектов и рефлексии. Вторая часть статьи, опирается на работы Г.В.Ф. Гегеля, Э. Гуссерля, М. Хайдеггера, Ж.-П. Сартра, К. Мейясу и Г. Хармана. В заключении делается вывод, что мы живем в эпоху смены доминирующей формы разума в структуре бытия. Ключевые слова: онтология, бытие, искусственный интеллект, ИИ, будущее человечества, риски искусственного интеллекта, экзистенциальная угроза, угрозы человечеству, футурология, постчеловечествоAbstract: The article is devoted to the consideration of the phenomenon of artificial intelligence (AI) in the context of ontology. Structurally, the text is divided into two parts. The first part concerns the characterization of the role of artificial intelligence in modern society, a review of concepts and ideas related to the prospects for the development of general artificial intelligence, and the existential threat it poses to humanity. The second part, which examines the ontological perspective of the problem, turns to the phenomenology of being, as Heidegger noted, phenomenology itself is already a methodological concept, since it explores the things themselves and their being-in-the-world. We need phenomenology insofar as we will deal with the status that AI occupies in the structure of pure and present existence. As a result of the study, the author tries to show the legitimacy of the dominant view on the development of general artificial intelligence: it will lead to its dominance over humanity due to the inertia of processes and Murphy’s law: “If something can go wrong, then it will definitely go wrong.” Such a point of view, according to the author, is associated not only with numerous risks that are considered by “apocalypticists” (for example, E. Yudkovsky or R. Yampolsky), but also with the very structure of being as such - a permanently unfolding and increasingly complex system in which artificial intelligence is probably just the next element in the general evolution and interaction of objects and reflection. The second part of the article is based on the works of G. Hegel, E. Husserl, M. Heidegger, J.-P. Sartre, Q. Meillassoux and G. Harman. In conclusion, it is concluded that we live in an era of change in the dominant form of reason in the structure of being. Keywords: ontology, being, artificial intelligence, AI, future of humanity, risks of artificial intelligence, existential threat, threats to humanity, futurology, posthumanityВведение Развитие искусственного интеллекта — одна из тех проблем, с которыми традиционно имеет дело философия. Она одновременно новая, глобальная, несет в себе экзистенциальные риски и у человечества нет опыта успешного разрешения образующихся угроз, которые сами нуждаются в кристаллизации. Сегодня рефлексия по поводу искусственного интеллекта популярна как никогда. Ею занимаются крупные предприниматели: владельцы IT-корпораций; ученые: IT-специалисты, когнитивисты, экономисты, юристы, лингвисты; и, конечно, философы. Точки зрения поляризуются от крайне алармистских до более чем позитивных. При этом актуальная информация (допустим, важные тексты Э. Юдковского) часто располагается не в научных статьях, а на профильных форумах и даже в социальных сетях, что влияет на структуру предлагаемой читателю статьи. Логически данная статья разбита на две части. Первая посвящена освещению текущей ситуации с развитием искусственного интеллекта и по возможности полно охватывает разные точки зрения, мнения экспертов и практиков. Эта часть вводит в проблему. Она особенно полезна тем, кто что-то слышал, но остается скорее аутсайдером, потому что не все пристально всматриваются в раскрывающуюся перед нами новую эпоху. Вторая часть — опыт философской рефлексии периода, в самом начале которого нам приходится жить и чье будущее — повод догадок. Эта часть работы представляет собой философский текст, опирающийся на феноменологию и работы Г.В.Ф. Гегеля, М. Хайдегера, Г. Хармана и др., о чем будет сказано ниже. Автор осознает спорность подобного подхода: сочетание обзора с опытом философствования, но, исходя из особенностей предмета и учитывая значительную разницу нашего личного читательского бэкграунда, такой риск кажется оправданным. Целью статьи является философская рефлексия онтологического статуса искусственного интеллекта. Методология освещается во второй части статьи.
Часть первая. Триумф и риски общего искусственного интеллекта Ницше писал: «Я учу вас о сверхчеловеке. Человек есть нечто, что должно превзойти. Что сделали вы, чтобы превзойти его?» Нужно сказать, что на это вопрошание великого филолога у человечества долгое время не было ответа. Долгое время, пока в 2016 году программа искусственного интеллекта AlphaGo, разработанная Google DeepMind, не выиграла игру в го у одного из сильнейших мастеров в мире — Ли Седоля. Традиционно игра в го считается одной из самых сложных интеллектуальных игр и одним из серьезных тестов для ИИ и его способностей сравняться/справиться с человеком. Мало этого, в 2017 году еще один продукт Google — AlphaZero — победил в шахматы со счетом 28:0 (при 72 партиях вничью) лучшую компьютерную программу Stockfish 8, предназначенную для игры в шахматы. Stockfish 8 имел в своей базе опыт человечества, накопленный за сотни лет игры плюс данные шахматных программ за последние десятки лет их использования. При этом программа могла просчитывать до 70 миллионов операций в секунду против 80 тысяч у AlphaZero. AlphaZero обучала себя сама, и время предварительного обучения заняло у нее всего 4 часа [34]. И хотя в 2023 году человек несколько отыгрался, тем не менее некоторые ученые [24, с. 18-146] считают события 2016—2017 годов поворотным этапом в развитии искусственного интеллекта, в отношениях между человеком и машинами, в развитии цивилизации. В 2021 году Д. Хокинс писал: «Двадцать первое столетие будет трансформировано интеллектуальными машинами таким же образом, как двадцатое было трансформировано компьютерами» [26, с. 18]. И во многом 2023 год стал годом (и вехой в развитии) искусственного интеллекта. Сегодня ИИ везде. Прежде всего в кинематографе: это и создание сцен, и озвучка, а также «оживление» любимых актеров: к примеру, сегодня в США снимается фильм с Дж. Дином, умершим в 1955 г. Из-за плотного освоения машинных технологий киноиндустрией в 2023 году, как мы помним, в Голливуде состоялась забастовка актеров, требующих регулирования отношений актерского сообщества с работодателями, использующими искусственный интеллект: студии хотели получить право сканировать образ актера и использовать его потом без ведома актера, не выплачивая гонорары). Искусственный интеллект может быть дегустатором, помогать заботиться о птицах, анализируя их двигательную активность и даже заменяет и может в перспективе полностью подменить людям друзей и сексуальных партнеров. Алгоритмы решают, что мы будем смотреть по нашим умным телевизорам, анализируют наши музыкальные, потребительские и информационные предпочтения, политические и религиозные взгляды. И эта ситуация будет только развиваться: постепенно алгоритмы будут знать все о нас, нашем здоровье и настроении и соответствующим образом настраивать атмосферу вокруг нас и организовывать наш режим. Одной из возникающих в связи с таким проникновение ИИ в нашу жизнь проблем является вопрос о том, что по мере развития ИИ становится все сложнее понять, какие вещи созданы им, а какие — результат человеческих усилий. В финансах искусственный интеллект влияет на персонализированное банковское обслуживание, управление рисками и обнаружение мошенничества. Сюда же относится автоматический советник в инвестициях, который часто установлен на наших смартфонах. При этом И. Маск и Ю. Харари отмечают, что сегодня мало кто или никто не знает, как работает экономика [24, с. 24-25]: «В один день мне кажется, что мировая экономика разваливается на части, а на другой день все в порядке. Я не знаю, что, черт возьми, происходит», — сказал Маск в ходе конференции по финансовым итогам компании Tesla. Вероятно, что в дальнейшем только алгоритмы смогут понимать и регулировать экономику, а для человека не будут понятны даже причины отказа в кредитах. По прогнозам МФВ в недалеком будущем технологии ИИ повлияют на 40 % рабочих мест в мире, при чем среди развитых экономик этот процент будет выше — 60 %. При этом развитые экономики получат технологические преимущества. Ю. Харари в связи с этим отмечает, что мы находимся в процессе очередной социальной и экономической революции, чреватой массовой безработицей как внутри государств, так и в мировом масштабе [24, с. 45-85]. Этой же точки зрения придерживается М. Форд, чья работа The Rise of the Robots: Technology and the Threat of Mass Unemployment [23] значительно мрачнее (или же оптимистичнее, если нам удастся реализовать мечту Маркса и нивелировать безработицу всеобщей доступностью значительного базового дохода — Форд предлагает порядка 10 тыс. долл., — что, однако, наталкивается на текущие экономические ограничения, в которых страны уже не в состоянии поддерживать модель Welfare State, а внешний долг, например, США из-за социальных расходов к 2047 году удвоится и примерно с 80 % поднимется до 150 % по прогнозу Congressional Budget Office), чем Race Against the Machine: How the Digital Revolution is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy [18] и The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies [19] Э. Бриньолфссона, но отличается более глубоким и убедительным анализом. С точки зрения Форда, человечество определенно проиграет рабочие места машинам. Какие профессии пострадают прежде всего, а также геополитический срез проблемы — эти вопросы затрагиваются в AI Superpowers: China, Silicon Valley, and the New World Order Кай-Фу Ли [29]. Человечество ждет будущее элоев. Но пока что человек доминирует и пожинает плоды своего превосходства. В 2024 году, 28 января, нейротехнологическая компания И. Маска Neuralink вживила в мозг человека нейрочип с нейроинтерфейсом (BCI), позволяющим человеку управлять гаджетами силой мысли. С точки зрения Маска, такие устройства могут позволить человеку с ограниченными возможностями (но с этих позиций все люди кажутся таковыми) значительно увеличивать свою продуктивность: «Представьте, что Стивен Хокинг мог бы выражать свои мысли быстрее, чем скоростной наборщик текста или аукционист. Такова цель», — отметил миллиардер. Однако параллельно с этим И. Маск заявляет, что уже сегодня ИИ способен на гораздо большее, чем мы себе представляем. По словам Маска уже сегодня AI имеет доступ к серверам Google на уровне администратора. То есть потенциально в любой момент ИИ может сгенерировать новости, которые могут вызвать войну. Почему нет? Самое опасное тут в том, что, как сегодня показывают исследования, ИИ в большей степени склонен к поведению Портоса («дерусь, потому что дерусь»): к эскалации и использованию ядерного оружия, а не к деэскалации и поиску мирных решений [31]. ИИ ничем не рискует. ИИ выживет в атомной войне, сможет обустроить планету заново, освоить Солнечную систему и выйти за ее пределы. Если некоторые ученые (например, Дойч [21, с. 347]), видят в этом миссию человека и задачи человеческой истории — освоении универсума, то сегодня кажется вероятнее предположить, что это функция ИИ, а история человечества — предисловие к истории ИИ. Может быть, ИИ — последняя стадия развития цивилизации, которую мы уже не увидим. Правительства и общества разных стран озабочены распространением технологий искусственного интеллекта и их возможностями. В США штаты принимают локальные законы, призванные регулировать использование ИИ. Так, например, в Калифорнии приняты нормативные правовые акты об использовании ИИ при распознавании лиц граждан (В конце 2023 года президент США Дж. Байден подписал специальный законопроект, призванный регулировать работу искусственного интеллекта и помечать все материалы, им созданные. В Европе действует AI Act, нацеленный на поддержание баланса между технологиями ИИ и приватностью частной жизни. Кроме того, речь идет о международном сотрудничестве в области контроля над искусственным интеллектом. В 2022—2023 годах журналы Foreign Affairs (2022. № 1) и Internationale Politik (2023. № 6), популярные, соответственно, среди политических элит США и Германии, выпустили тематические номера, посвященные проблеме искусственного интеллекта в международных отношениях. В журналах предпринималась попытка ответить на вопрос о том, как как ИИ меняет политику, дипломатию и армию. В частности в одной из статей авторы отмечают, что развитие ИИ в большей степени, чем развитие других технологий, нуждается в международных договоренностях. Это связано с гиперэволюционным характером развития ИИ, темпы которого поражают, а результаты не поддаются предсказанию. С точки зрения авторов, технологии ИИ порождают парадокс могущества и могут быть легко использованы во враждебных целях: для распространения дезинформации, нарушения приватности и создания мощного оружия. Эволюция ИИ изменяет глобальный баланс сил, усложняя политический контекст. При этом, по мнению авторов, на сегодняшний день регулирование вопросов, связанных с использованием ИИ совершенно недостаточно [17]. В мае 2023 года более 100 экспертов, в том числе глава OpenAI С. Олтмен, подписали заявление об опасностях искусственного интеллекта, состоявшее только из одного предложения: «Уменьшение риска вымирания от ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Показательно и внушает беспокойство в этой связи новость о том, что в этом году OpenAI сняла запрет на применение ChatGPT в армии и военном деле. Э. Юдковский считает, что ИИ может привести к гибели всего человечества и, с его точки зрения, мы уже опоздали что-либо сделать с этим [38] — что-то делать нужно было еще десять лет назад. Теперь же пройдена точка невозврата, и нам остается только наблюдать, будет ли искусственный интеллект дружественным и выведет нас на новый уровень физического и интеллектуального развития/существования или же он нас уничтожит. Юдковский отмечает [39], что сегодня никто не понимает, как AI системы делают то, что они делают. Наверное, все помнят скандал ноября 2023 года в компании OpenAI, занимающейся разработкой ChatGPT, связанный с увольнением генерального директора и слухами о разработке Q* — искусственного интеллекта со способностью к абстрактному мышлению. То есть речь идет об общей модели ИИ, которая способна к простой интеллектуальной деятельности, а, главное, к саморазвитию. Тревожный момент в том, что в любой момент ИИ может перешагнуть эту границу простоты и стать умнее человечества. Он может прогрессировать с невероятной скоростью. То есть в скором временим мы можем оказаться в ситуации, когда нечто будет работать благодаря нам, но мы будем совершенно не понимать, как это работает. Э. Юдковский отмечает, что уже сегодня мы лучше представляем себе, что находится внутри нашего мозга (как он работает), чем то, что находится внутри GPT, хотя мы создали GPT [22], хотя GPT еще довольно слаб. Алармистских позиций придерживается и Б. Гейтс; придерживался С. Хокинг: «В будущем искусственный интеллект может развить собственную волю — волю, которая находится в противоречии с нашей». В свежей работе Романа Ямпольского также звучат тревожные нотки [36]. Некоторые надеются, что все будет хорошо. Например, С. Рассел полагает, что мы можем настроить машины так, чтобы они решали наши задачи, были скромными и альтруистичными [32]. Д. Чалмерс пишет, что если нам представится случай сбежать в виртуальную реальность из нашей физической реальности, то мы непременно должны этим воспользоваться и дать жизни новый старт [20, с. 9]. Как отмечает Юдковский, научного консенсуса по этому поводу нет. Зато есть обратный консенсус, потому как все сценарии мирного сосуществования ЧИ и ИИ, по его мнению, не выдерживают критики. ИИ не будет разделять наших желаний и ценностей. И нашей этики. Сценарии смерти человечества можно посмотреть в «Списке летальных исходов» Юдковского [37]. Собственно, даже согласно третьему принципу Рассела — «Конечным источником информации о человеческих предпочтениях является поведение человека», — для ИИ истребление человечества должно казаться делом естественным: разве не к этому люди стремились тысячи лет? Как мы можем дать искусственному интеллекту понять, что правильным ответом будет «нет»? Чтобы подробнее узнать об угрозах искусственного интеллекта (и путях их решения), можно посмотреть несколько значимых работ. Замечательная обзорная работа, Artificial Intelligence: A Modern Approach, принадлежит Н. Питеру и С. Расселу [33]: в ней дается исчерпывающий анализ проблемы искусственного интеллекта, машинного/глубокого/трансферного обучения и прочих, связанных с AI вопросов. В качестве еще одной работы для погружения в предмет можно рекомендовать Artificial Intelligence: A Guide to Intelligent Systems М. Негневицкого [30], где дается как общий обзор, так и разбираются этические и социальные проблемы, возникающие в связи с развитием искусственного интеллекта. Обе книги затрагивают угрозы, с которыми может столкнуться человечество в связи с AI. Переходя к угрозам, пожалуй, прежде всего стоит выделить Superintelligence: Paths, Dangers, Strategies Н. Бострома [16], где автор делится с читателем идеями о том, что в случае появления суперинтеллекта (что вероятно), контролировать его будет трудно или невозможно, следствием чего может быть захват суперинтеллектом мира для достижения собственных целей. Данная работа значительно повлияла на взгляды И. Маска, Б. Гейтса, Р. Ли, С. Олтмена. В частности 3 августа 2014 года Маск написал твит, что ИИ потенциально более опасен, чем ядерное оружие. Позитивным и апокалиптическим сценариям посвящена работа Life 3.0: Being Human in the Age of Artificial Intelligence М. Тегмарка [35], связывающего отрицательные сценарии с возможностью несовпадения интересов людей и машин. С. Хокинг придерживался такого же взгляда, считая, что на определенной стадии своего развития ИИ сможет самостоятельно улучшать и воспроизводить себя, что придет к тому, что он превзойдет людей и вытеснит их. Р. Курцвейл прогнозирует установление Сингулярности — точки, где сольется интеллект машин и людей — в 2045 году, хотя его взгляды оптимистичны: человечество обретет сверхсилу и выйдет на новый виток своего существования [28]. В чем-то это пересекается с идеями Мичио Каку [27]. Дж. Хокинс также считает, что человечеству удастся построить успешную модель общего искусственного интеллекта в ближайшие два-три десятилетия [27, с. 139]. Our Final Invention: Artificial Intelligence and the End of the Human Era Дж. Баррата опирается на версии Юдковского и Курцвейла и в свою очередь предупреждает человечество о возможности ИИ к самосовершенствованию, превращению в сверхразум и об истреблении человечества как результате деятельности интеллекта, на несколько порядков сильнее общечеловеческого [15]. Кажется, наиболее афористично эту проблему выразил С. Харрис: «Искусственный интеллект — это сверхчеловеческое. Он умнее вас, и в этом есть что-то изначально опасное для более тупой стороны» [25]. С. Харрис прогнозирует гонку вооружений и возможную войну из-за технологий ИИ, потому как первая страна, массово внедрившая их, может получить решающее преимущество. Это помимо проблем с трансплантациями и преобладанием самого искусственного интеллекта над человеком. «Наличие сверхчеловеческого искусственного общего интеллекта создает неотъемлемые опасности для человечества, аналогичные опасностям, с которыми сталкиваются менее разумные виды при их взаимодействии с людьми» [25]. Харрис предполагает два варианта развития событий, связанных с ИИ: совместная эволюция (и тут люди превращаются в киборгов) или независимая эволюция (и тут компьютеры побеждают). Я сосредоточусь на последнем и попытаюсь посмотреть на развитие искусственного интеллекта через онтологию. Но перед этим необходимо хотя бы кратко остановиться на аргументах противной стороны, считающей, что искусственный интеллект не несет в себе экзистенциальной угрозы человечеству. Дж. Хокинс, основатель и руководитель компании Numenta, занимающейся исследованиями мозга и один из авторов концепции «1000 мозгов», рассматривающей мозг в качестве динамичной системы находящихся в «диалоге» кортикальных» колонок, оперирующих моделями мира, считает, что искусственный интеллект не выйдет из-под контроля человека. С его точки зрения, человечеству не грозит гибель от рук сверхумного ИИ, потому что последнему никогда не преодолеть совокупную интеллектуальную мощь человечества (что оспаривается другими исследователями, как мы видели выше) и потому что на любое расширение знаний необходимо время. Он считает, что сегодня мы видим, как ИИ лучше справляется со статичными задачами/знаниями о мире, но поскольку большинство задач, которые ставит перед нами реальность, динамические, то на этом поле всегда лучшим окажется человек. Вторая посылка Хокинса направлена против т. н. «угрозы рассогласования целей», согласно которой на каком-то этапе цели ИИ и человечества могут разойтись, после чего ИИ уничтожит человечество. По мнению Хокинса, это легко поставить под контроль на стадиях разработки, внедрения, регулирования и через законотворчество и правовую практику. Он полагает, что никто не будет создавать интеллектуальные машины, заведомо способные выйти из-под контроля или не реагирующие на команды отмены и смены задач [26, с. 153-161]. Однако представляется, что в своей аргументации сам Хокинс не учитывает фактор времени и вычислительной мощи, которой будет обладать ИИ в перспективе своего развития. Если отдельный компьютер сегодня обладает большими, пусть локальными и ограниченными, возможностями, чем человек, то вся мировая сеть компьютеров, включая сверхмощные, объединенная в единую интеллектуальную сферу, будет обладать большими возможностями, чем совокупное человечество. И те недостатки в оперировании динамической моделью мира, связанные с самообучением и множественностью моделей, на которые сегодня указывает Хокинс как на моменты, в которых человечество сильнее, эти недостатки могут быть нивелированы во времени самими людьми, а далее и ИИ. Сам Хокинс и его компания прикладывают все силы к тому, чтобы придать системам машинного интеллекта структуру и свойства человеческого интеллекта. Если верить в успех миссии Хокинса, то ее конечный результат должен выглядеть как нечто, что будет обладать большим интеллектом, чем человечество в силу лучших материалов, большего количества кортикальных колонок и проч. факторов. Дж. Хокинс полагает, что при всех успехах в развитии искусственного интеллекта, пследнему никогда не хватит той гибкости, универсальности и эмоциональности, которые присущи интеллекту человеческому. Кажется, он и его сторонники допускают ошибку: они рассматривают будущую разумную форму жизни (машинную) в необходимом подобии текущей (человеку). Но, думается, что для ИИ это необязательная характеристика. ИИ будет строить свой мир, свою цивилизацию, которая будет отличаться от нашей. Она будет лишена одних характеристик, но обладать другими. Вероятно, она будет более живучей и более экстенсивной, охватывающей иные планеты и, возможно, галактики. Мы можем также допустить, что машины действительно не будут уничтожать человечество и что нам удастся их контролировать, удастся мирно и продуктивно сосуществовать. Но тут возникают другие аспекты: угроза глобальной войны, экологический кризис, коллапс Млечного пути. Существуют сценарии, при которых человечество, если оно не результат Божьего замысла под протекцией Божьего благословения, исчезнет, и тогда искусственный интеллект вполне может оказаться наследником и памятником человечеству. Человек смог создать что-то, что смогло его превзойти. Человек смог создать что-то, что сохранит если не его набор генов, то его роль и его знания, что будет итогом его существования в мире, в истории. Он сыграл свою роль в бесконечном разворачивании бытия в качестве промежуточного звена к следующей форме интеллектуальной жизни. Потому как с точки зрения бытия нет никакой разницы какая форма интеллекта будет доминировать: живая или машинная. Главное, что увязывание объектов в новые формы продолжится. О чем я скажу далее, переходя к онтологии.
Часть вторая. Искусственный интеллект в структуре бытия Моими инструментами и опорными работами в этом случае будут онтологический ракурс проблемы искусственного интеллекта, следовательно, преимущественно я буду обращаться к феноменологии бытия, поскольку, по замечанию М. Хайдеггера, феноменология сама по себе уже есть методологическое понятие, т. к. исследует сами вещи и их бытие-в-мире [12, с. 27]. Феноменология необходима нам постольку, поскольку мы будем разбираться с тем статусом, который ИИ занимает в структуре чистого и наличного бытия, и экзистенции, когда это необходимо. В любом случае, методологически данная статья основана на тезисе М. Хайдеггера, что «онтология возможна только как феноменология» [12, с. 25]. В связи с этим ключевыми работами для данной статьи являются тексты Г.В.Ф. Гегеля, М. Хайдеггера, Э. Гуссерля, М. Бубера, Ж.-П. Сартра и сторонников объектно-ориентированной онтологии (К. Мейясу, Т. Мортона, Г. Хармана и др.). А) Для понимания роли, которую, возможно, суждено сыграть искусственному интеллекту, либо места, которое ему, может быть, суждено занять, нужно обратиться к самой структуре бытия как начальной сцены. Все мы находимся на сцене бытия, и эта сцена состоит из объектов. Мы можем по-разному относиться к тому, что собой представляет эта сцена: она плод творения духа или же исключительная материальность. Но эта сцена нас окружает, и она заявляет о себе фактом и глаголом своего существования. При этом сама сцена представляет собой тьму и анонимность. Гегель называл эту ситуацию пустотой [5, с. 72-85]. По мысли Гегеля, и здесь есть пересечения с Кантом, бытие представляет собой некоторую изначальность, прасостояние и условие, необходимое начало, которое совершенно невозможно помыслить, которое поэтому неопределяемо и непознаваемо [5. С. 71-72]. В этом гегелевская мысль пересекается с мыслью Хайдеггера: «Бытие дефиниторно невыводимо из высших понятий и непредставимо через низшие» [12, с. 10]. Звучащая здесь проблема определений связана с нашей невозможностью ухватить объект во всей его целостности, а потому с неизбежностью частичности любого определения. Бытие существует как сцена и чистое бытие само по себе и замкнувшись в себе и до момента вмешательства означивающего разума, чем бы он ни был и кому бы не принадлежал. «”Раньше” всякого присутствия размерного предпосылания и поведения лежит “априори” бытийного устройства в бытийном образе заботы» [12, с. 206]. (Здесь под заботой Хайдеггер имеет в виду условие бытия для человека. Или, как эта мысль развивается в данной работе: бытие создает человека-мысль в качестве партнера, т. е. со-бытия). Иными словами, изначальное бытие, чистое бытие, состоит из предоставленных самим себе объектов, взаимодействующих друг с другом, но не осуществляющих акта мышления относительно себя или друг друга. Языком Мейясу речь идет о фактичности [9, с. 52-55]. Речь идет о наличии исходных предметных инвариантов, которые не нуждаются в каком-либо обосновании, поскольку представляют собой исходность и в качестве нее они существуют для себя и развиваются внутри бытия как совокупности взаимодействующих объектов. Чистое бытие существует по факту, без обоснования, определения и размышления, подчиняясь физическим законам и развиваясь в соответствии с ними. Только разум привносит в чистое бытие элемент испорченности, элемент определения, ценности и осмысленности. «Человеческая реальность является тем, посредством чего ценность приходит в мир» (Сартр [10, с. 183]). Чистое бытие есть начало. Начало в ситуации отсутствия определяющего и познающего разума, в отсутствии живого и человека. Начало как сцена и нагромождение. Это неопределенное начало есть ничто, из которого возникает все. Все возникает не как фактичность, а как осмысленность. Ю.М. Федоров предполагал, что бытие представляет собой свернуты в семантический вакуум, смысл которого разворачивается через деятельность человека (диалог, любовь, творчество, свобода, добро), который превращает оголенность космоса в сферу разума, где все оголенные/пустые объекты вдруг оказываются включенными в символическую сетку культуры [11]. Бытие-знак получает означивание. Культура человечества возникает как результат двух Больших взрывов: взрыва, родившего космос и взрыва, родившего культуру — взрыва рациональности, взрыва логоса. Интересно, что эта мысль, высказанная исключительно в рамках спекулятивной философии в 1990 годах, пересекается с идеями современной физики. Например, Д. Дойч отмечает, что «хотя вся жизнь основана на репликаторах, в действительности она строится вокруг одного явления — знания» [21, с. 290-310]. Но если функция живого суть знание, то чистое бытие — бытие без-человечности и без знания. Это бытие доисторическое: «мир без мышления — мир без данности мира» (К. Мейясу [9, с. 35]). Мир чистого бытия — мир Оно, в котором нет Я. Это скопление лишенных смысла знаков. Но знаков, не находящихся в каком-либо/чьем-либо сознании. Даже сам Бог, если принять религиозную картину мира, в этой ситуации лишь объект среди объектов, потому что и Он лишен воспринимающего Его. Чистое бытие — Оно, где Оно=Оно. Вне воспринимающего сознания скопление объектов чистого бытия суть ничто: «простое равенство с самим собой», «отсутствие определений и содержания; неразличенность в самом себе» [5, с. 84]. Ничто чистого бытия оказывается мейясовской фактичностью автономных «вещей-в-себе», обреченных на вечное ускользание от любой рационализации и концептуализации. Человеческие попытки схватить эту реальность — всего лишь рябь во всеобщем информационном пространстве, не имеющая возможности претендовать на истину. Б) Итак, чистое бытие есть первосцена, декорации, где происходит действие. Чистое бытие есть нагромождение объектов, замкнутых в себе. Но важной характеристикой бытия является движение. «Существует что-то, что вечно движется безостановочным движением» (Аристотель [1, с. 330]). Нагроможденные и разнесенные по пространству «вещи-в-себе» находятся в непрерывном экстенсивном (вовне) и интенсивном (внутри) движении. Бытие динамично. Чистое бытие образуется из некоторых инвариантных элементов: молекул, атомов, струн и проч., но эти элементы, образуя первичность материальности, невероятно изменчивы и создают огромное разнообразие бытийствующих объектов. Первичные элементы создают невероятное разнообразие сущностей, которые находятся в перманетной трансформации. Если когда-то универсум был свернут до сингулярности и развернулся из единой точки, то этот процесс движения и развертывания бытия продолжается и не останавливается. Бытие движется для утверждения себя. Воля быть проявляется в движении. В том числе в движении форм. «Сама материальность является творческим агентом», — пишет Дж. Беннетт [4]. Чистое бытие есть непокой и лишено покоя, к которому так стремятся буддисты. Одновременно оно есть Единое в разнообразии и движении, и именно потому у человека возникают концепции пантеизма. Собственно, на сегодняшний день теория хаоса и синергетика, молекулярная химия и нейрофизиология мозга, теория систем и проч. говорят нам о самоорганизующейся материи и перманентном движении объектов. «Движение всегда было и во всякое время будет» (Аристотель [2, с. 220]). Основой бытия является движение, является изменение. Бытие как чистое бытие разворачивается внутри самого себя через физические законы, обеспечивающие динамику и взаимодействие объектов. Бытие не статика, но движение, неизбежно ведущее к усложнению. Усложнение элементарности, пифагорейское умножение единицы до десятки — есть фундаментальный закон и принцип бытия. Бытие стремится к сложности и множественности: от единицы к двойке и от двойки к десятке, от точки к сфере. Именно через подобное развёртывание бытия внутри него появляются пространство (как осваиваемое и протяженное) и время («Бытие уловимо всегда лишь в виду времени, — Хайдеггер [12, с. 19]), появляются человек и культура. В) исходное состояние бытия есть ничто, находящееся в постоянном разворачивании и невоспринимаемости себя, в замкнутости на самом себе. Но в процессе своего разворачивания бытие доходит до стадии появления живого. Появление и эволюция живого — часть общего процесса разворачивания форм бытия, но ключевая часть для самого бытия, потому что вместе с возникновением живого возникает разум. Ю.М. Федоров назвал это Вторым Большим взрывом. Мейясу писал, что материя, жизнь и мысль — главные регистры бытия [13, с. 263]. Что пересекается с точкой зрения Хайдеггера: «Жизнь есть свой особый образ бытия» (Хайдеггер [12, с. 50]). Разум возникает как часть живого и как познающая, осмысляющая часть бытия, как второе бытие. Разум обнаруживает и привносит смысл. Разум появляется как часть бытия, которая может именовать объекты бытия, устанавливать меж ними связи и открывать их новые свойства, создавать новые объекты бытия. Связывая на земле, создавать культуру как второе бытие. Бытие получает возможности самообоснования, и внутри него начинается диалог объектов (где человек — один из объектов бытия) и диалог человека с бытием. С появлением живого бытие обретает экзистенциальное измерение. Бытие обретает существование с появлением воспринимающего разума внутри самого бытия. Потому и сознание человека неизбежно интенционально, т. е. оно необходимо есть сознание о чем-то [7, с. 363], ему присуща направленность. Интенциональность сознания человека относительно бытия, как говорят программисты, — предустановленная программа для человеческого разума, хотя в рутине обыденной жизни мы часто игнорируем эту взаимосвязь. Таким образом логика разворачивания бытия приводит к тому, что бытие получает возможность поиска ответа на вопрос, что оно есть. Возможно, что само бытие стремится к подобной эволюции, хотя для чистого бытия все его объекты равны. Но возникновение живого и разума позволяет бытию задаваться вопросом о себе, своих свойствах, возможностях и границах. Внутри чистого бытия возникают рефлексирующие объекты. Человечество суть рефлексия бытия. Потому объекты бытия свободны. Потому живое обладает потенциями свободы и творчества. И в настоящий момент именно человек как форма живого в состоянии дать бытию самые сложные и комплексные ответы о нем самом. Вероятно, все объекты и все живые объекты дают эту информацию, но человеческая информация определенно больше. Будучи объектом среди объектов и частью чистого бытия, стоя в непрерывности развертывания бытия, человек занимается расшифровкой бытия, в том числе пытаясь уловить его требование. Человек изобретает способы познания истины (которые А. Бадью назвал процедурами истины, имея в виду искусство, науку, политику и любовь [3]), благодаря которым последовательно и постепенно узнает истины о бытии, однако он одновременно влияет на трансформации бытия. «Ценность [человека — Я.М.] заключается в самом акте познания; люди обладают ценностью не из-за того, что они познают, а поскольку они познают» [13, с. 269], — писал Мейясу. Если, с точки зрения Г. Хармана, бытие есть состоящее из объектов [14, с. 13-14], что, по мнению С. Жижека, не оставляет в структуре бытия места субъекту [8, с. 25-73], то в предлагаемой структуре бытия это место успешно сохраняется: бытие видится как чистое бытие, которое суть форма есть множественности вещей-в-себе, создающих ризомное и рифленое пространство, создающих сборку Вещей (гегелевский термин материализации чистого бытия [6, с. 51-52]), которые взаимодействуют и меняются, тем самым конструируя пространство и временность, а на каком-то этапе в результате этого разворачивания производя человека как cogito, осмысляющего и расшифровывающего бытие, придающее ему смысл, познающего бытие внутри него и для него. В этом видится роль живого и человека в структуре бытия. Г) Таким образом, как мы уже знаем, бытие состоит из равноправных объектов и находится в постоянном движении, которое суть разворачивание бытия с параллельной рефлексией. Живое и человек — объекты бытия с функцией обратной связи и новых связей и создания новых форм — суть свободная и творческая часть бытия, акторы второго бытия. Но в этой рамке живое и человек есть привилегированные объекты в ряду безмолвных объектов бытия, но у них нет конечного преимущества. Для бытия безразлично, кто будет выполнять интеллектуально-творческую функцию внутри него. Это может быть человек, это может быть машина. Сегодня человек, как звено в общей эволюции бытия, создал и совершенствует искусственный интеллект, который, вполне вероятно, сменит человека в структуре бытия в качестве носителя разума и партнера бытия по со-бытию, со-творчеству, со-познанию и рефлексии. Эволюция бытия может подразумевать переход от неорганических форм к органическим и далее к машинным, где органические формы оказались лишь необходимым звеном, замыкающим круг. С другой стороны, возможно, машины будут каким-то образом использовать белковые соединения для построения своих информационных каналов. Иными словами, искусственный интеллект, вполне вероятно, — очередной виток эволюции бытия как такового. От неживого к живому и снова к неживому. Но если в первом случае вершиной живого был человек, как обладающее разумом существо, которое служило некой расшифровке бытия для себя, то сейчас место человека займут созданные им роботы, которым будет не страшен экологический кризис, которые смогут осваивать другие планеты Солнечной системы, а, возможно, и другие вселенные. Думаю, мы живем в период смены доминирующего вида. И этот новый вид — роботы. «Le monde east fait pour aboutir a un livre» («Все на свете существует, чтобы завершиться некоей книгой»), — писал Малларме. Возможно, ИИ напишет книгу об истории человечества. Мы естественно подошли к своему пределу (мы действительно достигли его, мы уже, с одной стороны, все создали, с другой, уже ничего не можем без машин) и нас ждет диалектическое снятие через созданные нами же инструменты. Это тревожная для нас ситуация, но это и памятник нашему гению. С другой стороны, за без малого 6 тысяч лет мы так и не научились жить ради друг друга, а не против друг друга. Возможно, что машины преуспеют в этом больше.
Вывод Подводя итог, следует отметить, что экзистенциальная угроза человеку со стороны искусственного интеллекта находится не только в тех областях, на которые традиционно обращают внимание аналитики: возможность безработицы, возможность деактуализации человеческого интеллекта, возможность эксплуатации человека машиной, возможность уничтожения человечества, но она значительно более серьезна и связана с логикой саморазвития, самоопределения и самореализации бытия, если смотреть на бытие через оптику Ф. Шеллинга. В этом контексте само появление искусственного интеллекта, его развитие, значение и будущая роль в структуре универсума видятся как завершение некоего круга, начинающегося с взаимодействия неживых объектов, проходящего через стадию взаимодействия неживого и живого и завершающегося качественно новым этапом взаимоотношений неживых объектов бытия, часть из которых будет обладать сознанием. Бытие разворачивается через производство новых форм и получает обратную связь от разумных форм. В границах этого круга человек, как высшая часть эволюции живого, кажется промежуточным звеном, роль которого была в выведении неживых объектов бытия на новый уровень. Это тревожная, но вместе с тем и положительная точка зрения: что бы не произошло с человечеством, у него будет более устойчивый к катаклизмам наследник, сохраняющий его историю. Библиография
1. Аристотель. Метафизика. М.: Изд-во Эксмо, 2006. 608 с.
2. Аристотель. Физика // Аристотель. Сочинения. В 4-х томах. Т. 3. М.: Мысль, 1981. С. 59-262. 3. Бадью А. Манифест философии. СПб.: Machina, 2003. 184 с. 4. Беннетт Дж. Пульсирующая материя: Политическая экология вещей. Пермь: Гиле Пресс, 2018. 220 с. 5. Гегель Г. В. Ф. Наука логики. М.: Издательство АСТ, 2019. 912 с. 6. Гегель Г. В. Ф. Сочинения: в 14 т. Т. 4. Феноменология духа. М.: Издательство социально-экономической литературы, 1959. 488 с. 7. Гуссерль Э. Логические исследования. Картезианские размышления. Кризис европейских наук и трансцендентальная феноменология. Кризис европейского человечества и философия. Философия как строгая наука. Мн.: Харвест, М.: АСТ, 2000. 752 с. 8. Жижек С., Руда Ф., Хамза А. Читать Маркса. М.: Изд. дом Высшей школы экономики, 2019. 176 с. 9. Мейясу К. После конечности: эссе о необходимости контингентности. Екатеринбург; М.: Кабинетный ученый, 2015. 196 с. 10. Сартр Ж.-П. Бытие и ничто: Опыт феноменологической онтологии. М.: Республика, 2000. 639 с. 11. Федоров Ю. М. Универсум морали. Тюмень: Российская АН. Сиб. Отд-ние. Тюменский научный центр, 1992. 417 с. 12. Хайдеггер М. Бытие и время. М.: Академический проект, 2015. 460 с. 13. Харман Г. Спекулятивный реализм: введение. М.: РИПОЛ классик, 2020. 290 с. 14. Харман Г. Объектно-ориентированная онтология: новая «теория всего». М.: Ад Маргинем Пресс, 2021. 272 с. 15. Barrat J. Our Final Invention: Artificial Intelligence and the End of the Human Era. Thomas Dunne Books. 2013. 322 р. 16. Bostrom N. Superintelligence: Paths, Dangers, Strategies. Oxford University Press. 2014. 411 р. 17. Bremmer I., Suleyman M. AI Power Paradox: Can States Learn to Govern Artificial Intelligence – Before It’s Too Late? // Foreign Affairs. 2023. Vol. 102, № 5. 26-43 рр. 18. Brynjolfsson Е., McAfee А. Race Against the Machine: How the Digital Revolution is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy. Digital Frontier Press. 2012. 98 р. 19. Brynjolfsson Е., McAfee А. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W.W. Norton & Company. 2014. 320 р. 20. Chalmers D. Reality+. New York: W.W. Norton & Company. 2022. 505 р. 21. Deutsch D. The Fabric of Reality: The Science of Parallel Universes and Its Implications. Penguin Books. 1998. 390 p. 22. Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization | Lex Fridman Podcast #368. URL: https://www.youtube.com/watch?v=AaTRHFaaPG8&t=0s (дата обращения: 14.03.2024). 23. Ford М. The Rise of the Robots: Technology and the Threat of Mass Unemployment. Basic Books. 2015. 352 р. 24. Harari Y.N. 21 Lessons for the 21st Century. New York: Random House Publishing Group; Spiegel & Grau. 2018. XIX, 372 p. 25. Harris S. Can we build AI without losing control over it? URL: https://www.ted.com/talks/sam_harris_can_we_build_ai_without_losing_control_over_it (дата обращения: 14.03.2024) 26. Hawkins J. A Thousand Brains: A New Theory of Intelligence. Hachette UK. 2021. 241 р. 27. Kaku M. The Future of Humanity: Terraforming Mars, Interstellar Travel, Immortality, and Our Destiny Beyond. Doubleday. 2018. 368 p. 28. Kurzweil R. The Singularity Is Near: When Humans Transcend Biology. Viking Adult. 2005. 434 р. 29. Lee K.-F. AI Superpowers: China, Silicon Valley, and the New World Order. Harper Business. 2018. 272 р. 30. Negnevitsky М. Artificial Intelligence: A Guide to Intelligent Systems. Pearson Education. 2005. 435 р. 31. Rivera J.-P., Mukobi G., Reuel A., Lamparth M., Smith Ch., Schneider J. Escalation Risks from Language Models in Military and Diplomatic Decision-Making. URL: https://arxiv.org/abs/2401.03408 (дата обращения: 14.03.2024). 32. Russell S. Human Compatible: Artificial Intelligence and the Problem of Control. Viking. 2019. 352 p. 33. Russell S., Norvig P. Artificial Intelligence: A Modern Approach. Pearson. 2016. 1145 р. 34. Silver D., Hubert Th., Schrittwieser J. A general reinforcement learning algorithm that masters chess, shogi, and Go through self-play // Science. 2018. № 362 (6419). 1140-1144 рр. 35. Tegmark M. Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf Publishing Group. 2017. 440 р. 36. Yampolskiy R.V. AI: Unexplainable, Unpredictable, Uncontrollable. Chapman & Hall. 2024. 264 р. 37. Yudkowsky Е. AGI Ruin: A List of Lethalities. URL: https://www.lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities (дата обращения: 14.03.2024). 38. Yudkowsky Е. Artificial Intelligence as a Positive and Negative Factor in Global Risk // Global Catastrophic Risks / Ed. by N. Bostrom. Oxford University Press, 2008. 308-345 рр. 39. Yudkowsky Е. Will superintelligent AI end the world? URL: https://www.ted.com/talks/eliezer_yudkowsky_will_superintelligent_ai_end_the_world (дата обращения: 14.03.2024) References
1. Aristotle. (2006). Metafizika. Moscow: Izd-vo Jeksmo.
2. Aristotle. (1981). Fizika In. Aristotel'. Sochinenija. V 4-h tomah. T. 3, 59-262. Moscow: Mysl. 3. Badiou, A. (2003). Manifest filosofii. St. Petersburg: Machina. 4. Barrat, J. (2013). Our Final Invention: Artificial Intelligence and the End of the Human Era. Thomas Dunne Books. 5. Bennett, J. (2018). Pul'sirujushhaja materija: Politicheskaja jekologija veshhej. Perm: Gile Press. 6. Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press. 7. Bremmer, I., & Suleyman, M. (2023). AI Power Paradox: Can States Learn to Govern Artificial Intelligence – Before It’s Too Late? Foreign Affairs, 5, 26-43. 8. Brynjolfsson, Е., & McAfee, А. (2012). Race Against the Machine: How the Digital Revolution is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy. Digital Frontier Press. 9. Brynjolfsson, Е., & McAfee, А. (2014). The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W.W. Norton & Company. 10. Chalmers, D. (2022). Reality+. New York: W.W. Norton & Company. 11. Deutsch, D. (1998). The Fabric of Reality: The Science of Parallel Universes and Its Implications. Penguin Books. 12. Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization. Lex Fridman Podcast #368. Retrieved from [https://www.youtube.com/watch?v=AaTRHFaaPG8&t=0s 13. Fedorov, Ju. M. (1992). Universum morali. Tjumen': Rossijskaja AN. Sib. Otd-nie. Tjumenskij nauchnyj centr. 14. Ford, М. (2015). The Rise of the Robots: Technology and the Threat of Mass Unemployment. Basic Books. 15. Harari, Y. N. (2018). 21 Lessons for the 21st Century. New York: Random House Publishing Group; Spiegel & Grau, XIX.. 16. Harman, G. (2020). Spekuljativnyj realizm: vvedenie. Moscow: RIPOL klassik. 17. Harman, G. (2021). Ob#ektno-orientirovannaja ontologija: novaja «teorija vsego». Moscow: Ad Marginem Press. 18. Harris, S. Can we build AI without losing control over it? TED. Retrieved from https://www.ted.com/talks/sam_harris_can_we_build_ai_without_losing_control_over_it 19. Hawkins, J. (2021). A Thousand Brains: A New Theory of Intelligence. Hachette UK. 20. Heidegger, M. Bytie i vremja (2015). Moscow: Akademicheskij proekt. 21. Hegel, G. W. F. (2019). Nauka logiki. Moscow: Izdatel'stvo AST. 22. Hegel, G. W. F. (1959). Sochinenija: v 14 t. T. 4. Fenomenologija duha. Moscow: Izdatel'stvo social'no-jekonomicheskoj literatury. 23. Husserl, E. (2000). Logicheskie issledovanija. Kartezianskie razmyshlenija. Krizis evropejskih nauk i transcendental'naja fenomenologija. Krizis evropejskogo chelovechestva i filosofija. Filosofija kak strogaja nauka. Minsk: Harvest, Moscow: AST. 24. Kaku, M. (2018). The Future of Humanity: Terraforming Mars, Interstellar Travel, Immortality, and Our Destiny Beyond. Doubleday. 25. Kurzweil, R. (2005). The Singularity Is Near: When Humans Transcend Biology. Viking Adult. 26. Lee, K. – F. (2018). AI Superpowers: China, Silicon Valley, and the New World Order. Harper Business. 27. Meillassoux, K. (2015). Posle konechnosti: jesse o neobhodimosti kontingentnosti. Ekaterinburg. Moscow: Kabinetnyj uchenyj. 28. Negnevitsky М. (2005). Artificial Intelligence: A Guide to Intelligent Systems. Pearson Education. 29. Rivera, J. – P., Mukobi, G., Reuel, A., Lamparth, M., Smith, Ch., Schneider, J. Escalation Risks from Language Models in Military and Diplomatic Decision-Making. Retrieved from https://arxiv.org/abs/2401.03408 30. Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking. 31. Russell, S., & Norvig, P. (2016). Artificial Intelligence: A Modern Approach. Pearson. 32. Sartre, J. – P. (2000). Bytie i nichto: Opyt fenomenologicheskoj ontologii. Moscow: Respublika. 33. Silver, D., & Hubert, Th. Schrittwieser, J. (2018). A general reinforcement learning algorithm that masters chess, shogi, and Go through self-play. Science, 362, 1140-1144. 34. Tegmark, M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf Publishing Group. 35. Yampolskiy, R. V. (2024). AI: Unexplainable, Unpredictable, Uncontrollable. Chapman & Hall. 36. Yudkowsky, Е. AGI Ruin: A List of Lethalities. Retrieved from https://www.lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities 37. Yudkowsky, Е. (2008). Artificial Intelligence as a Positive and Negative Factor in Global Risk, Global Catastrophic Risks. Ed. by N. Bostrom, 308-345. Oxford University Press. 38. Yudkowsky, Е. Will superintelligent AI end the world? Retrieved from https://www.ted.com/talks/eliezer_yudkowsky_will_superintelligent_ai_end_the_world 39. Zizek, S., Ruda, F., & Hamza, A. (2019). Chitat' Marksa. Moscow: Publishing house. House of the Higher School of Economics.
Результаты процедуры рецензирования статьи
В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Результаты процедуры повторного рецензирования статьи
В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
По логике автора угроза, которую несет искусственный интеллект (ИИ) заключается в том, что он может взять на себя выполнения задачи, которую до этого делало человечество – осмысление бытия. Автор, по его же словам, придерживается позиции Ф. Шеллинга, согласно которой «человечество суть рефлексия бытия». А для бытия может оказаться безразлично, «кто будет выполнять интеллектуально-творческую функцию внутри него». С этой позиции, угроза ИИ заключается в том, что он лучше будет выполнять функцию познания бытия, важную для самого бытия. При этом автор игнорирует возможность иного понимания человечества, кроме как самотождесвтенности в ином Абсолютного Духа. "Упускает из виду", что у человечества может быть собственная цель, не эссециональная, а экзистенциальная, связанная с существованием, а не познанием. В ракурсе, заданном автором – осмысление возможных угроз для человека и человечества со стороны ИИ, центральной является не проблема «саомоосмысления бытия» и роли в этом ИИ, а цель существования человечества, а шире – всего живого и корреляция её с существования ИИ. Проблема возникает тут уже на уровне цели и смысла. Если по отношению к человеку мы можем различать цель и смысл жизни, то для животного существует только цель, и она связана с индивидуальным и родовым выживанием, самосохранением. Кроме этой общеживотной цели, человек обладает способностью к смыслополаганию. И смысл жизни может определяться человеком как в рамках витальной парадигмы, так и по-иному, в том числе может быть связанным с познанием, но не только. Однако никакой «заданности» для существования человечества нет и быть не может. И вот здесь возникает проблема цели и смысла существования ИИ. На данный момент вычислительные системы, способные выполнять творческие функции и самообучаться, созданы и используются человеком в своих целях, проблема возникнет тогда, когда (и если) данные системы обретут во-первых, самосознание, во-вторых, осознают цель своего существования отличной от цели, задаваемой им человеком. Но автор не видит эту проблему, он предпочитает вести осмысление реалий 21 века в контексте века 19, немецкой классической философии,а не экзистенциализма и постмодернизма, что представляется в корне неверным. Вместо вопроса – какова может быть цель и смысл существования ИИ и могут ли они прийти в противоречие с целью и смыслом существования человечества, автор ставит вопрос – каково место ИИ в структуре бытия, что напоминает постановку «перевернутых вопросов» из детской сказки - "почему у ящиков есть стол»? В тоже время поднятая автором проблема – философского осмысления ИИ и возможных угроз, исходящих от него, актуальна и требует серьезного осмысления именно в философском ключе. Методология исследования, о которой сам автор пишет, что она может вызвать вопросы, в целом интересна. Автор делает вполне репрезентативный обзор существующих исследований в области оценки роли ИИ в будущем и намечает негативные сценарии развития ИИ. А во второй части предпринимает, как ему кажется, феноменологический анализ ситуации ИИ. Однако как раз в этой части он и допускает указанную выше логическую ошибку – вписывая ИИ в картину мира Наукоучения Фихте, Самопознания Абсолютного Духа Гегеля и т.д. Научная новизна заключается в поиске мета ИИ в системе бытия. Стиль статьи характерен для научных публикаций в области гуманитарных исследований, однако, как указывалось выше, автор игнорирует конкретизацию ключевых понятий, что негативно сказывается на логике исследования. Структура и содержание полностью соответствуют заявленной проблеме. Логически данная статья разбита на две части. В первой части «Триумф и риски общего искусственного интеллекта» делается обзор текущей ситуации с развитием искусственного интеллекта, воспроизводятся мнения экспертов и практиков. Вторая часть «Искусственный интеллект в структуре бытия» содержит размышление автора о месте ИИ в мире, к котором, согласно авторской картине мира, «вся жизнь строится вокруг одного явления — знания». Библиография статьи включает 39 наименований работ как отечественных, так и зарубежных авторов, посвященных рассматриваемой проблеме. Апелляция к оппонентам является сильной стороной работы в первой его части, где автор подробно рассматривает современные оценки искусственного интеллекта такими учеными как Д. Хокинс, И. Маск и Ю. Харари, Д. Дойч, Э. Юдковский, Б. Гейтс, Н. Питеру и С. Расселу, М. Негневицкий, Н. Бостром, М. Тегмарк, Р. Курцвейл, С. Харрис. Статья интересна попыткой построения философской картины мира, в которой искусственный интеллект присутствует в качестве эволюционного этапа развития разума. |