Вестник РАН, 2023, T. 93, № 4, стр. 394-397

В последние годы нарастает число публикаций по социогуманитарным аспектам искусственного интеллекта (ИИ), среди которых обоснованно можно выделить коллективную монографию “Человек и системы искусственного интеллекта” под редакцией академика РАН В.А. Лекторского. Главное достоинство этой книги – широта междисциплинарного подхода к проблеме, включая её философские, цивилизационные и правовые аспекты, искусственное общество, психологию и физиологию, педагогику, логику, когнитивные исследования, системы искусственного интеллекта, стандартизацию и прикладные исследования. Уникален и состав авторов книги, в числе которых российские лидеры в области гуманитарной и естественно-научной проблематики искусственного интеллекта В.А. Лекторский, С.Н. Васильев, В.Л. Макаров, Т.Я. Хабриева, А.А. Кокошин, Д.В. Ушаков, Е.А. Валуева, Д.И. Дубровский, Т.В. Черниговская, А.Л. Семёнов, К.Е. Зискин, А.П. Любимов, В.В. Целищев, А.Ю. Алексеев (семь из них – академики РАН).

Монография достаточно адекватно отражает уровень отечественной науки в области гуманитарных исследований взаимосвязи человека и систем искусственного интеллекта и даёт основания утверждать, что наша наука в контексте указанной проблемы вполне конкурентоспособна на мировом уровне.

Можно выделить три темы, которые освещаются практически во всех разделах книги и которые определяют её целостность: искусственный и естественный интеллект – аналогии и различия; дилемма – цифровизация как антропологическая революция или катастрофа; проблема субъектности и правосубъектности систем ИИ.

Что касается первой темы, то в монографии проведён глубокий анализ развития когнитивных наук и связанных с их эволюцией философских подходов (В.А. Лекторский). В центре внимания здесь оказалась идея, в соответствии с которой когнитивный подход на основе нейронных сетей позволит создать искусственный мозг, и это поможет понять природу сознания и субъективности. Однако реализация этой идеи столкнулась с определёнными трудностями. Дело в том, что в последние 20 лет в когнитивных науках приоритетным стало мнение, что сознание определяется не только работой мозга, но и отношением познающего и действующего субъекта к внешнему миру, включающему как мир природы, так и мир культуры, созданный человеком. Как следствие сформировалось направление “культурная когнитивная нейронаука”, которая базируется на принятии тезиса, что человеческий мозг – это не только биологическое, но также и культурное образование. Такая постановка вопроса бросает вызов вычислительному подходу, поскольку культура становится важным фактором понимания сознания и субъективного мира человека, преодолевая рамки когнитивного метода на основе нейронных сетей.

Аналогичные претензии к вычислительному подходу сформировались и у психологов (Д.В. Ушаков). Анализ нейросетей позволяет получить неоднозначную картину: с одной стороны, созданные психологами и разработчиками ИИ технологии ИИ отчасти похожи на естественные когнитивные системы, с другой стороны, всегда выявляются принципиальные несовпадения между ними. Психологи ориентируются на факты, говорящие об объекте их исследования, а разработчики ИИ стремятся к созданию эффективных систем. Как следствие остаётся без ответа давно сформулированный вопрос: может ли в принципе техническое устройство адекватно имитировать человеческое сознание, тем более превзойти его? Дискуссии продолжаются, их суть – в поиске соотношения двух принципиально различающихся подходов: вычислимости в технических устройствах и представлений о сознании и субъективной реальности, субъективных переживаниях, моральной ответственности в человеке. Таким образом, в настоящее время не существует убедительных аргументов о невозможности конструирования мыслящих и сознательных машин, как нет оснований утверждать, что такие машины будут когда-либо созданы. Эта дилемма имеет давнюю историю, нашедшую своё отражение в споре “механицистов”, по мнению которых машина эквивалентна человеку, и “менталистов”, считающих, что человек превосходит машину. Детальный анализ этого вопроса (В.В. Целищев) позволяет сделать вывод, что спор не завершён, более того, нельзя категорически утверждать превосходство человеческого интеллекта над машинным.

Понимание междисциплинарного характера проблемы естественного и искусственного интеллекта демонстрируют и разработчики ИИ, которые призывают к сотрудничеству с гуманитариями (С.Н. Васильев). В монографии анализируются достоинства, недостатки и перспективные направления разработки разнообразных средств ИИ (нейросетевых, генетических, логико-лингвистических, семантических сетей, логического программирования и др.). Признаётся ограниченная роль математики и технологий в сфере знания, указывается на важное значение нравственного мира. Такой подход может рассматриваться как принципиальное дистанцирование от широко распространённой практики рассмотрения кибернетики в качестве раздела математики.

Приглашение гуманитариев к сотрудничеству с разработчиками ИИ требует интенсификации исследований естественного интеллекта (Д.И. Дубровский), моделирования его специфических свойств, разработки адекватных когнитивных структур с целью конвергенции функциональных возможностей естественного и искусственного интеллекта. Этой же позиции придерживается Т.В. Черниговская, которая предлагает не только разрабатывать традиционные для нейронауки методы и парадигмы, но и использовать ментальные принципы, проявившиеся в различных сферах деятельности человека, в частности, в искусстве.

Оригинальный подход предлагается на основе постнеклассического позиционирования человека в исследованиях ИИ (А.Ю. Алексеев). Вместо того чтобы погружать человека в машину Тьюринга, как это принято в машинном функционализме, можно сделать его тьюринговым наблюдателем. Это позволяет, сохраняя субъективное богатство естественной личности, наблюдать и совершенствовать естественно-искусственный мир посредством комплексного теста Тьюринга.

Используя понятие “расширенное сознание”, А.Л. Семёнов и К.Е. Зискин склоняются к оптимистичному в${\text{и}}'$дению будущего: по их мнению, цифровая трансформация образования не должна вызывать тревогу, поскольку её негативные последствия можно преодолеть за счёт организации адекватных педагогических процессов.

Одной из центральных в монографии стала дилемма: цифровизация – это антропологическая революция или катастрофа? Обращаясь к ней, В.А. Лекторский напоминает о поставленных в своё время Кантом вопросах, на которые должна ответить философия: что я могу знать, что я должен делать, на что я могу надеяться? Спрашивается, каков должен быть ответ на эти вопросы в эпоху цифровизации? Известно, что сейчас большее внимание уделяется позитивным аспектам этого процесса, есть основания утверждать, что в начале XXI в. имеет место фетишизация цифровизации и искусственного интеллекта. В противовес этой тенденции в монографии ответы на фундаментальные вопросы Канта в основном акцентируют внимание на негативных аспектах цифровизации.

Что можно знать в эпоху цифровизации? Иначе говоря, во-первых, что можно знать о человеке и как эти знания могут быть использованы; во-вторых, как цифровизация может повлиять на методологию получения научного знания?

Очевидно, что искусственный интеллект будет знать о человеке очень много, а значит, появятся возможности для манипулирования его идентичностью и памятью, для посягательства на его автономию. Цифровая память будет навязывать человеку то, в чём в данный момент он не нуждается. К тому же в этой памяти слишком много всего записано. И это не помогает человеку, а сковывает его и провоцирует жить не своей жизнью, а искусственной, созданной кем-то за него.

Успехи цифровизации в обработке больших данных создают иллюзию получения новых научных знаний. Отсюда следуют гипотезы о “конце теории”, как будто машинная обработка огромного массива данных и выявление их корреляций может заменить концептуальный анализ. Фактически предлагается новый возврат к эмпиризму. Некорректность такого подхода аргументированно обосновывается авторами монографии.

Что до́лжно делать в эпоху цифровизации? Из предыдущего ответа следует, что человек теряет индивидуальную автономию, не он будет решать, что нужно делать, за него будут решать умные технические устройства. Более того, ИИ на основе модели конкретного человека будет способен определять потенциально опасные действия, которые человек ещё только собирается совершить, и устанавливать упреждающие санкции. А это разрушает все представления об индивидуальной самостоятельности и ответственности, означает отказ от принципа свободы воли.

На что можно надеяться в эпоху цифровизации? Сторонники глобальной цифровизации полагают, что надо надеяться на “цифровое бессмертие”. В противовес им авторы монографии доказывают, что эта идея сомнительна и опасна. По их мнению, бессмертный человек – это уже и не совсем человек. Утрата смысла смерти ведёт к утрате смысла жизни. Если бы “цифровое бессмертие” было возможно, нас ожидало бы не райское блаженство, а муки ада [1]. Важное дополнение к поиску ответа на поставленный вопрос внёс А.Л. Семёнов, утверждая, что цифровизация инициирует своего рода контрреволюцию, то есть порождает установку, общественную позицию и действия, направленные на дискредитацию и торможение изменений.

Обобщая, можно сказать, что цифровизация – это одновременно и антропологическая революция и антропологическая катастрофа. Сможет ли человечество найти гармонию между добром и злом? Сможет, если станет субъектом своего развития [2].

Проблема субъектности и правосубъектности систем ИИ находит отражение как одна из ключевых сквозных тем, определяющих целостность книги. Прежде всего следует отметить, что, анализируя современные зарубежные когнитивные исследования, ориентированные на тематику искусственного интеллекта, В.А. Лекторский утверждает, что они не столь уж новы для нас: у нас близкая проблематика называлась культурно-историческим и деятельностным пониманием познания и сознания (Л.С. Выготский, С.Л. Рубинштейн, А.Н. Леонтьев, А.Р. Лурия, В.В. Давыдов и другие психологи, Э.В. Ильенков, Ф.Т. Михайлов, Г.П. Щедровицкий, В.С. Стёпин, В.С. Швырёв, В.А. Лекторский и другие философы). Анализ эволюции отечественной науки логично задаёт этапность её развития – от деятельностного подхода к субъектно-деятельностному и далее к субъектно-ориентированному, что соответствует трём типам научной рациональности: классика, неклассика, постнеклассика [2].

Приведём примеры использования субъектного подхода при рассмотрении систем искусственного интеллекта из монографии.

В книге предложена концепция “цифрового ангела” (Д.В. Ушаков и С.Ю. Степанов), которая соотносится с работами по цифровым субъектам и расширяет методологическое представление о цифровом двойнике [2]. Рассматривается возможность взаимодействия искусственного интеллекта с конкретным человеком, когда с учётом его особенностей создаются оптимальные условия, например, для обучения или личностной поддержки. Сегодня уже разработаны модели создания индивидуальных образовательных траекторий для учеников, в которых предусмотрено управление сложностью и направленностью учебных заданий, объяснение нужного материала в индивидуально ориентированной форме.

В качестве актуальной сформулирована проблема целостности при моделировании социальных систем, построении агент-ориентированных моделей искусственного общества (В.Л. Макаров). Указывается на однобокость изучения поведения сообществ людей, если соответствующие группы не анализируются как единый организм, обладающий собственным мнением, мышлением, сознанием. Фактически делается запрос на субъектное представление искусственного общества, на представление его как цифрового субъекта. Однако реальное моделирование пока остаётся в рамках рассмотрения цифрового двойника, место которого – в парадигме “субъект–объект” классической кибернетики [2].

Большое внимание проблеме субъектности ИИ уделяется в правовых исследованиях (Т.Я. Хабриева). При этом правоведы отмечают влияние на них идей академика В.С. Стёпина, в частности разработанной им методологии постнеклассической научной рациональности. Исследования показали, что искусственный интеллект может обладать свойствами, которые с юридической точки зрения дают основания идентифицировать его в качестве субъекта права. Полемика по этому вопросу приобрела острый характер, предложены модели правосубъектности искусственного интеллекта (особенно популярна в этом плане концепция электронного лица). В настоящее время вопросы правосубъектности искусственного интеллекта обсуждаются преимущественно в трёх аспектах: право интеллектуальной собственности, ответственность за гражданско-правовые деликты, картельные сговоры. Богатый материал по практической реализации правовых разработок в сфере искусственного интеллекта представлен в разделе монографии, подготовленном А.П. Любимовым. Речь идёт о стандартизации понятий и терминов, связанных с ИИ. Проведённый анализ позволяет утверждать, что отечественные правовые исследования, связанные с разработкой и использованием систем ИИ, конкурентны на мировом уровне.

Рассматривая стратегические и прикладные аспекты развития искусственного интеллекта, С.Н. Васильев, А.А. Кокошин и В.Л. Макаров указывают на их связь с укреплением субъектности страны, а значит, с усилением роли государства. По их мнению, государство должно обеспечить цифровую безопасность человека, содействовать обществу и его выборным органам в разработке инструментов контроля медиасредств по духовно-нравственным критериям, в соответствии с оценкой их влияния на человека. Следует заметить, что в контексте современных представлений о развитии проблематики управления социальными системами, укрепление субъектности должно опираться и на совершенствование механизмов общественного участия в управлении, безопасности и развитии социальных систем [2].

Таким образом, основной вклад монографии “Человек и системы искусственного интеллекта” в науку – глубокий и широкий анализ этой темы, постановка актуальных междисциплинарных проблем, предполагающих гармонизацию отношений между человеком и искусственными системами. Авторский коллектив успешно справился с этой задачей, продемонстрировав высокую культуру системного подхода.

Ключевая позиция авторов монографии обобщённо предстаёт как утверждение о том, что разработка и использование систем ИИ ставит человека перед необходимостью нового понимания самого себя, своих возможностей и границ во имя самосохранения и саморазвития. В наше время новое звучание приобретают извечные мировоззренческие вопросы “Что есть человек?”, “Что есть мировое сообщество?”, “Каковой будет субъектность мирового развития?”. Авторы монографии формулируют эти вопросы, обосновывают их актуальность на фоне создания и распространения систем искусственного интеллекта, намечают пути поиска ответов на них.

Принципиально важно, что предложенный подход устремлён в будущее и ориентирован не на погоню за лидерами в области разработки систем искусственного интеллекта, а на поиск своего пути, который позволит перегнать, не догоняя. Это потребует качественно нового гуманистического подхода к проблеме цифровой трансформации, преодоления кризиса модели техногенной цивилизации, игнорирующей человеческие ценности, пересмотра ориентации общества на безудержную смену технологических укладов, отказа от идеи бессубъектности человечества и укрепления субъектности России.

Перечисленные цели вполне достижимы, учитывая наш цивилизационный потенциал, культурно-исторический опыт, уровень развития естественных и гуманитарных наук, ресурсную обеспеченность страны. Но это потребует качественного изменения механизмов управления страной, включая развитие механизмов общественного участия в нём. В основу совершенствования таких механизмов могла бы быть положена отечественная разработка постнеклассической кибернетики саморазвивающихся полисубъектных (рефлексивно-активных) сред гибридной реальности (кибернетика третьего порядка) [3, 4].