БИОФИЗИКА, 2020, том 65, № 1, с. 202-205

ДИСКУССИИ

УДК 577.3

К ВОПРОСУ О РАЗЛИЧИИ МЕЖДУ ИСКУССТВЕННЫМ

И ЕСТЕСТВЕННЫМ ИНТЕЛЛЕКТОМ

Научно-исследовательский институт ядерной физики имени Д.В. Скобельцына Московского государственного

университета имени М.В. Ломоносова, 119991, Москва, Ленинские горы, 1

E-mail: vnamiot@gmail.com

Поступила в редакцию 11.10.2019 г.

После доработки 11.10.2019 г.

Принята к публикации 18.10.2019 г.

Обсуждается вопрос о том, может ли, хотя бы в принципе, кибернетическая система, функциони-

рующая на основе алгоритмов, моделировать поведение естественного интеллекта. Ответить на этот

вопрос математически строго пока что невозможно. Тем не менее в работе приводятся достаточно

убедительные соображения, показывающие, что любые существующие в настоящее время киберне-

тические системы в принципе не могут моделировать поведение естественного интеллекта, причем

изменить эту ситуацию с помощью каких-либо программных ухищрений также невозможно. Для

этого нужны принципиально новые подходы, некоторые из которых также обсуждаются в настоя-

щей статье.

Ключевые слова: естественный и искусственный интеллект, универсальная машина Тьюринга, оракул.

DOI: 10.31857/S0006302920010238

Прежде всего, следует отметить, что самое

ное моделирование успешным. Например, в ка-

очевидное различие между искусственным и

честве подобного критерия предполагалось про-

естественным интеллектом, которое сразу же

ведение некоего испытания (своего рода экзаме-

бросается в глаза (искусственный интеллект реа-

на), прохождение которого позволяет признать,

лизуется в настоящее время в электронных вы-

что искусственный интеллект не уступает есте-

числительных устройствах, например, компьюте-

ственному. В качестве такого испытания предла-

рах или нейросетях, в то время как естественный

галась, в частности, следующая процедура. Берут-

интеллект является атрибутом биологических си-

ся две полностью закрытые кабины, в каждой из

стем), само по себе не является принципиаль-

которых имеется телефон, в одну из них помеща-

ным. Устройства, о которых можно сказать, что

ется человек, а в другую - искусственный интел-

они вроде бы демонстрируют наличие интеллек-

лект. Эксперт (человек) может по телефону свя-

та, могут быть изготовлены из самых разных ма-

зываться с любой из этих кабин и разговаривать с

териалов, включая биологические. Это не имеет

тем (или с чем), находящимся там. И если в ре-

особого значения в том случае, если в основе их

зультате этих разговоров эксперт окажется не в

функционирования лежат одни и те же принци-

состоянии разобраться с тем, кто в какой кабине

пы работы [1]. Поэтому чтобы ответить на во-

находится, то следует признать, что принципи-

прос, поставленный в заглавии, нужно в первую

альной разницы между искусственным и есте-

очередь разобраться с тем, может ли компьютер-

ственным интеллектом нет.

ное устройство, хотя бы в принципе, моделиро-

вать происходящее в биосистемах и соответствен-

Однако к настоящему времени выяснилось,

но «вести себя» как они. Если компьютерное

что все существенно сложнее - прохождение по-

устройство в состоянии это делать, то все имею-

добного критерия еще ни в коей мере не гаранти-

щиеся различия между искусственным и есте-

рует, что искусственный интеллект окажется в

ственным интеллектом заведомо не являются

силах решать те задачи, которые доступны

принципиальными.

естественному интеллекту. Можно написать от-

Но прежде чем отвечать на этот вопрос, пред-

носительно простую, в каком-то смысле даже

варительно нужно сформулировать критерий,

примитивную программу, заведомо не способ-

выполнение которого позволяет признать подоб-

ную разобраться в сколько-нибудь сложных ин-

202

К ВОПРОСУ О РАЗЛИЧИИ МЕЖДУ ИСКУССТВЕННЫМ И ЕСТЕСТВЕННЫМ ИНТЕЛЛЕКТОМ

203

теллектуальных вопросах, которая, тем не менее,

волов конечно), головка же может эти символы

сможет пройти вышеуказанный критерий. Для

считывать, после чего менять свое состояние,

этого достаточно составить программу таким об-

стирать из ячейки прежний символ и записывать

разом, чтобы она могла поддерживать разговор до

в ней новый, а затем перемещаться вдоль ленты

тех пор, пока он касается нескольких предвари-

на какое-то определенное расстояние и повто-

рять всю вышеуказанную процедуру. Число таких

тельно определенных тем, а если эксперт захочет

повторений в принципе не ограничено. На ленте

выйти за их рамки, то применить какой-либо из

выделены специальные ячейки, в которых запи-

также заранее запрограммированных приемов,

сывается программа, входная информация, а так-

позволяющих или «перевести» разговор на что-то

же результат вычислений. Как было показано А.

другое, или же вернуться к предыдущему. При

Тьюрингом, среди всевозможных подобных ма-

этом эксперт может подумать, что разговариваю-

шин с различными головками и т.п. имеются, как

щий с ним груб, капризен, отличается плохим ха-

уже говорилось выше, универсальные машины,

рактером, возможно, даже просто глуп, но он не

способные моделировать работу любых других та-

усомнится, что это все-таки человек.

ких машин.

Вернемся вновь к вопросу о критерии. Приве-

Потребность в математически строгом опреде-

денное выше рассуждение показывает, что если

лении алгоритма чаще всего возникает даже не

критерий основан на каком-то экзамене, оценке

тогда, когда нужно сконструировать какой-то ал-

эксперта и тому подобным процедурам, то его ни

горитм, а тогда, когда нужно доказать, что в прин-

в коей мере нельзя признать сколько-нибудь на-

ципе не может существовать алгоритма, способ-

дежным. Критерий должен быть объективным.

ного решить поставленную задачу. Действитель-

Так, если бы удалось доказать, что существуют за-

но, если алгоритм существует, то для

дачи, которые естественный интеллект решает, в

доказательства его существования достаточно

то время как искусственный интеллект принци-

просто его построить и предъявить. При этом

пиально решить не в состоянии, то это бы означа-

обычно, вне зависимости от наличия или отсут-

ло, что два данных вида интеллекта заведомо

ствия математически строгого определения алго-

функционируют по-разному. Следовательно, они

ритма, никаких трудностей с тем, чтобы понять,

не могут быть эквивалентны один другому.

является ли полученный результат алгоритмом

Начнем с искусственного интеллекта. Обсу-

или же нет, просто не возникает. Но если алго-

дим самые основы существующих систем такого

ритма в принципе не может существовать, то по-

добным образом мы ничего доказать не сможем.

интеллекта.

Ведь то, что мы не смогли построить искомый ал-

Любая существующая на настоящий момент

горитм, может означать не то, что его в принципе

кибернетическая система, в том числе и такая, о

не существует, а только то, что мы в силу каких-то

которой говорят, что она способна «обучаться»,

причин оказались не в состоянии его найти. Но

работает на основе заложенного в нее алгоритма.

вот если удается доказать, что в принципе не мо-

Существует по крайней мере несколько матема-

жет существовать такой программы, которая поз-

тически строгих определений понятия «алго-

волила бы универсальной машине Тьюринга ре-

ритм», причем в математической логике доказы-

шить поставленную задачу, то тем самым мы

вается, что все эти определения эквивалентны

строго доказываем, что и соответствующего алго-

друг другу. На практике, например, при доказа-

ритма также не существует. Наиболее известным

тельстве теорем, очень удобным является опреде-

примером подобной теоремы о «не существова-

ление алгоритма, данное А. Тьюрингом. Это

нии алгоритма» является теорема об «останове»

определение использует понятие так называемой

[2], т. е. о том, что в принципе не может существо-

«универсальной машины Тьюринга» [2], которая

вать алгоритма, способного определить, остано-

при соответствующей введенной в нее программе

вится ли хоть когда-нибудь «универсальная ма-

оказывается в состоянии моделировать работу

шина Тьюринга», реализующая какую-либо про-

любого другого существующего в настоящее вре-

грамму, или же будет вычислять результат

«вечно».

мя логического устройства.

Машина Тьюринга, о которой здесь идет речь,

Если бы удалось установить, что естественный

устроена в достаточной мере просто. В ней имеет-

интеллект в состоянии найти решение такой за-

ся бесконечно длинная в обе стороны лента, раз-

дачи, для которой можно доказать, что алгорит-

деленная на ячейки, и так называемая головка,

ма, способного ее решить, не может существовать

представляющая собой конечный автомат, спо-

в принципе, то это означало бы, что между есте-

собный перемещаться в обоих направлениях

ственным интеллектом и моделирующим его по-

вдоль ленты. В ячейках ленты могут записываться

ведение искусственным интеллектом существует

определенные символы (причем число этих сим-

принципиальное различие. И это различие, как

БИОФИЗИКА том 65

№ 1

2020

204

НАМИОТ

ни стараться, невозможно убрать никакими про-

вет окажется ошибочным, или просто равна ну-

граммными ухищрениями…

лю, или же, если она все-таки отлична от нуля,

Но поскольку мы не знаем, как «в действи-

крайне мала. Используя подобный «оракул», ма-

тельности» функционирует естественный интел-

шина Тьюринга уже оказывается в состоянии ре-

лект, мы оказываемся не в состоянии определить

шать алгоритмически неразрешимые задачи [3].

его возможности только на основе теоретических

соображений. Экспериментальные же подходы

Само по себе существование «оракула» (если

также не могут дать материала для сколько-ни-

бы, конечно, он существовал в реальности, а не

будь надежных утверждений и тоже уязвимы для

являлся чисто абстрактным объектом, изучаемым

критики…

только в рамках математической логики) означа-

Тем не менее, если естественный интеллект

ет гораздо большее, чем просто возможность ре-

возник и сохранился в ходе эволюции, то можно

шать те или иные алгоритмически неразрешимые

утверждать, что он важен для выживания самых

математические задачи. Например, в биологии

разных видов. В тоже время можно привести ряд

имеется ряд фундаментальных вопросов, в част-

аргументов, позволяющих утверждать, что интел-

ности, связанных с эволюцией биосферы, на ко-

лект, основанный только на алгоритмах, не мог

торые там до сих пор нет убедительных ответов.

бы способствовать выживанию. Действительно,

Если же существует возможность обратиться к

системы, основанные на использовании алгорит-

«оракулу» и «получить у него подсказку, позволя-

мов, с самого начала должны быть достаточно

ющую найти хорошее (с эволюционной точки

сложными: если же усложнение происходит не-

посредственно в процессе развития, то на началь-

зрения) решение», то многие, если не все из этих

ных этапах, пока система еще не отлажена, неиз-

вопросов, могли бы быть «сняты»…

бежно будет появляться очень большое количе-

Однако математическая логика не ставит (да

ство ошибок. Если биосистема будет управляться

она и не должна ставить) вопроса о том, как мо-

подобным «интеллектом», то это не только не бу-

жет быть устроен подобный «оракул» и можно ли,

дет способствовать ее выживанию, но, наоборот,

достаточно быстро приведет к гибели. Основыва-

а если можно, то каким именно способом, его из-

ясь на подобных соображениях, можно утвер-

готовить или же чем-либо заменить. На настоя-

ждать, что задача о выживании и эволюции био-

щее время ответ на этот вопрос остается откры-

систем, так или иначе решаемая естественным

тым. Соответственно, по-прежнему остается не-

интеллектом, искусственным интеллектом реше-

известным и ответ на вопрос о том, в чем же

на быть не может…

конкретно, т. е. на уровне устройства и принци-

Но возникает вопрос, может ли вообще суще-

пов работы, состоит различие между искусствен-

ствовать какая-либо информационная система,

ным и естественным интеллектом.

чьи возможности превосходят возможности уни-

версальной машины Тьюринга? В какой-то (но

далеко не в полной мере) этот вопрос ставится и

КОНФЛИКТ ИНТЕРЕСОВ

изучается только в математической логике. В

частности, там рассматриваются различные спо-

Автор заявляет об отсутствии конфликта инте-

собы добавить нечто такое к универсальной ма-

ресов.

шине Тьюринга, что позволит увеличить (если,

конечно, это удастся) ее возможности. Напри-

мер, к машине Тьюринга можно добавить датчик

СОБЛЮДЕНИЕ ЭТИЧЕСКИХ СТАНДАРТОВ

случайных чисел (машина Тьюринга в состоянии

вычислять псевдослучайные числа, но, строго го-

Настоящая работа не содержит описания ка-

воря, «истинно случайных» чисел она генериро-

ких-либо исследований с использованием людей

вать не может). Но даже с такой добавкой решать

и животных в качестве объектов.

алгоритмически неразрешимые задачи машина

Тьюринга по-прежнему не способна.

Однако если рассуждать чисто абстрактно, к

СПИСОК ЛИТЕРАТУРЫ

машине Тьюринга в принципе можно подклю-

чить и более интересные устройства, чем датчик

1. Н. Винер, Творец и робот (Прогресс, М., 1966).

случайных чисел. В математической логике, на-

2. М. Минский, Вычисления и автоматы (Мир, М.,

пример, рассматривается устройство, называемое

1971).

«оракул» [3]. Оно представляет собой систему,

которой можно задать вопрос, и она на этот во-

3. С. Ааронсон, Квантовые вычисления со времен

прос ответит. При этом вероятность того, что от-

Демокрита (АНФ, М., 2018).

БИОФИЗИКА том 65

№ 1

2020