Контроверзы "искусственного разума"

С тех пор, как на научном горизонте появилась кибернетика, споры о возможностях ИИ не утихают. В этом и следующем разделах мы завершим анализ дискуссионных вопросов проблемы с тем, чтобы в следующей главе обратиться к конкретным направлениям "машинного творчества".

В качестве отправной точки изберем дискуссию, состоявшуюся осенью 1971 г. на симпозиуме в Анахейме (США, штат Калифорния), где группа американских и английских специалистов в области кибернетики и нейропсихологии обсуждала проблему соотношения программируемых человеком информационно-вычислительных систем и человеческих способностей восприятия, дедуктивного и эвристического мышления, принятия решений и целенаправленного поведения. Материалы симпозиума, опубликованные в 1973 г. в серии "Системы, человек и кибернетика" Докладов Института инженеров по электротехнике и радиоэлектронике, ныне имеются в русском переводе [72]. Наш выбор определяется тем, что хотя с момента, когда группа зарубежных специалистов на совещании в Анахейме обсуждала потенциально возможные достижения в области моделирования процессов познания и искусственного интеллекта, а также те ограничения, которым это направление исследований может быть подвержено, прошло уже десять лет, их дискуссия не утратила своей значимости. Причина этого в том, что на симпозиуме рассматривались не конкретные результаты в создании моделей и программ, относящихся к ИИ (в этой области развитие идет быстро), а принципиальные проблемы, касающиеся природы разума и интеллектуального поведения, с одной стороны, и символьно-цифровой переработки информации и кибернетического моделирования - с другой. В этом плане данная дискуссия идет в том же русле, что и монография американского философа X. Дрейфуса, которого интересует не анализ фактических достижений ИИ, а осмысление методологической проблемы возможностей - и границ возможностей - "искусственного разума".

Обратимся, однако, к дискуссии в Анахейме. Она открылась докладом Б. Чандрасикарана и Л. Рикера, в котором формулируются три позиции в оценке возможностей "искусственного интеллекта": "оптимистическая", согласно которой создание систем искусственного разума (без кавычек) - вещь вполне реальная и, более того, находящаяся не за горами; "пессимистическая", отклоняющая такую возможность; и позиция, которую естественно назвать "трезво-критической". В самом докладе эти позиции представлены персонажами "верующего" (в "искусственный интеллект"), "неверующего" (в него) и "агностика". Чандрасикаран и Рикер отвергли первые две позиции, заняв точку зрения (не очень удачно названную ими "агностической"), согласно которой работы в области моделирования процесса познания и ИИ следует признать одним из перспективных путей изучения мышления, но как далеко здесь можно продвигаться, оставаясь в рамках одной лишь кибернетики, заранее решить нельзя. Другой докладчик - С. К. Рид, анализируя различные уровни сравнения человека и автомата (ср. аналогичное выделение подобных уровней, проводившееся в данной книге), указывал на трудности моделирования разума, проистекающие из того, что "интеллект и его развитие - это нечто большее, чем простое объединение специализированных навыков и способностей" [72], в силу чего моделирование их по отдельности не решает проблемы модельного воспроизведения разума в его целостности. Известный кибернетик и нейропсихолог Д. М. Маккей в своих взглядах оказался ближе к "оптимистам", чем к "пессимистам". В центре его раздумий был принимаемый многими психологами феномен "неявного (скрытого) знания", т. е. знания, которое не выразимо целиком в словесной форме (об этом феномене мы поговорим ниже). Понимая, конечно, что люди сознательно осуществляют свои цели, он вместе с тем старается обосновать положение, согласно которому "неявное знание" реально и может моделироваться на вычислительной машине. Гораздо более осторожную позицию занимал американский психолог Дж. А. Миллер. Его оценки работ в области "искусственного интеллекта" оказались сходными с той резкой оценкой, которая им дана в книге Дрейфуса [47]. По мнению Миллера, "кибернетическое движение" выдало "много незаполненных чеков, имея в банке не так уж много денег" [72, с. 43]; достижения, которые наблюдаются в приложениях кибернетики в психологии, в сфере обучения человека и в науке о языке - несмотря на бесспорную эффективность применения ЭВМ в этих областях знания,- внушают разочарование. "Число реальных программ, позволяющих решать сложные интеллектуальные задачи лучше, чем человек... , все еще обескураживающе мало, что я рассматриваю, - сказал Маккей, - как признак наличия многих возможностей мозга, до сих пор не полностью понятных" (с. 44).

Проблема, возможно ли с помощью одних лишь ЭВМ и иных кибернетических устройств воспроизвести то, что естественно считать мыслительной деятельностью - деятельностью, связываемой с человеческим.разумом (иного "мышления" мы пока не знаем), - важна не только в собственно кибернетическом отношении: она представляет собой и философский вопрос. Как на сегодняшний день выглядит решение этой проблемы?

Прежде всего нельзя согласиться с крайностями в оценке значения работ по машинному моделированию процессов познания и искусственному интеллекту. Используя терминологию Б. Чандрасикарана и Л. Рикера, следует отклонить как позицию "неверующего" в научную значимость данного направления, так и позицию "верующего" в неограниченность его перспектив.

Первая позиция неприемлема потому, что ставит под сомнение такой фундаментальный исследовательский метод, как формализация. Между тем этот метод, неотделимый от использования научных абстракций и идеализации, предполагающий отработку используемых приемов исследования на модельных объектах типа "формального нейрона", "конечного автомата", "нервной сети" и т. п., представляет собой неотъемлемое завоевание научной мысли XX столетия. В этой связи уместно указать на неоправданность иногда высказываемых опасений, будто все более широкое распространение информационно-вычислительных систем, получающих применение в самых различных областях деятельности человека, приведет со временем к появлению людей, мыслящих согласно "машинной парадигме" (такое опасение высказывает, например, Дрейфус). Что можно сказать по этому поводу? "Век кибернетики" и в самом деле требует развития в людях, прямо или косвенно сталкивающихся с кибернетикой и ЭВМ, навыков формального мышления. Ныне, в эпоху быстрого распространения вычислительной техники, особенно мини-ЭВМ, такие навыки оказываются просто необходимыми. Более того, как отметил С. К. Рид во время дискуссии в Анахейме, важной становится разработка таких искусственных систем, которые "делают не точно то же, что делает человек, но то, что человеку имело бы смысл делать", тем самым в определенном смысле "дисциплинируя" мышление человека. При этом формальные навыки, если они складываются в естественной человеческой форме, вовсе не ведут к обеднению эмоционально-творческого потенциала личности; наоборот, они усиливают его, освобождая ум человека для "неординарной" познавательной деятельности. Деятельности, в которой он будет все больше взаимодействовать с кибернетическими устройствами, которые чем далее, тем более будут брать на себя определенные логические и конструкторские функции человека. Ибо существуют проблемы, которые в рамках кибернетики решаются без необходимости "большого перебора" (вспомним А. Н. Колмогорова!) и потому вполне доступны для машин; а "человек является действительно сложной материальной системой, но системой конечной сложности и весьма ограниченного совершенства и потому доступной имитации" [30, с. 30]. Вряд ли стоит много говорить о том, что заключение такого "неверующего" в "искусственный интеллект", как упоминавшийся выше Дрейфус, считающий, что путь, которым идет это направление, есть чуть ли не "алхимия двадцатого века", - это заключение совершенно беспочвенно.

Не намного убедительнее, однако, и взгляды диаметрально противоположного характера: о создании в скором будущем "искусственного разума", по своей аналитико-синтетической мощи не уступающего человеческому уму или даже превосходящему последний - достигающего иных и более "высоких" точек в ""-мерном континууме" П. Армера. Взгляды такого рода были характерны для некоторых американских кибернетиков в 50-х - 60-х годах (эти взгляды критически анализируются в книге X. Дрейфуса). Фактически их выражением служат также приводившиеся выше высказывания М. Минского. Однако вместо неумеренных "восторгов" по поводу прогресса в программировании отдельных познавательных процедур следует стараться осмыслить трудности, возникающие на путях моделирования функций человеческого разума. Трудности эти проявляются в том, что во всех ответвлениях упомянутого моделирования - в формализации дедуктивного формально-логического вывода, эвристически направляемого поиска, в автоматическом анализе и синтезе текстов, в алгоритмизации распознавания образов, в решении нечетко поставленных задач, в "роботехнике" и т. п.- продвижение (степень которого различна в разных областях) оказалось существенно более медленным, чем первоначально предполагалось.

Вообще, в оценке перспектив "машинного творчества" не приносят пользу упрощенные категорические высказывания. Рассмотрим, например, следующее рассуждение двух специалистов по программированию ЭВМ:

"Может ли машина мыслить?

Нет - если определить мышление как нечто, свойственное только и исключительно человеку. В этом случае любое поведение машины, напоминающее мышление, следует называть лишь "мыслеподобным" поведением.

Нет - если постулировать, что в самой сущности мышления есть что-то непостижимое, таинственное, мистическое.

Да - если признать, что этот вопрос должен быть решен путем эксперимента и наблюдения, путем сравнения поведения машин с поведением человека, с которым мы обычно связываем понятие "мышление".

Мы склонны рассматривать оба отрицательных ответа как ненаучные и догматичные" [41, с. 25].

Здесь что ни фраза, то передержка. Во-первых, никакого другого мышления, кроме мышления человека, наука попросту не знает, так что любое определение мышления как чего-то уже известного поневоле должно быть определением человеческого мышления. Во-вторых, из того, что "определение мышления как чего-то свойственного исключительно человеку" влечет за собой, по мнению данных авторов, отрицательный ответ на поставленный выше вопрос, не следует обратного: того, что такой ответ обязал нас ограничить "мышление" только человеческими существами. Ведь вполне можно отвечать "нет" и вместе с тем допускать наличие интеллектуальной деятельности (и соответствующих ей субъективных состояний), скажем, у наших "братьев по разуму" в Космосе. Наконец, в-третьих, совершенно непонятно, почему, если вопрос "Может ли машина мыслить?" должен решаться путем эксперимента и наблюдений, еще до таких экспериментов, авторы предлагают отвечать на него "да". Не взгляды оппонентов, а само это рассуждение - пример догматичности.

В связи с данной проблемой уместно вспомнить замечательное в методологическом плане исследование У. Мак-Каллока и В. Питтса, касающееся связи между (идеализированными) нейронными сетями и логикой, воплощенной в формальных нейронах, с одной стороны, и описанием произвольного поведения, сделанного на некотором языке с четкой семантикой, - с другой. Мак-Калл ок и Питтс доказали ряд теорем [73], которые в методологическом плане можно обобщить в виде "результата Мак-Каллока - Питтса". Авторы этих строк в ряде своих работ писали об этом результате (см., например, [11, 20, 28, 58 и др.]), поэтому здесь мы ограничимся тем, что приведем оценку этого достижения, данную Дж. фон Нейманом: "Важный результат, полученный Мак-Каллоком и Питтсом, заключается в том, что всякое функционирование..., которое вообще может быть определено логически - строго и однозначно - с помощью конечного числа слов, может также быть реализовано с помощью показанной выше формальной нервной сети... все, что можно описать исчерпывающим и однозначным образом, все, что можно полностью и однозначно выразить словами, ipso facto^* реализуемо с помощью соответствующей конечной нервной сети" [74, с. 89]. Фон Нейман отмечает, что этот результат кладет конец разговорам о том, что деятельность и функции нервной системы человека настолько сложны, что "никакой обычный механизм не может их выполнить" (там же). Ибо теория Мак-Каллока - Питтса показывает, что все, доступное выражению на точном языке, в принципе реализуемо с помощью соответствующей конечной формальной нервной сети, а следовательно, кибернетическим автоматом.

^* (В силу самого факта (лат.).)

Разберемся в философской стороне результата Мак-Каллока - Питтса, сформировавщегося в русле идей математической логики и теории нейронных сетей. Сформулируем в этой связи четыре пункта.

Первый пункт. Результат Мак-Каллока - Питтса, как его формулирует Нейман, не есть математически строгое утверждение (в отличие от доказанных ими теорем). Это есть гипотеза, или тезис, подобный основной гипотезе теории алгоритмов и ее спецификациям в виде принципа нормализации или тезиса Черча^*. Как и последнее, она весьма убедительна, представляется естественно вытекающей из теории формальных нейронов, однако не имеет статуса математической теоремы. Проистекает это из того, что в формулировке упомянутого "результата" фигурирует, с одной стороны, математически точное понятие формальной нервной сети, а с другой - нечеткие понятия "всего того, что может быть полностью и однозначно выражено словами", "всякого функционирования, которое может быть определено логически с помощью конечного числа слов". Ибо язык формальных нервных сетей носит добротный, конструктивный характер, чего совсем нельзя сказать о языке, описывающем "всякое функционирование".

^* (Два положения, утверждающие, что теория нормальных алгорифмов и теория рекурсивных функций служат экспликациями понятия алгоритма.)

Второй пункт. Результат Мак-Каллока - Питтса не говорит, в чем состоит специальная характеристика мышления в отличие от, скажем, зубной боли (здесь мы пользуемся сравнением, к которому прибегли авторы статьи [75]). В этом смысле его можно уподобить "чистой теореме существования", а не "конструктивной" теореме: он ничего не говорит о том, как построить формальную сеть, моделирующую ту или иную функцию нервной системы, а только утверждает, что такую формальную сеть принципиально построить можно. Как построить - это особая проблема, и, будучи аналогом "чистой теоремы существования", тезис Мак-Каллока - Питтса носит общий характер: он утверждает возможность построения формальной сети для любой функции естественной нервной системы, коль скоро она нашла четкое описание на каком-то языке, и, следовательно, спецификации той или иной функции мышления на уровне этого тезиса не требуется.

Третий пункт. "Строгое и однозначное" описание некоторого функционирования требует формально непротиворечивой системы. Фон Нейман подчеркивает (с. 90), что это касается "любой отдельной фазы любой мыслимой формы поведения"; отрицать возможность такого логического описания - которое может быть очень длинным - значит примкнуть к разновидности "логического мистицизма". Однако, продолжает фон Нейман, далеко не ясно, как все это применять ко всему комплексу поведения в целом.

Это и понятно. Если рассматривать разумное поведение и мышление, лежащее в его основе, как нечто целое, то ясно, что его "логическое описание" не может быть исчерпывающим. Это следует хотя бы из результатов математической логики, говорящих о внутренней ограниченности формализации, т. е. "строгого и однозначного описания с помощью конечного числа слов". Но вполне возможно представить себе постоянное приближение ко все более исчерпывающему описанию поведения и мышления, происходящее на путях поисков все более сильных и мощных формальных систем, все полнее охватывающих (но никогда не покрывающих полностью) неисчерпаемую действительность.

Четвертый пункт. Описание функционирования, которое имеется в виду в тезисе Мак-Каллока - Питтса, по необходимости должно носить дискретный характер: любой язык с четкой семантикой состоит из выражений, различаемых и отождествляемых и по своей графической форме, и по смысловому содержанию. Это значит, что упомянутый тезис равносилен принятию положения о принципиальной возможности "дискретизованного" представления любых объектов познания и конструирования, в том числе и относящихся к разумному поведению.

Теперь, после того как мы сформулировали приведенные выше четыре пункта, обратимся к вопросу о том, какое отношение тезис Мак-Каллока - Питтса может иметь к моделированию мышления.

Ранее мы уже отмечали, что в проблеме моделирования элементов творчества следует различать четыре уровня: принципиальной (абстрактной) возможности, возможности реальной, технической реализуемости (при данном или обозримом на будущее развитии технологии) и практической целесообразности. Результат Мак-Каллока - Питтса имеет значение для решения проблемы только на первом уровне. Фактически он является математической перифразой простой истины, в следующей форме высказанной тем же У. Мак-Каллоком: "Поскольку природа дала нам работающую модель, теоретически нам не нужно спрашивать, могут ли быть построены машины, обрабатывающие информацию подобно мозгу" [76, с. 61].

Тезис Мак-Каллока - Питтса не дает ответа на вопрос: действительно ли возможно воплощение в языке всего того, что связано с человеческим мышлением? Если существуют такие функции разума, которые не связаны с использованием какого-либо четкого языка (либо не могут быть на Таком языке описаны), то они тогда не подпадают под действие данного "тезиса" и, следовательно, не могут быть промоделированы формальной нервной сетью.

Ряд авторов полагает, что не все доступно дискурсивно-рационально-рассудочному описанию, описанию, основанному на рассуждениях, состоящих из последовательного ряда логических звеньев, каждый из которых зависит от предыдущих и обусловливает последующие. Некоторые считают, что наиболее важное в творчестве, связанное с плодотворной догадкой ("озарением"), "инсайтом", интуицией, такому описанию не поддается. Нейрофизиолог П. В. Симонов, например, считает, что можно проследить и объективно изучить лишь те этапы творческого процесса, которые сводятся к накоплению информации, логическим умозаключениям и нервно-психическим реакциям. Что касается момента "озарения", то он, по его мнению, не поддается изучению в логических терминах. Как относиться к таким взглядам?

Можно констатировать, что на нынешнем этапе познания человека трудно определить степень значимости в его познавательных процессах "интуитивной" - неосознаваемой - составляющей, затруднительно решить, соизмерима ли она со значимостью сферы логического, дискурсивного рассуждения, не превосходит ли последнюю. Однако одно вырисовывается довольно ясно: кибернетическое моделирование наиболее успешно тогда, когда речь идет о передаче машине формально-логических отношений и процедур. Но эти "высшие", четко определенные и сравнительно простые логические проявления интеллекта имеют своей основой гораздо более сложные "низшие" формы, и прежде всего механизм восприятия. В большой мере это есть та область психики, которая присуща значительной части животного мира ("распознавание образов"). Но не только. К "глубинным" и во многом не формально-логическим слоям психики следует отнести и естественный язык с его гибкими, динамичными, "диффузными" значениями выражений и высказываний. Эта "низшая", "базовая" часть механизма познания труднее поддается моделированию, нежели осознанная дискурсивная логика.

Не все специалисты в области "искусственного интеллекта", так же как не все математики и логики, занимающиеся вопросами моделирования познавательных процессов или задумывающиеся над его проблемами, по-видимому, в должной мере учитывают эту сторону дела. Однако те из них, которые принимают во внимание психолого-гносеологический и социальный аспект проблемы, видят ее достаточно ясно.

Как-то на своей лекции А. Н. Колмогоров сказал, что папуас, босиком бегающий по гальке на берегу океана, перерабатывает в единицу времени существенно больше информации, чем математик, решающий сложные современные задачи. И он же писал в статье "Жизнь и мышление как особые формы существования материи": "В развитом сознании современного человека аппарат формального мышления не занимает центрального положения. Это скорее некоторое "вспомогательное вычислительное устройство", запускаемое в ход по мере надобности ... кибернетический анализ работы развитого человеческого сознания в его взаимодействии с подсознательной сферой еще не начат" [48, с. 54]. Основное "вычислительное устройство" человека - логику его мышления - мы знаем гораздо лучше; поэтому хотя "вся сознательная жизнь человека устроена как-то очень своеобразно и сложно, но когда закономерности ее будут изучены, для моделирования ее потребуется гораздо меньше элементарных ячеек, чем для моделирования всего мозга, как это ни удивительно" [30, с. 22]. А. Н. Колмогоров предполагает, что для машинного моделирования элементов научной, эстетической или социальной деятельности человека достаточно оперировать со сравнительно небольшим количеством информации порядка 10⁷ - 10⁹ бит [48, с. 56] (ср. слова М. Минского о разработке ЭВМ с памятью в 10¹² бит [1]). Эти взгляды, высказанные советским математиком еще в начале 60-х годов, справедливы и для нынешней ситуации в "искусственном интеллекте".

Одним из феноменов гносеологического процесса является наличие у человека так называемого неявного (скрытого) знания, о котором мы уже упоминали. Американский психолог М. Поляный (его примером оперирует в своей книге Дрейфус), иллюстрируя тезис о наличии у человека несловесного - невербализованного (и даже невербализуемого) знания, указал на езду на велосипеде. Если читатель - велосипедист, то пусть попробует изложить на русском языке свое знание о том, как надо ездить на велосипеде, пусть он переведет это свое умение на "строгий и однозначный язык"! И пусть кто-нибудь никогда не ездивший на велосипеде попробует, держа в голове это описание, поехать на велосипеде!

"Человек знает (умеет) больше, чем может явно выразить; человек знает (умеет) больше, чем это можно вербализовать" - это положение о существовании "неявного" личностного знания играет большую роль в современных дискуссиях психологов и кибернетиков о путях и возможностях моделирования познавательных процессов. В немалой степени именно на утверждении наличия такого знания некоторые критики ИИ, в частности X. Дрейфус, основывают свою аргументацию. Однако существует взгляд, который Д. Маккей выразил в следующем виде: "универсальная целенаправленная информационная система, в которую структура внешнего мира введена на основе ограничений, наложенных на планирование действий, автоматически обнаружит признаки "неявного знания" " [72]. Так это или не так - об этом мы на сегодняшний день судить не можем. Но кроме невербализованного (и невербализуемого?) знания существует еще наглядно-содержательная интуиция, трудно формализуемая способность человека к учету языковых контекстов различных уровней и практических ситуаций разной степени общности, мало понятный "дар" ситуативного и динамического различения существенного и несущественного - различения, возникающего на базе активного отношения личности к действительности в процессе целенаправленного решения стоящих перед ней познавательных и практических задач. Нейропсихологические данные говорят о том, что все эти способности вполне реальны.

Мы не будем останавливаться здесь на рассмотрении проблем, связанных с перечисленными выше проявлениями психики человека. Заинтересованного читателя мы отсылаем к части III книги Дрейфуса [47], а также к приложенной к ней статье одного из авторов этих строк, озаглавленной "Что же могут вычислительные машины?" Ограничимся рассмотрением только одного вопроса: контроверзы "дифференцированно-дискретное - целостно-непрерывное".

Преобладающая в кибернетике практика применения дискретного научного аппарата (т. е. средств и методов дискретной математики) способна внушить исследователю идею, будто изучаемое всегда может быть проанализировано в терминах четко установленных, явно определенных (в рамках некоторой задачи) данных и представлено в виде конечных наборов знаков ("слов") некоторого алфавита (в частности, цифр). Установка на подобную дискретизуемость материала - установка, которую можно назвать "гносеологическим атомизмом", - связана с цифровым характером ЭВМ и накладывает свою печать на модельные конструкции "искусственного интеллекта". Однако такого рода "аналитический" подход, понятный, когда речь идет о моделировании на цифровой машине, вряд ли может рассматриваться в качестве "универсального" в случае человека с его феноменом целостности восприятия и другими упомянутыми выше проявлениями психической активности.

Целостность восприятия, над имитацией которой уже давно бьются специалисты, занимающиеся разработкой систем автоматического распознавания образов, представляет собой явление, прочно установленное в психологии. Утрата этого свойства глобального узнавания объектов - утрата полная или частичная, как это бывает в случае поражения некоторых участков головного мозга, - делает процесс человеческого восприятия похожим на машинный поиск по "дереву альтернатив". На это обстоятельство внимание авторов этих строк обратил Ю. А. Шрейдер, который в этой связи указал на клинические случаи, описанные известным советским нейропсихологом А, Р. Лурия: "Вот типичный больной с таким поражением. Он внимательно рассматривает предложенное ему изображение очков. Он смущен и не знает, что значит это изображение. Он начинает гадать. "Кружок... и еще кружок... и палка... перекладина... наверно, это велосипед?! - Он рассматривает изображение петуха с красивыми разноцветными перьями и, не воспринимая сразу целого образа, говорит: "Наверное, это пожар - вот языки пламени" [77, с. 137]. Реальность, "перерабатываемая" патологически деформированным мозговым механизмом, функционирующим по методу сканирования, приобретает несуразный характер. Это означает, что мир, данный нормальной личности в ее познании, не носит "атомизированного", "дискретизированного" характера, чем он разительно отличается от хранимой в машинном запоминающем устройстве "базы данных", реализуемой соответствующими физическими состояниями ЭВМ.

Можно было бы предположить, что выход из этого положения состоит в переходе к массированному использованию в работах по ИИ "непрерывностных" методов - аналогового представления информации, "вычислительных" процессов, основанных на химических реакциях, и т. п. Однако вряд ли это может послужить моделированию "целостных" феноменов. Ведь в рамках научного аппарата противопоставление "дискретное - непрерывное" относительно. Непрерывные психохимические реакции, включенные в процессы переработки информации у человека, можно, в принципе, формализовать и представить в дискретной форме; в свою очередь, "цифровые" процедуры, играющие определенную роль в общей структуре нейродинамики, могут, также в принципе, получить аналоговое выражение. Ясно, что эта ситуация не позволяет извлечь никаких выводов ни относительно доминирования у человека дискретных или непрерывно - "глобальных" феноменов, ни относительно перспектив обогащения работ по кибернетическому моделированию познавательных процессов на "аналоговом" пути.

Это вполне понятная методологическая ситуация. Дискретное или непрерывное представление процесса во многом зависит от применяемых абстракций и идеализаций, принятие же одних из них и отказ от других определяется исследовательскими задачами либо технологической целесообразностью - тем, какая система идеализирующих допущений в данных условиях эффективнее. Используемые на различных уровнях и этапах познания, в рамках тех или иных способов описания объекта изучения понятия дискретного и непрерывного ('"аналогового") оказываются результатом разных математических и логических абстракций. Нервная клетка на одном уровне рассмотрения есть пороговый элемент, для описания которого используется логика с конечным множеством значений истинности. Та же клетка на другом, в нейрофизиологическом аспекте более глубоком уровне анализа выступает как аналоговое либо гибридное устройство. Аналогичное можно сказать и о нервных сетях, мышечной активности, явлениях гуморального характера - также как и о процессах, происходящих в триггерах или интегральных схемах ЭВМ. На что же тогда ориентироваться в кибернетическом моделировании процессов познания? Очевидно - на результаты "традиционных" нейропсихологических исследований, стремящихся учесть всю сложность картины нейродинамики, психики, поведения человека. Неудивительно поэтому, что именно в контексте исследований по искусственному интеллекту Дж. А. Миллер [72] подчеркнул важность задачи формирования эффективной психологической теории работы мозга, теории, с единых позиций объясняющей широкий круг психических феноменов и преодолевающей критиковавшийся С. К. Ридом (в той же дискуссии) подход к разуму как простому объединению навыков и способностей. Ибо только учет целостности разума и его проявлений может, как представляется, дать необходимую теоретическую базу для успешного кибернетического моделирования познавательных процессов.

Противопоставление, контроверза "дискретное - непрерывное" - это не единственное диалектическое противоречие, связанное с развитием работ по кибернетическому моделированию познавательных процессов. Имеется и другой род противоречивости-антиномичности, с большой убедительностью выявленный Дрейфусом. Как известно, представление в памяти ЭВМ "внешнего мира" связано с решением задачи организации большой "базы данных", хранимых в виде некоторых дискретных образований. Каждый факт (или языковое выражение), относящийся к сфере поведения, например, робота, должен получить такое дискретное представление. Он, разумеется, может - и должен - быть введен в определенный контекст фактов (выражений) контекст, который должен получить аналогичное представление на языке "базы данных". Ибо без такого контекста невозможно осмысление факта или языкового выражения: установление его связи с другими фактами или выражениями, позволяющее определить его сравнительную значимость, несомое им "содержание". Но тогда, выдвигая задачу моделирования интеллектуального поведения, мы сталкиваемся со следующей антиномией. Если для любого контекста, в котором фигурирует какой-то факт (выражение) или их набор, должен быть в наличии некоторый более широкий контекст (ситуация), позволяющий выделять существенные факты, то должен быть какой-то первичный, не сводимый ни к чему иному контекст или ситуация, так как иначе возникает бесконечная редукция контекстов. Антиномический характер этого противоречия не подлежит сомнению. Как отметил один из авторов настоящей книги [78], эта антимония имеет глубокие исторические корни, что ясно видно из формулируемой Дрейфусом ее "временной версии": либо должен существовать самый первый контекст - контекст, который машина не в силах распознать из-за отсутствия предыдущего контекста, в терминах которого происходит выделение существенных характеристик самого первого контекста; либо возникает редукция контекстов во времени, уходящем в сколь угодно отдаленное прошлое, и тогда машина оказывается не в состоянии начать процесс распознавания. Перед нами, как это сразу видно, вариации на тему апорий древне-греческого философа Зенона Элейского, в частности апории "Дихотомия".

Человеческое мышление справляется с этой - и подобными ей - антиномиями. Если использовать только те из современных представлений о мышлении, которые развиваются в "точных" науках (математической логике, кибернетике, семиотике и др.), то можно сказать, что мышление развивается путем разрешения противоречий. Конечно, фиксированных формально-логических противоречий в правильном мышлении быть не может; если научное построение допускает верность как высказывания А, так и не-А, то оно утрачивает всякую ценность, ибо в нем может быть доказано все, что только выразимо в рамках этого построения. Реальные противоречия развивающегося человеческого мышления и логические противоречия типа А = не-А - это разные вещи. От реального мышления требуется не умение "выносить" состояние А = не-А, а умение это состояние преодолевать. Необходимость такого преодоления - один из источников развития знания. Такой же источник, как и необходимость преодоления неполноты непротиворечивых описаний. Здесь мы снова возвращаемся к знаменитой теореме К. Гёделя о неполноте "достаточно богатых" формализованных систем. Из этой теоремы не следует, разумеется, существование каких-либо сфер содержательного мышления, принципиально недоступных формально непротиворечивому описанию, а лишь принципиальная невозможность построить последнее, окончательное формальное описание, которое исчерпало бы данную содержательную область ("начиная с арифметики"). Между имеющимися налицо формальными системами и описываемой ими содержательной областью всегда существует противоречие (вторая всегда богаче первых); наличие этого противоречия вызывает у ученого не желание "выносить напряжение противоречия" (ср. [75, с. 273]), а стремление разрешить его на пути создания более сильных формальных построений.

Иногда в литературе по ИИ обсуждают вопрос, является ли мозг "формальной системой". Так поступили, например, Чандрасикаран и Рикер на симпозиуме в Анахейме. Приведенный выше материал заставляет допустить третью возможность - возможность того, что понятие формальной системы, обнимающее собой завершенные математико-логические системы порождающих правил и схемы алгоритмической переработки информации, вообще не применимо к мозгу и психике человека, так как "сложностные" ограничения, о которых столько говорилось в этой книге, носят принципиальный характер, не допуская сколько-нибудь полного представления "больших" систем типа мозговых структур, психических процессов, поведенческих комплексов и языковых феноменов человека в какой-то завершенной модели или системе моделей. Мы вправе, по-видимому, считать вместе с А. Н. Колмогоровым, что при анализе явлений жизни и тем более психики важна не диалектика бесконечного, имеющая смысл только в случае систем абстрактных объектов, - "существенна... диалектика большого числа" [30, с. 25]; "чисто арифметическая комбинация большого числа элементов создает и непрерывность, и новые качества" [48, с. 53]. Здесь мы вновь возвращаемся к ранее высказанной идее, что, быть может, именно в Неймановом "парадоксе сложного", предполагающем существование некоего "порога сложности", начиная с которого описание (модель) системы не может быть проще ее самой, непосредственно и заключены ограничения "искусственного интеллекта" (ср. предположение С.К. Рида [72], говорившего о том, что при моделировании сложных процессов "может оказаться проще реализовать процесс аппаратурно, чем подробно описать его другому исследователю") .

Все эти рассуждения не следует понимать как умаление значения моделирования как познавательного метода. Они означают лишь, что моделирование не является каким-то универсальным приемом расширения знания. Модельное познание, объяснение на моделях подчиняется общему ходу объяснительного процесса - диалектике "транзитивности - нетранзитивности". Состоит она в том, что цепочка, ведущая от "простого" к "сложному", продлевается - в той мере, в какой это вообще оказывается возможным, - за счет подъема по ступеням более обобщенных или "крупноблочных", как иногда выражаются, описаний. Это четко проявляется при решении задач кибернетического моделирования такой сверхсложной структуры, как человеческое мышление, психика, нейродинамика. Здесь приходится вступать на путь поиска (изучения, моделирования) "познавательных блоков", которые являются более простыми, чем мышление в целом, но намного более сложными, чем отдельные "команды" в смысле вычислительной математики. Возникающие на этом пути модели являются гомоморфными (и даже более слабыми, чем гомоморфные) моделями соответствующих процессов - оригиналов. Приходится, например, вступать на путь использования расплывчатой логики: практика "роботехники" и других разделов модельно-кибернетических исследований свидетельствует, что уже сейчас дает себя знать недостаточность "черно-белых" логических схем, т. е. схем, опирающихся только на два истинностных значения: "истина" и "ложь", - логических схем, которые зачастую оказываются неадекватными для моделирования "разумного" поведения в реальных окружающих средах; немалые надежды здесь возлагаются на логическую теорию нечетких объектов в ее соединении с теориями семантической информации и тезаурусным подходом к информационно-логическому поиску.

Согласно все более укрепляющимся ныне представлениям не только психологов, но и кибернетиков - в нашей стране они в значительной мере восходят к идеям М. М. Бонгарда [79] и активно развиваются его учениками - одним из блоков, очень важных для синтеза мышления, является восприятие (это согласуется с тем, что выше говорилось об этом психическом процессе и его свойстве целостности). Можно предположить, что в мышлении есть части, в разной мере сводимые к "мелкоблочным" образованиям. Восприятие (узнавание, распознавание), по-видимому, гораздо менее "сводимая" часть, чем формально-логический блок. Последний в большей мере представим "механическими" процедурами, состоящими из элементарных операций.

Но может быть именно поэтому он не играет, как мы уже отмечали, центральной роли в познании, особенно в познании, приводящем к раскрытию нового. Во всяком случае логика умеет сводить дедуктивные процессы к последовательному применению правил вывода, в то время как феномены восприятия и процедуры существенно эвристического характера пока еще не доступны для сведения к "элементарному". Можно надеяться, что упомянутый в предыдущем абзаце "расплывчатый" подход будет содействовать в какой-то мере снятию контроверзы "атомизированно-дискретное - глобально-непрерывное", о которой мы столько говорили в этом разделе.

Конечно, неотъемлемо присущее направлению "искусственного интеллекта" применение метода формализации не может не сказываться на глубине получающихся в его рамках результатов. Это, однако, не снимает задачи учета на данном пути диалектических "перерывов постепенности", обусловленных общей нетранзитивностью модельно-объяснительного процесса, взятого в его целостности, перерывов, которые не очень хорошо укладываются в представление о "континуальности" мышления в смысле Армера. Только этот учет требует привлечения широкого круга наук, изучающих человека. Гибкость человеческих идей, понятий, научных представлений, подвижность смыслов выражений естественных, понимаемых людьми языков, "диффузность" систем мозговой динамики, в которой затруднительно проведение жестких границ, разделяющих разные процессы, "большесистемный" характер общественных структур и социальных институтов, ультрасложность сетей социальных отношений, связывающих наделенными сознанием и волей субъектов, - все это, по нашему убеждению, делает невозможным полноту и однозначность описаний соответствующих систем и процессов на одном лишь модельно-кибернетическом пути.