14. Нерешенные проблемы

В любой области деятельности людям свойственно делать прогнозы на будущее. Но, как правило, такие прогнозы не оправдываются, особенно если первоначально они выглядели слишком оптимистично. Дело в том, что человек вообще излишне склонен к оптимизму! Но причина несоответствия прогнозов и реальности кроется также в том, что на ранних этапах исследования обычно отбираются (быть может, подсознательно) более легкие задачи. Однако, чтобы обеспечить дальнейший прогресс в той или иной области, приходится со временем подвергать анализу проблемы, отложенные "в сторону" вначале. А откладывали их потому, что на ранних этапах исследования не было видно легкого способа их решения. Довольно часто ситуация не проясняется и при наличии опыта, накопленного при решении более легких задач.

Следует отметить, что область искусственного интеллекта, пожалуй, как ни какая другая из областей научных исследований, пострадала от чрезмерного оптимизма на первых этапах. Весьма скептически настроен, в частности, философ Дрейфус [1], который подверг критике предсказания, сделанные в 1957 г. Саймоном 121, а потом и другими исследователями, работающими в области искусственного интеллекта. Некоторые из этих предсказаний, по существу, граничат с авантюризмом.

Саймон считал, например, что в обозримом будущем диапазон проблем, которыми будет заниматься машина, "сравняется с диапазоном проблем, подвластных человеческому уму". Саймон сделал даже следующие конкретные предсказания:

1. В ближайшее десятилетие [с 1957 г.] электронная вычислительная машина завоюет титул чемпиона мира по шахматам, если только ей позволят участвовать в чемпионатах.

2. В пределах десяти лет ЭВМ откроет и сумеет доказать важную новую математическую теорему.

3. В десятилетний срок большинство теорий в области психологии примет вид программ для вычислительных машин или вид тех или иных качественных утверждений относительно характеристик программ для вычислительных машин.

Теперь абсолютно ясно, что оптимизм Саймона оказался чрезмерным. Как иронически заметил Дрейфус, специалисты, работающие в области искусственного интеллекта, по-видимому, никогда не научатся более трезво оценивать свои возможности. И, хотя в этом, безусловно, есть доля правды, важно не допустить, чтобы "маятник отклонился" в противоположную сторону - излишнего скептицизма. Как отмечалось в гл. 1, имеется определенная тенденция рассматривать "интеллект" с такой точки зрения, при которой любая попытка добиться чего-то в области искусственного интеллекта заранее обречена на провал. Как только выясняется, что машина способна решать какую-то задачу, этот факт сам по себе используется для того, чтобы показать, что данная задача не относится к разряду "интеллектуальных".

Однако в некоторых весьма серьезных областях действия машины разительно отличаются от того, что способен делать мозг человека.

Различие между машиной и мозгом

Различие в действиях мозга и машины, пожалуй, наиболее ярко проявилось в методах, которые они используют при игре в шахматы. В настоящее время принято считать, что первое из названных выше предсказаний Саймона, возможно, сбудется через несколько лет (безусловно, при игре в шахматы машины достигли сейчас очень высокого "мастерства"). Однако успех игровых программ основывается совсем на иных факторах, нежели игра человека. Машинные методы шахматной игры базируются на громадной вычислительной способности машины, которая позволяет создавать программу простого обследования (хотя, разумеется, не исчерпывающего) дерева возможностей.

Описывая свой универсальный решатель задач, Ньюэлл, Шоу и Саймон отмечали, что их не удовлетворяет положенный в его основу монотонный (шаг за шагом) способ построения доказательства. Подобный метод совершенно не соответствует поведению людей при решении задачи: человек, как правило, в состоянии "видеть ход доказательства в целом", находясь еще достаточно далеко от его заключительных этапов. Математики нередко говорят о глубоком удовлетворении, которое они испытывают, чувствуя, что находятся на верном пути. Часто это чувство возникает, когда человек еще далек от завершения доказательства в деталях, но обычно оно не подводит.

Ньюэлл, Шоу и Саймон пытались усовершенствовать свой метод, применяя принцип планирования. Суть его заключалась в том, чтобы сначала найти "скелет" доказательства, используя стандартную процедуру GPS, но не принимая во внимание менее существенные типы различий между тем, "что мы имеем", и тем, "чего мы хотим". Уменьшая таким образом множество различий, можно сократить и число необходимых операторов, поскольку некоторые из них оказываются излишними. Найденный таким образом "скелет" доказательства можно затем применить при построении полного доказательства, вводя полное множество типов различий.

Такая модификация системы GPS вряд ли сделала метод сильнее, хотя, вероятно, что-то подобное нужно иметь в виду в любой деятельности по решению проблем. По мнению Дрейфуса, введение в систему этапа "планирования" связано с существенным "структурированием" задачи, при котором важное отделяется от менее важного, что под силу лишь людям.

Дрейфус считает, что планирование - это еще один эвристический принцип, который может быть воплощен в программах, но изначальное формулирование этого принципа в конкретном контексте в настоящее время целиком определяется интуицией человека. Программы искусственного интеллекта ограничены потому, что они не способны порождать свои собственные эвристики. В значительной степени тот же дефект упоминался в связи с пандемониумом Селфриджа (гл. 7), когда рассматривалась трудность организации подходящего слияния с мутацией. О нем говорил также Сэмюэль, касаясь элементов, входящих в статическую оценочную функцию его программы для игры в шашки (гл. 6): программа подбирает числовые параметры с. о. ф. и изменяет выбор ее членов, но не обеспечивает введения качественно новых членов.

Два довольно интересных замечания сделал Гуд при обсуждении игр (гл. 6). В приложении к работе о машинных шахматах Гуд высказал некоторые соображения относительно игры в шашки человека и программы Сэмюэля. Гуд утверждает, что в игре был момент, когда человека можно было бы заставить проиграть. Этот ключевой ход легко было бы оправдать вербальным анализом ситуации, однако метод поиска по дереву, реализованный в программе Сэмюэля, не позволил "заметить" этот ход.

С другой стороны, обсуждая игру го, Гуд отмечает, что даже опытный игрок часто не в состоянии убедительно объяснить начинающему, почему один ход лучше другого. Игрок обычно пользуется при этом такими понятиями, как "атака", "защита" и т. д., но окончательное решение достигается в ходе процесса, не поддающегося анализу. Предложенный метод, по-видимому, дважды отступает от известных машинных методов - вербальное (словесное) описание отодвигает его на один шаг, а дальше вновь следует невербальная область^*.

^* (По сути своей игра го является топологической, и при игре в нее игроки должны обладать мышлением геометрического типа, как предполагают, связанным с работой правого полушария мозга, тогда как аналитико-логическое мышление определяется левым полушарием. Игроки в го как бы должны увидеть на доске целостные геометрические области, а не расположение отдельных камней на ее полях. - Прим. ред.)

По мнению Дрейфуса, тот факт, что в работах по искусственному интеллекту достигнут определенный успех, не обязательно означает, что эти работы ведутся в направлении, которое обеспечивает более глубокое соответствие с естественным интеллектом. Утверждать так, заявляет Дрейфус, - это все равно, что говорить о забравшемся на дерево человеке каменного века, что он находится на пути прогресса, ведущему к космическим полетам. Несомненно, этот человек "ближе" к звездам (по крайней мере к тем, которые ему видны), чем его товарищи на земле. Однако если он действительно хочет проникнуть в космос, то ему лучше слезть с дерева и заняться земными делами: научиться добывать огонь и выплавлять железо, изобрести колесо и т. д.

Мы уже отмечали в гл. 13, что некоторые принципы, используемые в искусственном интеллекте (в частности, эвристики), присущи также мышлению человека, хотя множество других особенностей человеческого интеллекта остается невыясненным. Если принять это во внимание, то можно сказать, что исследователи, работающие в области искусственного интеллекта, не столь уж похожи на того человека из каменного века, о котором говорит Дрейфус.

Параллельная обработка

Многие различия в способах действия мозга и вычислительной машины можно объяснить тем, что вычислительная машина - это устройство, состоящее преимущественно из последовательно работающих схем, а мозг функционирует в высшей степени параллельным образом. [Правда, современные вычислительные машины работают в меньшей степени последовательно, чем машины предыдущих поколений, поскольку в них одновременно с работой центрального процессора (или процессоров) могут быть запущены различного рода процессы передачи данных. Однако - за исключением некоторых самых последних вычислительных машин - число одновременно работающих процессов обычно можно сосчитать на пальцах двух (а то и одной) рук.]

Параллельный процесс можно имитировать на последовательно работающей машине, составляя программу таким образом, чтобы она по очереди "посещала" все составляющие части параллельного процесса. При каждом таком "посещении" параллельный подпроцесс нужным образом модифицируется. Система моделирования параллелизма делает это все более точно по мере того, как уменьшаются промежутки времени между повторными "визитами".

При той высокой степени параллелизма, которая присуща мозгу, попытка достичь того же результата, используя последовательно работающее устройство, может оказаться за пределами физических возможностей. Существует "нейрологический взрыв", возможно менее значительный, чем "комбинаторный взрыв", но тем не менее достаточный, чтобы говорить об абсолютной неэффективности реализации параллельных систем последовательным методом. Используя термин пандемониум, Селфридж стремился подчеркнуть, что созданную им систему лучше всего представлять работающей параллельно.

Дрейфус указывает на способность человека охватить в целом структуру той или иной проблемной ситуации таким образом, что он может выделить существенные аспекты проблемы, удерживая менее существенное в "краевом сознании". Такой результат обеспечивается высокопараллельной работой мозга, но ее не удается смоделировать в искусственных системах.

Однажды Пуанкаре так образно высказался о "параллельном характере" своего мышления: "Как-то вечером, вопреки моим привычкам выпив кофе, я долго не мог заснуть. Мысли буквально толпились в голове. Я чувствовал, как они сталкивались, смыкались в пары, образуя, так сказать, устойчивые комбинации" [3]. Позже он писал: "Можно предположить, что все эти комбинации складывались автоматически в моем подсознании, но только наиболее интересные из них прорывались в область сознания. Все это весьма загадочно. Что есть причина того, что среди тысячи продуктов подсознательной активности лишь некоторым удается перейти порог [между подсознательным и сознательным], тогда как другие остаются за ним?"

То, что Пуанкаре казалось загадочным в 1913 г., остается в значительной степени загадочным и сегодня. Благодаря параллельной работе мозга процессу мышления одновременно доступно громадное число единиц информации и при этом возможно совершать огромное количество действий по их комбинированию и преобразованию.

Интерпретация

Одну и ту же проблему люди могут рассматривать самыми различными способами, а интерпретируют ее такими способами, которые им наиболее знакомы и понятны. Для иллюстрации такого подхода Хофштадтер [4] ввел формальную систему, названную pq-системой. Система включает три символа р, q и - (черточка).

Бесконечное число аксиом системы определяется следующим образом:

xp-qx- является аксиомой, если х состоит только из черточек (х заменяет одну и ту же цепочку черточек в обоих случаях).

Примерами аксиом могут служить

-p-q-- (где х содержит одну черточку)

---p-q---- (где х содержит три черточки) и т. д.

В системе Хофштадтера имеется только одно правило, посредством которого из аксиом и теорем формируются другие теоремы. Это правило следующее:

Предположим, что х, y и z обозначают некоторые цепочки, состоящие только из черточек. Если xpqz есть теорема, то и xpy-qz- есть теорема.

Термины аксиома и теорема используются в формальном смысле. Нетрудно видеть, что не существует ограничения на максимальную длину цепочек, которые являются теоремами, и каждая теорема содержит одно вхождение р и одно вхождение q.

Немного поразмыслив над этой системой, мы убедимся, что необходимое условие того, чтобы некая цепочка была теоремой, заключается в том, что число черточек в первых двух группах черточек должно добавляться к числу их в последней группе черточек. В действительности эту систему можно рассматривать как формальное представление сложения. Важно отметить, что при знакомстве с системой такого рода люди обычно стремятся дать ей интерпретацию (т. е. найти ее "смысл"), подобно тому как мы интерпретировали систему Хофштадтера как операцию сложения.

Казалось бы, нетрудно написать программу для вычислительной машины, выполняющую "интерпретацию" некоторого большого класса формальных систем, подобных pq-системе; однако такая программа не может достигнуть гибкости, присущей мозгу, который непрерывно ищет интерпретации и новые подходы ко всем явлениям, с которыми приходится сталкиваться человеку.

Пример такой гибкости можно обнаружить в процессе синтаксического анализа [5] необходимого для понимания последней строфы стихотворения Р. Бернса "Дом, который построил Джек". Предложение, в котором глубина вложения фраз более двух или трех, обычно очень трудно поддается анализу. Программа для вычислительной машины (скажем, компилятор для программ на языке АЛГОЛ) способна анализировать входную информацию с большей глубиной вложения при условии, что достаточный объем памяти отведен под магазинную память (или стек). Всякий раз, когда процесс анализа переходит с одного уровня вложения на следующий, более глубокий, на стек необходимо занести информацию, обеспечивающую возобновление процесса, который был прерван перед тем, как произошел переход на более глубокий уровень. Информация, занесенная на стек, дает возможность системе ответить на воображаемый вопрос: "Итак, где я был?".

Подобно тому как человек использует лишь небольшой объем кратковременной памяти для решения определенных задач (например, для запоминания номера телефона на время от момента чтения его в телефонном справочнике до окончания набора на телефонном аппарате), так и ЭВМ не в состоянии работать с очень большим стеком при обработке вложенных структур^*. Однако трудностей с последней строфой стихотворения "Дом, который построил Джек" у человека не возникает, по-видимому, потому, что человек отмечает регулярный способ организации вложения и его анализ не зависит от помещения информации в стек. Программы же для вычислительных машин работают стандартным образом: входная информация, подобная последней строфе указанного стихотворения, встречается не настолько Часто, чтобы строить специальное распознающее устройство.

^* (По мнению большинства психологов, объем кратковременной памяти человека составляет 7 ± 2 символа. - Прим. ред.)

Последняя строфа стихотворения Бернса звучит так^*:

^* (Перевод С. Я. Маршака (Собрание сочинений в 4-х томах - М.: ИХЛ 1957, т. 1, с. 371). - Прим. перев.)

Вот два петуха, 
Которые будят того пастуха, 
Который бранится с коровницей строгою, 
Которая доит корову безрогую, 
Лягнувшую старого пса без хвоста, 
Который за шиворот треплет кота, 
Который пугает и ловит синицу, 
Которая часто ворует пшеницу, 
Которая в темном чулане хранится 
В доме, 
Который построил Джек!

Дискретная логика и непрерывность

Обсуждая в гл. 2 основную эвристику обучения и эвристическую связь, мы проиллюстрировали другого рода гибкость, свойственную мозгу. Мозг удивительно легко комбинирует методы, соответствующие непрерывной среде, с обработкой логической информации. (Термин "логика" здесь следует понимать в обычном (ограниченном) смысле, когда рассматриваются вопросы истинности и ложности дискретных понятий. Но логика как наука о мышлении не должна быть ограниченной.)

Автор настоящей книги в свое время указывал на принцип элементарной иллюстрированности [6], который относится к гибкости такого рода. В терминах дискретных понятий может быть выражен целый ряд важных принципов управления, но они имеют элементарную иллюстрированность, выраженную в непрерывных переменных. Например, анализ цели - средства, проведенный Ньюэллом, Шоу и Саймоном (гл. 2 и 3), требует повторения вопросов: "В чем состоит различие между тем, что у меня есть, и тем, что я хочу?", а затем - "Какое действие уменьшило бы это различие?"

Простой сервомеханизм с обратной связью дает элементарную иллюстрацию анализа цели - средства: различие между тем, что существует, и тем, что желательно, измеряется как разность (в угловых единицах) между положением стрелки и опорной точкой, а управляющее действие (момент силы) связано с этой разностью достаточно простым соотношением.

Эвристическая связь по Минскому представляет собой непрерывный критерий подобия между задачами. При автоматическом управлении и в действиях, которые человеку приходится выполнять, решая повседневные задачи управления (вроде езды на велосипеде), ситуация значительно упрощается при переходе к непрерывной модели. Едущий на велосипеде не должен помнить отдельно действия, которые следует предпринять, когда велосипед наклоняется на два градуса и когда он наклоняется на четыре градуса. Более экономным (в смысле требований к памяти) будет связать управляющее действие с наклоном в виде непрерывной функции. Кроме того, это поможет уменьшить время, необходимое для обучения езде на велосипеде. Подобная "экономия" обусловлена тем, что нет необходимости проводить полную серию экспериментов типа "проб - ошибок" для каждого различимого угла наклона: обучение "размывается" по всему диапазону углов. Эвристическая связь действительно находит применение, но в гораздо более простой ситуации, чем та, о которой думал Минский.

Легкость, с которой мозг объединяет дискретные и непрерывные подходы, вероятно, необходимо иметь в виду, рассматривая вопрос об эволюции интеллекта. Автор настоящей книги высказал предположение [7], что непрерывная обработка представляет собой более примитивную форму активности мозга и что дискретное мышление, по-видимому, развивалось на ее основе, однако не вытесняя ее. Легкость комбинирования этих двух форм мышления дает нам еще один пример гибкости мозга, которую трудно имитировать на машинах.