15. Перспективы на будущее

В последних двух главах мы затронули ряд глубоких вопросов, касающихся природы интеллекта, и рассмотрели, в какой степени исследования по искусственному интеллекту отражают его сущность. Определенная группа исследователей, работающих в области искусственного интеллекта, полностью игнорирует связанные с этой областью философские вопросы. Представители этого направления считают, что работы по искусственному интеллекту знаменуют существенный прогресс наших знаний и что самая важная задача состоит, в том, чтобы не ослаблять усилий и моделировать возможности мозга как можно в большем числе прикладных областей. Чтобы добиться этого, необходимо разработать определенную последовательность методов, предназначенных, для решения задач в каждом конкретном случае. Высказывается точка зрения, что если существует некий общий принцип функционирования интеллекта, то с наибольшей вероятностью он проявится именно в такого рода деятельности по мере накопления опыта.

Хотя в подобной "приземленной" точке зрения и есть свое рациональное зерно, необходимо все же не просто двигаться вперед "без оглядки", а время от времени останавливаться, чтобы оценить то, что уже накоплено.

Обучение

Одной из многих особенностей, отличающей основное направление исследований в области искусственного интеллекта от других разделов кибернетики, является недостаточное выделение обучения как существенной особенности искусственной интеллектуальной системы. Дать определение понятию "обучение" почти столь же трудно, как и определить понятие "интеллект". То, что под этим обычно подразумевается в контексте искусственного интеллекта или кибернетики, это не столько накопление данных (ведь мы не говорим про магнитофон, что он "обучается"), сколько приобретение и накопление на опыте необходимых навыков.

Эти две разновидности обучения не столь различны между собой, как может показаться с первого взгляда. В задаче распознавания образов процесс обучения включает элементы обеих из них: чем более тонкими становятся обобщения, формирующиеся в ходе обучения, тем сильнее ощущение, что в действительности происходит накопление навыков; таким образом, одна разновидность обучения переходит в другую. Метод базы данных, использованный в системе ПЛЭННЕР (гл. 9) и в экспертных системах (гл. 10), перемежает фактические данные с представлениями процедур и стратегий. Благодаря этому различие между приобретением навыка и простым запоминанием становится расплывчатым; по-видимому, аналогичное явление происходит и при обучении человека.

Но даже с учетом этих интересных особенностей обучение машин не сопоставимо с обучением человека по своей гибкости. Как предполагается, эволюция мозга человека происходила в условиях джунглей, и тем не менее человека можно научить составлять программы для вычислительных машин, играть в шахматы и размышлять о работе своего мозга. Что же касается машин, то их обучение в большинстве случаев (если не всегда) - это "обучение с учителем". У человека обучение навыку в основном происходит без учителя, или по крайней мере без учителя, определяющего все детали этого процесса.

Создание программы для вычислительной машины - в случае не слишком точно определенной задачи - представляет собой процесс обучения, при котором обучающейся системой является содружество вычислительной машины и программиста. Способность к обучению в этом содружестве следует отнести к программисту, если исключить то небольшое число случаев (особенно шашечную программу Сэмюэля), когда программы сами способны обучаться. Умаление роли машинного обучения в современных исследованиях в области искусственного интеллекта символизирует собой молчаливое признание превосходства обучения человека над всем, что может быть достигнуто в машинах.

Среди исследований, проводившихся в Массачусетсом технологическом институте (США), были работы, связанные с миром кубиков, которые напоминали работу с миром кубиков Винограда (гл. 9). Отличие состояло в том, что здесь речь шла о реальном пространстве с твердыми кубиками, манипулятором и наблюдающими его "глазами" телевизионной камеры. Программа, которая взаимодействует с этим миром кубиков, способна после показа примеров и контрпримеров обучиться таким понятиям, как "арка". Примером арки в мире кубиков могли бы служить два рядом стоящих блока, соединенных друг с другом третьим блоком, лежащим сверху. Чтобы показать, что два вертикально стоящих блока не должны касаться друг друга, необходимо представить пример "неарки". Последняя похожа на арку, но два вертикальных блока в ней соприкасаются.

Когда система "знает", что подразумевается под аркой, ей можно отдать команду: "Построй арку". Тогда система подбирает блоки, находящиеся на складе, и строит арку.

Это довольно простой пример обучения понятиям, который вряд ли производит большое впечатление. Система начинает с некоторого множества первичных отношений, таких; как поддерживает и касается, и на этом языке строит описание "арки". Однако в соответствии с общим принципом объединения стратегической и фактической информации данный подход может быть обобщен таким образом, чтобы обучение понятиям включало обучение как методам, так и структурам. Это позволило бы поч строить весьма гибкую систему.

Самоорганизующиеся системы

Многие исследователи понимали, что изменения, связанные с обучением системы, необходимо вводить каким-то более фундаментальным и универсальным способом. Первые - попытки создать самоорганизующиеся сети из нейроноподобных элементов сегодня выглядят несколько наивными. Тем не менее они заключали в себе важные идеи. Мы уже упоминали пандемониум Селфриджа и персептрон Розенблата (гл. 7, 8).

Некоторые работы, касающиеся пластичности реальных нейронов, были рассмотрены в гл. 12. Разумно предположить, что изучение живых систем обогатит нас полезными идеями относительно того, как строить гибкие и эффективные искусственные системы. На самом деле, как мы видели в гл. 12, наши Знания о пластичности реальных нейронов весьма неполны и неоднозначны. Тем не менее в этой области наблюдается чрезвычайно быстрый прогресс, и исследователи полны энтузиазма, как это было в начале 50-х годов, когда кибернетика бурно развивалась и набирала силу. Причины подъема кроются прежде всего в широком распространении вычислительных машин и изобретении метода исследования мозга с помощью микроэлектродов. Возникает чувство, что перед нами открываются новые возможности и что мы стоим на пороге новых и интересных открытий.

В предыдущей главе мы отмечали различные недостатки, присущие сегодняшним работам в области искусственного интеллекта. Один из них связан с трудностью объединения дискретного и непрерывного в искусственных системах, с чем без труда справляются живые системы. Было высказано предположение, что в живых системах обработка непрерывной информации является элементарной формой обработки информации. В конце концов, даже у человека некоторые части нервной системы все еще связаны с такого рода информацией, в частности при регуляции работы сердца, дыхания и т. д. Если такое представление верно, то следует считать, что использование дискретной информации возникло в процессе эволюции из более элементарной (непрерывной) деятельности. В таком случае легкость, с которой нервная система переходит от непрерывной формы деятельности к дискретной и наоборот, можно считать результатом сохранения особенностей более элементарной (непрерывной) деятельности в сочетании с более сложной (дискретной) формой, которая пришла ей на смену. Чтобы выяснить эти вопросы, необходимо найти более фундаментальный подход к исследованию интеллектуальных систем.

К сожалению, исследователи, работающие в области искусственного интеллекта, оказались разделенными на два лагеря: одни из них следуют основному направлению эвристического программирования, а другие отыскивают фундаментальные механизмы в самоорганизующихся системах. Однако фактически между этими двумя подходами больше общего, чем обычно принято думать: ведь любое правило модификации синаптической связи или формы нейронных соединений является, по существу, эвристикой решения задачи и здесь применимо многое из того, что говорилось об эвристиках.

Морально-этические проблемы искусственного интеллекта

Там, где работы по искусственному интеллекту непосредственно соприкасаются с повседневной жизнью, создается впечатление, что они сулят большие потенциальные выгоды (во всяком случае, так стремятся представлять дело многие исследователи). Однако, безусловно, не следует считать, что социальные и другие последствия таких исследований могут быть только положительными.

Прежде всего, конечно, нельзя забывать о том, что работы по искусственному интеллекту требуют немалых капиталовложений, которые поступают из общественных фондов и которые можно было бы с успехом израсходовать как-то иначе (или просто сэкономить).

Более серьезным, пожалуй, следует считать то соображение, что некоторые достижения в области искусственного интеллекта могут иметь явно негативные последствия. Работы по игровым программам, несомненно, определенным образом связаны с военной стратегией и потому получили финансовую поддержку. Методы распознавания образов нашли, в частности, применение при разработке крылатых ракет. Подобным образом и другие методы искусственного интеллекта могут играть свою роль в военных системах будущего, планирующих свои действия без участия людей. (К сожалению, способность людей изобретать средства самоуничтожения, по-видимому, безгранична.)

Вейзенбаум указал еще одну область, в которой результаты исследований по искусственному интеллекту могли бы найти нежелательное применение. Речь идет о системах распознавания речи. В основном эти системы могут найти весьма полезные для общества приложения. Однако существенное беспокойство вызывает возможность их использования для целей подслушивания телефонных разговоров.

Взаимодействие человека с машиной

Говоря о практических приложениях искусственного интеллекта, необходимо заметить, что в ряде случаев может оказаться невыгодным пытаться заставить машину выполнять определенные интеллектуальные задачи. Если задачи не носят повторяющегося характера, то они не обременительны для людей. Люди в состоянии оценить творческий характер таких задач и могут испытывать чувство удовлетворения, выполняя их. Это чувство, вероятно, усилится от сознания того, что задачи не поддаются машинизации.

Вычислительные машины обладают "способностями", отличными от способностей человека. И для реализации "способностей" машины наиболее подходят задачи, которые достаточно просто формулируются, но требуют больших затрат времени. В случае шахмат машинные методы игры достигли высоких стандартов именно благодаря способности машины быстро выполнять огромный объем работы. Люди играют в шахматы иначе.

Принципиальное различие способностей человека и машины открывает - при разумном их сочетании - широкие возможности для достижения высокой эффективности, труда во многих областях. Для этого требуется тщательный анализ проблемы взаимодействия между человеком и машиной. Высказывалась, в частности, точка зрения, что можно добиться весьма высокого шахматного мастерства путем совместных действий человека и вычислительной машины. При этом человек будет указывать важнейшие характеристики игры, а машина вести обследование дерева возможностей.

Хорошо известные примеры использования вычислительной машины в научных исследованиях отличаются именно таким совместным характером. В результате рождается "научный работник", который гораздо сильнее, чем человек или машина в отдельности. Исследования в области искусственного интеллекта имеют своей целью расширить долю участия вычислительной машины в таких областях деятельности, которые раньше считались непригодными для автоматизации. Однако большого экономического эффекта от использования "чистого" искусственного интеллекта вряд ли следует ожидать. И нет ничего плохого в том, что робот время от времени будет нуждаться в совете человека - если, конечно, он не работает на какой-то далекой планете или в других ситуациях, где вмешательство человека полностью исключается.

Экспертные системы имеют интерактивный характер, поскольку они участвуют в диалоге с пользователем. Тем не менее от них не требуется, чтобы они набирали опыт путем прямого контакта с реальным миром, - знания усваивает человек, который делится ими с машиной. Во многих - если не во всех - областях применения "абсолютно чистый" искусственный интеллект следует рассматривать лишь как своего рода "хитроумный прием".

К вершинам достижений

Тем не менее потребность в "чистом" искусственном интеллекте высокого уровня остается. Исследования, связанные с искусственным интеллектом, привлекательны по самой своей сущности, в частности, потому, что вопрос о том, как много можно добиться от вычислительной машины, интересен с философской, общемировоззренческой, точки зрения. Эти исследования, разумеется, сулят двоякую выгоду. Во-первых, как и в прошлом, они положат начало новым вычислительным методам, которые в дальнейшем найдут новые приложения. Во-вторых, они, безусловно, прольют свет на характер самих исследуемых задач, что поможет нам в понимании естественного интеллекта.

Указанный философский вопрос мы сформулировали в гл. 1 так: "Существуют ли такие аспекты интеллекта человека, которые в принципе нельзя смоделировать на вычислительной машине?"

Работы по искусственному интеллекту могут привести нас к определенному ответу на этот вопрос лишь в том случае, если удастся создать систему, моделирующую человека во всех интересующих нас аспектах (разумеется, мы имеем в виду только интеллектуальные аспекты: несущественно, будет ли эта машина внешне похожа на человека и какую "пищу" она будет потреблять). Такая возможность - если она вообще осуществима - может реализоваться лишь в далеком будущем. Сегодня же этот вопрос является делом скорее убеждения, чем объективного доказательства.

Если, как полагают большинство ученых, мозг действует в соответствии с известными законами физики, то в принципе можно создать искусственную систему, способную моделировать его работу. В таком случае, кажется, нет объективных препятствий к тому, чтобы создать программы, которые проводили бы тест Тьюринга (переговорную игру) в более глубоком смысле, чем это обычно имеется в виду, иначе говоря, если бы человек чувствовал, например, "близость" с машиной, боялся причинить ей "неприятности" или мог бы перекинуться с ней шуткой. (Джеймс [3] рассматривает вопрос о природе юмора и высказывает соображение, что о мыслительном процессе человека можно многое узнать по тому, что он находит для себя смешным.)

Разумеется, если будет создана такая машина, что человек станет заботиться о том, чтобы не задеть ее чувства, то это поставит перед людьми немало новых морально-этических вопросов. Если же говорить о приложениях, то такое развитие событий можно будет считать даже шагом назад. Ведь одним из важных преимуществ систем искусственного интеллекта считается то, что их можно эксплуатировать без каких-либо обязательств перед ними. Это преимущество сразу исчезнет, как только будут созданы действительно человекоподобные устройства.

Но, разумеется, это вопрос отнюдь не ближайшего будущего. Любая попытка оценить, когда в будущем может случиться нечто подобное, носит чисто умозрительный характер. В одной из своих ранних работ [4] автор настоящей книги предпринял такую попытку, о которой он считает необходимым напомнить здесь:

Можно лишь предположить, что тест Тьюринга удастся выполнить в его нетривиальной форме (т. е. без ограничения на предмет разговора или способ ответа) к 2000 г. Думаю, что и тогда вычислительная машина будет похожа на весьма скованного человека, которого невозможно втянуть даже в очень скромную беседу. Быть может, к 2050 г. вычислительная машина станет "кем-то", с кем можно обменяться шуткой, и когда "собеседник" [человека] до такой степени обретет свое собственное лицо, нам придется подумать о том, как вести себя с ним.