Мифы о мышлении

Быть знатоком в области машинного интеллекта и чего-то подобного весьма утомительно: споры, бесконечные дискуссии возникают сами собой при первой же возможности. Обычно эти споры рождаются на основе давно себя изживших ошибок. Давайте обратимся к некоторым из них.

Миф: Вычислительные машины никогда не смогут...

Вряд ли играет роль то, как закончится это предложение, поскольку стандартное доказательство столь же слабо, как и неизбежно. Если убрать мишуру, оно выглядит примерно так: "Вычислительные машины не могут..., потому что никто не думал о том, как заставить их..." Те иллюзорные качества, которые чаще всего предлагаются критиками машинного разума, включают обучение, самоанализ и эстетическое чувство, каждое из которых говорит об определенной степени незнания соответствующей литературы. Программы и идеи, описанные в настоящей книге, уже в какой-то мере проиллюстрировали подобные возможности. Насколько хорошо эти программы и идеи будут работать, предстоит еще разобраться, но по крайней мере двери сейчас широко распахнуты.

Разумеется, вера в превосходство человека является традиционной. Когда-то наша Земля считалась центром Вселенной, сегодня это всего лишь одна из планет. Когда-то нам приписывалось божественное происхождение, сегодня ряд людей считает, что это результат удачного ^стечения обстоятельств в развитии приматов. Когда-то наш разум был вне конкуренции, но, возможно, придет день, когда вычислительные машины будут смеяться над нами и задавать вопрос о том, могут ли биологические информационные процессоры быть достаточно разумными. Осторожно относитесь к тем, кто думает, что этого никогда не случится. Предки этих людей преследовали Галилея и высмеивали Дарвина.

Миф: Вычислительные машины не обладают разумом, потому что они не сочиняют, как Шекспир, не пишут музыку, как Бетховен, или не занимаются наукой, как Ньютон

Логика требует, чтобы демонстрация разумности вычислительных машин не связывалась обязательно с получением результатов, характерных для гениев. В противном случае мы, рядовые писатели, музыканты и ученые, вынуждены были бы с большим огорчением отнести себя к разряду не обладающих разумом.

Миф: Вычислительные машины могут делать только то, на что они запрограммированы

Вычислительные машины не образуются из ничего, так что в каком- то мало интересном смысле их возможности являются следствием усилий программистов. Но точно так же верно и то, что люди обязаны во всем генетическому коду. Когда-нибудь вычислительные машины буду располагать такими внутренними возможностями по обработке информации, которые позволят им перешагнуть порог, за которым возможно непосредственное обучение у окружающей среды. Как только люди доведут разумность вычислительной машины до этого уровня, машины, без всякого сомнения, будут дополнять прямо запрограммированные людьми возможности точно такими же средствами, которыми пользуются люди, а именно благодаря тому, что им что-то будет сказано, путем чтения, задавая, вопросы, совершая эксперименты и проявляя любопытство.

Миф: Программное обеспечение никогда не может сравниться с обеспечением мозга, потому что транзисторы отличаются от нейронов

Если мы обратимся к сегодняшним проявлениям интеллекта вычислительных машин, то мы увидим много слоев, каждый из которых опирается на элементы, характерные для предыдущих слоев, образующих тем самым иерархическую структуру, в которой разумная программа весьма далеко отстоит от транзисторов, в конечном счете обеспечивающих ее работу. См. рис. 9.8.

Рис. 9.8. Разумные программы основываются на многоуровневой обработке информации

Вся сложность, присущая данному слою, сводится к нескольким атомным понятиям, которые и представляют собой элементы слоя, расположенного выше. Но при наличии такой изоляции нельзя предполагать, что детальная структура нижних уровней может существенно влиять на то, что происходит наверху. Это свидетельствует против того, что изучение нейронов может дать много информации о работе интеллекта. Даже глубокое и четкое понимание работы нейронов может дать в смысле понимания интеллекта не больше, чем полное понимание транзисторов может дать для понимания того, как вычислительная машина воспринимает естественный язык и может на нем говорить. Люди не смогут думать, если у них изъять нейроны, но если изучать только нейроны, то у нас будет лишь самый минимальный шанс добраться до интеллекта.

И все же кое-кто заявляет, что вычислительные машины не могут быть разумными, поскольку полупроводниковая аппаратура никогда не сможет сделать того же, что мозг, построенный из нейронов. Их позицию ослабляет приведенное соображение об иерархии, а также отсутствие твердых представлений о том, как работают эти невероятно запутанные нейронные сети.

Миф: Вероятностные механизмы вызывают вдохновение и объясняют свободное волеизъявление

Людям нравятся объяснения. Даже когда нечто противоречит анализу, брешь заполняют принимаемые "по умолчанию" объяснения, позволяющие уладить неприятные вопросы с наименьшим шумом. В Древней Греции многие поддерживали мнение Сократа, что глубокие, неожиданные мысли навеваются богами. Сегодня эту роль выполняет нейрон, ведущий себя нерационально и даже случайно. Однако более правдоподобно, что возрастающая случайность в поведении нейронов представляет собой проблему эпилептиков и алкоголиков и не является преимуществом гения. Эффективный машинный разум будет базироваться на описании, представлении, умении решать задачи и на других важных соображениях, а не на беспорядке.

Миф: Вычислительные машины никогда не будут обладать эстетическим чувством

Существует мнение, что настоящие произведения искусства никогда нельзя получить, пользуясь научным подходом. Красоту нужно ощущать, она не может быть сведена к правилам и рациональному мышлению. Всякая попытка будет тщетна.

Конечно, многие художники не способны сформулировать, что они делают, но это еще не доказательство, что вычислительные машины никогда не смогут создать картину, пьесу или музыкальное произведение или не смогут наслаждаться ими. В самом деле, более разумные вычислительные машины несомненно найдут искусство интригующим, поскольку описания и их взаимодействия должны, конечно, играть главную роль на пути понимания того, почему какая-то форма искусства является интересной, захватывающей, беспокоящей или новой.

Во всяком случае, если вычислительные машины достигнут высокого уровня в искусстве, то возникнет вопрос, а в чем же, собственно, заключается искусство? Если некто напишет программу, способную создать 10 000 струнных квартетов в день, то можно ли считать эти квартеты произведением искусства? По-видимому, нет. Как это ни странно, но искусство заключается в программе.

Миф: Интеллект никогда не удастся понять

Из всех мифов этот, пожалуй, наиболее близок к истине, но по совсем неожиданным соображениям. Быть интеллектуальным - значит быть загадочным. "Как он мог до этого дойти?" - спрашиваем мы. До тех пор пока происхождение идеи остается неясным, она выглядит как откровение, но как только на поверхность выходит ее объяснение, мы удивляемся: "Как это я об этом не подумал, ведь это так очевидно!". Когда процесс окажется разделенным на части, изученным и понятым, похоже, что интеллект исчезает.

То же самое в значительной степени происходит при изучении программ. Удивительная работа программы становится совершенно естественной, как только выясняются детали программы и присущие ей ограничения. Вместо того чтобы объяснить разумность системы, изучение как бы убирает ее вовсе. Следует признать естественность такой тенденции.