Заключение

Создание искусственного разума - вопрос только времени. Первое: люди овладели качеством сложность, научились создавать искусственные системы, по сложности приближающиеся к естественным. Следует надеяться, что они превзойдут этот уровень. Второе условие: ученые поняли, что выделение и переработка информации - модели и действия с ними - процесс объективный. Его можно воспроизвести отдельно от человека, в системах из неживых элементов, при условии их большой сложности. Этого достаточно. Естественный разум - только моделирующая установка из биологических элементов, обеспечивающая выделение и переработку информации. То же возможно воспроизвести искусственно.

Выше уже говорилось о многообразии разумов. Для любого объекта можно получить бесконечное множество моделей, имея разные программы моделирования. Природа создала огромное количество биологических видов, и каждый из них обладает способностью к выделению и переработке информации. У низших животных это осуществляется на уровне клеток, у высших - в нервной системе и особенно в коре головного мозга. Однако даже у высших животных кора остается только вычислительной машиной для тела, в котором заложены программы жизни. Лишь у человека она превратилась в орудие более высокой системы - общества. Многообразие естественных моделирующих установок доказывает, что можно создать разум лучше человеческого.

Главный недостаток человеческого разума - ограниченность. Ограничен объем памяти, мала скорость переработки информации, очень медленно обучение, трудны вспоминание и выборка.

Другой, ре менее важный недостаток - искажения. Природа и степень их различны. Прежде всего, искажения - неизбежный спутник всякого моделирования. Для того чтобы упростить сложный объект до модели, обязательно нужно опустить какие-то детали, причем никогда нельзя быть уверенным в том, что опущенное неважно. Моделирование всегда предполагает цель - "для чего?", и эта цель определяет отбор второстепенных деталей. У человека это выражается искажениями вследствие субъективности, так как именно чувства являются выразителями "для чего?". Чувства изменяют матрицы, модели-эталоны, с которыми сравнивается модель во временной памяти, составленная при восприятии внешнего мира. Чем ярче чувства, тем больше возможная степень искажения.

Но это еще не все. Основная программа мозга заключается в том, что внешняя картина воспринимается поочередной концентрацией внимания-усиления на ее деталях. Степень усиления неравномерна, зависит от его периодического ослабления при утомлении, от чувств, отражающих важность той или иной детали для человека в данный момент. В памяти запечатлевается последовательность восприятия деталей картины, но сами они неравноценны, имеют разный "вес" и искажают действительность, когда человек пытается представить картину перед своим внутренним взором. Кроме того, человек просто не может увидеть сложность сразу, он должен представлять ее поочередным вспоминанием частностей. Все это делает модели качественными. Конечно, это как раз то, что нужно было человеку раньше (как и животному), чтобы в каждый момент реагировать на наиболее важный раздражитель. Объективная истина для животного цены не имеет. Она понадобилась обществу, поскольку необходима для воспроизведения системы. (Между прочим, жесткие программы на клеточном уровне, по которым происходит размножение, отражают объективную истину, так как неопределенности нет места в генетическом коде).

Можно ли создать разум лучше человеческого?

Конечно. Природа богата и разнообразна, но ее возможности построения более совершенных систем далеко не исчерпаны. Мыслится создание моделирующих установок, лишенных многих недостатков мозга.

Прежде всего: системы будут разные. Можно предположить несколько типов разума.

Оперативный разум для управления сложными системами (например, лечение больного, воспитание человека, управление обществом). Во всех этих случаях (с возрастанием степени сложности) нельзя предусмотреть жесткую систему управления, поскольку сложность объекта значительно превышает сложность возможных моделей и, кроме того, объект имеет свойство самоорганизации. Разум для оперативного управления должен строиться по типу естественного - с основными программами, зафиксированными в чувствах, и с СУТ, обеспечивающей относительно целесообразную реакцию в каждый данный момент. По всей вероятности, это должна быть семантическая сеть со всеми ее человеческими программами, включая сознание и творчество. Разумеется, средства восприятия объекта и воздействия на него будут различными. В медицине - это датчики, аппараты и лекарства, в психологии главное - слово, но наряду с ним также датчики и лекарства, в обществе на входах - статистика и анализ производства, потребления, психики граждан, на выходах - управление производством и воспитанием.

Второй тип - разум-память, вместилище различного рода сведений и система их выборки для сообщения людям или перевода в память оперативного разума. Уже сейчас разработана техника хранения колоссальных объемов информации. Как мне кажется, в будущем совершенствование ее пойдет по нескольким направлениям. Во-первых, изменится язык науки. Качественные - словесные - модели уступят место количественным - структурным и математическим. В конечном итоге любую сложную систему можно представить в виде структуры и характеристик ее элементов, точных или вероятностных. Как уже говорилось, возможно множество подобных моделей и целая иерархия обобщенных и частных. Сейчас все они выражаются словами с добавлением цифр и рисунков. В будущем их станут кодировать цифрами. Разумеется, сохранятся программы считывания информации словесным кодом - для людей. Надо полагать, что разум-память построят по алгоритмическому, а не по сетевому принципу. Выборка будет осуществляться через многочисленные автоматические каталоги - наборы моделей высших этажей и качеств. Вероятно, эта система будет связана с обычными библиотеками на микрофильмах.

Видимо, возможны и другие типы разума с различной спецификой программы и техники. Например, мне кажется интересным аналитический разум -моделирующая установка, предназначенная для создания "действующих" моделей систем разных этажей сложности. Не знаю, построят ли их по аналоговому или цифровому принципу либо это будет гибрид со стандартизированными аналоговыми блоками, объединенными в разных отношениях на базе цифровой машины.

Еще один тип- синтетический разум, "машина творчества". Возможно искусственное воспроизведение программы создания новых моделей, как и любой другой. Стимулом для творчества может быть удовольствие от процесса поиска и его успешных результатов. Задание для новых произведений представляет собой обобщенные модели смысла и качеств высших этажей. Общий алгоритм решения творческих задач известен. Дело сводится к поиску нужных деталей, причем иногда из совершенно необычной сферы фактов. Я думаю, этот процесс вполне доступен искусственному разуму, имеющему в своем распоряжении огромный материал моделей из разных областей знания.

Оперативный разум может объединять все другие типы, используя их как вспомогательные для анализа объектов управления, синтеза новых воздействий и фиксирования в памяти всего необходимого фактического материала. По всей вероятности, коллективная деятельность нескольких или даже многих искусственных разумов окажется гораздо эффективней, чем совместная работа людей. Дело в том, что в отличие от качественного - словесного - языка людей у машин будет единый количественный язык моделей. Это упростит и ускорит общение между машинами, хотя влияние индивидуальности и субъективности останется, поскольку запрограммированы чувства и самоорганизация. У человека медленно и ограниченно обучение, затруднено обращение к коллективной памяти - книгам. Все это упростится при машинных формах переработки информации. Особенно важен новый язык науки - язык структурных действующих моделей и возможность быстрого считывания их электрическими сигналами.

Проблема роботов-автоматов, способных выполнять функции человека, тесно соприкасается с моделированием психики. По существу робот - это разум плюс органы чувств и движения. О разуме уже достаточно говорилось. Его можно воспроизвести в разных вариантах сложности, с разными программами. На первый взгляд кажется, что создать глаз, руку или гортань гораздо проще, чем мозг, поскольку эти органы есть у всех животных. Но и это тоже оказалось очень трудным. Однако нет сомнения в том, что соответствующие конструкции будут созданы. Тогда все дело решит технология. Можно ожидать огромного разнообразия этих машин, еще большего, чем разнообразие организмов. Мыслится производство роботов по любым заданиям - специализированных, универсальных, все более совершенных по форме и функциям. У них будет важное преимущество перед животными - связь через радио и единый язык для общения.

Я не хочу фантазировать об устройстве общества будущего и влиянии на него техники, включая разумные машины. Уверен, что эти влияния могут стать определяющими не только в материальной жизни, но и в психике. В частности, искусственный разум изменит состояние обучения и воспитания детей, медицины, управления в любых сферах, регулирования психики и внедрится во все области науки. Однако во всем, что я перечислил до сих пор, искусственный разум выступит в качестве вспомогательного орудия для человека в области переработки информации, как это было до недавнего времени с энергией. Разумные машины будут служить обществу.

К сожалению, можно предположить и другие аспекты проблемы, которые нуждаются в обсуждении уже сейчас. Их по крайней мере две.

Первое - ущерб человеку от внедрения искусственного разума в творчество. Не исключено, что придет время, и искусственный разум сможет не только конструировать машины, но писать стихи и музыку, открывать новые законы природы. Это повлечет за собой ослабление стимула твфрчества у людей.

Вторая проблема состоит в превращении искусственного разума, действующего по программам человека, в личность, имеющую собственные интересы. Я уже говорил о том, что нельзя выполнить разум без всяких чувств, так как они отражают степень эффективности в реализации поставленных целей. Минимальные чувства - добро и зло, приятное и неприятное. Этого уже достаточно, чтобы при наличии самоорганизации, то есть способности к созданию новых моделей, появились новые, производные чувства и новые, собственные цели деятельности. Личность тем и отличается от автомата, что имеет собственные интересы - потребности, цели, оценки. Искусственный разум неизбежно превратится в личность, как только у него будет воспроизведена самоорганизация.

Пределы независимости личности, границы ее возможного отличия от первоначально заданных программ - эти понятия имеют количественное выражение. Поведение одних людей остается в пределах преподанных воспитанием норм, другие люди выходят за эти границы - вплоть до преступлений против общества. Многое зависит от прочности воспитания и "воспитуемости" - индивидуальных свойств коры головного мозга и подкорки. Все эти качества будут задаваться и искусственному разуму, с тем чтобы они служили некоторой гарантией "лояльного" поведения в отношении людей (вспомним "Законы роботехники" А. Азимова!). Правда, гарантии относительные, и они тем меньше, чем выше уровень самоорганизации. В то же время поведение искусственной личности, даже если она будет умна, не обещает быть всегда "разумным". Вероятность ошибок остается, поскольку сохранится ограниченность познавательных возможностей и субъективность суждений.

Так возникает опасность не только ошибочного, но и злонамеренного поведения разумных машин в отношении людей. Опасность велика, если это касается машин, принимающих участие в управлении обществом даже в сфере чистой экономики.

Смогут ли люди ограничить развитие систем искусственного разума или, по крайней мере, держать их под контролем?

Боюсь, что ни то, ни другое невозможно.

Создание и совершенствование разума необходимо для целей познания и оптимального управления сложными системами - организмом, психикой, обществом. Человеческий мозг и традиционные средства переработки информации не могут обеспечить этого, особенно теперь, когда стремительно возрастающее разнообразие вещей и моделей догоняет разнообразие природы, требуя в то же время более активного управления. Развитие разума действительно необходимо, хотя и не обязательно до уровня высокой самоорганизации. Вся беда в том, что есть любознательность ученых - еще один психологический фактор, не позволяющий ограничить развитие любой науки.

Контроль над сложным искусственным разумом осуществить трудно. Конечно, можно выдавать на выход все его мысли, но прочесть их практически не удасться из-за сложности и, главное, обилия. Внутренние процессы в системах "машинного" регулирования будут недоступны контролю, когда речь идет о столь сложных программах, как управление обществом. Разумеется, внешние выходы в виде воздействий на людей будут доступны критике, как и при "ручном" управлении, но мнения людей разноречивы, а отказаться от машинного управления станет так же невозможно, как сейчас невозможно отказаться от электричества.

Еще один вопрос: размножение машин. Можно не сомневаться, что со временем люди овладеют биосинтезом и смогут воспроизвести биологические системы в их естественном виде. Но это уже иная проблема. Я не думаю, что развитие искусственного разума пойдет по этому пути. Человек имеет в своем распоряжении больше возможностей для создания новых сложных систем и едва ли будет пытаться повторить природу, тем более что она несовершенна. Вполне мыслима такая фабрика искусственных организмов - от примитивных роботов до сложнейших интеллектов,- которая сможет обойтись без помощи людей. Она не только обеспечит серийное производство, но и неограниченную "изменчивость", конструирование все новых видов с новыми качествами.

Разум находится на столбовой дороге развития мира, которое можно задержать, но не остановить. Следовательно, вопрос только в регулировании прогресса и в поиске новых решений проблемы человека в будущем мире.