Цена неожиданности

Возвращаясь однажды со Всесоюзной промышленной выставки, мы невольно остановились возле одной из цветочных клумб, на которой работал садовник. Он тщательно разрыхлял землю и с таким искусством высаживал цветы, будто ткал затейливый многоцветный ковер. А неподалеку стоял ребенок лет восьми и с напряженным вниманием, стараясь не пропустить ни одного движения садовника, наблюдал за его работой.

Садовник работал, и на наших глазах клумба заполнялась яркими, многокрасочными цветами. Это был реальный, ощутимый результат его труда.

Но не бездействовал и маленький наблюдатель. Погруженный в раздумье, он впитывал происходящие вокруг него события. Трудно сказать, что именно занимало его мысли в этот момент, - пытался ли он подсчитать число цветов, высаженных садовником, или запечатлеть чередование их красок либо порядок кх расположения на клумбе. Мы не спрашивали ребенка, о чем он думает, но для нас было ясно одно - он тоже работает.

Его нервная система и мозг перерабатывали воспринимаемые им ощущения, и эта незаметная для окружающих деятельность была, наверное, не менее напряженной, чем труд садовника. Результатом деятельности были новые сведения о внешнем мире, накопленные и систематизированные ребенком.

И вот, наблюдая работу садовника и пытаясь проникнуть в скрытый от нас процесс мышления ребенка, мы вспомнили об удивительных машинах, заполнивших залы Промышленной выставки.

С восхищением следят посетители за работой агрегатов, преобразующих энергию из одного вида в другой, многочисленных станков и автоматов, производящих разнообразные детали и изделия. Тут не приходится задумываться над тем, что делают машины. Все видят, как бесформенный кусок металла приобретает изящные очертания сложной детали, как из мотков пряжи вырастают метры красивой ткани, как килограммы сгорающего топлива оживляют громады энергетических агрегатов.

"Труд" этих машин, как и труд садовника, понятен каждому.

Но в зале вычислительных машин все полно загадок. Можно часами смотреть на движущиеся механизмы, на сотни мигающих лампочек, на бесшумно перематывающиеся ленты - и не разгадаешь, над чем трудятся все эти большие и малые машины.

Вот в одну из них вложили пачку картонных карточек с затейливыми узорами пробитых отверстий. А спустя несколько секунд они появляются на другом конце машины уже с новым узором.

Стремительно бегут магнитные ленты, и невидимыми комбинациями нолей и единиц поступает в машину "сырье". И на ленты же выдается "готовая продукция" -новые комбинации нолей и единиц.

"Деятельность" вычислительной машины скрыта от посторонних взоров. Но ее неутомимая работа над нолями и единицами воплощается в реальный, полный глубокого смысла результат.

"Сырье", поступающее в машину, - это условия математической задачи, текст, подлежащий переводу, сведения о протекании управляемого процесса, ситуация игры, программа работы машины. Короче говоря, это исходная информация, которую машина получает из внешнего мира.

Она ее накапливает, систематизирует, обрабатывает в соответствии с программой и выдает во внешний мир "готовую продукцию" - информацию, содержащую решение задачи, переведенный текст, указание об изменении управляемого процесса.

Переработка информации - вот к чему сводится "деятельность" любой вычислительной машины.

Но понятие "информация" - более общее, чем "сырье" и "готовая продукция" вычислительной машины. Оно носит столь же общий характер, как понятие "энергия".

Разнообразные сведения о внешнем мире, которые мы получаем через свои органы чувств непосредственно или с помощью измерительных приборов, сведения, приобретаемые при обучении или общении с другими людьми, сведения о событиях в общественной жизни - все это объединяется понятием информации.

Информацию, поступающую от различных источников, воспринимает, накапливает, систематизирует и обрабатывает нервная система и мозг живого организма и использует ее для взаимодействия с внешним миром. Газеты, книги, журналы, телефон, радио, телевидение, кино и многие другие средства для передачи информации играют огромную роль в жизни человека.

Процессы переработки информации в живом организме и вычислительной машине имеют много общих внешних признаков. Это позволяет моделировать с помощью машин отдельные элементы работы мозга и нервной системы и механизировать обработку информации в различных областях деятельности человека. Поэтому современная наука уделяет большое внимание изучению процессов передачи и обработки информации и отысканию количественных закономерностей, которым они подчиняются. Появилась новая научная дисциплина- "теория информации", получившая большое развитие.

Упоминание о количественных закономерностях в связи с понятием информации может вызвать недоумение. Что, собственно говоря, здесь имеется в виду? Разве можно точно оценить количество новостей, содержащихся в газете или радиопередаче?

Правда, мы часто говорим: "Я сегодня узнал много новостей", или: "В этом журнале мало нового". Но никому обычно не приходит в голову, что вместо неопределенных понятий "много", "мало" можно указать точное число. Оказывается, количество сведений, количество информации, содержащееся в том или ином сообщении, можно подсчитать так же точно, как количество киловатт-часов потребляемой энергии, или количество килограммов руды, поступающей в доменную печь, или количество метров ткани, израсходованной на швейной фабрике для пошива одежды.

Попытаемся на нескольких простых примерах пояснить идею количественной оценки информации.

Вам известно, что футбольный матч "Спартак" - "Динамо" начался в 18 часов. Теперь представьте себе, что в 20 часов по радио будет передано такое сообщение: "Несколько минут назад закончился футбольный матч "Спартак" -"Динамо".

Ясно, что оно не содержит для вас ничего нового - количество информации в нем равно нолю. Ведь вы и так знаете, что футбольный матч, начавшийся в 18 часов, заканчивается около 20 часов. Но в сообщении "матч выиграла команда "Спартак" уже есть нечто для вас новое, ранее неизвестное. Оно содержит вполне определенное количество информации.

Оценка количества информации основывается на законах теории вероятности. Это и понятно. Сообщение имеет ценность, несет информацию только тогда, когда мы узнаем из него об исходе события, имеющего случайный характер, когда оно в какой-то мере неожиданно. А сообщение об уже известном никакой информационной ценности не имеет.

Если вы получите телеграмму: "Сегодня вторник, а завтра будет среда", то такое сообщение может вас удивить разве только своей нелепостью, а не той новостью, которую оно содержит.

Иное дело результат футбольного матча. Состязание может выиграть или "Динамо", или "Спартак", или оно окончится вничью. Его исход носит случайный характер, и именно поэтому известие о нем имеет ценность.

Чем больше интересующее нас событие имеет всевозможных случайных исходов, тем, естественно, более ценным является сообщение о его результате, тем большее количество информации оно несет.

Сообщение о событии, имеющем только два одинаково возможных исхода, содержит одну единицу информации. Таким, например, является известие о том, что у ваших знакомых родился мальчик, а не девочка. Оно содержит единицу информации. То же количество информации несет сообщение, что на лотерейный билет с четным номером пал самый крупный выигрыш.

Выбор единицы для оценки количества информации не случаен. Он связан с наиболее распространенным двоичным способом ее кодирования при передаче и обработке.

Условимся, например, выигрыш четного номера лотерейного билета обозначать 1, а нечетного - 0. Тогда получение известия в виде ноля или единицы укажет результат.

Теперь предположим, что в футбольном матче "Спартак" - "Динамо" одинаково возможен выигрыш каждой из команд, а кроме того, еще и ничья. Здесь в одинаковой мере зероятны уже три исхода, поэтому сообщение о результате матча несет больше информации, чем известие о новорожденном. Для его кодирования нужен не один, а два двоичных разряда. Например: ничья - 00, выиграл "Спартак" - 01, выиграло "Динамо" - 10.

А как оценить известие о выигрыше команды "Спартак" в матче с какой-либо слабой командой? Каждому ясно, что победа первоклассной команды более вероятна, чем поражение или ничья. Такое сообщение не может вызвать особого интереса. Его .не сравнить с известием о победе над командой "Динамо". Поэтому оно содержит меньше информации, является менее неожиданным.

Методы теории информации позволяют оценивать любые сообщения, даже с неодинаково возможным исходом. Иначе теория информации не нашла бы практического применения.

Количественная оценка информации очень важна для проектирования и эксплуатации средств связи и автоматических систем, ее перерабатывающих. Она нужна и при изучении процессов передачи и обработки информации в живых организмах.

Предположим, передается телеграмма. Один за другим через строго отмеренные промежутки времени бегут по каналу электрические импульсы, несущие информацию. Группы точек и тире - это буквы и цифры текста.

В единицу времени канал может пропустить строго определенное число импульсов. Чем больше информации несет каждый из них, тем полнее используется пропускная способность канала. Но для этого нужно разумно кодировать информацию, найти экономный, скупой язык для передачи сообщений.

Вспомним, как мы закодировали русский алфавит. Там каждая буква обозначалась пятью двоичными знаками. Но такой код очень невыгоден для передачи информации. Ведь буква а или е встречается гораздо чаще, чем щ или э. Поэтому в телеграфии и радио пользуются азбукой Морзе. В ней часто встречающиеся буквы кодируются короче, чем встречающиеся редко.

Просмотрите большое количество телеграмм, и вы сразу заметите: такие слова, как "выезжаю", "встречай", "целую", попадаются несравненно чаще, чем, например, "писк" или "топь". Более того, многократно повторяются одни и те же сочетания слов и целые фразы. И вот по проводам летят сигналы, которые бесчисленное количество раз повторяют стандартные слова и фразы.

Возникает естественная мысль: нельзя ли разгрузить каналы связи, обозначив часто встречающиеся комбинации слов короткими удобными кодами?

Тогда вместо длинного, привычного для телеграммы текста: "Горячо поздравляю днем рождения целую Коля", по проводам пронесется "25378 - Коля". Оператор, получивший такой шифр и знающий код, быстро его расшифрует, и адресат получит нормальную телеграмму. Она же была передана всего пятью цифрами, которыми обозначена целая фраза из 33 букв.

Тщательный анализ передаваемой информации позволяет находить наиболее экономные коды. Часто встречающиеся буквы, сочетания букв, слова и даже целые фразы изображают более короткими наборами нулей и единиц, реже встречающиеся - более длинными.

Правда, на практике не всегда можно пользоваться самыми экономными кодами. В каналах связи постоянно возникают помехи - вроде треска и постороннего шума в радиоприемнике, которые могут исказить текст. Из-за помех количество информации при передаче может уменьшиться.

По меткому сравнению виднейшего французского физика Луи де Бройля вполне возможно, что при передаче телеграммой верного решения математической задачи в него вкрадется ошибка. Но совершенно невероятно, чтобы неправильно решенная задача была исправлена ошибками при ее передаче.

Если пользоваться самыми экономными кодами, то ошибки из-за помех могут сильно исказить сообщение, и сами ошибки очень трудно обнаружить.

В сообщении о выигрыше "Спартака", переданной азбукой Морзе, могут оказаться перепутанными одна или даже несколько букв. В телеграмме будет написано не "Спартак", а, например, "Спуртк". Но каждый поймет смысл сообщения. Такую ошибку легко заметить.

Но если из-за помех вместо сообщения - 01 (выиграл "Спартак") получится - 00 (ничья), то такая ошибка в одной "букве" меняет весь смысл известия.

Поэтому для повышения надежности в передаче и обработке информации приходится вводить излишние символы, пользоваться не самыми экономными, а в той или иной степени избыточными кодами.

А когда мы пишем или говорим на обычном языке, разве мы не употребляем лишних символов, слов и даже полых фраз?

Судите сами! Из 32 букв русского алфавита можно составить огромное число разных комбинаций-слов. Но только небольшая их часть образует словарь языка. Подсчитано, что даже и в этих словах и составленных из них фразах только четвертая часть букв выбирается нами произвольно для.передачи смысла фразы и придания ей соответствующей выразительности. Остальные буквы мы должны выводить по законам грамматики.

Если бы люди повседневно пользовались самыми экономными кодами, передавали информацию без избытка, тогда статьи, доклады, книги, различные информационные сообщения были бы предельно краткими. Не приходилось бы затрачивать времени на подбор красивых выражений и спорить о том, как лучше написать тот или иной текст. Все содержание нашей книги - информация, которую вы получили о математике и вычислительной технике, можно было изложить на нескольких десятках страниц, а может быть, и меньше. Но вряд ли кому-либо доставило бы удовольствие чтение такой книги. Она пестрела бы цифрами, формулами и разными условными значками.

Уместно в связи с понятием об избыточной информации рассказать о случае в американском конгрессе во время обсуждения в 1776 году проекта манифеста о независимости Соединенных Штатов Америки.

Почти каждое выражение в манифесте не нравилось кому-нибудь из членов конгресса, и взамен его предлагалось несколько других. Спорам не предвиделось конца. Тогда встал молчавший все время Франклин и рассказал анекдот о шляпочнике, пригласившем своих друзей для обсуждения проекта вывески.

Предполагалось нарисовать на вывеске шляпу и написать: "Джон Томпсон, шляпочник, делает и продает шляпы за наличные деньги".

Один из друзей заметил, что слова "за наличные деньги" являются излишними - такое напоминание будет оскорбительным для покупателя. Другой нашел также лишним слово "продает", так как само собой понятно, что шляпочник продает шляпы, а не раздает их даром. Третьему показалось, что слова "шляпочник" и "делает шляпы" представляют собой ненужную тавтологию, и последние слова были выкинуты. Четвертый предложил выкинуть и слово "шляпочник" - нарисованная шляпа ясно говорит, кто такой Джон Томпсон.

Наконец пятый уверял, что для покупателя совершенно безразлично, будет ли шляпочник называться Джоном Томпсоном или иначе, и предложил обойтись без этого указания. Таким образом, в конце концов на вывеске не осталось ничего, кроме шляпы.

Анекдот возымел действие на членов конгресса. Споры прекратились, и проект манифеста был быстро принят почти без изменения.

Избыточность языка не случайна и, конечно, не является недостатком принятого способа выражать мысли. Наоборот, она придает языку гибкость, богатство, а "излишние" символы позволяют легко исправлять ошибки, неизбежные при передаче и обработке информации.

В течение жизни человек воспринимает, накапливает и перерабатывает огромное количество информации. Значительную часть ее составляют сведения о событиях, в которых он непосредственно не участвовал, отдаленных от него большими расстояниями и длительными промежутками времени.

Мы, разумеется, не были на заседании конгресса, где Франклин рассказал анекдот о шляпочнике. Но это не помешало нам узнать о событии, которое, быть может, осталось неизвестным даже кому-нибудь из членов конгресса.

Попытаемся глубже вдуматься в простой факт. Если мы узнаем о каком-либо событии спустя много времени после того, как оно произошло, то ведь это означает, что информация о событии продолжает существовать. Такое "бессмертие" информации объяснить не трудно.

Всякое событие, действие, факт порождает сигнал: оптический, звуковой, электрический, механический или какой-либо иной физической природы. Он воспринимается и хранится в памяти очевидцев. Событие запечатлевается в описании, фотоснимке, звуковой записи или рассказе о нем.

Сигнал - физический носитель информации. Он может преобразоваться из одного вида в другой, храниться в той или иной физической системе сколько угодно долго - "ждать" момента, когда его "выпустят", чтобы вызвать действие.

Люди давно обратили внимание на то, что сигнал, однажды возникший, уже не исчезнет бесследно. Старинные пословицы: "Сказанного не воротишь", "Слово - не воробей, вылетит- не поймаешь", "Написанное пером не вырубишь топором" - очень метко характеризуют это свойство сигнала.

В надлежащий момент сигнал может воздействовать на живой организм или мертвую систему, вызвать определенную реакцию. Иногда такую же, как само событие, породившее сигнал.

Сигналы, порожденные футбольным матчем "Спартак" - "Динамо", фиксируются в памяти и записях спортивного корреспондента. Обработанная им информация поступает к нам в виде звуковых сигналов в радиопередаче последних известий или статьи в газете. Они с той или иной точностью воспроизводят подробности игры, острые моменты, поведение отдельных футболистов и вызывают почти такую же реакцию, как само событие. Одни радуются рассказу об успехе "Спартака", другие - удачам команды "Динамо".

Для всех систем, в которых протекают процессы обработки информации - будь то автомат или живой организм, - характерна одна обшая черта. Отдельные части системы передают друг другу информацию - сообщение о своей работе - при помощи сигналов, следующих по каналам связи.

После рассказов об устройстве и работе вычислительных и управляющих машин читателю не трудно представить себе взаимодействие сигналов в этих автоматических системах, А как они взаимодействуют в живом организме?