Часть вторая. Теория информации и кодирования

Понятие информации - одно из основных категорий кибернетики, так как при автоматизации любых процессов управления на первый план выдвигаются процессы преобразования информации. Поэтому кибернетику часто называют наукой о преобразовании информации с целью управления.

Как уже отмечалось, понятия информации, удовлетворяющего кибернетику, пока не существует. То понятие информации, которое обычно используется, заимствовано из теории связи. Основная его особенность состоит в абстрагировании от смыслового содержания информации, использовании ее количественной меры по Шеннону. Однако для разрешения большинства задач кибернетики необходимо оперировать именно количественными характеристиками смыслового или семантического содержания информации.

Следует заметить, что в ряде случаев классическое понятие количества информации бывает полезно при изучении процессов управления. Именно отвлечение от смыслового содержания информации позволяет получать обобщенные характеристики по загрузке каналов связи, памяти ЦВМ, каналов преобразования информации в ЦВМ и АСУ и т. д. Поэтому в этой части будут в основном рассмотрены две концепции информации: одна, характерная для теории связи и основанная на вероятностном подходе к процессам преобразования информации, и вторая, сформировавшаяся при машинных способах обработки информации, в которой используется понятие тезауруса информации.