Как же измерять информацию?

Потребность в получении информации возникает всякий раз, когда ощущается пробел в знаниях. Конструктору межпланетного корабля нужны данные о космических лучах; при мысли об отсутствующем друге беспокоит неизвестность относительно состояния его здоровья; разработка планов наступления часто затрудняется недостатком сведений о противнике.

Чтобы охарактеризовать объем недостающей нам информации, можно в каждом конкретном случае составить список вопросов, ответы на которые снабдили бы нас всеми необходимыми сведениями. Число вопросов в таком списке могло бы служить самой грубой мерой того количества информации, которое будет содержаться в сообщении, отвечающем на эти вопросы.

Но по своей "информационной емкости" вопросы сильно различаются между собой. В ответе на вопрос: "Какова температура плавления алюминия?" гораздо меньше информации, чем в ответе на вопрос: "Каковы температуры плавления цветных металлов?". Чтобы число вопросов могло служить точной и вполне определенной мерой количества информации, содержащейся в отвечающем на них сообщении, вопросы нужно каким-то образом стандартизировать.

Простейшим является вопрос, ответ на который может иметь только два варианта: "да" и "нет",- например, "Превышает ли температура воды 60°?"

Легко понять, что и всякий другой, вопрос с двумя вариантами ответа сводится к тому же самому. Например, вопрос о поле новорожденного с вариантами ответа "девочка" или "мальчик" может быть задан в форме: "Является ли родившийся девочкой?", на что можно отвечать только "да" или "нет". Это дает нам основание объединить все вопросы с двумя вариантами возможного ответа в общую группу так называемых двоичных вопросов.

Двоичный вопрос, очевидно, является самым простым (когда заранее знают, что возможен только один вариант ответа, вопрос задавать излишне). В связи с этим количество информации, содержащейся в ответе на один двоичный вопрос, в кибернетике принимается за единицу информации.

Помимо двоичных вопросов, возможны вопросы троичные (с тремя вариантами ответа), четверичные (с четырьмя вариантами) и вообще n-ричные (с п вариантами ответа). Вопрос: "В каком месяце родился писатель Н.?" является двенадцатеричным. Естественно считать, что в ответе на такой вопрос содержится значительно больше информации, чем в ответе на двоичный вопрос (например, родился ли этот писатель в первой половине года).