Измерение количества информации

Часто приходится слышать, что то или иное сообщение несет мало информации или, наоборот, содержит исчерпывающую информацию.

При этом разные люди, получившие одно и то же сообщение (например, прочитав статью в газете), по-разному оценивают количество информации, содержащейся в нем.

Это происходит оттого, что знания людей об этих событиях (явлениях) до получения сообщения были различными.

Поэтому те, кто знал об этом мало, сочтут, что получили много информации, те же, кто знал больше, чем написано в статье, скажут, что информации не получили вовсе.

Количество информации в сообщении, таким образом, зависит от того, насколько ново это сообщение для получателя.

Однако иногда возникает ситуация, когда людям сообщают много новых для них сведений (например, на лекции), а информации при этом они практически не получают (в этом нетрудно убедиться во время опроса или контрольной работы).

Происходит это от того, что сама тема в данный момент слушателям не представляется интересной.

Итак, количество информации зависит от новизны сведений об интересном для получателя информации явлении.

Иными словами, неопределенность (т. е. неполнота знания) по интересующему нас вопросу с получением информации уменьшается.

Если в результате получения сообщения будет достигнута полная ясность в данном вопросе (т. е. неопределенность исчезнет), говорят, что была получена исчерпывающая информация.

Это означает, что необходимости в получении дополнительной информации на эту тему нет.

Напротив, если после получения сообщения неопределенность осталась прежней (сообщаемые сведения или уже были известны, или не относятся к делу), значит, информации получено не было (нулевая информация).

Если подбросить монету и проследить, какой стороной она упадет, то мы получим определенную информацию.

Обе стороны монеты "равноправны", поэтому одинаково вероятно, что выпадет как одна, так и другая сторона.

В таких случаях говорят, что событие несет информацию в 1 бит.

Если положить в мешок два шарика разного цвета, то, вытащив вслепую один шар, мы также получим информацию о цвете шара в 1 бит.

Итак, бит – наименьшая единица представления информации.

В информатике часто используется величина, называемая байтом (byte) и равная 8 битам.

1 байт = 8 бит (байт – наименьшая единица обработки и передачи информации).

И если бит позволяет выбрать один вариант из двух возможных, то байт, соответственно, 1 из 256.

Наряду с байтами для измерения количества информации используются также более крупные единицы: килобайты, мегабайты, гигабайты, терабайты.

Рассмотрим пример:
книга содержит 100 страниц; на каждой странице – 35 строк, в каждой строке – 50 символов.

Объем информации, содержащийся в книге, рассчитывается следующим образом:

Страница содержит 35 × 50 = 1750 байт информации.

Объем всей информации в книге (в разных единицах):

1750 × 100 = 175 000 байт.

175 000: 1024 = 170,8984 Кбайт.

170,8984: 1024 = 0,166893 Мбайт.

Примерные Вопросы:

1. Что такое кодирование информации в общем смысле?

1. Каково место кодирования среди процессов обработки информации?
2. Что называется знаком, абстрактным алфавитом? Приведите примеры.
3. Что такое код? Приведите примеры кодирования и декодирования.
4. Что называется избыточностью кода?
5. Какова избыточность естественных языков? Для чего она служит?
6. Приведите примеры искусственного повышения избыточности кода.
7. В чем состоит содержание 1-й и 2-й теорем Шеннона?
8. Какие коды называются двоичными? Приведите примеры.
9. Какой код используется для кодирования букв латинского алфавита букв

персонального компьютера?

1. Какие коды используются в вычислительной технике для кодирования

букв русского алфавита?

1. Как получить прямой и дополнительный коды целого числа?
2. Как представляются действительные числа в памяти ЭВМ?

14. Как кодируется графическая информация, если изображение черно-белое? цветное?

И.т.д.

Поиск по сайту: