Тема №11 (время – 3 мин)

Тема: Вычисление информационного объема сообщения.

Что нужно знать:

· с помощью K бит можно закодировать различных вариантов (чисел)

· таблица степеней двойки, она же показывает, сколько вариантов Q можно закодировать с помощью K бит:

· при измерении количества информации принимается, что в одном байте 8 бит, а в одном килобайте (1 Кбайт) – 1024 байта, в мегабайте (1 Мбайт) – 1024 Кбайта[7]

· чтобы найти информационный объем сообщения (текста) I, нужно умножить количество символов (отсчетов) N на число бит на символ (отсчет) K:

· две строчки текста не могут занимать 100 Кбайт в памяти

· мощность алфавита M – это количество символов в этом алфавите

· если алфавит имеет мощность M, то количество всех возможных «слов» (символьных цепочек) длиной N (без учета смысла) равно ; для двоичного кодирования (мощность алфавита M – 2 символа) получаем известную формулу:

Пример задания:

Для регистрации на сайте некоторой страны пользователю требуется придумать пароль. Длина пароля – ровно 11 символов. В качестве символов используются десятичные цифры и 12 различных букв местного алфавита, причём все буквы используются в двух начертаниях: как строчные, так и заглавные (регистр буквы имеет значение!).

Под хранение каждого такого пароля на компьютере отводится минимально возможное и одинаковое целое количество байтов, при этом используется посимвольное кодирование и все символы кодируются одинаковым и минимально возможным количеством битов.

Определите объём памяти, который занимает хранение 60 паролей.

1) 540 байт 2) 600 байт 3) 660 байт 4) 720 байт

Решение:

10) согласно условию, в пароле можно использовать 10 цифр (0..9) + 12 заглавных букв местного алфавита + 12 строчных букв, всего 10 + 12 + 12 = 34 символа

11) для кодирования 34 символов нужно выделить 6 бит памяти (5 бит не хватает, они позволяют закодировать только 2⁵ = 32 варианта)

12) для хранения всех 11 символов пароля нужно 11 × 6 = 66 бит

13) поскольку пароль должен занимать целое число байт, берем ближайшее большее (точнее, не меньшее) значение, которое кратно 8: это 72 = 9 × 8; то есть один пароль занимает 9 байт

14) тогда 60 паролей занимают 9 × 60 = 540 байт

15) ответ: 1.

Ещё пример задания:

В велокроссе участвуют 119 спортсменов. Специальное устройство регистрирует прохождение каждым из участников промежуточного финиша, записывая его номер с использованием минимально возможного количества бит, одинакового для каждого спортсмена. Каков информационный объем сообщения, записанного устройством, после того как промежуточный финиш прошли 70 велосипедистов?

1) 70 бит 2) 70 байт 3) 490 бит 4) 119 байт

Решение:

16) велосипедистов было 119, у них 119 разных номеров, то есть, нам нужно закодировать 119 вариантов

17) по таблице степеней двойки находим, что для этого нужно минимум 7 бит (при этом можно закодировать 128 вариантов, то есть, еще есть запас); итак, 7 бит на один отсчет

18) когда 70 велосипедистов прошли промежуточный финиш, в память устройства записано 70 отсчетов

19) поэтому в сообщении 70*7 = 490 бит информации (ответ 3).

Еще пример задания:

Объем сообщения, содержащего 4096 символов, равен 1/512 части Мбайта. Какова мощность алфавита, с помощью которого записано это сообщение?

1) 8 2) 16 3) 4096 4) 16384

Большие числа. Что делать? Обычно (хотя и не всегда) задачи, в условии которых даны большие числа, решаются достаточно просто, если выделить в этих числах степени двойки. На эту мысль должны сразу наталкивать такие числа как 128 = 27, 256 = 28, 512 = 29, 1024 = 210, 2048 = 211, 4096 = 212, 8192 = 213, 16384 = 214, 65536 = 216 и т.п. Нужно помнить, что соотношение между единицами измерения количества информации также представляют собой степени двойки: 1 байт = 8 бит = 23 бит, 1 Кбайт = 1024 байта = 210 байта = 210 · 23 бит = 213 бит, 1 Мбайт = 1024 Кбайта = 210 Кбайта = 210 · 210 байта = 220 байта = 220 · 23 бит = 223 бит. Правила выполнения операций со степенями: · при умножении степени при одинаковых основаниях складываются · … а при делении – вычитаются:

Решение (вариант 1):

6) в сообщении было 4096 = 2¹² символов

7) объем сообщения

1/512 Мбайта = 2²³ / 512 бита = 2²³ / 2⁹ бита = 2¹⁴ бита (= 16384 бита!)

8) место, отведенное на 1 символ:

2¹⁴ бита / 2¹² символов = 2² бита на символ = 4 бита на символ

9) 4 бита на символ позволяют закодировать 2⁴ = 16 разных символов

10) поэтому мощность алфавита – 16 символов

11) правильный ответ – 2.

Решение (вариант 2, предложен В.Я. Лаздиным):

1) объем сообщения

1/512 Мбайт = 1024/512 Кбайт = 2 Кбайт = 2048 байт

2) на 1 символ приходится 2048 байт / 4096 = 1/2 байта = 4 бита

3) 4 бита на символ позволяют закодировать 2⁴ = 16 разных символов

4) поэтому мощность алфавита – 16 символов

5) правильный ответ – 2.

Еще пример задания:

В зоопарке 32 обезьяны живут в двух вольерах, А и Б. Одна из обезьян заболела. Сообщение «Заболевшая обезьяна живет в вольере А» содержит 4 бита информации. Сколько обезьян живут в вольере Б?

1) 4 2) 16 3) 28 4) 30

Решение (вариант 1):

1) информация в 4 бита соответствует выбору одного из 16 вариантов, …

2) … поэтому в вольере А живет 1/16 часть всех обезьян (это самый важный момент!)

3) всего обезьян – 32, поэтому в вольере А живет

32/16 = 2 обезьяны

4) поэтому в вольере Б живут все оставшиеся

32 – 2 = 30 обезьян

5) правильный ответ – 4.

Решение (вариант 2, использование формулы Шеннона [8]):

1) обезьяна-альбинос может жить в вольере А (событие 1) или в вольере Б (событие 2)

2) по формуле Шеннонаколичество информации в сообщении о произошедшем событии с номером равно , где – вероятность этого события; таким образом, получаем вероятность того, что обезьяна-альбинос живет в вольере А:

.

3) у нас не было никакой предварительной информации о том, где живет альбинос, поэтому можно считать, что вероятность определяется количеством обезьян в вольере – если вероятность равна 1/16, то в вольере живет 1/16 часть всех обезьян:

32/16 = 2 обезьяны

6) поэтому в вольере Б живут все оставшиеся

32 – 2 = 30 обезьян

7) правильный ответ – 4.

Еще пример задания:

В корзине лежат 32 клубка шерсти, из них 4 красных. Сколько бит информации несет сообщение о том, что достали клубок красной шерсти?

1) 2 2) 3 3) 4 4) 32

Решение (вариант 1):

1) красные клубки шерсти составляют 1/8 от всех, …

2) поэтому сообщение о том, что первый вынутый клубок шерсти – красный, соответствует выбору одного из 8 вариантов

3) выбор 1 из 8 вариантов – это информация в 3 бита (по таблице степеней двойки)

4) правильный ответ – 2.

Решение (вариант 2, использование формулы Шеннона):

1) красные клубки шерсти составляют 1/8 от всех, поэтому вероятность того, что первый вынутый клубок шерсти – красный, равна 1/8

2) по формуле Шеннона находим количество информации в битах:

бита.

3) правильный ответ – 2.

Еще пример задания:

В некоторой стране автомобильный номер длиной 7 символов составляется из заглавных букв (всего используется 26 букв) и десятичных цифр в любом порядке. Каждый символ кодируется одинаковым и минимально возможным количеством бит, а каждый номер – одинаковым и минимально возможным количеством байт. Определите объем памяти, необходимый для хранения 20 автомобильных номеров.

1) 20 байт 2) 105 байт 3) 120 байт 4) 140 байт

Решение:

1) всего используется 26 букв + 10 цифр = 36 символов

2) для кодирования 36 вариантов необходимо использовать 6 бит, так как , т.е. пяти бит не хватит (они позволяют кодировать только 32 варианта), а шести уже достаточно

3) таким образом, на каждый символ нужно 6 бит (минимально возможное количество бит)

4) полный номер содержит 7 символов, каждый по 6 бит, поэтому на номер требуется бита

5) по условию каждый номер кодируется целым числом байт (в каждом байте – 8 бит), поэтому требуется 6 байт на номер (), пяти байтов не хватает, а шесть – минимально возможное количество

6) на 20 номеров нужно выделить байт

7) правильный ответ – 3.

Возможные ловушки: · неверный ответ 1 (20 байт) сбивает случайное угадывание «в лоб», по исходным данным · если не обратить внимание на то, что каждый номер кодируется целым числом БАЙТ, получаем неверный ответ 2 ( бит = 105 байт) · если по невнимательности считать, что каждый СИМВОЛ кодируется целым числом байт, получаем 7 байт на символ и всего 140 байт (неверный ответ 4) · если «забыть» про цифры, получим всего 26 символов, 5 бит на символ, 35 бит (5 полных байт) на каждый номер и неверный ответ 100 байт (на 20 номеров)

Еще пример задания:

Какое наименьшее число символов должно быть в алфавите, чтобы при помощи всевозможных трехбуквенных слов, состоящих из символов данного алфавита, можно было передать не менее 9 различных сообщений?

1) 1 2) 2 3) 3 4) 4

Решение:

1) здесь используется только одна формула: если алфавит имеет мощность M, то количество всех возможных «слов» длиной N равно

2) в данном случае нужно закодировать 9 сигналов () с помощью трехбуквенных слов ()

3) таким образом, нужно найти наименьшее целое M, такое что (куб числа не меньше 9)

4) проще всего использовать метод подбора: при получаем (с помощью трех двоичных сигналов можно закодировать только 8 вариантов), но уже при имеем , поэтому нужно брать

5) таким образом, правильный ответ – 3.

Еще пример задания:

Каждая ячейка памяти компьютера, работающего в троичной системе счисления, может принимать три различных значения (-1, 0, 1). Для хранения некоторой величины отвели 4 ячейки памяти. Сколько различных значений может принимать эта величина?

Решение:

1) непривычность этой задачи состоит в том, что используется троичная система

2) фактически мы имеем дело с языком, алфавит которого содержит M =3 различных символа

3) поэтому количество всех возможных «слов» длиной N равно

4) для получаем

5) таким образом, правильный ответ – 81.

Еще пример задания:

В школьной базе данных хранятся записи, содержащие информацию об учениках:

<Фамилия> – 16 символов: русские буквы (первая прописная, остальные строчные),

<Имя> – 12 символов: русские буквы (первая прописная, остальные строчные),

<Отчество> – 16 символов: русские буквы (первая прописная, остальные строчные),

<Год рождения> – числа от 1992 до 2003.

Каждое поле записывается с использованием минимально возможного количества бит. Определите минимальное количество байт, необходимое для кодирования одной записи, если буквы е и ё считаются совпадающими.

1) 28 2) 29 3) 46 4) 56

Решение:

1) очевидно, что нужно определить минимально возможные размеры в битах для каждого из четырех полей и сложить их;

2) важно! известно, что первые буквы имени, отчества и фамилии – всегда заглавные, поэтому можно хранить их в виде строчных и делать заглавными только при выводе на экран (но нас это уже не волнует)

3) таким образом, для символьных полей достаточно использовать алфавит из 32 символов (русские строчные буквы, «е» и «ё» совпадают, пробелы не нужны)

4) для кодирования каждого символа 32-символьного алфавита нужно 5 бит (32 = 2555⁵), поэтому для хранения имени, отчества и фамилии нужно (16 + 12 + 16)•5=220 бит

5) для года рождения есть 12 вариантов, поэтому для него нужно отвести 4 бита (2⁴ = 16 ≥ 12)

6) таким образом, всего требуется 224 бита или 28 байт

7) правильный ответ – 1.

Поиск по сайту: