КОДИРОВАНИЕ И ДЕКОДИРОВАНИЕ процесс представления информации в определенной стандартной форме и обратный процесс восстановления информации по ее такому представлению

Различают эффективное (статистическое) и корректирующее (помехоустойчивое) кодирование. Эффективное кодирование повышает скорость передачи информации и приближает ее к пропускной способности каналов. Теоретической основой построения эффективных кодов служит теорема К. Шеннона: утверждается, что для канала без помех всегда можно создать систему эффективного кодирования дискретных сообщений, у которой среднее количество двоичных кодовых сигналов на один символ сообщения будет приближаться как угодно близко к энтропии источника сообщений. Помехоустойчивое кодирование повышает верность передачи информации путем обнаружения и исправления ошибок. Теоретической основой помехоустойчивого кодирования является другая теорема К. Шеннона: утверждается, что и, для канала с помехами всегда можно найти такую систему кодирования, при которой сообщения будут переданы со сколь угодно большой степенью верности, если только производительность источника не превышает пропускной способности канала.

Оптимальное эффективное кодирование позволяет согласовать источник с каналом и обеспечить наилучшее использование пропускной способности канала. Сущность эффективного кодирования заключается в том, что неравномерное распределение вероятностей появления (коррелированных символов сообщений с помощью определенным образом выбранного кода переводят в равномерное распределение вероятностей появления независимых кодовых символов. Рассмотрим оптимальное эффективное кодирование сообщений источников без памяти и с памятью.

Системы счисления.

Система счисле́ния — символический метод записи чисел, представление чисел с помощью письменных знаков.

Система счисления:

· даёт представления множества чисел (целых и/или вещественных);

· даёт каждому числу уникальное представление (или, по крайней мере, стандартное представление);

· отражает алгебраическую и арифметическую структуру чисел.

Системы счисления подразделяются на позиционные, непозиционные и смешанные.

Позиционные системы счисления — это системы счисления, в которых значение цифры напрямую зависит от её положения в числе. Например, число 01 обозначает единицу, 10 — десять.

Позиционные системы счисления позволяют легко производить арифметические расчёты.

Представление чисел с помощью арабских цифр — самая распространённая позиционная система счисления, она называется «десятичной системой счисления». Десятичной системой она называется потому, что использует десять цифр: 0, 1, 2, 3, 4, 5, 6, 7, 8 и 9. Заметьте: максимальная цифра (9) на единичку меньше количества цифр (10).

Примеры чисел:

— число в десятичной системе счисления, ;

— это же число в восьмеричной системе счисления, ;

— это же число в несимметричной троичной системе счисления, ;

— это же число в двоичной системе счисления, ;

Зависимость плотности записи информации от основания системы счисления[править]

Удельная натуральнологарифмическая плотность записи числа зависит от основания системы счисления х и выражается функцией y=ln(x)/x. Эта функция имеет максимум при x=e=2,718281828….

Поиск по сайту: