Алфавит состоит из 128 букв, какое количество информации несет в себе одна буква такого алфавита?

Предыдущий
вопрос Следующий
вопрос

Для рассчета количества информации, которую несет одна буква алфавита, используется формула Шеннона:

I = -log2P

где I - количество информации,
log2 - логарифм по основанию 2,
P - вероятность появления данной буквы.

В данном случае, так как в алфавите 128 букв, каждая буква имеет равную вероятность появления, то P = 1/128 = 0.0078125.

Подставляем вероятность в формулу:

I = -log2(0.0078125)
I = -log2(1/128)
I = -log2(2^-7)
I = 7

Таким образом, одна буква алфавита размером в 128 букв несет в себе 7 бит информации.