Определите энтропию системы Определите энтропию системы, которая может находиться в трех состояниях с вероятностями: 0,25, 0,25, 0,5 соответственно. Использую формулу Шеннона для энтропии неравновероятных событий. Вроде решил,но ответ не сходится.H=-EPilog2Pi Получаем-H=-(1/4log2 1/4+1/4 log2 1/4+1/2 log2 1/2)=-(-1/2-1/2-1)=2 А ответ должен быть равен 1.5.Где ошибся?Не надо было второй раз включать 0,25 в вычисления?
Да, вы ошиблись, когда включили вероятность 0,25 дважды в вычисления. Правильно будет посчитать по формуле Шеннона только один раз для каждой вероятности:
Да, вы ошиблись, когда включили вероятность 0,25 дважды в вычисления. Правильно будет посчитать по формуле Шеннона только один раз для каждой вероятности:
H = -(0,25log2(0,25) + 0,25log2(0,25) + 0,5log2(0,5)) = -(0,25(-2) + 0,25(-2) + 0,5(-1)) = -(-0,5 - 0,5 - 0,5) = 1,5
Таким образом, энтропия системы равна 1,5.