Источник информации (математика)
Появление
В математике является источником информации последовательность случайных величин , расположенных в конечном алфавите Γ и имеющих стационарное распределение .
Неопределенность уровень или энтропии источника информации определяется как
где
– последовательность случайных величин, определяющих источник информации, и
– условная информационная энтропия последовательности случайных величин. Эквивалентно, у человека есть
См. также [ править ]
Ссылки [ править ]
- Роберт Б. Эш, Теория информации , (1965) Dover Publications. ISBN 0-486-66521-6