Марковский источник информации

В математике источник марковской информации или просто источник Маркова — это источник информации , основная динамика которого задается стационарной конечной цепью Маркова .

Формальное определение

Источником информации является последовательность случайных величин, расположенных в конечном алфавите. $\Gamma$, имеющий стационарное распределение .

В таком случае источником марковской информации является (стационарная) цепь Маркова. $M$, вместе с функцией

$f:S\to \Gamma$

который отображает состояния $S$ в цепи Маркова к буквам алфавита $\Gamma$.

Унифилярный марковский источник — это марковский источник, для которого значения $f(s_{k})$ различны всякий раз, когда каждое из состояний $s_{k}$ достижимы за один шаг из общего предшествующего состояния. Унифилярные источники примечательны тем, что многие их свойства гораздо легче анализируются по сравнению с общим случаем.

Приложения

Марковские источники обычно используются в теории связи в качестве модели передатчика . Марковские источники также встречаются при обработке естественного языка , где они используются для представления скрытого смысла в тексте. Учитывая выходные данные источника Маркова, основная цепь Маркова которого неизвестна, задача решения базовой цепи выполняется с помощью методов скрытых моделей Маркова , таких как алгоритм Витерби .

См. также

• Уровень энтропии

Ссылки

• Роберт Б. Эш, Теория информации , (1965) Dover Publications. ISBN   0-486-66521-6