Схема Бернулли

В математике схема Бернулли или сдвиг Бернулли — это обобщение процесса Бернулли на более чем два возможных результата. Схемы Бернулли естественным образом появляются в символической динамике и поэтому важны при изучении динамических систем . Многие важные динамические системы (такие как системы аксиомы A ) имеют репеллер , который является продуктом множества Кантора и гладкого многообразия , а динамика множества Кантора изоморфна динамике сдвига Бернулли. По сути, это марковское разбиение . Термин «сдвиг» относится к оператору сдвига , который можно использовать для изучения схем Бернулли. Теорема Орнштейна об изоморфизме показывает, что сдвиги Бернулли изоморфны, когда их энтропия равна.

Определение

Схема Бернулли — это с дискретным временем стохастический процесс , в котором каждая независимая случайная величина может принимать одно из N различных возможных значений, причем результат i происходит с вероятностью. $p_{i}$, с i = 1, ..., N и

$\sum _{i=1}^{N}p_{i}=1.$

Пространство выборки обычно обозначается как

$X=\{1,\ldots ,N\}^{\mathbb {Z} }$

как сокращение для

$X=\{x=(\ldots ,x_{-1},x_{0},x_{1},\ldots ):x_{k}\in \{1,\ldots ,N\}\;\forall k\in \mathbb {Z} \}.$

Соответствующая мера называется мерой Бернулли.

$\mu =\{p_{1},\ldots ,p_{N}\}^{\mathbb {Z} }$

σ -алгебра ${\mathcal {A}}$ на X — произведение сигма-алгебры; то есть это (счетное) прямое произведение σ-алгебр конечного множества {1, ..., N }. Таким образом, тройка

$(X,{\mathcal {A}},\mu )$

является пространством меры . Основа ${\mathcal {A}}$ это комплекты цилиндров . Учитывая набор цилиндров $[x_{0},x_{1},\ldots ,x_{n}]$, его мера

$\mu \left([x_{0},x_{1},\ldots ,x_{n}]\right)=\prod _{i=0}^{n}p_{x_{i}}$

Эквивалентное выражение, используя обозначения теории вероятностей, имеет вид

$\mu \left([x_{0},x_{1},\ldots ,x_{n}]\right)=\mathrm {Pr} (X_{0}=x_{0},X_{1}=x_{1},\ldots ,X_{n}=x_{n})$

для случайных величин $\{X_{k}\}$

Схему Бернулли, как и любой случайный процесс, можно рассматривать как динамическую систему , наделив ее оператором сдвига T , где

$T(x_{k})=x_{k+1}.$

Поскольку результаты независимы, сдвиг сохраняет меру, и, таким образом, T является преобразованием, сохраняющим меру . Четверка

$(X,{\mathcal {A}},\mu ,T)$

представляет собой динамическую систему, сохраняющую меру , и называется схемой Бернулли или сдвигом Бернулли . Его часто обозначают

$BS(p)=BS(p_{1},\ldots ,p_{N}).$

Схема Бернулли N = 2 называется процессом Бернулли . Сдвиг Бернулли можно понимать как частный случай сдвига Маркова , когда все элементы в матрице смежности равны единице, а соответствующий граф, таким образом, представляет собой клику .

Совпадения и показатели

Расстояние Хэмминга обеспечивает естественную метрику в схеме Бернулли. Еще одним важным показателем является так называемый ${\overline {f}}$ метрика, определяемая посредством супремума по строковым совпадениям .

Позволять $A=a_{1}a_{2}\cdots a_{m}$ и $B=b_{1}b_{2}\cdots b_{n}$ быть двумя строками символов. Совпадение — это последовательность M пар. $(i_{k},j_{k})$ индексов в строку, т.е. пары такие, что $a_{i_{k}}=b_{j_{k}},$ понимается как полностью упорядоченный. То есть каждая отдельная подпоследовательность $(i_{k})$ и $(j_{k})$ заказаны: $1\leq i_{1}<i_{2}<\cdots <i_{r}\leq m$ и аналогично $1\leq j_{1}<j_{2}<\cdots <j_{r}\leq n.$

The ${\overline {f}}$- расстояние между $A$ и $B$ является

${\overline {f}}(A,B)=1-{\frac {2\sup |M|}{m+n}}$

где супремум берется за все матчи $M$ между $A$ и $B$. Это удовлетворяет неравенству треугольника только тогда, когда $m=n,$ и это не совсем верная метрика; несмотря на это, в литературе ее принято называть «дистанцией».

Обобщения

Большинство свойств схемы Бернулли следуют из счетного прямого произведения , а не из конечного базисного пространства. Таким образом, базовым пространством можно считать любое стандартное вероятностное пространство. $(Y,{\mathcal {B}},\nu )$и определим схему Бернулли как

$(X,{\mathcal {A}},\mu )=(Y,{\mathcal {B}},\nu )^{\mathbb {Z} }$

Это работает, потому что счетное прямое произведение стандартного вероятностного пространства снова является стандартным вероятностным пространством.

В качестве дальнейшего обобщения можно заменить целые числа $\mathbb {Z}$ счетной группой дискретной $G$, так что

$(X,{\mathcal {A}},\mu )=(Y,{\mathcal {B}},\nu )^{G}$

В этом последнем случае оператор сдвига заменяется групповым действием

$gx(f)=x(g^{-1}f)$

для групповых элементов $f,g\in G$ и $x\in Y^{G}$ понимается как функция $x:G\to Y$ (любой прямой продукт $Y^{G}$ можно понимать как набор функций $[G\to Y]$, так как это экспоненциальный объект ). Мера $\mu$ принимается в качестве меры Хаара инвариантная относительно действия группы:

$\mu (gx)=\mu (x).\,$

Эти обобщения также обычно называют схемами Бернулли, поскольку они по-прежнему имеют большинство свойств, присущих конечному случаю.

Характеристики

Я. Синай продемонстрировал, что энтропия Колмогорова схемы Бернулли определяется выражением

$H=-\sum _{i=1}^{N}p_{i}\log p_{i}.$

Это можно рассматривать как результат общего определения энтропии декартова произведения вероятностных пространств, которое следует из свойства асимптотического равнораспределения . Для случая общего базового пространства $(Y,{\mathcal {B}},\nu )$ ( т.е. базовое пространство, которое не является счетным), обычно учитывают относительную энтропию . Так, например, если имеется счетный раздел $Y'\subset Y$ базы Y , такая, что $\nu (Y')=1$, можно определить энтропию как

$H_{Y'}=-\sum _{y'\in Y'}\nu (y')\log \nu (y').$

В общем, эта энтропия будет зависеть от раздела; однако для многих динамических систем это тот случай, когда символическая динамика не зависит от разбиения (или, скорее, существуют изоморфизмы, соединяющие символическую динамику разных разбиений, оставляя меру инвариантной), и поэтому такие системы могут иметь хорошо определенная энтропия не зависит от раздела.

Теорема Орнштейна об изоморфизме

Теорема Орнштейна об изоморфизме утверждает, что две схемы Бернулли с одинаковой энтропией изоморфны . Результат резкий, в том, что очень похожие, несхемные системы, такие как автоморфизмы Колмогорова , не обладают этим свойством.

Теорема Орнштейна об изоморфизме на самом деле значительно глубже: она дает простой критерий, по которому многие различные динамические системы, сохраняющие меру, можно считать изоморфными схемам Бернулли. Результат оказался неожиданным, поскольку многие системы, которые ранее считались несвязанными, оказались изоморфными. К ним относятся все конечные стационарные случайные процессы , подсдвиги конечного типа , конечные цепи Маркова , потоки Аносова и бильярд Синая : все это изоморфно схемам Бернулли.

В обобщенном случае теорема Орнштейна об изоморфизме остается верной, если группа G является счетной бесконечной аменабельной группой .

Автоморфизм Бернулли

Обратимое, сохраняющее меру преобразование стандартного вероятностного пространства (пространства Лебега) называется автоморфизмом Бернулли, если оно изоморфно сдвигу Бернулли .

Свободно Бернулли

Система называется «свободно Бернулли», если она эквивалентна Какутани сдвигу Бернулли; в случае нулевой энтропии, если она какутани-эквивалентна иррациональному вращению круга.

См. также

• Сдвиг конечного типа
• Цепь Маркова
• Скрытая модель Бернулли