Соотношение униформы

Соотношение униформ — это метод, первоначально предложенный Киндерманом и Монаханом в 1977 году. для выборки псевдослучайных чисел , то есть для извлечения случайных выборок из статистического распределения . Подобно выборке с отклонением и выборке с обратным преобразованием , это точный метод моделирования. Основная идея метода заключается в использовании замены переменных для создания ограниченного набора, который затем можно равномерно отбирать для генерации случайных величин, соответствующих исходному распределению. Одной из особенностей этого метода является то, что распределение по выборке необходимо знать только с точностью до неизвестного мультипликативного коэффициента, что является обычной ситуацией в вычислительной статистике и статистической физике.

Мотивация

Отбраковочная выборка ограниченного статистического распределения с конечной поддержкой.

Удобным методом выборки статистического распределения является отбраковочная выборка . Когда функция плотности вероятности распределения ограничена и имеет конечную поддержку , можно определить вокруг нее ограничивающую рамку (равномерное распределение предложений), нарисовать в ней однородные выборки и вернуть только координаты x точек, которые находятся ниже функции. (см. график). Как прямое следствие фундаментальной теоремы моделирования , возвращенные образцы распределяются согласно исходному распределению.

Когда носитель распределения бесконечен, невозможно нарисовать прямоугольную рамку, содержащую график функции. Можно по-прежнему использовать выборку отклонения , но с неравномерным распределением предложений. Выбор подходящего распределения предложений может оказаться непростой задачей. и нужно также знать, как эффективно проводить выборку этого распределения предложений.

Метод отношения униформ предлагает решение этой проблемы, по существу используя в качестве предполагаемого распределения распределение, созданное соотношением двух однородных случайных величин .

Заявление

Утверждение и доказательство адаптированы из презентации Гобе.

Теорема — Пусть $X$ быть многомерной случайной величиной с функцией плотности вероятности $p(x_{1},x_{2},\ldots ,x_{d})$ на $\mathbb {R} ^{d}$. Функция $p$ требуется знать только с точностью до константы, поэтому мы можем предположить, что мы знаем только $f$ где $p(x_{1},x_{2},\ldots ,x_{d})=cf(x_{1},x_{2},\ldots ,x_{d})$, с $c$ константа неизвестна или ее трудно вычислить. Позволять $r>0$, параметр, который можно настроить по мере улучшения свойств метода. Мы можем определить набор $A_{f,r}$: $$A_{f,r}=\left\{(u,v_{1},v_{2},\ldots ,v_{d})\in \mathbb {R} ^{d+1}:0\leq u\leq f\left({\frac {v_{1}}{u^{r}}},{\frac {v_{2}}{u^{r}}},\ldots ,{\frac {v_{d}}{u^{r}}}\right)^{\frac {1}{1+rd}}\right\}$$Мера Лебега множества $A_{f,r}$ конечно и равно ${\frac {1}{c\,(1+rd)}}$.

Кроме того, пусть $(U,V_{1},V_{2},\ldots ,V_{d})$ — случайная величина, равномерно распределенная на множестве $A_{f,r}$. Затем, $\left({\frac {V_{1}}{U^{r}}},{\frac {V_{2}}{U^{r}}},\ldots ,{\frac {V_{d}}{U^{r}}}\right)$ является случайной величиной на $\mathbb {R} ^{d}$ распределено как $X$.

Доказательство

Сначала предположим, что первое утверждение верно, т.е. $|A_{f,r}|={\frac {1}{c\,(1+rd)}}$.

Позволять $\varphi$ быть измеримой функцией на $\mathbb {R} ^{d}$. Давайте ожидание рассмотрим $\varphi \left({\frac {V_{1}}{U^{r}}},\ldots ,{\frac {V_{d}}{U^{r}}}\right)$ на съемочной площадке $A_{f,r}$:

$$E\left[\varphi \left({\frac {V_{1}}{U^{r}}},\ldots ,{\frac {V_{d}}{U^{r}}}\right)\right]={\frac {1}{|A_{f,r}|}}\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }\varphi \left({\frac {v_{1}}{u^{r}}},\ldots ,{\frac {v_{d}}{u^{r}}}\right)\mathbf {1} _{(u,v_{1},\ldots ,v_{d})\in A_{f,r}}\mathrm {d} u\,\mathrm {d} v_{1}\ldots \mathrm {d} v_{d}$$

С заменой переменных $x_{i}={\frac {v_{i}}{u^{r}}}$, у нас есть

${\begin{aligned}E\left[\varphi \left({\frac {V_{1}}{U^{r}}},\ldots ,{\frac {V_{d}}{U^{r}}}\right)\right]&={\frac {1}{|A_{f,r}|}}\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }\varphi (x_{1},\ldots ,x_{d})\mathbf {1} _{0\leq u\leq f(x_{1},\ldots ,x_{d})^{\frac {1}{1+rd}}}u^{rd}\mathrm {d} u\,\mathrm {d} x_{1}\cdots \mathrm {d} x_{d}\\&={\frac {1}{|A_{f,r}|}}\int _{-\infty }^{\infty }\cdots \int _{-\infty }^{\infty }\varphi \left(x_{1},\ldots ,x_{d}\right){\frac {1}{1+rd}}f\left(x_{1},\ldots ,x_{d}\right)\mathrm {d} x_{1}\cdots \mathrm {d} x_{d}\\&=\int _{-\infty }^{\infty }\ldots \int _{-\infty }^{\infty }\varphi \left(x_{1},\ldots ,x_{d}\right)p\left(x_{1},\ldots ,x_{d}\right)\mathrm {d} x_{1}\cdots \mathrm {d} x_{d}\end{aligned}}$

где мы можем это увидеть $\left({\frac {V_{1}}{U^{r}}},\ldots ,{\frac {V_{d}}{U^{r}}}\right)$ действительно имеет плотность $p$.

Возвращаясь к первому утверждению, аналогичный аргумент показывает, что $|A_{f,r}|={\frac {1}{c\,(1+rd)}}$.

Дополняет

Отбраковочная выборка в $A_{f,r}$

В приведенном выше утверждении не указано, как следует выполнять равномерную выборку в $A_{f,r}$. Однако интерес этого метода состоит в том, что в мягких условиях на $f$ (а именно это $f(x_{1},x_{2},\ldots ,x_{d})^{\frac {1}{1+rd}}$ и $x_{i}f(x_{1},x_{2},\ldots ,x_{d})^{\frac {r}{1+rd}}$ для всех $i$ ограничены ) , $A_{f,r}$ ограничен ​ . Можно определить прямоугольную ограничивающую рамку ${\tilde {A}}_{f,r}$ такой, что $$A_{f,r}\subset {\tilde {A}}_{f,r}=\left[0,\sup _{x_{1},\ldots ,x_{d}}{f(x_{1},\ldots ,x_{d})^{\frac {1}{1+rd}}}\right]\times \prod _{i}\left[\inf _{x_{1},\ldots ,x_{d}}{x_{i}f(x_{1},\ldots ,x_{d})^{\frac {r}{1+rd}}},\sup _{x_{1},\ldots ,x_{d}}{x_{i}f(x_{1},\ldots ,x_{d})^{\frac {r}{1+rd}}}\right]$$Это позволяет равномерно отбирать набор $A_{f,r}$ методом браковки внутри ${\tilde {A}}_{f,r}$. Параметр $r$ можно отрегулировать, чтобы изменить форму $A_{f,r}$ и максимизировать коэффициент приемлемости этой выборки.

Параметрическое описание границы $A_{f,r}$

Определение $A_{f,r}$ уже удобен для этапа отбраковки. В целях иллюстрации может быть интересно нарисовать множество, и в этом случае может быть полезно знать параметрическое описание его границы: $$u=f\left(x_{1},x_{2},\ldots ,x_{d}\right)^{\frac {1}{1+rd}}\quad {\text{and}}\quad \forall i\in [|1,n|],v_{i}=x_{i}u^{r}$$или для общего случая, когда $X$ — одномерная переменная, $(u,v)=\left(f(x)^{\frac {1}{1+r}},x\,f(x)^{\frac {r}{1+r}}\right)$.

Обобщенное соотношение обмундирования

Выше параметризовано только с $r$соотношение униформ можно описать с помощью более общего класса преобразований в терминах преобразования g . В одномерном случае, если $g:\mathbb {R} ^{+}\rightarrow \mathbb {R} ^{+}$ — строго возрастающая и дифференцируемая функция такая, что $g(0)=0$, то мы можем определить $A_{f,g}$ такой, что

$$A_{f,g}=\left\{(u,v)\in \mathbb {R} ^{2}:0\leq u\leq g^{-1}\left[f\left({\frac {v}{g'(u)}}\right)\right]\right\}$$

Если $(U,V)$ – случайная величина, равномерно распределенная в $A_{f,g}$, затем ${\frac {V}{g'(U)}}$ распределяется с плотностью $p$.

Примеры

Экспоненциальное распределение до и после замены переменных методом отношения равномерностей. Вверху: график экспоненциального распределения по $\mathbb {R} ^{+}$. Внизу: набор $A_{f,1}$ представлен в пространстве $(u,v)$, вписанный в ограничительную рамку ${\tilde {A}}_{f,1}$. Цветные домены равной вероятности были добавлены, чтобы облегчить визуальную ассоциацию соответствующих доменов преобразованных наборов.

Экспоненциальное распределение

Предположим, что мы хотим получить выборку экспоненциального распределения , $p(x)=\lambda \mathrm {e} ^{-\lambda x}$ с помощью метода соотношения униформ. Мы возьмем здесь $r=1$.

Мы можем начать строить набор $A_{f,1}$:

$A_{f,1}=\left\{(u,v)\in \mathbb {R} ^{2}:0\leq u\leq {\sqrt {p\left({\frac {v}{u}}\right)}}\right\}$

Состояние $0\leq u\leq {\sqrt {p\left({\frac {v}{u}}\right)}}$ после вычислений эквивалентно $0\leq v\leq -{\frac {u}{\lambda }}\ln {\frac {u^{2}}{\lambda }}$, что позволяет нам построить форму набора (см. график).

Это неравенство также позволяет нам определить прямоугольную ограничивающую рамку ${\tilde {A}}_{f,1}$ где $A_{f,1}$ включено. Действительно, с $g(u)=-{\frac {u}{\lambda }}\ln {\frac {u^{2}}{\lambda }}$, у нас есть $g\left({\sqrt {\lambda }}\right)=0$ и $g'\left({\frac {2}{\mathrm {e} {\sqrt {\lambda }}}}\right)=0$, откуда ${\tilde {A}}_{f,1}=\left[0,{\sqrt {\lambda }}\right]\times \left[0,g\left({\frac {2}{\mathrm {e} {\sqrt {\lambda }}}}\right)\right]$.

Отсюда мы можем нарисовать пары однородных случайных величин. $U\sim \mathrm {Unif} \left(0,{\sqrt {\lambda }}\right)$ и $V\sim \mathrm {Unif} \left(0,g\left({\frac {2}{\mathrm {e} {\sqrt {\lambda }}}}\right)\right)$ до $u\leq {\sqrt {\lambda \,\mathrm {e} ^{-\lambda {\frac {v}{u}}}}}$, и когда это произойдет, мы вернемся ${\frac {v}{u}}$, который имеет экспоненциальное распределение.

Нормальное распределение смеси до и после замены переменных методом соотношения равномерностей. Вверху: график распределения смеси на $\mathbb {R}$. Внизу: набор $A_{f,r}$ представлена ​​для двух разных значений $r$. Сплошные линии вверху представляют собой детрансформацию ограничивающих рамок внизу. Сплошные линии внизу обозначают расположение различных значений $x$ в наборе.

Смесь нормальных распределений

Рассмотрим смесь двух нормальных распределений ${\mathcal {D}}=0.6\,N(\mu =-1,\sigma =2)+0.4\,N(\mu =3,\sigma =1)$. Применить метод соотношения обмундирования при заданном $r$, следует сначала определить границы прямоугольной ограничивающей рамки ${\tilde {A}}_{f,r}$ включающий набор $A_{f,r}$. Это можно сделать численно, вычислив минимум и максимум $u(x)=f(x)^{\frac {1}{1+r}}$ и $v(x)=x\,f(x)^{\frac {r}{1+r}}$ на сетке значений $x$. Затем можно нарисовать однородные образцы $(u,v)\in {\tilde {A}}_{f,r}$, оставляйте только те, которые попадают в набор $A_{f,r}$ и вернуть их как ${\frac {v}{u^{r}}}$.

Можно оптимизировать коэффициент приемки, регулируя значение $r$, как видно на графиках.

Программное обеспечение

• Ржавчина и Рунуран предоставленные пакеты в R .

См. также

• Отбраковочная выборка
• Выборка обратного преобразования