Уменьшение дисперсии

Дисперсия случайно сгенерированных точек внутри единичного квадрата может быть уменьшена с помощью процесса стратификации.

В математике , точнее в теории методов Монте-Карло , уменьшение дисперсии — это процедура, используемая для повышения точности оценок , полученных для данного моделирования или вычислительных усилий. ^[1] Каждая выходная случайная величина моделирования связана с дисперсией , которая ограничивает точность результатов моделирования. Чтобы сделать моделирование статистически эффективным, т. е. получить большую точность и меньшие доверительные интервалы для интересующей выходной случайной величины, можно использовать методы уменьшения дисперсии.Основными методами уменьшения дисперсии являются

обычные случайные числа
противоположные варианты
контроль варьируется
выборка по важности
стратифицированная выборка
совпадение моментов
условный Монте-Карло
и квазислучайные величины (в методе квази-Монте-Карло )

Для моделирования с использованием «черного ящика» моделей подмножество моделирования и линейную выборку также можно использовать . Под этими заголовками представлены различные специализированные методы; например, при моделировании переноса частиц широко используются методы «весовых окон» и «разделения/русской рулетки», которые являются формой выборки по важности.

Моделирование сырой нефти Монте-Карло

Предположим, кто-то хочет вычислить $z:=E(Z)$ со случайной величиной $Z$ определенное в вероятностном пространстве $(\Omega ,{\mathcal {F}},P)$ . Монте-Карло делает это путем выборки iid . копии $Z_{1},...,Z_{R}$ из $Z$ а затем оценить $z$ через оценщик выборочного среднего

{\overline {z}}={\frac {1}{n}}\sum _{i=1}^{n}Z_{i}

В более мягких условиях, таких как $var(Z)<\infty$ , будет применяться центральная предельная теорема , так что для больших $n\rightarrow \infty$ , распределение ${\overline {z}}$ сходится к нормальному распределению со средним $z$ и стандартная ошибка $\sigma /{\sqrt {n}}$ . Поскольку стандартное отклонение сходится только к $0$ по курсу ${\sqrt {n}}$ , подразумевая, что необходимо увеличить количество симуляций ( $n$ ) в раз $4$ уменьшить вдвое стандартное отклонение ${\overline {z}}$ , методы уменьшения дисперсии часто полезны для получения более точных оценок $z$ без необходимости очень большого количества симуляций.

Общие случайные числа (CRN)

Метод уменьшения дисперсии обычных случайных чисел — популярный и полезный метод уменьшения дисперсии, который применяется, когда мы сравниваем две или более альтернативные конфигурации (системы) вместо исследования одной конфигурации. CRN также называют коррелированной выборкой , согласованными потоками или согласованными парами .

CRN требует синхронизации потоков случайных чисел, которая гарантирует, что в дополнение к использованию одних и тех же случайных чисел для моделирования всех конфигураций определенное случайное число, используемое для определенной цели в одной конфигурации, используется для точно такой же цели во всех других конфигурациях. Например, в теории массового обслуживания, если мы сравниваем две разные конфигурации кассиров в банке, мы хотели бы, чтобы (случайное) время прибытия N -го клиента было сгенерировано с использованием одного и того же извлечения из потока случайных чисел для обоих. конфигурации.

Основной принцип техники CRN

Предполагать $X_{1j}$ и $X_{2j}$ — наблюдения из первой и второй конфигураций на j -й независимой репликации.

Мы хотим оценить

\xi =E(X_{1j})-E(X_{2j})=\mu _{1}-\mu _{2}.\,

Если мы выполним n репликаций каждой конфигурации и позволим

Z_{j}=X_{1j}-X_{2j}\quad {\mbox{for }}j=1,2,\ldots ,n,

затем $E(Z_{j})=\xi$ и $Z(n)={\frac {\sum _{j=1,\ldots ,n}Z_{j}}{n}}$ является несмещенной оценкой $\xi$ .

И поскольку $Z_{j}$ 's - независимые одинаково распределенные случайные величины,

\operatorname {Var} [Z(n)]={\frac {\operatorname {Var} (Z_{j})}{n}}={\frac {\operatorname {Var} [X_{1j}]+\operatorname {Var} [X_{2j}]-2\operatorname {Cov} [X_{1j},X_{2j}]}{n}}.

В случае независимой выборки, т. е. без использования общих случайных чисел, тогда Cov( X _{1 j} , X _{2 j} ) = 0. Но если нам удастся вызвать элемент положительной корреляции между X ₁ и X ₂ такой, что Cov( X _{1 j} , X _{2 j} ) > 0, из приведенного выше уравнения видно, что дисперсия уменьшается.

Также можно заметить, что если CRN вызывает отрицательную корреляцию, т.е. Cov( X _{1 j} , X _{2 j} ) < 0, этот метод может фактически иметь неприятные последствия, когда дисперсия увеличивается, а не уменьшается (как предполагалось). ^[2]

См. также

Объясненная дисперсия

Ссылки

^ Ботев З.; Риддер, А. (2017). «Уменьшение дисперсии». Wiley StatsRef: Интернет-справочник по статистике : 1–6. дои : 10.1002/9781118445112.stat07975 . ISBN 9781118445112 .
^ Хэмрик, Джефф. «Метод обычных случайных чисел: пример» . Демонстрационный проект Wolfram . Проверено 29 марта 2016 г.

Хаммерсли, Дж. М.; Хэндскомб, округ Колумбия (1964). Методы Монте-Карло . Лондон: Метуэн. ISBN 0-416-52340-4 .
Кан, Х.; Маршалл, AW (1953). «Методы уменьшения размера выборки в вычислениях Монте-Карло». Журнал Американского общества исследования операций . 1 (5): 263–271. дои : 10.1287/опре.1.5.263 .
MCNP — Общий кодекс переноса N-частиц Монте-Карло, версия 5, отчет Лос-Аламоса LA-UR-03-1987

[varred17-1] Ботев З.; Риддер, А. (2017). «Уменьшение дисперсии». Wiley StatsRef: Интернет-справочник по статистике : 1–6. дои : 10.1002/9781118445112.stat07975 . ISBN 9781118445112 .

[wolfram-2] Хэмрик, Джефф. «Метод обычных случайных чисел: пример» . Демонстрационный проект Wolfram . Проверено 29 марта 2016 г.

[1]

[2]