Характеристическая функция (теория вероятностей)

Характеристическая функция равномерной U случайной величины (–1,1). Эта функция имеет действительное значение, поскольку она соответствует случайной величине, симметричной относительно начала координат; однако характеристические функции обычно могут быть комплексными.

В теории вероятностей и статистике характеристическая функция любой вещественной случайной величины полностью определяет ее распределение вероятностей . Если случайная величина допускает функцию плотности вероятности , то характеристическая функция представляет собой преобразование Фурье (с изменением знака) функции плотности вероятности. Таким образом, это обеспечивает альтернативный путь к аналитическим результатам по сравнению с прямой работой с функциями плотности вероятности или кумулятивными функциями распределения . Особенно простые результаты получены для характеристических функций распределений, определяемых взвешенными суммами случайных величин.

В дополнение к одномерным распределениям характеристические функции могут быть определены для случайных величин с векторными или матричными значениями, а также могут быть распространены на более общие случаи.

Характеристическая функция всегда существует, если рассматривать ее как функцию действительного аргумента, в отличие от функции, порождающей момент . Существуют связи между поведением характеристической функции распределения и свойствами распределения, такими как существование моментов и существование функции плотности.

Введение

Характеристическая функция – это способ описания случайной величины .Характеристическая функция ,

$\varphi _{X}(t)=\operatorname {E} \left[e^{itX}\right],$

функция t ,определяет поведение и свойства распределения вероятностей случайной X. величины Это эквивалентно функции плотности вероятности или кумулятивной функции распределения в том смысле, что, зная одну из функций, всегда можно найти другие, но они дают разную информацию для понимания особенностей случайной величины. Более того, в отдельных случаях могут быть различия в том, можно ли представить эти функции в виде выражений, включающих простые стандартные функции.

Если случайная величина допускает функцию плотности , то характеристическая функция является ее двойственной Фурье в том смысле, что каждая из них является преобразованием Фурье другой. Если случайная величина имеет производящую момент функцию $M_{X}(t)$, то область определения характеристической функции можно продолжить на комплексную плоскость, и

$\varphi _{X}(-it)=M_{X}(t).$

Однако обратите внимание, что характеристическая функция распределения четко определена для всех действительных значений t функция , , даже если производящая момент, не определена четко для всех действительных значений t .

Подход характеристических функций особенно полезен при анализе линейных комбинаций независимых случайных величин: классическое доказательство Центральной предельной теоремы использует характеристические функции и теорему о непрерывности Леви . Другое важное приложение — к теории разложимости случайных величин.

Определение

Для скалярной случайной величины X характеристическая функция определяется как ожидаемое значение e ^ИТХ , где i — мнимая единица , а t ∈ R — аргумент характеристической функции:

${\begin{cases}\displaystyle \varphi _{X}\!:\mathbb {R} \to \mathbb {C} \\\displaystyle \varphi _{X}(t)=\operatorname {E} \left[e^{itX}\right]=\int _{\mathbb {R} }e^{itx}\,dF_{X}(x)=\int _{\mathbb {R} }e^{itx}f_{X}(x)\,dx=\int _{0}^{1}e^{itQ_{X}(p)}\,dp\end{cases}}$

Здесь F _X — кумулятивная функция распределения X функцией , f _X — соответствующая функция плотности вероятности , Q _X ( p ) — соответствующая обратная кумулятивная функция распределения, также называемая квантиля , а интегралы имеют вид Римана–Стилтьеса . Если случайная величина X имеет функцию плотности вероятности , то характеристической функцией является ее преобразование Фурье с изменением знака в комплексной экспоненте. . Это соглашение о константах, входящих в определение характеристической функции, отличается от обычного соглашения о преобразовании Фурье. Например, некоторые авторы определим φ _X ( t ) = E[ e ^{−2 πitX} ] , что по сути является изменением параметра. В литературе можно встретить и другие обозначения: $\scriptstyle {\hat {p}}$ как характеристическая функция для вероятностной меры p , или $\scriptstyle {\hat {f}}$ как характеристическая функция, соответствующая плотности f .

Обобщения

Понятие характеристических функций распространяется на многомерные случайные величины и более сложные случайные элементы . Аргумент характеристической функции всегда будет принадлежать непрерывному двойственному пространству, в котором случайная величина X принимает свои значения. Для распространенных случаев такие определения перечислены ниже:

• Если X — k -мерный случайный вектор , то для t ∈ R ^к $$\varphi _{X}(t)=\operatorname {E} \left[\exp(it^{T}\!X)\right],$$ где ${\textstyle t^{T}}$ является транспонированием вектора ${\textstyle t}$,
• Если X — k × p размерности случайная матрица , то для t ∈ R ^{k × p} $$\varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\operatorname {tr} (t^{T}\!X)\right)\right],$$ где ${\textstyle \operatorname {tr} (\cdot )}$ — оператор трассировки ,
• Если X — комплексная случайная величина , то для t ∈ C $$\varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\operatorname {Re} \left({\overline {t}}X\right)\right)\right],$$ где ${\textstyle {\overline {t}}}$ представляет собой сопряжение комплексное ${\textstyle t}$ и ${\textstyle \operatorname {Re} (z)}$ это действительная часть комплексного числа ${\textstyle z}$,
• Если X — k -мерный комплексный случайный вектор , то для t ∈ C ^к    $$\varphi _{X}(t)=\operatorname {E} \left[\exp(i\operatorname {Re} (t^{*}\!X))\right],$$ где ${\textstyle t^{*}}$ является сопряженным транспонированием вектора ${\textstyle t}$,
• Если X ( s ) — случайный процесс , то для всех функций t ( s ) таких, что интеграл ${\textstyle \int _{\mathbb {R} }t(s)X(s)\,\mathrm {d} s}$ сходится почти для всех реализаций X $$\varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\int _{\mathbf {R} }t(s)X(s)\,ds\right)\right].$$

Примеры

Распределение	Характеристическая функция $\phi (t)$
Вырожденное δ a	$e^{ita}$
Бернулли Берн( п )	$1-p+pe^{it}$
Биномиальный B( n, p )	$(1-p+pe^{it})^{n}$
Отрицательный бином NB( r, p )	$\left({\frac {p}{1-e^{it}+pe^{it}}}\right)^{r}$
Рыбный горошек ( λ )	$e^{\lambda (e^{it}-1)}$
Равномерный (непрерывный) U( a, b )	${\frac {e^{itb}-e^{ita}}{it(b-a)}}$
Равномерное (дискретное) DU( a, b )	${\frac {e^{ita}-e^{it(b+1)}}{(1-e^{it})(b-a+1)}}$
Лаплас L( μ , b )	${\frac {e^{it\mu }}{1+b^{2}t^{2}}}$
Логистика Логистика( μ , s )	$e^{i\mu t}{\frac {\pi st}{\sinh(\pi st)}}$
Нормальный Н ( м , р 2 )	$e^{it\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}$
Хи-квадрат χ 2 к	$(1-2it)^{-k/2}$
Нецентральный хи-квадрат ${\chi '_{k}}^{2}$	$e^{\frac {i\lambda t}{1-2it}}(1-2it)^{-k/2}$
Обобщенный хи-квадрат ${\tilde {\chi }}({\boldsymbol {w}},{\boldsymbol {k}},{\boldsymbol {\lambda }},s,m)$	${\frac {\exp \left[it\left(m+\sum _{j}{\frac {w_{j}\lambda _{j}}{1-2iw_{j}t}}\right)-{\frac {s^{2}t^{2}}{2}}\right]}{\prod _{j}\left(1-2iw_{j}t\right)^{k_{j}/2}}}$
Коши C( μ , θ )	$e^{it\mu -\theta |t|}$
Гамма Γ( k , θ )	$(1-it\theta )^{-k}$
Экспоненциальный Exp( λ )	$(1-it\lambda ^{-1})^{-1}$
Геометрический Gf( p ) (количество неудач)	${\frac {p}{1-e^{it}(1-p)}}$
Геометрический Gt( p ) (количество испытаний)	${\frac {p}{e^{-it}-(1-p)}}$
Многомерный нормальный N ( μ , Σ )	$e^{i{\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}}-{\frac {1}{2}}\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }$
Многомерный Коши MultiCauchy( μ , Σ )	$e^{i\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\sqrt {\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }}}$

Оберхеттингер (1973) приводит обширные таблицы характеристических функций.

Характеристики

• Характеристическая функция вещественной случайной величины всегда существует, поскольку она является интегралом от ограниченной непрерывной функции в пространстве, мера которого конечна.
• Характеристическая функция равномерно непрерывна на всем пространстве.
• Оно не обращается в нуль в области около нуля: φ (0) = 1 .
• Оно ограничено: | φ ( т ) | ≤ 1 .
• Оно эрмитово : φ (− t ) знак равно φ ( t ) . В частности, характеристическая функция симметричной (вокруг начала координат) случайной величины является вещественной и четной .
• Существует биекция между распределениями вероятностей и характеристическими функциями. То есть для любых двух случайных величин X ₁ , X ₂ обе имеют одинаковое распределение вероятностей тогда и только тогда, когда $\varphi _{X_{1}}=\varphi _{X_{2}}$.
• Если случайная величина X имеет моменты до k -го порядка, то характеристическая функция φ _X k раз непрерывно дифференцируема на всей вещественной прямой. В этом случае $$\operatorname {E} [X^{k}]=i^{-k}\varphi _{X}^{(k)}(0).$$
• Если характеристическая функция φ _X имеет k -ю производную в нуле, то случайная величина X имеет все моменты до k , если k четное, и только до k – 1 , если k нечетное. $$\varphi _{X}^{(k)}(0)=i^{k}\operatorname {E} [X^{k}]$$
• Если X ₁ , ..., X _n — независимые случайные величины, а a ₁ , ..., an _— некоторые константы, то характеристическая функция линейной комбинации переменных X _i равна $$\varphi _{a_{1}X_{1}+\cdots +a_{n}X_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\cdots \varphi _{X_{n}}(a_{n}t).$$ Одним из конкретных случаев является сумма двух независимых случайных величин X ₁ и X _2, и в этом случае имеем $$\varphi _{X_{1}+X_{2}}(t)=\varphi _{X_{1}}(t)\cdot \varphi _{X_{2}}(t).$$
• Позволять $X$ и $Y$ две случайные величины с характеристическими функциями $\varphi _{X}$ и $\varphi _{Y}$. $X$ и $Y$ независимы тогда и только тогда, когда $\varphi _{X,Y}(s,t)=\varphi _{X}(s)\varphi _{Y}(t)\quad {\text{ for all }}\quad (s,t)\in \mathbb {R} ^{2}$.
• Хвостовое поведение характеристической функции определяет гладкость соответствующей функции плотности.
• Пусть случайная величина $Y=aX+b$ быть линейным преобразованием случайной величины $X$. Характеристическая функция $Y$ является $\varphi _{Y}(t)=e^{itb}\varphi _{X}(at)$. Для случайных векторов $X$ и $Y=AX+B$ (где A — постоянная матрица, а B — постоянный вектор), имеем $\varphi _{Y}(t)=e^{it^{\top }B}\varphi _{X}(A^{\top }t)$.

Непрерывность

Установленная выше биекция между распределениями вероятностей и характеристическими функциями является секвенциально непрерывной . То есть всякий раз, когда последовательность функций распределения F _j ( x ) сходится (слабо) к некоторому распределению F ( x ) , соответствующая последовательность характеристических функций φ _j ( t ) также будет сходиться, и предел φ ( t ) будет соответствовать к характеристической функции закона F . Более формально это формулируется как

Теорема Леви о непрерывности : последовательность X _j с n случайных величин -мерами сходится по распределению к случайной величине X тогда и только тогда, когда последовательность φ _{X j} сходится поточечно к функции φ , непрерывной в начале координат. Где φ характеристическая функция X. —

Эту теорему можно использовать для доказательства закона больших чисел и центральной предельной теоремы .

Формула инверсии

Между кумулятивными функциями распределения и характеристическими функциями существует взаимно однозначное соответствие , поэтому можно найти одну из этих функций, если мы знаем другую. Формула в определении характеристической функции позволяет нам вычислить φ , когда мы знаем функцию распределения F (или плотность f ). Если, с другой стороны, мы знаем характеристическую функцию φ и хотим найти соответствующую функцию распределения, то одну из следующих теорем обращения можно использовать .

Теорема . Если характеристическая функция φ _X случайной величины X интегрируема X , то F _X абсолютно непрерывна, и, следовательно, имеет функцию плотности вероятности . В одномерном случае (т.е. когда X скалярнозначно) функция плотности определяется выражением $$f_{X}(x)=F_{X}'(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{-itx}\varphi _{X}(t)\,dt.$$

В многомерном случае это $$f_{X}(x)={\frac {1}{(2\pi )^{n}}}\int _{\mathbf {R} ^{n}}e^{-i(t\cdot x)}\varphi _{X}(t)\lambda (dt)$$

где ${\textstyle t\cdot x}$ является скалярным произведением .

Функция плотности представляет собой производную Радона–Никодима распределения µ _X по мере Лебега λ : $$f_{X}(x)={\frac {d\mu _{X}}{d\lambda }}(x).$$

Теорема (Леви) . Если φ _X является характеристической функцией функции распределения F _X , две точки a < b таковы, что { x | a < x < b } — непрерывности множество µ _X (в одномерном случае это условие эквивалентно непрерывности F _X в точках a и b ), тогда

• Если X скаляр: $$F_{X}(b)-F_{X}(a)={\frac {1}{2\pi }}\lim _{T\to \infty }\int _{-T}^{+T}{\frac {e^{-ita}-e^{-itb}}{it}}\,\varphi _{X}(t)\,dt.$$ Эту формулу можно переформулировать в более удобной для численного расчета форме: $${\frac {F(x+h)-F(x-h)}{2h}}={\frac {1}{2\pi }}\int _{-\infty }^{\infty }{\frac {\sin ht}{ht}}e^{-itx}\varphi _{X}(t)\,dt.$$ Для случайной величины, ограниченной снизу, можно получить $F(b)$ взяв $a$ такой, что $F(a)=0.$ В противном случае, если случайная величина не ограничена снизу, предел для $a\to -\infty$ дает $F(b)$, но численно непрактично.
• Если X — векторная случайная величина: $$\mu _{X}{\big (}\{a<x<b\}{\big )}={\frac {1}{(2\pi )^{n}}}\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\int \limits _{-T_{1}\leq t_{1}\leq T_{1}}\cdots \int \limits _{-T_{n}\leq t_{n}\leq T_{n}}\prod _{k=1}^{n}\left({\frac {e^{-it_{k}a_{k}}-e^{-it_{k}b_{k}}}{it_{k}}}\right)\varphi _{X}(t)\lambda (dt_{1}\times \cdots \times dt_{n})$$

Теорема . Если a (возможно) является атомом X (в одномерном случае это означает точку разрыва F _X ), то

• Если X скаляр: $$F_{X}(a)-F_{X}(a-0)=\lim _{T\to \infty }{\frac {1}{2T}}\int _{-T}^{+T}e^{-ita}\varphi _{X}(t)\,dt$$
• Если X — векторная случайная величина: $$\mu _{X}(\{a\})=\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\left(\prod _{k=1}^{n}{\frac {1}{2T_{k}}}\right)\int \limits _{[-T_{1},T_{1}]\times \dots \times [-T_{n},T_{n}]}e^{-i(t\cdot a)}\varphi _{X}(t)\lambda (dt)$$

Теорема (Жиль-Пелаес) . Для одномерной случайной величины X , если x является точкой непрерывности F X _, то

$F_{X}(x)={\frac {1}{2}}-{\frac {1}{\pi }}\int _{0}^{\infty }{\frac {\operatorname {Im} [e^{-itx}\varphi _{X}(t)]}{t}}\,dt$

где мнимая часть комплексного числа $z$ дается $\mathrm {Im} (z)=(z-z^{*})/2i$.

А его функция плотности:

$f_{X}(x)={\frac {1}{\pi }}\int _{0}^{\infty }\operatorname {Re} [e^{-itx}\varphi _{X}(t)]\,dt$

Интеграл может быть не интегрируемым по Лебегу ; например, когда X — дискретная случайная величина , которая всегда равна 0, она становится интегралом Дирихле .

Доступны формулы обращения для многомерных распределений.

Критерии характеристических функций

Множество всех характеристических функций замыкается при определенных операциях:

• Выпуклая линейная комбинация ${\textstyle \sum _{n}a_{n}\varphi _{n}(t)}$ (с ${\textstyle a_{n}\geq 0,\ \sum _{n}a_{n}=1}$) конечного или счетного числа характеристических функций также является характеристической функцией.
• Произведение конечного числа характеристических функций также является характеристической функцией. То же самое справедливо и для бесконечного произведения при условии, что оно сходится к функции, непрерывной в начале координат.
• Если φ — характеристическая функция, а α — действительное число, то ${\bar {\varphi }}$, Re( φ ), | ж | ² , и φ ( αt ) также являются характеристическими функциями.

Хорошо известно, что любая неубывающая càdlàg функция F с пределами F (−∞) = 0 , F (+∞) = 1 соответствует кумулятивной функции распределения некоторой случайной величины. Также существует интерес найти аналогичные простые критерии того, когда данная функция φ может быть характеристической функцией некоторой случайной величины. Центральным результатом здесь является теорема Бохнера , хотя ее полезность ограничена, поскольку главное условие теоремы — неотрицательная определенность — очень трудно проверить. Существуют и другие теоремы, например теоремы Хинчина, Матиаса или Крамера, хотя их применение столь же сложно. С другой стороны, теорема Полиа дает очень простое условие выпуклости, которое является достаточным, но не необходимым. Характеристические функции, удовлетворяющие этому условию, называются типами Полиа.

Теорема Бохнера . Произвольная функция φ : R ^н → C — характеристическая функция некоторой случайной величины тогда и только тогда, когда φ положительно определена , непрерывна в начале координат и если φ (0) = 1 .

Критерий Хинчина . Комплекснозначная абсолютно непрерывная функция φ с φ (0) = 1 является характеристической функцией тогда и только тогда, когда она допускает представление

$\varphi (t)=\int _{\mathbf {R} }g(t+\theta ){\overline {g(\theta )}}\,d\theta .$

Теорема Матиаса . Действительная, четная, непрерывная, абсолютно интегрируемая функция φ с φ (0) = 1 является характеристической функцией тогда и только тогда, когда

$(-1)^{n}\left(\int _{\mathbf {R} }\varphi (pt)e^{-t^{2}/2}H_{2n}(t)\,dt\right)\geq 0$

для n = 0,1,2,... и всех p > 0 . Здесь H _{2 n} обозначает полином Эрмита степени 2 n .

Теорему Полиа можно использовать для построения примера двух случайных величин, характеристические функции которых совпадают на конечном интервале, но различны в других местах.

Теорема Полиа . Если $\varphi$ — вещественная четная непрерывная функция, удовлетворяющая условиям

• $\varphi (0)=1$,
• $\varphi$ является выпуклым для $t>0$,
• $\varphi (\infty )=0$,

тогда φ ( t ) — характеристическая функция абсолютно непрерывного распределения, симметричного относительно 0.

Использование

Из-за теоремы о непрерывности характеристические функции используются в наиболее часто встречающемся доказательстве центральной предельной теоремы . Основной прием вычислений с характеристической функцией заключается в признании этой функции характеристической функцией определенного распределения.

Базовые манипуляции с дистрибутивами

Характеристические функции особенно полезны при работе с линейными функциями независимых случайных величин. Например, если X ₁ , X ₂ , ..., X _n представляет собой последовательность независимых (и не обязательно одинаково распределенных) случайных величин, и

$S_{n}=\sum _{i=1}^{n}a_{i}X_{i},\,\!$

где a _i характеристическая функция для Sn _{— константы, то} определяется выражением

$\varphi _{S_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\varphi _{X_{2}}(a_{2}t)\cdots \varphi _{X_{n}}(a_{n}t)\,\!$

В частности, φ _X+Y ( t ) = φ _X ( t ) φ _Y ( t ) . Чтобы убедиться в этом, выпишите определение характеристической функции:

$\varphi _{X+Y}(t)=\operatorname {E} \left[e^{it(X+Y)}\right]=\operatorname {E} \left[e^{itX}e^{itY}\right]=\operatorname {E} \left[e^{itX}\right]\operatorname {E} \left[e^{itY}\right]=\varphi _{X}(t)\varphi _{Y}(t)$

Независимость X и Y необходима для установления равенства третьего и четвертого выражений.

Другой особый случай, представляющий интерес для одинаково распределенных случайных величин, — это когда a _i = 1/ n , а затем S _n — выборочное среднее. В этом случае, записывая X для обозначения среднего значения,

$\varphi _{\overline {X}}(t)=\varphi _{X}\!\left({\tfrac {t}{n}}\right)^{n}$

Моменты

Характеристические функции также можно использовать для поиска моментов случайной величины. При условии, что n - ^й момент существует, характеристическую функцию можно дифференцировать n раз:

$$\operatorname {E} \left[X^{n}\right]=i^{-n}\left[{\frac {d^{n}}{dt^{n}}}\varphi _{X}(t)\right]_{t=0}=i^{-n}\varphi _{X}^{(n)}(0),\!$$

Формально это можно записать с помощью производных дельта-функции Дирака : $$f_{X}(x)=\sum _{n=0}^{\infty }{\frac {(-1)^{n}}{n!}}\delta ^{(n)}(x)\operatorname {E} [X^{n}]$$что позволяет формально решить проблему моментов .Например, предположим, что X имеет стандартное распределение Коши . Тогда φ _X ( t ) = e ^{−| т |} . Это не дифференцируемо при t = 0 , показывая, что распределение Коши не имеет математического ожидания . Кроме того, характеристическая функция выборочного среднего X n наблюдений независимых имеет характеристическую функцию φ _X ( t ) = ( e ^{−| т |/ н} ) ^н = и ^{−| т |} , используя результат из предыдущего раздела. Это характерная функция стандартного распределения Коши: таким образом, выборочное среднее имеет то же распределение, что и сама совокупность.

В качестве дальнейшего примера предположим, что X следует распределению Гаусса , т.е. $X\sim {\mathcal {N}}(\mu ,\sigma ^{2})$. Затем $\varphi _{X}(t)=e^{\mu it-{\frac {1}{2}}\sigma ^{2}t^{2}}$ и

$\operatorname {E} \left[X\right]=i^{-1}\left[{\frac {d}{dt}}\varphi _{X}(t)\right]_{t=0}=i^{-1}\left[(i\mu -\sigma ^{2}t)\varphi _{X}(t)\right]_{t=0}=\mu$

Аналогичный расчет показывает $\operatorname {E} \left[X^{2}\right]=\mu ^{2}+\sigma ^{2}$ и его легче осуществить, чем применять определение ожидания и использовать интегрирование по частям для оценки $\operatorname {E} \left[X^{2}\right]$.

Логарифм характеристической функции является производящей функцией кумулянта , которая полезна для нахождения кумулянтов ; некоторые вместо этого определяют кумулянтную производящую функцию как логарифм функции, генерирующей момент , и называют логарифм характеристической функции второй кумулянтной производящей функцией.

Анализ данных

Характеристические функции могут использоваться как часть процедур подбора вероятностных распределений к выборкам данных. Случаи, когда это обеспечивает практический вариант по сравнению с другими возможностями, включают подбор стабильного распределения, поскольку выражения для плотности в замкнутой форме недоступны, что затрудняет реализацию оценки максимального правдоподобия . Доступны процедуры оценки, которые сопоставляют теоретическую характеристическую функцию с эмпирической характеристической функцией , рассчитанной на основе данных. Полсон и др. (1975) и Хиткот (1977) предоставить некоторую теоретическую основу для такой процедуры оценки. Кроме того, Ю (2004) описывает применение эмпирических характеристических функций для соответствия моделям временных рядов , где процедуры правдоподобия непрактичны. Эмпирические характеристические функции также использовались Ансари и др. (2020) и Ли и др. (2020) для обучения генеративно-состязательных сетей .

Пример

Гамма -распределение с параметром масштаба θ и параметром формы k имеет характеристическую функцию

$(1-\theta it)^{-k}.$

Теперь предположим, что у нас есть

$X~\sim \Gamma (k_{1},\theta ){\mbox{ and }}Y\sim \Gamma (k_{2},\theta )$

где X и Y распределение X + Y. независимы друг от друга, и мы хотим знать, каково Характеристическими функциями являются

$\varphi _{X}(t)=(1-\theta it)^{-k_{1}},\,\qquad \varphi _{Y}(t)=(1-\theta it)^{-k_{2}}$

что в силу независимости и основных свойств характеристической функции приводит к

$\varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)=(1-\theta it)^{-k_{1}}(1-\theta it)^{-k_{2}}=\left(1-\theta it\right)^{-(k_{1}+k_{2})}.$

Это характеристическая функция параметра масштаба гамма-распределения θ и параметра формы k ₁ + k ₂ , и поэтому мы заключаем

$X+Y\sim \Gamma (k_{1}+k_{2},\theta )$

Результат можно расширить до n независимых гамма-распределенных случайных величин с тем же масштабным параметром, и мы получим

$\forall i\in \{1,\ldots ,n\}:X_{i}\sim \Gamma (k_{i},\theta )\qquad \Rightarrow \qquad \sum _{i=1}^{n}X_{i}\sim \Gamma \left(\sum _{i=1}^{n}k_{i},\theta \right).$

Целые характеристические функции

Как определено выше, аргумент характеристической функции рассматривается как действительное число: однако некоторые аспекты теории характеристических функций развиваются путем расширения определения в комплексную плоскость путем аналитического продолжения в тех случаях, когда это возможно.

Связанные понятия

Связанные понятия включают функцию, генерирующую момент , и функцию, генерирующую вероятность . Характеристическая функция существует для всех распределений вероятностей. Это не относится к функции, производящей момент.

Характеристическая функция тесно связана с преобразованием Фурье характеристическая функция функции плотности вероятности p ( x ) является комплексно-сопряженным непрерывным преобразованием Фурье p : ( x ) (согласно обычному соглашению; см. непрерывное преобразование Фурье - другое конвенции ).

$\varphi _{X}(t)=\langle e^{itX}\rangle =\int _{\mathbf {R} }e^{itx}p(x)\,dx={\overline {\left(\int _{\mathbf {R} }e^{-itx}p(x)\,dx\right)}}={\overline {P(t)}},$

где P ( t ) обозначает непрерывное преобразование Фурье функции плотности вероятности p ( x ) . Аналогично, p ( x ) можно восстановить из φ _X ( t ) посредством обратного преобразования Фурье:

$p(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{itx}P(t)\,dt={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{itx}{\overline {\varphi _{X}(t)}}\,dt.$

Действительно, даже если случайная величина не имеет плотности, характеристическую функцию можно рассматривать как преобразование Фурье меры, соответствующей случайной величине.

Другая родственная концепция — представление вероятностных распределений как элементов воспроизводящего ядра гильбертова пространства посредством встраивания распределений в ядро . Эту структуру можно рассматривать как обобщение характеристической функции при конкретном выборе функции ядра .

См. также

• Субнезависимость — более слабое условие, чем независимость, определяемое через характеристические функции.
• Кумулянт — член производящих функций кумулянта , которые представляют собой журналы характеристических функций.

Ссылки

Источники

• Андерсен, Х.Х.; Хойбьерре, М.; Соренсен, Д.; Эриксен, П.С. (1995). Линейные и графические модели многомерного комплексного нормального распределения . Конспекты лекций по статистике 101. Нью-Йорк: Springer-Verlag. ISBN  978-0-387-94521-7 .
• Биллингсли, Патрик (1995). Вероятность и мера (3-е изд.). Джон Уайли и сыновья. ISBN  978-0-471-00710-4 .
• Бисгаард, ТМ; Сасвари, З. (2000). Характеристические функции и последовательности моментов . Нова Наука.
• Бохнер, Саломон (1955). Гармонический анализ и теория вероятностей . Издательство Калифорнийского университета.
• Куппенс, Р. (1975). Разложение многомерных вероятностей . Академическая пресса. ISBN  9780121994501 .
• Хиткот, Чехия (1977). «Интегральная квадратичная ошибка оценки параметров». Биометрика . 64 (2): 255–264. дои : 10.1093/biomet/64.2.255 .
• Лукач, Э. (1970). Характеристические функции . Лондон: Гриффин.
• Коц, Сэмюэл; Надараджа, Саралис (2004). Многомерные Т-распределения и их приложения . Издательство Кембриджского университета.
• Манолакис, Димитрис Г.; Ингл, Винай К.; Когон, Стивен М. (2005). Статистическая и адаптивная обработка сигналов: спектральная оценка, моделирование сигналов, адаптивная фильтрация и обработка массивов . Артех Хаус. ISBN  978-1-58053-610-3 .
• Оберхеттингер, Фриц (1973). Преобразования Фурье распределений и обратные им; сборник таблиц . Нью-Йорк: Академическая пресса. ISBN  9780125236508 .
• Полсон, А.С.; Холкомб, EW; Лейтч, Р.А. (1975). «Оценка параметров устойчивых законов». Биометрика . 62 (1): 163–170. дои : 10.1093/biomet/62.1.163 .
• Пинский, Марк (2002). Введение в анализ Фурье и вейвлеты . Брукс/Коул. ISBN  978-0-534-37660-4 .
• Собчик, Казимеж (2001). Стохастические дифференциальные уравнения . Академическое издательство Kluwer . ISBN  978-1-4020-0345-5 .
• Вендель, Дж. Г. (1961). «Неабсолютная сходимость интеграла обращения Жиля-Пелаеса» . Анналы математической статистики . 32 (1): 338–339. дои : 10.1214/aoms/1177705164 .
• Ю, Дж. (2004). «Оценка эмпирической характеристической функции и ее приложения» (PDF) . Эконометрические обзоры . 23 (2): 93–1223. дои : 10.1081/ETC-120039605 . S2CID   9076760 .
• Шепард, Нью-Йорк (1991a). «От характеристической функции к функции распределения: простая основа теории» . Эконометрическая теория . 7 (4): 519–529. дои : 10.1017/s0266466600004746 . S2CID   14668369 .
• Шепард, Нью-Йорк (1991b). «Правила численного интегрирования для многомерных обращений» . Журнал статистических вычислений и моделирования . 39 (1–2): 37–46. дои : 10.1080/00949659108811337 .
• Ансари, Абдул Фатир; Скарлетт, Джонатан; Итак, Гарольд (2020). «Подход с характеристическими функциями к глубокому неявному генеративному моделированию» . Материалы конференции IEEE/CVF по компьютерному зрению и распознаванию образов (CVPR), 2020 . стр. 7478–7487.
• Ли, Шэнси; Ю, Цзэян; Сян, Мин; Мандич, Данило (2020). «Взаимное состязательное обучение с помощью характеристических функций» . Достижения в области нейронных систем обработки информации 33 (NeurIPS 2020) .

Внешние ссылки

• «Характеристическая функция» , Математическая энциклопедия , EMS Press , 2001 [1994]