Характеристическая функция (теория вероятностей)

Характеристическая функция равномерной U случайной величины (–1,1). Эта функция имеет действительное значение, поскольку она соответствует случайной величине, симметричной относительно начала координат; однако характеристические функции обычно могут быть комплексными.

В теории вероятностей и статистике характеристическая функция любой вещественной случайной величины полностью определяет ее распределение вероятностей . Если случайная величина допускает функцию плотности вероятности , то характеристическая функция представляет собой преобразование Фурье (с изменением знака) функции плотности вероятности. Таким образом, это обеспечивает альтернативный путь к аналитическим результатам по сравнению с прямой работой с функциями плотности вероятности или кумулятивными функциями распределения . Особенно простые результаты получены для характеристических функций распределений, определяемых взвешенными суммами случайных величин.

В дополнение к одномерным распределениям характеристические функции могут быть определены для случайных величин с векторными или матричными значениями, а также могут быть расширены на более общие случаи.

Характеристическая функция всегда существует, если рассматривать ее как функцию действительного аргумента, в отличие от функции, порождающей момент . Существуют связи между поведением характеристической функции распределения и свойствами распределения, такими как существование моментов и существование функции плотности.

Введение

Характеристическая функция – это способ описания случайной величины .Характеристическая функция ,

$\varphi _{X}(t)=\operatorname {E} \left[e^{itX}\right],$

функция t , определяет поведение и свойства распределения вероятностей случайной величины X. полностью Характеристическая функция аналогична кумулятивной функции распределения ,

$F_{X}(x)=\operatorname {E} \left[\mathbf {1} _{\{X\leq x\}}\right]$

(где 1 _{{ X ≤ x }} — индикаторная функция — она равна 1 в том случае, X ≤ x , и нулю в противном случае), что также полностью определяет поведение и свойства распределения вероятностей случайной величины X. если Эти два подхода эквивалентны в том смысле, что, зная одну из функций, всегда можно найти другую, но они дают разные идеи для понимания особенностей случайной величины. Более того, в отдельных случаях могут быть различия в том, можно ли представить эти функции в виде выражений, включающих простые стандартные функции.

Если случайная величина допускает функцию плотности , то характеристическая функция является ее двойственной Фурье в том смысле, что каждая из них является преобразованием Фурье другой. Если случайная величина имеет производящую момент функцию $M_{X}(t)$, то область определения характеристической функции можно продолжить на комплексную плоскость, и

$\varphi _{X}(-it)=M_{X}(t).$

Однако обратите внимание, что характеристическая функция распределения всегда существует, даже если функция плотности вероятности или функция, генерирующая момент, не существуют.

Подход характеристических функций особенно полезен при анализе линейных комбинаций независимых случайных величин: классическое доказательство Центральной предельной теоремы использует характеристические функции и теорему о непрерывности Леви . Другое важное приложение — теория разложимости случайных величин.

Определение

Для скалярной случайной величины X характеристическая функция определяется как ожидаемое значение e ^ИТХ , где i — мнимая единица , а t ∈ R — аргумент характеристической функции:

${\begin{cases}\displaystyle \varphi _{X}\!:\mathbb {R} \to \mathbb {C} \\\displaystyle \varphi _{X}(t)=\operatorname {E} \left[e^{itX}\right]=\int _{\mathbb {R} }e^{itx}\,dF_{X}(x)=\int _{\mathbb {R} }e^{itx}f_{X}(x)\,dx=\int _{0}^{1}e^{itQ_{X}(p)}\,dp\end{cases}}$

Здесь F _X — кумулятивная функция распределения X функцией , f _X — соответствующая функция плотности вероятности , Q _X ( p ) — соответствующая обратная кумулятивная функция распределения, также называемая квантиля , а интегралы имеют вид Римана–Стилтьеса . Если случайная величина X имеет функцию плотности вероятности , то характеристической функцией является ее преобразование Фурье с изменением знака в комплексной экспоненте. . Это соглашение о константах, входящих в определение характеристической функции, отличается от обычного соглашения о преобразовании Фурье. Например, некоторые авторы определим φ _X ( t ) = E[ e ^{−2 πitX} ] , что по сути является изменением параметра. В литературе можно встретить и другие обозначения: $\scriptstyle {\hat {p}}$ как характеристическая функция для вероятностной меры p , или $\scriptstyle {\hat {f}}$ как характеристическая функция, соответствующая плотности f .

Обобщения

Понятие характеристических функций распространяется на многомерные случайные величины и более сложные случайные элементы . Аргумент характеристической функции всегда будет принадлежать непрерывному двойственному пространству, в котором случайная величина X принимает свои значения. Для распространенных случаев такие определения перечислены ниже:

• Если X — k -мерный случайный вектор , то для t ∈ R ^к
  $$\varphi _{X}(t)=\operatorname {E} \left[\exp(it^{T}\!X)\right],$$
  где ${\textstyle t^{T}}$ является транспонированием вектора ${\textstyle t}$,
• Если X — k × p размерности случайная матрица , то для t ∈ R ^{k × p}
  $$\varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\operatorname {tr} (t^{T}\!X)\right)\right],$$
  где ${\textstyle \operatorname {tr} (\cdot )}$ — оператор трассировки ,
• Если X — комплексная случайная величина , то для t ∈ C
  $$\varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\operatorname {Re} \left({\overline {t}}X\right)\right)\right],$$
  где ${\textstyle {\overline {t}}}$ представляет собой сопряжение комплексное ${\textstyle t}$ и ${\textstyle \operatorname {Re} (z)}$ это действительная часть комплексного числа ${\textstyle z}$,
• Если X — k -мерный комплексный случайный вектор , то для t ∈ C ^к   
  $$\varphi _{X}(t)=\operatorname {E} \left[\exp(i\operatorname {Re} (t^{*}\!X))\right],$$
  где ${\textstyle t^{*}}$ является сопряженным транспонированием вектора ${\textstyle t}$,
• Если X ( s ) — случайный процесс , то для всех функций t ( s ) таких, что интеграл ${\textstyle \int _{\mathbb {R} }t(s)X(s)\,\mathrm {d} s}$ сходится почти для всех реализаций X
  $$\varphi _{X}(t)=\operatorname {E} \left[\exp \left(i\int _{\mathbf {R} }t(s)X(s)\,ds\right)\right].$$

Примеры

Распределение	Характеристическая функция $\phi (t)$
Вырожденное δ a	$e^{ita}$
Бернулли Берн( п )	$1-p+pe^{it}$
Биномиальный B( n, p )	$(1-p+pe^{it})^{n}$
Отрицательный бином NB( r, p )	$\left({\frac {p}{1-e^{it}+pe^{it}}}\right)^{r}$
Рыбный горошек ( λ )	$e^{\lambda (e^{it}-1)}$
Равномерный (непрерывный) U( a, b )	${\frac {e^{itb}-e^{ita}}{it(b-a)}}$
Равномерное (дискретное) DU( a, b )	${\frac {e^{ita}-e^{it(b+1)}}{(1-e^{it})(b-a+1)}}$
Лаплас L( μ , b )	${\frac {e^{it\mu }}{1+b^{2}t^{2}}}$
Логистика Логистика( μ , s )	$e^{i\mu t}{\frac {\pi st}{\sinh(\pi st)}}$
Нормальный Н ( м , р 2 )	$e^{it\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}$
Хи-квадрат χ 2 к	$(1-2it)^{-k/2}$
Нецентральный хи-квадрат ${\chi '_{k}}^{2}$	$e^{\frac {i\lambda t}{1-2it}}(1-2it)^{-k/2}$
Обобщенный хи-квадрат ${\tilde {\chi }}({\boldsymbol {w}},{\boldsymbol {k}},{\boldsymbol {\lambda }},s,m)$	${\frac {\exp \left[it\left(m+\sum _{j}{\frac {w_{j}\lambda _{j}}{1-2iw_{j}t}}\right)-{\frac {s^{2}t^{2}}{2}}\right]}{\prod _{j}\left(1-2iw_{j}t\right)^{k_{j}/2}}}$
Коши C( μ , θ )	$e^{it\mu -\theta |t|}$
Гамма Γ( k , θ )	$(1-it\theta )^{-k}$
Экспоненциальный Exp( λ )	$(1-it\lambda ^{-1})^{-1}$
Геометрический Gf( p ) (количество неудач)	${\frac {p}{1-e^{it}(1-p)}}$
Геометрический Gt( p ) (количество испытаний)	${\frac {p}{e^{-it}-(1-p)}}$
Многомерный нормальный N ( μ , Σ )	$e^{i{\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}}-{\frac {1}{2}}\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }$
Многомерный Коши MultiCauchy( μ , Σ )	$e^{i\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\sqrt {\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }}}$

Оберхеттингер (1973) приводит обширные таблицы характеристических функций.

Свойства

• Характеристическая функция вещественной случайной величины всегда существует, поскольку она является интегралом от ограниченной непрерывной функции в пространстве, мера которого конечна.
• Характеристическая функция равномерно непрерывна на всем пространстве.
• Оно не обращается в нуль в области около нуля: φ (0) = 1 .
• Оно ограничено: | φ ( т ) | ≤ 1 .
• Оно эрмитово : φ (− t ) знак равно φ ( t ) . В частности, характеристическая функция симметричной (вокруг начала координат) случайной величины является вещественной и четной .
• Существует биекция между распределениями вероятностей и характеристическими функциями. То есть для любых двух случайных величин X ₁ , X ₂ обе имеют одинаковое распределение вероятностей тогда и только тогда, когда $\varphi _{X_{1}}=\varphi _{X_{2}}$.
• Если случайная величина X имеет моменты до k -го порядка, то характеристическая функция φ _X k раз непрерывно дифференцируема на всей вещественной прямой. В этом случае
  $$\operatorname {E} [X^{k}]=i^{-k}\varphi _{X}^{(k)}(0).$$
• Если характеристическая функция φ _X имеет k -ю производную в нуле, то случайная величина X имеет все моменты до k , если k четное, и только до k – 1 , если k нечетное.
  $$\varphi _{X}^{(k)}(0)=i^{k}\operatorname {E} [X^{k}]$$
• Если X ₁ , ..., X _n — независимые случайные величины, а a ₁ , ..., an _— некоторые константы, то характеристическая функция линейной комбинации переменных X _i равна
  $$\varphi _{a_{1}X_{1}+\cdots +a_{n}X_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\cdots \varphi _{X_{n}}(a_{n}t).$$
  Одним из конкретных случаев является сумма двух независимых случайных величин X ₁ и X _2, и в этом случае имеем
  $$\varphi _{X_{1}+X_{2}}(t)=\varphi _{X_{1}}(t)\cdot \varphi _{X_{2}}(t).$$
• Позволять $X$ и $Y$ две случайные величины с характеристическими функциями $\varphi _{X}$ и $\varphi _{Y}$. $X$ и $Y$ независимы тогда и только тогда, когда $\varphi _{X,Y}(s,t)=\varphi _{X}(s)\varphi _{Y}(t)\quad {\text{ for all }}\quad (s,t)\in \mathbb {R} ^{2}$.
• Хвостовое поведение характеристической функции определяет гладкость соответствующей функции плотности.
• Пусть случайная величина $Y=aX+b$ быть линейным преобразованием случайной величины $X$. Характеристическая функция $Y$ является $\varphi _{Y}(t)=e^{itb}\varphi _{X}(at)$. Для случайных векторов $X$ и $Y=AX+B$ (где A — постоянная матрица, а B — постоянный вектор), имеем $\varphi _{Y}(t)=e^{it^{\top }B}\varphi _{X}(A^{\top }t)$.

Преемственность

Установленная выше биекция между распределениями вероятностей и характеристическими функциями является секвенциально непрерывной . То есть всякий раз, когда последовательность функций распределения F _j ( x ) сходится (слабо) к некоторому распределению F ( x ) , соответствующая последовательность характеристических функций φ _j ( t ) также будет сходиться, и предел φ ( t ) будет соответствовать к характеристической функции закона F . Более формально это формулируется как

Теорема Леви о непрерывности : последовательность X _j с n случайных величин -мерами сходится по распределению к случайной величине X тогда и только тогда, когда последовательность φ _{X j} сходится поточечно к функции φ , непрерывной в начале координат. Где φ характеристическая функция X. —

Эту теорему можно использовать для доказательства закона больших чисел и центральной предельной теоремы .

Формула инверсии

Между кумулятивными функциями распределения и характеристическими функциями существует взаимно однозначное соответствие , поэтому можно найти одну из этих функций, если мы знаем другую. Формула в определении характеристической функции позволяет нам вычислить φ , когда мы знаем функцию распределения F (или плотность f ). Если, с другой стороны, мы знаем характеристическую функцию φ и хотим найти соответствующую функцию распределения, то одну из следующих теорем обращения можно использовать .

Теорема . Если характеристическая функция φ _X случайной величины X интегрируема X , то F _X абсолютно непрерывна, и, следовательно, имеет функцию плотности вероятности . В одномерном случае (т.е. когда X скалярнозначно) функция плотности определяется выражением

$$f_{X}(x)=F_{X}'(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{-itx}\varphi _{X}(t)\,dt.$$

В многомерном случае это

$$f_{X}(x)={\frac {1}{(2\pi )^{n}}}\int _{\mathbf {R} ^{n}}e^{-i(t\cdot x)}\varphi _{X}(t)\lambda (dt)$$

где ${\textstyle t\cdot x}$ является скалярным произведением .

Функция плотности представляет собой производную Радона–Никодима распределения µ _X по мере Лебега λ :

$$f_{X}(x)={\frac {d\mu _{X}}{d\lambda }}(x).$$

Теорема (Леви) . Если φ _X является характеристической функцией функции распределения F _X , две точки a < b таковы, что { x | a < x < b } — непрерывности множество µ _X (в одномерном случае это условие эквивалентно непрерывности F _X в точках a и b ), тогда

• Если X скаляр:
  $$F_{X}(b)-F_{X}(a)={\frac {1}{2\pi }}\lim _{T\to \infty }\int _{-T}^{+T}{\frac {e^{-ita}-e^{-itb}}{it}}\,\varphi _{X}(t)\,dt.$$
  Эту формулу можно переформулировать в более удобной для численного расчета форме:
  $${\frac {F(x+h)-F(x-h)}{2h}}={\frac {1}{2\pi }}\int _{-\infty }^{\infty }{\frac {\sin ht}{ht}}e^{-itx}\varphi _{X}(t)\,dt.$$
  Для случайной величины, ограниченной снизу, можно получить $F(b)$ взяв $a$ такой, что $F(a)=0.$ В противном случае, если случайная величина не ограничена снизу, предел для $a\to -\infty$ дает $F(b)$, но численно непрактично.
• Если X — векторная случайная величина:
  $$\mu _{X}{\big (}\{a<x<b\}{\big )}={\frac {1}{(2\pi )^{n}}}\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\int \limits _{-T_{1}\leq t_{1}\leq T_{1}}\cdots \int \limits _{-T_{n}\leq t_{n}\leq T_{n}}\prod _{k=1}^{n}\left({\frac {e^{-it_{k}a_{k}}-e^{-it_{k}b_{k}}}{it_{k}}}\right)\varphi _{X}(t)\lambda (dt_{1}\times \cdots \times dt_{n})$$

Теорема . Если a (возможно) является атомом X (в одномерном случае это означает точку разрыва F _X ), то

• Если X скаляр:
  $$F_{X}(a)-F_{X}(a-0)=\lim _{T\to \infty }{\frac {1}{2T}}\int _{-T}^{+T}e^{-ita}\varphi _{X}(t)\,dt$$
• Если X — векторная случайная величина:
  $$\mu _{X}(\{a\})=\lim _{T_{1}\to \infty }\cdots \lim _{T_{n}\to \infty }\left(\prod _{k=1}^{n}{\frac {1}{2T_{k}}}\right)\int \limits _{[-T_{1},T_{1}]\times \dots \times [-T_{n},T_{n}]}e^{-i(t\cdot a)}\varphi _{X}(t)\lambda (dt)$$

Теорема (Жиль-Пелаес) . Для одномерной случайной величины X , если x является точкой непрерывности F X _, то

$F_{X}(x)={\frac {1}{2}}-{\frac {1}{\pi }}\int _{0}^{\infty }{\frac {\operatorname {Im} [e^{-itx}\varphi _{X}(t)]}{t}}\,dt$

где мнимая часть комплексного числа $z$ дается $\mathrm {Im} (z)=(z-z^{*})/2i$.

А его функция плотности:

$f_{X}(x)={\frac {1}{\pi }}\int _{0}^{\infty }\operatorname {Re} [e^{-itx}\varphi _{X}(t)]\,dt$

Интеграл может быть не интегрируемым по Лебегу ; например, когда X — дискретная случайная величина , которая всегда равна 0, она становится интегралом Дирихле .

Доступны формулы обращения для многомерных распределений.

Критерии характеристических функций

Множество всех характеристических функций замыкается при определенных операциях:

• Выпуклая линейная комбинация ${\textstyle \sum _{n}a_{n}\varphi _{n}(t)}$ (с ${\textstyle a_{n}\geq 0,\ \sum _{n}a_{n}=1}$) конечного или счетного числа характеристических функций также является характеристической функцией.
• Произведение конечного числа характеристических функций также является характеристической функцией. То же самое справедливо и для бесконечного произведения при условии, что оно сходится к функции, непрерывной в начале координат.
• Если φ — характеристическая функция, а α — действительное число, то ${\bar {\varphi }}$, Re( φ ), | ж | ² , и φ ( αt ) также являются характеристическими функциями.

Хорошо известно, что любая неубывающая càdlàg функция F с пределами F (−∞) = 0 , F (+∞) = 1 соответствует кумулятивной функции распределения некоторой случайной величины. Также существует интерес найти аналогичные простые критерии того, когда данная функция φ может быть характеристической функцией некоторой случайной величины. Центральным результатом здесь является теорема Бохнера , хотя ее полезность ограничена, поскольку главное условие теоремы — неотрицательная определенность — очень трудно проверить. Существуют и другие теоремы, например теоремы Хинчина, Матиаса или Крамера, хотя их применение столь же сложно. С другой стороны, теорема Полиа дает очень простое условие выпуклости, которое является достаточным, но не необходимым. Характеристические функции, удовлетворяющие этому условию, называются типами Полиа.

Теорема Бохнера . Произвольная функция φ : R ^н → C — характеристическая функция некоторой случайной величины тогда и только тогда, когда φ положительно определена , непрерывна в начале координат и если φ (0) = 1 .

Критерий Хинчина . Комплекснозначная абсолютно непрерывная функция φ с φ (0) = 1 является характеристической функцией тогда и только тогда, когда она допускает представление

$\varphi (t)=\int _{\mathbf {R} }g(t+\theta ){\overline {g(\theta )}}\,d\theta .$

Теорема Матиаса . Действительная, четная, непрерывная, абсолютно интегрируемая функция φ с φ (0) = 1 является характеристической функцией тогда и только тогда, когда

$(-1)^{n}\left(\int _{\mathbf {R} }\varphi (pt)e^{-t^{2}/2}H_{2n}(t)\,dt\right)\geq 0$

для n = 0,1,2,... и всех p > 0 . Здесь H _{2 n} обозначает полином Эрмита степени 2 n .

Теорему Полиа можно использовать для построения примера двух случайных величин, характеристические функции которых совпадают на конечном интервале, но различны в других местах.

Теорема Полиа . Если $\varphi$ — вещественная четная непрерывная функция, удовлетворяющая условиям

• $\varphi (0)=1$,
• $\varphi$ является выпуклым для $t>0$,
• $\varphi (\infty )=0$,

тогда φ ( t ) — характеристическая функция абсолютно непрерывного распределения, симметричного относительно 0.

Использует

Из-за теоремы о непрерывности характеристические функции используются в наиболее часто встречающемся доказательстве центральной предельной теоремы . Основной прием вычислений с характеристической функцией заключается в признании этой функции характеристической функцией определенного распределения.

Базовые манипуляции с дистрибутивами

Характеристические функции особенно полезны при работе с линейными функциями независимых случайных величин. Например, если X ₁ , X ₂ , ..., X _n представляет собой последовательность независимых (и не обязательно одинаково распределенных) случайных величин, и

$S_{n}=\sum _{i=1}^{n}a_{i}X_{i},\,\!$

где a _i характеристическая функция для Sn _{— константы, то} определяется выражением

$\varphi _{S_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\varphi _{X_{2}}(a_{2}t)\cdots \varphi _{X_{n}}(a_{n}t)\,\!$

В частности, φ _X+Y ( t ) = φ _X ( t ) φ _Y ( t ) . Чтобы убедиться в этом, выпишите определение характеристической функции:

$\varphi _{X+Y}(t)=\operatorname {E} \left[e^{it(X+Y)}\right]=\operatorname {E} \left[e^{itX}e^{itY}\right]=\operatorname {E} \left[e^{itX}\right]\operatorname {E} \left[e^{itY}\right]=\varphi _{X}(t)\varphi _{Y}(t)$

Независимость X и Y необходима для установления равенства третьего и четвертого выражений.

Другой особый случай, представляющий интерес для одинаково распределенных случайных величин, — это когда a _i = 1/ n , а затем S _n — выборочное среднее. В этом случае, записывая X для обозначения среднего значения,

$\varphi _{\overline {X}}(t)=\varphi _{X}\!\left({\tfrac {t}{n}}\right)^{n}$

Моменты

Характеристические функции также можно использовать для поиска моментов случайной величины. При условии, что n - ^й момент существует, характеристическую функцию можно дифференцировать n раз:

$$\operatorname {E} \left[X^{n}\right]=i^{-n}\left[{\frac {d^{n}}{dt^{n}}}\varphi _{X}(t)\right]_{t=0}=i^{-n}\varphi _{X}^{(n)}(0),\!$$

Формально это можно записать с помощью производных дельта-функции Дирака :

$$f_{X}(x)=\sum _{n=0}^{\infty }{\frac {(-1)^{n}}{n!}}\delta ^{(n)}(x)\operatorname {E} [X^{n}]$$

что позволяет формально решить проблему моментов .Например, предположим, что X имеет стандартное распределение Коши . Тогда φ _X ( t ) = e ^{−| т |} . Это не дифференцируемо при t = 0 , показывая, что распределение Коши не имеет математического ожидания . Кроме того, характеристическая функция выборочного среднего X n наблюдений независимых имеет характеристическую функцию φ _X ( t ) = ( e ^{−| т |/ н} ) ^н = и ^{−| т |} , используя результат из предыдущего раздела. Это характерная функция стандартного распределения Коши: таким образом, выборочное среднее имеет то же распределение, что и сама совокупность.

В качестве дальнейшего примера предположим, что X следует распределению Гаусса , т.е. $X\sim {\mathcal {N}}(\mu ,\sigma ^{2})$. Затем $\varphi _{X}(t)=e^{\mu it-{\frac {1}{2}}\sigma ^{2}t^{2}}$ и

$\operatorname {E} \left[X\right]=i^{-1}\left[{\frac {d}{dt}}\varphi _{X}(t)\right]_{t=0}=i^{-1}\left[(i\mu -\sigma ^{2}t)\varphi _{X}(t)\right]_{t=0}=\mu$

Аналогичный расчет показывает $\operatorname {E} \left[X^{2}\right]=\mu ^{2}+\sigma ^{2}$ и его легче осуществить, чем применять определение ожидания и использовать интегрирование по частям для оценки $\operatorname {E} \left[X^{2}\right]$.

Логарифм характеристической функции является производящей функцией кумулянта , которая полезна для нахождения кумулянтов ; некоторые вместо этого определяют кумулянтную производящую функцию как логарифм функции, генерирующей момент , и называют логарифм характеристической функции второй кумулянтной производящей функцией.

Анализ данных

Характеристические функции могут использоваться как часть процедур подбора вероятностных распределений к выборкам данных. Случаи, когда это обеспечивает практический вариант по сравнению с другими возможностями, включают подбор стабильного распределения, поскольку выражения для плотности в замкнутой форме недоступны, что затрудняет реализацию оценки максимального правдоподобия . Доступны процедуры оценки, которые сопоставляют теоретическую характеристическую функцию с эмпирической характеристической функцией , рассчитанной на основе данных. Полсон и др. (1975) и Хиткот (1977) предоставить некоторую теоретическую основу для такой процедуры оценки. Кроме того, Ю (2004) описывает применение эмпирических характеристических функций для соответствия моделям временных рядов , где процедуры правдоподобия непрактичны. Эмпирические характеристические функции также использовались Ансари и др. (2020) и Ли и др. (2020) для обучения генеративно-состязательных сетей .

Пример

Гамма -распределение с параметром масштаба θ и параметром формы k имеет характеристическую функцию

$(1-\theta it)^{-k}.$

Теперь предположим, что у нас есть

$X~\sim \Gamma (k_{1},\theta ){\mbox{ and }}Y\sim \Gamma (k_{2},\theta )$

где X и Y распределение X + Y. независимы друг от друга, и мы хотим знать, каково Характеристическими функциями являются

$\varphi _{X}(t)=(1-\theta it)^{-k_{1}},\,\qquad \varphi _{Y}(t)=(1-\theta it)^{-k_{2}}$

что в силу независимости и основных свойств характеристической функции приводит к

$\varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t)=(1-\theta it)^{-k_{1}}(1-\theta it)^{-k_{2}}=\left(1-\theta it\right)^{-(k_{1}+k_{2})}.$

Это характеристическая функция параметра масштаба гамма-распределения θ и параметра формы k ₁ + k ₂ , и поэтому мы заключаем

$X+Y\sim \Gamma (k_{1}+k_{2},\theta )$

Результат можно расширить до n независимых гамма-распределенных случайных величин с тем же масштабным параметром, и мы получим

$\forall i\in \{1,\ldots ,n\}:X_{i}\sim \Gamma (k_{i},\theta )\qquad \Rightarrow \qquad \sum _{i=1}^{n}X_{i}\sim \Gamma \left(\sum _{i=1}^{n}k_{i},\theta \right).$

Полные характеристические функции

Как определено выше, аргумент характеристической функции рассматривается как действительное число: однако некоторые аспекты теории характеристических функций развиваются за счет расширения определения в комплексную плоскость путем аналитического продолжения в тех случаях, когда это возможно.

Связанные понятия

Связанные понятия включают функцию, генерирующую момент , и функцию, генерирующую вероятность . Характеристическая функция существует для всех распределений вероятностей. Это не относится к функции, производящей момент.

Характеристическая функция тесно связана с преобразованием Фурье характеристическая функция функции плотности вероятности p ( x ) является комплексно-сопряженным непрерывным преобразованием Фурье p : ( x ) (согласно обычному соглашению; см. непрерывное преобразование Фурье - другое конвенции ).

$\varphi _{X}(t)=\langle e^{itX}\rangle =\int _{\mathbf {R} }e^{itx}p(x)\,dx={\overline {\left(\int _{\mathbf {R} }e^{-itx}p(x)\,dx\right)}}={\overline {P(t)}},$

где P ( t ) обозначает непрерывное преобразование Фурье функции плотности вероятности p ( x ) . Аналогично, p ( x ) можно восстановить из φ _X ( t ) посредством обратного преобразования Фурье:

$p(x)={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{itx}P(t)\,dt={\frac {1}{2\pi }}\int _{\mathbf {R} }e^{itx}{\overline {\varphi _{X}(t)}}\,dt.$

Действительно, даже если случайная величина не имеет плотности, характеристическую функцию можно рассматривать как преобразование Фурье меры, соответствующей случайной величине.

Другая родственная концепция — представление вероятностных распределений как элементов воспроизводящего ядра гильбертова пространства посредством встраивания распределений в ядро . Эту структуру можно рассматривать как обобщение характеристической функции при конкретном выборе функции ядра .

См. также

• Субнезависимость — более слабое условие, чем независимость, определяемое через характеристические функции.
• Кумулянт — член производящих функций кумулянта , которые представляют собой журналы характеристических функций.

Ссылки

Источники

• Андерсен, Х.Х.; Хойбьерре, М.; Соренсен, Д.; Эриксен, П.С. (1995). Линейные и графические модели многомерного комплексного нормального распределения . Конспекты лекций по статистике 101. Нью-Йорк: Springer-Verlag. ISBN  978-0-387-94521-7 .
• Биллингсли, Патрик (1995). Вероятность и мера (3-е изд.). Джон Уайли и сыновья. ISBN  978-0-471-00710-4 .
• Бисгаард, ТМ; Сасвари, З. (2000). Характеристические функции и последовательности моментов . Нова Наука.
• Бохнер, Саломон (1955). Гармонический анализ и теория вероятностей . Издательство Калифорнийского университета.
• Куппенс, Р. (1975). Разложение многомерных вероятностей . Академическая пресса. ISBN  9780121994501 .
• Хиткот, Чехия (1977). «Интегральная квадратичная ошибка оценки параметров». Биометрика . 64 (2): 255–264. дои : 10.1093/biomet/64.2.255 .
• Лукач, Э. (1970). Характеристические функции . Лондон: Гриффин.
• Коц, Сэмюэл; Надараджа, Саралис (2004). Многомерные Т-распределения и их приложения . Издательство Кембриджского университета.
• Манолакис, Димитрис Г.; Ингл, Винай К.; Когон, Стивен М. (2005). Статистическая и адаптивная обработка сигналов: спектральная оценка, моделирование сигналов, адаптивная фильтрация и обработка массивов . Артех Хаус. ISBN  978-1-58053-610-3 .
• Оберхеттингер, Фриц (1973). Преобразования Фурье распределений и их обратные значения; сборник таблиц . Нью-Йорк: Академическая пресса. ISBN  9780125236508 .
• Полсон, А.С.; Холкомб, EW; Лейтч, Р.А. (1975). «Оценка параметров устойчивых законов». Биометрика . 62 (1): 163–170. дои : 10.1093/biomet/62.1.163 .
• Пинский, Марк (2002). Введение в анализ Фурье и вейвлеты . Брукс/Коул. ISBN  978-0-534-37660-4 .
• Собчик, Казимеж (2001). Стохастические дифференциальные уравнения . Академическое издательство Kluwer . ISBN  978-1-4020-0345-5 .
• Вендель, Дж. Г. (1961). «Неабсолютная сходимость интеграла обращения Жиля-Пелаеса» . Анналы математической статистики . 32 (1): 338–339. дои : 10.1214/aoms/1177705164 .
• Ю, Дж. (2004). «Оценка эмпирической характеристической функции и ее приложения» (PDF) . Эконометрические обзоры . 23 (2): 93–1223. дои : 10.1081/ETC-120039605 . S2CID   9076760 .
• Шепард, Нью-Йорк (1991a). «От характеристической функции к функции распределения: простая основа теории» . Эконометрическая теория . 7 (4): 519–529. дои : 10.1017/s0266466600004746 . S2CID   14668369 .
• Шепард, Нью-Йорк (1991b). «Правила численного интегрирования для многомерных обращений» . Журнал статистических вычислений и моделирования . 39 (1–2): 37–46. дои : 10.1080/00949659108811337 .
• Ансари, Абдул Фатир; Скарлетт, Джонатан; Итак, Гарольд (2020). «Подход с характеристическими функциями к глубокому неявному генеративному моделированию» . Материалы конференции IEEE/CVF по компьютерному зрению и распознаванию образов (CVPR), 2020 . стр. 7478–7487.
• Ли, Шэнси; Ю, Цзэян; Сян, Мин; Мандич, Данило (2020). «Взаимное состязательное обучение с помощью характеристических функций» . Достижения в области нейронных систем обработки информации 33 (NeurIPS 2020) .

Внешние ссылки

• «Характеристическая функция» , Математическая энциклопедия , EMS Press , 2001 [1994]