Перекрестная ковариация

В теории вероятности и статистике даны два случайных процесса. $\left\{X_{t}\right\}$ и $\left\{Y_{t}\right\}$ кросс -ковариация — это функция, которая определяет ковариацию одного процесса по отношению к другому в парах моментов времени. С обычными обозначениями $\operatorname {E}$ для ожидания оператора , если процессы имеют средние функции $\mu _{X}(t)=\operatorname {\operatorname {E} } [X_{t}]$ и $\mu _{Y}(t)=\operatorname {E} [Y_{t}]$ , то перекрестная ковариация определяется выражением

\operatorname {K} _{XY}(t_{1},t_{2})=\operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} [(X_{t_{1}}-\mu _{X}(t_{1}))(Y_{t_{2}}-\mu _{Y}(t_{2}))]=\operatorname {E} [X_{t_{1}}Y_{t_{2}}]-\mu _{X}(t_{1})\mu _{Y}(t_{2}).\,

Кросс-ковариация связана с более часто используемой взаимной корреляцией рассматриваемых процессов.

В случае двух случайных векторов $\mathbf {X} =(X_{1},X_{2},\ldots ,X_{p})^{\rm {T}}$ и $\mathbf {Y} =(Y_{1},Y_{2},\ldots ,Y_{q})^{\rm {T}}$ , перекрестная ковариация будет $p\times q$ матрица $\operatorname {K} _{XY}$ (часто обозначается $\operatorname {cov} (X,Y)$ ) с записями $\operatorname {K} _{XY}(j,k)=\operatorname {cov} (X_{j},Y_{k}).\,$ Таким образом, термин перекрестная ковариация используется, чтобы отличить эту концепцию от ковариации случайного вектора. $\mathbf {X}$ , под которой понимается матрица ковариаций между скалярными компонентами $\mathbf {X}$ сам.

В обработке сигналов взаимная ковариация часто называется взаимной корреляцией и является мерой сходства двух сигналов , обычно используемой для поиска особенностей неизвестного сигнала путем сравнения его с известным. Это функция относительного времени между сигналами, иногда называемая скользящим скалярным произведением , и она применяется в распознавании образов и криптоанализе .

Перекрестная ковариация случайных векторов

Перекрестная ковариация случайных процессов

Определение перекрестной ковариации случайных векторов можно обобщить на случайные процессы следующим образом:

Определение

Позволять $\{X(t)\}$ и $\{Y(t)\}$ обозначают случайные процессы. Тогда кросс-ковариационная функция процессов $K_{XY}$ определяется: ^[1]^{: стр.172}

\operatorname {K} _{XY}(t_{1},t_{2}){\stackrel {\mathrm {def} }{=}}\ \operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} \left[\left(X(t_{1})-\mu _{X}(t_{1})\right)\left(Y(t_{2})-\mu _{Y}(t_{2})\right)\right]

( Уравнение 1 )

где $\mu _{X}(t)=\operatorname {E} \left[X(t)\right]$ и $\mu _{Y}(t)=\operatorname {E} \left[Y(t)\right]$ .

Если процессы являются комплекснозначными случайными процессами, второй фактор должен быть комплексно сопряженным :

\operatorname {K} _{XY}(t_{1},t_{2}){\stackrel {\mathrm {def} }{=}}\ \operatorname {cov} (X_{t_{1}},Y_{t_{2}})=\operatorname {E} \left[\left(X(t_{1})-\mu _{X}(t_{1})\right){\overline {\left(Y(t_{2})-\mu _{Y}(t_{2})\right)}}\right]

Определение совместных процессов ВСС

Если $\left\{X_{t}\right\}$ и $\left\{Y_{t}\right\}$ являются совместно стационарными в широком смысле , то верны следующие условия:

\mu _{X}(t_{1})=\mu _{X}(t_{2})\triangleq \mu _{X}

для всех

t_{1},t_{2}

,

\mu _{Y}(t_{1})=\mu _{Y}(t_{2})\triangleq \mu _{Y}

для всех

t_{1},t_{2}

и

\operatorname {K} _{XY}(t_{1},t_{2})=\operatorname {K} _{XY}(t_{2}-t_{1},0)

для всех

t_{1},t_{2}

Установив $\tau =t_{2}-t_{1}$ (временная задержка или количество времени, на которое сигнал был сдвинут), мы можем определить

\operatorname {K} _{XY}(\tau )=\operatorname {K} _{XY}(t_{2}-t_{1})\triangleq \operatorname {K} _{XY}(t_{1},t_{2})

.

Таким образом, функция кросс-ковариации двух совместных процессов WSS определяется следующим образом:

\operatorname {K} _{XY}(\tau )=\operatorname {cov} (X_{t},Y_{t-\tau })=\operatorname {E} [(X_{t}-\mu _{X})(Y_{t-\tau }-\mu _{Y})]=\operatorname {E} [X_{t}Y_{t-\tau }]-\mu _{X}\mu _{Y}

( Уравнение 2 )

что эквивалентно

\operatorname {K} _{XY}(\tau )=\operatorname {cov} (X_{t+\tau },Y_{t})=\operatorname {E} [(X_{t+\tau }-\mu _{X})(Y_{t}-\mu _{Y})]=\operatorname {E} [X_{t+\tau }Y_{t}]-\mu _{X}\mu _{Y}

.

Некоррелированность

Два случайных процесса $\left\{X_{t}\right\}$ и $\left\{Y_{t}\right\}$ называются некоррелированными, если их ковариация $\operatorname {K} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})$ равен нулю во все времена. ^[1]^{: стр. 142} Формально:

\left\{X_{t}\right\},\left\{Y_{t}\right\}{\text{ uncorrelated}}\quad \iff \quad \operatorname {K} _{\mathbf {X} \mathbf {Y} }(t_{1},t_{2})=0\quad \forall t_{1},t_{2}

.

Перекрестная ковариация детерминированных сигналов

Взаимная ковариация также актуальна при обработке сигналов , где взаимная ковариация между двумя в широком смысле стационарными случайными процессами может быть оценена путем усреднения произведения выборок, измеренных в результате одного процесса, и выборок, измеренных в результате другого (и их временных сдвигов). Выборки, включенные в среднее значение, могут представлять собой произвольное подмножество всех выборок в сигнале (например, выборки в пределах конечного временного окна или подвыборку одного из сигналов). Для большого количества выборок среднее значение сходится к истинной ковариации.

Перекрестная ковариация может также относиться к «детерминированной» перекрестной ковариации между двумя сигналами. Это состоит из суммирования по всем временным индексам. Например, для дискретного времени сигналов $f[k]$ и $g[k]$ перекрестная ковариация определяется как