Отбеливание трансформации

Преобразование отбеливания или сферическое преобразование — это линейное преобразование , которое преобразует вектор случайных величин с известной ковариационной матрицей в набор новых переменных, ковариация которых является единичной матрицей , что означает, что они некоррелированы и каждая имеет дисперсию 1. Преобразование называется «отбеливанием», поскольку оно превращает входной вектор в вектор белого шума .

С отбеливанием тесно связаны и другие трансформации:

1. удаляет преобразование декорреляции только корреляции, но оставляет дисперсии нетронутыми,
2. устанавливает преобразование стандартизации дисперсию в 1, но оставляет корреляции нетронутыми,
3. преобразование раскраски преобразует вектор белых случайных величин в случайный вектор с заданной ковариационной матрицей.

Определение

Предполагать $X$ - случайный вектор (столбец) с неособой ковариационной матрицей $\Sigma$ и имею в виду $0$. Тогда преобразование $Y=WX$ с матрица отбеливающая $W$ удовлетворяющее условию $W^{\mathrm {T} }W=\Sigma ^{-1}$ дает выбеленный случайный вектор $Y$ с единичной диагональной ковариацией.

Существует бесконечно много возможных матриц отбеливания. $W$ что все удовлетворяют вышеуказанному условию. Часто используемые варианты: $W=\Sigma ^{-1/2}$ (отбеливание Махаланобис или ZCA), $W=L^{T}$ где $L$ представляет собой Холецкого разложение $\Sigma ^{-1}$ (холеское отбеливание), или собственная система $\Sigma$ (PCA-отбеливание).

Оптимальные преобразования отбеливания можно выделить, исследуя перекрестную ковариацию и взаимную корреляцию $X$ и $Y$. Например, уникальное оптимальное преобразование отбеливания, обеспечивающее максимальную покомпонентную корреляцию между исходными $X$ и отбеленный $Y$ производится отбеливающей матрицей $W=P^{-1/2}V^{-1/2}$ где $P$ – корреляционная матрица и $V$ матрица отклонений.

матрицы

Отбеливание матрицы данных происходит так же, как и для случайных величин. Эмпирическое преобразование отбеливания получается путем оценки ковариации (например, по максимальному правдоподобию ) и последующего построения соответствующей оцененной матрицы отбеливания (например, путем разложения Холецкого ).

Высокомерное отбеливание

Эта модальность является обобщением процедуры предварительного отбеливания, распространенной на более общие пространства, где $X$ обычно предполагается, что это случайная функция или другие случайные объекты в гильбертовом пространстве. $H$. Одна из основных проблем распространения отбеливания на бесконечные измерения заключается в том, что ковариационный оператор имеет неограниченный обратный оператор. $H$. Тем не менее, если предположить, что условие Пикара выполнено для $X$ в пространстве значений ковариационного оператора отбеливание становится возможным. Затем оператор отбеливания может быть определен путем факторизации Мура-Пенроуза, обратного ковариационному оператору, который эффективно отображает разложения типа Карунена-Лоэва $X$. Преимущество этих преобразований отбеливания состоит в том, что их можно оптимизировать в соответствии с базовыми топологическими свойствами данных (гладкость, непрерывность и непрерывность), создавая тем самым более надежные представления отбеливания. Многомерные характеристики данных можно использовать с помощью регрессоров ядра или систем базисных функций.

Реализация R

реализация нескольких процедур отбеливания в R , включая отбеливание ZCA и отбеливание PCA, а также отбеливание CCA . В пакете R «отбеливание» доступна опубликовано на CRAN . Пакет R "pfica" позволяет рассчитывать многомерные представления отбеливания с использованием систем базисных функций ( B-сплайны , базис Фурье и т. д.).

См. также

• Декорреляция
• Анализ главных компонентов
• Взвешенные наименьшие квадраты
• Каноническая корреляция
• Расстояние Махаланобиса (после преобразования В. является евклидовым).

Внешние ссылки

• http://courses.media.mit.edu/2010fall/mas622j/whiten.pdf
• Преобразование отбеливания ZCA . Приложение А « Изучение нескольких слоев объектов по крошечным изображениям», автор А. Крижевский.