Растущая самоорганизующаяся карта

Растущая самоорганизующаяся карта (РСОМ) — это растущий вариант самоорганизующейся карты (СОМ). GSOM был разработан для решения проблемы определения подходящего размера карты в SOM . Он начинается с минимального количества узлов (обычно 4) и увеличивает новые узлы на границе на основе эвристики. Используя значение, называемое коэффициентом распространения (SF), аналитик данных имеет возможность контролировать рост GSOM.

Все стартовые узлы GSOM являются граничными узлами, т.е. каждый узел вначале имеет свободу расти в своем направлении. (Рис. 1) Новые узлы выращиваются из граничных узлов. Как только узел выбран для роста, все его свободные соседние позиции будут выращиваться новыми узлами. На рисунке показаны три возможных варианта роста узла для прямоугольной ГСОМ.

Варианты роста узла в ВШМ: (а) один новый узел, (б) два новых узла и (в) три новых узла.

Алгоритм

Процесс ВШМ выглядит следующим образом:

Фаза инициализации:
1. Инициализируйте весовые векторы начальных узлов (обычно четырех) случайными числами от 0 до 1.
2. Рассчитаем порог роста ( $GT$ ) для данного набора данных размерности $D$ по коэффициенту разброса ( $SF$ ) по формуле $GT=-D\times \ln(SF)$
Фаза роста:
1. Представить вход в сеть.
2. Определите весовой вектор, который ближе всего к входному вектору, сопоставленному с текущей картой объектов (победитель), используя евклидово расстояние (аналогично SOM ) . Этот шаг можно резюмировать так: найти $q'$ такой, что $\left|v-w_{q'}\right\vert \leq \left|v-w_{q}\right\vert \forall q\in \mathbb {N}$ где $v$ , $w$ являются входными и весовыми векторами соответственно, $q$ вектор положения узлов и $\mathbb {N}$ представляет собой набор натуральных чисел.
3. Адаптация весового вектора применяется только к окрестности победителя и самому победителю. Окрестность представляет собой набор нейронов вокруг победителя, но в ВШОМ стартовое окружение, выбранное для весовой адаптации, меньше по сравнению с SOM (локализованной весовой адаптацией). Степень адаптации (скорость обучения) также экспоненциально снижается с течением итераций. Даже в пределах соседства веса, находящиеся ближе к победителю, адаптируются лучше, чем те, которые находятся дальше. Весовую адаптацию можно описать формулой $w_{j}(k+1)={\begin{cases}w_{j}(k)&{\text{if }}j\notin \mathrm {N} _{k+1}\\w_{j}(k)+LR(k)\times (x_{k}-w_{j}(k))&{\text{if }}j\in \mathrm {N} _{k+1}\end{cases}}$ где скорость обучения $LR(k)$ , $k\in \mathbb {N}$ представляет собой последовательность положительных параметров, стремящуюся к нулю при $k\to \infty$ . $w_{j}(k)$ , $w_{j}(k+1)$ — весовые векторы узла $j$ до и после адаптации $\mathrm {N} _{k+1}$ является окрестностью нейрона-победителя в $(k+1)$ итерация. Уменьшение стоимости $LR(k)$ в ВШМ зависит от количества узлов, существующих на карте в данный момент $k$ .
4. Увеличьте значение ошибки победителя (значение ошибки — это разница между входным вектором и весовыми векторами).
5. Когда $TE_{i}>GT$ (где $TE_{i}$ это общая ошибка узла $i$ и $GT$ – порог роста). Выращивайте узлы, если я являюсь граничным узлом. Распределите веса соседям, если $i$ является неграничным узлом.
6. Инициализируйте новые векторы весов узлов, чтобы они соответствовали весам соседних узлов.
7. Инициализируйте скорость обучения ( $LR$ ) до начального значения.
8. Повторяйте шаги 2–7 до тех пор, пока все входные данные не будут представлены и рост узлов не снизится до минимального уровня.
Фаза сглаживания.
1. Уменьшите скорость обучения и исправьте небольшое начальное окружение.
2. Найдите победителя и адаптируйте веса победителя и соседей так же, как на этапе роста.

Приложения

GSOM можно использовать для многих задач предварительной обработки в интеллектуальном анализе данных , для нелинейного уменьшения размерности , для аппроксимации главных кривых и многообразий, для кластеризации и классификации . Часто он дает лучшее представление геометрии данных, чем SOM (см. классический эталон для основных кривых слева).

Ссылки

^ Иллюстрация подготовлена с использованием бесплатного программного обеспечения: Э. М. Миркес, Анализ главных компонентов и самоорганизующиеся карты: апплет . Университет Лестера, 2011 г.

Библиография

Лю, Ю.; Вайсберг, Р.Х.; Он, Р. (2006). «Температура поверхности моря на шельфе Западной Флориды с использованием растущих иерархических самоорганизующихся карт». Журнал атмосферных и океанических технологий . 23 (2): 325–338. Бибкод : 2006JAtOT..23..325L . дои : 10.1175/JTECH1848.1 . hdl : 1912/4186 .
Сюй, А.; Тан, С.; Хальгамуге, СК (2003). «Неконтролируемый иерархический динамический самоорганизующийся подход к открытию классов рака и идентификации маркерных генов в данных микрочипов» . Биоинформатика . 19 (16): 2131–2140. doi : 10.1093/биоинформатика/btg296 . ПМИД 14594719 .
Алахакун, Д.; Хальгамуге, СК; Сиринивасан, Б. (2000). «Динамические самоорганизующиеся карты с контролируемым ростом для открытия знаний». Транзакции IEEE в нейронных сетях . 11 (3): 601–614. дои : 10.1109/72.846732 . ПМИД 18249788 .

См. также

[1] Иллюстрация подготовлена с использованием бесплатного программного обеспечения: Э. М. Миркес, Анализ главных компонентов и самоорганизующиеся карты: апплет . Университет Лестера, 2011 г.

[1]