Максимально информативные размеры

Максимально информативные измерения — это метод уменьшения размерности , используемый при статистическом анализе нейронных реакций . В частности, это способ проецирования стимула на низкомерное подпространство , чтобы больше информации в нейронном ответе сохранялось как можно о стимуле. Это мотивировано тем фактом, что естественные стимулы по своей статистике обычно ограничены пространством меньшей размерности, чем пространство, охватываемое . белым шумом но правильная идентификация этого подпространства с использованием традиционных методов осложняется корреляциями, существующими в естественных изображениях. Внутри этого подпространства функции стимул-реакция могут быть как линейными , так и нелинейными . Идея была первоначально разработана Татьяной Шарпи , Николь С. Раст и Уильямом Биалеком в 2003 году.

Математическая формулировка

Нейронные функции стимул-реакция обычно определяются как вероятность того, что нейрон генерирует потенциал действия или спайк в ответ на стимул. $\mathbf {s}$. Цель максимально информативных измерений состоит в том, чтобы найти небольшое релевантное подпространство в гораздо большем стимульном пространстве, которое точно отражает существенные особенности $\mathbf {s}$. Позволять $D$ обозначают размерность всего пространства стимулов и $K$ обозначают размерность соответствующего подпространства, такую, что $K\ll D$. Мы позволяем $\{\mathbf {v} ^{K}\}$ обозначают базис соответствующего подпространства и $\mathbf {s} ^{K}$ проекция ​ ​ $\mathbf {s}$ на $\{\mathbf {v} ^{K}\}$. Используя теорему Байеса, мы можем выписать вероятность всплеска при наличии стимула:

$P(spike|\mathbf {s} ^{K})=P(spike)f(\mathbf {s} ^{K})$

где

$f(\mathbf {s} ^{K})={\frac {P(\mathbf {s} ^{K}|spike)}{P(\mathbf {s} ^{K})}}$

— это некоторая нелинейная функция прогнозируемого стимула.

Для того, чтобы выбрать оптимальную $\{\mathbf {v} ^{K}\}$, мы сравниваем априорное распределение стимулов $P(\mathbf {s} )$ с распределением стимулов, вызванным спайками $P(\mathbf {s} |spike)$ используя информацию Шеннона . Средняя информация (усредненная по всем предъявленным стимулам) на спайк определяется выражением

$I_{spike}=\sum _{\mathbf {s} }P(\mathbf {s} |spike)log_{2}[P(\mathbf {s} |spike)/P(\mathbf {s} )]$.

Теперь рассмотрим $K=1$ размерное подпространство, определяемое одним направлением $\mathbf {v}$. Средняя информация, передаваемая одним шипом о проекции $x=\mathbf {s} \cdot \mathbf {v}$ является

$I(\mathbf {v} )=\int dxP_{\mathbf {v} }(x|spike)log2[P_{\mathbf {v} }(x|spike)/P_{\mathbf {v} }(x)]$,

где распределения вероятностей аппроксимируются набором измеренных данных через $P_{\mathbf {v} }(x|spike)=\langle \delta (x-\mathbf {s} \cdot \mathbf {v} )|spike\rangle _{\mathbf {s} }$ и $P_{\mathbf {v} }(x)=\langle \delta (x-\mathbf {s} \cdot \mathbf {v} )\rangle _{\mathbf {s} }$, т. е. каждый представленный стимул представлен масштабированной дельта-функцией Дирака , а распределения вероятностей создаются путем усреднения по всем стимулам, вызывающим спайки, в первом случае или по всему набору представленных стимулов, во втором случае. Для данного набора данных средняя информация является функцией только направления $\mathbf {v}$. В этой формулировке соответствующее подпространство размерности $K=1$ будет определяться направлением $\mathbf {v}$ что максимизирует среднюю информацию $I(\mathbf {v} )$.

Эту процедуру можно легко распространить на соответствующее подпространство размерности $K>1$ определяя

$P_{\mathbf {v} ^{K}}(\mathbf {x} |spike)=\langle \prod _{i=1}^{K}\delta (x_{i}-\mathbf {s} \cdot \mathbf {v} _{i})|spike\rangle _{\mathbf {s} }$

и

$P_{\mathbf {v} ^{K}}(\mathbf {x} )=\langle \prod _{i=1}^{K}\delta (x_{i}-\mathbf {s} \cdot \mathbf {v} _{i})\rangle _{\mathbf {s} }$

и максимизация $I({\mathbf {v} ^{K}})$.

Важность

Максимально информативные измерения не делают никаких предположений о гауссовости набора стимулов, что важно, поскольку натуралистические стимулы, как правило, имеют негауссовскую статистику. Таким образом, этот метод более надежен, чем другие методы уменьшения размерности, такие как ковариационный анализ, запускаемый пиковыми значениями .