Статистическая сумма (математика)

Статистическая сумма или конфигурационный интеграл , используемый в теории вероятностей , теории информации и динамических системах , является обобщением определения статистической суммы в статистической механике . Это частный случай нормализующей константы в теории вероятностей для распределения Больцмана . Статистическая сумма встречается во многих задачах теории вероятностей, поскольку в ситуациях, когда существует естественная симметрия, связанная с ней вероятностная мера , мера Гиббса , обладает марковским свойством . Это означает, что статистическая сумма возникает не только в физических системах с трансляционной симметрией, но также в таких различных средах, как нейронные сети (сеть Хопфилда ) и такие приложения, как геномика , корпусная лингвистика и искусственный интеллект , которые используют сети Маркова и Марковские сети. логические сети . Мера Гиббса также является уникальной мерой, обладающей свойством максимизировать энтропию при фиксированном математическом ожидании энергии; это лежит в основе появления статистической суммы в методы максимальной энтропии и производные от них алгоритмы.

Статистическая сумма связывает воедино множество различных концепций и, таким образом, предлагает общую структуру, в которой можно рассчитать множество различных видов величин. В частности, он показывает, как вычислять средние значения и функции Грина , образуя мост к теории Фредгольма . Это также обеспечивает естественную основу для подхода информационной геометрии к теории информации, где информационную метрику Фишера можно понимать как корреляционную функцию , полученную из статистической суммы; случается, что оно определяет риманово многообразие .

Когда случайные величины заданы в комплексном проективном пространстве или проективном гильбертовом пространстве , геометризированном с помощью метрики Фубини-Студи теория квантовой механики и, в более общем смысле, квантовая теория поля , возникает . В этих теориях статистическая сумма с большим успехом активно используется в формулировке интеграла по траекториям , что приводит ко многим формулам, почти идентичным рассмотренным здесь. Однако, поскольку базовое пространство меры является комплекснозначным, в отличие от вещественнозначного симплекса дополнительный коэффициент i теории вероятностей, во многих формулах появляется . Отслеживание этого фактора затруднительно, и здесь это не делается. Эта статья посвящена в первую очередь классической теории вероятностей, где сумма вероятностей равна единице.

Определение [ править ]

Учитывая набор случайных величин $X_{i}$ принятие ценностей $x_{i}$ и какая-то потенциальная функция или гамильтониан $H(x_{1},x_{2},\dots )$ , статистическая сумма определяется как

Z(\beta )=\sum _{x_{i}}\exp \left(-\beta H(x_{1},x_{2},\dots )\right)

Под функцией H понимается вещественная функция на пространстве состояний $\{X_{1},X_{2},\cdots \}$ , пока $\beta$ – вещественный свободный параметр (условно обратная температура ). Сумма по $x_{i}$ Под ним понимается сумма по всем возможным значениям, которые имеет каждая из случайных величин. $X_{i}$ может занять. Таким образом, сумму следует заменить интегралом , если $X_{i}$ являются непрерывными, а не дискретными. Таким образом, пишут

Z(\beta )=\int \exp \left(-\beta H(x_{1},x_{2},\dots )\right)\,dx_{1}\,dx_{2}\cdots

для случая непрерывно меняющегося $X_{i}$ .

Когда H является наблюдаемой величиной , такой как конечномерная матрица бесконечномерного гильбертова пространства , оператор или элемент C-звездной алгебры , суммирование принято выражать в виде следа , так что

Z(\beta )=\operatorname {tr} \left(\exp \left(-\beta H\right)\right)

Когда H бесконечномерен, то для того, чтобы приведенные выше обозначения были действительными, аргумент должен быть трассовым классом , то есть иметь такую форму, что суммирование существует и ограничено.

Количество переменных $X_{i}$ не обязательно должны быть счетными , и в этом случае суммы следует заменять функциональными интегралами . Хотя существует множество обозначений функциональных интегралов, наиболее распространенным из них будет следующее:

Z=\int {\mathcal {D}}\varphi \exp \left(-\beta H[\varphi ]\right)

Так обстоит дело со статистической суммой в квантовой теории поля .

Распространенной полезной модификацией функции распределения является введение вспомогательных функций. Это позволяет, например, использовать статистическую сумму в качестве производящей функции для корреляционных функций . Более подробно это обсуждается ниже.

Параметр β [ править ]

Роль или значение параметра $\beta$ можно понимать по-разному. В классической термодинамике это обратная температура . В более общем смысле можно было бы сказать, что это переменная, сопряженная с некоторой (произвольной) функцией. $H$ случайных величин $X$ . Слово сопряженные здесь употребляется в смысле сопряженных обобщенных координат в лагранжевой механике , таким образом, собственно $\beta$ является множителем Лагранжа . Ее нередко называют обобщенной силой . Все эти концепции объединяет идея о том, что одно значение должно оставаться неизменным, тогда как другие, каким-то сложным образом взаимосвязанные, могут изменяться. В данном случае фиксированным значением является ожидание математическое $H$ , даже если множество различных распределений вероятностей могут привести к одному и тому же (фиксированному) значению.

В общем случае рассматривается набор функций $\{H_{k}(x_{1},\cdots )\}$ что каждый из них зависит от случайных величин $X_{i}$ . Эти функции выбраны потому, что по той или иной причине хочется сохранить их ожидаемые значения постоянными. Чтобы таким образом ограничить ожидаемые значения, применяется метод множителей Лагранжа . В общем случае методы максимальной энтропии иллюстрируют, как это делается.

Уместно привести несколько конкретных примеров. В основных задачах термодинамики при использовании канонического ансамбля использование всего одного параметра $\beta$ отражает тот факт, что существует только одно математическое ожидание, которое должно оставаться постоянным: свободная энергия (из-за сохранения энергии ). Для задач химии, связанных с химическими реакциями, большой канонический ансамбль обеспечивает подходящую основу, и существуют два множителя Лагранжа. Один из них заключается в поддержании постоянной энергии, а другой, фугитивность , заключается в поддержании постоянного количества частиц (поскольку химические реакции включают рекомбинацию фиксированного числа атомов).

Для общего случая имеется

Z(\beta )=\sum _{x_{i}}\exp \left(-\sum _{k}\beta _{k}H_{k}(x_{i})\right)

с $\beta =(\beta _{1},\beta _{2},\cdots )$ точка в пространстве.

Для коллекции наблюдаемых $H_{k}$ , можно было бы написать

Z(\beta )=\operatorname {tr} \left[\,\exp \left(-\sum _{k}\beta _{k}H_{k}\right)\right]

Как и раньше, предполагается, что аргументом tr является класс трассировки .

Соответствующая мера Гиббса затем обеспечивает такое распределение вероятностей, что математическое ожидание каждого $H_{k}$ является фиксированной величиной. Точнее, у человека есть

{\frac {\partial }{\partial \beta _{k}}}\left(-\log Z\right)=\langle H_{k}\rangle =\mathrm {E} \left[H_{k}\right]

с угловыми скобками $\langle H_{k}\rangle$ обозначающий ожидаемое значение $H_{k}$ , и $\mathrm {E} [\;]$ являющееся обычным альтернативным обозначением. Точное определение этого ожидаемого значения дано ниже.

Хотя значение $\beta$ обычно считается реальным, в целом это не обязательно; это обсуждается в разделе «Нормализация» ниже. Значения $\beta$ можно понимать как координаты точек в пространстве; это пространство на самом деле является многообразием , как показано ниже. Изучение этих пространств как многообразий составляет область информационной геометрии .

Симметрия [ править ]

Сама потенциальная функция обычно принимает форму суммы:

H(x_{1},x_{2},\dots )=\sum _{s}V(s)\,

где сумма по s — это сумма по некоторому подмножеству набора степеней P ( X ) множества $X=\lbrace x_{1},x_{2},\dots \rbrace$ . Например, в статистической механике , такой как модель Изинга , сумма ведется по парам ближайших соседей. В теории вероятностей, такой как сети Маркова , сумма может быть по кликам графа; Итак, для модели Изинга и других решетчатых моделей максимальные клики являются ребрами.

Тот факт, что потенциальную функцию можно записать в виде суммы, обычно отражает тот факт, что она инвариантна под действием групповой симметрии , например трансляционной инвариантности . Такие симметрии могут быть дискретными или непрерывными; они материализуются в корреляционных функциях случайных величин (обсуждаемых ниже). Таким образом, симметрия гамильтониана становится симметрией корреляционной функции (и наоборот).

Эта симметрия имеет критически важную интерпретацию в теории вероятностей: из нее следует, что мера Гиббса обладает марковским свойством ; то есть она определенным образом не зависит от случайных величин или, что то же самое, мера идентична на классах эквивалентности симметрии. Это приводит к широкому появлению статистической суммы в задачах с марковским свойством, таких как сети Хопфилда .

В качестве меры [ править ]

Значение выражения

\exp \left(-\beta H(x_{1},x_{2},\dots )\right)

можно интерпретировать как вероятность того, что определенная конфигурация значений $(x_{1},x_{2},\dots )$ происходит в системе. Таким образом, при конкретной конфигурации $(x_{1},x_{2},\dots )$ ,

P(x_{1},x_{2},\dots )={\frac {1}{Z(\beta )}}\exp \left(-\beta H(x_{1},x_{2},\dots )\right)

вероятность конфигурации $(x_{1},x_{2},\dots )$ происходит в системе, которая теперь должным образом нормализована, так что $0\leq P(x_{1},x_{2},\dots )\leq 1$ и такой, что сумма по всем конфигурациям равна единице. Таким образом, статистическую сумму можно понимать как обеспечивающую меру ( вероятностную меру ) в вероятностном пространстве ; формально она называется мерой Гиббса . Он обобщает более узкие понятия большого канонического ансамбля и канонического ансамбля в статистической механике.

Существует хотя бы одна конфигурация $(x_{1},x_{2},\dots )$ для которого вероятность максимальна; эту конфигурацию условно называют основным состоянием . Если конфигурация уникальна, основное состояние называется невырожденным , а система — эргодической ; в противном случае основное состояние вырождено . Основное состояние может коммутировать, а может и не коммутировать с генераторами симметрии; если она коммутирует, то она называется инвариантной мерой . Когда он не коммутирует, говорят, что симметрия спонтанно нарушена .

Условия, при которых основное состояние существует и является единственным, задаются условиями Каруша – Куна – Такера ; эти условия обычно используются для оправдания использования меры Гиббса в задачах максимальной энтропии. ^{[ нужна цитата ]}

Нормализация [ править ]

Значения, принятые $\beta$ зависят от математического пространства , в котором изменяется случайное поле. Таким образом, случайные поля с действительными значениями принимают значения в симплексе : это геометрический способ сказать, что сумма вероятностей должна быть равна единице. В квантовой механике случайные величины располагаются в комплексном проективном пространстве (или комплекснозначном проективном гильбертовом пространстве ), где случайные величины интерпретируются как амплитуды вероятности . Акцент здесь делается на слове проективный , так как амплитуды по-прежнему нормированы на единицу. Нормализация потенциальной функции представляет собой якобиан для соответствующего математического пространства: она равна 1 для обычных вероятностей и i для гильбертова пространства; таким образом, в квантовой теории поля мы видим $itH$ в экспоненциальном, а не $\beta H$ . Статистическая сумма очень активно и с большим эффектом используется в формулировке интеграла по путям квантовой теории поля. Теория там почти идентична представленной здесь, за исключением этого различия и того факта, что она обычно формулируется в четырехмерном пространстве-времени, а не в общем виде.

Ожидаемые значения

Статистическая сумма обычно используется как функция, генерирующая вероятность для значений математических ожиданий различных функций случайных величин. Так, например, взяв $\beta$ в качестве регулируемого параметра, то производная от $\log(Z(\beta ))$ относительно $\beta$

\mathbf {E} [H]=\langle H\rangle =-{\frac {\partial \log(Z(\beta ))}{\partial \beta }}

дает среднее значение (ожидаемое значение) H . В физике это назвали бы средней энергией системы.

Учитывая приведенное выше определение вероятностной меры, математическое ожидание любой функции f случайных величин X с дискретными значениями теперь может быть записано так, как ожидалось: поэтому для X пишут

{\begin{aligned}\langle f\rangle &=\sum _{x_{i}}f(x_{1},x_{2},\dots )P(x_{1},x_{2},\dots )\\&={\frac {1}{Z(\beta )}}\sum _{x_{i}}f(x_{1},x_{2},\dots )\exp \left(-\beta H(x_{1},x_{2},\dots )\right)\end{aligned}}

Приведенные выше обозначения строго верны для конечного числа дискретных случайных величин, но их следует рассматривать как несколько «неформальные» для непрерывных переменных; правильно, приведенные выше суммирования следует заменить обозначениями базовой сигма-алгебры, используемой для определения вероятностного пространства . Тем не менее, тождества продолжают сохраняться, если их правильно сформулировать в пространстве меры .

Так, например, энтропия определяется выражением

{\begin{aligned}S&=-k_{B}\langle \ln P\rangle \\&=-k_{B}\sum _{x_{i}}P(x_{1},x_{2},\dots )\ln P(x_{1},x_{2},\dots )\\&=k_{B}(\beta \langle H\rangle +\log Z(\beta ))\end{aligned}}

Мера Гиббса — это уникальное статистическое распределение, которое максимизирует энтропию при фиксированном математическом ожидании энергии; это лежит в основе его использования в методах максимальной энтропии .

Информационная геометрия [ править ]

Точки $\beta$ можно понимать как образующее пространство и, в частности, многообразие . Таким образом, резонно задаться вопросом о структуре этого многообразия; это задача информационной геометрии .

Множественные производные по множителям Лагранжа приводят к положительной полуопределенной ковариационной матрице.

g_{ij}(\beta )={\frac {\partial ^{2}}{\partial \beta ^{i}\partial \beta ^{j}}}\left(-\log Z(\beta )\right)=\langle \left(H_{i}-\langle H_{i}\rangle \right)\left(H_{j}-\langle H_{j}\rangle \right)\rangle

Эта матрица является положительно полуопределенной и может интерпретироваться как метрический тензор , в частности, риманова метрика . Оснащение таким образом пространства множителей Лагранжа метрикой превращает его в риманово многообразие . ^[1]Изучение таких многообразий называется информационной геометрией ; приведенная выше метрика является информационной метрикой Фишера . Здесь, $\beta$ служит координатой на многообразии. Интересно сравнить приведенное выше определение с более простой информацией Фишера , на которой оно основано.

То, что вышеизложенное определяет информационную метрику Фишера, можно легко увидеть, явно подставив математическое ожидание:

{\begin{aligned}g_{ij}(\beta )&=\langle \left(H_{i}-\langle H_{i}\rangle \right)\left(H_{j}-\langle H_{j}\rangle \right)\rangle \\&=\sum _{x}P(x)\left(H_{i}-\langle H_{i}\rangle \right)\left(H_{j}-\langle H_{j}\rangle \right)\\&=\sum _{x}P(x)\left(H_{i}+{\frac {\partial \log Z}{\partial \beta _{i}}}\right)\left(H_{j}+{\frac {\partial \log Z}{\partial \beta _{j}}}\right)\\&=\sum _{x}P(x){\frac {\partial \log P(x)}{\partial \beta ^{i}}}{\frac {\partial \log P(x)}{\partial \beta ^{j}}}\\\end{aligned}}

где мы написали $P(x)$ для $P(x_{1},x_{2},\dots )$ Под суммированием понимается все значения всех случайных величин. $X_{k}$ . Для случайных величин с непрерывными значениями суммы, конечно, заменяются интегралами.

Любопытно, что информационную метрику Фишера можно также понимать как евклидову метрику плоского пространства , после соответствующей замены переменных, как описано в основной статье о ней. Когда $\beta$ являются комплексными, результирующая метрика является метрикой Фубини–Студи . Когда оно записано в терминах смешанных состояний , а не чистых состояний , оно известно как метрика Буреса .

Корреляционные функции [ править ]

Вводя искусственные вспомогательные функции $J_{k}$ в функцию статистического распределения, затем ее можно использовать для получения математического ожидания случайных величин. Так, например, написав

{\begin{aligned}Z(\beta ,J)&=Z(\beta ,J_{1},J_{2},\dots )\\&=\sum _{x_{i}}\exp \left(-\beta H(x_{1},x_{2},\dots )+\sum _{n}J_{n}x_{n}\right)\end{aligned}}

тогда у человека есть

\mathbf {E} [x_{k}]=\langle x_{k}\rangle =\left.{\frac {\partial }{\partial J_{k}}}\log Z(\beta ,J)\right|_{J=0}

как математическое ожидание $x_{k}$ . В в виде интеграла по путям формулировке квантовой теории поля эти вспомогательные функции обычно называются исходными полями .

Множественные дифференцирования приводят к связанным корреляционным функциям случайных величин. Таким образом, корреляционная функция $C(x_{j},x_{k})$ между переменными $x_{j}$ и $x_{k}$ дан кем-то:

C(x_{j},x_{k})=\left.{\frac {\partial }{\partial J_{j}}}{\frac {\partial }{\partial J_{k}}}\log Z(\beta ,J)\right|_{J=0}

Гауссовы интегралы [ править ]

Для случая, когда H можно записать в виде квадратичной формы , включающей дифференциальный оператор , то есть как

H={\frac {1}{2}}\sum _{n}x_{n}Dx_{n}

тогда статистическую сумму можно понимать как сумму или интеграл по гауссианам. Корреляционная функция $C(x_{j},x_{k})$ можно понимать как функцию Грина для дифференциального оператора (и, как правило, дающую начало теории Фредгольма ). В рамках квантовой теории поля такие функции называются пропагаторами ; корреляторы более высокого порядка называются n-точечными функциями; работа с ними определяет эффективное действие теории.

Когда случайные величины являются антикоммутирующими числами Грассмана может быть выражена как определитель оператора D. , тогда статистическая сумма Для этого его записывают в виде интеграла Березина (также называемого интегралом Грассмана).

Общие свойства [ править ]

Функции статистического распределения используются для обсуждения критического масштабирования , универсальности и подчиняются ренормгруппе .

См. также [ править ]

Ссылки [ править ]

^ Крукс, Гэвин Э. (2007). «Измерение термодинамической длины». Физ. Преподобный Летт. 99 (10): 100602. arXiv : 0706.0559 . Бибкод : 2007PhRvL..99j0602C . doi : 10.1103/PhysRevLett.99.100602 . ПМИД 17930381 . S2CID 7527491 .

[1] Крукс, Гэвин Э. (2007). «Измерение термодинамической длины». Физ. Преподобный Летт. 99 (10): 100602. arXiv : 0706.0559 . Бибкод : 2007PhRvL..99j0602C . doi : 10.1103/PhysRevLett.99.100602 . ПМИД 17930381 . S2CID 7527491 .

[1]