Минимальная информация о Фишере
В теории информации принцип минимальной информации Фишера (MFI) представляет собой вариационный принцип , который при применении с соответствующими ограничениями, необходимыми для воспроизведения эмпирически известных значений ожидания, определяет наилучшее распределение вероятностей , характеризующее систему. (См. также информацию о Фишере .)
Меры информации
[ редактировать ]Информационные меры (ИМ) являются важнейшими инструментами теории информации . Они измеряют либо количество положительной информации, либо «недостающую» информацию, которой обладает наблюдатель относительно любой интересующей системы. Самым известным ИМ является так называемая энтропия Шеннона (1948), которая определяет, сколько дополнительной информации еще требуется наблюдателю, чтобы иметь все доступные знания о данной системе S, когда все, что он / она имеет, - это плотность вероятности. функция (PDF), определенная для соответствующих элементов такой системы. Тогда это мера «недостающей» информации. IM является функцией только PDF. Если у наблюдателя нет такогоPDF, а только конечный набор эмпирически определенных средних значений системы, то фундаментальный научный принцип, называемый принципом максимальной энтропии (MaxEnt), утверждает, что «лучшая» PDF - это та, которая, воспроизводя известные значения ожидания, максимизирует в противном случае IM Шеннон.
Информационная мера Фишера
[ редактировать ]Информация Фишера (FIM), названная в честь Рональда Фишера (1925 г.), представляет собой другой вид меры в двух отношениях, а именно:
1) отражает количество (положительной) информации наблюдателя,
2) она зависит не только от PD, но и от ее первых производных - свойства, которое делает ее локальной величиной ( вместо этого величина Шеннона является глобальной).
Соответствующим аналогом MaxEnt теперь является FIM-минимизация, поскольку мера Фишера растет, когда мера Шеннона уменьшается, и наоборот. Упоминаемая здесь минимизация (MFI) является важным теоретическим инструментом во многих дисциплинах, начиная с физики . В некотором смысле он явно превосходит MaxEnt, поскольку более поздняя процедура всегда дает в качестве решения экспоненциальную ЧР, тогда как решение MFI представляет собой дифференциальное уравнение для ЧР, что обеспечивает большую гибкость и универсальность.
Заявки МФО
[ редактировать ]Термодинамика
[ редактировать ]Много усилий было посвящено информационной мере Фишера, проливающей много света на многочисленные физические приложения. [1] [2] [3] [4] [5] [6] [7] [8] [9] [10] [11] [12] [13] [14] [15] [ чрезмерное цитирование ] На небольшом примере можно показать, что вся область термодинамики (как равновесная, так и неравновесная ) может быть выведена из подхода MFI. [16] Здесь FIM специализируется на частном, но важном случае семейств трансляций, т. е. функций распределения, форма которых не меняется при трансляционных преобразованиях. В этом случае мера Фишера становится инвариантной к сдвигу. Такая минимизация меры Фишера приводит к уравнению для амплитуды вероятности, подобному Шредингеру , где основное состояние описывает физику равновесия, а возбужденные состояния объясняют неравновесные ситуации. [17]
Масштабно-инвариантные явления
[ редактировать ]Совсем недавно было показано, что закон Ципфа возникает как вариационное решение MFI, когда в мере вводится масштабная инвариантность , что впервые привело к объяснению этой закономерности на основе первых принципов . [18] Было также показано, что MFI можно использовать для формулирования термодинамики, основанной на масштабной инвариантности вместо трансляционной инвариантности , что позволяет определить безмасштабный идеальный газ , масштабно-инвариантный эквивалент идеального газа . [19]
Ссылки
[ редактировать ]- ^ Фриден, БР (2004). Наука из информации Фишера: объединение . Кембридж, Великобритания: Издательство Кембриджского университета. ISBN 978-0-521-00911-9 . OCLC 53325064 .
- ^ Фриден, Б. Рой (1989). «Информация Фишера как основа волнового уравнения Шредингера». Американский журнал физики . 57 (11). Американская ассоциация учителей физики (AAPT): 1004–1008. Бибкод : 1989AmJPh..57.1004F . дои : 10.1119/1.15810 . ISSN 0002-9505 .
- ^ Фриден, Б.Рой (1992). «Информация Фишера и взаимодополняемость неопределенностей». Буквы по физике А. 169 (3). Эльзевир Б.В.: 123–130. Бибкод : 1992PhLA..169..123F . дои : 10.1016/0375-9601(92)90581-6 . ISSN 0375-9601 .
- ^ Б.Р. Фриден, в «Достижениях в области визуализации и электронной физики», под редакцией П.В. Хоукса, Academic, Нью-Йорк, 1994, Vol. 90, стр. 123204.
- ^ Фриден, Б.Рой (1993). «Оценка законов распределения и физических законов на основе принципа предельной физической информации». Физика А: Статистическая механика и ее приложения . 198 (1–2). Эльзевир Б.В.: 262–338. Бибкод : 1993PhyA..198..262F . дои : 10.1016/0378-4371(93)90194-9 . ISSN 0378-4371 .
- ^ Фриден, Б. Рой; Хьюз, Рой Дж. (1 апреля 1994 г.). «Спектральный шум 1/f, полученный на основе предельной физической информации». Физический обзор E . 49 (4). Американское физическое общество (APS): 2644–2649. Бибкод : 1994PhRvE..49.2644F . дои : 10.1103/physreve.49.2644 . ISSN 1063-651X . ПМИД 9961526 .
- ^ Николов Б.; Фриден, Б. Рой (1 июня 1994 г.). «Ограничение на увеличение энтропии, налагаемое информацией Фишера». Физический обзор E . 49 (6). Американское физическое общество (APS): 4815–4820. Бибкод : 1994PhRvE..49.4815N . дои : 10.1103/physreve.49.4815 . ISSN 1063-651X . ПМИД 9961798 .
- ^ Фриден, Б. Рой (1 апреля 1990 г.). «Информация Фишера, беспорядок и равновесные распределения физики». Физический обзор А. 41 (8). Американское физическое общество (APS): 4265–4276. Бибкод : 1990PhRvA..41.4265F . дои : 10.1103/physreva.41.4265 . ISSN 1050-2947 . ПМИД 9903619 .
- ^ Фриден, Б. Рой; Соффер, Бернард Х. (1 сентября 1995 г.). «Лагранжианы физики и игра Фишера-передача информации». Физический обзор E . 52 (3). Американское физическое общество (APS): 2274–2286. Бибкод : 1995PhRvE..52.2274F . дои : 10.1103/physreve.52.2274 . ISSN 1063-651X . ПМИД 9963668 .
- ^ Фриден, Б. Рой (1991). «Информация Фишера и сложный характер волнового уравнения Шредингера». Основы физики . 21 (7). Спрингер Природа: 757–771. Бибкод : 1991FoPh...21..757F . дои : 10.1007/bf00733343 . ISSN 0015-9018 .
- ^ Р.Н. Сильвер, в книге «ET Jaynes: Physics and Probability», под редакцией WT Grandy Jr. и PW Milonni , Cambridge University Press, Кембридж, Англия, 1992.
- ^ Пластино, А.; Пластино, Арканзас; Миллер, Х.Г.; Ханна, ФК (1996). «Нижняя граница информационной меры Фишера». Буквы по физике А. 221 (1–2). Эльзевир Б.В.: 29–33. Бибкод : 1996PhLA..221...29P . дои : 10.1016/0375-9601(96)00560-9 . ISSN 0375-9601 .
- ^ Пластино, Арканзас; Пластино, А. (1 октября 1996 г.). «Симметрии уравнения Фоккера-Планка и стрела времени Фишера-Фридена». Физический обзор E . 54 (4). Американское физическое общество (APS): 4423–4426. Бибкод : 1996PhRvE..54.4423P . дои : 10.1103/physreve.54.4423 . ISSN 1063-651X .
- ^ Р. Пластино, А.; Миллер, Х.Г.; Пластино, А. (1 октября 1997 г.). «Подход с минимальной энтропией Кульбака к уравнению Фоккера-Планка». Физический обзор E . 56 (4). Американское физическое общество (APS): 3927–3934. Бибкод : 1997PhRvE..56.3927R . дои : 10.1103/physreve.56.3927 . ISSN 1063-651X .
- ^ Пластино, А.; Пластино, Арканзас; Миллер, Х.Г. (1997). «О связи между стрелой времени Фишера-Фридена-Соффера и поведением энтропий Больцмана и Кульбака». Буквы по физике А. 235 (2). Эльзевир Б.В.: 129–134. Бибкод : 1997PhLA..235..129P . дои : 10.1016/s0375-9601(97)00634-8 . ISSN 0375-9601 .
- ^ Фриден, БР; Пластино, А.; Пластино, Арканзас; Соффер, Б.Х. (1 июля 1999 г.). «Термодинамика на основе Фишера: ее преобразование Лежандра и свойства вогнутости». Физический обзор E . 60 (1). Американское физическое общество (APS): 48–53. Бибкод : 1999PhRvE..60...48F . дои : 10.1103/physreve.60.48 . ISSN 1063-651X .
- ^ Фриден, БР; Пластино, А.; Пластино, Арканзас; Соффер, Б.Х. (22 октября 2002 г.). «Связь Шредингера между неравновесной термодинамикой и информацией Фишера». Физический обзор E . 66 (4). Американское физическое общество (APS): 046128. arXiv : cond-mat/0206107 . Бибкод : 2002PhRvE..66d6128F . дои : 10.1103/physreve.66.046128 . ISSN 1063-651X . ПМИД 12443280 .
- ^ Эрнандо, А.; Пучдоменек, Д.; Виллуэндас, Д.; Весперинас, К.; Пластино, А. (2009). «Закон Ципфа из вариационного принципа Фишера». Буквы по физике А. 374 (1). Эльзевир Б.В.: 18–21. arXiv : 0908.0501 . Бибкод : 2009PhLA..374...18H . дои : 10.1016/j.physleta.2009.10.027 . ISSN 0375-9601 .
- ^ Эрнандо, А.; Весперинас, К.; Пластино, А. (2010). «Информация Фишера и термодинамика масштабно-инвариантных систем». Физика А: Статистическая механика и ее приложения . 389 (3): 490. arXiv : 0908.0504 . Бибкод : 2010PhyA..389..490H . дои : 10.1016/j.physa.2009.09.054 .