Степенной закон

Не путать с Силой (законом) . Чтобы узнать о других значениях, см. Сила (значения) .

«Закон масштабирования» перенаправляется сюда. Статистические законы масштабирования моделей глубокого обучения см. в разделе Закон масштабирования нейронов .

Пример степенного графика, демонстрирующего рейтинг популярности. Справа — длинный хвост , а слева — те немногие, которые доминируют (также известное как правило 80–20 ).

В статистике степенной закон — это функциональная связь между двумя величинами, при которой относительное изменение одной величины приводит к относительному изменению другой величины, пропорциональному степени изменения, независимо от первоначального размера этих величин: одна величина изменяется. как сила другого. Например, если рассматривать площадь квадрата через длину его стороны, то если длину увеличить вдвое, площадь умножится в четыре раза. Скорость изменения, проявляющаяся в этих отношениях, называется мультипликативной.

Эмпирические примеры

Распределение широкого спектра физических, биологических и антропогенных явлений примерно подчиняется степенному закону в широком диапазоне величин: к ним относятся размеры кратеров на Луне и солнечных вспышек , размеры облаков, характер питания различных видов, размеры паттернов активности нейрональных популяций, частоты слов частоты фамилий , видовое богатство клад в большинстве языков , организмов, размеры отключений электроэнергии , извержений вулканов, человеческие суждения об интенсивности стимула и многие другие величины. Эмпирические распределения могут соответствовать степенному закону только для ограниченного диапазона значений, поскольку чистый степенной закон допускает сколь угодно большие или малые значения. Акустическое затухание подчиняется частотно-степенному закону в широких полосах частот для многих сложных сред. Аллометрические законы масштабирования для отношений между биологическими переменными являются одними из наиболее известных степенных функций в природе.

Характеристики

Масштабная инвариантность

Одним из свойств степенных законов является их масштабная инвариантность . Учитывая отношение $f(x)=ax^{-k}$, масштабирование аргумента $x$ постоянным коэффициентом $c$ вызывает только пропорциональное масштабирование самой функции. То есть,

$f(cx)=a(cx)^{-k}=c^{-k}f(x)\propto f(x),\!$

где $\propto$ означает прямую пропорциональность . То есть масштабирование по константе $c$ просто умножает исходное степенное соотношение на константу $c^{-k}$. Таким образом, из этого следует, что все степенные законы с определенным показателем масштабирования эквивалентны с точностью до постоянных коэффициентов, поскольку каждый из них представляет собой просто масштабированную версию остальных. Именно такое поведение и приводит к линейной зависимости, когда логарифмируются оба значения. $f(x)$ и $x$, а прямую линию на логарифмическом графике часто называют сигнатурой степенного закона. В случае реальных данных такая прямолинейность является необходимым, но не достаточным условием для того, чтобы данные подчинялись степенному закону. Фактически, существует множество способов генерировать конечные объемы данных, которые имитируют это поведение сигнатуры, но в своем асимптотическом пределе не являются истинными степенными законами. Таким образом, точная подборка и проверка степенных моделей является активной областью исследований в статистике; см. ниже.

Отсутствие четко определенного среднего значения

Степенной закон $x^{-k}$ имеет четко определенное среднее значение по $x\in [1,\infty )$ только если $k>2$, и он имеет конечную дисперсию только в том случае, если $k>3$; Большинство известных степенных законов в природе имеют такие показатели, что среднее значение четко определено, а дисперсия - нет, что означает, что они способны к поведению черного лебедя . Это можно увидеть в следующем мысленном эксперименте: представьте себе комнату с друзьями и оцените средний ежемесячный доход в комнате. А теперь представьте самый богатый человек в мире , что в комнату входит с ежемесячным доходом около 1 миллиарда долларов США. Что происходит со средним доходом в комнате? Доход распределяется по степенному закону, известному как распределение Парето (например, собственный капитал американцев распределяется по степенному закону с показателем степени 2).

С одной стороны, это делает некорректным применение традиционной статистики, основанной на дисперсии и стандартном отклонении (например, регрессионного анализа ). С другой стороны, это также позволяет проводить экономически эффективные вмешательства. Например, учитывая, что выхлопные газы автомобилей распределяются между автомобилями по степенному закону (очень немногие автомобили вносят наибольший вклад в загрязнение окружающей среды), было бы достаточно убрать эти очень немногие автомобили с дороги, чтобы существенно снизить общее количество выхлопных газов.

Однако медиана существует: для степенного закона x ^{– к} , с показателем ⁠ $k>1$⁠ , принимает значение 2 ^{1/( к – 1)} x _min , где x _min — минимальное значение, для которого выполняется степенной закон.

Универсальность

Эквивалентность степенных законов с определенным показателем масштабирования может иметь более глубокое происхождение в динамических процессах, которые порождают степенное соотношение. В физике, например, фазовые переходы в термодинамических системах связаны с возникновением степенных распределений некоторых величин, показатели степени которых называются критическими показателями системы. различные системы с одинаковыми критическими показателями, то есть которые демонстрируют идентичное масштабируемое поведение по мере приближения к критичности, можно показать, что С помощью теории ренормгруппы имеют одну и ту же фундаментальную динамику. Например, поведение воды и CO ₂ при температуре кипения попадает в один и тот же класс универсальности, поскольку они имеют одинаковые критические показатели. Фактически почти все материальные фазовые переходы описываются небольшим набором классов универсальности. Подобные наблюдения были сделаны, хотя и не столь подробно, для различных самоорганизующихся критических систем, где критическая точка системы является аттрактором . Формально такое разделение динамики называется универсальностью , и говорят, что системы с одинаковыми критическими показателями принадлежат к одному и тому же классу универсальности .

Степенные функции

Научный интерес к степенно-правовым отношениям частично проистекает из той легкости, с которой некоторые общие классы механизмов порождают их. Демонстрация степенной зависимости в некоторых данных может указывать на определенные виды механизмов, которые могут лежать в основе рассматриваемого природного явления, и может указывать на глубокую связь с другими, казалось бы, несвязанными системами; см. также универсальность выше. Повсеместное распространение степенных отношений в физике частично обусловлено размерными ограничениями , тогда как в сложных системах степенные законы часто считаются признаками иерархии или конкретных случайных процессов . Несколько ярких примеров степенных законов — это закон распределения доходов Парето , структурное самоподобие фракталов и законы масштабирования в биологических системах . Исследования происхождения степенно-законных отношений, а также усилия по их наблюдению и подтверждению в реальном мире являются активной темой исследований во многих областях науки, включая физику , информатику , лингвистику , геофизику , нейробиологию , систематику , социологию , экономика и многое другое.

Однако большая часть недавнего интереса к степенным законам связана с изучением вероятностных распределений : распределения самых разных величин, по-видимому, следуют степенной форме, по крайней мере, в их верхней части (крупные события). Поведение этих крупных событий связывает эти величины с изучением теории больших отклонений (также называемой теорией экстремальных значений ), которая учитывает частоту чрезвычайно редких событий, таких как крахи фондового рынка и крупные стихийные бедствия . В первую очередь при изучении статистических распределений используется название «степенной закон».

В эмпирическом контексте приближение к степенному закону $o(x^{k})$ часто включает в себя термин отклонения $\varepsilon$, что может представлять неопределенность в наблюдаемых значениях (возможно, ошибки измерения или выборки) или обеспечивать простой способ отклонения наблюдений от степенной функции (возможно, по стохастическим причинам):

$y=ax^{k}+\varepsilon .\!$

распределение, представляющее собой усеченную степенную функцию : Математически строгий степенной закон не может быть распределением вероятностей, но возможно $p(x)=Cx^{-\alpha }$ для $x>x_{\text{min}}$ где показатель степени $\alpha$ (Греческая буква альфа , не путать с масштабным коэффициентом $a$ использованное выше) больше 1 (иначе хвост имеет бесконечную площадь), минимальное значение $x_{\text{min}}$ в противном случае распределение будет иметь бесконечную площадь, когда x приближается к 0, а константа C является коэффициентом масштабирования, гарантирующим, что общая площадь равна 1, как того требует распределение вероятностей. Чаще используют асимптотический степенной закон, который верен только в пределе; см . ниже по степенным распределениям вероятностей подробности . Обычно показатель степени попадает в диапазон $2<\alpha <3$, хотя и не всегда.

Примеры

В физике (например, песчаные лавины), биологии (например, вымирание видов и масса тела) и социальных науках (например, размеры городов и доходы) выявлено более сотни степенных распределений. Среди них:

Искусственный интеллект

• Закон нейронного масштабирования

Астрономия

• Третий закон Кеплера
• Начальная функция масс звезд
• Дифференциальный энергетический спектр космических лучей ядер
• Отношение М – сигма
• Солнечные вспышки

Биология

• Закон Клейбера, связывающий метаболизм животных с размером, и аллометрические законы в целом.
• Степенной закон двух третей, связывающий скорость с кривизной двигательной системы человека .
• Закон Тейлора, связывающий среднюю численность популяции и дисперсию численности популяций в экологии.
• Нейрональные лавины
• Видовое богатство (число видов) клад пресноводных рыб
• Эффект Харлоу-Кнаппа, при котором подмножество киназ , обнаруженных в организме человека, составляет большую часть опубликованных исследований.
• Размер лесных участков во всем мире подчиняется степенному закону.
• Отношения вид -ареал, связывающие количество видов, встречающихся на территории, в зависимости от размера территории.

Химия

• Закон о ставках

Климатология

• Размеры областей и периметров облаков, вид из космоса
• Размер душевых ячеек
• Рассеяние энергии в циклонах
• Диаметры пылевых вихрей на Земле и Марсе

Общая наука

• Экспоненциальный рост и случайное наблюдение (или убийство)
• Прогресс через экспоненциальный рост и экспоненциальное распространение инноваций
• Высоко оптимизированная толерантность
• Предлагаемая форма эффектов кривой опыта
• Розовый шум
• Закон числа ручьев и закон длины ручьев ( законы Хортона , описывающие речные системы)
• Население городов ( закон Гибрата )
• Библиограммы и частоты слов в тексте ( закон Ципфа )
• Принцип 90–9–1 на вики (также называемый правилом 1% )
• Закон Ричардсона для тяжести насильственных конфликтов (войн и терроризма)
• Взаимосвязь между размером кэша ЦП и количеством промахов кэша подчиняется степенному закону промахов кэша .
• Спектральная плотность весовых матриц глубоких нейронных сетей

Экономика

• Численность населения городов региона или городской сети , закон Ципфа .
• Распределение художников по средней цене их произведений.
• Распределение доходов в рыночной экономике.
• Распределение степеней в банковских сетях.
• Распределение по размеру фирмы.

Финансы

• Доходность высокорискованных венчурных инвестиций
• Среднее абсолютное изменение логарифмических средних цен
• Большие изменения цен, волатильность и объем транзакций на фондовых биржах
• Среднее время ожидания изменения направления
• Среднее время ожидания превышения

Математика

• Фракталы
• Распределение Парето и принцип Парето, также называемый «правилом 80–20».
• Закон Ципфа в корпусном анализе и распределении генеральной совокупности среди других, где частота элемента или события обратно пропорциональна его частотному рангу (т.е. второй по частоте элемент/событие происходит вдвое реже, чем наиболее частый элемент, третий по частоте элемент/ событие встречается на треть чаще, чем наиболее часто встречающийся элемент, и так далее).
• Дзета-распределение (дискретное)
• Распределение Юла – Саймона (дискретное)
• t-распределение Стьюдента которого является распределение Коши . (непрерывное), частным случаем
• Lotka's law
• Модель безмасштабной сети

Физика

• Показатель Ангстрема в аэрозольной оптике
• Частотная зависимость затухания звука в сложных средах
• Закон Стефана – Больцмана.
• Кривые входного напряжения и выходного тока полевых транзисторов и электронных ламп приближаются к квадратичному закону зависимости, что является фактором « лампового звука ».
• Закон квадрата-куба (отношение площади поверхности к объему)
• 3/2 можно найти на характеристических кривых пластин триодов Закон степени .
• Законы обратных квадратов ньютоновской гравитации и электростатики , о чем свидетельствуют гравитационный потенциал и электростатический потенциал соответственно.
• Самоорганизованная критичность с критической точкой в ​​качестве аттрактора
• Модель силы Ван дер Ваальса
• Сила и потенциал в простом гармоническом движении
• Гамма-коррекция, связывающая интенсивность света с напряжением
• Поведение вблизи фазовых переходов второго рода с критическими показателями
• Безопасная рабочая зона , относящаяся к максимальному одновременному току и напряжению в силовых полупроводниках.
• Сверхкритические состояния вещества и сверхкритические жидкости , такие как сверхкритические показатели теплоемкости и вязкости .
• Закон Кюри – фон Швейдлера в диэлектрических реакциях на входное ступенчатое напряжение постоянного тока.
• Зависимость демпфирующей силы от скорости в расчете антисейсмических демпферов
• Складчатые открытые к растворителю поверхности центрированных аминокислот в структуры белка сегментах

Политология

• Закон кубического корня из сборочных размеров

Психология

• Стивенса Степенной закон психофизики ( оспаривается демонстрацией того, что он может быть логарифмическим). )
• Степенной закон забывания

Варианты

Нарушенный степенной закон

Некоторые модели начальной функции массы используют нарушенный степенной закон; вот Крупа (2001) в красном.

Нарушенный степенной закон — это кусочная функция , состоящая из двух или более степенных законов, объединенных порогом. Например, с двумя степенными законами:

$f(x)\propto x^{\alpha _{1}}$ для $x<x_{\text{th}},$

$f(x)\propto x_{\text{th}}^{\alpha _{1}-\alpha _{2}}x^{\alpha _{2}}{\text{ for }}x>x_{\text{th}}$.

Плавно нарушенный степенной закон

Части нарушенного степенного закона можно плавно соединить вместе, чтобы построить гладко нарушенный степенной закон.

Существуют различные возможные способы объединения степенных законов. Одним из примеров является следующее: $$\ln \left({\frac {y}{y_{0}}}+a\right)=c_{0}\ln \left({\frac {x}{x_{0}}}\right)+\sum _{i=1}^{n}{\frac {c_{i}-c_{i-1}}{f_{i}}}\ln \left(1+\left({\frac {x}{x_{i}}}\right)^{f_{i}}\right)$$где $0<x_{0}<x_{1}<\cdots <x_{n}$.

Когда функция отображается в виде логарифмического графика с горизонтальной осью $\ln x$ и вертикальная ось $\ln(y/y_{0}+a)$, сюжет состоит из $n+1$ линейные сегменты с уклонами $c_{0},c_{1},...,c_{n}$, разделенные на $x=x_{1},...,x_{n}$, плавно сращенные вместе. Размер $f_{i}$ определяет резкость сращивания между сегментами $i-1,i$.

Степенной закон с экспоненциальным обрезанием

Степенной закон с экспоненциальным сокращением — это просто степенной закон, умноженный на показательную функцию:

$f(x)\propto x^{-\alpha }e^{-\beta x}.$

Закон изогнутой степени

$f(x)\propto x^{\alpha +\beta x}$

Степенные распределения вероятностей

В более широком смысле степенное распределение вероятностей — это распределение, функция плотности которого (или функция массы в дискретном случае) имеет вид для больших значений $x$,

$P(X>x)\sim L(x)x^{-(\alpha -1)}$

где $\alpha >1$, и $L(x)$ — медленно меняющаяся функция , то есть любая функция, удовлетворяющая условию $\lim _{x\rightarrow \infty }L(r\,x)/L(x)=1$ для любого положительного фактора $r$. Это свойство $L(x)$ следует непосредственно из требования, чтобы $p(x)$ быть асимптотически масштабно-инвариантным; таким образом, форма $L(x)$ контролирует только форму и конечную протяженность нижнего хвоста. Например, если $L(x)$ — постоянная функция, то мы имеем степенной закон, справедливый для всех значений $x$. Во многих случаях удобно принять нижнюю оценку $x_{\mathrm {min} }$ из чего действует закон. Объединив эти два случая, и где $x$ является непрерывной переменной, степенной закон имеет вид распределения Парето

$p(x)={\frac {\alpha -1}{x_{\min }}}\left({\frac {x}{x_{\min }}}\right)^{-\alpha },$

где предварительный фактор для ${\frac {\alpha -1}{x_{\min }}}$ – нормировочная константа . Теперь мы можем рассмотреть некоторые свойства этого распределения. Например, его моменты определяются выражением

$\langle x^{m}\rangle =\int _{x_{\min }}^{\infty }x^{m}p(x)\,\mathrm {d} x={\frac {\alpha -1}{\alpha -1-m}}x_{\min }^{m}$

который хорошо определен только для $m<\alpha -1$. То есть все моменты $m\geq \alpha -1$ расходятся: когда $\alpha \leq 2$, среднее и все моменты высшего порядка бесконечны; когда $2<\alpha <3$, среднее значение существует, но дисперсия и моменты более высокого порядка бесконечны и т. д. Для выборок конечного размера, взятых из такого распределения, такое поведение означает, что оценки центрального момента (например, среднего значения и дисперсии) для расходящихся моментов никогда не сойдутся. – по мере накопления большего количества данных они продолжают расти. Эти степенные распределения вероятностей также называются распределениями типа Парето, распределениями с хвостами Парето или распределениями с регулярно меняющимися хвостами.

Модификация, не удовлетворяющая приведенной выше общей форме, с экспоненциальным обрезанием, является

$p(x)\propto L(x)x^{-\alpha }\mathrm {e} ^{-\lambda x}.$

В этом распределении член экспоненциального затухания $\mathrm {e} ^{-\lambda x}$ в конечном итоге подавляет степенное поведение при очень больших значениях $x$. Этот дистрибутив не масштабируется и, таким образом, не является асимптотически степенным законом; однако он приблизительно масштабируется в конечной области до отсечки. Чистая форма, приведенная выше, является подмножеством этого семейства, с $\lambda =0$. Это распределение является распространенной альтернативой асимптотическому степенному распределению, поскольку оно естественным образом учитывает эффекты конечного размера.

Распределения Твиди представляют собой семейство статистических моделей, характеризующихся замыканием при аддитивной и репродуктивной свертке, а также при масштабном преобразовании. Следовательно, все эти модели выражают степенную зависимость между дисперсией и средним значением. Эти модели играют фундаментальную роль в качестве фокусов математической сходимости, аналогичную той роли, которую нормальное распределение играет в качестве фокуса в центральной предельной теореме . Этот эффект конвергенции объясняет, почему степенной закон отклонения от среднего так широко проявляется в природных процессах, например, в законе Тейлора в экологии и при масштабировании флуктуаций. по физике. Также можно показать, что этот закон отклонения от средней степени, продемонстрированный методом расширения интервалов , подразумевает наличие шума 1/ f и что шум 1/ f может возникнуть как следствие этого эффекта конвергенции Твиди.

Графические методы идентификации

Хотя были предложены более сложные и надежные методы, наиболее часто используемыми графическими методами определения степенных распределений вероятностей с использованием случайных выборок являются квантиль-квантильные графики Парето (или графики Парето Q – Q ), графики среднего остаточного срока службы и логарифмические графики . Другой, более надежный графический метод использует группы остаточных квантильных функций. (Имейте в виду, что степенные распределения также называются распределениями типа Парето.) Здесь предполагается, что случайная выборка получена из распределения вероятностей, и что мы хотим знать, подчиняется ли хвост распределения степенному закону. (другими словами, мы хотим знать, имеет ли распределение «хвост Парето»). Здесь случайная выборка называется «данными».

Графики Парето Q–Q сравнивают квантили логарифмически преобразованных данных с соответствующими квантилями экспоненциального распределения со средним значением 1 (или с квантилями стандартного распределения Парето), отображая первое в сравнении со вторым. Если результирующая диаграмма рассеяния предполагает, что нанесенные точки «асимптотически сходятся» к прямой линии, то следует заподозрить степенное распределение. Ограничением графиков Парето Q–Q является то, что они плохо ведут себя, когда хвостовой индекс $\alpha$ (также называемый индексом Парето) близок к 0, поскольку графики Q–Q Парето не предназначены для выявления распределений с медленно меняющимися хвостами.

С другой стороны, в своей версии для определения степенного распределения вероятностей график среднего остаточного срока службы состоит из сначала логарифмического преобразования данных, а затем построения среднего значения тех логарифмически преобразованных данных, которые выше i - го порядка. статистика по сравнению со статистикой i -го порядка для i = 1,..., n , где n — размер случайной выборки. Если результирующая диаграмма рассеяния предполагает, что нанесенные точки имеют тенденцию «стабилизироваться» вокруг горизонтальной прямой линии, то следует заподозрить степенное распределение. Поскольку график среднего остаточного срока службы очень чувствителен к выбросам (он не является устойчивым), он обычно дает графики, которые трудно интерпретировать; по этой причине такие сюжеты обычно называют сюжетами ужасов Хилла.

Прямая линия на логарифмическом графике необходима, но недостаточна для доказательства существования степенного закона, наклон прямой соответствует показателю степенного закона.

Логарифмические графики — это альтернативный способ графического исследования хвоста распределения с использованием случайной выборки. Однако следует проявлять осторожность, поскольку логарифмический график необходим, но недостаточен для доказательства степенной зависимости, поскольку многие нестепенные распределения будут выглядеть как прямые линии на логарифмическом графике. Этот метод состоит в построении графика логарифма оценки вероятности того, что определенное число распределения произойдет, в сравнении с логарифмом этого конкретного числа. Обычно эта оценка представляет собой долю раз, когда число встречается в наборе данных. Если точки на графике имеют тенденцию «сходиться» к прямой линии для больших чисел по оси x, то исследователь приходит к выводу, что распределение имеет степенной хвост. Опубликованы примеры применения этих типов сюжетов. Недостатком этих графиков является то, что для получения надежных результатов им требуются огромные объемы данных. Кроме того, они подходят только для дискретных (или сгруппированных) данных.

Предложен другой графический метод идентификации степенных распределений вероятностей с использованием случайных выборок. Эта методология заключается в построении графика выборки с логарифмическим преобразованием . Первоначально предложенная как инструмент для изучения существования моментов и функции генерации момента с использованием случайных выборок, методология пакета основана на функциях остаточного квантиля (RQF), также называемых функциями остаточного процентиля. которые обеспечивают полную характеристику поведения хвоста многих известных распределений вероятностей, включая степенные распределения, распределения с другими типами тяжелых хвостов и даже распределения без тяжелых хвостов. Пакетные графики лишены упомянутых выше недостатков графиков Парето Q–Q, графиков среднего остаточного ресурса и логарифмических графиков (устойчивы к выбросам, позволяют визуально идентифицировать степенные законы при малых значениях $\alpha$и не требуют сбора большого количества данных). Кроме того, с помощью групповых диаграмм можно идентифицировать другие типы поведения хвоста.

Построение степенных распределений

В целом степенные распределения строятся на дважды логарифмических осях , что подчеркивает верхнюю область хвоста. Самый удобный способ сделать это — использовать (дополнительное) кумулятивное распределение то есть функцию выживания (ccdf) , $P(x)=\mathrm {Pr} (X>x)$,

$P(x)=\Pr(X>x)=C\int _{x}^{\infty }p(X)\,\mathrm {d} X={\frac {\alpha -1}{x_{\min }^{-\alpha +1}}}\int _{x}^{\infty }X^{-\alpha }\,\mathrm {d} X=\left({\frac {x}{x_{\min }}}\right)^{-(\alpha -1)}.$

CDF также является степенной функцией, но с меньшим показателем масштабирования. Для данных эквивалентной формой cdf является ранг-частотный подход, при котором мы сначала сортируем $n$ наблюдаемые значения в порядке возрастания и постройте их против вектора $\left[1,{\frac {n-1}{n}},{\frac {n-2}{n}},\dots ,{\frac {1}{n}}\right]$.

Хотя может быть удобно регистрировать данные или иным образом напрямую сглаживать функцию плотности вероятности (массы), эти методы вносят неявное смещение в представление данных, и поэтому их следует избегать. С другой стороны, функция выживания более устойчива к таким искажениям данных (но не без них) и сохраняет линейную сигнатуру на дважды логарифмических осях. Хотя представление функции выживания предпочтительнее представления в формате PDF при подгонке степенного закона к данным с помощью линейного метода наименьших квадратов, оно не лишено математической неточности. Таким образом, при оценке показателей степенного распределения рекомендуется использовать оценку максимального правдоподобия.

Оценка показателя степени по эмпирическим данным

Существует множество способов оценки значения показателя масштабирования для степенного хвоста, однако не все из них дают объективные и последовательные ответы . Некоторые из наиболее надежных методов часто основаны на методе максимального правдоподобия . Альтернативные методы часто основаны на построении линейной регрессии либо на логарифмической вероятности, либо на логарифмической кумулятивной функции распределения, либо на логарифмических данных, но этих подходов следует избегать, поскольку все они могут привести к сильно смещенным оценкам. показатель масштабирования.

Максимальная вероятность

Для вещественных, независимых и одинаково распределенных данных мы подгоняем степенное распределение вида

$p(x)={\frac {\alpha -1}{x_{\min }}}\left({\frac {x}{x_{\min }}}\right)^{-\alpha }$

к данным $x\geq x_{\min }$, где коэффициент ${\frac {\alpha -1}{x_{\min }}}$ распределения включен для обеспечения нормализации . Учитывая выбор для $x_{\min }$, логарифмическая функция правдоподобия принимает вид:

${\mathcal {L}}(\alpha )=\log \prod _{i=1}^{n}{\frac {\alpha -1}{x_{\min }}}\left({\frac {x_{i}}{x_{\min }}}\right)^{-\alpha }$

Максимум этого правдоподобия находится дифференцированием по параметру $\alpha$, установив результат равным нулю. После перестановки это дает уравнение оценки:

${\hat {\alpha }}=1+n\left[\sum _{i=1}^{n}\ln {\frac {x_{i}}{x_{\min }}}\right]^{-1}$

где $\{x_{i}\}$ являются $n$ точки данных $x_{i}\geq x_{\min }$. Эта оценка демонстрирует небольшое смещение конечного размера выборки порядка $O(n^{-1})$, что мало при n > 100. Далее, стандартная ошибка оценки равна $\sigma ={\frac {{\hat {\alpha }}-1}{\sqrt {n}}}+O(n^{-1})$. Эта оценка эквивалентна популярной Оценщик Хилла из количественной теории финансов и теории экстремальных значений .

Для набора из n целочисленных точек данных $\{x_{i}\}$, опять же, где каждый $x_{i}\geq x_{\min }$, показатель максимального правдоподобия является решением трансцендентного уравнения

${\frac {\zeta '({\hat {\alpha }},x_{\min })}{\zeta ({\hat {\alpha }},x_{\min })}}=-{\frac {1}{n}}\sum _{i=1}^{n}\ln {\frac {x_{i}}{x_{\min }}}$

где $\zeta (\alpha ,x_{\mathrm {min} })$ – неполная дзета-функция . Неопределенность в этой оценке определяется той же формулой, что и для непрерывного уравнения. Однако два уравнения для ${\hat {\alpha }}$ не эквивалентны, и непрерывную версию не следует применять к дискретным данным и наоборот.

Кроме того, обе эти оценки требуют выбора $x_{\min }$. Для функций с нетривиальным $L(x)$ функция, выбор $x_{\min }$ слишком маленький размер приводит к значительному смещению ${\hat {\alpha }}$, а выбор слишком большого значения увеличивает неопределенность в ${\hat {\alpha }}$и снижает статистическую мощность нашей модели. В общем, лучший выбор $x_{\min }$ сильно зависит от конкретной формы нижнего хвоста, представленного $L(x)$ выше.

Подробнее об этих методах и условиях, при которых их можно использовать, можно прочитать в . Кроме того, в этой подробной обзорной статье представлен полезный код (Matlab, Python, R и C++) для процедур оценки и тестирования степенных распределений.

Оценка Колмогорова–Смирнова

Другой метод оценки показателя степени, который не предполагает независимых и одинаково распределенных (iid) данных, использует минимизацию статистики Колмогорова – Смирнова , $D$, между кумулятивными функциями распределения данных и степенным законом:

${\hat {\alpha }}={\underset {\alpha }{\operatorname {arg\,min} }}\,D_{\alpha }$

с

$D_{\alpha }=\max _{x}|P_{\mathrm {emp} }(x)-P_{\alpha }(x)|$

где $P_{\mathrm {emp} }(x)$ и $P_{\alpha }(x)$ обозначим CDF данных и степенной закон с показателем $\alpha$, соответственно. Поскольку этот метод не предполагает данные iid, он предоставляет альтернативный способ определения показателя степени для наборов данных, в которых нельзя игнорировать временную корреляцию.

Двухточечный метод установки

Этот критерий может применяться для оценки показателя степени в случае безмасштабных распределений и обеспечивает более сходящуюся оценку, чем метод максимального правдоподобия. Он был применен для изучения вероятностных распределений отверстий трещин. В некоторых контекстах распределение вероятностей описывается не кумулятивной функцией распределения , а кумулятивной частотой свойства X , определяемой как количество элементов на метр (или единицу площади, секунду и т. д.), к которым X > x применяется , где x — переменное действительное число. В качестве примера: совокупное распределение апертуры трещин X для выборки из N элементов определяется как «количество трещин на метр с апертурой больше x» . Использование кумулятивной частоты имеет некоторые преимущества, например, оно позволяет помещать на одну и ту же диаграмму данные, собранные из линий отбора проб разной длины и в разных масштабах (например, из обнажения породы и с помощью микроскопа).

Проверка степенных законов

Хотя степенные отношения привлекательны по многим теоретическим причинам, для демонстрации того, что данные действительно подчиняются степенным отношениям, требуется нечто большее, чем просто подгонка конкретной модели к данным. Это важно для понимания механизма, который приводит к такому распределению: внешне схожие распределения могут возникать по совершенно разным причинам, а разные модели дают разные прогнозы, например экстраполяция.

Например, логнормальное распределение часто ошибочно принимают за степенное распределение: набор данных, полученный из логнормального распределения, будет приблизительно линейным для больших значений (что соответствует тому, что верхний хвост логнормального распределения близок к степенному закону) , но для малых значений логарифмически нормальное значение будет значительно падать (наклоняться вниз), что соответствует малому нижнему хвосту логнормального значения (в степенном законе очень мало малых значений, а не много малых значений).

Например, закон Гибрата о процессах пропорционального роста дает логнормальные распределения, хотя их логарифмические графики выглядят линейными в ограниченном диапазоне. Объяснение этого заключается в том, что, хотя логарифм логнормальной функции плотности квадратичен по log( x ) , что дает «изогнутую» форму на логарифмическом графике, если квадратичный член мал по сравнению с линейным, тогда результат может кажутся почти линейными, а логнормальное поведение видно только тогда, когда доминирует квадратичный член, что может потребовать значительно больше данных. Следовательно, логарифмический график, слегка «наклоненный» вниз, может отражать логарифмически нормальное распределение, а не степенной закон.

В общем, многие альтернативные функциональные формы могут в некоторой степени следовать степенной форме. Штумпф и Портер (2012) предложили построить график эмпирической кумулятивной функции распределения в логарифмической области и заявили, что кандидат на степенной закон должен охватывать как минимум два порядка величины. Кроме того, исследователям обычно приходится сталкиваться с проблемой принятия решения о том, подчиняется ли реальное распределение вероятностей степенному закону. В качестве решения этой проблемы Диас предложил графическую методологию, основанную на случайных выборках, позволяющую визуально различать различные типы поведения хвоста. В этой методологии используются наборы функций остаточного квантиля, также называемые процентильными функциями остаточного срока службы, которые характеризуют множество различных типов хвостов распределения, включая как тяжелые, так и нетяжелые хвосты. Однако Штумпф и Портер (2012) заявили о необходимости как статистической, так и теоретической основы для поддержки степенного закона в основном механизме, управляющем процессом генерации данных.

Один из методов проверки степенного соотношения проверяет множество ортогональных предсказаний конкретного генеративного механизма на основе данных. Простая установка степенного отношения к определенному типу данных не считается рациональным подходом. Таким образом, проверка утверждений степенного закона остается очень активной областью исследований во многих областях современной науки.

См. также

• Распределение с толстым хвостом
• Распределения с тяжелым хвостом
• Гиперболический рост
• полет Леви
• Длинный хвост
• Распределение Парето
• Степенная жидкость
• Модель Саймона
• Стабильное распространение
• Степенной закон Стивенса

Ссылки

Примечания

Библиография

• Альберт, Дж.С.; Рейс, RE, ред. (2011). Историческая биогеография неотропических пресноводных рыб . Беркли: Издательство Калифорнийского университета.
• Бак, Пер (1997). Как устроена природа . Издательство Оксфордского университета. ISBN  0-19-850164-1 .
• Бьюкенен, Марк (2000). Вездесущность . Вайденфельд и Николсон. ISBN  0-297-64376-2 .
• Клозе, А.; Шализи, ЧР; Ньюман, МЭД (2009). «Степенное распределение в эмпирических данных». Обзор СИАМ . 51 (4): 661–703. arXiv : 0706.1062 . Бибкод : 2009SIAMR..51..661C . дои : 10.1137/070710111 . S2CID   9155618 .
• Лаэррер, Ж.; Сорнетт, Д. (1998). «Растянутые показательные распределения в природе и экономике: «толстые хвосты» с характерными масштабами». Европейский физический журнал Б. 2 (4): 525–539. arXiv : cond-mat/9801293 . Бибкод : 1998EPJB....2..525L . дои : 10.1007/s100510050276 . S2CID   119467988 .
• Митценмахер, М. (2004). «Краткая история генеративных моделей для степенного закона и логнормального распределения» (PDF) . Интернет-математика . 1 (2): 226–251. дои : 10.1080/15427951.2004.10129088 . S2CID   1671059 .
• Саичев, Александр; Малевернь, Янник; Сорнетт, Дидье (2009). Теория закона Ципфа и не только . Конспект лекций по экономике и математическим системам. Том. 632. Спрингер. ISBN  978-3-642-02945-5 .
• Саймон, ХА (1955). «Об одном классе функций косого распределения». Биометрика . 42 (3/4): 425–440. дои : 10.2307/2333389 . JSTOR   2333389 .
• Сорнетт, Дидье (2006). Критические явления в естественных науках: хаос, фракталы, самоорганизация и беспорядок: концепции и инструменты . Серия Спрингера по синергетике (2-е изд.). Гейдельберг: Спрингер. ISBN  978-3-540-30882-9 .
• Штумпф, магистр здравоохранения; Портер, Массачусетс (2012). «Критические истины о степенных законах». Наука . 335 (6069): 665–666. Бибкод : 2012Sci...335..665S . дои : 10.1126/science.1216142 . ПМИД   22323807 . S2CID   206538568 .

Внешние ссылки

• Зипф, степенные законы и Парето - руководство по ранжированию. Архивировано 26 октября 2007 г. в Wayback Machine.
• Потоковая морфометрия и законы Хортона
• «Как финансовые гуру неправильно понимают риск», Бенуа Мандельброт и Нассим Николас Талеб. Форчун , 11 июля 2005 г.
• «Мюррей на миллион долларов» : степенное распределение бездомности и других социальных проблем; Малкольм Гладуэлл . Житель Нью-Йорка , 13 февраля 2006 г.
• Бенуа Мандельброт и Ричард Хадсон: Плохое поведение рынков (2004)
• Филип Болл: Критическая масса: как одно ведет к другому (2005)
• Тирания степенного закона из блога Econophysicals
• Итак, вы думаете, что у вас есть степенной закон – ну, разве это не особенное? из Трехпалого ленивца, блога Космы Шализи , профессора статистики Университета Карнеги-Меллона.
• Простой сценарий MATLAB , который группирует данные для иллюстрации степенных распределений (если таковые имеются) в данных.
• Сервер веб-графиков Erdős, заархивированный 1 марта 2021 г. на Wayback Machine, визуализирует распределение степеней веб-графа на странице загрузки .