Логарифмически вогнутая функция

В выпуклом функция неотрицательная f $R : анализе н \to R +$ является логарифмически вогнутым (или для краткости логарифмически вогнутым ), если его областью определения является выпуклое множество и если оно удовлетворяет неравенству

f(\theta x+(1-\theta )y)\geq f(x)^{\theta }f(y)^{1-\theta }

для всех $x, y \in dom f$ и $0 < θ < 1$ . Если $f$ строго положительное значение, это эквивалентно тому, что функции log $\circ f$ вогнутый логарифм ; то есть,

\log f(\theta x+(1-\theta )y)\geq \theta \log f(x)+(1-\theta )\log f(y)

для всех $x, y \in dom f$ и $0 < θ < 1$ .

Примерами логарифмически вогнутых функций являются индикаторные функции 0-1 выпуклых множеств (которые требуют более гибкого определения) и функция Гаусса .

Аналогично, функция является лог-выпуклой , если она удовлетворяет обратному неравенству

f(\theta x+(1-\theta )y)\leq f(x)^{\theta }f(y)^{1-\theta }

для всех $x, y \in dom f$ и $0 < θ < 1$ .

Характеристики

Логвогнутая функция также является квазивогнутой . Это следует из того факта, что логарифм монотонен, а значит, множества надуровней этой функции выпуклы. ^[1]
Любая вогнутая функция, неотрицательная в своей области определения, является логарифмически вогнутой. Однако обратное не обязательно справедливо. Примером может служить функция Гаусса $f (x)$ = $exp(- x 2 /2),$ который является логарифмически вогнутым, поскольку $log f (x)$ = $- x 2 /2$ — вогнутая функция $x$ . Но $f$ не является вогнутой, поскольку вторая производная положительна при | $х$ | > 1:

f''(x)=e^{-{\frac {x^{2}}{2}}}(x^{2}-1)\nleq 0

Сверху две точки, вогнутость $\Rightarrow$ бревно-вогнутость $\Rightarrow$ квазивогнутость .
Дважды дифференцируемая неотрицательная функция с выпуклой областью определения является лог-вогнутой тогда и только тогда, когда для всех $x,$ удовлетворяющих $f (x) > 0$ ,

f(x)\nabla ^{2}f(x)\preceq \nabla f(x)\nabla f(x)^{T}

, ^[1]

т.е.

f(x)\nabla ^{2}f(x)-\nabla f(x)\nabla f(x)^{T}

является

отрицательный полуопределенный . Для функций одной переменной это условие упрощается до

f(x)f''(x)\leq (f'(x))^{2}

Операции, сохраняющие вогнутость бревна

Продукты: Продукт логарифмически вогнутых функций также является логарифмическим. Действительно, если $f$ и $g$ — лог-вогнутые функции, то $log f$ и $log g$ вогнуты по определению. Поэтому

\log \,f(x)+\log \,g(x)=\log(f(x)g(x))

вогнута, а значит, и

f g

логарифмически вогнута.

Поля : если $f (x, y)$ : $R п + м \to R$ логарифмически вогнуто, то

g(x)=\int f(x,y)dy

является лог-вогнутым (см. неравенство Прекопы – Лейндлера ).

Это подразумевает, что свертка сохраняет лог-вогнутость, поскольку $h (x, y)$ = $f (x - y) g (y)$ логарифмически вогнута, если $f$ и $g$ логарифмически вогнуты, и, следовательно,

(f*g)(x)=\int f(x-y)g(y)dy=\int h(x,y)dy

является логвогнутым.

Логвогнутые распределения

Логарифмически вогнутые распределения необходимы для ряда алгоритмов, например, адаптивной отбраковочной выборки . Каждое распределение с логарифмически вогнутой плотностью представляет собой распределение вероятностей максимальной энтропии с заданным средним значением μ и мерой риска отклонения D . ^[2] Как это бывает, многие распространенные распределения вероятностей являются логарифмически вогнутыми. Некоторые примеры: ^[3]

нормальное распределение и многомерные нормальные распределения ,
экспоненциальное распределение ,
равномерное распределение по любому выпуклому множеству ,
логистическое распределение ,
распределение экстремальных значений ,
Лапласа распределение ,
распределение ци ,
гиперболическое секущее распределение ,
распределение Уишарта , если n ≥ p + 1, ^[4]
распределение Дирихле , если все параметры ≥ 1, ^[4]
гамма -распределение, если параметр формы ≥ 1,
распределение хи-квадрат, если количество степеней свободы ≥ 2,
бета -распределение, если оба параметра формы ≥ 1, и
распределение Вейбулла, если параметр формы ≥ 1.

Обратите внимание, что все ограничения параметров имеют один и тот же основной источник: показатель степени неотрицательной величины должен быть неотрицательным, чтобы функция была логарифмически вогнутой.

Следующие распределения не являются логарифмически вогнутыми для всех параметров:

Стьюдента t-распределение ,
распределение Коши ,
Парето распределение ,
логнормальное распределение и
распределение F- .

Обратите внимание, что кумулятивная функция распределения (CDF) всех логарифмически вогнутых распределений также является логарифмически вогнутой. Однако некоторые нелогарифмически вогнутые дистрибутивы также имеют логарифмически вогнутые CDF:

логнормальное распределение ,
Парето распределение ,
распределение Вейбулла , когда параметр формы <1, и
гамма -распределение , когда параметр формы <1.

К свойствам логарифмически вогнутых распределений относятся следующие:

Если плотность логарифмически вогнута, то такой же является и ее кумулятивная функция распределения (CDF).
Если многомерная плотность является логарифмически вогнутой, то такой же является и предельная плотность по любому подмножеству переменных.
Сумма двух независимых логарифмически вогнутых случайных величин является логарифмически вогнутой. Это следует из того, что свертка двух лог-вогнутых функций является лог-вогнутой.
Произведение двух логарифмически вогнутых функций является логарифмическим. Это означает, что плотности соединений , сформированные путем умножения двух плотностей вероятности (например, нормальное гамма-распределение , которое всегда имеет параметр формы ≥ 1), будут логарифмически вогнутыми. Это свойство широко используется в программах выборки Гиббса общего назначения , таких как BUGS и JAGS , которые, таким образом, могут использовать адаптивную выборку отклонения для широкого спектра условных распределений, полученных из продукта других распределений.
Если плотность логарифмически вогнута, то такой же является и ее функция выживания . ^[3]
Если плотность является логарифмически вогнутой, она имеет монотонную степень риска (MHR) и является регулярным распределением , поскольку производная логарифма функции выживания представляет собой отрицательную степень опасности, а по вогнутости является монотонной, т.е.

{\frac {d}{dx}}\log \left(1-F(x)\right)=-{\frac {f(x)}{1-F(x)}}

которая убывает, поскольку является производной вогнутой функции.

См. также

Примечания

^ Jump up to: ^а ^б Бойд, Стивен ; Ванденберге, Ливен (2004). «Логовогнутые и лого-выпуклые функции» . Выпуклая оптимизация . Издательство Кембриджского университета. стр. 104–108. ISBN 0-521-83378-7 .
^ Гречук, Богдан; Молыбоха, Антон; Забаранкин, Михаил (май 2009 г.). «Принцип максимальной энтропии с мерами общего отклонения» (PDF) . Математика исследования операций . 34 (2): 445–467. дои : 10.1287/moor.1090.0377 .
^ Jump up to: ^а ^б Видеть Баньоли, Марк; Бергстром, Тед (2005). «Лог-вогнутая вероятность и ее приложения» (PDF) . Экономическая теория . 26 (2): 445–469. дои : 10.1007/s00199-004-0514-4 . S2CID 1046688 .
^ Jump up to: ^а ^б Прекопа, Андраш (1971). «Логарифмические вогнутые меры с применением к стохастическому программированию» (PDF) . Acta Scientiarum Mathematicarum . 32 (3–4): 301–316.

Ссылки

Барндорф-Нильсен, Оле (1978). Информация и экспоненциальные семейства в статистической теории . Ряд Уайли по вероятности и математической статистике. Чичестер: John Wiley \& Sons, Ltd., стр. ix+238 стр. ISBN 0-471-99545-2 . МР 0489333 .
Дхармадхикари, Судхакар; Джоаг-Дев, Кумар (1988). Унимодальность, выпуклость и приложения . Вероятность и математическая статистика. Бостон, Массачусетс: Academic Press, Inc., стр. xiv+278. ISBN 0-12-214690-5 . МР 0954608 .

Пфанцагль, Иоганн; при содействии Р. Хамбокера (1994). Параметрическая статистическая теория . Вальтер де Грюйтер. ISBN 3-11-013863-8 . МР 1291393 .

Печарич, Йосип Э.; Прошан, Фрэнк; Тонг, ЮЛ (1992). Выпуклые функции, частичные упорядочения и статистические приложения . Математика в науке и технике. Том. 187. Бостон, Массачусетс: Academic Press, Inc., стр. xiv + 467 стр. ISBN. 0-12-549250-2 . МР 1162312 .

[:0-1] Jump up to: ^а ^б Бойд, Стивен ; Ванденберге, Ливен (2004). «Логовогнутые и лого-выпуклые функции» . Выпуклая оптимизация . Издательство Кембриджского университета. стр. 104–108. ISBN 0-521-83378-7 .

[Grechuk1-2] Гречук, Богдан; Молыбоха, Антон; Забаранкин, Михаил (май 2009 г.). «Принцип максимальной энтропии с мерами общего отклонения» (PDF) . Математика исследования операций . 34 (2): 445–467. дои : 10.1287/moor.1090.0377 .

[:1-3] Jump up to: ^а ^б Видеть Баньоли, Марк; Бергстром, Тед (2005). «Лог-вогнутая вероятность и ее приложения» (PDF) . Экономическая теория . 26 (2): 445–469. дои : 10.1007/s00199-004-0514-4 . S2CID 1046688 .

[prekopa-4] Jump up to: ^а ^б Прекопа, Андраш (1971). «Логарифмические вогнутые меры с применением к стохастическому программированию» (PDF) . Acta Scientiarum Mathematicarum . 32 (3–4): 301–316.

[1]

[2]

[3]

[4]