Усеченный метод Ньютона

Усеченный метод Ньютона , возникший в статье Рона Дембо и Тронда Стейхауга, ^[1] также известная как оптимизация без гессиана , ^[2] — семейство алгоритмов оптимизации , предназначенных для оптимизации нелинейных функций с большим количеством независимых переменных . Усеченный метод Ньютона состоит из многократного применения алгоритма итеративной оптимизации для приблизительного решения уравнений Ньютона и определения обновления параметров функции. Внутренний решатель усекается , т. е. выполняется только ограниченное количество итераций. Отсюда следует, что для работы усеченных методов Ньютона внутреннему решателю необходимо получить хорошее приближение за конечное число итераций; ^[3] сопряженный градиент был предложен и оценен как кандидат на внутренний цикл. ^[2] Еще одним необходимым условием является хорошая предварительная подготовка для внутреннего алгоритма. ^[4]

Ссылки [ править ]

^ Дембо, Рон С.; Штайхауг, Тронд (1983). «Алгоритмы усеченного Ньютона для крупномасштабной неограниченной оптимизации». Математическое программирование . 26 (2). Спрингер: 190–212. дои : 10.1007/BF02592055 . S2CID 40537623 . . Результаты сходимости для этого алгоритма можно найти в Дембо, Рон С.; Эйзенштат, Стэнли К.; Штайхауг, Тронд (1982). «Неточные методы Ньютона». SIAM Journal по численному анализу . 19 (2): 400–408. Бибкод : 1982SJNA...19..400D . дои : 10.1137/0719025 . JSTOR 2156954 . .
↑ Перейти обратно: Перейти обратно: ^а ^б Мартенс, Джеймс (2010). Глубокое обучение посредством оптимизации без гессиана (PDF) . Учеб. Международная конференция по машинному обучению .
^ Нэш, Стивен Г. (2000). «Обзор методов усеченного Ньютона» . Журнал вычислительной и прикладной математики . 124 (1–2): 45–59. Бибкод : 2000JCoAM.124...45N . дои : 10.1016/S0377-0427(00)00426-X .
^ Нэш, Стивен Г. (1985). «Предварительная подготовка методов усеченного Ньютона» (PDF) . СИАМ J. Sci. Стат. Вычислить . 6 (3): 599–616. дои : 10.1137/0906042 .

Дальнейшее чтение [ править ]

Гриппо, Л.; Лампариелло, Ф.; Люсиди, С. (1989). «Усеченный метод Ньютона с поиском немонотонных линий для неограниченной оптимизации». J. Теория оптимизации и ее приложения . 60 (3): 401–419. CiteSeerX 10.1.1.455.7495 . дои : 10.1007/BF00940345 . S2CID 18990650 .
Нэш, Стивен Г.; Носедаль, Хорхе (1991). «Численное исследование метода BFGS с ограниченной памятью и метода усеченного Ньютона для крупномасштабной оптимизации». СИАМ Дж. Оптим . 1 (3): 358–372. CiteSeerX 10.1.1.474.3400 . дои : 10.1137/0801023 .

Эта прикладной математике, статья, посвященная незавершена . Вы можете помочь Википедии, расширив ее .

[dembo-steihaug-1] Дембо, Рон С.; Штайхауг, Тронд (1983). «Алгоритмы усеченного Ньютона для крупномасштабной неограниченной оптимизации». Математическое программирование . 26 (2). Спрингер: 190–212. дои : 10.1007/BF02592055 . S2CID 40537623 . . Результаты сходимости для этого алгоритма можно найти в Дембо, Рон С.; Эйзенштат, Стэнли К.; Штайхауг, Тронд (1982). «Неточные методы Ньютона». SIAM Journal по численному анализу . 19 (2): 400–408. Бибкод : 1982SJNA...19..400D . дои : 10.1137/0719025 . JSTOR 2156954 . .

[martens-2] Перейти обратно: Перейти обратно: ^а ^б Мартенс, Джеймс (2010). Глубокое обучение посредством оптимизации без гессиана (PDF) . Учеб. Международная конференция по машинному обучению .

[nash-3] Нэш, Стивен Г. (2000). «Обзор методов усеченного Ньютона» . Журнал вычислительной и прикладной математики . 124 (1–2): 45–59. Бибкод : 2000JCoAM.124...45N . дои : 10.1016/S0377-0427(00)00426-X .

[4] Нэш, Стивен Г. (1985). «Предварительная подготовка методов усеченного Ньютона» (PDF) . СИАМ J. Sci. Стат. Вычислить . 6 (3): 599–616. дои : 10.1137/0906042 .

[1]

[2]

[3]

[4]

v т и сэр Исаак Ньютон
Publications	Fluxions (1671) De Motu (1684) Principia (1687) Opticks (1704) Queries (1704) Arithmetica (1707) De Analysi (1711)
Other writings	Quaestiones (1661–1665) "standing on the shoulders of giants" (1675) Notes on the Jewish Temple (c. 1680) "General Scholium" (1713; "hypotheses non fingo" ) Ancient Kingdoms Amended (1728) Corruptions of Scripture (1754)
Contributions	Calculus fluxion Impact depth Inertia Newton disc Newton polygon Newton–Okounkov body Newton's reflector Newtonian telescope Newton scale Newton's metal Spectrum Structural coloration
Newtonianism	Bucket argument Newton's inequalities Newton's law of cooling Newton's law of universal gravitation post-Newtonian expansion parameterized gravitational constant Newton–Cartan theory Schrödinger–Newton equation Newton's laws of motion Kepler's laws Newtonian dynamics Newton's method in optimization Apollonius's problem truncated Newton method Gauss–Newton algorithm Newton's rings Newton's theorem about ovals Newton–Pepys problem Newtonian potential Newtonian fluid Classical mechanics Corpuscular theory of light Leibniz–Newton calculus controversy Newton's notation Rotating spheres Newton's cannonball Newton–Cotes formulas Newton's method generalized Gauss–Newton method Newton fractal Newton's identities Newton polynomial Newton's theorem of revolving orbits Newton–Euler equations Newton number kissing number problem Newton's quotient Parallelogram of force Newton–Puiseux theorem Absolute space and time Luminiferous aether Newtonian series table
Personal life	Woolsthorpe Manor (birthplace) Cranbury Park (home) Early life Later life Apple tree Religious views Occult studies Scientific Revolution Copernican Revolution
Relations	Catherine Barton (niece) John Conduitt (nephew-in-law) Isaac Barrow (professor) William Clarke (mentor) Benjamin Pulleyn (tutor) John Keill (disciple) William Stukeley (friend) William Jones (friend) Abraham de Moivre (friend)
Depictions	Newton by Blake (monotype) Newton by Paolozzi (sculpture) Isaac Newton Gargoyle Astronomers Monument
Namesake	Newton (unit) Newton's cradle Isaac Newton Institute Isaac Newton Medal Isaac Newton Telescope Isaac Newton Group of Telescopes XMM-Newton Sir Isaac Newton Sixth Form Statal Institute of Higher Education Isaac Newton Newton International Fellowship
Categories	Isaac Newton