Парареал
Parareal — это параллельный алгоритм численного анализа , используемый для решения задач начального значения . [1] Он был представлен в 2001 году компаниями Lions , Maday и Turinici. С тех пор он стал одним из наиболее широко изучаемых методов параллельной во времени интеграции. [ нужна ссылка ]

Методы параллельной во времени интеграции
[ редактировать ]В отличие, например, от методов Рунге-Кутты или многоэтапных методов, некоторые вычисления в Parareal могут выполняться параллельно , и поэтому Parareal является одним из примеров метода параллельного во времени интегрирования . Хотя исторически большинство усилий по распараллеливанию численного решения уравнений в частных производных было сосредоточено на пространственной дискретизации, ввиду проблем, связанных с экзафлопсными вычислениями , параллельные методы временной дискретизации были идентифицированы как возможный способ повышения параллелизма в числовом программном обеспечении . [3] Поскольку Parareal вычисляет численное решение для нескольких временных шагов параллельно, оно классифицируется как метод параллельных шагов . [4] В этом отличие от подходов, использующих параллелизм в рамках метода, таких как параллельные методы Рунге-Кутты или экстраполяции, где независимые этапы могут рассчитываться параллельно или параллельно с использованием системных методов, таких как релаксация формы сигнала. [5] [6]
История
[ редактировать ]Парареалистический метод может быть получен либо как многосеточный метод во времени, либо как метод многократной съемки по оси времени. [7] Обе идеи, многосеточные во времени, а также использование множественной съемки для интеграции времени, восходят к 1980-м и 1990-м годам. [8] [9] Парареал — это широко изученный метод, который использовался и модифицировался для множества различных приложений. [10] Идеи распараллеливания решения задач с начальными значениями берут свое начало еще дальше: первая статья, предлагающая метод параллельного во времени интегрирования, появилась в 1964 году. [11]
Алгоритм
[ редактировать ]Проблема
[ редактировать ]Цель состоит в том, чтобы решить задачу начального значения вида
Правая сторона предполагается гладкой (возможно, нелинейной) функцией. Это также может соответствовать пространственной дискретизации уравнения в частных производных в методе прямых . Мы хотим решить эту проблему на временной сетке равноотстоящие точки , где и . Выполняя эту дискретизацию, мы получаем разделенный интервал времени, состоящий из временных интервалов. для .
Цель состоит в том, чтобы рассчитать числовые аппроксимации. к точному решению с использованием метода последовательного временного шага (например, Рунге-Кутты), который имеет высокую числовую точность (и, следовательно, высокую вычислительную стоимость). Мы называем этот метод точным решателем. , который распространяет начальное значение во время до конечной стоимости во время . Цель состоит в том, чтобы вычислить решение (с высокой числовой точностью), используя такой, что мы получаем
Проблема этого решения (и в первую очередь причина попыток параллельного решения) заключается в том, что расчеты в реальном времени невозможно выполнить с вычислительной точки зрения.
Как это работает
[ редактировать ]Вместо использования одного процессора для решения задачи начального значения (как это делается в классических методах временного шага), Parareal использует процессоры. Цель состоит в том, чтобы использовать процессоры для решения меньшие задачи с начальным значением (по одной на каждый временной интервал) параллельно. Например, в коде на основе MPI : будет числом процессов, тогда как в OpenMP коде на основе будет равно количеству потоков .
Parareal использует второй метод временного шага для параллельного решения этой задачи с начальным значением, называемый грубым решателем. .Грубый решатель работает так же, как и точный, распространяя начальное значение на интервал времени длиной , однако он делает это с гораздо меньшей числовой точностью, чем (и, следовательно, с гораздо меньшими вычислительными затратами). Наличие грубого решателя, который требует гораздо меньше вычислительных затрат, чем точный решатель, является ключом к достижению параллельного ускорения с помощью Parareal.
В дальнейшем будем обозначать парареалистическое решение в момент времени и итерация к .
Нулевая итерация
[ редактировать ]Во-первых, запустите грубый решатель последовательно на протяжении всего временного интервала. чтобы вычислить приблизительное начальное предположение решения:
Последующие итерации
[ редактировать ]Затем запустите точный решатель на каждом временном интервале параллельно, исходя из самых последних значений решения:
Теперь обновите значения парареалистического решения последовательно, используя предиктор-корректор:
На этом этапе можно использовать критерий остановки, чтобы определить, не изменяются ли значения решения больше на каждой итерации. Например, можно проверить это, проверив,
и немного терпимости . Если этот критерий не удовлетворяется, последующие итерации могут быть запущены путем параллельного применения точного решателя, а затем предиктора-корректора. Однако если критерий удовлетворен, говорят, что алгоритм сошелся к итерации. Обратите внимание, что существует другой критерий остановки, который был успешно протестирован в Parareal.
Примечания
[ редактировать ]Parareal должен воспроизвести решение, полученное последовательным применением точного решателя, и сходится максимум за итерации. [7] Однако для того, чтобы Parareal мог обеспечить ускорение, он должен сходиться за число итераций, значительно меньшее количества временных интервалов, т.е. .
В парареалистической итерации дорогостоящая в вычислительном отношении оценка могут выполняться параллельно блоки обработки.Напротив, зависимость на означает, что грубая поправка должна рассчитываться в последовательном порядке.
Обычно для грубого и тонкого интегратора выбирается та или иная форма метода Рунге-Кутты, где может иметь более низкий порядок и использовать больший временной шаг, чем .Если проблема начального значения возникает из-за дискретизации УЧП, можно также использовать более грубую пространственную дискретизацию, но это может отрицательно повлиять на сходимость, если не используется интерполяция высокого порядка. [12]
Ускорение
[ редактировать ]простую теоретическую модель ускорения Parareal . При некоторых предположениях можно вывести [13] Хотя в приложениях эти предположения могут быть слишком ограничительными, модель по-прежнему полезна для иллюстрации компромиссов, связанных с получением ускорения с помощью Parareal.
Во-первых, предположим, что каждый временной интервал состоит из ровно шаги тонкого интегратора и шаги грубого интегратора.Это включает в себя, в частности, предположение, что все временные интервалы имеют одинаковую длину и что как грубый, так и точный интегратор используют постоянный размер шага в течение всего моделирования.Во-вторых, обозначим и время вычисления, необходимое для одного шага тонкого и грубого методов соответственно, и предположим, что оба являются постоянными.Обычно это не совсем так, когда используется неявный метод, поскольку тогда время выполнения варьируется в зависимости от количества итераций, требуемых итеративным решателем .
При этих двух предположениях время выполнения тонкого метода интегрирования по временные интервалы могут быть смоделированы как
Среда выполнения Parareal с использованием блоки обработки и выполнения итерации
Ускорение Parareal тогда есть
Эти две границы иллюстрируют компромисс, который необходимо сделать при выборе грубого метода: с одной стороны, он должен быть дешевым и/или использовать гораздо больший временной шаг, чтобы сделать первую оценку максимально большой, с другой передайте количество итераций должен быть низким, чтобы вторая граница оставалась большой.В частности, параллельная эффективность Parareal ограничена
то есть обратное количество требуемых итераций.
Нестабильность мнимых собственных значений
[ редактировать ]В ванильной версии Parareal есть проблемы с мнимыми собственными значениями . [7] Обычно он сходится только к самым последним итерациям, то есть подходы , и ускорение всегда будет меньше единицы. Таким образом, либо число итераций мало и Parareal нестабилен, либо, если достаточно велик, чтобы сделать Parareal стабильным, ускорение невозможно. Это также означает, что парареал обычно неустойчив для гиперболических уравнений. [14] Несмотря на то, что формальный анализ Гандера и Вандевалле охватывает только линейные задачи с постоянными коэффициентами, проблема также возникает, когда Parareal применяется к нелинейным уравнениям Навье – Стокса , когда коэффициент вязкости становится слишком маленьким, а число Рейнольдса слишком большим. [15] Существуют разные подходы к стабилизации Парареала, [16] [17] [18] один из них — Крылов-подпространство, улучшенное Парареал.
Варианты
[ редактировать ]Существует множество алгоритмов, которые напрямую основаны или, по крайней мере, вдохновлены оригинальным алгоритмом Parareal.
Крылов-подпространство, улучшенное Parareal
[ редактировать ]Вначале было признано, что для линейных задач информация, полученная с помощью тонкого метода, можно использовать для повышения точности грубого метода . [17] Первоначально идея была сформулирована для параллельного неявного интегратора времени PITA: [19] метод, тесно связанный с Parareal, но с небольшими отличиями в том, как выполняется коррекция. В каждой итерации результат вычисляется для значений для . На основе этой информации подпространство
определяется и обновляется после каждой итерации Parareal. [20] Обозначим как ортогональная проекция из к . Затем замените грубый метод улучшенным интегратором. .
По мере увеличения количества итераций пространство будет расти и модифицированный пропагатор станет точнее. Это приведет к более быстрому сближению. Эта версия Parareal также может стабильно интегрировать линейные гиперболические уравнения в частных производных. [21] Существует также расширение нелинейных задач, основанное на методе приведенного базиса. [18]
Гибридные парареалистические спектральные отложенные поправки
[ редактировать ]Метод с повышенной параллельной эффективностью, основанный на сочетании Parareal со спектральными отложенными поправками (SDC). [22] был предложен М. Миньоном. [23] Это ограничивает выбор грубого и тонкого интегратора SDC, жертвуя гибкостью ради повышения параллельной эффективности. Вместо предела , граница параллельной эффективности в гибридном методе становится
с количество итераций базового метода последовательного SDC и обычно большее количество итераций параллельного гибридного метода. Гибрид Parareal-SDC был дополнительно улучшен за счет добавления схемы полной аппроксимации , используемой в нелинейных многосеточных системах . Это привело к разработке параллельной схемы полной аппроксимации в пространстве и времени (PFASST). [24] Производительность PFASST была изучена для PEPC, решателя частиц на основе древовидного кода Барнса-Хата , разработанного в Суперкомпьютерном центре Юлиха . Моделирование с использованием всех 262 144 ядер в системе IBM BlueGene /P JUGENE показало, что PFASST может обеспечить дополнительное ускорение помимо насыщения распараллеливания пространственного дерева. [25]
Многосетевое сокращение времени (MGRIT)
[ редактировать ]Метод многосеточного сокращения времени (MGRIT) обобщает интерпретацию Parareal как многосеточного алгоритма во времени на несколько уровней с использованием различных сглаживателей. [26] Это более общий подход, но для конкретного выбора параметров он эквивалентен Parareal. Библиотека XBraid , реализующая MGRIT, разрабатывается Ливерморской национальной лабораторией Лоуренса .
ПараЭксп
[ редактировать ]ParaExp использует экспоненциальные интеграторы в Parareal. [27] Хотя он ограничен линейными задачами, он может обеспечить почти оптимальное параллельное ускорение.
Ссылки
[ редактировать ]- ^ Львы, Жак-Луи; Мадей, Ивон; Туриничи, Габриэль (2015). [ Lions maday «Парареалистическая» во времени дискретизация PDE's]]. Доклады Академии наук, серия I. 332 (7): 661–668. Бибкод : 2001CRASM.332..661L . дои : 10.1016/S0764-4442(00)01793-6 .
{{cite journal}}
: Проверять|url=
ценность ( помощь ) - ^ Пентланд, Кямран; Тамборрино, Массимилиано; Самаддар, Дебасмита; Аппель, Линтон (2022). «Стохастический парареал: применение вероятностных методов к распараллеливанию времени» (PDF) . SIAM Журнал по научным вычислениям . 45 (3): С82–С102. дои : 10.1137/21M1414231 . S2CID 235485544 .
- ^ Джек Донгарра; Джеффри Хиттингер; Джон Белл; Луис Чакон; Роберт Фалгоут; Майкл Геру; Пол Ховланд; Эсмонд Нг; Клейтон Вебстер; Стефан Вильд (март 2014 г.). Прикладные математические исследования для экзафлопсных вычислений (PDF) (Отчет). Министерство энергетики США . Проверено 29 августа 2015 г.
- ^ Беррейдж, Кевин (1997). «Параллельные методы для ОДУ». Достижения в области вычислительной математики . 7 (1–2): 1–31. дои : 10.1023/А:1018997130884 . S2CID 15778447 .
- ^ Изерлес, А.; НЁРСЕТТ, СП (1 октября 1990 г.). «К теории параллельных методов Рунге-Кутты». Журнал IMA численного анализа . 10 (4): 463–488. дои : 10.1093/иманум/10.4.463 . ISSN 0272-4979 .
- ^ Кетчесон, Дэвид; Вахид, Умайр бин (13 июня 2014 г.). «Сравнение явных методов Рунге – Кутты высокого порядка, экстраполяции и отложенных методов коррекции последовательно и параллельно». Коммуникации в прикладной математике и вычислительной технике . 9 (2): 175–200. arXiv : 1305.6165 . дои : 10.2140/camcos.2014.9.175 . ISSN 2157-5452 . S2CID 15242644 .
- ^ Jump up to: а б с Гандер, Мартин Дж.; Вандевалле, Стефан (2007). «Анализ парареального метода интегрирования во времени и параллельном времени». SIAM Журнал по научным вычислениям . 29 (2): 556–578. CiteSeerX 10.1.1.154.6042 . дои : 10.1137/05064607X .
- ^ Хакбуш, Вольфганг (1985). Параболические многосеточные методы . стр. 189–197. ISBN 9780444875976 . Проверено 29 августа 2015 г.
{{cite book}}
:|journal=
игнорируется ( помогите ) - ^ Киль, Мартин (1994). «Параллельная многократная съемка для решения задач начального значения». Параллельные вычисления . 20 (3): 275–295. дои : 10.1016/S0167-8191(06)80013-X .
- ^ Гандер, Мартин Дж. (2015). 50 лет интеграции параллельного времени . Вклад в математические и вычислительные науки. Том. 9 (1-е изд.). Международное издательство Спрингер. дои : 10.1007/978-3-319-23321-5 . ISBN 978-3-319-23321-5 .
- ^ Нивергельт, Юрг (1964). «Параллельные методы интегрирования обыкновенных дифференциальных уравнений» . Коммуникации АКМ . 7 (12): 731–733. дои : 10.1145/355588.365137 . S2CID 6361754 .
- ^ Рупрехт, Дэниел (1 декабря 2014 г.). «Конвергенция Парареализма с пространственным огрублением» (PDF) . Труды по прикладной математике и механике . 14 (1): 1031–1034. дои : 10.1002/pamm.201410490 . ISSN 1617-7061 . S2CID 26356904 .
- ^ Миньон, Майкл Л. (2010). «Гибридный парареалистический спектральный метод отложенных поправок» . Коммуникации в прикладной математике и вычислительной технике . 5 (2): 265–301. дои : 10.2140/camcos.2010.5.265 .
- ^ Персонал, Гуннар Андреас; Ренквист, Эйнар М. (1 января 2005 г.). Барт, Тимоти Дж.; Грибель, Майкл; Киз, Дэвид Э.; Ниеминен, Ристо М.; Руз, Дирк; Шлик, Тамар; Корнхубер, Ральф; Хоппе, Рональд; Перио, Жак (ред.). Устойчивость парареалистического алгоритма . Конспекты лекций по вычислительной технике и технике. Шпрингер Берлин Гейдельберг. стр. 449–456. дои : 10.1007/3-540-26825-1_46 . ISBN 9783540225232 .
- ^ Штайнер, Йоханнес; Рупрехт, Дэниел; Спек, Роберт; Краузе, Рольф (01 января 2015 г.). «Сходимость парареалистических уравнений Навье-Стокса в зависимости от числа Рейнольдса». В Абдулле, Ассир; Депари, Симона; Кресснер, Дэниел; Нобиле, Фабио; Пикассо, Марко (ред.). Численная математика и расширенные приложения — ENUMATH 2013 . Конспекты лекций по вычислительной технике и технике. Том. 103. Международное издательство Спрингер. стр. 195–202. CiteSeerX 10.1.1.764.6242 . дои : 10.1007/978-3-319-10705-9_19 . ISBN 9783319107042 .
- ^ Дай, X.; Мадей, Ю. (1 января 2013 г.). «Устойчивый парареалистический во времени метод для гиперболических систем первого и второго порядка». SIAM Журнал по научным вычислениям . 35 (1): А52–А78. arXiv : 1201.1064 . Бибкод : 2013ГАК...35А..52Д . дои : 10.1137/110861002 . ISSN 1064-8275 . S2CID 32336370 .
- ^ Jump up to: а б Фархат, Шарбель; Кортиаль, Жюльен; Дастиллунг, Климен; Бавестрелло, Анри (30 июля 2006 г.). «Неявные интеграторы, параллельные во времени, для прогнозирования линейных структурных динамических реакций в режиме, близком к реальному времени». Международный журнал численных методов в технике . 67 (5): 697–724. Бибкод : 2006IJNME..67..697F . дои : 10.1002/nme.1653 . ISSN 1097-0207 . S2CID 121254646 .
- ^ Jump up to: а б Чен, Фэн; Хестхавен, Ян С.; Чжу, Сюэю (01 января 2014 г.). «Об использовании методов приведенного базиса для ускорения и стабилизации парареалистического метода». В Квартерони, Альфио ; Роцца, Джанлуиджи (ред.). Методы пониженного порядка для моделирования и сокращения вычислений . MS&A - Моделирование, симуляция и приложения. Международное издательство Спрингер. стр. 187–214. дои : 10.1007/978-3-319-02090-7_7 . ISBN 9783319020891 .
- ^ Фархат, Шарбель; Чандесрис, Мэрион (7 ноября 2003 г.). «Параллельные интеграторы времени с разложением по времени: теория и технико-экономические обоснования для приложений жидкости, структуры и жидкости-структуры». Международный журнал численных методов в технике . 58 (9): 1397–1434. Бибкод : 2003IJNME..58.1397F . дои : 10.1002/nme.860 . ISSN 1097-0207 . S2CID 61667246 .
- ^ Гандер, М.; Петку, М. (2008). «Анализ парареалистического алгоритма, расширенного подпространством Крылова, для линейных задач» . ЕСАИМ: Труды . 25 : 114–129. дои : 10.1051/проц:082508 .
- ^ Рупрехт, Д.; Краузе, Р. (30 апреля 2012 г.). «Явная параллельная во времени интеграция линейной акустико-адвекционной системы». Компьютеры и жидкости . 59 : 72–83. arXiv : 1510.02237 . doi : 10.1016/j.compfluid.2012.02.015 . S2CID 15703896 .
- ^ Датт, Алок; Грингард, Лесли; Рохлин, Владимир (01.06.2000). «Спектральные методы отложенной коррекции обыкновенных дифференциальных уравнений». БИТ Численная математика . 40 (2): 241–266. дои : 10.1023/А:1022338906936 . ISSN 0006-3835 . S2CID 43449672 .
- ^ Миньон, Майкл (5 января 2011 г.). «Гибридный парареалистический метод спектральных отложенных коррекций» . Коммуникации в прикладной математике и вычислительной технике . 5 (2): 265–301. дои : 10.2140/camcos.2010.5.265 . ISSN 2157-5452 .
- ^ Эммет, Мэтью; Миньон, Майкл (28 марта 2012 г.). «На пути к эффективному методу параллелей во времени для уравнений в частных производных» . Коммуникации в прикладной математике и вычислительной технике . 7 (1): 105–132. дои : 10.2140/camcos.2012.7.105 . ISSN 2157-5452 .
- ^ Спек, Р.; Рупрехт, Д.; Краузе, Р.; Эммет, М.; Миньон, М.; Винкель, М.; Гиббон, П. (1 ноября 2012 г.). «Массовый параллельный решатель N-тел в пространстве и времени». 2012 Международная конференция по высокопроизводительным вычислениям, сетям, хранению и анализу . стр. 1–11. дои : 10.1109/SC.2012.6 . ISBN 978-1-4673-0805-2 . S2CID 1620219 .
- ^ Фалгоут, Р.; Фридхофф, С.; Колев Т.; Маклахлан, С.; Шредер, Дж. (1 января 2014 г.). «Параллельная временная интеграция с Multigrid». SIAM Журнал по научным вычислениям . 36 (6): C635–C661. Бибкод : 2014SJSC...36C.635F . CiteSeerX 10.1.1.701.2603 . дои : 10.1137/130944230 . ISSN 1064-8275 .
- ^ Гандер, М.; Гюттель, С. (1 января 2013 г.). «PARAEXP: параллельный интегратор для линейных задач начального значения». SIAM Журнал по научным вычислениям . 35 (2): C123–C142. Бибкод : 2013ГАК...35С.123Г . CiteSeerX 10.1.1.800.5938 . дои : 10.1137/110856137 . ISSN 1064-8275 .