OpenMP

Не путать с Open MPI .

OpenMP

Оригинальный автор(ы)	Совет по обзору архитектуры OpenMP
Разработчики)	Совет по обзору архитектуры OpenMP
Стабильная версия	5.2 / ноябрь 2021 г ( 2021-11 )
Операционная система	Кросс-платформенный
Платформа	Кросс-платформенный
Тип	Расширение для C , C++ и Fortran ; API
Лицензия	Различный
Веб-сайт	опенмп .org

OpenMP ( Open Multi-Processing ) — это интерфейс прикладного программирования (API), который поддерживает многоплатформенное программирование с общей памятью многопроцессорное на C , C++ и Fortran . на многих платформах, архитектурах набора команд и операционных системах , включая Solaris , AIX , FreeBSD , HP-UX , Linux , macOS и Windows . Он состоит из набора директив компилятора , библиотечных подпрограмм и переменных среды , которые влияют на поведение во время выполнения.

OpenMP управляется некоммерческим технологическим консорциумом OpenMP Architecture Review Board (или OpenMP ARB ), совместно определяемым широким кругом ведущих поставщиков компьютерного оборудования и программного обеспечения, включая Arm , AMD , IBM , Intel , Cray , HP , Fujitsu , Nvidia , NEC. , Red Hat , Texas Instruments и Oracle Corporation .

OpenMP использует портативную масштабируемую модель, которая предоставляет программистам простой и гибкий интерфейс для разработки параллельных приложений для платформ, начиная от стандартного настольного компьютера и заканчивая суперкомпьютером .

Приложение, созданное с использованием гибридной модели параллельного программирования, может работать в компьютерном кластере с использованием как OpenMP, так и интерфейса передачи сообщений (MPI), так что OpenMP используется для параллелизма внутри (многоядерного) узла, а MPI используется для параллелизма между узлами. . Также предпринимались попытки запустить OpenMP в с программно-распределенной общей памятью . системах перевести OpenMP в MPI и расширить OpenMP для систем с неразделяемой памятью.

Дизайн

Иллюстрация многопоточности , когда основной поток разделяет несколько потоков, которые параллельно выполняют блоки кода.

См. также: Модель разветвления – соединения.

OpenMP — это реализация многопоточности , метода распараллеливания, при котором основной поток (серия инструкций, выполняемых последовательно) разделяет заданное количество подпотоков , и система разделяет задачу между ними. Затем потоки выполняются одновременно , при этом среда выполнения распределяет потоки по разным процессорам.

Раздел кода, предназначенный для параллельного выполнения, помечается соответствующим образом директивой компилятора, которая вызывает формирование потоков до выполнения раздела. К каждому потоку прикреплен идентификатор , который можно получить с помощью функции (называемой omp_get_thread_num()). Идентификатор потока — целое число, а идентификатор основного потока равен 0 . После выполнения распараллеленного кода потоки снова объединяются в основной поток, который продолжается до конца программы.

По умолчанию каждый поток выполняет распараллеленный участок кода независимо. Конструкции разделения работы можно использовать для разделения задачи между потоками, чтобы каждый поток выполнял выделенную ему часть кода. как параллелизма задач , так и параллелизма данных Таким образом, с помощью OpenMP можно достичь .

Среда выполнения распределяет потоки по процессорам в зависимости от использования, загрузки компьютера и других факторов. Среда выполнения может назначать количество потоков на основе переменных среды , или код может делать это с помощью функций. Функции OpenMP включены в заголовочный файл , помеченный как omp.h на C / C++ .

История

Совет по обзору архитектуры OpenMP (ARB) опубликовал свои первые спецификации API, OpenMP для Fortran 1.0, в октябре 1997 года. В октябре следующего года они выпустили стандарт C/C++. В 2000 году была выпущена версия 2.0 спецификаций Fortran, а версия 2.0 спецификаций C/C++ была выпущена в 2002 году. Версия 2.5 представляет собой объединенную спецификацию C/C++/Fortran, выпущенную в 2005 году.

До версии 2.0 OpenMP в первую очередь определял способы распараллеливания очень регулярных циклов, как это происходит в матрично-ориентированном численном программировании , где количество итераций цикла известно во время входа. Это было признано ограничением, и в реализации были добавлены различные расширения параллельного выполнения задач. В 2005 году была сформирована группа по стандартизации параллелизма задач, которая опубликовала предложение в 2007 году, черпая вдохновение из функций параллелизма задач в Cilk , X10 и Chapel .

Версия 3.0 была выпущена в мае 2008 года. К новым функциям версии 3.0 относятся концепция задач и конструкция задачи . значительное расширение области применения OpenMP за пределы конструкций параллельного цикла, которые составляли большую часть OpenMP 2.0.

Версия 4.0 спецификации была выпущена в июле 2013 года. Он добавляет или улучшает следующие функции: поддержка ускорителей ; атомика ; обработка ошибок; сходство потоков ; расширения задач; определяемое пользователем сокращение ; поддержка SIMD ; Поддержка Фортрана 2003 .

Текущая версия — 5.2, выпущенная в ноябре 2021 года.

Версия 6.0 должна выйти в 2024 году.

Обратите внимание, что не все компиляторы (и операционные системы) поддерживают полный набор функций последних версий.

Основные элементы

Диаграмма конструкций OpenMP

Основными элементами OpenMP являются конструкции для создания потоков, распределения рабочей нагрузки (совместного использования работы), управления средой данных, синхронизации потоков, процедур выполнения на уровне пользователя и переменных среды.

В C/C++ OpenMP использует #pragmas . Специальные прагмы OpenMP перечислены ниже.

Создание темы

Прагма omp Parallel используется для создания дополнительных потоков для параллельного выполнения работы, заключенной в конструкции. Исходный поток будет обозначен как главный поток с идентификатором потока 0.

Пример (программа C): Отображение «Hello, world». использование нескольких потоков.

#include   <stdio.h> 
 #include   <omp.h> 

 int   main  (  void  ) 
 { 
     #pragma ompпараллельный 
     printf  (  "Hello, world.  \n  "  ); 
      вернуть   0  ; 
  } 

Используйте флаг -fopenmp для компиляции с использованием GCC:

$   gcc   -fopenmp   hello.c   -o   привет   -ldl
 

Вывод на компьютере с двумя ядрами и, следовательно, двумя потоками:

Привет,   мир. 
  Привет,   мир. 
 

Однако вывод также может быть искажен из-за состояния гонки , вызванного тем, что два потока совместно используют стандартный вывод .

Привет,   привет,   мир. 
  рлд. 
 

Ли printf является атомарным, зависит от базовой реализации в отличие от C++11 std::cout, который по умолчанию является потокобезопасным.

работы

Используется для указания того, как назначить независимую работу одному или всем потокам.

• omp for или omp do : используется для разделения итераций цикла между потоками, также называемых конструкциями цикла.
• разделы : назначение последовательных, но независимых блоков кода разным потокам.
• single : указание блока кода, который выполняется только одним потоком, в конце подразумевается барьер
• master : аналогично синглу, но блок кода будет выполняться только главным потоком, и в конце не будет подразумеваться никакого барьера.

Пример: инициализировать значение большого массива параллельно, используя каждый поток для выполнения части работы.

int   main  (  int   argc  ,   char   **  argv  ) 
 { 
     int   a  [  100000  ]; 

      #pragma omp Parallel for 
     for   (  int   i   =   0  ;   i   <   100000  ;   я  ++  )   { 
         a  [  i  ]   =   2   *   i  ; 
      } 

     вернуть   0  ; 
  } 

Этот пример поразительно параллелен и зависит только от значения я . OpenMP Parallel for flag сообщает системе OpenMP разделить эту задачу между ее рабочими потоками. Каждый поток получит уникальную и закрытую версию переменной. Например, при наличии двух рабочих потоков одному потоку может быть передана версия i , который работает от 0 до 49999, а второй получает версию от 50000 до 99999.

Варианты директив

Вариантные директивы — одна из основных функций, представленных в спецификации OpenMP 5.0, призванная помочь программистам улучшить переносимость производительности. Они позволяют адаптировать прагмы OpenMP и пользовательский код во время компиляции. Спецификация определяет признаки для описания активных конструкций OpenMP, исполнительных устройств и функций, предоставляемых реализацией, селекторы контекста на основе признаков и определяемых пользователем условий, а также метадирективы и директивы объявления, позволяющие пользователям программировать одну и ту же область кода с вариантными директивами.

• Метадиректива — это исполняемая директива, которая условно преобразуется в другую директиву во время компиляции путем выбора из нескольких вариантов директивы на основе характеристик , определяющих условие или контекст OpenMP.
• Директива объявления варианта имеет те же функции, что и метадиректива, но выбирает вариант функции на месте вызова на основе контекста или определяемых пользователем условий.

Механизм, предоставляемый двумя вариантными директивами для выбора вариантов, более удобен в использовании, чем предварительная обработка C/C++, поскольку он напрямую поддерживает выбор варианта в OpenMP и позволяет компилятору OpenMP анализировать и определять окончательную директиву на основе вариантов и контекста.

// адаптация кода с помощью директив предварительной обработки 

 int   v1  [  N  ],   v2  [  N  ],   v3  [  N  ]; 
  #if define(nvptx) 
  #pragma omp целевые команды распределяют параллельно для map(to:v1,v2) map(from:v3) 
   for   (  int   i  =   0  ;   i  <   N  ;   i  ++  )  
      v3  [  i  ]   =   v1  [  я  ]   *   v2  [  я  ]; 
  #else 
  #pragma omp target Parallel for map(to:v1,v2) map(from:v3) 
   for   (  int   i  =   0  ;   i  <   N  ;   i  ++  )  
      v3  [  i  ]   =   v1  [  i  ]   *   v2  [  i  ]; 
  #endif 

 // адаптация кода с использованием метадирективы в OpenMP 5.0 

 int   v1  [  N  ],   v2  [  N  ],   v3  [  N  ]; 
  #pragma omp target map(to:v1,v2) map(from:v3) 
   #pragma omp метадиректива \ 
 When(device={arch(nvptx)}: целевые группы распределяют параллельно для)\ 
 default(target Parallel for) 
   for   (  int   я  =   0  ;   я  <   N  ;   я  ++  )  
      v3  [  я  ]   =   v1  [  я  ]   *   v2  [  я  ]; 

Пункты

Поскольку OpenMP — это модель программирования с общей памятью, большинство переменных в коде OpenMP по умолчанию видны всем потокам. Но иногда частные переменные необходимы, чтобы избежать условий гонки , и возникает необходимость передавать значения между последовательной частью и параллельной областью (блоком кода, выполняемым параллельно), поэтому управление средой данных вводится в виде предложений атрибутов совместного использования данных путем добавления их к директива OpenMP. Различаются следующие виды оговорок:

Предложения атрибутов совместного использования данных

• общий : данные, объявленные за пределами параллельного региона, являются общими, что означает, что они видимы и доступны всем потокам одновременно. По умолчанию все переменные в области совместного использования работы являются общими, за исключением счетчика итераций цикла.
• Private : данные, объявленные в параллельном регионе, являются частными для каждого потока, что означает, что каждый поток будет иметь локальную копию и использовать ее в качестве временной переменной. Частная переменная не инициализируется, и ее значение не сохраняется для использования за пределами параллельного региона. По умолчанию счетчики итераций цикла в конструкциях цикла OpenMP являются частными.
• default : позволяет программисту указать, что область данных по умолчанию в параллельном регионе будет либо общей , либо никакой для C/C++, либо общей , firstprivate , частной или никакой для Фортрана. Опция none заставляет программиста объявлять каждую переменную в параллельной области, используя предложения атрибутов совместного использования данных.
• firstprivate : аналогично частному, за исключением того, что инициализируется исходным значением.
• Lastprivate : аналогично частному, за исключением того, что исходное значение обновляется после создания.
• сокращение : безопасный способ объединения работы всех потоков после построения.

Положения о синхронизации

• критично : вложенный блок кода будет выполняться только одним потоком за раз, а не одновременно несколькими потоками. Он часто используется для защиты общих данных от условий гонки .
• атомарный : обновление памяти (запись или чтение-изменение-запись) в следующей инструкции будет выполняться атомарно. Это не делает все утверждение атомарным; только обновление памяти является атомарным. Компилятор может использовать специальные аппаратные инструкции для повышения производительности, чем при использовании критического .
• упорядоченный : структурированный блок выполняется в том порядке, в котором итерации будут выполняться в последовательном цикле.
• барьер : каждый поток ждет, пока все остальные потоки команды не достигнут этой точки. В конце конструкции разделения работы имеется неявная барьерная синхронизация.
• nowait : указывает, что потоки, выполняющие назначенную работу, могут продолжить работу, не дожидаясь завершения всех потоков в команде. В отсутствие этого пункта потоки сталкиваются с барьерной синхронизацией в конце конструкции разделения работы.

Положения о расписании

• расписание (тип, фрагмент) : это полезно, если конструкция разделения работы представляет собой цикл do или for. Итерации в конструкции разделения работы назначаются потокам в соответствии с методом планирования, определенным в этом разделе. Три типа планирования:
  1. static : здесь всем потокам выделяются итерации, прежде чем они выполнят итерации цикла. По умолчанию итерации распределяются между потоками поровну. параметра Однако указание целого числа для фрагмента приведет к выделению количества последовательных итераций фрагмента для конкретного потока.
  2. динамический : здесь некоторые итерации распределяются по меньшему количеству потоков. Как только конкретный поток завершает выделенную ему итерацию, он возвращается, чтобы получить еще одну из оставшихся итераций. параметра Чанк определяет количество последовательных итераций, выделяемых потоку одновременно.
  3. направляемый : большой кусок последовательных итераций распределяется для каждого потока динамически (как указано выше). Размер чанка уменьшается экспоненциально с каждым последующим распределением до минимального размера, указанного в параметре chunk.

ЕСЛИ контроль

• if : это приведет к тому, что потоки будут распараллеливать задачу только в том случае, если условие выполнено. В противном случае блок кода выполняется последовательно.

Инициализация

• firstprivate : данные являются частными для каждого потока, но инициализируются с использованием значения переменной с тем же именем из главного потока.
• Lastprivate : данные являются частными для каждого потока. Значение этих личных данных будет скопировано в глобальную переменную с тем же именем за пределами параллельного региона, если текущая итерация является последней итерацией в распараллеленном цикле. Переменная может быть как firstprivate , так иlastprivate .
• threadprivate : данные являются глобальными, но они являются частными в каждом параллельном регионе во время выполнения. Разница между threadprivate и Private заключается в глобальной области видимости, связанной с threadprivate, и сохраняемом значении в параллельных регионах.

Копирование данных

• copyin : аналогично firstprivate для частных переменных, переменные threadprivate не инициализируются, если только не используется copyin для передачи значения из соответствующих глобальных переменных. не Копирование требуется, поскольку значение переменной threadprivate сохраняется на протяжении всего выполнения всей программы.
• copyprivate : используется с single для поддержки копирования значений данных из частных объектов в одном потоке ( одиночном потоке) в соответствующие объекты в других потоках в команде.

Снижение

• сокращение (оператор | встроенный: список) : переменная имеет локальную копию в каждом потоке, но значения локальных копий будут суммироваться (уменьшаться) в глобальную общую переменную. Это очень полезно, если конкретная операция (указанная в операторе для этого конкретного предложения) над переменной выполняется итеративно, так что ее значение на конкретной итерации зависит от ее значения на предыдущей итерации. Шаги, ведущие к операционному приращению, распараллеливаются, но потоки обновляют глобальную переменную потокобезопасным способом. Это потребуется при распараллеливании численного интегрирования функций и дифференциальных уравнений , как общий пример.

Другие

• flash : значение этой переменной восстанавливается из регистра в память для использования этого значения вне параллельной части.
• master : выполняется только главным потоком (поток, который отделил все остальные во время выполнения директивы OpenMP). Нет неявного барьера; другие члены команды (потоки) не обязаны добираться.

Подпрограммы выполнения пользовательского уровня

Используется для изменения/проверки количества потоков, определения того, находится ли контекст выполнения в параллельной области, количества процессоров в текущей системе, установки/снятия блокировок, функций синхронизации и т. д.

Переменные среды

Метод изменения функций выполнения приложений OpenMP. Используется для управления планированием итераций цикла, количеством потоков по умолчанию и т. д. Например, OMP_NUM_THREADS используется для указания количества потоков для приложения.

Реализации

OpenMP реализован во многих коммерческих компиляторах. Например, его поддерживают Visual C++ 2005, 2008, 2010, 2012 и 2013 (OpenMP 2.0 в редакциях Professional, Team System, Premium и Ultimate). ), а также Intel Parallel Studio для различных процессоров. Компиляторы и инструменты Oracle Solaris Studio поддерживают новейшие спецификации OpenMP с повышением производительности для ОС Solaris (UltraSPARC и x86/x64) и платформ Linux. Компиляторы Fortran, C и C++ от The Portland Group также поддерживают OpenMP 2.5. GCC также поддерживает OpenMP, начиная с версии 4.2.

Компиляторы с реализацией OpenMP 3.0:

• GCC 4.3.1
• Меркурий будет составлен
• Компиляторы Intel Fortran и C/C++ версий 11.0 и 11.1, Intel C/C++ и Fortran Composer XE 2011 и Intel Parallel Studio.
• компилятор IBM XL
• Обновление 1 Sun Studio 12 содержит полную реализацию OpenMP 3.0.
• Многопроцессорные вычисления

Несколько компиляторов поддерживают OpenMP 3.1:

• ССЗ 4.7
• Компиляторы Intel Fortran и C/C++ 12.1
• Компиляторы IBM XL C/C++ для AIX и Linux, V13.1 и компиляторы IBM XL Fortran для AIX и Linux, V14.1
• LLVM/Клан 3.7
• Компиляторы Absoft Fortran v. 19 для Windows, Mac OS X и Linux

Компиляторы, поддерживающие OpenMP 4.0:

• GCC 4.9.0 для C/C++, GCC 4.9.1 для Fortran
• Компиляторы Intel Fortran и C/C++ 15.0
• IBM XL C/C++ для Linux, V13.1 (частичная) & XL Fortran для Linux, V15.1 (частично)
• LLVM/Clang 3.7 (частичный)

Несколько компиляторов, поддерживающих OpenMP 4.5:

• GCC 6 для C/C++
• Компиляторы Intel Fortran и C/C++ 17.0, 18.0, 19.0
• ЛЛВМ/Клан 12

Частичная поддержка OpenMP 5.0:

• GCC 9 для C/C++
• Компиляторы Intel Fortran и C/C++ 19.1
• ЛЛВМ/Клан 12

Автоматически распараллеливающие компиляторы, генерирующие исходный код, аннотированный директивами OpenMP:

• iPat/OMP
• Параллельное ПО
• ПЛУТОН
• ROSE (фреймворк компилятора)
• S2P от КПИТ Cummins Infosystems Ltd.
• КомПар
• ПрагБывший

Некоторые профилировщики и отладчики явно поддерживают OpenMP:

• Intel VTune Profiler — профилировщик для процессоров x86 и X ^Это Архитектуры графических процессоров
• Intel Advisor — инструмент для помощи в проектировании и анализа кодов OpenMP и MPI.
• Allinea Distributed Debugging Tool (DDT) – отладчик для кодов OpenMP и MPI.
• Allinea MAP – профилировщик кодов OpenMP и MPI
• TotalView — отладчик от Rogue Wave Software для OpenMP, MPI и последовательных кодов
• ompP – профили для OpenMP
• VAMPIR — профилировщик кода OpenMP и MPI.

Плюсы и минусы

Плюсы:

• Переносимый многопоточный код (в C/C++ и других языках обычно приходится вызывать примитивы, специфичные для платформы, чтобы обеспечить многопоточность).
• Просто: не нужно заниматься передачей сообщений, как это делает MPI .
• Размещение и декомпозиция данных выполняются автоматически с помощью директив.
• Масштабируемость, сравнимая с MPI в системах с общей памятью.
• Инкрементный параллелизм: может работать над одной частью программы одновременно, никаких кардинальных изменений в коде не требуется.
• Унифицированный код как для последовательных, так и для параллельных приложений: конструкции OpenMP рассматриваются как комментарии при использовании последовательных компиляторов.
• Исходные (последовательные) операторы кода, как правило, не требуют изменения при распараллеливании с OpenMP. Это снижает вероятность непреднамеренного появления ошибок.
• как крупнозернистый , так и мелкозернистый параллелизм. Возможен
• В нерегулярных мультифизических приложениях, которые не придерживаются исключительно режима вычислений SPMD , как это происходит в тесно связанных системах жидкость-частица, гибкость OpenMP может иметь большое преимущество в производительности по сравнению с MPI .
• Может использоваться на различных ускорителях, таких как GPGPU. и ПЛИС .

Минусы:

• Риск появления сложных для отладки ошибок синхронизации и состояний гонки .
• По состоянию на 2017 год эффективно работает только на многопроцессорных платформах с общей памятью (однако см. Intel Cluster OpenMP, заархивированный 16 ноября 2018 г. на Wayback Machine и других платформах с распределенной общей памятью ).
• Требуется компилятор, поддерживающий OpenMP.
• Масштабируемость ограничена архитектурой памяти.
• Нет поддержки сравнения и замены .
• Надежная обработка ошибок отсутствует.
• Не хватает детальных механизмов для управления сопоставлением потоков и процессоров.
• Высокая вероятность случайного написания ложного кода обмена.

Ожидаемые результаты

Можно было бы ожидать в N раз ускорения при запуске программы, распараллеленной с использованием OpenMP, на платформе N процессора. Однако это происходит редко по следующим причинам:

• Если существует зависимость, процесс должен ждать, пока не будут вычислены данные, от которых он зависит.
• Когда несколько процессов совместно используют непараллельный проверочный ресурс (например, файл для записи), их запросы выполняются последовательно. Следовательно, каждый поток должен ждать, пока другой поток не освободит ресурс.
• Большая часть программы не может быть распараллелена OpenMP, а это означает, что теоретический верхний предел ускорения ограничен законом Амдала .
• N процессоров в симметричной многопроцессорной обработке (SMP) могут иметь в N раз большую вычислительную мощность, но пропускная способность памяти обычно не увеличивается в N раз. Довольно часто исходный путь к памяти используется несколькими процессорами, и может наблюдаться снижение производительности, когда они конкурируют за полосу пропускания общей памяти.
• Многие другие распространенные проблемы, влияющие на окончательное ускорение параллельных вычислений, также применимы к OpenMP, например, балансировка нагрузки и накладные расходы на синхронизацию.
• Оптимизация компилятора может быть не столь эффективной при вызове OpenMP. Обычно это может привести к тому, что однопоточная программа OpenMP будет работать медленнее, чем тот же код, скомпилированный без флага OpenMP (который будет полностью последовательным).

Сходство темы

Некоторые поставщики рекомендуют устанавливать привязку к процессору для потоков OpenMP, чтобы связать их с определенными ядрами процессора. Это сводит к минимуму затраты на миграцию потоков и переключение контекста между ядрами. Это также улучшает локальность данных и уменьшает трафик согласованности кэша между ядрами (или процессорами).

Тесты

Для демонстрации использования OpenMP, проверки его производительности и оценки правильности было разработано множество тестов.

Простые примеры

• OmpSCR: репозиторий исходного кода OpenMP

Тесты производительности включают в себя:

• Параллельный тест NAS
• Barcelona OpenMP Task Suite — набор приложений, позволяющих тестировать реализации задач OpenMP.
• Серия СПЕЦ
  • СПЕЦ ОМП 2012
  • Набор тестов SPEC ACCEL тестирует API целевой разгрузки OpenMP 4
  • Тест SPEChpc 2002.
• КОРАЛОВЫЕ эталоны
• Экзафлопсные прокси-приложения
• Родиния сосредоточилась на ускорителях.
• Пакет тестов на основе проблем

К критериям правильности относятся:

• Пакет проверки OpenMP
• Набор тестов для проверки и проверки OpenMP
• DataRaceBench — это набор тестов, предназначенный для систематической и количественной оценки эффективности инструментов обнаружения гонок данных OpenMP.
• AutoParBench — это набор тестов для оценки компиляторов и инструментов, которые могут автоматически вставлять директивы OpenMP.

См. также

• Параллелизм (информатика)
• Гетерогенная системная архитектура
• Модель параллельного программирования
• POSIX-потоки
• Унифицированный параллельный C
• Массовая синхронная параллель
• Разделенное глобальное адресное пространство
• ПоследовательностьL

Дальнейшее чтение

• Куинн Майкл Дж. Параллельное программирование на C с помощью MPI и OpenMP McGraw-Hill Inc. 2004. ISBN   0-07-058201-7
• Р. Чандра, Р. Менон, Л. Дагум, Д. Кор, Д. Мэйдан, Дж. Макдональд, Параллельное программирование в OpenMP. Морган Кауфманн, 2000. ISBN   1-55860-671-8
• Р. Эйгенманн (редактор), М. Восс (редактор), Параллельное программирование с общей памятью OpenMP: Международный семинар по приложениям и инструментам OpenMP, WOMPAT 2001, Вест-Лафайет, Индиана, США, 30–31 июля 2001 г. (Конспекты лекций на компьютере). Наука). Спрингер 2001. ISBN   3-540-42346-X
• Б. Чепмен, Г. Йост, Р. ван дер Пас, DJ Kuck (предисловие), Использование OpenMP: параллельное программирование с портативной общей памятью. MIT Press (31 октября 2007 г.). ISBN   0-262-53302-2
• Том Дикин и Тимоти Дж. Мэттсон: Программирование графического процессора с помощью OpenMP: переносимость производительности графических процессоров , MIT Press, ISBN 978-0-262547536 (7 ноября 2023 г.).
• Параллельная обработка через MPI и OpenMP, М. Фирузиан, О. Номменсен. Линукс Энтерпрайз, 10/2002
• Статья журнала MSDN об OpenMP
• Учебное пособие по SC08 OpenMP , заархивированное 19 марта 2013 г. на Wayback Machine (PDF) — практическое введение в OpenMP, Mattson и Meadows, от SC08 (Остин)
• Спецификации OpenMP , заархивированные 2 марта 2021 г. на Wayback Machine.
• Мигель Херманс: Параллельное программирование на Фортране 95 с использованием OpenMP (19 апреля 2002 г.) (PDF) (OpenMP версии 1 и 2)

Внешние ссылки

• Официальный веб-сайт