Вычисления общего назначения на графических процессорах

Вычисления общего назначения на графических процессорах ( GPGPU или реже GPGP ) — это использование графического процессора (GPU), который обычно обрабатывает вычисления только для компьютерной графики , для выполнения вычислений в приложениях, традиционно обрабатываемых центральным процессором ( ПРОЦЕССОР). Использование нескольких видеокарт в одном компьютере или большого количества графических чипов еще больше усугубляет и без того параллельную природу обработки графики.

GPGPU По сути, конвейер — это своего рода параллельная обработка между одним или несколькими графическими процессорами и процессорами, которая анализирует данные, как если бы они были в изображении или другой графической форме. Хотя графические процессоры работают на более низких частотах, они обычно имеют во много раз больше ядер . Таким образом, графические процессоры могут обрабатывать гораздо больше изображений и графических данных в секунду, чем традиционные процессоры. Перенос данных в графическую форму, а затем использование графического процессора для их сканирования и анализа может значительно ускорить работу .

Конвейеры GPGPU были разработаны в начале 21 века для обработки графики (например, для улучшения шейдеров ). Было обнаружено, что эти конвейеры хорошо соответствуют потребностям научных вычислений , и с тех пор они развивались в этом направлении.

История

В принципе, любая произвольная булева функция , включая сложение, умножение и другие математические функции, может быть построена из функционально полного набора логических операторов. В 1987 году «Игра жизни» Конвея стала одним из первых примеров вычислений общего назначения, в которых использовался ранний потоковый процессор , называемый блиттером, для вызова специальной последовательности логических операций над битовыми векторами.

Вычисления общего назначения на графических процессорах стали более практичными и популярными примерно после 2001 года, с появлением программируемых шейдеров и поддержки операций с плавающей запятой на графических процессорах. Примечательно, что задачи, связанные с матрицами и/или векторами – особенно с двух-, трех- или четырехмерными векторами – было легко перенести на графический процессор, который работает с исходной скоростью и поддерживает эти типы. Значимой вехой для GPGPU стал 2003 год, когда две исследовательские группы независимо друг от друга обнаружили подходы на основе графических процессоров для решения общих задач линейной алгебры на графических процессорах, которые работали быстрее, чем на центральных процессорах. Эти ранние попытки использовать графические процессоры в качестве процессоров общего назначения требовали переформулирования вычислительных задач с точки зрения графических примитивов, поддерживаемых двумя основными API для графических процессоров: OpenGL и DirectX . Этот громоздкий перевод был устранен с появлением языков программирования общего назначения и API, таких как Sh / RapidMind , Brook и Accelerator.

За ними последовала технология CUDA от Nvidia , которая позволяла программистам игнорировать основные графические концепции в пользу более распространенных концепций высокопроизводительных вычислений . К новым, независимым от производителя оборудования предложениям относятся DirectCompute от Apple/Khronos Group от Microsoft и OpenCL . Это означает, что современные конвейеры GPGPU могут использовать скорость графического процессора, не требуя полного и явного преобразования данных в графическую форму.

Марк Харрис, основатель GPGPU.org, ввёл термин GPGPU .

Реализации

Любой язык, который позволяет коду, работающему на ЦП, опрашивать шейдер графического процессора на предмет возвращаемых значений, может создать структуру GPGPU. Стандарты программирования для параллельных вычислений включают OpenCL (независимый от производителя), OpenACC , OpenMP и OpenHMPP .

По состоянию на 2016 год OpenCL — это доминирующий открытый язык вычислений на графических процессорах общего назначения, а также открытый стандарт, определенный Khronos Group . OpenCL предоставляет кросс-платформенную платформу GPGPU, которая дополнительно поддерживает параллельные вычисления данных на процессорах. OpenCL активно поддерживается на платформах Intel, AMD, Nvidia и ARM. Группа Khronos также стандартизировала и внедрила SYCL , модель программирования более высокого уровня для OpenCL как встраиваемого языка с единым исходным кодом, ориентированного на конкретную предметную область, на основе чистого C++11.

Доминирующей проприетарной платформой является Nvidia CUDA . В 2006 году Nvidia выпустила CUDA, комплект разработки программного обеспечения (SDK) и интерфейс программирования приложений (API), который позволяет использовать язык программирования C для кодирования алгоритмов для выполнения на графических процессорах серии GeForce 8 и более поздних версий.

ROCm , выпущенный в 2016 году, представляет собой ответ AMD на CUDA с открытым исходным кодом. По состоянию на 2022 год он находится на одном уровне с CUDA в отношении функций, но все еще не имеет поддержки потребителей.

OpenVIDIA была разработана в Университете Торонто в период с 2003 по 2005 год. в сотрудничестве с NVIDIA.

Altimesh Hybridizer, созданный Altimesh, компилирует Common Intermediate Language в двоичные файлы CUDA. Он поддерживает дженерики и виртуальные функции. Отладка и профилирование интегрированы с Visual Studio и Nsight. Он доступен как расширение Visual Studio на Visual Studio Marketplace.

Microsoft представила API вычислений DirectCompute на графическом процессоре, выпущенный вместе с API DirectX 11 .

Этот графический процессор , создано QuantAlea, представляет собственные вычислительные возможности графического процессора для языков Microsoft .NET F#. и С# . Alea GPU также предоставляет упрощенную модель программирования графического процессора, основанную на параллельном и параллельном агрегировании графического процессора с использованием делегатов и автоматического управления памятью.

MATLAB поддерживает ускорение GPGPU с использованием Parallel Computing Toolbox и MATLAB Distributed Computing Server . и сторонние пакеты, такие как Jacket .

Обработка GPGPU также используется для моделирования физики Ньютона с помощью физических движков . а коммерческие реализации включают Havok Physics, FX и PhysX , которые обычно используются для компьютерных и видеоигр .

C++ Accelerated Massive Parallelism ( C++ AMP ) — это библиотека, которая ускоряет выполнение кода C++ за счет использования аппаратного обеспечения параллельного обмена данными на графических процессорах.

Мобильные компьютеры

В связи с тенденцией увеличения мощности мобильных графических процессоров программирование общего назначения стало доступно также на мобильных устройствах под управлением основных мобильных операционных систем .

Google Android 4.2 позволил запускать код RenderScript на графическом процессоре мобильного устройства. Apple представила собственный Metal API для приложений iOS , способный выполнять произвольный код с помощью вычислительных шейдеров графического процессора Apple.

Аппаратная поддержка

Компьютерные видеокарты производятся различными производителями, например, Nvidia , AMD . Карты таких производителей различаются по реализации поддержки форматов данных, таких как целочисленные форматы и форматы с плавающей запятой (32-битные и 64-битные). Microsoft представила стандарт модели шейдеров , чтобы помочь ранжировать различные функции графических карт по простому номеру версии модели шейдеров (1.0, 2.0, 3.0 и т. д.).

Целые числа

Видеокарты до DirectX 9 поддерживали только палитровые или целочисленные типы цветов. Доступны различные форматы, каждый из которых содержит красный элемент, зеленый элемент и синий элемент. Иногда добавляется еще одно значение альфа, которое используется для прозрачности. Общие форматы:

• 8 бит на пиксель — иногда режим палитры, где каждое значение представляет собой индекс в таблице с реальным значением цвета, указанным в одном из других форматов. Иногда три бита для красного, три бита для зеленого и два бита для синего.
• 16 бит на пиксель. Обычно биты выделяются как пять бит для красного, шесть бит для зеленого и пять бит для синего.
• 24 бита на пиксель. Для красного, зеленого и синего цветов по восемь бит.
• 32 бита на пиксель — по восемь битов для каждого из красного, зеленого, синего и альфа-канала .

Числа с плавающей запятой

Для ранней графики с фиксированными функциями или ограниченной программируемостью (т. е. вплоть до графических процессоров, совместимых с DirectX 8.1) этого было достаточно, поскольку такое представление также используется в дисплеях. Это представление имеет определенные ограничения. При наличии достаточной мощности графической обработки даже графические программисты хотели бы использовать лучшие форматы, такие как форматы данных с плавающей запятой , для получения таких эффектов, как визуализация с расширенным динамическим диапазоном . Многие приложения GPGPU требуют точности с плавающей запятой, которая имеется в видеокартах, соответствующих спецификации DirectX 9.

Модель шейдеров DirectX 9 2.x предлагала поддержку двух типов точности: полной и частичной точности. Поддержка полной точности может быть FP32 или FP24 (32- или 24-битная с плавающей запятой на компонент) или выше, а частичная точность — FP16. Серия графических процессоров ATI Radeon R300 поддерживала точность FP24 только в конвейере программируемых фрагментов (хотя FP32 поддерживалась в вершинных процессорах), тогда как Nvidia от серия NV30 поддерживала как FP16, так и FP32; другие поставщики, такие как S3 Graphics и XGI, поддерживали смесь форматов до FP24.

Реализации операций с плавающей запятой на графических процессорах Nvidia в основном совместимы с IEEE ; однако это справедливо не для всех поставщиков. Это имеет последствия для корректности, которая считается важной для некоторых научных приложений. Хотя 64-битные значения с плавающей запятой (с плавающей запятой двойной точности) обычно доступны на процессорах, они не поддерживаются повсеместно на графических процессорах. Некоторые архитектуры графических процессоров жертвуют соответствием IEEE, а в других отсутствует двойная точность. Были предприняты попытки эмулировать значения с плавающей запятой двойной точности на графических процессорах; однако компромисс в скорости в первую очередь сводит на нет любую выгоду от разгрузки вычислений на графический процессор.

Векторизация

Большинство операций на графическом процессоре выполняются векторизованным образом: одна операция может выполняться одновременно с четырьмя значениями. Например, если один цвет ⟨R1, G1, B1⟩ должен быть модулирован другим цветом ⟨R2, G2, B2⟩ , графический процессор может создать результирующий цвет ⟨R1*R2, G1*G2, B1*B2⟩ за один операция. Эта функция полезна в графике, поскольку почти каждый базовый тип данных является вектором (2-, 3- или 4-мерным). Примеры включают вершины, цвета, векторы нормалей и координаты текстуры. Многие другие приложения могут найти этому хорошее применение, и из-за их более высокой производительности векторные инструкции, называемые «одна инструкция, несколько данных» ( SIMD ), уже давно доступны в процессорах.

Графический процессор против процессора

Первоначально данные просто передавались в одном направлении от центрального процессора (ЦП) к графическому процессору (ГП), а затем к устройству отображения . Однако с течением времени для графических процессоров стало полезно хранить сначала простые, а затем сложные структуры данных, которые должны были передаваться обратно в процессор, который анализировал изображение, или набор научных данных, представленных в формате 2D или 3D, которые видеокарта понимает. Поскольку графический процессор имеет доступ к каждой операции рисования, он может быстро анализировать данные в этих формах, тогда как ЦП должен опрашивать каждый пиксель или элемент данных гораздо медленнее, поскольку скорость доступа между ЦП и его большим пулом оперативной памяти (или, в худшем случае, жесткий диск ) медленнее, чем графические процессоры и видеокарты, которые обычно содержат меньшие объемы более дорогой памяти, доступ к которой осуществляется гораздо быстрее. Перенос части набора данных, подлежащей активному анализу, в память этого графического процессора в виде текстур или других легко читаемых форм графического процессора приводит к увеличению скорости. Отличительной особенностью конструкции GPGPU является возможность передачи информации. двунаправленно обратно от графического процессора к процессору; Обычно пропускная способность данных в обоих направлениях идеально высока, что приводит к мультипликативному эффекту на скорости конкретного часто используемого алгоритма . Конвейеры GPGPU могут повысить эффективность работы с особенно большими наборами данных и/или данными, содержащими 2D- или 3D-изображения. Он используется в сложных графических конвейерах, а также в научных вычислениях ; тем более в областях с большими наборами данных, таких как картирование генома , или там, где полезен двух- или трехмерный анализ – особенно в настоящее время анализ биомолекул , исследование белков и другая сложная органическая химия . Такие конвейеры также могут значительно повысить эффективность обработки изображений и компьютерного зрения , а также других областей; а также параллельная обработка в целом. Некоторые очень сильно оптимизированные конвейеры привели к увеличению скорости в несколько сотен раз по сравнению с исходным конвейером на базе ЦП при выполнении одной интенсивно используемой задачи.

Простым примером может служить программа графического процессора, которая собирает данные о средних значениях освещенности при передаче некоторого изображения с камеры или программы компьютерной графики обратно в основную программу на ЦП, чтобы ЦП затем мог внести коррективы в общий экран. вид. Более продвинутый пример может использовать обнаружение границ для возврата как числовой информации, так и обработанного изображения, представляющего контуры, в программу компьютерного зрения, управляющую, скажем, мобильным роботом. Поскольку графический процессор имеет быстрый и локальный аппаратный доступ к каждому пикселю или другому элементу изображения в изображении, он может анализировать и усреднять его (для первого примера) или применять краевой фильтр Собеля или другой сверточный фильтр (для второго) с гораздо большей эффективностью. быстрее, чем процессор, которому обычно приходится обращаться к более медленным копиям рассматриваемой графики в оперативной памяти.

GPGPU — это, по сути, концепция программного обеспечения, а не аппаратного обеспечения; это тип алгоритма , а не часть оборудования. Однако специализированные конструкции оборудования могут еще больше повысить эффективность конвейеров GPGPU, которые традиционно выполняют относительно небольшое количество алгоритмов с очень большими объемами данных. Массивно распараллеленные задачи на уровне гигантских данных могут быть распараллелены еще больше с помощью специализированных установок, таких как стоечные вычисления (множество похожих, узкоспециализированных машин, встроенных в стойку ), что добавляет третий уровень - множество вычислительных блоков, каждый из которых использует много ЦП для соответствия. ко многим графическим процессорам. Некоторые биткойн -майнеры использовали такие установки для обработки больших объемов.

Тайники

Исторически процессоры использовали кэши , управляемые аппаратно , но более ранние графические процессоры предоставляли только локальную память, управляемую программно. Однако, поскольку графические процессоры все чаще используются для приложений общего назначения, современные графические процессоры разрабатываются с аппаратно управляемым многоуровневым кэшем, что помогло графическим процессорам перейти к массовым вычислениям. Например, графические процессоры серии GeForce 200 с архитектурой GT200 не имели кэша L2, графический процессор Fermi имеет кэш последнего уровня 768 КиБ, графический процессор Kepler имеет кэш последнего уровня 1,5 МБ, Графический процессор Maxwell имеет кэш последнего уровня объемом 2 МБ, а графический процессор Pascal имеет кэш последнего уровня объемом 4 МБ.

Регистрационный файл

Графические процессоры имеют очень большие файлы регистров , что позволяет им уменьшить задержку переключения контекста. Размер файла регистров также увеличивается в зависимости от поколения графических процессоров, например, общий размер файла регистров на графических процессорах Maxwell (GM200), Pascal и Volta составляет 6 МБ, 14 МБ и 20 МБ соответственно. Для сравнения, размер файла регистров на процессорах невелик, обычно составляет десятки или сотни килобайт.

Энергоэффективность

Высокая производительность графических процессоров достигается за счет высокого энергопотребления, которое при полной нагрузке фактически равно мощности всей остальной системы ПК вместе взятой. Максимальная потребляемая мощность графического процессора серии Pascal (Tesla P100) составила 250 Вт.

Потоковая обработка

Основная статья: Потоковая обработка

Графические процессоры разработаны специально для графики и поэтому имеют очень ограничения в операциях и программировании. Из-за своей конструкции графические процессоры эффективны только для задач, которые можно решить с помощью потоковой обработки , а оборудование можно использовать только определенными способами.

Следующее обсуждение вершин, фрагментов и текстур касается в основном устаревшей модели программирования GPGPU, где графические API ( OpenGL или DirectX ) использовались для выполнения вычислений общего назначения. С появлением API-интерфейсов вычислений общего назначения CUDA (Nvidia, 2007 г.) и OpenCL (независимый от поставщика, 2008 г.) в новых кодах GPGPU больше нет необходимости сопоставлять вычисления с графическими примитивами. Характер потоковой обработки графических процессоров остается действительным независимо от используемых API. (См., например, )

Графические процессоры могут обрабатывать только независимые вершины и фрагменты, но могут обрабатывать многие из них параллельно. Это особенно эффективно, когда программист хочет обработать множество вершин или фрагментов одинаковым образом. В этом смысле графические процессоры представляют собой потоковые процессоры — процессоры, которые могут работать параллельно, выполняя одно ядро ​​одновременно со многими записями в потоке.

Поток . — это просто набор записей, требующих аналогичных вычислений Потоки обеспечивают параллелизм данных. Ядра — это функции, которые применяются к каждому элементу потока. В графических процессорах вершины и фрагменты — это элементы потоков, а вершинные и фрагментные шейдеры — это ядра, которые на них выполняются. Для каждого элемента мы можем только читать со входа, выполнять над ним операции и записывать на выход. Допустимо иметь несколько входов и несколько выходов, но никогда не использовать часть памяти, доступную как для чтения, так и для записи.

Арифметическая интенсивность определяется как количество операций, выполняемых на одно передаваемое слово памяти. Для приложений GPGPU важно иметь высокую интенсивность арифметических вычислений, иначе задержка доступа к памяти будет ограничивать ускорение вычислений.

Идеальные приложения GPGPU имеют большие наборы данных, высокий параллелизм и минимальную зависимость между элементами данных.

Концепции программирования графического процессора

Вычислительные ресурсы

На графическом процессоре доступны различные вычислительные ресурсы:

• Программируемые процессоры — вершинные, примитивные, фрагментные и, в основном, вычислительные конвейеры позволяют программисту выполнять ядро ​​над потоками данных.
• Растеризатор — создает фрагменты и интерполирует константы для каждой вершины, такие как координаты текстуры и цвет.
• Текстурный блок – интерфейс постоянной памяти
• Framebuffer – интерфейс памяти только для записи.

Фактически, программа может заменить на вывод текстуру, предназначенную только для записи, вместо кадрового буфера. Это делается либо с помощью рендеринга в текстуру (RTT), рендеринга в буфер-буфер-копирование-в-текстуру (RTBCTT), либо более позднего потокового вывода.

Текстуры в виде потока

Наиболее распространенной формой потока в GPGPU является 2D-сетка, поскольку она естественным образом соответствует модели рендеринга, встроенной в графические процессоры. Многие вычисления естественным образом отображаются в сетках: матричная алгебра, обработка изображений, физическое моделирование и т. д.

Поскольку текстуры используются в качестве памяти, поиск текстур затем используется при чтении из памяти. Из-за этого некоторые операции могут выполняться графическим процессором автоматически.

Ядра

Вычислительные ядра можно рассматривать как тело циклов . Например, программист, работающий с сеткой ЦП, может иметь код, который выглядит следующим образом:

// Входные и выходные сетки имеют размер 10000 x 10000 или 100 миллионов элементов. 

  void   Transform_10k_by_10k_grid  (  float   in  [  10000  ][  10000  ],   float   out  [  10000  ][  10000  ]) 
 { 
     for   (  int   x   =   0  ;   x   <   10000  ;   x  ++  )   { 
         for   (  int   y   =   0  ;   y   <   10000  ;   y  ++  )   { 
             // Следующая строка выполняется 100 миллионов раз 
             out  [  x  ][  y  ]   =   do_some_hard_work  (  in  [  x  ][  y  ]); 
          } 
     } 
 } 

На графическом процессоре программист указывает только тело цикла в качестве ядра и данные для цикла, вызывая обработку геометрии.

Управление потоком

В последовательном коде можно управлять ходом программы с помощью операторов if-then-else и различных форм циклов. Такие структуры управления потоком данных были добавлены в графические процессоры совсем недавно. Условная запись могла выполняться с использованием правильно созданной серии арифметических/битовых операций, но циклы и условное ветвление были невозможны.

Последние графические процессоры допускают ветвление, но обычно со снижением производительности. Обычно следует избегать ветвления во внутренних циклах, будь то в коде ЦП или графического процессора, а также в различных методах, таких как статическое разрешение ветвей, предварительные вычисления, предсказание, разделение цикла и т. д. и Z-отбраковка может использоваться для достижения ветвления, когда аппаратная поддержка не существует.

Методы графического процессора

Карта

Основная статья: Карта (параллельный узор)

Операция карты просто применяет данную функцию (ядро) к каждому элементу потока. Простой пример — умножение каждого значения в потоке на константу (увеличение яркости изображения). Операцию карты легко реализовать на графическом процессоре. Программист генерирует фрагмент для каждого пикселя экрана и применяет к каждому программу-фрагмент. Поток результатов того же размера сохраняется в выходном буфере.

Уменьшить

Основная статья: Fold (функция высшего порядка)

Некоторые вычисления требуют вычисления меньшего потока (возможно, потока, состоящего только из одного элемента) из большего потока. Это называется уменьшением потока. Обычно сокращение может выполняться в несколько этапов. Результаты предыдущего шага используются в качестве входных данных для текущего шага, а диапазон, в котором применяется операция, сокращается до тех пор, пока не останется только один элемент потока.

Фильтрация потока

Потоковая фильтрация по сути представляет собой неравномерное сокращение. Фильтрация предполагает удаление элементов из потока на основе некоторых критериев.

Сканировать

Операция сканирования, также называемая суммой параллельного префикса , принимает вектор (поток) элементов данных и (произвольную) ассоциативную бинарную функцию «+» с единичным элементом «i» . Если входные данные [a0, a1, a2, a3, ...], эксклюзивное сканирование дает выходные данные [i, a0, a0 + a1, a0 + a1 + a2, ...], тогда как инклюзивное сканирование дает выведите [a0, a0 + a1, a0 + a1 + a2, a0 + a1 + a2 + a3, ...] и не требует существования идентификатора. Хотя на первый взгляд операция может показаться последовательной, эффективные алгоритмы параллельного сканирования возможны и реализованы в графических процессорах. Операция сканирования используется, например, в быстрой сортировке и умножении разреженной матрицы на вектор.

Разброс

Операция разброса наиболее естественно определяется на вершинном процессоре. Вершинный процессор способен регулировать положение вершины , что позволяет программисту контролировать, где информация размещается в сетке. Возможны и другие расширения, например, контроль размера области, на которую влияет вершина.

Процессор фрагментов не может выполнить операцию прямого разброса, поскольку расположение каждого фрагмента в сетке фиксировано во время создания фрагмента и не может быть изменено программистом. Однако операция логического разброса иногда может быть переработана или реализована с помощью другого шага сбора. Реализация разброса сначала выдает как выходное значение, так и выходной адрес. Непосредственно следующая операция сбора использует сравнение адресов, чтобы увидеть, соответствует ли выходное значение текущему выходному слоту.

В выделенных вычислительных ядрах разброс может выполняться путем индексированной записи.

Собрать

Сбор — это противоположность разброса. После того, как Scatter меняет порядок элементов в соответствии с картой, сбор может восстановить порядок элементов в соответствии с используемой картой Scatter. В выделенных вычислительных ядрах сбор может выполняться путем индексированного чтения. В других шейдерах это выполняется с помощью поиска текстур.

Сортировать

Операция сортировки преобразует неупорядоченный набор элементов в упорядоченный набор элементов. Наиболее распространенной реализацией на графических процессорах является использование поразрядной сортировки для целочисленных данных и данных с плавающей запятой, а также сетей грубой сортировки слиянием мелкой сортировки и сетей для общих сопоставимых данных.

Поиск

Операция поиска позволяет программисту найти данный элемент в потоке или, возможно, найти соседей указанного элемента. Графический процессор не используется для ускорения поиска отдельного элемента, а вместо этого используется для параллельного выполнения нескольких поисков. Чаще всего используемый метод поиска — это двоичный поиск по отсортированным элементам.

Структуры данных

На графическом процессоре могут быть представлены различные структуры данных:

• Плотные массивы
• Разреженные матрицы ( разреженный массив ) – статические или динамические
• Адаптивные структуры ( тип объединения )

Приложения

Ниже приведены некоторые области, в которых графические процессоры использовались для вычислений общего назначения:

• Автоматическое распараллеливание
• Физические модели моделирования и физические движки (обычно на основе моделей ньютоновской физики )
  • Игра жизни Конвея , моделирование ткани жидкости , течение несжимаемой путем решения уравнений Эйлера (динамика жидкости) или уравнения Навье – Стокса
• Статистическая физика
  • Модель Изинга
• Решётчатая калибровочная теория
• Сегментация – 2D и 3D
• Методы установки уровня
• КТ реконструкция
• Быстрое преобразование Фурье
• Обучение на графическом процессоре — машинное обучение и вычисления для интеллектуального анализа данных , например, с помощью программного обеспечения BIDMach.
• алгоритм k-ближайшего соседа
• Нечеткая логика
• Отображение тонов
• Обработка аудиосигнала
  • Обработка звука и звуковых эффектов для использования графического процессора для цифровой обработки сигналов (DSP)
  • Аналоговая обработка сигналов
  • Обработка речи
• Цифровая обработка изображений
• Обработка видео
  • Аппаратное ускорение декодирования и постобработки видео
    • Компенсация движения (mo comp)
    • Обратное дискретное косинусное преобразование (iDCT)
    • Декодирование переменной длины (VLD), кодирование Хаффмана
    • Обратное квантование (IQ, не путать с коэффициентом интеллекта )
    • Внутриконтурная деблокировка
    • Обработка битового потока ( CAVLC / CABAC ) с использованием специального оборудования для этой задачи, поскольку это последовательная задача, не подходящая для обычных вычислений GPGPU.
    • Деинтерлейсинг
      • Пространственно-временной деинтерлейсинг
    • Подавление шума
    • Улучшение краев
    • Коррекция цвета
  • Аппаратное ускорение кодирования и предварительной обработки видео
• Глобальное освещение – трассировка лучей , картирование фотонов , излучательность, среди прочего, подповерхностное рассеяние
• Геометрические вычисления – конструктивная твердотельная геометрия , поля расстояний, обнаружение столкновений , вычисление прозрачности, генерация теней.
• Научные вычисления
  • методом Монте-Карло Моделирование распространения света
  • Прогноз погоды
  • Климатические исследования
  • Молекулярное моделирование на GPU
  • Квантово-механическая физика
  • Астрофизика
• Биоинформатика
• Вычислительные финансы
• Медицинская визуализация
• Система поддержки клинических решений (CDSS)
• Компьютерное зрение
• Цифровая обработка сигналов / обработка сигналов
• Техника управления
• Исследование операций
  • Реализации: алгоритм поиска табу на графическом процессоре, решающий проблему планирования проектов с ограниченными ресурсами, находится в свободном доступе на GitHub; Алгоритм графического процессора, решающий задачу планирования работы медсестры, находится в свободном доступе на GitHub.
• Нейронные сети
• с базой данных Операции
• Вычислительная гидродинамика, особенно с использованием решеточных методов Больцмана
• Криптография и криптоанализ
• Моделирование производительности: вычислительно интенсивные задачи на графическом процессоре
  • Реализации: MD6 , расширенный стандарт шифрования (AES), Стандарт шифрования данных (DES), RSA , криптография эллиптических кривых (ECC)
  • Взлом пароля
  • Обработка криптовалютных транзакций («майнинг») ( майнинг биткойнов )
• Автоматизация электронного проектирования
• Антивирусная программа
• Обнаружения вторжений
• Увеличение вычислительной мощности для распределенных вычислений таких проектов , как SETI@home , Einstein@home.

Биоинформатика

Использование GPGPU в биоинформатике:

Приложение	Описание	Поддерживаемые функции	Ожидаемое ускорение†	графический процессор‡	Поддержка нескольких графических процессоров	Статус выпуска
БарраКУДА	ДНК, включая эпигенетику, программное обеспечение для картирования последовательностей	Выравнивание коротких считываний секвенирования	6–10 раз	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 0.7.107f.
КУДАСВ++	Программное обеспечение с открытым исходным кодом для поиска в базе данных белков Смита-Уотермана на графических процессорах	Параллельный поиск в базе данных Смита-Уотермана	10–50x	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 2.0.8.
КУШО	Параллелизованный выравниватель короткого считывания	Параллельный, точный выравниватель длинного считывания – выравнивание с пробелами в больших геномах	10x	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 1.0.40.
GPU-ВЗРЫВ	Локальный поиск с быстрой эвристикой k -кортежей	Выравнивание белков в соответствии с blastp, многопроцессорными потоками	3–4 раза	Т 2075, 2090, К10, К20, К20Х	Только одинокий	Доступна сейчас версия 2.2.26.
GPU-HMMER	Параллелизованный локальный и глобальный поиск со скрытыми марковскими моделями профиля.	Параллельный локальный и глобальный поиск скрытых марковских моделей.	60–100x	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 2.3.2.
mCUDA-MEME	Сверхбыстрый масштабируемый алгоритм обнаружения мотивов на основе MEME	Масштабируемый алгоритм обнаружения мотивов на основе MEME	4–10 раз	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 3.0.12.
SeqNFind	Набор инструментов для анализа последовательностей с ускорением на графическом процессоре	Эталонная сборка, взрыв, Смит-Уотерман, хм, сборка de novo	400x	Т 2075, 2090, К10, К20, К20Х	Да	Доступен сейчас
НЕДЕЛИ	Смит-Уотерман с открытым исходным кодом для SSE/CUDA, поиск повторов на основе суффиксного массива и точечная диаграмма	Быстрое выравнивание короткого чтения	6–8x	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 1.11.
WideLM	Подходит для многочисленных линейных моделей с фиксированной конструкцией и откликом.	Параллельная линейная регрессия на нескольких моделях одинаковой формы	150x	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 0.1-1.

Молекулярная динамика

Дополнительная информация: Молекулярное моделирование на графических процессорах и сравнение программного обеспечения для моделирования молекулярной механики.

Приложение	Описание	Поддерживаемые функции	Ожидаемое ускорение†	графический процессор‡	Поддержка нескольких графических процессоров	Статус выпуска
Морское ушко	Моделирует молекулярную динамику биополимеров для моделирования белков, ДНК и лигандов.	Явный и неявный растворитель, гибрид Монте-Карло	4–120x	Т 2075, 2090, К10, К20, К20Х	Только одинокий	Доступна сейчас версия 1.8.88.
АСЕМД	Графическое моделирование силовых полей молекулярной механики, неявный и явный растворитель	Написано для использования на графических процессорах	Только версия с графическим процессором 160 нс/день	Т 2075, 2090, К10, К20, К20Х	Да	Доступен сейчас
ЯНТАРЬ	Набор программ для моделирования молекулярной динамики биомолекул	PMEMD: явный и неявный растворитель	89,44 нс/сут JAC NVE	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 12 + исправление ошибок 9.
ДЛ-ПОЛИ	Моделирование макромолекул, полимеров, ионных систем и т. д. на параллельном компьютере с распределенной памятью.	Двухчастичные силы, пары ячеек связи, силы Эвальда SPME, Шейк В.В.	4x	Т 2075, 2090, К10, К20, К20Х	Да	Доступно сейчас, только исходный код версии 4.0.
ШАРММ	Пакет MD для моделирования молекулярной динамики биомолекул.	Неявный (5x), явный (2x) растворитель через OpenMM	подлежит уточнению	Т 2075, 2090, К10, К20, К20Х	Да	В разработке, 4 квартал 2012 г.
ГРОМАКС	Моделирование биохимических молекул со сложными взаимодействиями связей	Неявный (5x), явный (2x) растворитель	165 нс/день DHFR	Т 2075, 2090, К10, К20, К20Х	Только одинокий	Доступна сейчас, версия 4.6 в четвертом квартале 2012 г.
HOOMD-Синий	Написан пакет динамики частиц для графических процессоров	Написано для графических процессоров	2x	Т 2075, 2090, К10, К20, К20Х	Да	Доступен сейчас
ЛАММПС	Пакет классической молекулярной динамики	Леннард-Джонс, Морс, Бэкингем, CHARMM, табличные, зернистые SDK, анизотропные Гей-Берна, RE-квадрат, «гибридные» комбинации	3–18x	Т 2075, 2090, К10, К20, К20Х	Да	Доступен сейчас
НАМД	Предназначен для высокопроизводительного моделирования крупных молекулярных систем.	Способность атома 100M	6,44 нс/сутки STMV 585x 2050 с	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 2.9.
ОпенММ	Библиотека и приложение по молекулярной динамике для HPC с графическими процессорами	Неявная и явная платежеспособность, таможенные силы	Неявный: 127–213 нс/день; Явный: 18–55 нс/день DHFR.	Т 2075, 2090, К10, К20, К20Х	Да	Доступна сейчас версия 4.1.1.

† Ожидаемое ускорение во многом зависит от конфигурации системы. Производительность графического процессора по сравнению с многоядерным x86 процессором . Производительность графического процессора оценивается на основе функций, поддерживаемых графическим процессором, и может представлять собой . сравнение производительности ядра между ядрами Подробную информацию об используемой конфигурации см. на веб-сайте приложения. Ускорение согласно внутреннему тестированию Nvidia или документации независимого поставщика ПО.

‡ Q = графический процессор Quadro , T = графический процессор Tesla . Nvidia рекомендовала графические процессоры для этого приложения. Чтобы получить информацию о сертификации, обратитесь к разработчику или независимому поставщику программного обеспечения.

См. также

• ИИ-ускоритель
• Блок обработки звука
• Рядом с металлом
• Процессор глубокого обучения (DLP)
• Быстрее II
• Ларраби (микроархитектура)
• Физический движок
  • Расширенная библиотека моделирования
  • Физический процессор (ППУ)

Further reading

• Owens, J.D.; Houston, M.; Luebke, D.; Green, S.; Stone, J.E.; Phillips, J.C. (May 2008). "GPU Computing". Proceedings of the IEEE. 96 (5): 879–899. doi:10.1109/JPROC.2008.917757. ISSN 0018-9219. S2CID 17091128.
• Brodtkorb, André R.; Hagen, Trond R.; Sætra, Martin L. (1 January 2013). "Graphics processing unit (GPU) programming strategies and trends in GPU computing". Journal of Parallel and Distributed Computing. Metaheuristics on GPUs. 73 (1): 4–13. doi:10.1016/j.jpdc.2012.04.003. hdl:10852/40283. ISSN 0743-7315.