Свертка
В математике (в частности, функциональном анализе ) свертка — это математическая операция над двумя функциями ( и ), который создает третью функцию ( ). Термин «свертка» относится как к функции результата, так и к процессу ее вычисления. Он определяется как интеграл произведения двух функций после того, как одна из них отражается относительно оси Y и смещается. Интеграл оценивается для всех значений сдвига, создавая функцию свертки. Выбор того, какая функция будет отражена и сдвинута перед интегралом, не меняет интегрального результата (см. коммутативность ). Графически это выражает, как «форма» одной функции изменяется другой.
Некоторые особенности свертки аналогичны взаимной корреляции : для вещественнозначных функций непрерывной или дискретной переменной свертка ( ) отличается от взаимной корреляции ( ) только в этом либо или отражается относительно оси Y в свертке; таким образом, это взаимная корреляция и , или и . [А] Для комплекснозначных функций оператор взаимной корреляции является сопряженным оператору свертки.
Свертка имеет приложения, которые включают вероятность , статистику , акустику , спектроскопию , обработку сигналов и изображений , геофизику , инженерное дело , физику , компьютерное зрение и дифференциальные уравнения . [1]
Свертку можно определить для функций в евклидовом пространстве и других группах (как алгебраические структуры ). [ нужна ссылка ] Например, периодические функции , такие как преобразование Фурье с дискретным временем , могут быть определены на окружности и свернуты с помощью периодической свертки . (См. строку 18 в разделе DTFT § Свойства .) Дискретную свертку можно определить для функций на множестве целых чисел .
Обобщения свертки имеют приложения в области численного анализа и числовой линейной алгебры , а также при разработке и реализации фильтров с конечной импульсной характеристикой при обработке сигналов. [ нужна ссылка ]
Вычисление обратной операции свертки известно как деконволюция .
Определение
[ редактировать ]Свертка и написано , обозначая оператор символом . [Б] Он определяется как интеграл произведения двух функций после того, как одна из них отражается относительно оси Y и смещается. По существу, это особый вид интегрального преобразования :
Эквивалентное определение (см. коммутативность ):
В то время как символ используется выше, он не обязательно представляет временную область. На каждом формулу свертки можно описать как площадь под функцией взвешенный по функции сдвинуто на сумму . Как изменения, весовая функция подчеркивает различные части функции ввода ; Если является положительным значением, то равно который скользит или смещается вдоль -ось вправо (в сторону ) по количеству , а если является отрицательным значением, то равно который скользит или смещается влево (в сторону ) по количеству .
Для функций , поддерживается только на (т. е. ноль для отрицательных аргументов), пределы интегрирования могут быть усечены, что приведет к:
Многомерную формулировку свертки см. в области определения (ниже).
Обозначения
[ редактировать ]Общее соглашение об инженерных обозначениях: [2]
который следует интерпретировать осторожно, чтобы избежать путаницы. Например, эквивалентно , но фактически эквивалентно . [3]
Отношения с другими преобразованиями
[ редактировать ]Даны две функции и с двусторонними преобразованиями Лапласа (двустороннее преобразование Лапласа)
и
соответственно, операция свертки можно определить как обратное преобразование Лапласа произведения и . [4] [5] Точнее,
Позволять такой, что
Обратите внимание, что является двусторонним преобразованием Лапласа . Аналогичный вывод можно сделать с помощью одностороннего преобразования Лапласа (одностороннее преобразование Лапласа).
Операция свертки также описывает выходные данные (с точки зрения входных данных) важного класса операций, известных как линейные инвариантные во времени (LTI). См. теорию систем LTI, чтобы узнать о выводе свертки как результата ограничений LTI. Что касается преобразований Фурье входных и выходных данных операции LTI, никаких новых частотных составляющих не создается. Существующие лишь изменяются (амплитуда и/или фаза). Другими словами, выходное преобразование представляет собой поточечное произведение входного преобразования с третьим преобразованием (известным как передаточная функция ). См. Теорему о свертке , где описан вывод этого свойства свертки. И наоборот, свертку можно получить как обратное преобразование Фурье поточечного произведения двух преобразований Фурье.
Визуальное объяснение
[ редактировать ]
Результирующая форма сигнала (здесь не показана) представляет собой свертку функций f и g . Если представляет собой единичный импульс , результат этого процесса просто . Формально: | |
В этом примере красный «импульс», это четная функция поэтому свертка эквивалентна корреляции. На снимке этого «фильма» показаны функции и (синим цветом) для некоторого значения параметра которое условно определяется как расстояние вдоль ось от точки к центру красного импульса. Количество желтого цвета – это площадь изделия вычисляется с помощью интеграла свертки/корреляции. Фильм создается путем постоянного изменения и пересчитываем интеграл. Результат (показан черным цветом) является функцией но отложено на той же оси, что и для удобства и сравнения. | |
В этом изображении может представлять собой реакцию резисторно-емкостной цепи на узкий импульс, возникающий при Другими словами, если результат свертки просто Но когда — более широкий импульс (красный), ответ — «размазанная» версия Это начинается в потому что мы определили как расстояние от ось к центру широкого импульса (вместо переднего фронта). |
Исторические события
[ редактировать ]Одно из первых применений интеграла свертки появилось в теоремы выводе Даламбера Тейлора в книге «Исследование различных точек, важных для системы мира», опубликованной в 1754 году. [6]
Также выражение типа:
используется Сильвестром Франсуа Лакруа на странице 505 его книги под названием «Трактат о различиях и рядах» , которая является последним из трех томов энциклопедической серии: Traité du Calcul Differential et du Calcul Integral , Chez Courcier, Париж, 1797–1800. [7] Вскоре после этого операции свертки появляются в работах Пьера Симона Лапласа , Жана-Батиста Жозефа Фурье , Симеона Дени Пуассона и других. Сам этот термин не вошел в широкое употребление до 1950-х или 1960-х годов. До этого его иногда называли Faltung (что означает «складывание по -немецки »), произведение композиции , интеграл суперпозиции и Карсона интеграл . [8] Тем не менее, оно появилось еще в 1903 году, хотя в более старых употреблениях это определение было довольно незнакомым. [9] [10]
Операция:
представляет собой частный случай композиционных произведений, рассмотренный итальянским математиком Вито Вольтеррой в 1913 году. [11]
Круговая свертка
[ редактировать ]Когда функция g T является периодической с периодом T , то для функций f , таких что f ∗ g T существует, свертка также является периодической и идентична:
где t 0 — произвольный выбор. Суммирование называется периодическим суммированием функции f .
Когда g T является периодическим суммированием другой функции g , тогда f ∗ g T называется круговой или циклической сверткой f и g .
А если периодическое суммирование, указанное выше, заменить на f T , операция называется периодической сверткой f T и g T .
Дискретная свертка
[ редактировать ]Для комплекснозначных функций f , g, на множестве Z целых чисел, дискретная свертка f определенных и g задается формулой: [12]
или эквивалентно (см. коммутативность ):
Свертка двух конечных последовательностей определяется путем расширения последовательностей до функций с конечным носителем на множестве целых чисел. Если последовательности являются коэффициентами двух полиномов , то коэффициенты обычного произведения двух полиномов представляют собой свертку исходных двух последовательностей. Это известно как произведение Коши коэффициентов последовательностей.
Таким образом, когда g имеет конечный носитель в множестве (представляющий, например, конечную импульсную характеристику ), можно использовать конечное суммирование: [13]
Круговая дискретная свертка
[ редактировать ]Когда функция является периодическим, с периодом тогда для функций, такой, что существует, свертка также периодична и идентична :
Суммирование по называется периодическим суммированием функции
Если представляет собой периодическое суммирование другой функции, затем известен как круговая свертка и
Когда ненулевая длительность обоих и ограничены интервалом сводится к этим общим формам :
( Уравнение 1 ) |
Обозначения для циклической свертки обозначает свертку по циклической группе целых чисел модулю N. по
Круговая свертка чаще всего возникает в контексте быстрой свертки с помощью алгоритма быстрого преобразования Фурье (БПФ).
Алгоритмы быстрой свертки
[ редактировать ]Во многих ситуациях дискретные свертки можно преобразовать в круговые свертки, чтобы для реализации вычислений можно было использовать быстрые преобразования со свойством свертки. Например, свертка последовательностей цифр — это операция ядра при умножении многозначных чисел, которую поэтому можно эффективно реализовать с помощью методов преобразования ( Knuth 1997 , §4.3.3.C; von zur Gathen & Gerhard 2003 , §8.2).
Уравнение 1 требует N арифметических операций на выходное значение и N 2 операций для N выходов. Это можно значительно уменьшить с помощью любого из нескольких быстрых алгоритмов. Цифровая обработка сигналов и другие приложения обычно используют быстрые алгоритмы свертки, чтобы снизить стоимость свертки до O( N log N сложности ).
Наиболее распространенные алгоритмы быстрой свертки используют быстрого преобразования Фурье алгоритмы (БПФ) на основе теоремы круговой свертки . В частности, круговая свертка двух последовательностей конечной длины находится путем выполнения БПФ каждой последовательности, поточечного умножения и последующего выполнения обратного БПФ. Свертки определенного выше типа затем эффективно реализуются с использованием этого метода в сочетании с нулевым расширением и/или отбрасыванием частей вывода. Другие алгоритмы быстрой свертки, такие как алгоритм Шенхаге – Штрассена или преобразование Мерсенна, [14] использовать быстрые преобразования Фурье в других кольцах . Метод Винограда используется как альтернатива БПФ. [15] Это значительно ускоряет 1D, [16] 2Д, [17] и 3D [18] свертка.
Если одна последовательность намного длиннее другой, нулевое расширение более короткой последовательности и быстрая круговая свертка не являются наиболее эффективным в вычислительном отношении доступным методом. [19] Вместо этого разложение более длинной последовательности на блоки и свертка каждого блока позволяет использовать более быстрые алгоритмы, такие как метод перекрытия-сохранения и метод перекрытия-добавления . [20] Гибридный метод свертки, сочетающий в себе блочный и FIR -алгоритмы, обеспечивает нулевую задержку ввода-вывода, что полезно для вычислений свертки в реальном времени. [21]
Область определения
[ редактировать ]Свертка двух комплекснозначных функций на R д сама по себе является комплексной функцией на R д , определяемый:
и корректно определен только в том случае, если f и g затухают на бесконечности достаточно быстро, чтобы интеграл существовал. Условия существования свертки могут быть непростыми, поскольку разрушение g на бесконечности можно легко компенсировать достаточно быстрым спадом f . Таким образом, вопрос о существовании может включать в себя разные условия на f и g :
Компактно поддерживаемые функции
[ редактировать ]Если f и g — с компактным носителем непрерывные функции , то их свертка существует, а также является непрерывной и компактной ( Hörmander 1983 , Глава 1). В более общем смысле, если одна из функций (скажем, f ) имеет компактный носитель, а другая локально интегрируема , то свертка f ∗ g корректно определена и непрерывна.
Свертка f и g также корректно определена, когда обе функции локально интегрируемы с квадратом на R и поддерживаются на интервале вида [ a , +∞) (или обе поддерживаются на [−∞, a ] ).
Интегрируемые функции
[ редактировать ]Свертка f и g существует, если f и g — интегрируемые по Лебегу функции в L 1 ( Р д ) , и в этом случае f ∗ g также интегрируема ( Stein & Weiss 1971 , теорема 1.3). Это следствие теоремы Тонелли . Это справедливо и для функций из L 1 , при дискретной свертке или, в более общем смысле, для свертки на любой группе .
Аналогично, если f ∈ L 1 ( Р д ) и g ∈ L п ( Р д ) где 1 ≤ p ≤ ∞ , то f * g ∈ L п ( Р д ), и
В частном случае p = 1 это показывает, что L 1 является банаховой алгеброй относительно свертки (и равенство двух сторон имеет место, если f и g неотрицательны почти всюду).
В более общем смысле, неравенство Юнга подразумевает, что свертка представляет собой непрерывное билинейное отображение между подходящими L п пространства. В частности, если 1 ≤ p , q , r ≤ ∞ удовлетворяют:
затем
так что свертка является непрерывным билинейным отображением из L п × L д в Л р .Неравенство Юнга для свертки справедливо и в других контекстах (группа кругов, свертка на Z ). Предыдущее неравенство не является точным на действительной прямой: когда 1 < p , q , r < ∞ , существует константа B p , q < 1 такая, что:
Оптимальное значение B p , q было обнаружено в 1975 г. [22] и независимо в 1976 г. [23] см. неравенство Браскампа – Либа .
Более сильная оценка верна при условии, что 1 < p , q , r < ∞ :
где это слабый L д норма. Свертка также определяет билинейное непрерывное отображение. для , в силу слабого неравенства Юнга: [24]
Функции быстрого распада
[ редактировать ]Помимо функций с компактным носителем и интегрируемых функций, свертку можно также выполнить с функциями, которые имеют достаточно быстрое затухание на бесконечности. Важная особенность свертки состоит в том, что если f и g оба быстро затухают, то f ∗ g также быстро затухает. В частности, если f и g — быстро убывающие функции , то и свертка f ∗ g тоже . В сочетании с тем фактом, что свертка коммутирует с дифференцированием (см. #Свойства ), отсюда следует, что класс функций Шварца замкнут относительно свертки ( Stein & Weiss 1971 , теорема 3.3).
Распределения
[ редактировать ]Если f — гладкая функция с компактным носителем , а g — распределение, то f ∗ g — гладкая функция, определенная формулой
В более общем смысле, можно расширить определение свертки уникальным способом с помощью то же, что и f выше, так что ассоциативный закон
остается справедливым в случае, когда f — распределение, а g — распределение с компактным носителем ( Hörmander 1983 , §4.2).
Меры
[ редактировать ]Сверткой любых двух борелевских мер µ и ν ограниченной вариации является мера определено ( Рудин 1962 )
В частности,
где представляет собой измеримое множество и – индикаторная функция .
Это согласуется со сверткой, определенной выше, когда µ и ν рассматриваются как распределения, а также со сверткой L 1 функции, когда µ и ν абсолютно непрерывны относительно меры Лебега.
Свертка мер также удовлетворяет следующей версии неравенства Юнга
где норма – это полное изменение меры. Поскольку пространство мер ограниченной вариации является банаховым пространством , свертку мер можно обрабатывать стандартными методами функционального анализа , которые могут не применяться для свертки распределений.
Характеристики
[ редактировать ]Алгебраические свойства
[ редактировать ]Свертка определяет произведение в линейном пространстве интегрируемых функций. Это произведение удовлетворяет следующим алгебраическим свойствам, которые формально означают, что пространство интегрируемых функций с произведением, заданным сверткой, является коммутативной ассоциативной алгеброй без единицы ( Стрихарц 1994 , §3.3). Другие линейные пространства функций, такие как пространство непрерывных функций с компактным носителем, замкнуты относительно свертки и поэтому также образуют коммутативные ассоциативные алгебры.
- Коммутативность
- Доказательство: По определению: Изменение переменной интегрирования на результат следующий.
- Ассоциативность
- Доказательство: Это следует из использования теоремы Фубини (т. е. двойные интегралы можно вычислять как повторные интегралы в любом порядке).
- Дистрибутивность
- Доказательство. Это следует из линейности интеграла.
- Ассоциативность со скалярным умножением
- для любого действительного (или комплексного) числа .
- Мультипликативная идентичность
- Ни одна алгебра функций не обладает тождеством свертки. Отсутствие идентичности обычно не является серьезным неудобством, поскольку большинство наборов функций, над которыми выполняется свертка, могут быть свернуты с помощью дельта-распределения (унитарный импульс с центром в нуле) или, по крайней мере (как в случае с л 1 ) допускают приближения к тождеству . Однако линейное пространство распределений с компактным носителем допускает тождество при свертке. Конкретно, где δ — дельта-распределение.
- Обратный элемент
- Некоторые распределения S имеют обратный элемент S −1 для свертки, которая тогда должна удовлетворять откуда явная формула для S −1 можно получить. Множество обратимых распределений образует абелеву группу при свертке.
- Комплексное сопряжение
- Обращение времени
- Если затем
Доказательство (с использованием теоремы о свертке ):
- Связь с дифференциацией
- Доказательство:
- Связь с интеграцией
- Если и затем
Интеграция
[ редактировать ]Если f и g — интегрируемые функции, то интеграл от их свертки на всем пространстве просто получается как произведение их интегралов: [25]
Это следует из теоремы Фубини . Тот же результат справедлив, если f и g считать только неотрицательными измеримыми функциями по теореме Тонелли .
Дифференциация
[ редактировать ]В случае с одной переменной
где является производной . В более общем смысле, в случае функций нескольких переменных аналогичная формула справедлива с частной производной :
Особым следствием этого является то, что свертку можно рассматривать как операцию «сглаживания»: свертка f и g дифференцируема столько раз, сколько f и g в целом.
Эти тождества выполняются, например, при условии, что f и g абсолютно интегрируемы и хотя бы одно из них имеет абсолютно интегрируемое (L 1 ) слабая производная, как следствие неравенства свертки Юнга . Например, когда f непрерывно дифференцируема с компактным носителем, а g — произвольная локально интегрируемая функция,
Эти тождества также справедливы в гораздо более широком смысле в смысле умеренных распределений, если одно из f или g является быстро уменьшающееся умеренное распределение , компактно поддерживаемое умеренное распределение или функция Шварца, а другое — умеренное распределение. С другой стороны, две положительные интегрируемые и бесконечно дифференцируемые функции могут иметь нигде не непрерывную свертку.
В дискретном случае разностный оператор D f ( n ) = f ( n + 1) − f ( n ) удовлетворяет аналогичному соотношению:
Теорема о свертке
[ редактировать ]Теорема свертки утверждает, что [26]
где обозначает Фурье преобразование .
Свертка в других видах преобразований
[ редактировать ]Версии этой теоремы также справедливы для преобразования Лапласа , двустороннего преобразования Лапласа , Z-преобразования и преобразования Меллина .
Свертка на матрицах
[ редактировать ]Если – матрица преобразования Фурье , тогда
- ,
где это продукт, который разбивает лицо , [27] [28] [29] [30] [31] обозначает произведение Кронекера , обозначает произведение Адамара (этот результат представляет собой развитие графического эскиза свойств [32] ).
Это можно обобщить для соответствующих матриц :
от свойств торцевого продукта .
Трансляционная эквивалентность
[ редактировать ]Свертка коммутирует с переводами, а это означает, что
где τ x f — перевод функции f на x, определяемый формулой
Если f — функция Шварца , то τ x f — это свертка со сдвинутой дельта-функцией Дирака τ x f = f ∗ τ x δ . Итак, трансляционная инвариантность свертки функций Шварца является следствием ассоциативности свертки.
Более того, при определенных условиях свертка является наиболее общей инвариантной операцией трансляции. Неформально говоря, имеет место следующее
- Предположим, что S — ограниченный линейный оператор, действующий на функции, коммутирующие со сдвигами: S ( τ x f ) = τ x ( Sf ) для всех x . Тогда S задается как свертка с функцией (или распределением) g S ; то есть Sf знак равно грамм S * ж .
Таким образом, некоторые операции, инвариантные к трансляции, можно представить как свертку. Свертки играют важную роль в изучении стационарных систем , и особенно в теории систем LTI . Представляющая функция g S является импульсной характеристикой преобразования S .
Более точная версия приведенной выше теоремы требует указания класса функций, на которых определена свертка, а также требует дополнительно предположить, что S должен быть непрерывным линейным оператором относительно соответствующей топологии . Известно, например, что каждый непрерывный трансляционно-инвариантный непрерывный линейный оператор на L 1 — свертка с конечной борелевской мерой . В более общем смысле, каждый непрерывный линейный оператор, инвариантный к сдвигу, на L п при 1 ≤ p < ∞ — это свертка с умеренным распределением, которой преобразование Фурье ограничено. А именно, все они задаются ограниченными множителями Фурье .
Свертки на группах
[ редактировать ]Если G — подходящая группа, наделенная мерой λ , и если f и g — действительные или комплекснозначные интегрируемые функции на G , то мы можем определить их свертку формулой
Оно вообще не коммутативно. В типичных интересующих нас случаях G — локально компактная Хаусдорфа топологическая группа , а λ — (левая) мера Хаара . В этом случае, если G не является унимодулярным , свертка, определенная таким образом, не совпадает со сверткой. . Предпочтение одного над другим делается для того, чтобы свертка с фиксированной функцией g коммутировала с левым сдвигом в группе:
Кроме того, конвенция также необходима для обеспечения соответствия определению совокупности мер, приведенному ниже. Однако при использовании правой меры Хаара вместо левой последний интеграл предпочтительнее первого.
На локально компактных абелевых группах верна версия теоремы о свертке : преобразование Фурье свертки является поточечным произведением преобразований Фурье. Группа окружностей T с мерой Лебега является непосредственным примером. Для фиксированного g в L 1 ( T ), мы имеем следующий знакомый оператор, действующий в гильбертовом пространстве L 2 ( Т ):
Оператор T компактен . Непосредственный расчет показывает, что сопряженное к нему T* является сверткой с
По свойству коммутативности, указанному выше, T является нормальным : T * T = TT * . Кроме того, T коммутирует с операторами перевода. Рассмотрим семейство S операторов, состоящее из всех таких сверток и операторов перевода. Тогда S — коммутирующее семейство нормальных операторов. Согласно спектральной теории существует ортонормированный базис { hk } , который одновременно диагонализует S. , Это характеризует извилины на окружности. В частности, у нас есть
именно персонажами Т. которые являются Каждая свертка представляет собой компактный оператор умножения в этом базисе. Это можно рассматривать как версию теоремы о свертке, обсуждавшейся выше.
Дискретным примером является конечная циклическая группа порядка n . Операторы свертки здесь представлены циркулянтными матрицами и могут быть диагонализированы с помощью дискретного преобразования Фурье .
Аналогичный результат верен и для компактных групп (не обязательно абелевых): матричные коэффициенты конечномерных унитарных представлений образуют ортонормированный базис в L 2 по теореме Петера-Вейля , и аналог теоремы о свертке продолжает оставаться в силе, наряду со многими другими аспектами гармонического анализа , которые зависят от преобразования Фурье.
Свертка мер
[ редактировать ]Пусть G — (мультипликативно записанная) топологическая группа.Если µ и ν — конечные борелевские меры на G , то их свертка µ ∗ ν определяется как прямая мера и действия группы может быть записана как
для каждого измеримого подмножества E из G . Свертка также является конечной мерой, полная вариация которой удовлетворяет условию
В случае, когда G с локально компактна (левой) мерой Хаара λ, а µ и ν абсолютно непрерывны относительно λ, так что каждая из них имеет функцию плотности , то свертка µ∗ν также абсолютно непрерывна, и его функция плотности представляет собой просто свертку двух отдельных функций плотности.
Если µ и ν являются вероятностными мерами на топологической группе ( R ,+), то свертка µ ∗ ν представляет собой распределение вероятностей суммы X + Y двух независимых случайных величин X и Y, чьи соответствующие распределения равны µ и ν.
Инфимальная свертка
[ редактировать ]В выпуклом анализе инфимальная свертка собственных (не тождественных ) выпуклые функции на определяется: [33] Можно показать, что нижняя свертка выпуклых функций выпукла. Более того, он удовлетворяет тождеству, аналогичному тождеству преобразования Фурье традиционной свертки, причем роль преобразования Фурье вместо этого играет преобразование Лежандра : У нас есть:
Биалгебры
[ редактировать ]Пусть ( X , Δ, ∇, ε , η ) — биалгебра с коумножением Δ, умножением ∇, единицей η и единицей ε . Свертка — это произведение, определенное на алгебре эндоморфизмов End( X ) следующим образом. Пусть φ , ψ ∈ End( X ), то есть φ , ψ : X → X — функции, которые соблюдают всю алгебраическую структуру X , тогда свертка φ ∗ ψ определяется как композиция
Свертка особенно проявляется в определении алгебр Хопфа ( Кассель 1995 , §III.3). Биалгебра является алгеброй Хопфа тогда и только тогда, когда она имеет антипод: эндоморфизм S такой, что
Приложения
[ редактировать ]Свертка и связанные с ней операции встречаются во многих приложениях в науке, технике и математике.
- Сверточные нейронные сети применяют несколько каскадных ядер свертки с приложениями в машинном зрении и искусственном интеллекте . [34] [35] Хотя на самом деле в большинстве случаев это взаимные корреляции, а не свертки. [36]
- При нейронных сетей без использования обработке изображений
- При цифровой обработке изображений сверточная фильтрация играет важную роль во многих важных алгоритмах Ядро обнаружения границ и связанных с ними процессах (см. (обработка изображений) ).
- В оптике расфокусированная фотография представляет собой свертку резкого изображения с функцией линзы. Фотографический термин для этого — боке .
- В приложениях обработки изображений, таких как добавление размытия.
- В цифровой обработке данных
- В аналитической химии сглаживающие фильтры Савицкого – Голея используются для анализа спектроскопических данных. Они позволяют улучшить соотношение сигнал/шум с минимальными искажениями спектров.
- В статистике взвешенное скользящее среднее представляет собой свертку.
- В акустике от объектов , реверберация — это свертка исходного звука с эхом окружающих источник звука.
- При цифровой обработке сигналов свертка используется для отображения импульсной характеристики реальной комнаты на цифровой аудиосигнал.
- В электронной музыке свертка — это наложение спектральной на звук или ритмической структуры. Часто эта огибающая или структура взята из другого звука. Свертка двух сигналов — это фильтрация одного через другой. [37]
- В электротехнике свертка одной функции ( входного сигнала ) со второй функцией (импульсной характеристикой) дает на выходе линейную нестационарную систему (LTI). В любой момент выходной результат представляет собой совокупный эффект всех предыдущих значений входной функции, при этом самые последние значения обычно имеют наибольшее влияние (выраженное как мультипликативный коэффициент). Функция импульсного отклика определяет этот коэффициент как функцию времени, прошедшего с момента появления каждого входного значения.
- В физике везде, где существует линейная система с « принципом суперпозиции », появляется операция свертки. Например, в спектроскопии уширение линии из-за эффекта Доплера само по себе дает гауссову форму спектральной линии , а одно только уширение столкновений дает лоренцеву форму линии. Когда оба эффекта действуют, форма линии представляет собой свертку гауссовой и лоренцевой функции Фойгта .
- В флуоресцентной спектроскопии с временным разрешением сигнал возбуждения можно рассматривать как цепочку дельта-импульсов, а измеренную флуоресценцию представляет собой сумму экспоненциального затухания каждого дельта-импульса.
- В вычислительной гидродинамике модель с моделированием больших вихрей (LES) турбулентности использует операцию свертки, чтобы уменьшить диапазон масштабов длин, необходимых для вычислений, тем самым снижая вычислительные затраты.
- В теории вероятностей распределение вероятностей суммы двух независимых случайных величин представляет собой свертку их индивидуальных распределений.
- При оценке плотности ядра распределение оценивается по точкам выборки путем свертки с ядром, например изотропным гауссианом. [38]
- В системах планирования лучевой терапии большая часть всех современных кодов расчета применяет алгоритм свертки-суперпозиции . [ нужны разъяснения ]
- В структурной надежности индекс надежности можно определить на основе теоремы о свертке.
- Определение показателя надежности для функций предельного состояния с ненормальным распределением может быть установлено в соответствии с совместной функцией распределения . Фактически совместную функцию распределения можно получить с помощью теории свертки. [39]
- В гидродинамике сглаженных частиц моделирование гидродинамики рассчитывается с использованием частиц, каждая из которых имеет окружающие ядра. Для любой данной частицы , некоторая физическая величина рассчитывается как свертка с весовой функцией, где обозначает соседей частицы : те, которые расположены внутри его ядра. Свертка аппроксимируется суммированием по каждому соседу. [40]
- В дробном исчислении свертка играет важную роль в различных определениях дробного интеграла и дробной производной.
См. также
[ редактировать ]- Аналоговая обработка сигналов
- Циркулирующая матрица
- Свертка для оптических откликов широкого луча в рассеивающих средах
- Мощность свертки
- Коэффициент свертки
- Свертка Дирихле
- Обобщенное усреднение сигнала
- Список сверток вероятностных распределений
- Теория систем LTI # Импульсный отклик и свертка
- Многомерная дискретная свертка
- Масштабированная корреляция
- Теорема Титчмарша о свертке
- Матрица Теплица (свертки можно рассматривать как матричную операцию Теплица, где каждая строка представляет собой сдвинутую копию ядра свертки)
- Вейвлет-преобразование
Примечания
[ редактировать ]- ^ Причины для размышления включают:
- Необходимо реализовать эквивалент поточечного произведения преобразований Фурье и .
- Когда свертка рассматривается как скользящее взвешенное среднее , весовая функция , часто задается через другую функцию, , называемый импульсной характеристикой линейной стационарной системы .
- ^ Символ U+2217 * ОПЕРАТОР ЗВЕЗДКИ отличается от U+002A * ЗВЕЗДОЧКА , которая часто используется для обозначения комплексного сопряжения. См. Asterisk § Математическая типографика .
Ссылки
[ редактировать ]- ^ Бахри, Маварди; Асино, Рюичи; Вайянкур, Реми (2013). «Теоремы о свертке для кватернионного преобразования Фурье: свойства и приложения» (PDF) . Аннотация и прикладной анализ . 2013 : 1–10. дои : 10.1155/2013/162769 . Архивировано (PDF) из оригинала 21 октября 2020 г. Проверено 11 ноября 2022 г.
- ^ Смит, Стивен В. (1997). «13.Свертка» . Руководство для ученых и инженеров по цифровой обработке сигналов (1-е изд.). Калифорнийское техническое издательство. ISBN 0-9660176-3-3 . Проверено 22 апреля 2016 г.
- ^ Ирвин, Дж. Дэвид (1997). «4,3». Справочник по промышленной электронике (1-е изд.). Бока-Ратон, Флорида: CRC Press. п. 75. ИСБН 0-8493-8343-9 .
- ^ Дифференциальные уравнения (весна 2010 г.), MIT 18.03. «Лекция 21: Формула свертки» . Открытые курсы MIT . Массачусетский технологический институт . Проверено 22 декабря 2021 г.
{{cite web}}
: CS1 maint: числовые имена: список авторов ( ссылка ) - ^ «18.03SC Дифференциальные уравнения, осень 2011 г.» (PDF) . Формула Грина, преобразование Лапласа свертки . Архивировано (PDF) из оригинала 6 сентября 2015 г.
- ^ Домингес-Торрес, стр. 2
- ^ Домингес-Торрес, стр. 4
- ^ Р. Н. Брейсвелл (2005), «Ранние работы по теории изображений в радиоастрономии» , в книге У. Т. Салливана (редактор), « Ранние годы радиоастрономии: размышления через пятьдесят лет после открытия Янски» , издательство Cambridge University Press, стр. 172, ИСБН 978-0-521-61602-7
- ^ Джон Хилтон Грейс и Альфред Янг (1903), Алгебра инвариантов , Cambridge University Press, стр. 40
- ^ Леонард Юджин Диксон (1914), Алгебраические инварианты , Дж. Уайли, с. 85
- ^ В соответствии с[Лотар фон Вольферсдорф (2000), «Некоторые классы квадратных интегральных уравнений», Отчеты о заседании Саксонской академии наук в Лейпциге , Класс математических и естественных наук , том 128 , номер 2, 6–7], источник — Вольтерра, Вито (1913),«Уроки функций языка». Готье-Виллар, Париж, 1913 год.
- ^ Дамелин и Миллер 2011 , с. 219
- ^ Пресс, Уильям Х.; Фланнери, Брайан П.; Теукольский, Саул А.; Веттерлинг, Уильям Т. (1989). Численные рецепты в Паскале . Издательство Кембриджского университета. п. 450 . ISBN 0-521-37516-9 .
- ^ Рейдер, CM (декабрь 1972 г.). «Дискретные свертки посредством преобразований Мерсенна». Транзакции IEEE на компьютерах . 21 (12): 1269–1273. дои : 10.1109/TC.1972.223497 . S2CID 1939809 .
- ^ Виноград, Шмуэль (январь 1980 г.). Арифметическая сложность вычислений . Общество промышленной и прикладной математики. дои : 10.1137/1.9781611970364 . ISBN 978-0-89871-163-9 .
- ^ Ляхов, П.А.; Нагорнов Н.Н.; Семенова, Н. Ф.; Абдулсалямова А.С. (июнь 2023 г.). «Снижение вычислительной сложности обработки изображений с помощью вейвлет-преобразования на основе метода Винограда» . Распознавание образов и анализ изображений . 33 (2): 184–191. дои : 10.1134/S1054661823020074 . ISSN 1054-6618 . S2CID 259310351 .
- ^ Ву, Ди; Фан, Ситянь; Цао, Вэй; Ван, Линли (май 2021 г.). «SWM: высокопроизводительный ускоритель CNN с умножением разреженной матрицы Винограда» . Транзакции IEEE в системах очень большой интеграции (VLSI) . 29 (5): 936–949. дои : 10.1109/TVLSI.2021.3060041 . ISSN 1063-8210 . S2CID 233433757 .
- ^ Миттал, Спарш; Вибху (май 2021 г.). «Обзор архитектур ускорителей для 3D-нейронных сетей свертки» . Журнал системной архитектуры . 115 : 102041. doi : 10.1016/j.sysarc.2021.102041 . S2CID 233917781 .
- ^ Селесник, Иван В.; Буррус, К. Сидни (1999). «Быстрая свертка и фильтрация». В Мадисетти, Виджай К. (ред.). Справочник по цифровой обработке сигналов . ЦРК Пресс. п. Раздел 8. ISBN 978-1-4200-4563-5 .
- ^ Хуанг, Б.Х. «Лекция 21: Блочная свертка» (PDF) . EECS в Технологическом институте Джорджии. Архивировано (PDF) из оригинала 29 июля 2004 г. Проверено 17 мая 2013 г.
- ^ Гарднер, Уильям Г. (ноябрь 1994 г.). «Эффективная свертка без задержки ввода/вывода» (PDF) . Съезд Общества звукоинженеров 97 . Статья 3897. Архивировано (PDF) из оригинала 8 апреля 2015 г. Проверено 17 мая 2013 г.
- ^ Бекнер, Уильям (1975). «Неравенства в анализе Фурье». Анналы математики . Вторая серия. 102 (1): 159–182. дои : 10.2307/1970980 . JSTOR 1970980 .
- ^ Браскамп, Герм Ян; Либ, Эллиот Х. (1976). «Наилучшие константы в неравенстве Юнга, его обратном и его обобщении на более чем три функции» . Достижения в математике . 20 (2): 151–173. дои : 10.1016/0001-8708(76)90184-5 .
- ^ Рид и Саймон 1975 , IX.4
- ^ Вайсштейн, Эрик В. «Свертка» . mathworld.wolfram.com . Проверено 22 сентября 2021 г.
- ^ Вайсштейн, Эрик В. «Из MathWorld — веб-ресурс Wolfram» .
- ^ Слюсарь В.И. (27 декабря 1996 г.). «Конечные продукты в матрицах радиолокационных приложений» (PDF) . Радиоэлектроника и системы связи . 41 (3): 50–53. Архивировано (PDF) из оригинала 11 августа 2013 г.
- ^ Слюсарь, В.И. (20 мая 1997 г.). «Аналитическая модель цифровой антенной решетки на основе изделий с гранеразделительной матрицей» (PDF) . Учеб. ICATT-97, Киев : 108–109. Архивировано (PDF) из оригинала 11 августа 2013 г.
- ^ Слюсарь, В.И. (15 сентября 1997 г.). «Новые операции с матрицами для применения в радарах» (PDF) . Учеб. Прямые и обратные задачи теории электромагнитных и акустических волн (ДИПЕД-97), Львов. : 73–74. Архивировано (PDF) из оригинала 11 августа 2013 г.
- ^ Слюсарь В.И. (13 марта 1998 г.). «Семейство лицевых продуктов матриц и его свойства» (PDF) . Кибернетика и системный анализ К/С Кибернетика и Системный Анализ.- 1999 . 35 (3): 379–384. дои : 10.1007/BF02733426 . S2CID 119661450 . Архивировано (PDF) из оригинала 11 августа 2013 г.
- ^ Слюсарь, В.И. (2003). «Обобщенные грани-произведения матриц в моделях цифровых антенных решеток с неидентичными каналами» (PDF) . Радиоэлектроника и системы связи . 46 (10): 9–17. Архивировано (PDF) из оригинала 11 августа 2013 г.
- ^ Нинь, Фам; Паг, Расмус (2013). Быстрое и масштабируемое полиномиальное ядро с помощью явных карт признаков . Международная конференция SIGKDD по открытию знаний и интеллектуальному анализу данных. Ассоциация вычислительной техники. дои : 10.1145/2487575.2487591 .
- ^ Р. Тиррел Рокафеллар (1970), Выпуклый анализ , Princeton University Press
- ^ Чжан, Инцзе; Скоро, Хон Геок; Йе, Донсен; Фу, Джерри Ин Си; Чжу, Куньпэн (сентябрь 2020 г.). «Мониторинг процесса плавления в порошковом слое с помощью машинного зрения с помощью гибридных сверточных нейронных сетей» . Транзакции IEEE по промышленной информатике . 16 (9): 5769–5779. дои : 10.1109/TII.2019.2956078 . ISSN 1941-0050 . S2CID 213010088 .
- ^ Червяков Н.И.; Ляхов, П.А.; Дерябин, М.А.; Нагорнов Н.Н.; Валуева, М.В.; Валуев, Г.В. (сентябрь 2020 г.). «Решение на основе системы остаточных чисел для снижения стоимости оборудования сверточной нейронной сети» . Нейрокомпьютинг . 407 : 439–453. doi : 10.1016/j.neucom.2020.04.018 . S2CID 219470398 .
Сверточные нейронные сети представляют собой архитектуры глубокого обучения, которые в настоящее время используются в широком спектре приложений, включая компьютерное зрение, распознавание речи, анализ временных рядов в финансах и многие другие.
- ^ Атлас, Хомма и Маркс. «Искусственная нейронная сеть для пространственно-временных биполярных паттернов: применение к классификации фонем» (PDF) . Нейронные системы обработки информации (NIPS, 1987) . 1 . Архивировано (PDF) из оригинала 14 апреля 2021 г.
{{cite journal}}
: CS1 maint: несколько имен: список авторов ( ссылка ) - ^ Зёльцер, Удо, изд. (2002). DAFX:Цифровые аудиоэффекты , стр. 48–49. ISBN 0471490784 .
- ^ Диггл 1985 .
- ^ Гасеми и Новак 2017 .
- ^ Монаган, Джей-Джей (1992). «Гидродинамика сглаженных частиц» . Ежегодный обзор астрономии и астрофизики . 30 : 543–547. Бибкод : 1992ARA&A..30..543M . дои : 10.1146/annurev.aa.30.090192.002551 . Проверено 16 февраля 2021 г.
Дальнейшее чтение
[ редактировать ]- Брейсвелл, Р. (1986), Преобразование Фурье и его приложения (2-е изд.), МакГроу – Хилл, ISBN 0-07-116043-4 .
- Дамелин, С.; Миллер, В. (2011), Математика обработки сигналов , Cambridge University Press, ISBN 978-1107601048
- Диггл, П.Дж. (1985), «Метод ядра для сглаживания данных точечного процесса», Журнал Королевского статистического общества, серия C , 34 (2): 138–147, doi : 10.2307/2347366 , JSTOR 2347366 , S2CID 116746157
- Домингес-Торрес, Алехандро (2 ноября 2010 г.). «Происхождение и история свертки». 41 стр. https://slideshare.net/Alexdfar/origin-adn-history-of-convolution . Крэнфилд, Бедфорд MK43 OAL, Великобритания. Проверено 13 марта 2013 г.
- Гасеми, С. Хуман; Новак, Анджей С. (2017), «Индекс надежности ненормального распределения функций предельного состояния», Structural Engineering and Mechanics , 62 (3): 365–372, doi : 10.12989/sem.2017.62.3.365
- Гриншпан, А.З. (2017), «Неравенство для множественных сверток относительно вероятностной меры Дирихле», Успехи в прикладной математике , 82 (1): 102–119, doi : 10.1016/j.aam.2016.08.001
- Хьюитт, Эдвин; Росс, Кеннет А. (1979), Абстрактный гармонический анализ. Том I , Фундаментальные основы математических наук, том. 115 (2-е изд.), Берлин, Нью-Йорк: Springer-Verlag , ISBN 978-3-540-09434-0 , МР 0551496 .
- Хьюитт, Эдвин; Росс, Кеннет А. (1970), Абстрактный гармонический анализ. Том II: Структура и анализ компактных групп. Анализ локально компактных абелевых групп , The Basic Teachings of the Mathematical Sciences, Volume 152, Berlin, New York: Springer-Verlag , MR 0262773 .
- Хёрмандер, Л. (1983), Анализ линейных операторов в частных производных I , Grundl. Матем. наука., вып. 256, Спрингер, номер домена : 10.1007/978-3-642-96750-4 , ISBN. 3-540-12104-8 , МР 0717035 .
- Кассель, Кристиан (1995), Квантовые группы , Тексты для выпускников по математике, том. 155, Берлин, Нью-Йорк: Springer-Verlag , номер номера : 10.1007/978-1-4612-0783-2 , ISBN. 978-0-387-94370-1 , МР 1321145 .
- Кнут, Дональд (1997), Получисловые алгоритмы (3-е изд.), Ридинг, Массачусетс: Аддисон-Уэсли, ISBN 0-201-89684-2 .
- Наричи, Лоуренс; Бекенштейн, Эдвард (2011). Топологические векторные пространства . Чистая и прикладная математика (Второе изд.). Бока-Ратон, Флорида: CRC Press. ISBN 978-1584888666 . OCLC 144216834 .
- Рид, Майкл; Саймон, Барри (1975), Методы современной математической физики. II. Анализ Фурье, самосопряженность , Нью-Йорк-Лондон: Academic Press Харкорт Брейс Йованович, Издательство, стр. xv+361, ISBN 0-12-585002-6 , МР 0493420
- Рудин, Уолтер (1962), Фурье-анализ групп , Межнаучные трактаты по чистой и прикладной математике, том. 12, Нью-Йорк – Лондон: Interscience Publishers, ISBN. 0-471-52364-Х , МР 0152834 .
- Шефер, Хельмут Х .; Вольф, Манфред П. (1999). Топологические векторные пространства . ГТМ . Том. 8 (Второе изд.). Нью-Йорк, Нью-Йорк: Springer New York Выходные данные Springer. ISBN 978-1-4612-7155-0 . OCLC 840278135 .
- Штейн, Элиас ; Вайс, Гвидо (1971), Введение в анализ Фурье в евклидовых пространствах , Princeton University Press, ISBN 0-691-08078-Х .
- Соболев, В.И. (2001) [1994], «Свертка функций» , Энциклопедия Математики , EMS Press .
- Стрихарц, Р. (1994), Руководство по теории распределения и преобразованиям Фурье , CRC Press, ISBN 0-8493-8273-4 .
- Титчмарш, Э. (1948), Введение в теорию интегралов Фурье (2-е изд.), Нью-Йорк, Нью-Йорк: Chelsea Pub. Co. (опубликовано в 1986 г.), ISBN 978-0-8284-0324-5 .
- Тревес, Франсуа (2006) [1967]. Топологические векторные пространства, распределения и ядра . Минеола, Нью-Йорк: Dover Publications. ISBN 978-0-486-45352-1 . OCLC 853623322 .
- Улудаг, AM (1998), «О возможном ухудшении гладкости при операции свертки», J. Math. Анальный. Прил. , 227 (2): 335–358, doi : 10.1006/jmaa.1998.6091
- фон зур Гатен, Дж.; Герхард, Дж. (2003), Современная компьютерная алгебра , издательство Кембриджского университета, ISBN 0-521-82646-2 .
Внешние ссылки
[ редактировать ]- Самое раннее использование: запись о Convolution содержит некоторую историческую информацию.
- Свертка , в Книге по анализу данных
- https://jhu.edu/~signals/convolve/index.html Java-апплет визуальной свертки
- https://jhu.edu/~signals/discreteconv2/index.html Java-апплет визуальной свертки для функций дискретного времени
- https://get-the-solution.net/projects/discret-convolution онлайн-калькулятор дискретной свертки
- https://lpsa.swarthmore.edu/Convolution/CI.html Демонстрация свертки и визуализация в javascript
- https://phiresky.github.io/convolution-demo/ Еще одна демонстрация свертки на JavaScript.
- Лекции по обработке изображений: сборник из 18 лекций в формате pdf из Университета Вандербильта. Лекция 7 посвящена двумерной свертке. , Алан Питерс
- https://archive.org/details/Lectures_on_Image_Processing
- Интерактивное руководство по работе с маской ядра свертки
- Свертка в MathWorld
- Процессор импульсной характеристики Freeverb3 : процессор импульсной характеристики с открытой задержкой и плагинами VST.
- CS 178 Стэнфордского университета, Интерактивная Flash-демонстрация показывающая, как работает пространственная свертка.
- Видеолекция на тему свертки. Салмана Кхана
- Пример свертки БПФ для распознавания образов (обработка изображений)
- Интуитивное руководство по свертке. Сообщение в блоге об интуитивной интерпретации свертки.