Адаптивный алгоритм

Адаптивный алгоритм — это алгоритм , который меняет свое поведение во время запуска. ^[1] на основе доступной информации и заранее определенного механизма (или критерия) вознаграждения. Такая информация может представлять собой историю недавно полученных данных, информацию о доступных вычислительных ресурсах или другую информацию, полученную во время выполнения (или априори известную), связанную со средой, в которой он работает.

Среди наиболее часто используемых адаптивных алгоритмов — метод наименьших средних квадратов Видроу-Хоффа (LMS) , который представляет собой класс алгоритмов стохастического градиентного спуска, используемых в адаптивной фильтрации и машинном обучении. При адаптивной фильтрации LMS используется для имитации желаемого фильтра путем нахождения коэффициентов фильтра, которые относятся к созданию наименьшего среднего квадрата сигнала ошибки (разница между желаемым и фактическим сигналом).

Например, стабильный раздел , не использующий дополнительной памяти, равен O ( n lg n ), но при наличии O ( n ) памяти он может быть равен O ( n ) во времени. Как реализовано в стандартной библиотеке C++ , stable_partition является адаптивным, поэтому он получает столько памяти, сколько может получить (вплоть до того, что ему потребуется больше всего) и применяет алгоритм, используя эту доступную память. Другой пример — адаптивная сортировка , поведение которой меняется в зависимости от предварительной сортировки входных данных.

Примером адаптивного алгоритма в радиолокационных системах является детектор постоянной частоты ложных тревог (CFAR).

В машинном обучении и оптимизации многие алгоритмы являются адаптивными или имеют адаптивные варианты, что обычно означает, что параметры алгоритма, такие как скорость обучения , автоматически корректируются в соответствии со статистикой оптимизации на данный момент (например, скоростью сходимости ). ^[2] Примеры включают адаптивный моделируемый отжиг , адаптивный координатный спуск , адаптивную квадратуру , AdaBoost , Adagrad , Adadelta, RMSprop и Adam . ^[3]

При сжатии данных , алгоритмы адаптивного кодирования такие как адаптивное кодирование Хаффмана или прогнозирование путем частичного сопоставления, могут принимать поток данных в качестве входных данных и адаптировать свою технику сжатия на основе символов, с которыми они уже столкнулись. ^[4]

При обработке сигналов кодек Adaptive Transform Acoustic Coding (ATRAC), используемый в записывающих устройствах MiniDisc , называется «адаптивным», поскольку длина окна (размер аудио «куска») может меняться в зависимости от характера сжимаемого звука. для достижения наилучшей стратегии сжатия.

См. также

Ссылки

^ Энтони Закнич (25 апреля 2005 г.). Принципы адаптивных фильтров и самообучающихся систем . Springer Science & Business Media. ISBN 978-1-85233-984-5 .
^ Гудфеллоу, Ян ; Бенджио, Йошуа ; Курвиль, Аарон (2016). Глубокое обучение . МТИ Пресс. ISBN 978-0-26203561-3 .
^ Мерфи, Кевин (2021). Вероятностное машинное обучение: введение . МТИ Пресс . Проверено 10 апреля 2021 г. {{cite book}}: |website= игнорируется ( помогите )
^ Цзэнянь Ли; Марк С. Дрю; Цзянчуань Лю (9 апреля 2014 г.). Основы мультимедиа . Springer Science & Business Media. ISBN 978-3-319-05290-8 .

Эта программной инженерии, статья, посвященная является незавершенной . Вы можете помочь Википедии, расширив ее .

[Zaknich2005-1] Энтони Закнич (25 апреля 2005 г.). Принципы адаптивных фильтров и самообучающихся систем . Springer Science & Business Media. ISBN 978-1-85233-984-5 .

[2] Гудфеллоу, Ян ; Бенджио, Йошуа ; Курвиль, Аарон (2016). Глубокое обучение . МТИ Пресс. ISBN 978-0-26203561-3 .

[3] Мерфи, Кевин (2021). Вероятностное машинное обучение: введение . МТИ Пресс . Проверено 10 апреля 2021 г. {{cite book}}: |website= игнорируется ( помогите )

[LiDrew2014-4] Цзэнянь Ли; Марк С. Дрю; Цзянчуань Лю (9 апреля 2014 г.). Основы мультимедиа . Springer Science & Business Media. ISBN 978-3-319-05290-8 .

[1]

[2]

[3]

[4]