Теорема о разделении гиперплоскостей
Тип | Теорема |
---|---|
Поле | |
Предполагается | Герман Минковский |
Открытая проблема | Нет |
Обобщения | Теорема Хана – Банаха о разделении |
В геометрии — теорема об отделении гиперплоскости это теорема о непересекающихся выпуклых множествах в n -мерном евклидовом пространстве . Есть несколько довольно похожих версий. В одной из версий теоремы, если оба этих множества замкнуты и хотя бы одно из них компактно , то между ними существует гиперплоскость и даже две параллельные гиперплоскости между ними, разделенные промежутком. В другой версии, если оба непересекающихся выпуклых множества открыты, между ними есть гиперплоскость, но не обязательно какой-либо разрыв. Ось, ортогональная разделяющей гиперплоскости, является разделяющей осью , поскольку ортогональные проекции выпуклых тел на ось не пересекаются.
Теорема о разделении гиперплоскостей принадлежит Герману Минковскому . Теорема Хана-Банаха о разделении обобщает результат на топологические векторные пространства .
Связанный результат — теорема об опорной гиперплоскости .
В контексте машин опорных векторов оптимально разделяющая гиперплоскость или гиперплоскость с максимальным запасом — это гиперплоскость , которая разделяет две выпуклые оболочки точек и равноудалена от них. [ 1 ] [ 2 ] [ 3 ]
Заявления и доказательства
[ редактировать ]Теорема о разделении гиперплоскостей [ 4 ] - Позволять и — два непересекающихся непустых выпуклых подмножества . Тогда существует ненулевой вектор и реальное число такой, что
для всех в и в ; то есть гиперплоскость , нормальный вектор отделяет и .
Если оба множества замкнуты и хотя бы одно из них компактно, то разделение может быть строгим, т. е. для некоторых
Во всех случаях предполагайте быть непересекающимися, непустыми и выпуклыми подмножествами . Краткое изложение результатов следующее:
закрытый компактный | закрыто | с | |
закрыто | закрытый компактный | с | |
открыть | |||
открыть | открыть |
Число измерений должно быть конечным. В бесконечномерных пространствах есть примеры двух замкнутых, выпуклых, непересекающихся множеств, которые не могут быть разделены замкнутой гиперплоскостью (гиперплоскостью, в которой непрерывный линейный функционал равен некоторой константе) даже в слабом смысле, когда неравенства не являются строгими. [ 5 ]
Здесь компактность гипотезы ослабить нельзя; см. пример в разделе Контрпримеры и уникальность . Эта версия теоремы разделения действительно обобщается на бесконечномерные области; это обобщение более широко известно как теорема разделения Хана – Банаха .
Доказательство основано на следующей лемме:
Лемма — Пусть и быть двумя непересекающимися замкнутыми подмножествами и предположим компактен. Тогда существуют точки и минимизация расстояния над и .
Позволять и — любая пара точек, и пусть . С компактен, он содержится в некотором шаре с центром ; пусть радиус этого шара будет . Позволять быть пересечением с закрытым шаром радиуса вокруг . Затем компактен и непуст, поскольку содержит . Поскольку функция расстояния непрерывна, существуют точки и чье расстояние является минимумом по всем парам точек в . Осталось показать, что и фактически имеют минимальное расстояние по всем парам точек в . Предположим от противного, что существуют точки и такой, что . Тогда, в частности, , и по неравенству треугольника . Поэтому содержится в , что противоречит тому факту, что и имел минимальное расстояние более .
Сначала докажем второй случай. (Смотрите схему.)
ВЛОГ, компактен. По лемме существуют точки и минимального расстояния друг от друга. С и непересекающиеся, мы имеем . Теперь построим две гиперплоскости перпендикулярно отрезку , с через и через . Мы утверждаем, что ни ни входит в пространство между , и, следовательно, перпендикулярные гиперплоскости к удовлетворяют требованию теоремы.
Алгебраически гиперплоскости определяются вектором и две константы , такой, что . Наше утверждение состоит в том, что и .
Предположим, есть какой-то такой, что , тогда пусть быть основанием перпендикуляра из к отрезку прямой . С является выпуклым, находится внутри , и по плоской геометрии, ближе к чем , противоречие. Аналогичный аргумент применим и к .
Теперь о первом случае.
Подход к обоим изнутри через и , такой, что каждый замкнуто и компактно, а объединения являются относительными внутренностями . (Подробную информацию см . на соответствующей внутренней странице.)
Теперь во втором случае для каждой пары существует некоторый единичный вектор и реальное число , такой, что .
Поскольку единичная сфера компактна, мы можем взять сходящую подпоследовательность, так что . Позволять . Мы утверждаем, что , таким образом отделяя .
Предположим, что нет, тогда существует некоторое такой, что , то поскольку , для достаточно большого , у нас есть , противоречие.
Поскольку разделяющая гиперплоскость не может пересекать внутренности открытых выпуклых множеств, имеем следствие:
Теорема разделения I. Пусть и — два непересекающихся непустых выпуклых множества. Если открыт, то существует ненулевой вектор и реальное число такой, что
для всех в и в . Если оба множества открыты, то существует ненулевой вектор и реальное число такой, что
для всех в и в .
Случай с возможными пересечениями
[ редактировать ]Если наборы имеют возможные пересечения, но их относительные внутренности не пересекаются, то доказательство первого случая по-прежнему применимо без изменений, что дает:
Теорема разделения II . Пусть и — два непустых выпуклых подмножества с непересекающимися относительными интерьерами. Тогда существует ненулевой вектор и реальное число такой, что
в частности, у нас есть теорема об опорной гиперплоскости .
Поддержка теоремы о гиперплоскости - если является выпуклым множеством в и точка на границе это , то существует опорная гиперплоскость содержащий .
Если аффинный интервал это еще не все , затем расширьте аффинный пролет до опорной гиперплоскости. Еще, не пересекается с , поэтому применим приведенную выше теорему.
Обратная теорема
[ редактировать ]Обратите внимание, что существование гиперплоскости, которая «разделяет» два выпуклых множества только в слабом смысле нестрогих обоих неравенств, очевидно, не означает, что эти два множества не пересекаются. Оба множества могут иметь точки, расположенные на гиперплоскости.
Контрпримеры и уникальность
[ редактировать ]Если один из A или B не выпуклый, то существует множество возможных контрпримеров. Например, A и B могут быть концентрическими кругами. Более тонкий контрпример — это тот, в котором оба A и B замкнуты, но ни один из них не компактен. Например, если A — замкнутая полуплоскость и B ограничена одним плечом гиперболы, то строго разделяющей гиперплоскости не существует:
(Хотя, согласно второй теореме, существует гиперплоскость, разделяющая их внутренности.) Другой тип контрпримера имеет A компактный и B открытый. Например, A может быть закрытым квадратом, а B может быть открытым квадратом, A. касающимся
В первом варианте теоремы, очевидно, разделяющая гиперплоскость никогда не бывает единственной. Во второй версии он может быть уникальным, а может и не быть. Технически разделяющая ось никогда не бывает уникальной, поскольку ее можно перемещать; во втором варианте теоремы разделяющая ось может быть единственной с точностью до переноса.
Угол рога является хорошим контрпримером для многих случаев разделения гиперплоскостей. Например, в , единичный круг не пересекается с открытым интервалом , но единственная линия, разделяющая их, содержит все . Это показывает, что если закрыт и относительно открыт, то не обязательно существует строгое для . Однако, если является замкнутым многогранником , то такое разделение существует. [ 6 ]
Больше вариантов
[ редактировать ]Лемму Фаркаша и связанные с ней результаты можно понимать как теоремы разделения гиперплоскостей, когда выпуклые тела определяются конечным числом линейных неравенств.
Можно найти больше результатов. [ 6 ]
Использование при обнаружении столкновений
[ редактировать ]При обнаружении столкновений теорема разделения гиперплоскостей обычно используется в следующей форме:
Теорема о разделяющей оси . Два замкнутых выпуклых объекта не пересекаются, если существует линия («разделяющая ось»), на которую проекции двух объектов не пересекаются.
Независимо от размерности разделяющая ось всегда представляет собой линию. Например, в 3D пространство разделено плоскостями, но разделяющая ось перпендикулярна разделяющей плоскости.
Теорему о разделяющей оси можно применить для быстрого обнаружения столкновений между полигональными сетками. каждой грани Нормаль или направление другого элемента используется в качестве разделительной оси. Обратите внимание, что это дает возможное разделение осей, а не разделение линий/плоскостей.
В 3D использование только нормалей граней не позволит разделить некоторые непересекающиеся случаи, связанные с ребром. Требуются дополнительные оси, состоящие из векторных произведений пар ребер, взятых по одному от каждого объекта. [ 7 ]
Для повышения эффективности параллельные оси могут рассчитываться как одна ось.
См. также
[ редактировать ]Примечания
[ редактировать ]- ^ Хасти, Тревор ; Тибширани, Роберт ; Фридман, Джером (2008). Элементы статистического обучения: интеллектуальный анализ данных, вывод и прогнозирование (PDF) (второе изд.). Нью-Йорк: Спрингер. стр. 129–135.
- ^ Виттен, Ян Х.; Фрэнк, Эйбе; Холл, Марк А.; Пал, Кристофер Дж. (2016). Интеллектуальный анализ данных: практические инструменты и методы машинного обучения (Четвертое изд.). Морган Кауфманн. стр. 253–254. ISBN 9780128043578 .
- ^ Дейзенрот, Марк Питер; Фейсал, А. Альдо; Онг, Ченг Сун (2020). Математика для машинного обучения . Издательство Кембриджского университета. стр. 337–338. ISBN 978-1-108-45514-5 .
- ^ Бойд и Ванденбергхе, 2004 , Упражнение 2.22.
- ^ Хаим Брезис , Функциональный анализ: теория и приложения , 1983, примечание 4, с. 7.
- ^ Jump up to: а б Стер, Йозеф; Вицгалл, Кристоф (1970). Выпуклость и оптимизация в конечных размерностях I . Шпрингер Берлин, Гейдельберг. (2.12.9). дои : 10.1007/978-3-642-46216-0 . ISBN 978-3-642-46216-0 .
- ^ «Продвинутая векторная математика» .
Ссылки
[ редактировать ]- Бойд, Стивен П.; Ванденберге, Ливен (2004). Выпуклая оптимизация (PDF) . Издательство Кембриджского университета. ISBN 978-0-521-83378-3 .
- Гольштейн Е.Г.; Третьяков, Н.В. (1996). Модифицированные лагранжианы и монотонные отображения в оптимизации . Нью-Йорк: Уайли. п. 6. ISBN 0-471-54821-9 .
- Симидзу, Киётака; Ишизука, Йо; Бард, Джонатан Ф. (1997). Недифференцируемое и двухуровневое математическое программирование . Бостон: Академическое издательство Kluwer. п. 19. ISBN 0-7923-9821-1 .
- Солтан, В. (2021). Носители и свойства отделимости выпуклых множеств конечной размерности . Экстракт математики. Том. 36, нет. 2, 241–278.