Захват движения
В этой статье есть несколько проблем. Пожалуйста, помогите улучшить его или обсудите эти проблемы на странице обсуждения . ( Узнайте, как и когда удалять эти шаблонные сообщения )
|
Захват движения (иногда называемый mo-cap или mocap , для краткости) — это процесс записи движения объектов или людей. Он используется в военных , развлекательных , спортивных , медицинских целях, а также для проверки компьютерного зрения. [ 3 ] и роботы. [ 4 ] В кинопроизводстве и разработке видеоигр это означает запись действий актеров и использование этой информации для анимации цифровых моделей персонажей в 2D или 3D компьютерной анимации . [ 5 ] [ 6 ] [ 7 ] Когда он включает в себя лицо и пальцы или фиксирует тонкие выражения лиц, его часто называют захватом перформанса . [ 8 ] Во многих областях захват движения иногда называют отслеживанием движения , но в кинопроизводстве и играх отслеживание движения обычно больше соответствует движению .
В сеансах захвата движения движения одного или нескольких актеров считываются много раз в секунду. В то время как ранние методы использовали изображения с нескольких камер для расчета трехмерных позиций , [ 9 ] часто целью захвата движения является запись только движений актера, а не его внешнего вида. Эти данные анимации сопоставляются с 3D-моделью, так что модель выполняет те же действия, что и актер. Этот процесс можно противопоставить более старой технике ротоскопирования .
Движения камеры также могут быть захвачены, так что виртуальная камера в сцене будет панорамировать, наклонять или перемещаться по сцене, управляемая оператором камеры во время выступления актера. В то же время система захвата движения может захватывать камеру и реквизит, а также игру актера. Это позволяет сгенерированным компьютером персонажам, изображениям и декорациям иметь ту же перспективу, что и видеоизображения с камеры. Компьютер обрабатывает данные и отображает движения актера, обеспечивая желаемые положения камеры относительно объектов декорации. Получение задним числом данных о движении камеры из отснятого материала называется совпадающим перемещением или отслеживанием камеры .
Первый виртуальный актер, анимированный с помощью захвата движения, был создан в 1993 году Дидье Пурселем и его командой в Грибуй. Он включал в себя «клонирование» тела и лица французского комика Ришара Борингера, а затем их анимацию с помощью еще только зарождающихся инструментов захвата движения.
Преимущества
[ редактировать ]Этот раздел нуждается в дополнительных цитатах для проверки . ( февраль 2014 г. ) |
Захват движения имеет ряд преимуществ перед традиционной компьютерной анимацией 3D-модели:
- Могут быть получены результаты с низкой задержкой, близкие к реальному времени. В развлекательных приложениях это может снизить затраты на анимацию на основе ключевых кадров . [ 10 ] Техника передачи является примером этого.
- Объем работы не меняется в зависимости от сложности или продолжительности исполнения в такой степени, как при использовании традиционных техник. Это позволяет проводить множество тестов с использованием разных стилей и постановок, придавая отчетливую индивидуальность, которая ограничивается только талантом актера.
- Сложные движения и реалистичные физические взаимодействия, такие как вторичные движения , вес и обмен силами, можно легко воссоздать физически точно. [ 11 ]
- Объем анимационных данных, которые могут быть созданы за заданное время, чрезвычайно велик по сравнению с традиционными методами анимации. Это способствует как экономической эффективности, так и соблюдению сроков производства. [ 12 ]
- Потенциал для бесплатного программного обеспечения и сторонних решений, позволяющий снизить затраты.
Недостатки
[ редактировать ]Этот раздел нуждается в дополнительных цитатах для проверки . ( февраль 2014 г. ) |
- Для получения и обработки данных требуется специальное оборудование и специальное программное обеспечение.
- Стоимость программного обеспечения, оборудования и необходимого персонала может оказаться непомерно высокой для небольших производств.
- Система захвата может иметь особые требования к пространству, в котором она работает, в зависимости от поля зрения камеры или магнитных искажений.
- При возникновении проблем проще снять сцену еще раз, чем пытаться манипулировать данными. Лишь немногие системы позволяют просматривать данные в режиме реального времени, чтобы решить, нужно ли переделывать дубль.
- Первоначальные результаты ограничены тем, что можно выполнить в объеме захвата без дополнительного редактирования данных.
- Движение, не подчиняющееся законам физики, невозможно уловить.
- Традиционные методы анимации, такие как дополнительный акцент на предвкушении и доведении до конца, вторичном движении или манипулировании формой персонажа, как в случае с методами анимации сжатия и растяжения , должны быть добавлены позже.
- Если пропорции компьютерной модели отличаются от пропорций объекта съемки, могут возникнуть артефакты. Например, если у персонажа мультфильма большие, слишком большие руки, они могут пересекать тело персонажа, если исполнитель не будет осторожен с физическими движениями.
Приложения
[ редактировать ]Этот раздел нуждается в дополнительных цитатах для проверки . ( февраль 2013 г. ) |
Существует множество приложений Motion Capture. Наиболее распространены видеоигры, фильмы и захват движения, однако существует исследовательское применение этой технологии, используемое в Университете Пердью при разработке робототехники.
Видеоигры
[ редактировать ]Видеоигры часто используют захват движения для анимации спортсменов, мастеров боевых искусств и других игровых персонажей. [ 13 ] [ 14 ] Еще в 1988 году ранняя форма захвата движения использовалась для анимации 2D- Martech Vixen ( персонажей видеоигры в исполнении модели Коринн Рассел ). [ 15 ] и от Magical Company 2D аркадный файтинг Last Apostle Puppet Show (для анимации оцифрованных спрайтов ). [ 16 ] Захват движения позже использовался, в частности, для анимации 3D- моделей персонажей в Sega Model аркадных играх Virtua Fighter (1993). [ 17 ] [ 18 ] и Виртуа Файтер 2 (1994). [ 19 ] В середине 1995 года у разработчика и издателя Acclaim Entertainment была собственная студия захвата движения, встроенная в штаб-квартиру. [ 14 ] Namco от В аркадной игре Soul Edge 1995 года для захвата движения использовались маркеры пассивной оптической системы. [ 20 ] Технология захвата движения также используется спортсменами в анимационных играх, таких как Naughty Dog от Crash Bandicoot , от Insomniac Games и Spyro the Dragon Dinosaur Rare от Planet .
Робототехника
[ редактировать ]Позиционирование в помещении — еще одно применение оптических систем захвата движения. Исследователи робототехники часто используют системы захвата движения при разработке и оценке алгоритмов и оборудования управления, оценки и восприятия. На открытом воздухе можно достичь точности до сантиметра, используя глобальную навигационную спутниковую систему ( GNSS ) вместе с кинематикой реального времени ( RTK ). Однако это значительно снижается, когда спутники не находятся в прямой видимости, например, в помещении. Большинство поставщиков, продающих коммерческие оптические системы захвата движения, предоставляют доступные драйверы с открытым исходным кодом, которые интегрируются с популярной платформой Robotic Operating System ( ROS ), что позволяет исследователям и разработчикам эффективно тестировать своих роботов во время разработки.
В области исследований в области воздушной робототехники системы захвата движения также широко используются для позиционирования. Правила использования воздушного пространства ограничивают возможность проведения экспериментов на открытом воздухе с использованием беспилотных авиационных систем ( БПЛА ). Тесты в помещении могут обойти такие ограничения. Многие лаборатории и учреждения по всему миру построили для этой цели камеры для захвата движения в закрытых помещениях.
В Университете Пердью на территории исследовательско-испытательного центра Purdue UAS (PURT) находится крупнейшая в мире внутренняя система захвата движения. PURT занимается исследованиями БПЛА и обеспечивает отслеживание объёма в 600 000 кубических футов с помощью 60 камер захвата движения. [ 21 ] Оптическая система захвата движения способна отслеживать цели в своем объеме с точностью до миллиметра, эффективно обеспечивая истинное положение целей — «основа» в исследованиях и разработках. Результаты, полученные от других датчиков и алгоритмов, затем можно сравнить с наземными данными, чтобы оценить их эффективность.
Фильмы
[ редактировать ]В фильмах захват движения используется для CGI-эффектов, в некоторых случаях заменяющих традиционную cel-анимацию, и для полностью CGI- существ, таких как Горлум , Мумия , Кинг-Конг , Дэйви Джонс из «Пиратов Карибского моря» , На’ви из фильма «Аватар» и Клу из «Трон: Наследие» . Великий гоблин, три каменных тролля , многие орки и гоблины в фильме 2012 года «Хоббит: Нежданное путешествие » и Смауг были созданы с помощью захвата движения.
В фильме «Бэтмен навсегда» (1995) для некоторых визуальных эффектов использовался захват движения. Warner Bros. приобрела технологию захвата движения у компании Acclaim Entertainment, производящей аркадные видеоигры , для использования в производстве фильма. [ 22 ] Acclaim 1995 года В одноименной видеоигре также использовалась та же технология захвата движения для анимации оцифрованной спрайтовой графики. [ 23 ]
«Звездные войны: Эпизод I – Скрытая угроза» (1999) был первым полнометражным фильмом, в котором главный герой был создан с использованием захвата движения (этим персонажем был Джа-Джа Бинкс , которого играет Ахмед Бест ), а также индийско - американский фильм «Синдбад: За гранью» . «Завеса туманов» (2000) была первым полнометражным фильмом, снятым в основном с использованием захвата движения, хотя над фильмом, вышедшим очень ограниченным тиражом, также работали многие аниматоры персонажей. 2001 года «Последняя фантазия: Духи внутри» стал первым широко выпущенным фильмом, снятым с использованием технологии захвата движения. Несмотря на низкие кассовые сборы, сторонники технологии захвата движения обратили на нее внимание. Total Recall уже использовала эту технику в сцене с рентгеновским сканером и скелетами.
«Властелин колец: Две башни» стал первым художественным фильмом, в котором использовалась система захвата движения в реальном времени. Этот метод транслировал действия актера Энди Серкиса в сгенерированный компьютером образ Голлума / Смеагола во время его исполнения. [ 24 ]
Storymind Entertainment, независимая украинская студия, создала в стиле нео-нуар от третьего лица видеоигру-шутер под названием My Eyes On You , используя захват движения для анимации главного героя, Джордана Адалиена, а также неигровых персонажей. [ 25 ]
Из трёх номинантов на премию Оскар 2006 года за лучший анимационный полнометражный фильм двое ( «Дом монстров» и победитель «Счастливые ноги ») использовали захват движения, и только Disney · Pixar » «Тачки были анимированы без захвата движения. В финальных титрах Pixar фильма студии «Рататуй » появляется штамп с надписью «100% настоящая анимация – без захвата движения!»
С 2001 года захват движения широко используется для имитации или приближения к внешнему виду живого театра с использованием почти фотореалистичных цифровых моделей персонажей. В «Полярном экспрессе» использовался захват движения, чтобы Том Хэнкс мог выступать в роли нескольких отдельных цифровых персонажей (в которых он также озвучивал). Адаптация 2007 года саги «Беовульф» с анимационными цифровыми персонажами, внешний вид которых частично был основан на актерах, обеспечивших свои движения и голоса. » Джеймса Кэмерона Очень популярный «Аватар использовал эту технику для создания На'ви, населяющих Пандору. компания Walt Disney выпустила Роберта Земекиса . «Рождественскую историю» Используя эту технику, Земекиса В 2007 году Disney приобрела компанию ImageMovers Digital (которая производит фильмы с захватом движения), но затем закрыла ее в 2011 году после провала в прокате фильма « Марсу нужны мамы » .
Телесериалы, полностью созданные с использованием анимации захвата движения, включают Laflaque в Канаде, Sprookjesboom и Cafe de Wereld. [ нл ] в Нидерландах и Headcases в Великобритании.
Захват движения
[ редактировать ]Поставщики виртуальной и дополненной реальности , такие как uSens и Gestigon , позволяют пользователям взаимодействовать с цифровым контентом в реальном времени, фиксируя движения рук. Это может быть полезно для обучающих симуляций, тестов визуального восприятия или выполнения виртуальных прохождений в 3D-среде. Технология захвата движения часто используется в цифровых кукольных системах для управления компьютерными персонажами в реальном времени.
Анализ походки — одно из применений захвата движения в клинической медицине . Методы позволяют врачам оценивать движения человека по нескольким биомеханическим факторам, часто одновременно передавая эту информацию в реальном времени в аналитическое программное обеспечение.
Одним из инновационных применений является распознавание позы, которое может расширить возможности пациентов во время послеоперационного восстановления или реабилитации после травм. Этот подход обеспечивает непрерывный мониторинг, руководство в режиме реального времени и индивидуально адаптированные программы для улучшения результатов лечения пациентов. [ 26 ]
Некоторые клиники физиотерапии используют захват движения как объективный способ количественной оценки прогресса пациента. [ 27 ]
Во время съемок «Аватара» Джеймса Кэмерона все сцены с захватом движения были сняты в режиме реального времени с использованием программного обеспечения Autodesk MotionBuilder для рендеринга изображения на экране, что позволило режиссеру и актеру увидеть, как они будут выглядеть в фильме, что облегчило задачу. снять фильм так, как его увидит зритель. Этот метод позволял видеть виды и ракурсы, недоступные для предварительно визуализированной анимации. Кэмерон так гордился своими результатами, что пригласил на съемочную площадку Стивена Спилберга и Джорджа Лукаса , чтобы увидеть систему в действии.
В «Мстителях » от Marvel Марк Руффало использовал захват движения, чтобы сыграть своего персонажа Халка , а не использовать только компьютерную графику, как в предыдущих фильмах, что сделало Руффало первым актером, сыгравшим как человеческую, так и Халковую версию Брюса Бэннера.
Программное обеспечение FaceRig использует технологию распознавания лиц от ULSee.Inc для отображения выражений лица игрока и технологию отслеживания тела от Perception Neuron для сопоставления движений тела с движениями 2D- или 3D-персонажа на экране. [ 28 ] [ 29 ]
Во время конференции разработчиков игр 2016 года в Сан-Франциско Epic Games продемонстрировала захват движения всего тела вживую в Unreal Engine. Вся сцена из грядущей игры Hellblade о женщине-воине по имени Сенуа была визуализирована в реальном времени. Основной доклад [ 30 ] был результатом сотрудничества Unreal Engine , Ninja Theory , 3Lateral , Cubic Motion , IKinema и Xsens .
В 2020 году двукратный олимпийский чемпион по фигурному катанию Юдзуру Ханю окончил университет Васэда . В своей диссертации он проанализировал свои прыжки, используя данные 31 датчика, размещенного на его теле. Он оценил использование технологий как для улучшения системы подсчета очков, так и для того, чтобы помочь фигуристам улучшить технику прыжков. [ 31 ] [ 32 ] В марте 2021 года краткое содержание диссертации было опубликовано в научном журнале. [ 33 ]
Методы и системы
[ редактировать ]Отслеживание движения или захват движения началось как инструмент фотограмметрического анализа в исследованиях биомеханики в 1970-х и 1980-х годах, а распространилось на образование, обучение, спорт и, в последнее время, на компьютерную анимацию для телевидения , кино и видеоигр по мере развития технологии . С 20 века исполнителю приходится носить маркеры возле каждого сустава, чтобы определять движение по положениям или углам между маркерами. Акустические, инерционные, светодиодные , магнитные или отражающие маркеры или их комбинации отслеживаются, оптимально по меньшей мере в два раза превышая частоту желаемого движения. Разрешение системы важно как с точки зрения пространственного разрешения, так и с точки зрения временного разрешения, поскольку размытие изображения в движении вызывает почти те же проблемы, что и низкое разрешение. С начала 21 века – в связи с быстрым развитием технологий – были разработаны новые методы. Большинство современных систем способны извлечь силуэт исполнителя из фона. После этого все углы суставов рассчитываются путем подгонки математической модели к силуэту. Для движений вы не можете увидеть изменение силуэта. Существуют гибридные системы, которые могут делать и то, и другое (маркер и силуэт), но с меньшим количеством маркеров. [ нужна ссылка ] В робототехнике некоторые системы захвата движения основаны на одновременной локализации и картографировании . [ 34 ]
Оптические системы
[ редактировать ]Оптические системы используют данные, полученные от датчиков изображения, для триангуляции трехмерного положения объекта между двумя или более камерами, откалиброванными для обеспечения перекрывающихся проекций. Сбор данных традиционно осуществляется с помощью специальных маркеров, прикрепленных к актеру; однако более современные системы способны генерировать точные данные, отслеживая особенности поверхности, динамически определяемые для каждого конкретного объекта. Отслеживание большого количества исполнителей или расширение зоны захвата осуществляется за счет добавления большего количества камер. Эти системы производят данные с тремя степенями свободы для каждого маркера, а информацию о вращении необходимо получать на основе относительной ориентации трех или более маркеров; например, маркеры плеч, локтей и запястий, показывающие угол локтя. Новые гибридные системы сочетают в себе инерционные датчики с оптическими датчиками, чтобы уменьшить окклюзию, увеличить количество пользователей и улучшить возможности отслеживания без необходимости очистки данных вручную. [ 35 ]
Пассивные маркеры
[ редактировать ]В пассивных оптических системах используются маркеры, покрытые световозвращающим материалом для отражения света, генерируемого возле объектива камеры. Порог камеры можно отрегулировать таким образом, чтобы считывались только яркие отражающие маркеры, игнорируя кожу и ткань.
Центр тяжести маркера оценивается как позиция внутри захваченного двумерного изображения. Значение шкалы серого каждого пикселя можно использовать для обеспечения субпиксельной точности путем нахождения центроида гауссианы .
Объект с маркерами, прикрепленными к известным положениям, используется для калибровки камер и определения их положения, а также измеряется искажение объектива каждой камеры. Если две калиброванные камеры видят маркер, можно получить трехмерную фиксацию. Обычно система состоит из от 2 до 48 камер. Существуют системы, состоящие из более чем трехсот камер, чтобы попытаться уменьшить замену маркеров. Для полного охвата объекта съемки и нескольких объектов требуются дополнительные камеры.
У поставщиков есть программное обеспечение для ограничения, позволяющее уменьшить проблему замены маркеров, поскольку все пассивные маркеры выглядят одинаково. В отличие от систем активной маркировки и магнитных систем, пассивные системы не требуют от пользователя ношения проводов или электронного оборудования. [ 36 ] Вместо этого сотни резиновых шариков прикреплены светоотражающей лентой, которую необходимо периодически заменять. Маркеры обычно прикрепляются непосредственно к коже (как в биомеханике) или прикрепляются к исполнителю, одетому в костюм из спандекса/лайкры, закрывающий все тело, разработанный специально для захвата движения . Системы этого типа могут захватывать большое количество маркеров с частотой кадров, обычно от 120 до 160 кадров в секунду, хотя, снизив разрешение и отслеживая меньшую область интереса, они могут отслеживать скорость до 10 000 кадров в секунду.
Активный маркер
[ редактировать ]Активные оптические системы триангулируют положения, очень быстро освещая один светодиод за раз или несколько светодиодов с помощью программного обеспечения, которое идентифицирует их по относительному положению, что чем-то похоже на небесную навигацию. Вместо того, чтобы отражать свет, генерируемый извне, сами маркеры излучают собственный свет. Поскольку закон обратных квадратов обеспечивает четверть мощности на двукратном расстоянии, это может увеличить расстояния и объем захвата. Это также обеспечивает высокое соотношение сигнал/шум, что приводит к очень низкому джиттеру маркера и, как следствие, к высокому разрешению измерений (часто до 0,1 мм в пределах калиброванного объема).
В сериале «Звездные врата: SG1» были созданы эпизоды с использованием активной оптической системы для визуальных эффектов, позволяющей актеру ходить вокруг реквизита, что затрудняло бы захват движения для других неактивных оптических систем. [ нужна ссылка ]
ILM использовала активные маркеры в «Ван Хельсинге», чтобы позволить запечатлеть летающих невест Дракулы на очень больших наборах, аналогично тому, как Weta использовала активные маркеры в « Восстании планеты обезьян» . Питание каждого маркера может подаваться последовательно синфазно, при этом система захвата обеспечивает уникальную идентификацию каждого маркера для данного кадра захвата за счет результирующей частоты кадров. Возможность идентифицировать каждый маркер таким образом полезна в приложениях реального времени. Альтернативный метод идентификации маркеров — алгоритмический, требующий дополнительной обработки данных.
Также есть возможность найти положение с помощью цветных светодиодных маркеров. В этих системах каждый цвет закреплен за определенной точкой тела.
Одной из первых систем активных маркеров в 1980-х годах была гибридная пассивно-активная система мокапов с вращающимися зеркалами и отражающими маркерами из цветного стекла, в которой использовались линейные матричные детекторы в маске.
Модулированный по времени активный маркер
[ редактировать ]Системы активных маркеров можно дополнительно усовершенствовать путем стробирования одного маркера за раз или отслеживания нескольких маркеров с течением времени и модуляции амплитуды или ширины импульса для обеспечения идентификации маркера. Модулированные системы с пространственным разрешением 12 мегапикселей демонстрируют более тонкие движения, чем оптические системы с разрешением 4 мегапикселя, поскольку имеют более высокое пространственное и временное разрешение. Режиссеры могут видеть игру актера в режиме реального времени и наблюдать за результатами компьютерной графики, созданной с помощью захвата движения. Уникальные идентификаторы маркеров сокращают время обработки, устраняя замену маркеров и обеспечивая гораздо более чистые данные, чем другие технологии. Светодиоды со встроенной обработкой и радиосинхронизацией позволяют захватывать движение на открытом воздухе под прямыми солнечными лучами при скорости от 120 до 960 кадров в секунду благодаря высокоскоростному электронному затвору. Компьютерная обработка модулированных идентификаторов позволяет меньше вручную очищать или фильтровать результаты, что снижает эксплуатационные расходы. Эта более высокая точность и разрешение требует большей обработки, чем пассивные технологии, но дополнительная обработка выполняется на камере для улучшения разрешения посредством субпиксельной или центроидной обработки, обеспечивая как высокое разрешение, так и высокую скорость. Эти системы захвата движения обычно стоят 20 000 долларов за восьмикамерную систему с 12-мегапиксельным пространственным разрешением и частотой 120 Гц с одним актером.
Полупассивный незаметный маркер
[ редактировать ]Можно полностью изменить традиционный подход, основанный на высокоскоростных камерах. В таких системах, как Prakash, используются недорогие высокоскоростные проекторы с несколькими светодиодами. Специально созданные мульти-светодиодные ИК-проекторы оптически кодируют пространство. Вместо световозвращающих или активных светоизлучающих диодов (LED) маркеров система использует светочувствительные маркерные метки для декодирования оптических сигналов. Прикрепляя метки с фотодатчиками к точкам сцены, метки могут вычислять не только собственное местоположение каждой точки, но и собственную ориентацию, падающую освещенность и коэффициент отражения.
Эти метки слежения работают в условиях естественного освещения и могут быть незаметно встроены в одежду или другие предметы. Система поддерживает неограниченное количество тегов в сцене, причем каждый тег имеет уникальную идентификацию, что исключает проблемы повторного получения маркера. Поскольку в системе отсутствует высокоскоростная камера и соответствующий высокоскоростной поток изображений, ей требуется значительно меньшая полоса пропускания данных. Теги также предоставляют данные падающего освещения, которые можно использовать для согласования освещения сцены при вставке синтетических элементов. Этот метод кажется идеальным для захвата движения на съемочной площадке или трансляции виртуальных съемок в реальном времени, но еще не проверен.
Система захвата движения под водой
[ редактировать ]Технология захвата движения доступна исследователям и ученым уже несколько десятилетий, что позволило по-новому взглянуть на многие области.
Подводные камеры
[ редактировать ]Важнейшая часть системы — подводная камера — имеет водонепроницаемый корпус. Корпус имеет покрытие, устойчивое к коррозии и хлору, что делает его идеальным для использования в бассейнах и бассейнах. Есть два типа камер. Промышленные высокоскоростные камеры также можно использовать в качестве инфракрасных камер. Инфракрасные подводные камеры оснащены стробоскопом голубого цвета вместо обычного ИК-света для минимального падения света, а также высокоскоростные камеры со светодиодной подсветкой или с возможностью использования обработки изображения.
Объем измерения
[ редактировать ]Подводная камера обычно способна измерять 15–20 метров в зависимости от качества воды, камеры и типа используемого маркера. Неудивительно, что наилучшая дальность достигается, когда вода прозрачна, и, как всегда, объем измерения также зависит от количества камер. Для различных обстоятельств доступен широкий выбор подводных маркеров.
Индивидуальный
[ редактировать ]Разные бассейны требуют разных креплений и приспособлений. Таким образом, все подводные системы захвата движения индивидуально адаптированы к каждой конкретной установке бассейна. Для камер, размещенных в центре бассейна, предусмотрены специально разработанные штативы с присосками.
Безмаркерный
[ редактировать ]Новые методы и исследования в области компьютерного зрения приводят к быстрому развитию безмаркерного подхода к захвату движения. Безмаркерные системы, такие как системы, разработанные в Стэнфордском университете , Университете Мэриленда , Массачусетском технологическом институте и Институте Макса Планка , не требуют от испытуемых носить специальное оборудование для отслеживания. Специальные компьютерные алгоритмы разработаны, чтобы позволить системе анализировать несколько потоков оптических входных данных и идентифицировать человеческие формы, разбивая их на составные части для отслеживания. ESC Entertainment , дочерняя компания Warner Brothers Pictures, созданная специально для обеспечения виртуальной кинематографии , включая фотореалистичные цифровые двойники для съемок фильмов «Матрица: Перезагрузка» и «Матрица: Революция» , использовала технику под названием Universal Capture, которая использовала установку семи камер и отслеживала оптический поток. всех пикселей во всех двухмерных плоскостях камеры для захвата движения, жестов и выражений лица, что приводит к фотореалистичным результатам.
Традиционные системы
[ редактировать ]Традиционно безмаркерное оптическое отслеживание движения используется для отслеживания различных объектов, включая самолеты, ракеты-носители, ракеты и спутники. Многие такие приложения оптического отслеживания движения применяются на открытом воздухе и требуют различных конфигураций объективов и камер. Таким образом, изображения отслеживаемой цели с высоким разрешением могут предоставить больше информации, чем просто данные о движении. Изображение, полученное с помощью системы дальнего слежения НАСА во время фатального запуска космического корабля «Челленджер», предоставило решающие доказательства причины аварии. Системы оптического слежения также используются для идентификации известных космических аппаратов и космического мусора, несмотря на то, что они имеют недостаток по сравнению с радаром, заключающийся в том, что объекты должны отражать или излучать достаточно света. [ 37 ]
Система оптического слежения обычно состоит из трех подсистем: системы оптического формирования изображений, механической платформы слежения и компьютера слежения.
Система оптического изображения отвечает за преобразование света от целевой области в цифровое изображение, которое может обрабатывать компьютер слежения. В зависимости от конструкции системы оптического слежения система оптической визуализации может варьироваться от простой, как стандартная цифровая камера, до такой специализированной, как астрономический телескоп на вершине горы. Спецификация системы оптического формирования изображения определяет верхний предел эффективной дальности действия системы слежения.
Механическая платформа слежения удерживает систему оптического изображения и отвечает за управление системой оптического изображения таким образом, чтобы она всегда указывала на отслеживаемую цель. Динамика механической платформы слежения в сочетании с системой оптического формирования изображения определяет способность системы слежения удерживать цель, которая быстро меняет скорость.
Компьютер слежения отвечает за захват изображений из системы оптической визуализации, анализ изображения для определения положения цели и управление механической платформой слежения за отслеживанием цели. Есть несколько проблем. Во-первых, компьютер слежения должен иметь возможность захватывать изображение с относительно высокой частотой кадров. Это предъявляет требования к пропускной способности оборудования для захвата изображений. Вторая проблема заключается в том, что программное обеспечение для обработки изображений должно иметь возможность извлекать целевое изображение из его фона и вычислять его положение. Для этой задачи разработано несколько хрестоматийных алгоритмов обработки изображений. Эту проблему можно упростить, если система слежения может рассчитывать на определенные характеристики, общие для всех целей, которые она будет отслеживать. Следующая проблема — управление платформой слежения за целью. Это типичная проблема проектирования системы управления, а не задача, которая включает в себя моделирование динамики системы и проектирование. контроллеры для управления им. Однако это станет проблемой, если платформа отслеживания, с которой должна работать система, не предназначена для работы в режиме реального времени.
Программное обеспечение, на котором работают такие системы, также настроено под соответствующие аппаратные компоненты. Одним из примеров такого программного обеспечения является OpticTracker, который управляет компьютеризированными телескопами для отслеживания движущихся объектов на больших расстояниях, таких как самолеты и спутники. Другой вариант — программное обеспечение SimiShape, которое также можно использовать гибридно в сочетании с маркерами.
RGB-D камеры
[ редактировать ]Камеры RGB-D, такие как Kinect, захватывают как цветные, так и глубинные изображения. Объединив два изображения, можно получить цветные 3D- вокселы , что позволяет захватывать трехмерные движения человека и поверхность человека в режиме реального времени.
Из-за использования камеры с одним обзором движения обычно зашумлены. Были предложены методы машинного обучения для автоматического восстановления таких шумных движений в движения более высокого качества с использованием таких методов, как ленивое обучение. [ 38 ] и гауссовские модели. [ 39 ] Такой метод генерирует достаточно точное движение для серьезных приложений, таких как оценка эргономики. [ 40 ]
Неоптические системы
[ редактировать ]Инерционные системы
[ редактировать ]Инерционный захват движения [ 41 ] Технология основана на миниатюрных инерционных датчиках, биомеханических моделях и алгоритмах объединения датчиков . [ 42 ] Данные о движении инерционных датчиков ( инерциальная система наведения ) часто передаются по беспроводной сети на компьютер, где движение записывается или просматривается. В большинстве инерциальных систем для измерения скорости вращения используются инерциальные измерительные блоки (IMU), содержащие комбинацию гироскопа, магнитометра и акселерометра. Эти вращения преобразуются в скелет в программном обеспечении. Как и в случае с оптическими маркерами, чем больше датчиков IMU, тем естественнее данные. Для относительных движений не нужны никакие внешние камеры, излучатели или маркеры, хотя при желании они должны определять абсолютное положение пользователя. Системы инерционного захвата движения фиксируют все шесть степеней свободы движения тела человека в режиме реального времени и могут предоставить ограниченную информацию о направлении, если они включают в себя датчик магнитного подшипника, хотя они имеют гораздо более низкое разрешение и чувствительны к электромагнитным шумам. Преимущества использования инерциальных систем включают: захват в различных средах, включая ограниченное пространство, отсутствие решения, портативность и большие площади захвата. К недостаткам относятся более низкая точность позиционирования и позиционный дрейф, которые со временем могут усугубляться. Эти системы похожи на контроллеры Wii, но более чувствительны, имеют большее разрешение и скорость обновления. Они могут точно измерить направление на землю с точностью до градуса. Популярность инерциальных систем среди разработчиков игр растет. [ 10 ] главным образом из-за быстрой и простой настройки, приводящей к быстрому конвейеру. Сейчас доступен широкий выбор костюмов от различных производителей, а базовые цены варьируются от 1000 до 80 000 долларов США.
Механическое движение
[ редактировать ]Механические системы захвата движения напрямую отслеживают углы сочленений тела и часто называются экзоскелетными системами захвата движения из-за способа крепления датчиков к телу. Исполнитель прикрепляет скелетоподобную структуру к своему телу, а по мере его движения - шарнирные механические части, измеряя относительное движение исполнителя. Механические системы захвата движения представляют собой относительно недорогие, свободные от окклюзии и беспроводные (непривязанные) системы реального времени, которые имеют неограниченный объем захвата. Обычно они представляют собой жесткие конструкции из сочлененных прямых металлических или пластиковых стержней, соединенных между собой потенциометрами, шарнирно соединенными в шарнирах корпуса. Эти костюмы обычно стоят от 25 000 до 75 000 долларов плюс внешняя система абсолютного позиционирования. Некоторые костюмы обеспечивают ограниченную силовую обратную связь или тактильное воздействие.
Магнитные системы
[ редактировать ]Магнитные системы рассчитывают положение и ориентацию по относительному магнитному потоку трех ортогональных катушек как на передатчике, так и на каждом приемнике. [ 43 ] Относительная интенсивность напряжения или тока трех катушек позволяет этим системам рассчитывать как дальность, так и ориентацию путем тщательного картирования объема отслеживания. Выход датчика составляет 6DOF , что обеспечивает полезные результаты, полученные с использованием двух третей количества маркеров, требуемых в оптических системах; один на плече и один на предплечье для определения положения и угла локтя. [ нужна ссылка ] Маркеры не закрываются неметаллическими объектами, но чувствительны к магнитным и электрическим помехам от металлических предметов в окружающей среде, таких как арматура (стальные арматурные стержни в бетоне) или проводка, которые влияют на магнитное поле, а также от электрических источников, таких как мониторы, фонари, кабели и компьютеры. Реакция датчика нелинейна, особенно по краям области захвата. Проводка от датчиков имеет тенденцию исключать экстремальные движения. [ 43 ] С помощью магнитных систем можно отслеживать результаты сеанса захвата движения в режиме реального времени. [ 43 ] Объемы захвата для магнитных систем значительно меньше, чем для оптических систем. В магнитных системах существует различие между системами переменного тока (AC) и постоянным током (DC): в системе постоянного тока используются прямоугольные импульсы, в системах переменного тока — синусоидальные импульсы.
Датчики растяжения
[ редактировать ]Датчики растяжения представляют собой гибкие конденсаторы с параллельными пластинами, которые измеряют растяжение, изгиб, сдвиг или давление и обычно изготавливаются из силикона. Когда датчик растягивается или сжимается, значение его емкости меняется. Эти данные могут передаваться через Bluetooth или напрямую и использоваться для обнаружения мельчайших изменений в движении тела. Датчики растяжения не подвержены воздействию магнитных помех и не засоряются. Растяжимость датчиков также означает, что они не страдают от позиционного дрейфа, который характерен для инерциальных систем. С другой стороны, растягивающиеся датчики из-за свойств их подложек и проводящих материалов страдают от относительно низкого отношения сигнал/шум , что требует фильтрации или машинного обучения, чтобы их можно было использовать для захвата движения. Эти решения приводят к более высокой задержке по сравнению с альтернативными датчиками.
Связанные методы
[ редактировать ]Захват движения лица
[ редактировать ]Большинство традиционных поставщиков оборудования для захвата движения предусматривают тот или иной тип захвата лица с низким разрешением, используя от 32 до 300 маркеров с активной или пассивной системой маркеров. Все эти решения ограничены временем, необходимым для нанесения маркеров, калибровки позиций и обработки данных. В конечном итоге технология также ограничивает их разрешение и уровень качества исходной продукции.
Высокоточный захват движений лица, также известный как захват движений , представляет собой следующее поколение точности и используется для записи более сложных движений человеческого лица, чтобы уловить более высокую степень эмоций. Захват лица в настоящее время разделяется на несколько различных лагерей, включая традиционные данные захвата движения, решения на основе смешивания форм, захват фактической топологии лица актера и собственные системы.
Двумя основными методами являются стационарные системы с множеством камер, фиксирующих выражения лица под разными углами, и использование программного обеспечения, такого как решатель стереосетей из OpenCV, для создания трехмерной сетки поверхности или использования световых массивов для расчета нормалей поверхности из изменение яркости при изменении источника света, положения камеры или того и другого. Эти методы, как правило, ограничиваются только разрешением объекта разрешением камеры, видимым размером объекта и количеством камер. Если лицо пользователя занимает 50 процентов рабочей области камеры и камера имеет мегапиксельное разрешение, то при сравнении кадров можно обнаружить субмиллиметровые движения лица. Недавняя работа сосредоточена на увеличении частоты кадров и создании оптического потока, чтобы можно было перенаправить движения на другие лица, сгенерированные компьютером, а не просто на создании 3D-сетки актера и его выражений.
Радиочастотное позиционирование
[ редактировать ]Системы радиочастотного позиционирования становятся все более жизнеспособными [ нужна ссылка ] поскольку более высокочастотные радиочастотные устройства обеспечивают большую точность, чем старые технологии, такие как радар . Скорость света составляет 30 сантиметров в наносекунду (миллиардную долю секунды), поэтому радиочастотный сигнал с частотой 10 гигагерц (миллиардов циклов в секунду) обеспечивает точность около 3 сантиметров. Измеряя амплитуду до четверти длины волны, можно улучшить разрешение примерно до 8 мм. Для достижения разрешения оптических систем необходимы частоты 50 гигагерц и выше, которые почти так же зависят от прямой видимости и так же легко блокируются, как и оптические системы. Многолучевое распространение и переизлучение сигнала, вероятно, вызовут дополнительные проблемы, но эти технологии будут идеальными для отслеживания больших объемов с разумной точностью, поскольку требуемое разрешение на расстоянии 100 метров вряд ли будет таким высоким. Многие учёные [ ВОЗ? ] считают, что радиочастота никогда не обеспечит точность, необходимую для захвата движения.
В 2015 году исследователи из Массачусетского технологического института заявили, что создали систему, которая отслеживает движение с помощью радиочастотных сигналов. [ 44 ]
Нетрадиционные системы
[ редактировать ]Был разработан альтернативный подход, при котором актеру предоставляется неограниченная зона для прогулок за счет использования вращающейся сферы, похожей на шар хомяка , которая содержит внутренние датчики, регистрирующие угловые движения, что устраняет необходимость во внешних камерах и другом оборудовании. Несмотря на то, что эта технология потенциально может привести к гораздо более низким затратам на захват движения, базовая сфера способна записывать только одно непрерывное направление. Для регистрации чего-либо большего потребуются дополнительные датчики, надетые на человека.
Другой альтернативой является использование платформы движения 6DOF (степеней свободы) со встроенной всенаправленной беговой дорожкой с оптическим захватом движения высокого разрешения для достижения того же эффекта. Захваченный человек может ходить по неограниченной территории, преодолевая различные неровности местности. Приложения включают медицинскую реабилитацию для тренировки баланса, биомеханические исследования и виртуальную реальность. [ нужна ссылка ]
3D pose estimation
[ редактировать ]При трехмерной оценке позы позу актера можно реконструировать по изображению или карте глубины . [ 45 ]
См. также
[ редактировать ]- База данных анимации
- Отслеживание пальцев
- Распознавание жестов
- Обратная кинематика (другой способ сделать эффекты CGI реалистичными)
- Kinect (создан корпорацией Microsoft)
- Список форматов файлов движений и жестов
- Моушнграмма
- Актерская игра с захватом движения
- Изображения истории движения
- Видео отслеживание
- Позиционное отслеживание VR
Ссылки
[ редактировать ]- ^ Гебл, В.; Палмер, К. (2013). Баласубраманиам, Рамеш (ред.). «Временный контроль и эффективность движений рук при квалифицированном музыкальном исполнении» . ПЛОС ОДИН . 8 (1): e50901. Бибкод : 2013PLoSO...850901G . дои : 10.1371/journal.pone.0050901 . ПМЦ 3536780 . ПМИД 23300946 .
- ^ Олсен, Нидерланды; Маркуссен, Б; Ракет, LL (2018), «Одновременный вывод для несогласованных многомерных функциональных данных», Журнал Королевского статистического общества, серия C , 67 (5): 1147–76, arXiv : 1606.03295 , doi : 10.1111/rssc.12276 , S2CID 88515233
- ^ Дэвид Нунан, Питер Маунтни, Дэниел Элсон, Ара Дарзи и Гуан-Чжун Ян. Стереоскопический фиброскоп для движения камеры и восстановления трехмерной глубины во время минимально инвазивной хирургии. В протоколе ICRA 2009, стр. 4463–68. http://www.sciweavers.org/external.php?u=http%3A%2F%2Fwww.doc.ic.ac.uk%2F%7Epmountne%2Fpublications%2FICRA%25202009.pdf&p=ieee
- ^ Ямане, Катсу и Джессика Ходжинс. « Одновременное отслеживание и балансировка роботов-гуманоидов для имитации данных захвата движения человека ». Интеллектуальные роботы и системы, 2009. IROS 2009. Международная конференция IEEE/RSJ. ИИЭР, 2009.
- ^ NY Castings, Джо Гатт, Актеры захвата движения: движение тела рассказывает историю. Архивировано 3 июля 2014 г. в Wayback Machine , по состоянию на 21 июня 2014 г.
- ↑ Эндрю Харрис Саломон, 22 февраля 2013 г., Журнал Backstage Magazine, Рост производительности захвата помогает игровым актерам пережить спад , по состоянию на 21 июня 2014 г., «...Но от Sony ожидаются разработки в области технологии захвата движения, а также новые игровые консоли. и Microsoft в течение года указывают на то, что эта ниша продолжает оставаться областью роста для игроков. И для тех, кто задумывался о проникновении, послание ясно: займитесь делом...».
- ↑ Бен Чайлд, 12 августа 2011, The Guardian , Энди Серкис: почему «Оскар» не сойдет с ума из-за игры с захватом движения? Звезда фильма «Восстание планеты обезьян» говорит, что захват актерского мастерства неправильно понят и его актеры заслуживают большего уважения , по состоянию на 21 июня 2014 г.
- ^ Хью Харт, 24 января 2012 г., журнал Wired, Когда актер захвата движения получит Оскар? , По состоянию на 21 июня 2014 г., «... историческое нежелание Академии кинематографических искусств и наук уважать выступления с захватом движения ... Серкис, одетый в боди из лайкры со встроенными датчиками, быстро освоил новое на тот момент искусство. и наука актерского мастерства..."
- ^ Чунг, немецкий К.М. и др. « Система реального времени для надежной трехмерной воксельной реконструкции движений человека ». Компьютерное зрение и распознавание образов, 2000. Труды. Конференция IEEE. Том. 2. ИИЭР, 2000.
- ^ Перейти обратно: а б «Xsens MVN Animate — Продукты» . Xsens 3D-отслеживание движения . Проверено 22 января 2019 г.
- ^ «Лексикон следующего поколения 1996 года от А до Я: захват движения». Следующее поколение . № 15. Imagine Media . Март 1996 г. с. 37.
- ^ «Захват движения». Следующее поколение (10). Imagine Media : 50 октября 1995 г.
- ^ Джон Радофф, Анатомия MMORPG, «Анатомия MMORPG» . Архивировано из оригинала 13 декабря 2009 г. Проверено 30 ноября 2009 г.
- ^ Перейти обратно: а б «Ура Голливуду! Acclaim Studios». ГеймПро . № 82. ИДГ . Июль 1995. стр. 28–29.
- ^ Мейсон, Грэм. «Мартех-игры — личностные люди» . Ретро-геймер . № 133. с. 51.
- ^ «Файтинги Pre-Street Fighter II» . Хардкорные игры 101 . п. 8 . Проверено 26 ноября 2021 г.
- ^ «Эксклюзив для Sega Saturn! Virtua Fighter: сражения в третьем измерении» (PDF) . Компьютерные и видеоигры . № 158 (январь 1995 г.). ООО «Фьючер» . 15 декабря 1994 г., стр. 12–3, 15–6, 19.
- ^ «Виртуальный боец». Максимум: Журнал видеоигр (1). Эмап Интернэшнл Лимитед : 142–3. Октябрь 1995 года.
- ^ Вавро, Алекс (23 октября 2014 г.). «Ю Судзуки вспоминает, как использовал военные технологии при создании Virtua Fighter 2» . Гамасутра . Проверено 18 августа 2016 г.
- ^ «История захвата движения» . Motioncapturesociety.com. Архивировано из оригинала 23 октября 2018 г. Проверено 10 августа 2013 г.
- ^ «Дом Purdue для разработки систем дронов» . Журнал «Аэрограмма» — 2021-2022 гг . Проверено 18 сентября 2023 г.
- ^ «Новости Coin-Op: для фильма «Бэтмен» использована признанная технология» . Играйте в Метр . Том. 20, нет. 11 октября 1994 г. с. 22.
- ^ «Признание ставит свои претензии» . Повторное воспроизведение . Том. 20, нет. 4. Январь 1995 г. с. 71.
- ^ Сэвидж, Аннализа (12 июля 2012 г.). «Актер-Горлум: как новая технология захвата движения улучшила Хоббита» . Проводной . Проверено 29 января 2017 г.
- ^ «ИНТЕРВЬЮ: Storymind Entertainment рассказывает о предстоящем альбоме My Eyes On You » . В тот момент . 29 октября 2017 года . Проверено 24 сентября 2022 г.
- ^ «Обнаружение позы на основе искусственного интеллекта для программного обеспечения физической реабилитации» .
- ^ «Безмаркерный захват движения | EuMotus» . Безмаркерный захват движения | ЭуМотус . Проверено 12 октября 2018 г.
- ^ Корриа, Алекса Рэй (30 июня 2014 г.). «Это программное обеспечение для распознавания лиц позволяет вам быть Octodad» . Проверено 4 января 2017 г. - через www.polygon.com.
- ^ Планкетт, Люк (27 декабря 2013 г.). «Превратите свое человеческое лицо в персонажа видеоигры» . котаку.com . Проверено 4 января 2017 г.
- ^ «Наденьте свое (цифровое) игровое лицо» . fxguide.com . 24 апреля 2016 года . Проверено 4 января 2017 г.
- ^ «Юдзуру Ханю завершает дипломную работу по «движущимся вещам» и 24 часа в сутки удаленно появляется на телевидении)» (на японском языке) . Проверено 2 сентября 2023 г. .
- ^ «Юдзуру Ханю публикует дипломную работу и появляется на круглосуточном телевидении» (на японском языке) . Проверено 2 сентября 2023 г. .
- ^ Ханю, Юдзуру; Ханю, Юдзуру (18 марта 2021 г.). Технико-экономическое обоснование использования систем захвата движения с беспроводными и инерционными датчиками в фигурном катании (Диссертация) (на японском языке), дата обращения 2 сентября 2023 г.
- ^ Штурм, Юрген и др. « Эталон для оценки систем RGB-D SLAM ». Интеллектуальные роботы и системы (IROS), Международная конференция IEEE/RSJ, 2012 г. ИИЭР, 2012.
- ^ Ли, Цзянь; Ян, Цзюшань; Сюй, Чжаньван; Пэн, Цзинлян (ноябрь 2012 г.). «Компьютерная оценка реабилитации рук с использованием оптической системы захвата движения». 2012 Международная конференция по анализу изображений и обработке сигналов . IEEE. стр. 1–5. дои : 10.1109/iasp.2012.6425069 . ISBN 978-1-4673-2546-2 .
- ^ «Захват движения: оптические системы». Следующее поколение (10). Imagine Media : 53. Октябрь 1995 г.
- ^ Вейс, Г. (1963). «Оптическое сопровождение искусственных спутников». Обзоры космической науки . 2 (2): 250–296. Бибкод : 1963ССРв....2..250В . дои : 10.1007/BF00216781 . S2CID 121533715 .
- ^ Шум, Хьюберт П.Х.; Хо, Эдмонд С.Л.; Цзян, Ян; Такаги, Шу (2013). «Реконструкция осанки в реальном времени для Microsoft Kinect». Транзакции IEEE по кибернетике . 43 (5): 1357–1369. дои : 10.1109/TCYB.2013.2275945 . ПМИД 23981562 . S2CID 14124193 .
- ^ Лю, Чжигуан; Чжоу, Люян; Люнг, Ховард; Шум, Хьюберт П.Х. (2016). «Реконструкция положения Kinect на основе локальной смеси моделей гауссовых процессов» (PDF) . Транзакции IEEE по визуализации и компьютерной графике . 22 (11): 2437–2450. дои : 10.1109/TVCG.2015.2510000 . ПМИД 26701789 . S2CID 216076607 .
- ^ Плантар, Пьер; Шум, Хьюберт П.Х.; Пьер, Анн-Софи Ле; Мултон, Франк (2017). «Валидация метода эргономической оценки с использованием данных Kinect в реальных условиях рабочего места» . Прикладная эргономика . 65 : 562–569. дои : 10.1016/j.apergo.2016.10.015 . ПМИД 27823772 . S2CID 13658487 .
- ^ «Полное отслеживание движения человека с 6 степенями свободы с использованием миниатюрных инерциальных датчиков» (PDF) . Архивировано из оригинала (PDF) 4 апреля 2013 г. Проверено 3 апреля 2013 г.
- ^ «История захвата движения» . Xsens 3D-отслеживание движения . Архивировано из оригинала 22 января 2019 г. Проверено 22 января 2019 г.
- ^ Перейти обратно: а б с «Захват движения: магнитные системы». Следующее поколение (10). Imagine Media : 51. Октябрь 1995 г.
- ^ Альба, Алехандро (ноябрь 2015 г.). «Исследователи MIT создают устройство, способное распознавать и отслеживать людей сквозь стены» . nydailynews.com . Проверено 9 декабря 2019 г.
- ^ Да, Мао и др. « Точная оценка 3D-позы по одному изображению глубины. Архивировано 13 января 2020 г. в Wayback Machine ». 2011 Международная конференция по компьютерному зрению. ИИЭР, 2011.
Внешние ссылки
[ редактировать ]- Увлечение захватом движения. Архивировано 4 марта 2016 г. на сайте Wayback Machine , введение в историю технологии захвата движения.