ОпенВИНО
![]() | |
Разработчик(и) | Корпорация Интел |
---|---|
Первоначальный выпуск | 16 мая 2018 г |
Стабильная версия | 2024.2 / июнь 2024 г. [1] |
Репозиторий | github |
Написано в | С++ |
Операционная система | Кросс-платформенный |
Лицензия | Лицензия Апач 2.0 |
Веб-сайт | документы |
По состоянию на | июнь 2024 г. |
OpenVINO — это набор программных инструментов с открытым исходным кодом для оптимизации и развертывания глубокого обучения моделей . Это позволяет программистам разрабатывать масштабируемые и эффективные решения искусственного интеллекта с помощью относительно небольшого количества строк кода. Он поддерживает несколько популярных форматов моделей. [2] и категории, такие как большие языковые модели , компьютерное зрение и генеративный искусственный интеллект .
Активно разрабатываемый Intel , он отдает приоритет высокопроизводительному выводу на оборудовании Intel, но также поддерживает ARM/ARM64. процессоры [2] и призывает участников добавлять в портфолио новые устройства.
Основанный на C++, он предлагает следующие API: C/C++, Python и Node.js (ранняя предварительная версия).
OpenVINO является кроссплатформенным и бесплатен для использования по лицензии Apache 2.0. [3]
Рабочий процесс [ править ]
Простейшее использование OpenVINO предполагает получение модели и запуск ее как есть. Однако для достижения наилучших результатов предлагается более полный рабочий процесс: [4]
- получить модель в одном из поддерживаемых фреймворков,
- преобразовать модель в OpenVINO IR с помощью инструмента OpenVINO Converter,
- оптимизируйте модель, используя параметры времени обучения или после обучения, предоставляемые NNCF OpenVINO .
- выполнить вывод, используя OpenVINO Runtime, указав один из нескольких режимов вывода.
Формат модели OpenVINO [ править ]
ОпенВИНО ГО [5] — формат по умолчанию, используемый для выполнения вывода. Он сохраняется в виде набора из двух файлов * .bin и * .xml , содержащих веса и топологию соответственно. Его получают путем преобразования модели из одной из поддерживаемых платформ с использованием API приложения или специального конвертера.
Модели поддерживаемых форматов также можно использовать для вывода напрямую, без предварительного преобразования в OpenVINO IR. Такой подход более удобен, но предлагает меньше возможностей оптимизации и меньшую производительность, поскольку преобразование выполняется автоматически перед выводом. Некоторые предварительно конвертированные модели можно найти в Hugging Face . репозитории [6] .
Поддерживаемые форматы моделей: [7]
- PyTorch
- Тензорфлоу
- ТензорФлоу Лайт
- ONNX (включая форматы, которые можно сериализовать в ONNX)
- ВеслоВесло
Поддержка ОС [ править ]
OpenVINO работает в следующих настольных операционных системах: Windows , Linux и MacOS . [8]
См. также [ править ]
Ссылки [ править ]
- ^ «Примечания к выпуску дистрибутива Intel для набора инструментов OpenVINO 2024.2» . Июнь 2024.
- ^ Jump up to: Перейти обратно: а б «Совместимость и поддержка OpenVINO» . Документация OpenVINO . 24 января 2024 г.
- ^ «Лицензия» . Репозиторий OpenVINO . 16 октября 2018 г.
- ^ «Рабочий процесс OpenVINO» . Документация OpenVINO . 25 апреля 2024 г.
- ^ «ОпенВИНО ИР» . www.docs.openvino.ai . 2 февраля 2024 г.
- ^ «Обнимающее лицо OpenVINO Space» . Обнимающее лицо .
- ^ «Подготовка модели OpenVINO» . Документация OpenVINO . 24 января 2024 г.
- ^ «Системные требования» . Документация OpenVINO . Февраль 2024.
- Агравал, Васу (2019). С нуля проектирование мультимодальной системы обнаружения объектов (PDF) (MSc). Университет Карнеги-Меллона, Питтсбург, Пенсильвания. Архивировано (PDF) из оригинала 26 января 2020 года.
- Дриаба, Александр; Гордеев, Алексей; Клячин, Владимир (2019). «Распознавание различных объектов из определенного категориального набора в реальном времени с использованием глубоких сверточных нейронных сетей» (PDF) . Институт математики и информационных технологий Волгоградского государственного университета. Архивировано (PDF) из оригинала 26 января 2020 года . Проверено 26 января 2020 г.
{{cite journal}}
: Для цитирования журнала требуется|journal=
( помощь ) - Нанджаппа, Ашвин (31 мая 2019 г.). Краткое руководство Caffe2: модульное и масштабируемое глубокое обучение стало проще . Пакет. стр. 91–98. ISBN 978-1789137750 .