Закон Хуанга
Закон Хуана — это наблюдение в области информатики и техники, согласно которому развитие графических процессоров (GPU) развивается гораздо быстрее, чем традиционных центральных процессоров (CPU). Это наблюдение противоречит закону Мура , согласно которому количество транзисторов в плотных интегральных схемах (ИС) удваивается примерно каждые два года. [ 1 ] Закон Хуанга гласит, что производительность графических процессоров будет увеличиваться более чем вдвое каждые два года. [ 2 ] Гипотеза подвергается сомнению относительно ее обоснованности.
История
[ редактировать ]
Такое наблюдение сделал Дженсен Хуанг , генеральный директор Nvidia , на конференции по технологиям графических процессоров (GTC) 2018 года, проходившей в Сан-Хосе, штат Калифорния . [ 3 ] Он заметил, что графические процессоры Nvidia были «в 25 раз быстрее, чем пять лет назад», тогда как закон Мура ожидал бы лишь десятикратного увеличения. [ 2 ] Поскольку компоненты микрочипов становятся меньше, развитию микросхем становится все труднее соответствовать скорости закона Мура. [ 4 ]
В 2006 году графический процессор Nvidia имел четырехкратное преимущество в производительности по сравнению с другими процессорами. В 2018 году графический процессор Nvidia был в 20 раз быстрее, чем сопоставимый узел ЦП: каждый год графические процессоры были в 1,7 раза быстрее. Закон Мура предсказывал удвоение производительности каждые два года, однако производительность графического процессора Nvidia увеличивалась более чем в три раза каждые два года, что соответствует закону Хуанга. [ 5 ]
Закон Хуана утверждает, что синергия между аппаратным обеспечением , программным обеспечением и искусственным интеллектом делает возможным новый «закон». [ А ] Хуан сказал: «Инновация касается не только чипов, — сказал он, — речь идет обо всем стеке». Он сказал, что графические процессоры особенно важны для новой парадигмы. [ 3 ] Устранение узких мест может ускорить процесс и создать преимущества на пути к цели. «Nvidia — это пони с одним трюком», — сказал Хуанг. [ 7 ] По словам Хуанга: «Ускоренные вычисления освобождают… Допустим, у вас есть самолет, который должен доставить посылку. Доставка занимает 12 часов. Вместо того, чтобы заставлять самолет двигаться быстрее, сконцентрируйтесь на том, как доставить посылку быстрее, посмотрите при 3D-печати в пункте назначения». Цель «… быстрее достичь цели». [ 7 ]
Что касается задач искусственного интеллекта, Хуанг сказал, что обучение сверточной сети AlexNet заняло шесть дней на двух процессорах Nvidia GTX 580, чтобы завершить процесс обучения, но только 18 минут на современном сервере искусственного интеллекта DGX-2, что привело к коэффициенту ускорения в 500 раз. По сравнению с законом Мура, который фокусируется исключительно на транзисторах ЦП, закон Хуанга описывает сочетание достижений в архитектуре, межсоединениях, технологии памяти и алгоритмах. [ 2 ] [ 6 ]
Прием
[ редактировать ]Бхарат Рамсундар написал, что глубокое обучение сочетается с «улучшениями индивидуальной архитектуры». Например, системы машинного обучения были реализованы в мире блокчейнов , где Bitmain атаковала «многие криптовалюты , разработав специальные ASIC для майнинга ( интегральные схемы для конкретных приложений )», которые считались невыполнимыми. «Однако самым большим достижением NVIDIA является доказательство того, что эти улучшения в архитектуре являются не просто изолированными победами для конкретных приложений, но, возможно, широко применимы ко всей информатике». Они предположили, что широкое использование графических процессоров и стека графических процессоров ( см. стек ЦП) может обеспечить «резкий рост архитектуры глубокого обучения». «Магия» обещания закона Хуанга заключается в том, что по мере того, как зарождающееся программное обеспечение, основанное на глубоком обучении, становится все более доступным, улучшения от масштабирования графического процессора и, в более общем плане, от архитектурных улучшений» будут конкретно улучшать «производительность и поведение современных программных стеков». [ 8 ]
Была критика. Журналист Джоэл Хруска, писавший в ExtremeTech в 2020 году, сказал, что «не существует такой вещи, как закон Хуанга», назвав это «иллюзией», основанной на достижениях, ставших возможными благодаря закону Мура; и что еще слишком рано говорить о существовании закона. [ 9 ] Исследовательская некоммерческая организация Epoch обнаружила, что в период с 2006 по 2021 год производительность графических процессоров (в единицах FLOPS/$) имела тенденцию удваиваться примерно каждые 2,5 года, что намного медленнее, чем предсказывает закон Хуанга. [ 10 ]
См. также
[ редактировать ]Примечания
[ редактировать ]- ↑ Вопреки другим сообщениям, говорят, что «Закон Хуана»… это термин, придуманный журналистом The Wall Street Journal Кристофером Мимсом». [ 2 ] [ 6 ]
Ссылки
[ редактировать ]- ^ Драм, Кевин. «Закон Мура мертв. Да здравствует закон Хуана» .
- ^ Перейти обратно: а б с д Мимс, Кристофер (19 сентября 2020 г.). «Закон Хуанга — это новый закон Мура, который объясняет, почему Nvidia хочет вооружиться» . Wall Street Journal – через www.wsj.com. (требуется подписка) перепечатано в «Закон Хуанга — это закон Нью-Мура, который объясняет, почему Nvidia хочет иметь оружие» . Yahoo! . 29 сентября 2020 г. [ постоянная мертвая ссылка ]
- ^ Перейти обратно: а б Перри, Текла С. (май 2018 г.). «Подвинься, закон Мура: уступи место закону Хуана» . IEEE-спектр . ИИЭЭ . Проверено 24 сентября 2020 г.
Графические процессоры находятся на пути ускоренного развития, который затмевает закон Мура. … Графические процессоры также развиваются быстрее, чем процессоры, потому что они опираются на параллельную архитектуру, отметил на другом сеансе Джесси Клейтон, старший менеджер Nvidia».
- ^ Тибкен, Шара (9 января 2019 г.). «CES 2019: закон Мура мертв, — заявил генеральный директор Nvidia» . CBS Интерактив . CNet . Проверено 24 сентября 2020 г.
- ^ Вуди, Алекс (27 марта 2018 г.). «Nvidia на пике популярности: рабочие нагрузки и возможности графических процессоров растут» . HPCwire . Проверено 24 сентября 2020 г.
- ^ Перейти обратно: а б Геттинг, Бретань (20 сентября 2020 г.). «Развитие искусственного интеллекта и «закон Хуанга» могут быть причиной того, что NVIDIA решила приобрести Arm» . Горячее оборудование . Проверено 24 сентября 2020 г.
- ^ Перейти обратно: а б Хейс, Кэролайн (11 октября 2018 г.). «Дженсен Хуанг: Закон Мура мертв – да здравствует ИИ» . Еженедельник электроники . Метрополис Интернэшнл . Проверено 24 сентября 2020 г.
... сегодня компьютерную индустрию контролируют две движущие силы: конец закона Мура и программное обеспечение, которое может писать само себя, искусственный интеллект или ИИ. ... Мы можем изучить узкие места. Новые программные системы ускоряют работу не только чипа, но и приложений.
- ^ Рамсундар, Бхарат (7 апреля 2018 г.). «Пришествие закона Хуана» . Проверено 24 сентября 2020 г.
- ^ Грушка, Джоэл (22 сентября 2020 г.). «Не существует такой вещи, как «закон Хуана», несмотря на лидерство Nvidia в области искусственного интеллекта» . Экстремальные технологии .
- ^ Мариус Хоббхан и Тамай Бесироглу (2022), «Тенденции в соотношении цены и качества графических процессоров». Опубликовано на сайте epochai.org. Получено с: https://epochai.org/blog/trends-in-gpu-price- Performance.
