Множественные инструкции, отдельные данные

В вычислениях множественные инструкции, отдельные данные ( MISD ) — это тип параллельных вычислений архитектуры , в которой множество функциональных блоков выполняют разные операции с одними и теми же данными. Конвейерные архитектуры относятся к этому типу, хотя пурист может сказать, что данные различны после обработки на каждом этапе конвейера. отказоустойчивость, избыточное выполнение одних и тех же инструкций с целью обнаружения и маскировки ошибок способом, известным как репликация задач К этому типу можно отнести . Приложения для этой архитектуры встречаются гораздо реже, чем MIMD и SIMD , поскольку последние два часто более подходят для общих методов параллельного обмена данными. В частности, они позволяют лучше масштабировать и использовать вычислительные ресурсы. Однако одним из ярких примеров MISD в вычислениях являются компьютеры управления полетом космического корабля «Шаттл» .

Систолические

Систолические массивы (< процессоры волнового фронта ), впервые описанные Х. Т. Кунгом и Чарльзом Э. Лейзерсоном, являются примером архитектуры MISD . В типичном систолическом массиве параллельные входные данные проходят через сеть проводных процессорных узлов , напоминающих человеческий мозг , которые комбинируют, обрабатывают, объединяют или сортируют входные данные в производный результат.

Систолические массивы часто жестко привязаны к определенной операции, такой как «умножение и накопление», для выполнения задач массового параллельного интегрирования, свертки , корреляции , умножения матриц или сортировки данных. Систолический массив обычно состоит из большой монолитной сети примитивных вычислительных узлов , которые могут быть аппаратно или программно настроены для конкретного приложения. Узлы обычно фиксированы и идентичны, а межсоединение является программируемым. Более общие процессоры волнового фронта , напротив, используют сложные и индивидуально программируемые узлы, которые могут быть или не быть монолитными, в зависимости от размера массива и параметров конструкции. Поскольку волнообразное распространение данных по систолическому массиву напоминает пульс кровеносной системы человека, название «систолический» было придумано из медицинской терминологии.

Существенным преимуществом систолических массивов является то, что все данные операндов и частичные результаты содержатся внутри массива процессора (проходят через него). Нет необходимости обращаться к внешним шинам, основной памяти или внутреннему кэшу во время каждой операции, как в стандартных последовательных машинах. Последовательные ограничения на параллельную производительность, диктуемые законом Амдала, также не применяются таким же образом, поскольку зависимости данных неявно обрабатываются программируемым межузловым соединением.

Таким образом, систолические массивы чрезвычайно хороши в искусственном интеллекте, обработке изображений, распознавании образов, компьютерном зрении и других задачах, с которыми мозг животных справляется исключительно хорошо. В целом процессоры Wavefront также могут быть очень хороши в машинном обучении, реализуя самонастраивающиеся нейронные сети на аппаратном уровне.

Хотя систолические массивы официально классифицируются как MISD, их классификация несколько проблематична. Поскольку входные данные обычно представляют собой вектор независимых значений, систолический массив не является SISD . Поскольку эти входные значения объединяются и объединяются в результат(ы) и не сохраняют свою независимость , как в SIMD блоке векторной обработки , массив не может быть классифицирован как таковой. Следовательно, массив также нельзя классифицировать как MIMD , поскольку MIMD можно рассматривать как простую совокупность меньших машин SISD и SIMD.

данных Наконец, поскольку поток преобразуется при прохождении через массив от узла к узлу, несколько узлов не работают с одними и теми же данными, что делает классификацию MISD неправильным термином . Другая причина, по которой систолический массив не должен квалифицироваться как MISD , та же, что и та, которая исключает его из категории SISD: входные данные обычно представляют собой вектор, а не отдельное значение данных, хотя можно утверждать, что любой заданный входной вектор представляет собой единый набор данных.

Несмотря на вышесказанное, систолические массивы часто предлагаются в качестве классического примера архитектуры MISD в учебниках по параллельным вычислениям и на уроках инженерного дела. Если массив рассматривается снаружи как атомарный, его, возможно, следует классифицировать как SFMuDMeR = одна функция, несколько данных, объединенные результаты.