Домашнее задание - Параллельные вычислительные системы и многопрограммная работа

Выполняйте только если преподаватель назначил это задание. Срок сдачи сообщит преподаватель.

ФИО обучающегося:

Учебная группа:

Дата выполнения:

Разобранный образец: расчет ускорения и анализ когерентности

Условие образца:

Вычислительный комплекс включает 8 процессоров ($n = 8$). Доля строго последовательного кода в программе составляет $s = 0.10$ ($10\%$). В кэш-памяти Ядра 1 строка находится в состоянии Modified. Процессор 2 инициирует чтение по этому же адресу.

Эталонное решение:

Расчет ускорения по закону Амдала (Strong Scaling):
Параллельная доля: $p = 1 - s = 1 - 0.10 = 0.90$.
$$S_A = \frac{1}{s + \frac{p}{n}} = \frac{1}{0.10 + \frac{0.90}{8}} = \frac{1}{0.10 + 0.1125} = \frac{1}{0.2125} \approx 4.71 \text{ раз}.$$ Эффективность параллелизации: $E = \frac{S_A}{n} = \frac{4.71}{8} \approx 58.88\%$.
Теоретический предел ускорения при бесконечном числе процессоров: $S_{max} = \frac{1}{s} = \frac{1}{0.10} = 10.0$ раз.
Расчет ускорения по закону Густафсона-Барсиса (Weak Scaling):
$$S_G = s + p \times n = 0.10 + 0.90 \times 8 = 0.10 + 7.20 = 7.30 \text{ раз}.$$ Эффективность параллелизации: $E = \frac{7.30}{8} \approx 91.25\%$.
Поведение протокола когерентности MESI:
Ядро 2 отправляет по системной шине сигнал запроса на чтение (BusRd). Ядро 1 фиксирует запрос через шинный снупинг (Snooping), перехватывает операцию памяти и сбрасывает актуальные измененные данные в оперативную память (Write-Back), одновременно передавая их Ядру 2. После передачи обе строки переходят в состояние Shared (S).

Упражнение 1. Архитектурное сопоставление и протоколы памяти

1.1. Сравните три архитектурных сценария: а) многопрограммность на 1 ядре; б) 2-сокетный SMP/NUMA сервер; в) кластер из 16 узлов Gigabit Ethernet. Укажите тип изоляции адресного пространства, способ межпроцессного обмена и главное аппаратное узкое место:

1.2. Опишите физический механизм: что происходит в протоколе MESI, когда Ядро 1 пытается записать данные в кэш-линию, находящуюся в состоянии Shared (S)? Какой сигнал выставляется на шине и что происходит с копиями этой строки в кэшах других ядер?

Упражнение 2. Расчетная задача масштабирования суперкомпьютерного комплекса

Условие: Высокопроизводительный кластер состоит из 64 вычислительных узлов ($n = 64$). В расчетной гидродинамической задаче доля строго последовательного кода составляет $s = 0.05$ ($5\%$). Соответственно доля параллельного кода $p = 0.95$ ($95\%$).

Приведите пошаговый расчет ускорения по закону Амдала ($S_A$), эффективности ($E_A$), теоретического предела масштабирования ($S_{max}$), а также ускорения по закону Густафсона-Барсиса ($S_G$) и его эффективности ($E_G$):

Обоснуйте, почему замена коммутаторов Gigabit Ethernet на фабрику InfiniBand с поддержкой технологии RDMA позволяет приблизить реальное ускорение кластера к теоретическому пределу: