Разработка параллельных приложений для многоядерных систем презентация

ИТМО

Threading Building Blocks
Средства распараллеливания для систем с общей памятью

64 and AMD64), IA-64, Xscale

Операционные системы
Microsoft Windows, Linux, Mac OS

Основные возможности
Высокоуровневая оптимизация
Межпроцедурная оптимизация
Автоматическое распараллеливание кода:
Векторизация
Разделение циклов по нескольким нитям
Профилирующая оптимизация

Интеграция с VisualStudio

для языков C/С++, Fortran
Использование директив для распараллелива
Поддержка компиляторами Intel, Microsoft, GCC и т.п.

Расширение для разделенной памяти
Cluster OpenMP

программы поэтапно, не меняя их структуру
Единственность разрабатываемого кода
Нет необходимости поддерживать последовательный и параллельный вариант программы, поскольку директивы игнорируются обычными компиляторами (в общем случае)
Эффективность
Учет и использование возможностей систем с общей памятью
Стандартизованность (переносимость), поддержка в наиболее распространенных языках (C/C++, Fortran) и платформах (Windows, Unix)

пространство)

Пульсирующий (“вилочный”, fork-join) параллелизм

<параметры>

Библиотека функций
omp_...()

Набор переменных окружения

main () {
int nthreads, tid;
#pragma omp parallel private(nthreads, tid)
{
tid = omp_get_thread_num();
printf("Hello World from thread = %d\n", tid);
if (tid == 0) {
nthreads = omp_get_num_threads();
printf("Number of threads = %d\n", nthreads);
}
}
}

omp sections
{
#pragma omp section
{
...
}
#pragma omp section
{
...
}
}
Выполнение кода одним потоком
#pragma omp master
#pragma omp single

регулируется параметром (clause) schedule
static – итерации делятся на блоки по chunk итераций и статически разделяются между потоками; если параметр chunk не определен, итерации делятся между потоками равномерно и непрерывно
dynamic – распределение итерационных блоков осуществляется динамически (по умолчанию chunk=1)
guided – размер итерационного блока уменьшается экспоненциально при каждом распределении; chunk определяет минимальный размер блока (по умолчанию chunk=1)
runtime – правило распределения определяется переменной OMP_SCHEDULE (при использовании runtime параметр chunk задаваться не должен)

0;
for (int k = 0; k < N; k++)
{
double ind = k;
summ += ((k & 1) ? -1 : 1) *
(sin(ind*(ind + 1)) - cos(ind)*sin(ind*ind)) /
(cos(ind*(1 - ind)) - 2*sin(ind)*sin(ind*ind)) *
(sin(ind*(ind + 1)) - cos(ind)*sin(ind*ind)) /
(cos(ind*(1 - ind)) - 2*sin(ind)*sin(ind*ind));
}
}

0;
#pragma omp parallel for
for (int k = 0; k < N; k++)
{
double ind = k;
summ += ((k & 1) ? -1 : 1) *
(sin(ind*(ind + 1)) - cos(ind)*sin(ind*ind)) /
(cos(ind*(1 - ind)) - 2*sin(ind)*sin(ind*ind)) *
(sin(ind*(ind + 1)) - cos(ind)*sin(ind*ind)) /
(cos(ind*(1 - ind)) - 2*sin(ind)*sin(ind*ind));
}
}

переменным

double summ = 0;
#pragma omp parallel for reduction (+:summ)
for (int k = 0; k < N; k++)
{
double ind = k;
summ += ((k & 1) ? -1 : 1) *
(sin(ind*(ind + 1)) - cos(ind)*sin(ind*ind)) /
(cos(ind*(1 - ind)) - 2*sin(ind)*sin(ind*ind)) *
(sin(ind*(ind + 1)) - cos(ind)*sin(ind*ind)) /
(cos(ind*(1 - ind)) - 2*sin(ind)*sin(ind*ind));
}
}

разработки параллельных программ для систем с общей памятью

Реализована на языке C++ в форме классов и шаблонов

Поддерживаемые ОС: Microsoft Windows, Linux, Mac OS

программирования
распараллеливание циклов с известным числом повторений;
распараллеливание циклов с известным числом повторений с редукции;
распараллеливание циклов с условием;
распараллеливание рекурсии.

Кроме того, содержит
потокобезопасные контейнеры;
аллокаторы, операторы выделения динамической памяти;
примитивы синхронизации.

main() {
task_scheduler_init init;
string str[N] = { string(”a”), string(”b”) };
for (size_t i = 2; i < N; ++i)
str[i] = str[i-1]+str[i-2];
string &to_scan = str[N-1];
size_t *max = new size_t[to_scan.size()];
size_t *pos = new size_t[to_scan.size()];
parallel_for(
blocked_range(0, to_scan.size(), 100),
SubStringFinder( to_scan, max, pos ) );
for (size_t I = 0; I < to_scan.size(); ++i)
cout<<” ”< return 0;
}