- Главная
- Разное
- Дизайн
- Бизнес и предпринимательство
- Аналитика
- Образование
- Развлечения
- Красота и здоровье
- Финансы
- Государство
- Путешествия
- Спорт
- Недвижимость
- Армия
- Графика
- Культурология
- Еда и кулинария
- Лингвистика
- Английский язык
- Астрономия
- Алгебра
- Биология
- География
- Детские презентации
- Информатика
- История
- Литература
- Маркетинг
- Математика
- Медицина
- Менеджмент
- Музыка
- МХК
- Немецкий язык
- ОБЖ
- Обществознание
- Окружающий мир
- Педагогика
- Русский язык
- Технология
- Физика
- Философия
- Химия
- Шаблоны, картинки для презентаций
- Экология
- Экономика
- Юриспруденция
Разработка параллельных программ для GPU. Введение в CUDA презентация
Содержание
- 1. Разработка параллельных программ для GPU. Введение в CUDA
- 2. АППАРАТНЫЕ ОСОБЕННОСТИ GPU Краткий обзор архитектурных особенностей GPU
- 3. Основные тенденции Переход к многопроцессорным системам
- 4. Классификация архитектур Виды параллелизма На уровне данных
- 5. Архитектура многоядерных CPU Кэш первого уровня для
- 6. Архитектура GPU: Device
- 7. Архитектура GPU: TPC Кластер текстурных блоков (TPC) Память для текстур Потоковый мультипроцессор
- 8. Архитектура GPU: SM Память констант Память инструкций
- 9. Основные отличия GPU от CPU Высокая степень параллелизма (SIMT) Минимальные затраты на кэш-память Ограничения функциональности
- 10. РАЗВИТИЕ ВЫЧИСЛЕНИЙ НА GPU Развитие технологии неграфических вычислений
- 11. Эволюция GPU
- 12. GPGPU General-Purpose Computation on GPU Вычисления на
- 13. ПРОГРАММНАЯ МОДЕЛЬ CUDA Основные понятия и определения CUDA
- 14. CUDA – Compute Unified Device Architecture
- 15. Организация работы CUDA GPU
- 16. Warp и латентность Warp Порция потоков для
- 17. Топология блоков (block) Возможна 1, 2 и 3-мерная топология Количество потоков в блоке ограничено (512)
- 18. Топология сетки блоков (grid) Возможна 1 и
- 19. Адресация элементов данных CUDA предоставляет встроенные переменные,
- 20. Барьерная синхронизация Синхронизация потоков блока осуществляется встроенным оператором __synchronize
- 21. CUDA: РАСШИРЕНИЕ C++ Особенности написания программ для GPU CUDA
- 22. Расширение языка С++ Новые типы данных Спецификаторы
- 23. Процесс компиляции Файлы CUDA (GPU) *.cu Файлы
- 24. Типы данных CUDA 1, 2, 3 и
- 25. Спецификаторы функций
- 26. Спецификаторы функций Ядро помечается __global__ Ядро не
- 27. Ограничения функций GPU Не поддерживается рекурсия Не
- 28. Спецификаторы переменных
- 29. Ограничения переменных GPU Переменные __shared__ не могут
- 30. Переменные ядра dim3 gridDim unit3
- 31. Директива запуска ядра Kernel(data) blocks –
- 32. Общая структура программы CUDA __global__ void Kernel(float*
- 33. Предустановки Видеокарта NVIDIA с поддержкой CUDA Драйвера
- 34. Литература NVIDIA Developer Zone http://developer.nvidia.com/cuda NVIDAI
- 35. ВОПРОСЫ?
Слайд 3Основные тенденции
Переход к многопроцессорным системам
Развития технологий параллельного программирования
OpenMP, MPI, TPL etc.
Простота
в использовании
Слайд 4Классификация архитектур
Виды параллелизма
На уровне данных (Data)
На уровне задач (Instruction)
*GPU: SIMT –
Single Instruction Multiple Thread
Слайд 5Архитектура многоядерных CPU
Кэш первого уровня
для инструкций (L1-I)
для данных (L1-D)
Кэш второго уровня
на
одном кристалле
используется раздельно
Проблема синхронизации кэш-памяти
используется раздельно
Проблема синхронизации кэш-памяти
Слайд 7Архитектура GPU: TPC
Кластер текстурных блоков (TPC)
Память для текстур
Потоковый мультипроцессор
Слайд 8Архитектура GPU: SM
Память констант
Память инструкций
Регистровая память
Разделяемая память
8 скалярных процессоров
2 суперфункциональных блока
Слайд 9Основные отличия GPU от CPU
Высокая степень параллелизма (SIMT)
Минимальные затраты на кэш-память
Ограничения
функциональности
Слайд 12GPGPU
General-Purpose Computation on GPU
Вычисления на GPU общего (неграфического) назначения
AMD FireStream
NVIDIA CUDA
DirectCompute
(DirectX 10)
OpenCL
OpenCL
Слайд 14CUDA – Compute Unified Device Architecture
Host – CPU (Central Processing Unit)
Device
– GPU (Graphics Processing Unit)
Слайд 16Warp и латентность
Warp
Порция потоков для выполнения на потоковом мультипроцессоре (SM)
Латентность
Общая задержка
всех потоков warp’а при выполнении инструкции
Слайд 17Топология блоков (block)
Возможна 1, 2 и 3-мерная топология
Количество потоков в блоке
ограничено (512)
Слайд 18Топология сетки блоков (grid)
Возможна 1 и 2-мерная топология
Количество блоков в каждом
измерении ограничено 65536=216
Слайд 19Адресация элементов данных
CUDA предоставляет встроенные переменные, которые идентифицируют блоки и потоки
blockIdx
blockDim
threadIdx
1D
Grid & 2D Block:
int dataIdnex = blockIdx.x * blockDim.x + threadIdx.x
int dataIdnex = blockIdx.x * blockDim.x + threadIdx.x
Слайд 20Барьерная синхронизация
Синхронизация потоков блока осуществляется встроенным оператором __synchronize
Слайд 22Расширение языка С++
Новые типы данных
Спецификаторы для функций
Спецификаторы для переменных
Встроенные переменные (для
ядра)
Директива для запуска ядра
Директива для запуска ядра
Слайд 23Процесс компиляции
Файлы CUDA (GPU)
*.cu
Файлы CPU
*.cpp, *.h
Исполняемый модуль
*.dll, *.exe
nvcc
VC90
Слайд 24Типы данных CUDA
1, 2, 3 и 4-мерные вектора базовых типов
Целые: (u)char,
(u)int, (u)short, (u)long, longlong
Дробные: float, double
Пример: float(1), float2, float3, float4
dim3 ~ uint3
Пример: dim3(n) = uint(n,1,1)
Дробные: float, double
Пример: float(1), float2, float3, float4
dim3 ~ uint3
Пример: dim3(n) = uint(n,1,1)
Слайд 26Спецификаторы функций
Ядро помечается __global__
Ядро не может возвращать значение
Возможно совместное использование __host__
и __device__
Спецификаторы __global__ и __host__ не могут использоваться совместно
Спецификаторы __global__ и __host__ не могут использоваться совместно
Слайд 27Ограничения функций GPU
Не поддерживается рекурсия
Не поддерживаются static-переменные
Нельзя брать адрес функции __device__
Не
поддерживается переменное число аргументов
Слайд 29Ограничения переменных GPU
Переменные __shared__ не могут инициализироваться при объявлении
Запись в __constant__
может производить только host через CUDA API
Спецификаторы нельзя применять к полям структур и union
Спецификаторы нельзя применять к полям структур и union
Слайд 31Директива запуска ядра
Kernel(data)
blocks – число блоков в сетке
threads – число
потоков в блоке
Слайд 32Общая структура программы CUDA
__global__ void Kernel(float* data)
{
. .
.
}
void main()
{
. . .
Kernel<<>>(data);
. . .
}
}
void main()
{
. . .
Kernel<<
. . .
}
Слайд 33Предустановки
Видеокарта NVIDIA с поддержкой CUDA
Драйвера устройства с поддержкой CUDA
NVIDIA CUDA Toolkit
NVIDIA
CUDA SDK
NVIDIA Nsight
Visual Studio 2008+
Компилятор Visual C++ 9.0+
NVIDIA Nsight
Visual Studio 2008+
Компилятор Visual C++ 9.0+
Слайд 34Литература
NVIDIA Developer Zone
http://developer.nvidia.com/cuda
NVIDAI CUDA – Неграфические вычисления на графических процессорах
http://www.ixbt.com/video3/cuda-1.shtml
Создание простого
приложения CUDA в Visual Studio 2010
http://mezhov.blogspot.com/2011/09/cuda-visual-studio-2010.html
http://mezhov.blogspot.com/2011/09/cuda-visual-studio-2010.html
