Численные методы решения оптимизационных задач презентация

Содержание

План лекции Постановка и виды задач оптимизации Метод неравномерных покрытий (МНП) Безусловная оптимизация Математическое программирование Эффективная реализация МНП на современных архитектурах

Слайд 1Численные методы решения оптимизационных задач
Ю.Г. Евтушенко, М.А. Посыпкин
Вычислительный центр РАН


Слайд 2План лекции
Постановка и виды задач оптимизации
Метод неравномерных покрытий (МНП)
Безусловная оптимизация
Математическое

программирование
Эффективная реализация МНП на современных архитектурах


Слайд 3Постановка задачи оптимизации
Экстремум берется относительно порядка заданного на Y


Слайд 4Классификация по структуре допустимого множества

- безусловная оптимизация
- дискретная оптимизация
математическое программирование
Линейное программирование
Нелинейное программирование
частично-целочисленное программирование (оптимизация)


Слайд 5Классификация по числу критериев
Скалярная оптимизация (один критерий)
Многокритериальная оптимизация (более одного критерия)


Слайд 6Классификация по локальности минимума
Локальная оптимизация
Глобальная оптимизация


Слайд 7Классификация по гарантии оптимальности
Эвристические методы (не дают информацию о точности найденного

решения)
Детерминированные методы (гарантируют оптимальность с заданной точностью)

Оптимум

Приближенное решение


Слайд 8Примеры задач глобальной оптимизации
оптимизация инвестиционного плана
поиск оптимального маршрута (транспортные

задачи)
поиск конфигурации молекул с минимальной энергией взаимодействия
докинг протеинов
оптимизация размещения элементов микросхем и их верификация


Слайд 9Метод Неравномерных Покрытий
Предложен Ю.Г. Евтушенко в 1971 году
Позволяет решать
задачи без

ограничений,
с нелинейными ограничениями,
частично-целочисленные задачи
с одним и несколькими критериями
Гарантирует оптимальность с заданной точностью (детерминированный метод)

Слайд 10Метод неравномерных покрытий
Предложен для безусловной оптимизации в 1971 Ю. Г. Евтушенко, “Численный

метод поиска глобального экстремума функций (перебор на неравномерной сетке)”, Ж. вычисл. матем. и матем. физ., 11:6 (1971), 1390–1403
Расширен на случай многих критериев в 1986 Евтушенко Ю. Г., Потапов М. А. «Методы численного решения многокритериальных задач.» ДАН СССР, Т. 291, N 1, 1986, С. 25-39.
Расширен на задачи математического программирования в 1992 Yu. G. Evtushenko, M. A. Potapov, V. V. Korotkikh. Numerical methods for global optimization. In "Recent advances in global optimization”, Princeton University Press, pp. 274-297. 1992.
Первая параллельная реализация 2007 Ю. Г. Евтушенко, В. У. Малкова, А. А. Станевичюс. Распараллеливание процесса поиска глобального экстремума. Автоматика и телемеханика, № 5. С. 46-58, 2007.

Новая техника для задач математического программирования 2011 Ю. Г. Евтушенко, М. А. Посыпкин. Варианты метода неравномерных покрытий для глобальной оптимизации частично-целочисленных нелинейных задач. Доклады Академии наук. Т: 437. № 2. С. 168–172.





Слайд 11Безусловная оптимизация: постановка задачи
Требуется найти точку


Слайд 12Упрощение постановки
От безусловной переходим к оптимизации с простыми (параллелепипедными) ограничениями («box-constrained»)



Требуется

найти -оптимальное решение

Слайд 13Метод неравномерных покрытий для одномерной безусловной оптимизации



[
a
]
b
]
a’
[
b’

Миноранта
Лебеговское множество
Целевая функция


Слайд 14Метод неравномерных покрытий для одномерной безусловной оптимизации


[
a
]
b



Слайд 15Общий случай: основная теорема
L2
L3
L4
L5
L6
- совокупность множеств
Теорема. Если выполнено

то

- совокупность допустимых точек


Слайд 16Основные составляющие МНП

Построение покрытия (системы покрывающих множеств)
Построение последовательности рекордных точек


Слайд 17Липшицева Миноранта 1-го порядка
Условие Липшица:
Миноранта:
представляет собой шар радиуса
с центром в

точке .






Слайд 18Липшицева миноранта 2-го порядка
Градиент удовлетворяет условию Липшица
Миноранта
- шар радиуса
с центром

в точке

Этот шар может быть исключен из дальнейшего рассмотрения.


Слайд 19Реализация МНП: метод бисекций


Слайд 20


Реализация МНП: метод бисекций


Слайд 21
Реализация МНП: метод бисекций


Слайд 22Реализация МНП: метод бисекций



Слайд 23Реализация МНП: метод бисекций





Слайд 24Реализация МНП: метод бисекций



Слайд 25Реализация МНП: метод бисекций





Слайд 26Реализация МНП: метод бисекций



Похож на метод ветвей и границ


Слайд 28Нахождение хорошего рекорда
Использование локальных и эвристических методов позволяет найти хороший рекорд

и может существенно ускорить процесс нахождения минимума

Слайд 29Задачи с ограничениями: постановка
непрерывные
Найти:


Слайд 30МНП для задач с ограничениями
Допустимая область ограничена
Ищется приближенное

-решение

Слайд 31
Расширение допустимого множества




Слайд 32Оптимизация с ограничениями: основная идея
Если -

миноранта для j-го ограничения на множестве :

то множество

можно отбросить как не содержащее допустимых точек.


Слайд 33Оптимизация с ограничениями: основная теорема
L2
L3
L4
L5
L6
- совокупность множеств
Теорема. Если выполнено

то

- совокупность -допустимых точек



Слайд 34Учет целочисленности
Множество, исключаемое из рассмотрения, расширяется до целочисленных границ





Слайд 35Частично целочисленные задачи
Требуется минимизировать затраты f(x) на производство при соблюдении технологических

ограничений g1-g4.

Слайд 36Результаты расчетов


Слайд 37Метод ветвей и границ



ДЕРЕВО ВЕТВЛЕНИЯ
ВЕТВЛЕНИЕ
ПОДЗАДАЧА
ОТСЕЯННАЯ ПОДЗАДАЧА:
НЕ ИМЕЕТ РЕШЕНИЙ
ОПТИМУМ НАЙДЕН
ОПТИМУМ НЕ ЛУЧШЕ

РАНЕЕ НАЙДЕННОГО (РЕКОРДА)



Слайд 38Проблемы распараллеливания МВГ
дерево ветвления не является сбалансированным;
структура дерева ветвления не известна

до начала решения задачи и формируется динамически;

ГРАФ АЛГОРИТМА


Слайд 39Разбалансировка нагрузки


































УП
РП 1
РП 2
















Слайд 40

Разделение проблемно-зависимых и независимых частей
ПРОБЛЕМНО-НЕЗАВИСИМЫЕ
Организация хранения подмножеств и допустимых решений
Общая схема

вычислений

ПРОБЛЕМНО-ЗАВИСИМЫЕ

Способ ветвления
Правила отсева


Слайд 41 Реализация для различных архитектур: повторное использование
многопроцессорные с распределенной памятью
однопроцессорные
многопроцессорные с общей

памятью

архитектуры

методы

МВГ для
ранца

МВГ для коммивояжера

МВГ для непрерывной оптимизации



























КАРКАСЫ


Слайд 42Структура пакета BNB-Solver (С ++)
БАЗОВЫЕ ВЫЧИСЛИТЕЛЬНЫЕ ПРИМИТИВЫ
БАЗОВЫЕ КОММУНИКАЦИОННЫЕ ПРИМИТИВЫ
КАРКАС
ДЛЯ ОБЩЕЙ

ПАМЯТИ

КАРКАС
ДЛЯ РАСПРЕДЕЛЕННОЙ ПАМЯТИ

МЕТОД НЕРАВНОМЕРНЫХ ПОКРЫТИЙ

МВГ
ДЛЯ РАНЦА


КАРКАС
ДЛЯ ПОСЛЕД. АРХИТЕКТУР

МВГ ДЛЯ ЗАДАЧИ КОММИВОЯЖЕРА



Солвер НЛП для общей памяти

СОЛВЕРЫ

ПОДСИСТЕМА УПРАВЛЕНИЯ ПАМЯТЬЮ


Слайд 43Проблема балансировки нагрузки
Число вершин в разных ветвях может очень существенно различаться,

что приводит к простою процессоров и, как следствие, потерям производительности.
Способ решения: механизмы перераспределения работы в процессе решения (динамическая балансировка нагрузки).


Слайд 44Адаптивная балансировка нагрузки
РП выполняет Tb ветвлений, после чего посылает УП

(не более) Ts вершин.
РП процесс, завершивший обработку назначенной вершины, посылает запрос УП. В ответ УП посылает рабочему процессу одну вершину. РП получает ее и начинает выполнять итерации МНП.
Если на УП скапливается более Um вершин, УП посылает сообщение всем РП чтобы они прекратили посылку вершин.
Если на УП меньше Lm вершин, то УП посылает сообщение всем РП, чтобы они возобновили посылку вершин.

УП

РП

РП

РП

РП

УП – управляющий процесс, РП – рабочий процесс;
Tb – пороговое значение числа ветвлений на рабочем процессе;
Ts – пороговое значение числа пересылаемых вершин на управляющий процесс;
Um(Lm) – максимальное (минимальное) число вершин на управляющем процессе


Слайд 45ПАРАЛЛЕЛЬНАЯ РЕАЛИЗАЦИЯ МНП

Обобщенная функция Розенброка

Суперкомпьютер MVS 100K


Слайд 46Современные проблемы МНП
Усовершенствование метода
Новые способы построения покрытий
Ускорение получения рекордов
Решение многокритериальных задач


Слайд 47Проблемы эффективной реализации
Преодоление 100 TFLOPS: совершенствование балансировки
Перенос на гибридные архитектуры (распределенная

память + общая память + GPU)
Реализация в распределенной среде (BOINC-проекты: OPTIMA@home)



Слайд 48Спасибо за внимание!


Обратная связь

Если не удалось найти и скачать презентацию, Вы можете заказать его на нашем сайте. Мы постараемся найти нужный Вам материал и отправим по электронной почте. Не стесняйтесь обращаться к нам, если у вас возникли вопросы или пожелания:

Email: Нажмите что бы посмотреть 

Что такое ThePresentation.ru?

Это сайт презентаций, докладов, проектов, шаблонов в формате PowerPoint. Мы помогаем школьникам, студентам, учителям, преподавателям хранить и обмениваться учебными материалами с другими пользователями.


Для правообладателей

Яндекс.Метрика