Другие журналы
|
научное издание МГТУ им. Н.Э. БауманаНАУКА и ОБРАЗОВАНИЕИздатель ФГБОУ ВПО "МГТУ им. Н.Э. Баумана". Эл № ФС 77 - 48211. ISSN 1994-0408![]()
Модифицированный метод адаптивных взвешенных сумм в задаче многокритериальной оптимизации
# 11, ноябрь 2013 DOI: 10.7463/1113.0632468
Файл статьи:
![]() УДК 519.6 Россия, МГТУ им. Н.Э. Баумана
Введение Постановка задачи многокритериальной оптимизации (МКО-задачи) фиксирует множество допустимых значений вектора варьируемых параметров задачи и вектор критериальных функций. Данная информация позволяет обычно выделить не одно решение задачи, но множество таких решений (множество Парето). Поэтому полагаем, как это часто делается в современных публикациях в данной области, что решением МКО-задачи является ее множество Парето. Множество Парето занимает в теории многокритериальной оптимизации исключительное место. Это, прежде всего, связано с тем, что согласно известному принципу Эджворта-Парето, при «разумном» поведении лица, принимающего решения (ЛПР), выбор решения следует производить на этом множестве [1]. Известно большое число методов Парето-аппроксимации, то есть методов построения некоторой конечномерной аппроксимации множества, а тем самым, и фронта Парето. Обзор таких методов представлен, например, в работе [2]. Решение задачи Парето-аппроксимации методом адаптивных взвешенных сумм (AdaptiveWeightedSum (AWS) method) предложили Рю, Ким и Ван (J-H. Ryu, S. Kim, H. Wan) [3]. Метод основан на аддитивной свертке частных критериев оптимальности, но, в отличие от классического метода суммы взвешенных критериев (WeightedSum (WS) method) [1], также использующего такую свертку, предполагает адаптацию весовых коэффициентов в процессе итераций на основе информации о текущем положении подобласти поиска. Целью разработки метода AWSбыло преодоление известного недостатка метода WS, заключающегося в невозможности локализации точек множества Парето, которые соответствуют вогнутым фрагментам фронта Парето. Для сокращения затрат на вычисление значений критериальных функций метод AWS использует метамодели этих функций. Поскольку в практически значимых задачах вычислительная сложность критериальных функций обычно является высокой, это обстоятельство позволяет сократить вычислительные затраты на решение МКО-задачи и делает метод весьма перспективным, например, в задачах автоматизированного проектирования. Недостатком метода AWS в существующем виде является его ориентация на решение только двухкритериальных задач Парето-аппроксимации. Авторы метода AWS выполнили исследование его эффективности для двух относительно простых тестовых задач многокритериальной оптимизации [3], которое показало высокую эффективность метода. В работе [4] мы повторили указанное исследование, а также выполнили аналогичное исследование для трех других сложных тестовых задач. Результаты этого исследования показали, что метод AWS дает высокое качество Парето-аппроксимации в случае выпуклого, хотя, быть может, и несвязного фронта Парето. Для задач, имеющих вогнутый фронт Парето, метод не всегда обеспечивает удовлетворительное качество решения или обеспечивает его, но при значительном числе итераций. В некоторых случаях метод дает недопустимые решения, обусловленные используемым способом учета ограничений на текущую подобласть поиска. Работа открывает цикл из двух публикаций и имеет целью преодоление указанных недостатков метода AWS. Вторая работа будет посвящена приложению представляемого в данной работе методического, алгоритмического и программного обеспечения к решению некоторых задач параметрической идентификации кинетических моделей реакций нейтрального металлокомплексного катализа. В первом разделе работы даем постановку МКО-задачи. Второй раздел представляет базовые методы решения этой задачи. В третьем разделе рассматриваем несколько предложенных нами модификаций метода AWS. В четвертом разделе приводим краткое описание разработанного программного обеспечения, которое реализует метод AWS и его модификации. Пятый раздел посвящен исследованию эффективности указанных модификаций метода AWS. В заключении формулируем основные результаты работы и обсуждаем перспективы ее развития.
1. Постановка задачи Пусть множеством допустимых значений вектора варьируемых параметров Xявляется ограниченное и замкнутое множество
где векторы Вектор-функция
2. Базовые методы решения МКО-задачи 2.1. Метод взвешенных сумм Классический метод взвешенных целевых функций основан на использовании фитнесс-функция вида
где вектор
дает точку Схема WS-метода включает в себя следующие основные шаги. 1) Множество 2) Для каждого Совокупности Достоинствами WS-метода являются идейная и реализационная простота. Основные недостатки метода состоят в невозможности аппроксимации невыпуклых частей фронта Парето и отсутствии гарантий получения равномерной аппроксимации.
2.3. Базовый метод доверительной области Поясним суть базового метода доверительной области (BasicTrustRegion, BTR) [5, 6] на примере задачи безусловной однокритериальной оптимизации
Содержание основных процедур метода заключается в следующем. Инициализация.Определяем значения свободных параметров метода: Формирование метамодели. Метамодель критериальной функции представляет собой аппроксимацию
Здесь Решение оптимизационной задачи.Данная процедура предполагает решение задачи оптимизации
где В работе [5] показано, что для сходимости метода BTRнеобязательно решение задачи (4) как задачи глобальной оптимизации – достаточно лишь, чтобы это решение обеспечивало «существенное уменьшение» (sufficient reduction) значения функции
Здесь Схема (5), по сути, является вариацией метода наискорейшего спуска и поэтому может обеспечить лишь линейную скорость сходимости. Более эффективные методы решения задачи (4) основаны на использовании матрицы Гессе Оценка пробной точки.В качестве количественной оценки
Если Выбор радиуса области доверия.Итерацию, для которой В качестве критерия останова итерационного процесса принимаем один из классических критериев, например, критерий, основанный на евклидовой норме градиента:
Здесь Известны модификации метода BTR, ориентированные на решение задачи условной оптимизации вида (3), когда 2.3. Канонический метод адаптивных взвешенных сумм Канонический метод адаптивных взвешенных сумм (Canonical Adaptive Weighted Sum, CAWS) предназначен для решения двухкритериальной задачи Парето-аппроксимации и ориентирован на устранение недостатков, присущих WS-методу. Метод предложили Ким и Вик (I.Y. Kim, O.L. de Weck) [9]. Рассмотрим основные процедуры метода. Построение грубой Парето-аппроксимации. Грубую аппроксимацию множества Парето строим посредством классического WS-метода. Взвешенную сумму критериев записываем в виде
Шаг
Удаление близких решений. В качестве меры близости решений в критериальном пространстве используем евклидову норму: точки
где Определение числа разбиений. Число разбиений для i-го сегмента текущей аппроксимации фронта Парето определяет формула
где Решение локальных задач Парето-аппроксимации. Построение аппроксимации фронта Парето в i-ом сегменте состоит в решении МКО-задачи вида (1) в области
где Итерации метода AWS заканчиваются, когда длины всех сегментов оказываются меньше порогового значения:
2.4. Метод адаптивных взвешенных сумм Метод адаптивных взвешенных сумм (Adaptive Weighted Sum, AWS) для двухкритериальной задачи Парето-аппроксимации предложили, как отмечалось выше, Рю, Ким и Ван (J-H. Ryu, S. Kim, H. Wan) в работе [3]. Метод AWS сочетает в себе элементы метода WS и метода BTR. Основными в методе AWS являются следующие процедуры. Инициализация метода. Определяем значения свободных параметров метода: Определение центральной точки. На итерации
Алгоритм определения центральной точки 1) Если
Здесь 2) Если 3) Если Формирование метамоделей. Метамодель Здесь Если
а если
В случае
в случае
в случае В работе [3] процедура формирования квадратичных метамоделей Для формирования квадратичных метамоделей
где
Серьезной проблемой при использовании ЦКП является генерация эффективной дробной реплики. Используем для этой цели функции Уолша [10]. Решение оптимизационных задач. Данная процедура предполагает решение задач оптимизации
где текущую область доверия
Если
Данный этап алгоритмаиллюстрирует рисунок 1, на котором принято
Рисунок 1 – К схеме метода AWS: результаты решения задач (7)
Важно, что задачи (7), (8) представляют собой задачи оптимизации квадратичных функций, для решения которых известны высокоэффективные методы, алгоритмы и соответствующее программное обеспечение. В процессе итераций текущий радиус области доверия уменьшаем по правилу
3. Модификации метода адаптивных взвешенных сумм 3.1. Повышение разнообразия множества архивных точек (модификация Наши исследования показали, что в некоторых случаях метод AWSобеспечивает аппроксимацию только части множества Парето, то есть не обеспечивает достаточное разнообразие множества архивных точек
а) точный фронт Парето б) результат аппроксимации фронта методом AWS Рисунок 2 – Тестовая задача ZDT3 (п. 4.1)
Суть модификации
Здесь
3.2. Смещение области доверия (модификация Точки множества Парето могут в некоторых случаях плотно прилегать к одной из границ области определения (рисунок 3). При решении таких задач метод AWS уменьшает радиус области доверия
Рисунок 3 – Множество Парето тестовой задачи ZDT3 (п. 5.1):
Идея модификации
Рисунок 4 – Смещение области доверия:
3.3. Нейросетевая аппроксимация целевых функций (модификация Идея данной модификации состоит в построении метамоделей критериальных функций с помощью нейронных сетей [11]. Поскольку на каждой итерации метода AWS аппроксимация критериальных функций производится в пределах «небольшой» области доверия
4. Программная реализация Для реализации метода Основными являются следующие классы программной модели: ‑ AWSAlgorithm – реализация алгоритма AWS; ‑ OptimAlgorithm, PenaltyAlgorithm, SlaceTolAlgorithm – алгоритмы условной оптимизации при решении однокритериальных задач (7), (8); ‑ ApproximatorNNet, ApproximatorCCD – аппроксимация критериальных функций; ‑ Design, FullFactorialDesign, WalshDesign – планирование экспериментов для квадратичной аппроксимации целевых функций; ‑ HyperSphereConstrain, LinearConstrain– формирование ограничений; ‑ ParetoBruteForcer – генерация начальной аппроксимации множества Парето; ‑ ParetoMeasurer– оценка качества аппроксимации множества (фронта). Программное обеспечение реализует планы полного факторного эксперимента и дробной реплики на основе функций Уолша (классы FullFactorialDesignи WalshDesignсоответственно). Интерфейс абстрактного класса Design позволяет использовать любой метод локальной условной оптимизации. Метод наименьших квадратов реализован с использованием библиотеки GSL(функция gsl_multifit()). Решение задач локальной условной однокритериальной оптимизации (7), (8) осуществляется методами штрафных функций и скользящего допуска в комбинации с известным методом Нелдера-Мида (классы PenaltyAlgorithmи SlaceTolAlgorithmсоответственно). Интерфейс абстрактного класса OptimAlgorithm позволяет использовать любой метод локальной условной оптимизации. Общий объем программного кода составляет около 5000 строк.
5. Исследование эффективности модификаций метода адаптивных взвешенных сумм 5.1. Организация экспериментов Индикаторы качества алгоритма. Качество аппроксимации множества Парето оцениваем с помощью следующих индикаторов [12]: ‑ мощностьмножестварешений (overall non-dominated vector generation)
‑ близость найденных решений к точному множеству Парето рассматриваемой МКО-задачи (generational distance)
где ‑ равномерность распределения решений в полученной Парето-аппроксимации (spacing)
где В качестве индикатора вычислительной эффективности метода используем число испытаний Число итераций в вычислительных экспериментах ограничиваем величиной Тестовые МКО задачи. Вычислительные эксперименты выполнены с использованием следующих тестовых задач. 1) Двухмерная двухкритериальная задача Аудета (С. Audet):
Фронт Парето задачи является непрерывным; значению 2) Двумерная двухкритериальная задача ZDT3 [12]
где Сложность задачи обусловлена несвязным, хотя и выпуклым, фронтом Парето. 3) Двумерная двухкритериальная задача ZDT6 [12]:
Сложность заключается в том, что задача имеет невыпуклый фронт Парето. 4) Двумерная двухкритериальная задача ZDT7 [12]:
Задача имеет непрерывный выпуклый фронт Парето и несколько локальных фронтов.
5.2. Результаты экспериментов Модификация
Таблица 1 – Тестовая задача Аудета (выпуклый фронт): результаты экспериментов
Таблица 2 – Тестовая задача Аудета (невыпуклый фронт): результаты экспериментов
Таблица 3 – Тестовая задача ZDT3: результаты экспериментов; старт 1
Таблица 4 – Тестовая задача ZDT3: результаты экспериментов; старт 2
Рисунок 5 – Задача Аудета (выпуклый фронт): метод
Рисунок 6 – Задача Аудета (выпуклый фронт): метод AWS;
Рисунок 7 – Задача Аудета (невыпуклый фронт); метод AWS;
Рисунок 8 – Задача Аудета (невыпуклый фронт): метод
Рисунок 9 – Задача ZDT3: метод AWS;
Рисунок 10 – Задача ZDT3 (пространство параметров): метод AWS;
Рисунок 11 – Задача ZDT3: метод
Рисунок 12 – Задача ZDT3 (пространство параметров): метод
Рисунок 13 – Задача ZDT3: метод
Рисунок 14 – Задача ZDT3 (пространство параметров): метод
Представленные результаты показывают, что для задачи Аудета, имеющей выпуклый фронт Парето, модификация Иная картина наблюдается в случае задачи ZDT3, имеющей, напомним, выпуклый, но разрывный фронт Парето. В этом случае модификация Модификация
Рисунок 15 – Задача ZDT3: метод
Рисунок 16 – Задача ZDT3 (пространство параметров): метод
Модификация
Таблица 5 – Тестовая задача ZDT3: результаты экспериментов
Таблица 6 – Тестовая задача ZDT7: результаты экспериментов
Рисунок 17 – Тестовая задача ZDT3: метод
Рисунок 18 – Тестовая задача ZDT3: метод
Рисунок 19 – Тестовая задача ZDT7: метод
Рисунок 20 – Тестовая задача ZDT7: метод
Представленные результаты показывают, что для задачи ZDT3 модификация
Заключение В работе представлен обзор метода AWS, а также методов, на которых он основан. Предложены три модификации метода AWS, имеющие целью устранение его недостатков. Выполнена программная реализация метода AWS и его указанных модификаций. На известных тесовых МКО-задачах выполнено широкое исследование эффективности разработанного методического, алгоритмического и программного обеспечения. Рассмотрены четыре индикатора эффективности, характеризующие, как качество получаемой Парето-аппроксимации, так и соответствующие вычислительные затраты. Исследование показало, что часто предложенные модификации обеспечивают значительно превосходство над методом AWS. В тоже время, исследование не позволило получить все ожидаемые результаты. Авторы предполагают дополнительные исследования для локализации причин неудачных модификаций. Кроме того, авторы планируют исследование эффективности модификаций на тестовых задачах высокой размерности. Работа поддержана грантом РФФИ № 12-07-00324-а «Структурная и параметрическая идентификация кинетических моделей реакций нейтрального металлокомплексного катализа».
Список литературы 1. Ларичев О.И. Теория и методы принятия решений: учебник для ВУЗов. М.: Университетская книга, Логос, 2006. 392 с. 2. Карпенко А.П., Митина Е.В., Семенихин А.С. Популяционные методы аппроксимации множества Парето в задаче многокритериальной оптимизации. Обзор // Наука и образование. МГТУ им. Н.Э. Баумана. Электрон. журн. 2012. № 4. Режим доступа: http://www.technomag.edu.ru/doc/363023.html (дата обращения 01.10.2013). 3. Jong-hyun Ryu, Sujin Kim, Hong Wan. Pareto front approximation with adaptive sum method in multiobjective simulation optimization // Proc. of the 2009 Winter Simulation Conference (WSC), 2009, Austin, pp. 623-633. Available at: http://www.informs-sim.org/wsc09papers/060.pdf , accessed 01.10.2013. 4. Карпенко А.П., Савелов А.С., Семенихин А.С. Адаптивный метод взвешенных сумм в задаче Парето-аппроксимации // Наука и образование. МГТУ им. Н.Э. Баумана. Электрон. журн. 2012. № 6. DOI: 10.7463/0612.0423283 5. Conn A.R, Gould N.I.M., Toint P.L. Trust-Region Methods. SIAM, Philadelphia, USA, 2000. 959 p. (MPS-SIAM Series on Optimization; no. 1). 6. Nocedal J., Wright S.J. Numerical Optimization. Springer, 1999. 634 p. DOI: 10.1007/b98874 7. Асатурян В.И. Теория планирования эксперимента. М.: Радио и связь, 1983. 248 с. 8. Соболь И.М., Статников Р.Б. Выбор оптимальных параметров в задачах со многими критериями: учеб. пособие для вузов. М.: Дрофа, 2006. 182 с. 9. Kim I.Y., de Weck O.L. Adaptive weighted-sum method for bi-objective optimization: Pareto front generation // Structural and Multidisciplinary Optimization. 2005. Vol. 29, no. 2. P. 149-158. DOI: 10.1007/s00158-004-0465-1 10. Susan M. Sanchez, Paul J. Sanchez. Very large fractional and central composite design // ACM Transactions on Modeling and Computer Simulation. 2005. Vol. 15, no. 4. P. 362-377. 11. Хайкин С. Нейронные сети: полный курс: пер. с англ. М.: Издательский дом «Вильямс», 2006. 1104 с. 12. Zitzler E., Deb K., Thiele L. Comparison of Multiobjective Evolutionary Algorithms: Empirical Results // Evolutionary Computation. 2000. Vol. 8, no. 2. P. 173-195. DOI: 10.1162/106365600568202 13. Audet C., Savard G., Zghal W. Multiobjective optimization through a series of single-objective formulations // SIAM Journal on Optimization. 2008. Vol. 19, no. 1. P. 188-210. DOI: 10.1137/060677513 Публикации с ключевыми словами: многокритериальная оптимизация, множество Парето, фронт Парето, метод адаптивных взвешенных сумм Публикации со словами: многокритериальная оптимизация, множество Парето, фронт Парето, метод адаптивных взвешенных сумм Смотри также:
Тематические рубрики: Поделиться:
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|