Метаоптимизация в контексте численной оптимизации — это применение одного метода оптимизации для настройки другого. Известно, что метаоптимизация использовалась ещё в конце 1970-х годов Мерсером и Сэмпсоном для поиска оптимальных параметров генетического алгоритма.
Метаоптимизация и связанные с ней концепции также известны в литературе под названиями метаэволюция, супероптимизация, автоматическая калибровка параметров, гиперэвристика и т.д..
Мотивация
Методы оптимизации, такие как генетический алгоритм и дифференциальная эволюция, имеют ряд параметров, которые определяют их поведение и эффективность при решении конкретной задачи. Выбор поведенческих параметров вручную — трудоёмкая задача, подверженная человеческим заблуждениям относительно того, что способствует хорошей работе оптимизатора.
Поведенческие параметры оптимизатора можно варьировать, а производительность оптимизации отображать в виде ландшафта. Это вычислительно осуществимо для оптимизаторов с небольшим количеством поведенческих параметров и задач оптимизации, которые быстро вычисляются. Однако при увеличении числа поведенческих параметров время, необходимое для вычисления такого ландшафта производительности, возрастает экспоненциально. Это проклятие размерности для пространства поиска, состоящего из поведенческих параметров оптимизатора. Поэтому необходим эффективный метод для поиска в пространстве поведенческих параметров.
Методы
Простой способ подбора эффективных поведенческих параметров для оптимизатора заключается в использовании другого, вышестоящего оптимизатора, называемого мета-оптимизатором. Существуют различные подходы к этому, зависящие от того, являются ли настраиваемые поведенческие параметры вещественными числами или дискретными значениям, а также от используемой метрики производительности и других факторов.
Метаоптимизация параметров генетического алгоритма проводилась, среди прочих, Грефенстетте и Кином . Эксперименты по метаоптимизации как параметров, так и генетических операторов были описаны Бэком. Метаоптимизация алгоритма COMPLEX-RF была выполнена Крусом и Андерссоном. Ими был представлен и далее развит показатель производительности оптимизации, основанный на теории информации. Метаоптимизация оптимизации роя частиц проводилась Мейснером и др., Педерсеном и Чипперфилдом, а также Мейсоном и др.. Педерсен и Чипперфилд применили метаоптимизацию к дифференциальной эволюции. Бираттари и др. метаоптимизировали оптимизацию муравьиной колонии. Статистические модели также использовались для выявления взаимосвязи между выбором поведенческих параметров и производительностью оптимизации, например, в работах Франсуа и Лаверня, а также Наннена и Эйбена. Сравнение различных методов метаоптимизации было проведено Смитом и Эйбеном.
См. также Автоматическое машинное обучение (AutoML) Гиперэвристика
Примечания
Категория:Эволюционные вычисления Категория:Эвристика