Байесовская оптимизация — это последовательная модель стратегии для глобальной оптимизации функций чёрного ящика, которая не предполагает никаких функциональных форм. Обычно она используется для оптимизации дорогостоящих в вычислении функций. С развитием искусственного интеллекта в XXI веке алгоритмы байесовской оптимизации нашли широкое применение в задачах машинного обучения для настройки гиперпараметров.
История Термин обычно приписывается Ионасу Моцкусу и был придуман в его работе из серии публикаций по глобальной оптимизации в 1970-х и 1980-х годах.
Ранние математические исследования
1960−1980 года Самая ранняя идея байесовской оптимизации зародилась в 1964 году с работой американского прикладного математика Гарольда Дж. Кушнера «Новый метод нахождения максимальной точки произвольной многопиковой кривой в присутствии шума». Хотя Кушнер напрямую не предлагал байесовскую оптимизацию, его метод заложил важную теоретическую основу для её дальнейшего развития.
К 1980-м годам была чётко сформулирована концепция байесовской оптимизации, которую мы используем сегодня. В 1978 году литовский учёный Ионас Моцкус в статье «Применение байесовских методов для поиска экстремума» обсуждал, как использовать байесовские методы для нахождения экстремального значения функции в условиях неопределённости. В этой статье Мицкас впервые предложил принцип ожидаемого улучшения, который является одной из ключевых стратегий выборки в байесовской оптимизации. Этот критерий эффективно балансирует между исследованием и оптимизацией функции путём максимизации ожидаемых улучшений. Благодаря полезности и глубокому влиянию этого принципа, Ионас Моцкус широко признан основателем байесовской оптимизации. Хотя принцип ожидаемого улучшения является одной из самых ранних предложенных ключевых стратегий выборки для байесовской оптимизации, он не единственный, появились также другие методы, такие как вероятность улучшения или верхняя доверительная граница и другие.
От теории к практике В 1990-х годах байесовская оптимизация постепенно начала переходить от чистой теории к практическому применению. В 1998 году Дональд Р. Джонс и его коллеги опубликовали статью, озаглавленную «Эффективная глобальная оптимизация дорогостоящих функций чёрного ящика». В этой статье они предложили гауссовский процесс и подробно описали принцип ожидаемого улучшения, предложенный Ионасом Моцкусом в 1978 году. Благодаря усилиям Дональда Р. Джонса и его коллег байесовская оптимизация начала активно применяться в таких областях, как информатика и инженерия. Однако вычислительная сложность байесовской оптимизации для тогдашних вычислительных мощностей всё ещё в значительной степени сдерживала её развитие.
В XXI веке, с постепенным развитием искусственного интеллекта и бионических роботов, байесовская оптимизация нашла широкое применение в машинном и глубоком обучении, став важным инструментом для настройки гиперпараметров. Такие компании, как Google, Facebook и OpenAI, интегрировали байесовскую оптимизацию в свои фреймворки глубокого обучения для повышения эффективности поиска. Однако, байесовская оптимизация сталкивается с рядом трудностей. Например, вследствие применения гауссовского процесса в качестве прокси-модели для оптимизации при большом объёме данных обучение гауссовского процесса становится очень медленным и требует значительных вычислительных затрат. Это затрудняет эффективное применение данного метода оптимизации в более сложных областях, таких как разработка лекарств и медицинские эксперименты.
Стратегия
Байесовская оптимизация используется для задач вида , где — это множество всех возможных параметров . Для оптимального использования размерность обычно не превышает 20 (то есть ), и принадлежность к этому множеству легко проверяется. Байесовская оптимизация особенно полезна для задач, где стоимость вычисления функции высока. Целевая функция является непрерывной и имеет некоторую неизвестную структуру, которую называют «чёрным ящиком». При её вычислении наблюдается только , а производные не оцениваются.
Поскольку целевая функция неизвестна, байесовская стратегия рассматривает её как случайную функцию и задаёт для неё априорное распределение. Априорное распределение отражает наши представления о поведении функции. После сбора оценок функции, которые рассматриваются как данные, априорное распределение обновляется, формируя апостериорное распределение для целевой функции. Апостериорное распределение, в свою очередь, используется для построения функцию выбора (часто также называемой критерием заполняющей выборки) которая определяет следующую точку запроса.
Существует несколько способов определения априорного/апостериорное распределения для целевой функции. Два наиболее распространенных метода используют гауссовские процессы в методах, называемых кригингом. Другой, менее затратный метод, применяет древовидный оценщик Парзена для построения двух распределений для 'высоких' и 'низких' точек, а затем находит положение, максимизирующее ожидаемое улучшение.
Стандартная байесовская оптимизация предполагает, что каждая точка легко поддаётся оценке. Задачи, отклоняющиеся от этого предположения, известны как экзотические задачи байесовской оптимизации. Оптимизационные задачи могут стать экзотическими, если известно, что имеется шум, оценки проводятся параллельно, качество оценок зависит от компромисса между сложностью и точностью, присутствуют случайные условия окружающей среды, или если оценка включает производные.
Функции выбора Примеры функций выбора вероятность улучшения ожидаемое улучшение байесовские ожидаемые потери или нижняя доверительная граница
а также их комбинации. Все они балансируют между , чтобы минимизировать количество запросов к функции. Таким образом, байесовская оптимизация хорошо подходит для функций, оценка которых требует значительных затрат.
Методы решения Максимум функции выбора обычно находят путём дискретизации или с помощью вспомогательного оптимизатора. Функции выбора максимизируются с использованием численных методов оптимизации, таких как , или квазиньютоновских методов, например алгоритма Бройдена — Флетчера — Гольдфарба — Шанно.
Приложения Этот подход применялся для решения широкого спектра задач, куда входят обучение ранжированию, компьютерная графика и визуальный дизайн, робототехника, сенсорные сети, автоматическая настройка алгоритмов, автоматические инструментарии машинного обучения, обучение с подкреплением, планирование, настройка архитектуры в глубоком обучении, статичный анализ программ, экспериментальная физика частиц, оптимизация качества и разнообразия, химия, проектирование материалов и разработка лекарств.
Байесовская оптимизация нашла применение в области распознавания лиц. Эффективность алгоритма «Гистограмма направленных градиентов» (, HOG), популярного метода извлечения признаков, во многом зависит от настроек его параметров. Оптимизация этих параметров может быть сложной, но имеет решающее значение для достижения высокой точности. Предложен новый подход к оптимизации параметров алгоритма HOG и размера изображений для распознавания лиц с использованием байесовской оптимизации на основе древовидного оценщика Парзена. Этот оптимизированный подход может быть адаптирован для других приложений компьютерного зрения и способствует дальнейшему развитию алгоритмов извлечения признаков в компьютерном зрении, основанных на параметрах, заданных вручную.
См. также
Кригинг
Глобальная оптимизация
Оптимум Парето Мультикритериальная оптимизация
Примечания
Литература
keywords: {Big Data;Bayes methods;Optimization;Tuning;Data models;Gaussian processes;Noise measurement}
Статья № 48 Статья № 88
Докторская диссертация
Категория:Последовательные методы Категория:Стохастическая оптимизация Категория:Машинное обучение