Метод релевантных векторов (МРВ, , RVM) — это техника машинного обучения, которая использует байесовский вывод для получения решений на принципе экономности для регрессии и вероятностной классификации.
МРВ имеет тот же функциональный вид, что и метод опорных векторов, но обеспечивает вероятностную классификацию.
Описание Метод, фактически, эквивалентен модели гауссовского процесса с : , где является (обычно, гауссианом), являются априорными дисперсиями вектора весов, , а являются входными векторами .
По сравнению с методами опорных векторов байесовская формулировка МРВ позволяет избежать необходимости использования свободных параметров (что, обычно, требует постоптимизации на основе перекрёстных проверок). Однако МРВ использует метод обучения, подобный EM-алгоритму, а потому существует риск скатывания в локальный минимум. Это отличает его от стандартных алгоритмов на основе , используемой методами опорных векторов и гарантирующей нахождение глобального оптимума (на выпуклой задаче).
Метод релевантных векторов компанией Microsoft.
См. также Ядерный метод : превращает SVM в вероятностную модель
Примечания
Литература
Программное обеспечение dlib Библиотека на языке C++ Библиотека ядерных машин rvmbinary: пакет на языке R для двоичной классификации scikit-rvm fast-scikit-rvm, Обучающий курс по методу релевантных векторов
Ссылки WEB-страничка Типпинга о Разреженных байесовских моделях и Методе релевантных векторов Обучающий курс по методу релевантных векторов Тристана Флетчера Обучающий курс по методу релевантных векторов Сравнение метода релевантных векторов и метода опорных векторов
Категория:Алгоритмы классификации Категория:Непараметрическая байесовская статистика