Метод коррекции с обратной передачей сигнала ошибки — стохастический метод обучения персептрона, необходимый, чтобы гарантировать сходимость при переменных связях больше, чем у одного слоя. Метод был предложен Розенблаттом для перцептрона с переменными S-A связями и может быть использован для бинарных многослойных перцептронов. Является альтернативой методу обратного распространения ошибки, но, в отличие от него, гарантирует процесс сходимости (достижение решения).

Алгоритм

Для каждого R-элемента устанавливается ошибка , где - требуемая, а - достигнутая реакция. Для каждого А-элемента ошибка вычисляется следующим образом: Вначале ; Если элемент активен и связь ( или в общем случае ) оканчивается на R-элементе с ненулевой ошибкой , отличающейся по знаку от веса связи , то с вероятностью к следует прибавить коррекцию, равную -1; Если элемент неактивен и связь оканчивается на R-элементе с ненулевой ошибкой , не отличается (совпадает) по знаку от веса связи , то с вероятностью к следует прибавить коррекцию, равную +1; Если элемент неактивен и связь оканчивается на R-элементе с ненулевой ошибкой , отличающейся по знаку от веса связи (или ), то с вероятностью к следует прибавить коррекцию, равную +1; При всех остальных условиях не изменяется. Если , то ко всем активным связям, оканчивающимся на А или R элементе, прибавляем коррекцию со знаком, совпадающим со знаком , т.е. , где - абсолютное значение (как правило единица).

В большинстве случаев наилучшие характеристики могут быть получены, если вероятности будут выбраны согласно следующему условию .

Литература

Lakhmi C. Jain; N.M. Martin Fusion of Neural Networks, Fuzzy Systems and Genetic Algorithms: Industrial Applications. - CRC Press, CRC Press LLC, 1998

Категория:Методы обучения нейросетей Категория:Перцептрон