Ten wynik wynika z faktu, że w równowadze termicznej prawdopodobieństwo dowolnego stanu globalnego podczas swobodnego działania sieci jest dane przez rozkład Boltzmanna.
Powyższa reguła uczenia się sieci ma odpowiednik w biologicznej sieci neuronowej: jedyna informacja potrzebna do zmiany wag pochodzi z „lokalnej” informacji, tzn. że połączenie ("synapsa") nie potrzebuje informacji o niczym innym poza dwoma neuronami, które łączy. Odpowiednika takiego nie mają inne metody trenowania sieci neuronowych, jak np. backpropagation.
Uczenie maszyny Boltzmanna polega na minimalizowaniu dywergencji Kullbacka-Leiblera.
Uczenie biasów przebiega podobnie, ale używa tylko aktywności pojedynczego neuronu:
Zobacz też
model Isinga
sieć Hopfielda
Bibliografia
Ryszard Tadeusiewicz, Sieci Neuronowe, Akademicka Oficyna Wydawnicza Warszawa 1991, dostępny online - plik pdf Ryszard Tadeusiewicz, Maciej Szaleniec, Leksykon sieci neuronowych, Wydanie I Wrocław 2015, hasło: Probabilistyczna sieć neuronowa, str. 74 oraz hasła z tym hasłem powiązane linkami, dostęp online: file:///C:/Users/J/Downloads/Leksykon_sieci_neuronowych.pdf
Dalsza literatura
Kothari P. (2020), Koronawirus: Czy sztuczna inteligencja może coś zmienić?
Linki zewnętrzne
Artykuł w Scholarpedia autorstwa Hinton o maszynach Boltzmanna Wykład w Google przez Geoffrey’a Hinton - dostępny na YouTube
Machine