Parafia katolicka pw. „Przenajświętszego Sakramentu” w Gulbene jeszcze przed II wojną światową posiadała niewielką kaplicę. W latach 1996–1998 wybudowano tu nowy, okazały kościół z dwiema wieżami (24 m wysokości) od fasady. Kościół zaprojektował architekt Guntas Graudupers. W kościele są trzy ołtarze, w ołtarzu bocznym znajduje się obraz MB Agłońskiej. Sanktuarium Matki Bożej w Agłonie dla Łotwy jest odpowiednikiem polskiej Jasnej Góry. Organy znajdujące się w kościele wykonane zostały około 200 lat temu w Austrii. Kościół był konsekrowany 19 grudnia 1998 roku przez arcybiskupa Jānisa Pujatsa. Świątynia ta służy katolikom z miasta i okręgu Gulbene. Inwestycję zrealizowano przy udziale obecnego (2008) proboszcza Wiaczesława Bogdanowicza. Msze św. w niedziele o godz. 11.00, w poniedziałki i soboty o godz. 8.00, w pozostałe dni robocze o godz. 18.00. (Proboszcz obsługuje trzy parafie).
Liczną grupę w Gulbene stanowią baptyści, którzy posiadają tutaj niewielką świątynię.
W Gulbene funkcjonuje także cerkiew prawosławna, na miejscu kaplica w domu prywatnym i cerkiew w Stāmerienie.