W wojsku norweskim zastąpił on karabin Remington M1867 i kilka typów broni typu kammerlader pozostających jeszcze w użyciu.
Po wybraniu karabinu Jarmanna i pierwszym jego użyciu bojowym, broń ta zyskała bardzo wysokie noty, zwłaszcza za dobrą szybkostrzelność i znakomitą celność w porównaniu do Remingtona M1867 na dystansie 600 m. Ze względu na olbrzymi postęp w konstrukcji broni palnej, jaki dokonał się przez dziesięć lat jego używania przez armię zalety te zostały nieco przyćmione. Po dziesięciu latach został on zastąpiony karabinem Krag-Jørgensen, chociaż wiele jednostek drugoliniowych używało go aż do 1905 roku.
W okresie używania karabinów Jarmanna, zmieniono amunicję z czarnoprochowej na naboje z prochem bezdymnym, który spowodował zwiększenie prędkości wylotowej pocisków. Zmieniając ładunek miotający nie zatroszczono się o zmianę przyrządów celowniczych, co skutkowało zmniejszeniem celności broni.
Dalszy los Jarmannów Karabiny Jarmann M1884 w stanie oryginalnym są dziś rzadkością. W latach dwudziestych i trzydziestych XX wieku, wiele sztuk tej broni wycofanej ze służby sprzedano na rynku cywilnym lub przerobiono na karabin harpun M28.