Karabinek doczekał się modernizacji dopiero pod koniec lat 30. W 1939 wprowadzono do uzbrojenia karabinek wz. 1938. Nowy karabinek był przeznaczony dla formacji pomocniczych i tyłowych (artyleria, żandarmeria) i z tego powodu był pozbawiony bagnetu. Jednak w trakcie II wojny światowej okazało się, że karabinki lepiej nadają się jako uzbrojenie piechoty niż karabiny. W jednostkach piechoty brak bagnetu był poważną wadą, dlatego w 1944 przyjęto do uzbrojenia karabinek wz. 1944 wyposażony w stały, składany bagnet karabinowy wz. 44 typu kłującego. W jednostkach zaczął się pojawiać w lutym 1944.
Produkcja kbk wz. 1944 trwała w ZSRR do 1948. Ogółem w latach 1930–1948 wyprodukowano około 17 mln karabinów.
Po wojnie karabiny i karabinki Mosina były produkowane, na podstawie licencji, w Polsce, Rumunii i na Węgrzech. W latach 50. były sukcesywnie zastępowane karabinami konstrukcji Simonowa i Kałasznikowa. Z uzbrojenia pododdziałów tyłowych i pomocniczych Wojska Polskiego oraz z zapasów mobilizacyjnych, zostały ostatecznie wycofane dopiero w latach 70. XX wieku. Potem można je było jeszcze spotkać w uzbrojeniu Straży Przemysłowej. Wersja wyborowa zastąpiona została dopiero przez karabin SWD. Karabiny Mosina używane były jeszcze podczas rosyjskiej inwazji na Ukrainę w 2022, zwłaszcza przez milicje tzw.