Nowy karabinek był początkowo produkowany na eksport. Dopiero 14 czerwca 1935 r. został przyjęty do uzbrojenia jako Kar98k, stając się podstawową bronią nowo tworzonego Wehrmachtu. Pierwszą modernizację Kar98k przeszedł w 1939 r. Osłonięto wtedy muszkę tunelową osłoną. Kiedy zaczęło brakować drewna orzechowego na łoże, zastąpiono je łożem wykonanym ze sklejki. Nowy materiał wymusił zmianę konstrukcji kolby, która zamiast płaskiej stopki otrzymała tłoczony z blachy trzewik. Coraz więcej części karabinka było tłoczonych (zamiast frezowanych).thumb|Żołnierz Wehrmachtu strzelający z Kar98k w czasie powstania warszawskiegoPogarszająca się sytuacja militarna nazistowskich Niemiec na frontach II wojny światowej sprawiła, że od 1943 r. wprowadzano coraz więcej uproszczeń w konstrukcji karabinka. Broń ta w literaturze określana jest jako Kriegsmodell – wzór wojenny. Przedni bączek zastąpiła opaska z blachy, karabinki przestały być wyposażane w osadę bagnetu i wycior. W 1944 r. zastąpiono umieszczone na kolbie blaszane kowadełko z przelotowym otworem (tak zwana babka służąca do rozkładania zamka), otworem w trzewiku kolby. Egzemplarze wykonane w 1945 r. często posiadały stały celownik przystrzelany na odległość 100 metrów i skrócone łoże (oszczędność drewna).