Na mocy rozkazu Dowództwa KOP z 30 czerwca 1931 został powołany na staż przed odejściem do Wyższej Szkoły Wojennej (staż obywał od 8 lipca do 5 sierpnia 1931 w 16 pułku piechoty i od 7 sierpnia do 4 września 1931 w 21 pułku artylerii polowejWBH, sygn. I.340.1.858.), a z dniem 30 października 1931 odszedł na 6-tygodniowy kurs próbny do WSWoj., z którego powrócił 17 grudnia 1931. W 1932 nadal zajmował 25. lokatę wśród kapitanów piechoty w swoim starszeństwie. Rozkazem Ministra Spraw Wojskowych z 9 maja 1933 ogłoszono jego przeniesienie z Korpusu Ochrony Pogranicza do 83 pułku piechoty, ale przydział ten zmieniono na 70 pułk piechoty. Do nowego miejsca służby odszedł w dniu 29 maja 1933Dane dotyczące służby Juliusza Ulatowskiego w Korpusie Ochrony Pogranicza pochodzą z dokumentów znajdujących się w Archiwum Straży Granicznej w Szczecinie..
Na dzień 1 lipca 1933 zajmował 1735. lokatę łączną wśród kapitanów piechoty, a na dzień 5 czerwca 1935 była to 1470. lokata łączna (a jednocześnie 23. lokata w starszeństwie). Przez cały ten okres pełnił służbę w 70 pułku piechoty z Pleszewa, zajmując stanowiska adiutanta (szefa sztabu) pułku, dowódcy kompanii i dowódcy batalionu szkolnego. Od 9 lipca do 15 listopada 1934 na kursie dowódców batalionów w rembertowskim Centrum Wyszkolenia PiechotyWBH, sygn. II.56.15333, s. 2-3..