20 listopada Szkoła Podchorążych Piechoty przejęła budynek.
Podczas przewrotu majowego w 1926, batalion Szkoły Podchorążych Piechoty opowiedział się po stronie legalnego rządu. Po przewrocie, we wrześniu 1926, szkołę przeniesiono do poprzedniej siedziby w Ostrowi Mazowieckiej. Rozpoczęto remont obiektu, podczas którego dobudowano środkowe skrzydło. Budynek uzyskał zachowany do dziś kształt litery E. W 1928 przeniesiono tu siedzibę Generalnego Inspektoratu Sił Zbrojnych, na czele którego stanął marszałek Józef Piłsudski. Skrzydło południowe, od strony ogrodu i ul. Bagatela, zajęły zbiory Centralnej Biblioteki Wojskowej oraz zasoby Muzeum Polskiego w Rapperswilu. Po przewiezieniu do Polski eksponaty zdeponowano tu do czasu wybudowania Nowego Gmachu Muzeum Narodowego w Warszawie.
We wrześniu 1939 roku, podczas oblężenia Warszawy, gmach został zbombardowany. Spłonęły Centralna Biblioteka Wojskowa oraz księgozbiór Biblioteki Rapperswilskiej. Parter budynku i skrzydło północne zajęły koszary SS. W czasie powstania warszawskiego zrujnowane skrzydło południowe, wraz z przyległym ogrodem jordanowskim, stało się miejscem egzekucji tysięcy mieszkańców Warszawy, których zwłoki palono w kotłowni budynku.