W okresie międzywojennym nadal część zabudowy ulicy stanowiły obiekty należące do wojska, o różnym charakterze: koszarowym, biurowym i mieszkalnym. Podczas obrony Warszawy w pierwszych dniach września 1939 przy Olszowej 2/4 stacjonował pluton żandarmerii krajowy nr 4, w sile 1 oficera i około 40 żandarmów. Podlegał on Dowódcy Żandarmerii Okręgu Korpusu I ppłk. Stanisławowi Galosowi. Jednak już 10 września z połączenia go z innym plutonem powstał Pluton Żandarmerii Warszawa-Praga pod dowództwem ppor. Markiewicza, którego miejscem postoju stała się ulica Inżynierska 3.
W latach 1944–1945 prawie cała zabudowa ulicy uległa zniszczeniu, w tym magazyny wojskowe i liczne budynki drewniane. Budynki fabryczne przy Olszowej 14 zostały zburzone w 1944 i nie odbudowano ich. „Mapa zniszczeń Warszawy w latach 1939–1945” ze zbiorów Biblioteki Narodowej pokazuje, że zabudowa całej ulicy została spalona. Z kolei reprint tejże mapy wydany w 1984 roku zawiera oznaczenia, że zabudowa północnej części ulicy była zniszczona przez systematyczne wypalanie, a wzdłuż południowej wysadzona w powietrze lub zbombardowana.