W 1937 roku Zarząd Towarzystwa Muzycznego utworzył samodzielną sekcję o nazwie Filharmonia Krakowska. Następnie inicjatywę przejęło Krakowskie Biuro Koncertowe Eugeniusza Bujańskiego, prowadzące zawodowy impresariat muzyczny i organizujące koncerty na własny rachunek. Orkiestrze nadano nazwę Krakowska Orkiestra Symfoniczna. Koncerty odbywały się aż do wybuchu II wojny światowej. Ostatni występ miał miejsce 21 maja 1939 roku pod dyrekcją Bronisława Wolfstala. Wykonano wówczas V symfonię Ludwiga van Beethovena i Koncert skrzypcowy Emila Młynarskiego (solistka: Irena Dubiska).
W okresie okupacji, na rozkaz generalnego gubernatora Hansa Franka, w lipcu 1940 roku powstała orkiestra pod nazwą Filharmonia Generalnego Gubernatorstwa. Składała się ona głównie z polskich muzyków zawodowych. Jedynym Niemcem w zespole był koncertmistrz Fritz Sonnleitner. Orkiestrą dyrygował Hans Rohr, a II. dyrygentem był Rudolf Erb. Po nagłej śmierci Rohra stanowisko dyrygenta w roku 1942 otrzymał Rudolf Hindemith (brat kompozytora Paula Hindemitha), a w 1944 roku Hans Swarowsky. W ówczesnych warunkach orkiestra stanowiła pewnego rodzaju oazę dla muzyków w niej grających. Dzięki legitymacjom muzycy unikali wywózek na roboty do Niemiec i transportów do Oświęcimia.