Założycielem kierownikiem artystycznym i pierwszym dyrygentem orkiestry został Antoni Szafranek, a jego zastępcą i drugim dyrygentem Juliusz Malik. Na koncercie inauguracyjnym w dniu 16 grudnia 1960 roku w sali rybnickiego Technikum Górniczego wystąpili: Piotr Paleczny (uczeń Karola Szafranka), Brunon Machulec (uczeń Antoniego Szafranka), Marian Krzystek (pedagog rybnickiej szkoły muzycznej) oraz Andrzej Zborowski, Herbert Głąbica, Jerzy Marchwica (wychowankowie szkoły muzycznej z Rybnika), jak również Urszula Porwoł i Czesław Sachs.
Finansowana przez kopalnie WK ROW Filharmonia Rybnickiego Okręgu Węglowego działała w latach 1960–1995. W czerwcu 1995 roku dała pod batutą Sławomira Chrzanowskiego ostatni koncert. Decyzję o likwidacji orkiestry podjął ówczesny prezydent miasta Rybnika Józef Makosz. Jako główny argument podano zbyt wysokie koszty utrzymania Filharmonii.
Dzięki staraniom rybnickiego Towarzystwa Muzycznego im. Braci Szafranków oraz nowych władz Miasta Rybnik reaktywowano filharmonię. Głównymi inicjatorami reaktywacji filharmonii byli Norbert Prudel (do dziś prezes Towarzystwa), Mirosław Jacek Błaszczyk (dyrygent) oraz Antoni Smołka (wiolonczelista).