Początkowo Konserwatorium mieściło się w jednopiętrowym budynku przy ul. Gdańskiej 24, z salą koncertową na 200 osób. Zainaugurowało swoją działalność przyjmując 70 uczniów, a później ich liczba wzrosła do 280. Wykładano dyrygenturę, teorię i historię muzyki, kształcono w zakresie śpiewu solowego i chóralnego, gry na fortepianie, organach i fisharmonii, a także gry na instrumentach smyczkowych: skrzypcach, altówce i wiolonczeli oraz instrumentach blaszanych. Placówka, mimo że była prywatna – była okazjonalnie dofinansowywana przez rząd pruskiW 1905 r. 2 tys. marek udzielił nadprezydent Prowincji Poznańskiej Wilhelm von Waldow..
W 1905 r. w szkole powołano pierwszy zawodowy zespół orkiestralny w Bydgoszczy, złożony z pedagogów konserwatorium. Na jego czele stanęli: Arnold Schattschneider, Wilhelm von Winterfeld i Emil Bergman. W 1906 r. szkoła przeniosła się do nowej siedziby w kamienicy przy al. Mickiewicza 9. Uroczyste otwarcie siedziby, uświetnione okolicznościowym koncertem, miało miejsce 6 października 1906 r. Nowoczesna na owe czasy placówka dysponowała dużą salą koncertową i kilkoma salami lekcyjnymi i wykładowymi. W 1911 r. szkoła uruchomiła filię przy Wełnianym Rynku 12, przeniesioną w 1912 r. na ul. Św.