Przebywając w Sanoku na przełomie 1910/1911 tworzył konspiracyjną strukturę „Armii Polskiej” z grona rezerwistów jednorocznych armii austriackiej. W Sanoku powstała Komenda Miejscowa AP, zaś Kazubski utworzył w jej ramach kurs rekrucki. Był organizatorem struktur ruchu „Oświata”. Był jednym z instruktorów rozpoczętego 20 marca 1911 we Lwowie pierwszego kursu skautowego, zorganizowanego przy Polskim Towarzystwie Gimnastycznym „Sokół”-Macierzy. Był członkiem i działaczem Polskich Drużyn Strzeleckich, 26 października 1911 we Lwowie został członkiem wydziału utworzonego tego dnia Towarzystwa „I. Polska drużyna strzelecka”, w 1. lwowskiej PDS uzyskał stopień podchorążego. Około 1912 był zastępcą sekretarza zarządu Sekcji Narciarskiej Akademickiego Klubu Narciarskiego we Lwowie.
Służba w c. k. armii Był jednorocznym ochotnikiem w c. k. armii. Kształcił się w szkole ochotników jednorocznych dla saperów w Villach. Z początkiem stycznia 1914 został mianowany kadetem w rezerwie przeniesiony z c. k. 4 batalionu saperów do c. k. 10 batalionu saperów. Po wybuchu I wojny światowej został powołany do służby w armii austriackiej. Został awansowany na stopień podporucznika rezerwy piechoty z dniem 1 maja 1915. W 1916, 1917 był oficerem rezerwowym c. k. 10 batalionu saperów.