W wyborach w 1922 uzyskał mandat posła na Sejm I kadencji z listy państwowej PSL „Piast”. Stanął na czele komisji skarbowej. W grudniu 1923 został członkiem prezydium Klubu Parlamentarnego PSL „Piast”. Uznawany był jako zwolennik oszczędności w gospodarce państwa, konwersji długów zagranicznych, stabilizacji oraz uproszczenia systemu podatkowego połączonego z wprowadzeniem nowych podatków.

Krytykował działania Władysława Grabskiego, gdy ten pełnił urząd premiera i ministra skarbu. Pomiędzy nimi rozgorzał nowy konflikt. Na początku 1924 roku, gdy wskutek utworzenia Banku Gospodarstwa Krajowego, który wchłonął Zakład Kredytowy Miast Małopolskich, Byrka utracił stanowisko dyrektora. Począwszy od czerwca tegoż roku regularnie atakował premiera Grabskiego, zarzucając mu m.in. zaniedbywanie spraw gospodarczych, lekceważenie sejmu i obowiązujących ustaw oraz podważał zasadność utworzenie BGK. Kulminacją sporu stała się sprawa wydzierżawienia przez rząd koncernowi Kreugera Państwowego Monopolu Zapałczanego.