Większa część utworów Byrskiego poświęcona została tematyce patriotycznej czy wręcz narodowo-wyzwoleńczej.
Koniec wieku to również czas pierwszych publikacji poety. W 1900 we Lwowie w drukarni Pillera zaczęto drukować rocznik literacki „Zdrowie”, który wydawał Gotthilf Kohn. W pierwszym numerze, obok utworów innych artystów, wydrukowano kilka utworów autorskich Byrskiego oraz jego tłumaczenia z Lenaua, Schillera, Ferdynanda Freiligratcha czy Adelberta von Chamisso. "Zdrowie" ukazywało się do 1914. Utwory bądź tłumaczenia Byrskiego znajdują się w niemal wszystkich wydaniach rocznika.
Początek wieku XX przyniósł Byrskiemu okres stabilizacji. Został on przeniesiony do Żywca, gdzie pełnił służbę na tamtejszej stacji. W Żywcu 15 marca 1903 nad ranem przyszła na świat córka Janina, która zmarła tego samego dnia wieczorem. Z kolei 1 sierpnia 1904 urodził się syn Tadeusz, który żył 8 miesięcy, gdyż zmarł 22 marca 1905. Żal po śmierci dzieci poeta przelał w bardzo osobisty cykl sonetów Łzy, które jednak nie zostały nigdy wydane.