Po aklimatyzacji w Warszawie, w kwietniu dostał przydział do Okręgu Lublin AK na stanowisko szefa Kedywu Inspektoratu Radzyń Podlaski, następnie na stanowisko dowódcy grupy dywersyjnej działającej w Obwodzie Lublin-Miasto Inspektoratu Lublin. Od maja 1944 roku dowodził oddziałem partyzanckim Kedywu („Jemioły” – „Kozła”), który stał się później 3 kadrowym plutonem 8 pułku piechoty Legionów AK. W działalności konspiracyjnej posługiwał się przybranymi nazwiskami: „Czesław Jaskiel”, „Graduchowski” i „Kozłowski”. Od listopada 1943 roku do lipca 1944 roku dowodził wieloma akcjami partyzanckimi, m.in.: 18 listopada wykolejenie pociągu na linii Łuków–Dęblin, 21 listopada wykolejenie pociągu na linii Łuków–Brześć, akcja na oficera SS Beckera, akcja na wartę w Bramy Grodzkiej zamku w Lublinie, zginęło 3 wartowników, 4 ciężko rannych (1 czerwca), akcja na niemiecką załogę w majątku Kłodnica Dolna, bez powodzenia (19 lipca).
Po wkroczeniu oddziałów radzieckich do Lublina 8 pułk piechoty AK został rozbrojony. Po odtworzeniu pułku, we wrześniu 1944 roku Rossiński został jego dowódcą. Z ramienia dowództwa Okręgu Lublin brał udział w zebraniach, w czasie których rozważano m.in. zamachy na Bolesława Bieruta i Edwarda Osóbkę-Morawskiego.