Na początku kwietnia Jakub Gieysztor, szef rządu powstańczego na Litwie, ale należący do białych, odwołał Dłuskiego ze stanowiska naczelnika województwa kowieńskiego, mianując w jego miejsce Józefa Kościałkowskiego. W nowej sytuacji Dłuski zaangażował się w tworzeniu zgrupowania Zygmunta Sierakowskiego. W tym celu udał się na granicę pruską, gdzie odebrał ładunek przemycanej broni, w jej obronie stoczył dwie potyczki z żołnierzami rosyjskim 27 i 28 kwietnia. Broń dostarczył do lasów w pobliżu Androniszek, gdzie stacjonował SierakowskiŁaniec 2002, s. 24..
Następnie ponownie udał się po broń na granicę pruską, w kierunku Taurogów. Założył obóz pod Stemplami, gdzie jego oddział 150 powstańców, stoczył dwie wygrane bitwy z przeważającym liczebnie oddziałem rosyjskim 11 i 12 maja. Rosjanie jednak uniemożliwili przejęcie ładunków z bronią. Dłuski udał się następnie w kierunku Telsz, gdzie w końcu maja założył obóz. Po drodze przyłączył się do niego oddział Seweryna Grossa „Aleksandrajtisa”Łaniec 2002, s. 26.. Pod Okmianami do zgrupowania dołączyła się partia Jasińskiego.