W marcu 1918 został szefem sztabu dowodzonego przez Woroszyłowa oddziału walczącego z wojskami niemieckimi na Ukrainie. Razem z Woroszyłowem opuścił w czerwcu 1918 Ukrainę, wycofując się do Carycyna.
W październiku 1918 został pełnomocnikiem rewolucyjnej rady wojskowej 10 Armii. W styczniu 1919 powierzono mu stanowisko komisarza wojskowego guberni charkowskiej, szefa garnizonu charkowskiego oraz pełnomocnika ds. zaopatrzenia Charkowskiego Okręgu Wojskowego. Brał udział w tłumieniu powstania Hryhorjewa. 15 maja dowodzone przez niego oddziały wyparły z Jekaterynosławia zwolenników Hryhorjewa. Parchomienko polecił przy tym rozstrzelać co dziesiątego wziętego do niewoli powstańca, a kilka tysięcy uczestników wystąpienia wtrącił do więzienia. Udało im się podnieść nowy bunt, w wyniku którego bolszewickie oddziały jeszcze na kilka dni musiały opuścić miasto. W czerwcu tego samego roku dowodził nieudaną obroną Charkowa przed białymi Siłami Zbrojnymi Południa Rosji, ponosząc całkowitą klęskę w starciu z Armią Ochotniczą pod dowództwem gen. Władimira Maj-Majewskiego. Czerwoni musieli opuścić Charków 27 czerwca 1919 r.J. D. Smele, The „Russian” Civil Wars 1916-1926. Ten Years That Shook the World, Hurst&Company, London 2015, , s. 123.