Głównymi bastionami nowej partii był Berlin, Hamburg, Brema i wschodnia Saksonia, wszędzie tam gdzie znaczna część członków KPD przeszła na stronę tej partii.
W sierpniu 1920 zostali wydaleni dwaj członkowie-założyciele gałęzi hamburskiej, Heinrich Laufenberg i Fritz Wolffheim, propagujący idee narodowo-bolszewickie. Dwa miesiące później wydalony został inny członek założyciel, Otto Rühle. Od 1920 do 1921 r. partia była członkiem Trzeciej Międzynarodówki.
W 1921 r. KAPD znów współpracowała z KPD w ramach akcji marcowej. Wywołało ją wkroczenie oddziałów Republiki Weimarskiej do regionu przemysłowego środkowych Niemiec i obawa KAPD oraz KPD, że wojsko miało zamiar okupować fabryki.
W 1921 r. doszło do kolejnej fragmentacji, kiedy część AAUD skupiona wokół Rühlego, Franza Pfemferta i Oskara Kanehla zerwała z KAPD i utworzył AAUE.
Po 1921 r., kiedy KAPD nadal liczyła ponad 43 000 członków, wpływy partii malały coraz bardziej, i podzieliła się ona w 1922 na Frakcję Berlińską i Esseńską wokół Alexandra Schwaba, Arthura Goldsteina, Bernharda Reichenbacha i Karla Schrödera.