XX wieku, jednak w 1931 roku, po zakończeniu budowy linii kolejowej oraz zarządzeniu, że Karaganda będzie głównym ośrodkiem węglowym, dostarczającym surowiec dla przemysłu w regionie Uralu, wznowiono eksploatację okolicznych złóż.
W 1934 roku Karaganda otrzymała prawa miejskie, a w 1936 roku została ustanowiona centrum administracyjnym obwodu karagandyjskiego Kazachskiej Socjalistycznej Republiki Radzieckiej. Do roku 1939 liczba ludności miasta wzrosła do 166 tys. Rozwój miasta dokonał się w dużej mierze dzięki wykorzystaniu przymusowo pracujących robotników – zesłańców. Historia Karagandy jest ściśle związana z największymi obozami w ramach archipelagu Gułag: z Karłagiem (Karagandyjski łagier) oraz kobiecym AŁŻIR (Akmoliński Łagier Żon Zdrajców Ojczyzny).
Karłag był miejscem uwięzienia wielu uczonych oraz artystów, a także duchownych z terenów ZSRR i z zagranicy. W ten sposób stał się kolebką kultury w Karagandzie. Znajdował się w pobliżu wsi Dolinskoye (obwód Karagandy). W dni świąt sowieckich z pomocą więźniów odbywały się koncerty i przedstawienia. Artyści zajmowali się pracami dekoracyjnymi. Wiadomo, że w Karłagu był wystawiany nawet balet. Wszystko to na poziomie bardzo profesjonalnym. Z czasem, pod koniec lat 30., kultura w Karagandzie zaczęła się rozwijać swoim biegiem.