Klub Piłkarski Zienit Kalininskij został założony w 1928 rokuRussia - Foundation Dates of Clubs i reprezentował miejscowy zakład im. M.W.Kalinina. W 1938 startował w Pucharze ZSSR. 26 grudnia 1938 po zmianie nazwy miejscowości na Kaliningrad klub stał nazywać się Zienit Kaliningrad.
W 1946 roku Zienit Kaliningrad zadebiutował w III grupie Mistrzostw ZSRR, w której najpierw zajął pierwsze miejsce w strefie Centralnej, a potem w turnieju finałowym zdobył wicemistrzostwo i otrzymał prawo do gry w II grupie Mistrzostw ZSRR. W 1947 roku nazwa klubu z Kaliningradu została zmieniona na zespół zakładu im. M.W.Kalinina Kaliningrad. W 1949 zajął pierwsze miejsce w 4 strefie Rosyjskiej FSRR, a w turnieju finałowym był drugim.
Przed sezonem 1950 został zreformowany system rozgrywek ligowych w ZSRR. Zamiast kilku stref drugiej grupy powstała Klasa "B", w której znaleźli się zespoły reprezentujące stolice republik radzieckich oraz duże miasta przemysłowe. Kaliningrad okazał się poza Klasą "B" i potem występował w zawodach regionalnych i obwodowych. W 1952 zwyciężył w mistrzostwach Rosyjskiej FSRR wśród drużyn amatorskich i w 1953 jako Zienit Moskwa ponownie startował w II podgrupie Klasy "B". W 1954 zajął pierwsze miejsce w II podgrupie Klasy "B", jednak w turnieju finałowym uplasował się na 4 miejscu (z 6).