W 1803 r. Konstanty nawiązał krótki, acz gwałtowny romans z Janiną Czetwertyńską, córką Antoniego Stanisława Czetwertyńskiego, targowiczanina, powieszonego przez lud Warszawy w czasie insurekcji kościuszkowskiej. Po śmierci ojca Janina (zwaną Żanetą) wraz z siostrą Marią i bratem Borysem trafiła na petersburski dwór, gdzie poznała Konstantego, który nawet chciał się z nią żenić, ale sprzeciwili się temu jego matka i cesarski brat (który w tym czasie był już związany z siostrą Janiny – Marią, wydaną za mąż za księcia Naryszkina).
Pierwszą ważną kochanką Konstantego została Josephine Mercier (1778–1824), z którą doczekał się syna Pawła Konstantynowicza Aleksandrowa-Romanowskiego (1808–1857), którego traktował jak z prawego łoża i obsadził na wysokim szczeblu wojskowym. Związek ten przetrwał aż do drugiego ślubu wielkiego księcia. Josephine została wydana za przyjaciela Konstantego, Friedrichsa-Weissowa.
Drugą kochanką, z którą trwał w związku, będąc jednocześnie z Josephine, była Anne-Clara de Laurent. Był to burzliwy i stosunkowo krótki związek, w którym urodziły się dzieci Konstanty Iwanow Konstantinow (1818–1871) i Konstancja Iwanowna Konstantinowa.