30 grudnia 1922 Rosyjska Federacyjna Socjalistyczna Republika Radziecka stała się częścią utworzonego Związku Socjalistycznych Republik Radzieckich, Polska uznała powstanie ZSRR notą z 13 grudnia 1923. Roman Knoll był ostatnim przedstawicielem dyplomatycznym Polski przy rządzie Rosji Sowieckiej.

Od 25 czerwca 1924 poseł RP w Ankarze. W marcu 1926 powrócił do Polski, do centrali MSZ. Brał udział w przygotowaniach do przewrotu majowego. Po przewrocie majowym mianowany wiceministrem w Ministerstwie Spraw Zagranicznych z datą 13 maja 1926. Pełnił następnie funkcję posła polskiego w Rzymie (1926–1928) i Berlinie (1928–1930).

W grudniu 1930 odwołany z placówki i przeniesiony w stan spoczynku. Faktyczną przyczyną jego zwolnienia był wygłoszony publicznie komentarz: „Najazd bandytów na dom wariatów”, jakim określił sytuację w resorcie po wejściu do kierownictwa MSZ Józefa Becka i Wiktora Drymmera. W 1936 współpracował z Frontem Morges.

Podczas II wojny światowej pełnił funkcję szefa Sekcji Spraw Zagranicznych Delegatury Rządu na Kraj (kryptonim „Moc”), którą sprawował do lutego 1945.