Po wojnie kontynuował służbę w strukturach związanych z medycyną lotniczą. Od 1947 r. pracował w instytucjach zajmujących się badaniami nad bezpieczeństwem lotów, wpływem czynników lotniczych na organizm człowieka oraz medycznym zabezpieczeniem załóg lotniczych. Według Muzeum-Zapowiednika im. J.A. Gagarina po wojnie służył w Instytucie Medycyny Lotniczej i Kosmicznej Sił Powietrznych, zajmując się m.in. problemami bezpieczeństwa lotów na samolotach odrzutowych.

Centrum szkolenia kosmonautów 24 lutego 1960 r. pułkownik służby medycznej Karpow został mianowany pierwszym szefem Centrum Wyszkolenia Kosmonautów Sił Powietrznych. Zadanie obejmowało jednocześnie tworzenie samego centrum, rozwijanie programu przygotowania kosmonautów oraz udział w wyborze miejsca dla przyszłego Zwiozdnego gorodka.

Karpow uczestniczył w selekcji pierwszych kandydatów na kosmonautów oraz w tworzeniu metod ich przygotowania do lotów kosmicznych. Parlamentska Gazieta opisywała go jako twórcę Centrum Wyszkolenia Kosmonautów i pierwszego dowódcę pierwszego oddziału kosmonautów, tzw. „legendarnej dwudziestki”.