W 1954 przyjął posadę asystenta trenera reprezentacji ZSRR, a w 1955 pierwszego trenera reprezentacji. Jako selekcjoner ZSRR zadebiutował 26 czerwca 1955 przeciwko Szwecji, wygranym aż 6:0. Podczas Igrzysk Olimpijskich 1956 w Melbourne poprowadził ZSRR do pierwszego w historii złotego medalu. Podczas Mistrzostw Świata 1958 dotarł do ćwierćfinału, w którym przegrał 0:2 z gospodarzem turnieju Szwecją. Pod koniec 1958 zakończył pracę z kadrą. Powrócił na stanowisko selekcjonera w maju 1960. W lipcu tego samego roku poprowadził ZSRR do zwycięstwa w pierwszych w historii Mistrzostwach Europy. W meczu finałowym ZSRR pokonał Jugosławię 1:0. Podczas Mistrzostw Świata 1962 ponownie doprowadził zespół do ćwierćfinału turnieju. Po tym turnieju zakończył pracę z kadrą ZSRR.
W 1963 pracował w drużynie Paxtakor Taszkent. Od 1964 trenował Dinamo Tbilisi. W pierwszym sezonie na ławce trenerskiej drużyny z Tbilisi doprowadził drużynę do mistrzostwa Wyższej ligi ZSRR.
W 1965 został trenerem reprezentacji ZSRR U-21. W latach 1966–1968 pracował z reprezentacją olimpijską ZSRR. W 1968 po raz trzeci został trenerem pierwszej reprezentacji ZSRR. W 1970 po raz trzeci poprowadził drużynę ZSRR na Mistrzostwach Świata. Ponownie dotarł wraz z drużyną do ćwierćfinału. Po Mundialu ostatecznie zakończył pracę z kadrą.