W czerwcu i lipcu 1937 r. odbył pielgrzymkę do Ziemi Świętej i do Jerozolimy, a 11 sierpnia 1937 wyjechał na Madagaskar (wówczas kolonia francuska), gdzie pracował jako profesor teologii (1937–1942). Następnie do 1948 r. był rektorem Collège Saint Michel i przełożonym jezuitów na Madagaskarze. 11 marca 1948 został wikariuszem apostolskim Tananarive z tytułem biskupa Vaga. 17 lipca 1948 r. został wyświęcony na biskupa. 14 września 1955 r. wikariat apostolski Tananarive został podniesiony do rangi archidiecezji, a Victor Sartre został jej pierwszym arcybiskupem i jednocześnie metropolitą tananarywskim.
Po odzyskaniu przez Madagaskar niepodległości Sartre złożył w grudniu 1959 r. rezygnację z urzędu arcybiskupa na ręce papieża Jana XXIII, by zwolnić urząd dla miejscowego ksiądz. Po dymisji Sartre’a 12 stycznia 1960 godność arcybiskupa Tananarive objął Jéróme Louis Rakotomalala, natomiast arcybiskup senior otrzymał tytuł arcybiskupa Beroë i opuścił Madagaskar, udając się do Rzymu, by wziąć udział w przygotowaniach do soboru watykańskiego II, a następnie w jego obradach (1962–1963).