Ambasador niemiecki w Watykanie Po niemieckiej porażce w bitwie pod Stalingradem w roku 1943 i przerwaniu zwycięskiej passy wojennej Niemiec, Weizsäcker został na swoją własną prośbę mianowany niemieckim ambasadorem w Watykanie, gdzie pełnił tę funkcję w latach 1943-1945. W czasie spotkania z watykańskim sekretarzem stanu, kardynałem Luigim Maglione, które miało miejsce 6 stycznia 1944 r., Weizsäcker stwierdził: „Jeżeli Niemcy jako falochron przeciw komunizmowi upadnie, całą Europę ogarnie komunizm.” Kardynał odpowiedział: „Nieszczęściem jest, że to Niemcy przez swoją antyreligijną politykę stworzyły ten problem.” Weizsäcker powtórzył to samo stanowisko w rozmowie z monsignore Giovannim Batistą Montinim (późniejszym papieżem Pawłem VI). Z jednej strony zdecydowanie odrzucił papieską notę, protestującą przeciw sposobowi traktowania okupowanej Polski. Z drugiej strony, podczas brutalnej niemieckiej okupacji Rzymu, Weizsäcker przyczynił się w pewnym stopniu do ograniczenia deportacji Żydów oraz innych aktów przemocy. Pomagał też osobom prywatnym uniknąć prześladowań. Doprowadził również do przeniesienia niemieckich baz wojskowych poza obręb Watykanu, by uniknąć bombardowania wiecznego miasta przez aliantów.