W 1940 został mianowany na asystenta wykładowcy przez A. E. Heatha, profesora filozofii na Uniwersytecie w Swansea. Była to posada okresowa, związana z faktem, że wielu młodych pracowników naukowych zostało w czasie II wojny światowej wcielonych do armii. Po zakończeniu działań wojennych w 1945 roku znów bezskutecznie ubiegał się o pracę na kilku brytyjskich uniwersytetach. Przeszkodą był jak zwykle brak publikacji.
Wysiłkiem Heatha w 1946 udało się jednak stworzyć dla Rheesa stałe stanowisko wykładowcy w Swansea. Od początku pracy w Swansea Rhees zyskał sobie ogromny szacunek zarówno studentów, jak i współpracowników, dzięki czemu uzyskał dominujący wpływ na klimat intelektualny wydziału. Przez cały czas utrzymywał bliskie kontakty z Ludwigiem Wittgensteinem, który parokrotnie odwiedził go w Swansea i wyznaczył na wykonawcę swojego testamentu. Po śmierci autora Dociekań filozoficznych przez kilkadziesiąt lat wspólnie z G.E.M. Anscombe i G.H. von Wrightem zagospodarowywał jego nieopublikowaną spuściznę. Lata największego wpływu intelektualnego Rheesa to okres od 1952 do 1964. Jego studentami bądź współpracownikami w Swansea byli w tym czasie m.in. J. R. Jones, R.F. Holland, D.Z.