W 1957 przeniósł się do Berlina i na zaproszenie Herberta von Karajana został koncertmistrzem Filharmoników Berlińskich. Na tym stanowisku pozostał przez blisko 30 lat, do 1986.
Odbył wiele podróży koncertowych po Europie. Grał na skrzypcach Stradivariusa „King Maximilian, Unico” z 1709, użyczonych mu na stałe przez fundację Axela Springera. W 1972 grał również na skrzypcach „Sleeping Beauty” Stradivariusa z ok. 1704.
Schwalbé prowadził szeroką działalność pedagogiczną. W latach 1948–1957 był profesorem Konserwatorium Genewskiego. Od 1963 wykładał na , a w 1984 w Yehudi Menuhin School w Stoke d’Abernon. Prowadził kursy mistrzowskie w Mozarteum w Salzburgu, w Londynie i w w Aldeburgh, a także w Stanach Zjednoczonych i Japonii.
Odznaczony Krzyżem Oficerskim Orderu Zasługi Republiki Federalnej Niemiec. Kawaler Legii Honorowej.