Jeszcze dziś pamiętana jest jego wielka rola w filmie Gabinet doktora Caligari Roberta Wiene, gdzie z niezwykłą ekspresją zagrał on mimowolnego mordercę-somnabulika u boku Wernera Kraußa jako bohatera tytułowego. Ta rola zapewniła mu status najlepiej opłacanego niemieckiego aktora lat 20. Między 1926 a 1929 otrzymał on szansę zagrania również w czterech filmach Hollywood, między innymi w filmie Człowiek, który się śmieje Paula Leni.
W 1933 Veidt wyemigrował do Londynu, gdzie w 1938 przyjął brytyjskie obywatelstwo i rozpoczął karierę jako aktor niemieckojęzyczny. Już wcześniej, w 1931 roku zaproponowano mu rolę w Draculi, ostatecznie tytułową rolę zagrał Béla Lugosi.
Veidt był trzykrotnie żonaty. W latach 1918–1922 jego żoną była aktorka Gussy Holl, która po rozwodzie wyszła za Emila Janningsa. W latach 1923–1933 żył z aktorką Felicitas Radke, natomiast od 1933 aż do śmierci był żonaty z Austriaczką Lily Barter, która była również jego agentką.