W połowie roku 1927 przeniósł się Zemlinsky do Berlina, gdzie objął kierownictwo Krolloper. Występował jako dyrygent w wielu miastach Europy. Po zgonie żony Idy (1929) poślubił 1930 Luizę Sachsel.

Po dojściu Hitlera do władzy przeniósł się z Berlina do Wiednia.

Po przyłączeniu Austrii do III Rzeszy 11–12 marca 1938 zdecydował się Zemlinsky opuścić kraj. 9 czerwca 1938 otrzymał wizę czechosłowacką, 15 września opuścił Austrię, 23 grudnia 1938 wylądował w Nowym Jorku.

W Stanach Zjednoczonych stan zdrowia Zemlinskiego zaczął się pogarszać, m.in. uległ udarowi, potem wywiązało się zapalenie płuc.

Urna z prochami Zemlinskiego został złożona na Zentralfriedhof w Wiedniu w roku 1985.

Życie prywatne Aby poślubić pochodzącą z żydowskiej rodziny Klarę Semo przeszedł na judaizm i został członkiem gminy żydowskiej.

Twórczość Opery 1897: Sarema. Libretto: kompozytor, i Arnold Schönberg; prapremiera: Monachium 1897 1900: Był sobie raz (Es war einmal...). Libretto: Maximilian Singer według Holgera Drachmanna; prapremiera: Wiener Hofoper 1900 Görge Marzyciel (Der Traumgörge). Libretto: Leo Feld;