Koncert nawiązujący do kompozycji Kurta Weilla oburzył kompozytora i prominentnego działacza NSDAP Paula Gränera i został burzliwie nazwany „typowym dla bolszewickiej kultury jazgotem polskiego Żyda”.
W latach 30. przyjął pseudonimy artystyczne takie jak: Jackie Leeds, następnie, wykorzystując transformowanie swego nazwiska, używał pseudonimu Max Janzen, aby po pewnym czasie stworzyć funkcjonujący do dziś pseudonim Michael Jary. W roku 1934, powrócił do Bytomia, tym razem do teatru miejskiego, gdzie wystawił operetkę Wiceadmirał (Der Vizeadmiral).
Zarabiając na życie grywał w barach, kawiarniach i lokalach tanecznych niemieckiej stolicy (m.in. w lokalu Moka-Efti przy Friedrichstraße), a także – na rok przed rozpoczęciem wojny – założył w Berlinie Kammer-Tanzorchester. Mimo że w swej edukacji muzycznej wychowany był na muzyce poważnej, Jary szukał swego miejsca w muzyce rozrywkowej – był zainteresowany muzyką amerykańsko-angielską, swingującymi big bandami, jazzem, rytmami foxtrotów. W tym duchu komponował i wykonywał wraz z kierowaną przez siebie orkiestrą taneczną wiele utworów, swoich kompozycji i znanych standardów. Udało mu się grywać i wydawać płyty z nagraniami swinga w czasie, gdy był on zabroniony w Niemczech. Popularność jego i jego orkiestry rosła.