W podsumowaniach ważnych wydarzeń muzyki, jazzu przedstawień scen berlińskich latach 1920–1940 Michael Jary i jego orkiestra wymieniane są na równi z nazwiskami Barnaby von Geczy czy Marka Webera. Nadal jednak poszukiwał swego miejsca w komponowaniu muzyki innej niż muzyka taneczna.
Wykorzystując swe wykształcenie w zakresie kompozycji i muzyki poważnej w roku 1936 rozpoczął swą wielką przygodę z filmem. W tym samym roku skomponował utwór muzyczny do filmu o Balzaku Die große und die kleine Welt, komedii kryminalnej Spiel an Bord oraz piosenki do filmu Nunzia Malasommy Die unerhörte Frau. W 1937 roku skomponował muzykę do polsko-niemieckiego filmu w reżyserii Carla Boese Dyplomatyczna żona. Rozpoczął współpracę z autorem tekstów Bruno Balzem, który od tego roku, pisał teksty do jego kompozycji. Mieszkali w jednej berlińskiej kamienicy przy Fasanenstrasse 50Anglojęzyczna wersja hasła w Wikipedii wspomina o nr.60, ale dokument podróży wystawiony przez władze berlińskie w 1945 podaje adres Fasanenstr.50.https://web.archive.org/web/20161202170156/https://www.deutsche-kinemathek.de/sites/deutsche-kinemathek.de/files/public/styles/medium_325/public/images/ausstellungen/michael_jary/passierschein.jpg?itok=lEJa9SHs.