Podobnie jak ojciec prowadził dom modlitwy w Bielsku przy ul. Nad Ścieżką 7 oraz przyjmował śluby ortodoksów. Dom modlitwy znajdował się obok największego żydowskiego zakładu kamieniarskiego w mieście należącego do Salomona Leisera Wulkana. Na dole jednopiętrowego budynku znajdowały się prywatne mieszkania, w których mieszkał wuj Mojżesza – Chaim Schänker z rodziną. Sala modlitw nazywała się oficjalnie Domem Modlitwy Towarzystwa Newe Szalom (Nweh Shalom Israelitischer Bethausverein), (Newe Szalom: ; pol. Oaza pokoju). Mojżesz Stern podobnie jak ojciec dodatkowo zajmował się dozorowaniem koszernej żywności i pracy rzeźnika rytualnego. Nie był natomiast dopuszczany do liturgii w oficjalnej reformowanej wielkiej synagodze. Porządek nabożeństwa w domu modlitwy był zbliżony do tych z ortodoksyjnych bóżnic galicyjskich, ale jednocześnie odznaczał się o wiele większym porządkiem. I mimo że synagoga ta miała charakter ortodoksyjny, to znacznie w swoim charakterze różniła się od chasydzkiej bóżnicy „Ahawas Thora” w Białej przy ul. Szpitalnej. W bóżnicy prowadzonej przez Sterna często bywali liberalni Żydzi bielscy, których nie stać było na wykupienie miejsca w dużej synagodze. Poza tym postępowa synagoga otwarta była tylko w określone godziny i dni, a bóżnica Newe Szalom rabina Sterna praktycznie cały czas.