Podczas I wojny światowej zaangażował się w pomoc ofiarom wojny w Warszawie. Został jednym z członków Agudy – międzynarodowej, politycznej organizacji ultraortodoksji żydowskiej. W niepodległej II Rzeczypospolitej został, dzięki wpływom dynastii Ger, jednym z przywódców Agudy, działającej w Polsce jako partia polityczna Agudat Israel (Związek Izraela). Interesował się zwłaszcza rozwojem ortodoksyjnego szkolnictwa żydowskiego. Był jednym z organizatorów Beis Jaakow – systemu szkół przeznaczonych dla dziewcząt pochodzących z ortodoksyjnych środowisk żydowskich. W 1924 został wybrany jako przedstawiciel Agudat Israel w radzie miasta Warszawy. Od 1929 był członkiem światowego prezydium Agudy, a od 1930 przewodniczącym partii w Polsce.
W latach trzydziestych XX wieku zbliżył się nieco do programu i taktyki syjonistów, a w 1935 odwiedził Palestynę, będącą wówczas brytyjskim mandatem. Następstwem tej wizyty była reforma we władzach Agudat Israel, która zgodziła się z syjonistyczną wizją stworzenia państwa dla Żydów w Palestynie. Od 1937 współprzewodniczył światowej organizacji Agudat Israel. W sierpniu 1939 zachorował w Krynicy na tyfus. Po wybuchu II wojny światowej i rozpoczęciu niemieckiej okupacji Warszawy, został delegowany do judenratu.