Działalność w podziemiu Zamieszki w Palestynie i pogromy ludności żydowskiej w 1929 roku sprawiły, że wstąpił do Hagany w Jerozolimie. W 1931 roku Awraham Tehomi wraz z popierającymi go bojownikami wystąpili z Hagany i założyli Haganę Bet wstąpił również do tej organizacji. Zaangażował się w pracę wychowawczą i szkoleniową, tłumaczył i przygotowywał podręczniki dotyczące użycia broni, szkolenia i taktyki. Jednym z nich jest Ha-Ekdach (dosł. Pistolet) napisany wspólnie z Awrahamem Sternem i wydany w 1937 roku. W 1936 roku w Palestynie wybuchło powstanie arabskie. Uważał, że ataki na ludność żydowską są wypowiedzeniem wojny, ponieważ Arabowie mieli ten sam cel co Żydzi – stworzyć własną ojczyznę. Dlatego kładł nacisk na przysposobienie wojskowe młodzieży żydowskiej w kraju i za granicą, aby mogła ona stanowić zalążek hebrajskich sił zbrojnych, które staną do walki z wrogiem. Według niego żydowską odpowiedzią na powstanie nie powinna być przyjęta przez Jiszuw hawlaga, a zorganizowany atak.