Kariera wojskowa thumb|left|160px|Jicchak Sade, 1948 r. Po przyjeździe do Palestyny zmienił swoje nazwisko i w 1921 roku wstąpił do żydowskiej organizacji paramilitarnej Hagana. Dowodził obroną położonego na północy kibucu Kefar Giladi. Podczas arabskich rozruchów w latach 1936–1939 zyskał uznanie jako dowódca mobilnych oddziałów Hagany, które prowadziły akcje odwetowe na Arabach. W 1937 roku ewoluowały one w Kompanie Polowe (hebr. פלוגות השדה, Peluggot Sade), których działalność była zaaprobowana przez Brytyjczyków. W 1938 roku dowodził obroną kibucu Chanita. Od 1941 roku organizował system szkoleń paramilitarnych Gadna. Podczas II wojny światowej został pierwszym dowódcą kompanii szturmowych Palmach. W 1945 roku awansował na Szefa Sztabu Generalnego Hagany. Prowadził negocjacje z żydowskimi organizacjami paramilitarnymi Irgun i Lechi, aby podjąć wspólne działania przeciwko brytyjskim władzom mandatowym. Pod koniec 1946 roku został odsunięty od naczelnego dowództwa przez Dawida Ben Guriona, który obawiał się o swoje przywództwo.