II wojna światowa Po wybuchu wojny został mianowany brygadierem i wysłany do Londynu, gdzie kierował rozmieszczeniem kanadyjskiego kontyngentu. W czerwcu 1940 roku został odwołany do Ottawy, aby objąć stanowisko zastępcy Szefa Sztabu Generalnego. Wkrótce został mianowany jego Szefem. W październiku 1941 roku otrzymał awans na generała porucznika. Miesiąc później poprosił o przeniesienie do Europy, aby nabrać doświadczenia w dowodzeniu w walce. Dobrowolnie zgodził się na obniżenie rangi zajmowanego stanowiska i otrzymał dowództwo 2 Kanadyjskiej Dywizji Piechoty. Od grudnia 1941 roku kierował I Korpusem Kanadyjskim. W marcu 1944 roku przybył do Anglii, aby zostać następcą Andrew McNaughtona na stanowisku dowódcy 1 Armii Kanadyjskiej. Armia osiągnęła gotowość operacyjną 23 lipca i zajęła miejsce na lewej flance alianckich sił w Normandii. W sierpniu odegrała kluczową rolę w bitwie pod Falaise. Pod koniec września z powodu ataku dyzenterii Crerar musiał zostać hospitalizowany, a jego obowiązki przejął tymczasowo Guy Simonds. W listopadzie powrócił na front i został awansowany na pełnego generała. W końcowych miesiącach wojny poprowadził swoją armię przez Belgię i Holandię do północnych Niemiec.