W 1915 Carmichael ożenił się. W 1920 r. został współzałożycielem wspomnianej Grupy Siedmiu. W 1925 roku został członkiem założycielem Kanadyjskiego Stowarzyszenia Akwarelistów (ang. Canadian Society of Painters in Water Colour).
W tym samym 1925 r. w towarzystwie Lawrena Harrisa i A.Y. Jacksona wziął udział w pierwszej wyprawie w okolice Jeziora Górnego. W okolice Jeziora Górnego powrócił jeszcze w 1926 i 1928. Widoki z tego regionu, a także zaskakujące kształtami i barwami zakątki gór La Cloche na pn. brzegu Zatoki Georgian będą odtąd przez kilka lat głównymi tematami jego prac. Jego doświadczenia z tego okresu oddaje namalowany w 1930 obraz Zamieć śnieżna: północne wybrzeże Jeziora Górnego (Snow Flurries: North Shore of Lake Superior), na którym formacje obłoków kontrastują z ciemnoniebieskimi, uproszczonymi formami wzgórz. Forma tych ostatnich przypomina zaokrąglone formy z widoków Jeziora Górnego, sporządzonych przez Lawrena Harrisa. W latach 30. XX w. tematem obrazów Carmichaela stał się krajobraz przemysłowy północnego Ontario, zwłaszcza rejonu Sudbury.