Jakiś czas potem Landon był już uznanym przywódcą liberalnego skrzydła republikanów w stanie. W roku 1922 był osobistym sekretarzem ówczesnego gubernatora Henry’ego Justina Allena. Kolejny szczebel w karierze pokonał w roku 1928, zostając szefem wszystkich kampanii republikańskich w stanie.
Gubernator thumb|Landon w okresie pełnienia funkcji gubernatora
W roku 1932, tym samym w którym prezydentem wybrano Franklina D. Roosevelta, Landon został gubernatorem Kansas. Jako gubernator popierał znaczną część reform Nowego Ładu, ale stał w opozycji wobec związków zawodowych.
W roku 1934 wybrano go ponownie, na drugą dwuletnią kadencję. Był wtedy jedynym republikańskim gubernatorem w kraju, który uzyskał reelekcję. Uważano go wówczas za fiskalnego konserwatystę, ale przy okazji polityka, który popiera aktywną politykę społeczną rządu.
Kandydat prezydencki thumb|Rozkład głosów w czasie wyborów prezydenckich roku 1936
Landon w wyborach 1936 postanowił nie kandydować na trzecią kadencję. Konwencja republikanów mianowała go kandydatem na urząd prezydenta.