Trzy lata później wybrano go do stanowego Sądu Najwyższego Indiany na stanowisko sprawozdawcy.
Podczas wojny secesyjnej Harrison wstąpił do wojska w 1862 roku i został dowódcą ochotniczego pułku. 23 stycznia 1865 uzyskał stopień generała brygady. W 1872 roku proponowano mu kandydowanie na gubernatora Indiany, jednak część działaczy Partii Republikańskiej sprzeciwiła się tej propozycji. Oferta została ponowiona 4 lata później, jednak Harrisom ostatecznie przegrał z kandydatem Demokratów, Jamesem Douglasem Williamsem. W 1881 roku został wybrany do Senatu, gdzie zasiadał do 1887 roku, odrzucając w międzyczasie propozycję wejścia do rządu Garfielda.
Na rok przed wyborami prezydenckimi, lider Partii Republikańskiej, James Blaine oświadczył, że nie będzie ubiegał się o nominację prezydencką. Dzięki jego osobistemu poparciu, Harrison uzyskał poparcie wymaganej większości na konwencji w Chicago. Kandydatem na wiceprezydenta został Levi Morton. W głosowaniu powszechnym zwyciężył, ubiegający się o reelekcję, Grover Cleveland, zdobywając niecałe 100 tysięcy głosów więcej od Harrisona. Jednak w Kolegium Elektorów Harrison uzyskał 233 głosy, wobec 168 głosów dla Clevelanda.