Po rezygnacji z mandatu senatorskiego postanowił ubiegać się o nominację swojej partii na kandydata na wiceprezydenta. Nie udało mu się osiągnąć tego celu, w związku z czym powrócił do działalności politycznej na szczeblu lokalnym. W wyborach w 1840 roku ponownie ubiegał się o nominację na wiceprezydenta i tym razem mu się powiodło. Wybory prezydenckie wygrał William Henry Harrison, a Tyler został wiceprezydentem. Po miesiącu urzędowania dowiedział się, że prezydent zmarł. Tyler został zaprzysiężony 6 kwietnia 1841 roku.
Prezydentura Po objęciu przez Tylera fotela prezydenckiego, w Partii Wigów obawiano się, czy styl jego prezydentury będzie taki sam, jak jego poprzednika. Nowy prezydent zapowiedział, że będzie rządził silną ręką, nie patrząc na interesy partii. Lider wigów, Henry Clay, który miał aspiracje prezydenckie, zaczął wówczas budować swoją pozycję i poparcie partii, jednocześnie konfliktując się z Tylerem. Kiedy prezydent odmówił podpisania ustaw ekspansjonistycznych, przedstawionych przez Claya, wszyscy członkowie gabinetu, z wyjątkiem Daniela Webstera podali się do dymisji, a Tylerowi okazywano ostracyzm polityczny, zarówno w partii, jak i w Kongresie (gdzie dyskutowano nawet o impeachmencie).