Pierwszy raz Polk był świadkiem działań wojennych 7 listopada 1861 roku, podczas mało znaczącej i nierozstrzygniętej bitwy pod Belmont, stoczonej przez podwładnego Polka, gen-bryg. Gideona Pillowa, z gen-bryg. Unii Ulyssesem Grantem. Wprawdzie nieobecny na polu bitwy, Polk został kontuzjowany 11 listopada podczas próbnego strzelania z największego działa jego armii (nazwanego „Lady Polk” na cześć żony); działo eksplodowało, siła podmuchu odarła Polka z odzieży i ogłuszyła, w następstwie czego musiał udać się na kilkutygodniowy przymusowy odpoczynek. Polk często sprzeczał się odnośnie do strategii ze swym podwładnym, Pillowem, a także ze swym przełożonym, gen. Albertem Johnstonem, dowódcą sił konfederackich na zachodnim teatrze działań. Oburzony, że jego kolega z West Point mógłby wydawać mu rozkazy, 6 listopada złożył rezygnację na ręce prezydenta Davisa, ale Davis rezygnacji nie przyjąłWoodworth, Jefferson Davis, s. 58–60.Connelly, s. 21..
Armia Missisipi W kwietniu 1862 roku Polk dowodził I Korpusem Armii Missisipi Alberta Johnstona w bitwie pod Shiloh i pozostawał na tym stanowisku przez większość roku pod dowództwem gen. Braxtona Bragga, który zajął miejsce Pierre G.T.