18 listopada 1906 na propozycję swojego przyjaciela, następcy tronu Franciszka Ferdynanda został szefem sztabu generalnego. W 1910 otrzymał tytuł barona, lecz 3 grudnia 1911 podał się do dymisji, oficjalnie w związku z różnicą zdań z ministrem spraw zagranicznych Aloisem von Aehrenthalem, jednak istotną rolę odegrał skandal związany z romansem z mężatką Giną von Reininghaus (w przyszłości jego drugą żoną)Lawrence Sondhaus, Franz Conrad von Hötzendorf. Architekt der Apokalypse, Wien/Graz 2003, , s. 117 i d.. Za dymisją Conrada miała stać przyszła cesarzowa Zyta. 12 grudnia 1912 mianowano go ponownie na stanowisko szefa sztabu. W maju 1913 Conrad bezskutecznie próbował ukryć przed opinią publiczną aferę szpiegowską pułkownika Alfreda Redla. Zapobiegł temu Egon Erwin Kisch publikując już 28 maja 1913 na łamach praskiego dziennika „Bohemia” krótką notatkę o samobójstwie Redla, rzekomo dementując w niej krążące pogłoski o przyczynach śmierci pułkownika, a w rzeczywistości zwracając uwagę opinii publicznej na całą sprawę. Potem afera Redla przez długi czas nie schodziła z czołówek gazet w całej Europie.