Urodził się w Waszyngtonie w stanie Georgia jako syn Adama Leopolda Aleksandra, plantatora i bankiera, oraz Sarah Hillhouse Gilbert. Wykształcony przez nauczycieli w gospodarstwie domowym swojej zamożnej rodziny, Alexander wstąpił do Akademii Wojskowej w USA w 1853 roku i ukończył trzecią klasę w klasie 1857. Został mianowany na podporucznika inżynierów w dniu 1 lipca 1857 roku i awansowany na podporucznika w dniu 10 października 1858 roku. Naznaczony od początku jako obiecujący oficer, uczył w West Point zaraz po ukończeniu studiów, towarzyszył wyprawie Alberta Sidneya Johnstona przeciwko Mormonom w 1858 roku, a następnie wrócił do West Point, gdzie w latach 1859–1860 asystował Albertowi J. Myerowi w doskonaleniu „wigwag” system sygnalizacji za pomocą flag lub latarni. W 1860 poślubił Bettie Mason; mieli sześcioro dzieci. Kryzys secesji sprawił, że stacjonował w Fort Steilacoom na Terytorium Waszyngtonu. Chociaż nie był żarliwym secesjonistą, Aleksander później wyjaśnił: „Gdy tylko Północ odmówiła prawa do secesji, zdecydowanie zaaprobowałem jego twierdzenie i utrzymanie siłą, jeśli to konieczne”. Zrezygnował ze stanowiska 1 maja 1861 r. i zaoferował swoje usługi Konfederacji.