Wrócił do Stanów Zjednoczonych w roku 1902 i przez następne pięć lat służył na krążownikach pancernopokładowych „Tacoma” i „Boston”, które stacjonowały w Panamie podczas budowy kanału.
Po zejściu na ląd trafił do Naval Academy, gdzie pracował jako instruktor na wydziale fizyki i chemii. Na morze wrócił w roku 1909 by służyć jako nawigator na pokładzie krążownika pancernego „California”. 18 października 1911 roku kapitan Leahy został adiutantem prezydenta Williama Tafta, a podczas okupacji Nikaragui w roku 1912 był szefem sztabu dowódcy floty.
Pod koniec tegoż roku ponownie zszedł na ląd i podjął (jako odkomenderowany) pracę w Biurze Nawigacji w Waszyngtonie; służył tam do roku 1915. W tym też czasie objął dowodzenie awizem „Dolphin” i nawiązał bliskie przyjacielskie stosunki z ówczesnym asystentem sekretarza marynarki, Franklinem D. Rooseveltem, który bawił jakiś czas na pokładzie. W początkach roku 1917 został przeniesiony do Floty Atlantyku, gdzie służył blisko rok na pancerniku „Nevada”, a w kwietniu 1918 objął dowodzenie transportowca „Princess Matoika” (uprzednio statek pasażerski Princess Alice), wiozącego wojska amerykańskie do Francji. W czasie tego rejsu otrzymał Krzyż Marynarki Wojennej, po czym wrócił na ląd, do pracy w Departamencie Marynarki.