Służba wojskowa i cywilna Rickover wstąpił do akademii marynarki wojennej w czerwcu 1918 roku, po zdanych z trudnością egzaminach wstępnych. W celu przezwyciężenia jednak swojej słabej podbudowy edukacyjnej, w trakcie studiów poświęcał na naukę każdą chwilę, co dzięki unikaniu jakiejkolwiek pozaedukacyjnej aktywności, pozwoliło mu uniknąć również nękania, jakiego doświadczyło wielu innych przedstawicieli społeczności żydowskiej w Stanach Zjednoczonych. Dzięki włożonemu w naukę wysiłkowi, w roku 1922 ukończył studia ze 107. lokatą w swoim liczącym 540 osób roczniku. thumb|left|S-48 w czasie zaokrętowania na nim Hymana Rickovera Pierwszą służbę morską Rickover odbył na niszczycielu „La Vallette” typu Clemson, na którym już rok po ukończeniu uczelni został najmłodszym oficerem maszynowni w swojej eskadrze. W styczniu 1922 roku Rickover otrzymał przydział do załogi pancernika „Nevada”, gdzie początkowo służył w oddziale odpowiedzialnym za artylerię okrętu, a następnie został głównym oficerem odpowiedzialnym za systemy elektryczne jednostki. W czerwcu 1925 roku Hyman Rickover otrzymał awans na stopień porucznika (lieutenant, junior grade). Po opuszczeniu „Nevady” w 1927 roku, podjął studia inżynierskie w akademii marynarki w Annapolis oraz na uniwersytecie Columbia z zakresu inżynierii elektrycznej, które ukończył w roku 1929.