Po uzyskaniu dyplomu Rickover zamierzał skorzystać z najkrótszej ścieżki do objęcia samodzielnego dowództwa okrętu, jaką ówcześnie stanowiła służba na okrętach podwodnych. Stąd też, po wniosku o przydzielenie do służby na jednostkach tej klasy, trafił do szkoły broni podwodnej w bazie marynarki New London, po ukończeniu której otrzymał przydział na okręt S-48 typu S. Mimo podejmowanych wysiłków i spełniania formalnych wymagań dla objęcia samodzielnego dowództwa okrętu podwodnego, Rickoverowi nigdy nie udało się osiągnąć tego celu. Życie na okręcie podwodnym, w którym nawet przy przemieszczaniu się osób niezbędne było trymowanie okrętu, uświadomiło Rickoverowi jak bardzo ta klasa okrętów uzależniona jest od sił natury. Rickover nigdy też nie zaadaptował się do życia w środowisku załogi okrętu podwodnego – częściowo dlatego, że był intelektualnie osamotniony wśród załogi. Wielką przyjemność sprawiła Rickoverowi podróż badawczo-naukowa, jaką odbył S-48, której zadaniem było badanie grawitacji ziemskiej i kontakt z przebywającymi w związku z tym zadaniem na pokładzie okrętu dwoma naukowcami. W połowie 1933 roku, Hyman Rickover został skierowany do Filadelfii w Pensylwanii, gdzie jego zadaniem była kontrola jakości produkowanych materiałów.