W latach 1911–1921 uczęszczał do Ethical Culture School, szkoły silnie ukierunkowanej na kształtowanie postawy etyczno-humanistycznej uczniów. Żądny nauki i wiedzy, łatwo przyswajał materiał. Prywatnie uczył się języków starożytnych, a także chemii. Jako dziewięciolatek znał grekę i łacinę. Zbudował własne laboratorium chemiczne, w którym – pod kierunkiem nauczyciela – przeprowadzał eksperymenty, prowadząc szczegółowy dziennik laboratoryjny. Po ukończeniu szkoły udał się do Niemiec, skąd wybrał się do Jachymowa, gdzie znajdowały się największe w Europie kopalnie uranu. Oppenheimer był zafascynowany tym pierwiastkiem. Problemy zdrowotne, które się pojawiły w czasie podróży europejskiej, spowodowały roczne opóźnienie rozpoczęcia studiów.
W 1922 roku rozpoczął studia na Uniwersytecie Harvarda, wybierając jako główny przedmiot chemię, ale potem, za namową Percy’ego Bridgemana, zainteresował się fizyką. Poza chemią jednocześnie uczęszczał na zajęcia z architektury greckiej, sztuki i literatury. W 1925 roku ukończył studia z wyróżnieniem (summa cum laude).