W 1899 rozpoczął studia na Uniwersytecie Pensylwania na wydziale sztuki i nauk, wybierając podwójny kierunek chemii i fizyki. Po ukończeniu studiów w 1903 podjął studia doktoranckie, które ukończył uzyskaniem stopnia doktora w 1906. Uzyskał wtedy wsparcie do odbycia podoktoranckiego stażu w Niemczech. Odbył go w Berlinie, gdzie studiował nowe kierunki chemii fizycznej i uczęszczał na wykłady noblisty J.H. van 't Hoffa oraz W. Nernsta, z którym prowadził też badania. Po powrocie J. Hildebrand pracował na Uniwersytecie Pensylwanii jako wykładowca chemii do 1913, kiedy przyjął zaproszenie G.N. Lewisa do grupy młodych fizykochemików na Uniwersytecie Kalifornijskim w Berkeley. Był z nim już związany praktycznie do chwili śmierci.
Oprócz pracy naukowej i dydaktycznej wykonywał też funkcje administracyjne – był m.in. dwukrotnie dziekanem wydziału chemii – w latach 1941–1943 i 1949–1951.
Działał w Amerykańskim Towarzystwie Chemicznym, ale do czasu przejścia na emeryturę odmawiał przyjęcia propozycji objęcia funkcji prezesa – zgodził się i objął prezesurę w 1955 na roczną kadencję. Brał udział w obu wojnach światowych pracując m.in.