Po powrocie do Paryża, Mariette powierzono stanowisko asystenta konserwatora w Muzeum w Luwrze. W 1858 roku przeniósł się wraz z rodziną do Kairu, gdzie objął stanowisko konserwatora zabytków, stworzone specjalnie dla niego. Od tego momentu jego kariera rozwijała się błyskawicznie, a znaczą ją sukcesy i powszechne uznanie. W tym samym roku utworzył w Bulak (północna dzielnica Kairu) pierwsze muzeum w Egipcie, zaczątek późniejszego Muzeum Egipskiego, które miało powstrzymać niekontrolowane wykopaliska, dokonywane przez samozwańczych archeologów, i wywóz z Egiptu znalezionych eksponatów, który stał się niepokojąco częstym zjawiskiem.
Mariette brał udział w eksploracji nekropoli w Meidum, Abydos i Tebach. Przebadał wielką świątynię w Denderze. W 1860 roku odkopał z piasków wielką świątynię w Edfu. Prowadził prace w Karnaku, odkopał Medinet Habu, a 1858 roku w Deir el-Bahari odkrył skrytkę, zawierająca 71 sarkofagów kapłanów Montu. W 1863 roku odkopał w Tanis słynną "Stelę roku 400" – poświęconą czterechsetnej rocznicy panowania Seta – założenia świątyni Seta w Awaris, później zakopaną i odkrytą ponownie w 1933 roku. Odkopał z piasków okolice Wielkiego Sfinksa, odsłaniając zbudowaną z granitu i wapienia Świątynię Sfinksa w Gizie.