Po zakończeniu kampanii egipskiej Rapp pozostał pod rozkazami Desaixa, aż do śmierci tego ostatniego 14 lipca 1800 w bitwie pod Marengo. Wówczas został adiutantem Pierwszego Konsula, utrzymując się na tym stanowisku do 1814. Jako adiutantowi Napoleon powierzał mu wiele ważnych, tajnych misji, jak np. do Wandei, Szwajcarii i Belgii. W 1803 otrzymał stopień generała brygady, a w grudniu 1805 poprowadził sławetną szarżę szaserów i mameluków Gwardii w bitwie pod Austerlitz, dziesiątkując kawalerię carskiej Gwardii Imperialnej i biorąc do niewoli księcia Repnina. Awansowany do stopnia generała dywizji, walczył w bitwie pod Jeną 14 października 1806. Brał udział w kampanii w Polsce oraz Prusach i został ranny pod w bitwie pod Gołyminem. Był gubernatorem Torunia (28 lutego - 15 maja 1807) i Wolnego Miasta Gdańska (2 czerwca 1807 – 2 grudnia 1813).
thumb|180px|Jean Rapp na pomniku w Colmar
Mianowany hrabią Cesarstwa, na wezwanie Napoleona wrócił 8 marca 1809 do czynnej służby wojskowej. W bitwie pod Aspern odznaczył się prowadząc do boju fizylierów cesarskiej Gwardii;