Wczesne życie i edukacja Roderick James McMahon urodził się 26 maja 1882 w Nowym Jorku, w dzielnicy Manhattan. Krótko po jego narodzinach rodzina McMahonów przeprowadziła się do Amsterdam Avenue. Jess McMahon ukończył szkołę publiczną nr 43 w Amsterdam Avenue. Następnie on i jego starszy brat Eddie McMahon uczęszczali do szkoły wyższej Manhattan College, którą Jess ukończył na wydziale ekonomicznym w 1899, w wieku 17 lat. Bracia interesowali się sportem od strony organizacyjnej i przez większość życia byli wspólnikami biznesowymi.
Początkowo Jess i Edward pracowali jako bankierzy aby wesprzeć finansowo ich siostry i owdowiałą matkę, które mieszkały przy 1424 Amsterdam Avenue, w zachodniej części nowojorskiej dzielnicy Harlem. Jess McMahon pracował też w przemyśle żywieniowym oraz w manufakturze kapeluszy, a od 1905 do 1906 jako inspektor kanalizacji.