Muzyczną karierę rozpoczął jako śpiewak chóru operowego w Hamburgu. W roku 1699 spróbował swych sił w tworzeniu muzyki, komponując pierwszą swą operę. Jego bliskim przyjacielem był od roku 1703 Georg Friedrich Händel, chociaż Mattheson prawie go zabił w pojedynku (ostrze szpady zatrzymało się na mosiężnym guziku surduta Händla), który wywiązał się z powodu kłótni o wystawienie opery Matthesona Cleopatra w roku 1704. Szybko się jednak pojednali.
W tym samym roku obaj kompozytorzy pojechali do Lubeki, aby ubiegać się o stanowisko organisty w tym mieście (w Marienkirche). Piastujący je dotąd Dietrich Buxtehude był już stary. Warunkiem nominacji na jego następcę był jednak ślub z jego brzydką i nudną córką. Ani Mattheson, ani Händel nie skorzystali więc z oferty. Bach przybył tam dwa lata później (w 1705) i też nie zdecydował się ożenić z córką Buxtehudego.