Kariera klubowa Początki Rosický urodził się w stolicy Czech, Pradze. Swoją karierę piłkarską rozpoczął w roku 1986 w juniorskim zespole miejscowego ČKD Kompresory Praga. Miał wówczas sześć lat. Następnie, w wieku ośmiu lat przeszedł do szkółki piłkarskiej innego klubu ze stolicy Czech, Sparty Praga. W roku 1998 został włączony do pierwszej drużyny tego klubu. Występował tam do roku 2001. W każdym z trzech sezonów tam spędzonych zostawał Mistrzem Czech. W tym czasie wystąpił w czterdziestu jeden ligowych spotkaniach oraz strzelił w nich osiem bramek.
Borussia Dortmund 1 stycznia 2001 roku podpisał kontrakt z Borussią Dortmund na kwotę osiemnastu milionów funtów, przez co pobił rekord Bundesligi. W pierwszym sezonie nie wystąpił w ani jednym meczu. W pierwszym zespole zadebiutował 11 lipca w spotkaniu Pucharu ligi z SC Freiburg. W lidze pierwszy występ zaliczył 28 lipca, kiedy to zagrał w meczu z 1. FC Nürnberg. Pierwszą bramkę dla zespołu zdobył w wygranym 4:0 ligowym meczu z VfL Wolfsburg. W tym sezonie wraz z Borussią został Mistrzem Niemiec oraz doszedł do finału Pucharu UEFA, w którym jego drużyna przegrała 3:2 z Feyenoordem. Rosický zagrał od pierwszej minuty tego spotkania oraz w sześćdziesiątej szóstej minucie otrzymał żółtą kartkę.